大模型时代如何挡住攻击？一家网安企业突破“联动防御+大模型安全”难关

推荐语

大模型时代网络安全的挑战与应对策略。

核心内容：
1. 大模型时代带来的安全挑战与企业困境
2. AI技术作为动力源和风险源的双重角色
3. 亚信安全在大模型安全领域的创新实践和行业影响

杨芳贤

53A创始人/腾讯云(TVP)最具价值专家

2025年5月24日，在南京扬子江国际会议中心，国内网络安全领域重量级峰会C3安全大会上，人头攒动，超过2000位与会者齐聚一堂，共同探讨AI时代下的安全变革。与会者普遍感受到，企业所面临的信息安全挑战，比以往任何时候都更为复杂、体系化和紧迫。

“我们今年部署了DeepSeek，是不是配上防火墙就足够安全了？”在展区内，一位企业IT负责人问道。另一位企业信息主管则坦承：随着数字化转型深入，企业风险暴露面显著扩大，攻击已不再局限于数据中心，而是在云、边、端立体化渗透。仅过去半年内，该企业端侧就遭遇了多起“银狐”钓鱼攻击，每一次都伴随着潜在的资金损失风险。

实际上，会场上的每一次讨论，都映照出AI时代企业的真实困境。2025年，业界正站在一个历史性转折点上。人工智能正以前所未有的速度重构商业与基础设施，同时也催生出前所未有的安全威胁。人工智能尤其是大模型，正在成为攻击者重点瞄准的新入口；同时，又被攻击者用作武器，加速制造下一代安全攻击。

我们正在进入“双向裂变”时代。去年，亚信安全发布了自研大模型，提出了“AI for Security”，“Security for AI”的理念，今年面对数智变革需求的不断提升，以及威胁攻击的持续进化，再次印证，以AI为代表的新兴技术不仅是动力源，也是风险源；安全不仅是护栏，更是数智发展的推动器。

数智与安全融合并进，正驱动整个网络安全行业，迈入新一轮战略再定义的时刻。

01

AI进入深水区，安全正“双向裂变”

“不久前，我们遇到了针对大模型服务的大规模攻击。”一位头部大模型服务商在会议中说。其实，数智前线获悉，几乎所有大模型企业在过去一段时间，都遭遇了各种攻击。

在C3主会的“高峰对话”环节，谈及数智变革下不断升级的安全问题，相关专家表示：“针对大模型的攻击，形态更加隐蔽，通过精心设计的提示词或问句，让模型不断输出内容，消耗推理算力，最终影响企业的核心业务。”而另一类针对大模型的攻击，与用户隐私和数据密切相关。比如，新能源车的“大模型座舱”服务，可能会在攻击下泄露用户隐私。

亚信科技副总裁傅葳在对话中坦言，大模型安全正成为企业关注的核心议题，这也是一项非常复杂的技术挑战。亚信科技已交付了上百个大模型项目。目前很多客户仍处于PoC阶段，当大规模落地时，安全问题会更加尖锐。

实际上，根据AI安全企业Hydrox AI创始人CEO李濯的介绍，全球约76%左右的大型企业已部署了大模型。同时，2024年，AI安全层面造成的损失从85亿美金飙升至143亿美元，预计今年将突破235亿美元。

更为严峻的是，AI本身也正在被“武器化”。

攻击者正在利用AI大幅提升效率，使攻击更加精准、快速、规模化。“防守者若想构建智能化防线，不仅技术难度大、周期长、成本也高。现实中，攻防之间有一个更大的时间差。”中国信息通信研究院副院长魏亮说，在智能化的时代，网络安全攻防的不对等性更为突出。

攻击者可以借助模型，生成针对0day和Nday漏洞攻击脚本，编写钓鱼邮件。AI攻击的变异率也已飙升至“每24小时变化93%”，使传统防御方法难以适应，响应滞后成了普遍现象。

“问题在于，我们没真正用AI去对抗AI。”亚信安全高级副总裁、CDO吴湘宁分析，如今攻击者平均只需48分钟就可攻破目标设备。

令人警醒的是，尽管中国企业在过去10年的建设中，平均部署了多达45套安全产品，但效果提升已没有想象中快。设备之间缺乏协同，反而形成“防御孤岛”。这迫使企业不得不重构防御思路。吴湘宁总结，单点防御的时代已经终结，AI原生驱动的联动防御体系，是应对现代攻击的最优解。

大会上播放的一段视频，也提供了一个生动的类比。近期，巴基斯坦军方在空战中击落多架印度战机，而巴方零损伤。这其中的关键在于数据联通和联动协同体系。反观印度军方，因多国装备之间缺乏信息共享与协同，虽有先进武器却毫无优势。网络安全的演化也极为相似。攻击已不再局限于某一单点，安全设备堆砌已经无法抵御这种“系统性攻击”。

在应对之道上，AI正成为关键技术路径。AI可用于威胁流量分析、告警降噪、攻击溯源、未知漏洞识别等核心任务。有实践表明，AI分析可将日志告警噪声，降低90%以上，将安全响应从“小时级”压缩到“分钟级”。更为重要的是，AI正全面融入安全系统，构建体系化防御。这让行业从“规则驱动”走向“智能驱动”，从单点防御走向智能联动。

02 

数智时代攻防，驱动安全体系化升级

在本届C3安全大会上，亚信安全正式推出了新一代战略产品——亚信联动防御系统（AI XDR），力图解决当下产业的问题：面对快速演进、无处不在的威胁，安全防御如何从堆砌式转向联动化、智能化、体系化？

“我们不能把AI XDR简单看作XDR的一个升级。”吴湘宁说。XDR（扩展检测与响应）最早由亚信安全于2018年提出，其目标是整合云、网、端不同安全层面的数据，实现万物皆可检测与防护。

但在实践中，由于当时的技术及认知局限，XDR发展逐渐偏向“平台化工具”，成为一个统一的数据采集、分析、管理平台，而缺少真正的实战指挥能力。AI XDR要像一个指挥官。它的设计必须以客户实战威胁为中心，围绕“发现-分析-处置”进行智能闭环，真正帮助客户降低威胁、对抗攻击。而这种转变是一个范式性的变化。

为实现这一转型，亚信联动防御系统AI XDR架构设计上有本质革新，不再是“平台+产品外挂”的拼盘式组合，而是一个原生集成的产品。每个子产品被拆解为“原子能力”，由平台统一调度，组合成场景化方案。 

为了将这一理念向前推进，公司在组织上也进行了变革：产品线聚焦“能力生产”，平台则负责整合与一体化交付。

从交付形式看，AI XDR目前主要以本地部署为主，通过一体化平台加原子探针交付给客户，根据不同场景进行定制化。“未来，交付形式一定会走向SaaS化。”吴湘宁强调。他举例现在出海客户需要跨平台、跨地域的统一管理，只有SaaS商业模式才走得通。而这次会议上，亚信安全与联通宣布合作的项目“联信”，AI XDR将以SaaS方式在客户侧落地。

展台上，不少企业IT人士询问，AI XDR要如何落地？亚信安全认为首要任务是“盘清家底”。很多企业并不了解自己全部的数字资产，也缺乏对高风险点的识别能力。通过传统和AI安全技术，对资产进行“全面扫描”，企业才能实现更精准的风险应对。“先行先试，分步推进。”亚信安全AI XDR负责人补充说，他建议企业可以先在一个局部数据中心做试点。

AI XDR的“智能联动”依赖三大要素：威胁检测是基础，联动处置是核心，威胁溯源是进阶。目前在试点局点中，AI XDR在威胁告警降噪方面已实现3.4倍效率提升，威胁检出能力提升7.5倍，处置效率提升4.8倍。

产品背后是技术的积累。亚信安全AI XDR具备三个特点：强大的XDR基础，特别是NDR（网络检测与响应）和EDR（端点检测与响应）能力；数据驱动与AI赋能，以及AI XDR可以反向附能NDR和EDR，形成产品-数据-产品的正循环。但凡检测引擎或原子能力不够强，是没有资格谈AI XDR的。AI XDR的推出，与亚信安全在NDR和EDR的技术市场的积累紧密相关。

在研发过程中，AI也必须与安全场景深度融合。“我们想要传达的一个理念是，AI不只是浅层的云端安全运营助手，而是要嵌入到安全系统的核心引擎、规则、产品之中。”亚信安全人工智能首席科学家杨婷说，亚信安全推出了安全大模型“信立方”和“信智方”，像“信智方”对客户可能不可见，却通过对核心系统的赋能，实质提升安全防护，让客户清晰感知。

数智前线获悉，央国企、新兴产业、高端制造等行业，是AI XDR最早落地的领域。

AI XDR的理念，也在客户侧产生了共鸣。在大会现场，多位IT负责人表达了对AI XDR的关注，企业普遍面临设备多、体系碎片、安全协同难等挑战。

TCL科技集团数字化转型部部长兼IT共享服务中心总经理李福涛说，家电行业用户数以亿计，需要建立起一整套信息安全防御体系。“现在每家公司平均有45台安全设备堆砌起来。进入下一个阶段，我们需要一个全方位的安全体系，云、网、端全面打通。”深圳国家基因库信息库负责人李良说。

03

守护企业“大模型资产”

“数字化建设包括今天大模型刚刚开始落地应用，企业已经考虑安全问题，我觉得这是观念上一个重要进步。”吴湘宁说。

在与客户做大模型落地过程中，业界发现大模型相关的安全问题横跨多个维度，从GPU卡、协议、网络，到大模型本体、智能体、业务场景及数据，几乎无所不包。

企业应用大模型，该如何才能保障安全？在展台上，亚信安全也展示了“4+2”大模型安全解决方案。它构建了从底层到顶层的四大安全防护体系：

其中，最底部的基础架构层保障大模型的运行环境安全；其上的模型层侧重对模型本体进行安全评估与合规控制；工具层则在用户与模型之间部署“防护哨兵”，识别恶意提示和敏感输出；最上的应用层则关注AI应用系统的外部风险识别与防护。此外，“2”是结合亚信安全的业务积累，以及亚信科技大模型项目实战经验，实现对大模型生命周期全链条的闭环优化。

从架构层面上看，大模型安全和传统网络安全存在相似性，二者都涵盖了硬件层、驱动层、操作系统层、应用层及业务层，但大模型安全具有传统网络安全所不具备的独特性。

“比如大模型的幻觉问题，大模型引起的数据泄露问题，以及提示注入、深度伪造、目标劫持、角色扮演等针对大模型的攻击。”亚信安全杨婷说，“而通过深入理解大模型的技术原理，我们能够针对性地设计防御机制，而这些正是构建大模型安全整体解决方案时需重点考量的要素。”

“防御的关键一定是把最短板提高，因为攻击一定是针对我们防御体系的弱点展开。”她补充说。

在大会演讲中，Hydrox AI李濯提出，大模型安全应贯穿整个开发周期。如训练阶段的数据筛选、数据投毒检测、对抗训练、反馈机制与动态干预，这些早期的干预，代价较低，效果更好。而上线运行后，针对大模型攻击变异率高的问题，要有相应的动态防御机制。

从应用落地看，不同行业对大模型安全的侧重有所相同。在互联网领域，AI智能体发展快、上线节奏快，融合传统安全与AI安全后，企业期望安全事件降低的同时，也能大幅缩短AI应用审批与交付周期。在制造业，企业更关注如何在不影响生产连续性的前提下，提升生产效率，并减少安全事件。而在金融领域，风控系统是用户最为关注的。

安全本身类似于“猫鼠游戏”。据相关数据对未来十年大模型安全演进的预判：2025至2027年这三年，业界的认知安全范式逐渐成熟，安全与模型架构将深度融合，防护能力与模型功能不再对立；2028至2030年这三年，将进入“自监督安全系统”阶段，AI系统可能会逐渐出现自我保护意识；2030年以后，智能与安全的边界将彻底模糊，安全成为模型智能的一部分。

在AI深度重塑产业的进程中，安全不是配角，而是决定AI发展质量与速度的根基。无论是“AI for Security”还是“Security for AI”，这场范式变革才刚刚开始。