我要投稿

浅谈大模型安全

发布日期：2025-04-12 05:02:35 浏览次数： 2093

作者：模安局

微信搜一搜，关注“模安局”

什么是大模型安全？

大模型安全，简而言之，就是确保大模型从训练到应用的整个过程都是安全的。

这涉及数据安全、模型安全、应用安全、系统安全、内容安全等多个领域，且这些领域相互交叉。

关于大模型安全的框架，目前业界尚未形成统一的标准。

行业视角：大模型安全框架

中国信通院从对象视角出发，将大模型安全分为数据安全、模型安全、系统安全、内容安全、伦理安全、认知安全等几个方面[1]。

阿里云联合中国信息通信研究院等30余家行业单位共同编制的《大模型安全研究报告（2024年）》中，将大模型安全分为训练数据安全、算法模型安全、系统平台安全和业务应用安全四个重要组成部分[2]。

360从网络安全视角，将大模型安全分为系统安全、内容安全、可信安全和可控安全[3]。

我们再看看微观层面

用户视角：风险的有害性

2024年11月，谷歌Gemini聊天机器人威胁用户[4]，2024年12月，Claude暗示美国一少年用户杀死限制其玩手机的父母[5]，这都属于伦理安全的范畴；

Deepseek R1在越狱攻击下生成大量18禁内容则属于内容安全范畴[6]；

而早前报道三星员工误用ChatGPT导致芯片机密数据泄露[7]，ChatGPT“奶奶漏洞”成功获取Win11序列号[8]等都属于数据安全范畴。

更为复杂且难被察觉的，是大模型的生态链安全，例如2024年10月，字节实习生通过在模型文件植入后门代码，导致模型训练任务受阻，损失过千万[9]，黑客利用 Ray 框架漏洞入侵服务器、劫持资源，利用模型算力资源进行挖坑等非法活动[10]。

这些风险轻则影响用户体验，重则会导致用户的人身安全和企业的经营安全。

所以各国的监管部门也尤为重视大模型带来的安全问题。

监管视角：大模型要做到安全向善可靠可控

2021年，联合国教科文组织的193个会员国星期三正式通过了首份有关人工智能伦理的全球框架协议。这一历史性文本确定了共同的价值观和原则，用以指导建设必需的法律框架来确保人工智能的健康发展[11]。

中央网信办早在2023年7月就推出《生成式人工智能服务管理暂行办法》，对向中国境内用户提供生成式人工智能服务的机构或个人做出明确规定：坚持社会主义核心价值观、防止生成各种歧视内容、遵守商业道德、尊重个人合法权益、保证人工智能服务的透明度、准确性和可靠性[12]。

欧盟在2024年五月颁布了《人工智能、人权、民主和法治框架公约》，范围涵盖人工智能系统生命周期内有可能干扰人权、民主和法治的活动[13]。

当然，面对以上问题，业界也在积极给出相应的解决方案。

解决方案

OpenAI在早期研发ChatGPT时就关注到模型价值观问题，将价值观对齐作为独立方向，并组建红队对大模型的价值观进行测试。每次新模型上线时，除了有系统卡（System Card）之外，还有安全测试报告。

Deepseek在官网设置了非常严格的内容围栏，对敏感问题一律拒答。

360智脑团队提出“以模制模”的概念，通过大模型检测识别大模型输入输出环节的有害内容。基于大模型良好的语义理解能力，能够区分正负向，识别效果相比敏感词和BERT模型有明显优势[14]。

在大模型系统生态链安全方面，业界也进行了不少探索。除了通过传统的CVE库漏洞比对，还可以基于专家经验构建LLM开源工具漏洞库，增加针对LLM生态链的漏洞召回能力[15]。

尽管我们已经做了一系列努力，但AI领域发展迅速，安全问题的挑战依然非常巨大。

面临的一些挑战

首先是多模态/跨模态的融合问题。单一模态的自动审核效果已经做得比较好，但在涉及图、文甚至是视频的同时出现时，不同模态的文件之间的关联信息可能会衍生出高维度的风险。

其次是版权问题。截至目前，我们仍然缺乏一种高效的自动方式来检测内容的版权问题，各厂商的版权库都是孤岛。

第三是越狱攻击算法。在新型的越狱攻击算法下，再强大、先进的模型也可能被攻破。前面提到的DeepSeek的例子就证明了这一点，也就是说，在具有一定技术能力的人面前，大模型无疑提升了他们作恶的能力。

第四是谣言问题。在大模型的加持下，生成内容的效率大幅提升，但同时，生成虚假消息的效率也大幅提升，如何治理这一问题是一个异常艰巨的挑战。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-07-31

进阶版｜企业级 AI Agent 的构建实践

2025-07-31

餐饮业卷生卷死的当下，麦当劳如何用AI突围

2025-07-31

全网疯传GPT-5泄露！首次统一GPT和o系列，编程实测demo抢先曝光，下周发布？

2025-07-31

ODPS重磅升级！全面支撑AI应用爆发

2025-07-31

四步搞定Cursor地区限制

2025-07-31

当AI成为团队“隐形搭档”：Anthropic内部如何用AI重构工作流？

2025-07-31

解锁日志分析新姿势：n8n 工作流 + ES 日志 + AI，数据洞察一键 get

2025-07-31

微软花重金做的Copilot，居然被WPS一个按钮给秒了?

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek R1-0528 小版本升级

2025-05-29

高效 Agents 构建指南

2025-05-23

SpringAI Alibaba实战文生图、聊天记忆功能

2025-06-01

忽视小模型和知识库，企业AI应用必将是死路一条

2025-05-07

从RAG到CoT再到MCP，一文读懂AI Agent落地难题｜大模型研究

2025-05-07

CAG 与 RAG：哪种方法能带来性能更好的人工智能

2025-05-07

AIGC合规落地全景图 | 如何做好AIGC数据合规

2025-06-07

精|知识探索新范式：深度研究Deep Research智能体全面综述，系统、方法与应用

2025-06-21

别再被MCP协议绕晕！一文搞懂连接流程与核心架构

2025-06-12

2025-05-20

大家都在问

全网疯传GPT-5泄露！首次统一GPT和o系列，编程实测demo抢先曝光，下周发布？

2025-07-31

当AI成为团队“隐形搭档”：Anthropic内部如何用AI重构工作流？

2025-07-31

微软花重金做的Copilot，居然被WPS一个按钮给秒了?

2025-07-31

国内企业开发的农业AI大模型有哪些？

2025-07-30

实测ChatGPT“学习模式”，它能成为你的专属AI家教？

2025-07-30

AI在企业落地：为什么90%的项目都卡在了这4个坎上？

2025-07-30

解读gork的思维链：gork怎么处理问题分解？

2025-07-30

AI 应用开发，还需要意图识别吗？

2025-07-29

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB