我要投稿

浅谈大模型安全

发布日期：2025-04-12 05:02:35 浏览次数： 1668 作者：模安局

什么是大模型安全？

大模型安全，简而言之，就是确保大模型从训练到应用的整个过程都是安全的。

这涉及数据安全、模型安全、应用安全、系统安全、内容安全等多个领域，且这些领域相互交叉。

关于大模型安全的框架，目前业界尚未形成统一的标准。

行业视角：大模型安全框架

中国信通院从对象视角出发，将大模型安全分为数据安全、模型安全、系统安全、内容安全、伦理安全、认知安全等几个方面[1]。

阿里云联合中国信息通信研究院等30余家行业单位共同编制的《大模型安全研究报告（2024年）》中，将大模型安全分为训练数据安全、算法模型安全、系统平台安全和业务应用安全四个重要组成部分[2]。

360从网络安全视角，将大模型安全分为系统安全、内容安全、可信安全和可控安全[3]。

我们再看看微观层面

用户视角：风险的有害性

2024年11月，谷歌Gemini聊天机器人威胁用户[4]，2024年12月，Claude暗示美国一少年用户杀死限制其玩手机的父母[5]，这都属于伦理安全的范畴；

Deepseek R1在越狱攻击下生成大量18禁内容则属于内容安全范畴[6]；

而早前报道三星员工误用ChatGPT导致芯片机密数据泄露[7]，ChatGPT“奶奶漏洞”成功获取Win11序列号[8]等都属于数据安全范畴。

更为复杂且难被察觉的，是大模型的生态链安全，例如2024年10月，字节实习生通过在模型文件植入后门代码，导致模型训练任务受阻，损失过千万[9]，黑客利用 Ray 框架漏洞入侵服务器、劫持资源，利用模型算力资源进行挖坑等非法活动[10]。

这些风险轻则影响用户体验，重则会导致用户的人身安全和企业的经营安全。

所以各国的监管部门也尤为重视大模型带来的安全问题。

监管视角：大模型要做到安全向善可靠可控

2021年，联合国教科文组织的193个会员国星期三正式通过了首份有关人工智能伦理的全球框架协议。这一历史性文本确定了共同的价值观和原则，用以指导建设必需的法律框架来确保人工智能的健康发展[11]。

中央网信办早在2023年7月就推出《生成式人工智能服务管理暂行办法》，对向中国境内用户提供生成式人工智能服务的机构或个人做出明确规定：坚持社会主义核心价值观、防止生成各种歧视内容、遵守商业道德、尊重个人合法权益、保证人工智能服务的透明度、准确性和可靠性[12]。

欧盟在2024年五月颁布了《人工智能、人权、民主和法治框架公约》，范围涵盖人工智能系统生命周期内有可能干扰人权、民主和法治的活动[13]。

当然，面对以上问题，业界也在积极给出相应的解决方案。

解决方案

OpenAI在早期研发ChatGPT时就关注到模型价值观问题，将价值观对齐作为独立方向，并组建红队对大模型的价值观进行测试。每次新模型上线时，除了有系统卡（System Card）之外，还有安全测试报告。

Deepseek在官网设置了非常严格的内容围栏，对敏感问题一律拒答。

360智脑团队提出“以模制模”的概念，通过大模型检测识别大模型输入输出环节的有害内容。基于大模型良好的语义理解能力，能够区分正负向，识别效果相比敏感词和BERT模型有明显优势[14]。

在大模型系统生态链安全方面，业界也进行了不少探索。除了通过传统的CVE库漏洞比对，还可以基于专家经验构建LLM开源工具漏洞库，增加针对LLM生态链的漏洞召回能力[15]。

尽管我们已经做了一系列努力，但AI领域发展迅速，安全问题的挑战依然非常巨大。

面临的一些挑战

首先是多模态/跨模态的融合问题。单一模态的自动审核效果已经做得比较好，但在涉及图、文甚至是视频的同时出现时，不同模态的文件之间的关联信息可能会衍生出高维度的风险。

其次是版权问题。截至目前，我们仍然缺乏一种高效的自动方式来检测内容的版权问题，各厂商的版权库都是孤岛。

第三是越狱攻击算法。在新型的越狱攻击算法下，再强大、先进的模型也可能被攻破。前面提到的DeepSeek的例子就证明了这一点，也就是说，在具有一定技术能力的人面前，大模型无疑提升了他们作恶的能力。

第四是谣言问题。在大模型的加持下，生成内容的效率大幅提升，但同时，生成虚假消息的效率也大幅提升，如何治理这一问题是一个异常艰巨的挑战。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-04-30

通俗易懂的梳理MCP的工作流程（以高德地图MCP为例）

2025-04-30

一文说明 Function Calling、MCP、A2A 的区别！

2025-04-30

MCP很好，但它不是万灵药｜一文读懂 MCP

2025-04-30

旅行规划太难做？5 分钟构建智能Agent，集成地图 MCP Server

2025-04-29

10万元跑满血版DeepSeek，这家公司掀了一体机市场的桌子｜甲子光年

2025-04-29

谷歌大神首次揭秘Gemini预训练秘密：52页PPT干货，推理成本成最重要因素

2025-04-29

一文说清：什么是算法备案、大模型备案、大模型登记 2.0

2025-04-29

MCP：AI时代的“万能插座”，大厂竞逐的焦点

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

本地部署大模型？看这篇就够了，Ollama 部署和实战

2024-08-13

16个具有“联网搜索”功能的AI：总有一个适合你！

2024-06-13

Cursor 一个真正让程序员产生危机感的 AI 编程工具

2024-08-21

OpenAI o1与GPT4o的对比分析

2024-09-23

大模型｜“上下文长度”和“上下文窗口”不再傻傻分不清楚！

2024-07-31

一文带你了解大模型——智能体（Agent）

2024-05-28

50+个AI大模型在不同领域的应用案例

2024-08-04

全面对比dify、coze、streamlit、chainlit

2024-04-26

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

2024-07-09

一文读懂OpenAI新发布o1系列大模型

2024-09-17

大家都在问

打起来了！MCP VS A2A，谁才是Agent的未来事实标准？

2025-04-29

Google 的 A2A 与 MCP 该如何选择？还是两种都用？

2025-04-29

精华好文！用LLM评估LLM，真的靠谱吗？技术上如何实现？

2025-04-29

大模型是否有必要本地化部署？

2025-04-28

给 AI 小白的说明书：什么是 Manus？AI Agent为什么重要？

2025-04-28

MCP爆火背后：AI Agent的生产力时代来了吗？

2025-04-28

从MCP到超级Agent：这场AI生产力革命将淘汰谁？

2025-04-28

一文了解：为什么大模型 Agent框架（A2A）采用 JSON-RPC 2.0？

2025-04-28

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB