我要投稿

DASF:可落地，易执行的AI安全框架

发布日期：2025-07-15 08:23:54 浏览次数： 2065

作者：AI与安全

微信搜一搜，关注“AI与安全”

随着AI大量使用，对AI的安全担忧越来越多。

如何完整梳理AI系统面临的安全风险，及如何消减风险，需要一个完整的系统化的方法论。

之前我们介绍过Google的SAIF（Google的AI安全框架(SAIF)）,该框架比较完整，但比较高阶，讲明白了原理，但不够具体，可操作性差。

此次介绍 Databricks的安全框架（Databricks AI Security Framework (DASF) ）,非常具体，容易落地和执行。

Databricks是数据处理的国际领先厂商，在AI及安全上也有较大投入，而AI与数据安全密不可分，他们的方案非常完整。

DASF全景

图一

DASF 向读者介绍了通⽤数据中心AI 系统的四个阶段及 12 个基础组件（图1），四个阶段包括：

一、数据操作（图 1 中的 #1‒#4）

包括提取和转换数据，以及确保数据安全和治理。良好的机器学习模型依赖于可靠的数据管道和安全的 DataOps 基础设施。

二、模型操作（图 1 中的 #5 ‒ #8）

包括构建预测性 ML 模型、从模型市场获取模型或使⽤ LLM（如 OpenAI 或 Foundation Model API）。

三、模型部署和服务（图 1 中的 #9 和 #10）

包括安全地构建模型镜像、模型隔离和安全服务、⾃动扩展、速率限制以及已部署模型的监控。此外，它还包含特性和功能服务，为检索增强⽣成 (RAG) 应⽤程序中的结构化数据提供⾼可⽤性、低延迟服务，以及其他应⽤程序所需的功能，例如平台外部提供的模型或任何其他需要基于⽬录中数据的功能的应⽤程序。

四、操作和平台（图 1 中的 #11 和 #12）

包括平台漏洞管理和修补、模型隔离和系统控制，以及在架构中确保模型安全的授权访问。此外，还包括⽤于 CI/CD 的运营⼯具。它通过保持不同的执⾏环境（开发、预发布和⽣产）来确保整个⽣命周期符合所需的标准，从⽽实现安全的 MLOps。

12个基础组件包括（最右侧叶子节点）：

对每一个基础组件，详细列出了风险列表，比如原始数据项，有11条风险：

完整的风险列表

总计62个安全风险，分类非常清晰，翻译出来大概是这样子：

消减方法

针对每一条风险，文档都给出了消减方法，以第一条，访问控制不足为例：

底下还有完整的相关性。

仅原始数据一项，风险及消减手段如下，够丰富了吧？

小结

这个文档是DASF的2.0版，非常完整。实际使用的时候，不相关的项可以忽略，比如，里边涉及非常多的训练的相关风险，如果只是部署使用，相关的项目可以忽略。

下载地址

https://www.databricks.com/sites/default/files/2025-02/databricks-ebook-dasf-2.pdf

在油管上还有个视频讲解

https://www.youtube.com/watch?v=GMcAlpgCElU

END

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-04-15

未来软件工程的分工是AI写代码，人类提炼规范 | OpenAI Frontier 团队成员对话实录

2026-04-15

Claude最强模型没那么神话，DeepSeek R1也能找到「大 bug」

2026-04-15

读完 Claude Code 源码才发现：Skills、MCP、Rules 的区别，远没有你想的那么大

2026-04-15

Hermes 智能体完全实战指南

2026-04-15

淘宝动效解决方案分享

2026-04-15

谷歌深夜大招！机器人学会看仪表盘干活，成功率飙升300%

2026-04-15

Claude Opus 4.7刚刚曝光！Claude Code一夜重构，7x24小时替你打工

2026-04-15

Claude Code 源码拆解：从启动到多 Agent 扩展层

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Pencil：设计和写代码，以后就全让AI干了

2026-01-24

从0到1玩转Clawdbot：我花了40小时，把这些坑都踩完了

2026-01-26

深度解析——为什么Claude code CEO Dario 如此反中？

2026-01-23

刚刚Qwen 3.6 Plus上线预览：1M上下文，阿里Coding/Agent翻身战打响

2026-03-31

2026年国内如何注册 Claude 账号教程

2026-03-13

我装了 9 个 Skill，终于看懂了 Google Antigravity 的野心

2026-01-21

豆包 2.0 模型发布，全信息整理（全网最完整，另附 79 页 Model Card）

2026-02-14

Codex 独立 App 来了，这是一个新东西

2026-02-03

OpenAI 发布新的 Codex 桌面版，我现在不骂 Codex 难用了

2026-02-03

谷歌重大更新：国内手动开启 Gemini AI 侧边栏与 Auto Browse 自动浏览全攻略

2026-02-03

大家都在问

当所有人都不写代码了，谁来看懂代码？

2026-04-13

什么场景该用 AI Native？

2026-04-12

12MB的Go二进制，让AI操控浏览器只花800 tokens，PinchTab凭什么这么省？

2026-04-07

华为AI 49元/月！贵？不贵？

2026-04-01

为什么这波 AI 产品都开始抢着做 CLI ？

2026-03-31

Harness Engineering 来了，SDD 还有意义吗？

2026-03-31

OpenAI不会干黄了吧？

2026-03-22

专访OpenAI首席科学家：我们离“AI自己做研究”有多远？

2026-03-22

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部