我要投稿

DASF:可落地，易执行的AI安全框架

发布日期：2025-07-15 08:23:54 浏览次数： 1633

作者：AI与安全

微信搜一搜，关注“AI与安全”

随着AI大量使用，对AI的安全担忧越来越多。

如何完整梳理AI系统面临的安全风险，及如何消减风险，需要一个完整的系统化的方法论。

之前我们介绍过Google的SAIF（Google的AI安全框架(SAIF)）,该框架比较完整，但比较高阶，讲明白了原理，但不够具体，可操作性差。

此次介绍 Databricks的安全框架（Databricks AI Security Framework (DASF) ）,非常具体，容易落地和执行。

Databricks是数据处理的国际领先厂商，在AI及安全上也有较大投入，而AI与数据安全密不可分，他们的方案非常完整。

DASF全景

图一

DASF 向读者介绍了通⽤数据中心AI 系统的四个阶段及 12 个基础组件（图1），四个阶段包括：

一、数据操作（图 1 中的 #1‒#4）

包括提取和转换数据，以及确保数据安全和治理。良好的机器学习模型依赖于可靠的数据管道和安全的 DataOps 基础设施。

二、模型操作（图 1 中的 #5 ‒ #8）

包括构建预测性 ML 模型、从模型市场获取模型或使⽤ LLM（如 OpenAI 或 Foundation Model API）。

三、模型部署和服务（图 1 中的 #9 和 #10）

包括安全地构建模型镜像、模型隔离和安全服务、⾃动扩展、速率限制以及已部署模型的监控。此外，它还包含特性和功能服务，为检索增强⽣成 (RAG) 应⽤程序中的结构化数据提供⾼可⽤性、低延迟服务，以及其他应⽤程序所需的功能，例如平台外部提供的模型或任何其他需要基于⽬录中数据的功能的应⽤程序。

四、操作和平台（图 1 中的 #11 和 #12）

包括平台漏洞管理和修补、模型隔离和系统控制，以及在架构中确保模型安全的授权访问。此外，还包括⽤于 CI/CD 的运营⼯具。它通过保持不同的执⾏环境（开发、预发布和⽣产）来确保整个⽣命周期符合所需的标准，从⽽实现安全的 MLOps。

12个基础组件包括（最右侧叶子节点）：

对每一个基础组件，详细列出了风险列表，比如原始数据项，有11条风险：

完整的风险列表

总计62个安全风险，分类非常清晰，翻译出来大概是这样子：

消减方法

针对每一条风险，文档都给出了消减方法，以第一条，访问控制不足为例：

底下还有完整的相关性。

仅原始数据一项，风险及消减手段如下，够丰富了吧？

小结

这个文档是DASF的2.0版，非常完整。实际使用的时候，不相关的项可以忽略，比如，里边涉及非常多的训练的相关风险，如果只是部署使用，相关的项目可以忽略。

下载地址

https://www.databricks.com/sites/default/files/2025-02/databricks-ebook-dasf-2.pdf

在油管上还有个视频讲解

https://www.youtube.com/watch?v=GMcAlpgCElU

END

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-08-06

只提升2个点？我实测Claude 4.1后，发现官方在骗人

2025-08-06

Cursor CEO最新访谈：编程会消失，未来IDE不再是工具，而是会写、会run、会自我优化的智能体

2025-08-06

AI竞赛下半场：为什么说“超级工厂”是最优解？

2025-08-06

Function AI 助力用户自主开发 MCP 服务，一键上云高效部署

2025-08-06

大模型系列：蒸馏、RAG检索增强、微调的区别

2025-08-06

文档处理新革命！Chunkr 专为RAG与知识库场景设计，多格式智能解析！

2025-08-06

当AI洪流来袭：我们正在经历怎样的智能跃迁

2025-08-06

谷歌DeepMind深夜放核弹：世界模型Genie 3登场，重新定义“生成式AI”

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek R1-0528 小版本升级

2025-05-29

高效 Agents 构建指南

2025-05-23

SpringAI Alibaba实战文生图、聊天记忆功能

2025-06-01

AIGC合规落地全景图 | 如何做好AIGC数据合规

2025-06-07

精|知识探索新范式：深度研究Deep Research智能体全面综述，系统、方法与应用

2025-06-21

别再被MCP协议绕晕！一文搞懂连接流程与核心架构

2025-06-12

2025-05-20

能办成事的 Agent：实时与环境交互，从经验中学习

2025-06-19

聊聊AI应用架构演进

2025-06-13

这篇AI Agent漫游指南，带你建立全面的科技史观

2025-05-28

大家都在问

AI竞赛下半场：为什么说“超级工厂”是最优解？

2025-08-06

AI 基础知识从 0.5 到 0.6—— Transformer 架构为何能统治AI领域？

2025-08-06

金融Agent竞赛：什么才是最实用的打开方式？

2025-08-05

独家对话火山引擎，企业级Agent落地难在哪儿？

2025-08-05

文档重排序（rerank）中的损失函数之争：为何单点模式更常见？

2025-08-05

玩转大模型：拥有一个万能大模型助手是什么体验？

2025-08-04

ChatGPT agent介绍，OpenAI又要放大招了？

2025-08-02

当 AI 拥有永久记忆：MemOS 如何终结大模型 "健忘症"？

2025-08-02

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB