我要投稿

可观测性成为ML和LLM应用的最大挑战

发布日期：2025-04-07 06:20:31 浏览次数： 2051

作者：云云众生s

微信搜一搜，关注“云云众生s”

生产环境 ML 模型面临可观测性挑战！定制工具成主流，仅7%关注ML安全。企业纷纷试水 GenAI 和 LLM，预测分析、计算机视觉应用激增。MLOps、LLMOps、GenAIOps 崛起，LLM 可观测性至关重要！OpenAI、AzureAI、Amazon Bedrock 受青睐。

在将 ML 模型投入生产时，可观测性和监控是被提及最多的挑战。The Institute for Ethical AI & Machine Learning^[2] 在 2024 年第四季度进行了一项关于生产 ML 状态的调查^[3]。另一个关键结论是，由于很少有供应商工具获得显著的吸引力，因此定制工具在用户路线图中占据主导地位。

总体而言，在接受调查的 170 名从业者中，44% 是机器学习工程师，与数据科学家或 MLOps 工程师的数量大致相同。许多受访者都是 The ML Engineer newsletter^[4] 的订阅者。

只有 7% 的人表示 ML 安全是他们面临的三大挑战之一，只有 17% 的人对治理和领域风险持相同看法。这一发现与我们在其他研究中看到的有显著不同，在其他研究中，安全和 AI 治理被认为是增加采用的最大障碍之一。我们认为，从业者认为 ML 安全仅与模型被黑客攻击的能力有关，而其他 IT 决策者更担心对公司和个人数据的一般访问。

似乎每个企业至少都在试验生成式 AI 和依赖于大型语言模型^[5]（LLM）的 AI 代理。与此同时，预测分析和计算机视觉的应用持续增长。随着这些应用程序的规模扩大，开发人员需要数据工程师、SRE 和其他人来处理 Day 1 和 Day 2 挑战^[6]。为了迎接这一挑战，MLOps^[7] 成为了一门真正的学科，随后是 LLMOps 和 GenAIOps^[8]。

无论使用何种术语，LLM 可观测性和监控^[9] 都是必须解决的问题。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-01-27

阿里Qwen3-Max-Thinking来了，加上TTS更强了，依然不开源

2026-01-27

Claude 史诗级进化：直接在对话框里回 Slack、画 Figma，工作流彻底变了

2026-01-27

从安装到运行：手把手教你用Clawdbot完成第一个智能任务

2026-01-27

刚刚，阿里旗舰模型Qwen3-Max-Thinking发布，编程能力“踢馆”Gemini与Claude

2026-01-27

腾讯的社交实验：当 AI 混进人类「群聊」

2026-01-26

重磅！千问最强模型正式发布

2026-01-26

Claude Skills 与 Gemini Skills 格式对比与转换指南（含示例脚本 + GitHub 项目示例）

2026-01-26

从0到1玩转Clawdbot：我花了40小时，把这些坑都踩完了

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？

2026-01-10

我挖到Gemini 3.0 Pro十大隐藏玩法，做网页已经落后N个版本了

2025-11-19

深度体验TRAE SOLO 正式版，总结一点技巧(附完整可重现提示词和源码)

2025-11-13

我错了，Gemini 做PPT不是“一般”，是“封神”。（尤其挖到第3层功能后…）

2025-11-03

Pencil：设计和写代码，以后就全让AI干了

2026-01-24

2026 开年 AI 工具推荐，让你新的一年效率起飞！（建议收藏）

2026-01-01

Codex 史诗级更新！引入 Skills 技能库，直接兼容 Claude 生态，开发效率原地起飞

2025-12-09

国内版的 NotebookLM 来了，甚至更强

2025-11-12

GPT-5.1 有哪些提升？来自 OpenAI 官方 AMA 的能力、推理模式、安全策略全解读

2025-11-15

Nano Banana Pro 最全实测：强到离谱！

2025-11-21

大家都在问

突发！OpenAI 明天“发布会”，GPT能再次碾压谷歌 Gemini吗？

2026-01-26

深度剖析｜Claude Agent 是如何一步步加载 Skill 的？

2026-01-26

深度解析——为什么Claude code CEO Dario 如此反中？

2026-01-23

为什么Codex似乎更强，Claude Code却更流行？

2026-01-23

Skills 为何成为 Agent 工程化的关键拼图？

2026-01-22

AI4Data 领域中应该如何工程化的实现“定向幻觉”？

2026-01-22

架构彻底重构！DeepSeek新模型代码曝光，要来的V4让国内外都坐不住了？

2026-01-21

从一行代码发现DeepSeek的秘密：Model1到底是什么？

2026-01-21

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部