我要投稿
微信搜一搜，关注“云云众生s”
在AI和机器学习的应用中，可观测性成为了一个不容忽视的挑战。这篇文章揭示了生产环境中ML模型面临的监控难题，以及企业在采用GenAI和LLM时所采取的策略。 核心内容： 1. 生产环境中ML模型的可观测性挑战 2. 企业对GenAI和LLM的采用趋势 3. MLOps、LLMOps、GenAIOps的兴起及其对可观测性的影响
生产环境 ML 模型面临可观测性挑战！定制工具成主流，仅7%关注ML安全。企业纷纷试水 GenAI 和 LLM，预测分析、计算机视觉应用激增。MLOps、LLMOps、GenAIOps 崛起，LLM 可观测性至关重要！OpenAI、AzureAI、Amazon Bedrock 受青睐。
在将 ML 模型投入生产时，可观测性和监控是被提及最多的挑战。The Institute for Ethical AI & Machine Learning[2] 在 2024 年第四季度进行了一项关于生产 ML 状态的调查[3]。另一个关键结论是，由于很少有供应商工具获得显著的吸引力，因此定制工具在用户路线图中占据主导地位。
总体而言，在接受调查的 170 名从业者中，44% 是机器学习工程师，与数据科学家或 MLOps 工程师的数量大致相同。许多受访者都是 The ML Engineer newsletter[4] 的订阅者。
只有 7% 的人表示 ML 安全是他们面临的三大挑战之一，只有 17% 的人对治理和领域风险持相同看法。这一发现与我们在其他研究中看到的有显著不同，在其他研究中，安全和 AI 治理被认为是增加采用的最大障碍之一。我们认为，从业者认为 ML 安全仅与模型被黑客攻击的能力有关，而其他 IT 决策者更担心对公司和个人数据的一般访问。
似乎每个企业至少都在试验生成式 AI 和依赖于大型语言模型[5]（LLM）的 AI 代理。与此同时，预测分析和计算机视觉的应用持续增长。随着这些应用程序的规模扩大，开发人员需要数据工程师、SRE 和其他人来处理 Day 1 和 Day 2 挑战[6]。为了迎接这一挑战，MLOps[7] 成为了一门真正的学科，随后是 LLMOps 和 GenAIOps[8]。
无论使用何种术语，LLM 可观测性和监控[9] 都是必须解决的问题。
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业
2025-07-29
AI+合同审查落地分享（下-1- 合同智能审查）
2025-07-29
AI 应用开发，还需要意图识别吗？
2025-07-29
一键切换不同的 Claude Code API
2025-07-29
一文搞懂大模型、RAG、函数调用、Agent、知识库、向量数据库、知识图谱、AGI的概念和联系
2025-07-29
腾讯的IDE codeBuddy体验来了，说点自己的感受。
2025-07-29
突发：GPT-5下周发布
2025-07-29
WAIC 2025 观察：大模型进入“效率与场景”决胜期
2025-07-29
爆火了大半年，Agent 到底能干好多少活 | WAIC 特别策划
2025-05-29
2025-05-23
2025-06-01
2025-05-07
2025-05-07
2025-05-07
2025-06-07
2025-06-21
2025-06-12
2025-05-20
2025-07-29
2025-07-29
2025-07-28
2025-07-27
2025-07-27
2025-07-25
2025-07-24
2025-07-24
回到顶部
粤ICP备14082021号