AI 应用不是部署上线就完事了。你需要看见它在做什么、花了多少钱、质量怎么样。
为什么 LLM 应用需要可观测性
传统软件有确定性——给定输入，输出可预期。LLM 应用则不然：同样的 Prompt，今天跑出满分报告，明天可能漏掉关键数据。这种不确定性意味着你必须持续观测，而不只是部署后祈祷。
可观测性要回答四个问题：出了什么问题（追踪）、花了多少钱（成本）、质量怎么样（评估）、哪里最慢（性能）。dify 提供了从轻量到专业的完整解决方案。
第一层：Dify 内置能力
| |
|---|
| Dashboard | 调用量、活跃用户、Token 消耗、平均响应时间的日/周/月趋势 |
| 会话日志 | 实时查看每次对话的完整输入输出，支持人工标注和反馈 |
| 运行历史 | 工作流每次执行的节点轨迹，各节点输入/输出/耗时详情 |
| 变量检查器 | |
够用场景：个人开发调试、简单应用监控、快速验证原型。
不够的时候：需要跨应用统一视图、Token 成本按模型分组统计、自动化质量评估、长期数据保留——这时就需要外部集成。
第二层：七大外部集成
Dify 原生支持 7 个外部可观测性平台，通过应用的「监控」页面一键启用，零代码改动。
1. Langfuse — 开源自部署首选
| |
|---|
| 定位 | |
| 部署 | Docker Compose 自部署 / Langfuse Cloud 托管 |
| 核心能力 | Trace 追踪、Token 成本分析、Score 评分、Prompt 管理、ClickHouse 高性能分析 |
| 优势 | |
| 适合 | |
Langfuse 是大多数自部署 Dify 用户的首选。6 个容器（Web、Worker、PostgreSQL、ClickHouse、Redis、MinIO），4GB 内存即可运行，25 个应用全量接入无压力。
2. LangSmith — 评估能力最强
| |
|---|
| 定位 | LangChain 官方 LLM 全生命周期管理平台 |
| 部署 | SaaS 云端（api.smith.langchain.com） |
| 核心能力 | Trace 追踪、自动化评估 Pipeline、Prompt Hub 共享市场、Annotation Queue、在线告警 |
| 优势 | |
| 适合 | |
LangSmith 的杀手锏是评估能力：创建 Dataset → 编写评估器 → 自动跑回归测试 → 对比不同 Prompt 版本效果。注意：SaaS 部署在美国，国内服务器需配置代理。
3. Opik — ML 实验追踪
Comet ML 推出的 LLM 追踪工具。如果你的团队已经在用 Comet 做传统 ML 实验管理，Opik 可以无缝扩展到 LLM 场景，统一实验追踪体验。
4. Arize — 生产级 ML 监控
专注于模型监控的商业平台，强项是漂移检测和生产告警。当 LLM 应用在生产环境运行数月后输出质量下降，Arize 能自动发现并告警。适合对稳定性要求极高的场景。
5. Phoenix — 轻量本地调试
Arize 的开源版本，Python 一行代码即可启动。定位是开发阶段的本地调试工具——不需要 Docker，不需要数据库，pip install arize-phoenix 就能用。适合个人开发者快速调试 Trace。
6. W&B Weave — 实验管理生态
Weights & Biases 的 LLM 追踪方案。如果团队已经用 W&B 管理模型训练实验，Weave 提供从训练到推理的全链路可视化。核心优势是与 W&B 生态的深度集成。
7. 阿里云监控 — 云原生方案
面向阿里云用户的原生集成。如果你的 Dify 跑在阿里云上，可以直接将 LLM 追踪数据接入阿里云监控体系，与现有的云资源监控、告警、日志服务统一管理。
怎么选：四步决策
简化版决策：
需要外部追踪吗？ —— 不需要 → Dify 内置 Dashboard
↓ 需要
数据能出内网吗？ —— 不能 → Langfuse 自部署
↓ 可以
主要诉求是？
├─ 评估/Prompt管理 → LangSmith
├─ ML 实验管理 → Opik / W&B Weave
└─ 生产级监控告警 → Arize / 阿里云监控
大多数团队的推荐组合：日常用 Langfuse（免费、内网），需要评估时切换 LangSmith。Dify 同一时间只能启用一个追踪后端，但切换秒级生效。
接入方式：统一且简单
无论选择哪个平台，Dify 的接入方式完全一致：
零代码改动——不需要修改任何工作流、Prompt 或应用逻辑。Dify 在运行时自动将每个节点的 Trace 数据异步上报到目标平台，不影响应用性能。
总结
| | |
|---|
| 零配置 | | |
| 自部署首选 | | |
| 评估最强 | | |
| ML 生态 | | |
| 生产监控 | | |
| 本地调试 | | |
可观测性不是锦上添花，而是 AI 应用从"能用"走向"好用"的基础设施。好消息是 Dify 已经把这件事做得足够简单——七个平台任选，三步配置搞定，剩下的交给数据说话。
粤ICP备14082021号
免费POC，
零成本试错
