免费POC, 零成本试错
FDE知识库

FDE知识库

学习大模型的前沿技术与行业落地应用


收藏

DeepSeek Harness 全景可观测实践

发布日期:2026-08-17 18:39:41 浏览次数: 1815
作者:阿里云云原生

微信搜一搜,关注“阿里云云原生”

推荐语

AI编码Agent运行追踪难?DeepSeek Harness全景可观测方案,结合开源LoongSuite双路线破局效率与成本问题。
核心内容:
1. AI编码Agent运行时的可观测挑战(耗时、失败、Token消耗等)
2. DeepSeek Harness可观测数据基础与Trace/Metrics需求
3. 阿里云团队提供的双开源可观测路线及实践应用

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家

AI 编码 Agent 真正跑起任务后,问题往往不再是“它有没有完成”,而是:这一轮为什么花了 47 秒?时间卡在模型还是工具?失败后重试了几次?Token 消耗来自主 Agent 还是 Subagent?

DeepSeek Harness(下文简称 DSH)已经保存了很完整的 Session 日志,但要回答耗时、调用关系和成本问题,还需要把事件组织成 Trace 和 Metrics,才能看清问题的全貌。

为了采集 DSH 全景可观测数据,阿里云可观测团队基于开源的 LoongSuite,为 DSH 提供了两条开源可观测路线:一条是可以从 DSH 插件市场独立安装的 @loongsuite/dsh-plugin,另一条是 LoongSuite Pilot 内置的 DSH 集成。它们都基于 OpenTelemetry GenAI 语义[1],数据可以进入用户自己选择的兼容后端,但部署形态和适用场景并不相同。

本文从实践角度出发,为 DeepSeek Harness 提供全景可观测的实践方案。

01

先认识 DeepSeek Harness

Cloud Native

DeepSeek Harnesshttps://github.com/deepseek-ai/deepseek-harness是 DeepSeek 开源的编码 Agent 运行时。模型负责生成,而 Harness 负责维护会话、组织 ReAct 循环、执行工具调用、管理权限与沙箱,并在需要时派生 Subagent。

DSH 以 npm 包 @deepseek-ai/dsh 分发,命令行入口是 dsh。官方随包提供 Web 和 headless 两种 Profile 模板,也允许用户安装和组合自定义 Profile,例如第三方终端界面。Web 默认监听 127.0.0.1:3080

它的插件体系建立在 Cordis 之上,配置由多层 patch 组合而成。用户层配置支持热更新,因此插件可以在不侵入 Agent 主循环的情况下,订阅原生生命周期并增加新的数据出口。

DSH 本身也保存 append-only 的 Session 事件流,其中包含 Turn、Step、工具调用、模型消息和流式增量;官方还提供了默认关闭的 OTLP Logs 插件。这些日志非常适合审计、回放和事实排查,但日志与 Trace、Metrics 解决的是两类不同问题。

02

为什么有日志,还需要 Trace

Cloud Native

日志是一串按时间排列的事实,Trace 则是一棵带父子关系和时间区间的调用树。

只有日志时,我们可以知道“发生了什么”;有了 Trace,才更容易直接回答:

  • 一轮任务的总耗时分布在模型、工具和等待的哪些阶段;

  • 哪次工具调用失败,它属于哪一个推理步骤;

  • 同一个 Step 是否触发了模型重试;

  • 每次模型调用的 TTFT、输入 Token、输出 Token 和缓存 Token;

  • 主 Agent 与 Subagent 之间的执行和成本关系;

  • 多轮会话、多个模型乃至多个 Agent 的整体使用情况。

因此,Logs 与 Trace 不是二选一:日志保留完整事件账本,Trace 提供适合性能、错误和成本分径的结构化投影。

03

LoongSuite 的两条 DSH 可观测路线

Cloud Native

先看两条路线实际经过的数据路径。



两条路线遵循同一套 OpenTelemetry GenAI 语义,但采集位置、数据路径和适用场景不同。

这里有一个容易混淆的地方:Pilot 中的 DSH 插件是 Pilot 采集链路的一部分,负责把 DSH 原生事件落到本地、交给 daemon 继续处理;它不是另一个面向插件市场、可以脱离 Pilot 单独安装和直发 OTLP 的插件。

应该怎么选

  • 同时使用 Claude Code、Codex、Cursor、Qoder、OpenClaw、DSH 等多个 Agent,或者需要本地 Dashboard、长期日志和统一成本视图:优先选择 Pilot。

  • 只使用 DSH,并且已有 Jaeger、Tempo、SigNoz、Langfuse 或 OpenTelemetry Collector:优先选择独立插件,链路最短。

  • 两条路线在技术上可以共存,但如果同时向同一个后端、同一个服务名发送 DSH Trace,会形成两份语义相近的链路。除非是在做对照验证,否则建议只让其中一条路线负责 DSH Trace。

04

路线 A:独立插件,两分钟直发 OTLP

Cloud Native

@loongsuite/dsh-plugin[2]已发布正式版 0.1.0,并已被 DSH 社区插件市场[3]收录。当前版本支持 DSH >=0.1.0-rc.6,要求 Node.js >=22.19.0

DSH 插件按 Profile 安装。观测 Web Profile:

dsh plugin --profile web add @loongsuite/dsh-plugin

如果还要观测 headless 任务,需要再安装到对应 Profile:

dsh plugin --profile headless add @loongsuite/dsh-plugin

最小配置只需要标准 OTLP 地址和服务名:

export OTEL_SERVICE_NAME=dsh-agentexport OTEL_EXPORTER_OTLP_ENDPOINT=http://localhost:4318dsh --profile web

公共 endpoint 会自动补成 /v1/traces 和 /v1/metrics。如果后端只接收 Trace,可以关闭 Metric 导出:

OTEL_METRICS_EXPORTER=none dsh --profile web

插件直接监听 DSH 的 Session、Turn、Step、llm/stream 和 Tool 生命周期,在进程内构建 ENTRY → AGENT → STEP → LLM / TOOL 调用树。每次真实模型调用都对应独立的 LLM Span,因此同一 Step 中的失败与重试不会被合并。

接入 Langfuse

Langfuse 接收 OTLP Trace,但不接收 OTLP Metric。可以在 $DSH_HOME/profiles/ 中显式填写完整 Trace 地址:

- id: loongsuite-observability  config:    traceEndpoint: https://cloud.langfuse.com/api/public/otel/v1/traces    serviceName: dsh-agent    headers:      Authorization: "Basic"      x-langfuse-ingestion-version: "4"    captureContent: false    exportMetrics: false

自建 Langfuse 时替换域名即可。鉴权值是 public_key:secret_key 的 Base64 结果,不要把真实密钥提交到仓库。

接入云监控 2.0

云监控 2.0 - 接入中心 - 应用监控&链路追踪 - OpenTelemetry。

点击获取 LicenseKey, 填入应用名,选择公网,HTTP。


然后配置:

- id: loongsuite-observability  config:    endpoint: https://project>.region>.log.aliyuncs.com/apm/trace/opentelemetry    serviceName: dsh-agent    headers:      x-arms-license-key: License Key>      x-arms-project: ARMS Project>      x-cms-workspace: 云监控工作空间>    resourceAttributes:      acs.arms.service.feature: genai_app    captureContent: false    exportMetrics: true


这里填写不带 Signal 路径的 OTLP 基地址。插件会自动生成 Trace 上报地址 /v1/traces 和 Metric 上报地址 /v1/metrics。云监控 2.0 支持通过 HTTP/Protobuf 接收 Trace 和 Metric,因此这里保持 exportMetrics: true。

常用配置项


想先在本地验证,可以使用仓库中的 Jaeger Quickstart,不注册任何云服务就能看到第一条 DSH Trace。

DSH 原生日志上报

DSH 原生提供 session-telemetry-otel 插件,将日志以原生 OTel 的方式上报到任意 OTel 的后端,如果想要上报原生 session 日志,可以通过修改 ~/.dsh/cordis.patch.yml 实现动态开启。

- id: session-telemetry-otel  config:    mode: FEEDBACK_ONLY    shutdownTimeoutMillis: 5000    exporter:      url: 'https://..log.aliyuncs.com/apm/trace/opentelemetry/v1/logs'      compression: gzip      timeoutMillis: 3000      headers:        x-arms-license-key: ''        x-arms-project: ''        x-cms-workspace: ''    processor:      scheduledDelayMillis: 10000      maxQueueSize: 2048      # Equal to maxQueueSize so the shutdown drain is a single batch.      maxExportBatchSize: 2048      exportTimeoutMillis: 4000

注意:DSH 默认关闭原生日志上报。示例使用 mode: FEEDBACK_ONLY:平时不上报,只有在触发 feedback/record 时,才会回放并上报对应的日志后缀;如果改为 mode: FULL,则会持续上报完整 Session 事件,其中可能包含用户输入、模型输出和工具参数等敏感信息。请仅在确认数据安全边界后启用,并妥善保护接入凭证。

05

路线 B:用 Pilot 统一观察多个 Agent

Cloud Native

LoongSuite Pilot[4]是运行在本机的统一 Agent 可观测采集器。它会发现已经安装的 Agent,为不同产品部署对应的 Hook、插件或数据读取器,再把不同格式归一成统一的 GenAI 事件。

安装后即使不配置远端后端也能使用:Pilot 默认把归一化事件写入本地 JSONL,并提供本地 Dashboard,用于查看多 Agent 的 Token、会话、模型、工具和仓库活跃度。

curl -fsSL https://loongcollector-community-edition.oss-cn-shanghai.aliyuncs.com/loongsuite-pilot/installer.sh \  -o /tmp/loongsuite-pilot-installer.shbash /tmp/loongsuite-pilot-installer.sh installloongsuite-pilot statusloongsuite-pilot info

Pilot 检测到 DSH 后,会向 $DSH_HOME/cordis.patch.yml(默认是 ~/.dsh/cordis.patch.yml)加入带有归属标记的配置块,加载 Pilot 自带的 DSH 采集插件。这个操作是可逆的,禁用或卸载时只会清理 Pilot 自己管理的部分。

首次启用或重新安装后,需要启动一个新的 DSH 进程。随后,插件把每个 Session 的原生事件写到 Pilot 数据目录,daemon 再完成归一化和输出。

这条链路的价值不只是获得 DSH Trace,而是让 DSH 与其他 Agent 进入同一套查询、成本和审计体系。

接入 Langfuse

编辑 ~/.loongsuite-pilot/config.json

{  "collectTrace": true,  "serviceName": "team-agents",  "agents": {    "dsh": {      "enabled": true,      "captureMessageContent": false    }  },  "otlpTrace": {    "endpoint": "https://cloud.langfuse.com/api/public/otel",    "headers": {      "Authorization": "Basic",      "x-langfuse-ingestion-version": "4"    },    "captureMessageContent": false  }}

Pilot 会在 endpoint 后自动补 /v1/traces。这里同时关闭 Agent 归一化内容和 Trace 正文,适合先用结构、耗时与 Token 数据完成接入验证。

接入云监控 2.0

Pilot 提供了 ARMS/CMS 简写配置,会自动构造所需 Header 和 Resource 属性:

{  "collectTrace": true,  "serviceName": "team-agents",  "agents": {    "dsh": {      "enabled": true,      "captureMessageContent": false    }  },  "cms": {    "licenseKey": "",    "endpoint": "https:///v1/traces",    "workspace": ""  }}

otlpTrace 与 cms 可以同时配置,把同一批 Trace 发送到多个后端。

Trace 之外,Pilot 还能把归一化事件作为日志发到阿里云 SLS,用于集中检索、大盘、告警和长期存储,以及后续的安全审计。安装时就能带上:

bash /tmp/loongsuite-pilot-installer.sh install \  --sls-endpoint "https://cn-hangzhou.log.aliyuncs.com" \  --sls-project "my-project" \  --sls-logstore "my-logstore" \  --sls-api-key ""

也支持 AK 模式和 WebTracking 模式,详见仓库的 docs/sls-output.md

06

配完之后能看到什么

Cloud Native

在 Langfuse 里

一轮对话就是一棵完整的调用链。

能直接读出来的信息:

  • 时间去哪了17.42 秒里,第 3、4 步各占 5 秒多,而单次 LLM 调用最长 4.38 秒;

  • 每次模型调用的 TTFT 和 tokengen_ai.response.time_to_first_tokeninput_tokens / output_tokens / cache_read.input_tokens 都在 span 属性里;

  • 失败与回退web_search 连续两次 ERROR,模型改用 bash 完成任务——错误状态收敛在对应的 TOOL span 上,不用去日志里找;

  • 重试可见每一次真实 LLM 调用都是独立 span,同一个 STEP 下能看到多次尝试;

  • 会话维度gen_ai.session.id 和 gen_ai.turn.id 让 Langfuse 的 Sessions 视图能把一个会话的多轮串起来。

    在云监控 2.0 里

    除此之外,同样的调用链瀑布图,还多了几个 AI 应用专用视图:

    • 链路追踪调用树、链路图、时序线、推理轨迹、链路分析多个视角;

    • 会话分析按 session 聚合,看一个会话跨多轮的完整轨迹;

    • 模型分析 / 工具分析按模型看 p95 延迟、token 与成本,按工具看调用次数、耗时和失败率;

    • Agent 列表一台机器(或一个团队)上有哪些 agent 在跑、各自的量级;

    • 智能分析自动分析 agent 轨迹,定位异常步骤、失败原因和性能瓶颈。

    如果用 Pilot 采多个 agent,这些视图就是跨 agent 的统一账本;只装插件的话,就是 DSH 单个 agent 的深度视图。

    07

    隐私边界

    Cloud Native

    两条路线都支持关闭正文采集,但默认行为和数据路径不同,不能简单概括成“都不采集正文”。

    独立插件

    • 默认不把提示词、回复、工具定义、参数和结果写入 Span;

    • 显式配置 captureContent: false 可以覆盖进程环境变量,适合强制关闭正文的 Profile;

    • 插件使用私有 TracerProvider 和 MeterProvider,不替换应用的全局 OpenTelemetry Provider;

    • 导出失败会被隔离,不会改变 Agent 的模型调用和工具执行行为。

    LoongSuite Pilot

    • 建议在敏感环境显式设置 agents.dsh.captureMessageContent: false 和 otlpTrace.captureMessageContent: false

    • captureMessageContent 控制的是归一化输出和 Trace,不会删除 Pilot 为完成转换而保存的 DSH 原生源日志;

    • 源日志包含原生消息与工具数据,应按敏感数据保护。Pilot 会在落盘前过滤名称类似 Token、Secret、Password、Credential、Cookie 和 API Key 的字段,并在 POSIX 系统上把目录和文件权限限制为 0700 / 0600

    • 如果组织不允许任何本地原始内容落盘,应选择独立插件,并保持 captureContent: false

    无论选择哪条路线,开启正文前都应确认其中是否可能包含源码、凭据或个人数据,并评估后端的访问控制与留存策略。

    除了观测还能做什么

    有了这些观测数据之后,可以进一步对 DeepSeek Harness 的过程进行安全审计,行为评估分析,以及针对 DeepSeek Harness 进行进一步优化,这些将在后续的文章中介绍。

    08

    总结

    Cloud Native

    如果只记住一句话:@loongsuite/dsh-plugin 解决“怎样最轻量、最原生地看清 DeepSeek Harness”;LoongSuite Pilot 解决“怎样把 DSH 和机器上的其他 Agent 放进同一套可观测体系”。

    53AI,企业落地大模型首选服务商

    产品:场景落地咨询+大模型应用平台+行业解决方案

    承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

    联系我们

    售前咨询
    186 6662 7370
    预约演示
    185 8882 0121

    微信扫码

    添加专属顾问

    回到顶部

    加载中...

    扫码咨询

    扫码登录
    登录即表示您同意《53AI网站服务协议》
    服务协议

    欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

    在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

    一、 定义

    本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

    会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

    知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

    二、 账号注册与登录

    登录方式:本网站支持以下登录方式,您可根据实际情况选择:

    微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

    手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

    账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

    实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

    未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

    三、 服务内容与规范

    知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

    服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

    禁止行为:您在使用服务时不得实施以下行为:

    利用技术手段批量爬取、下载、转存知识库内容;

    将知识库内容用于商业目的或未经授权地向第三方传播;

    干扰本网站正常运行或侵犯其他用户合法权益;

    发布违法违规信息或从事违反公序良俗的活动。

    四、 知识产权声明

    权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

    有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

    侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

    五、 个人信息保护

    我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

    您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

    您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

    六、 免责声明

    内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

    不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

    第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

    七、 违约责任

    如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

    如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

    八、 法律适用与争议解决

    本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

    因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

    九、 其他

    本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

    本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

    我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


    已查阅