免费POC, 零成本试错
FDE知识库

FDE知识库

学习大模型的前沿技术与行业落地应用


收藏

WAIC观察:企业 Agent 落地完整指南

发布日期:2026-07-18 21:37:40 浏览次数: 2103
作者:芋头小馆

微信搜一搜,关注“芋头小馆”

推荐语

WAIC 2024上,阿里云、腾讯云等巨头分享了企业Agent落地的成熟方案,本文为你详解开源与云服务两条核心路径的架构与选择。

核心内容:
1. 企业Agent落地的两大主流技术路线:开源框架自研与云厂商服务
2. 以LangGraph和Dify为例,深度解析开源Agent框架的四层核心架构
3. 对比不同路线的实施差异与选型建议,助力企业降本增效

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家

2026  WAIC观察




7 月 18 日 WAIC 世界人工智能大会多场企业 AI 专题论坛同步开讲,阿里云、腾讯云均把「企业内部标准化搭建 Agent、实现业务全链路降本增效」作为核心分享主题之一。两家云厂商现场完整披露了各自面向企业应用的 Agent 落地架构、分层工程实现思路、线上运维配套能力。

结合现场厂商分享,当前企业落地 Agent 可参考两大类成熟路线:开源框架自研路线、云厂商 Agent 服务路线(阿里腾讯这类),两条路线核心框架一致,具体的分层逻辑、调用链路、运维约束存在差异,下文会逐层拆解对比,可按需选择。

另外,目前行业还有一类 Harness 工程构建Agent 的方案,核心思路是完全交由大模型自主理解任务、动态编排工作流并执行工具调用。个人认为该模式更适合个人模式的Agent应用,企业生产落地上需要更强的稳定性和安全性,完全由大模型自己主导编排不太可控,这种模式本文暂不做展开。

🏗️ Agent开源框架落地架构

(一) LangGraph|工业级单智能体编排框架

▫️ 四层架构

  1. Workflow/Graph 层:StateGraph 有向状态图,承载完整业务流程,预定义节点跳转、循环、人工中断规则;

  2. Node 服务层:Graph 内独立能力单元(RAG 节点、LLM 节点、工具节点),对应垂直原子业务能力;

  3. Step 执行层:Node 内部 ReAct 单轮推理单元,强制约束 1 Step = 1次LLM调用;

  4. Runtime 执行原子层:Model Wrapper 模型封装 + Tool Registry 全局工具注册中心。

▫️ 端到端完整调用流转

  1. 初始化 Graph:接收业务请求,创建全局强类型 State 状态容器,写入用户入参、全局唯一 TraceID;

  2. Graph 调度器读取 State 流转标记,选中待执行 Node;

  3. Node 读取上下文,启动内部 Step 循环;

  4. 单 Step 组装 Prompt、工具列表,下发 Runtime 执行;

  5. Runtime 完成模型调用、工具执行、输出结构化解析,结果回传给 Step;

  6. Step 更新全局 State,自动判断循环 / 分支 / 终止;

  7. 流程结束后 Graph 汇总 State 输出结果,持久化 State 快照,原生支持断点续跑。

(二)Dify|低代码私有化企业 Agent 平台

▫️ 四层分层定义

  1. 应用 Workflow 画布层:可视化预定义业务流程,对外暴露统一 API,管理全生命周期任务;

  2. 插件 Service 层:全局可复用原子插件(知识库、代码执行、HTTP 工具);

  3. 执行节点 Stage 层:画布最小执行单元,检索 / LLM / 条件分支均为独立固定节点;

  4. 底层引擎 Runner 层:统一模型调度、Prompt 管理、工具网关、日志埋点。

▫️ 端到端完整调用流转

  1. 用户调用应用 API,加载预配置 DAG 拓扑,初始化全局会话变量池;

  2. Workflow 预加载依赖 Service 插件,校验租户、工具访问权限;

  3. 按拓扑顺序串行执行每一个 Stage 节点;

  4. Stage 读取全局变量,组装执行参数下发 Runner;

  5. Runner 完成 Prompt 渲染、模型推理、工具沙箱执行、输出格式校验;

  6. 执行结果回写全局变量池,自动流转至下一节点

  7. 流程结束汇总输出,销毁临时沙箱与会话资源。

(三)AutoGen|多智能体协同五层扩展架构

▫️ 五层分层定义(四层基础 + 专属 A2A 通信层)

  1. GroupChat Workflow:全局多 Agent 总流程,预定义任务终止条件、参与智能体角色;

  2. Agent Service:独立子智能体(检索 Agent、分析 Agent、总结 Agent),各 Agent 拥有专属人设、独立工具权限;

  3. Message Stage:单 Agent 单轮发言推理单元,1 Stage 绑定 1 次 LLM 调用;

  4. Model/Tool Runner:统一底层模型、工具执行底座;

  5. A2A 通信层(独有新增层):全局消息总线,负责 Agent 间消息转发、角色调度、轮次仲裁。

▫️ 端到端完整调用流转

  1. Workflow 初始化 GroupChat 会话,注册全部子 Agent,创建全局消息池;

  2. 用户原始请求写入 A2A 消息总线,通信层按预设规则推选首个执行 Agent;

  3. 目标 Agent Service 读取全局对话消息,进入 Message Stage 推理;

  4. Stage 组装上下文,下发 Runner 执行模型 / 工具调用;

  5. Runner 返回结构化消息,Stage 将本轮输出提交至 A2A 总线;

  6. A2A 层解析消息内容,按预设逻辑判定下一个待执行 Agent,循环调度;

  7. 满足终止条件后,Workflow 汇总全部对话消息对外输出。

☁️ 云厂商 Agent 服务架构

整体特点:云厂商一站式托管,配套成熟存储、观测、权限底座,开箱即用,无需自建底层基础设施。

一)阿里云 Agent Run|三层合并一体化架构

▫️ 三层分层定义

  1. Orchestration 编排层:可视化预定义 Workflow 画布、对外服务入口,统一管理租户、任务生命周期;

  2. Runtime 调度层(Service+Stage 合并层):内置 State 管理器、步骤执行调度、能力路由;

  3. 能力执行 Runner 层:统一模型网关、MCP 工具沙箱、输出结构化校验;横向配套底座:记忆存储、向量库、观测平台、租户权限治理。

▫️ 端到端完整调用流转

  1. 请求进入编排层,加载预定义业务 DAG 拓扑,生成唯一 runId、初始化会话 State;

  2. 编排层将完整流程拓扑下发 Runtime 调度层;

  3. Runtime 读取 State,自动拆分多步推理单元,循环执行:上下文组装 → 下发 Runner 执行模型 / 工具 → 接收结果更新 State → 判断分支循环;

  4. 全步骤执行完成,Runtime 汇总 State 数据回传给编排层;

  5. 编排层封装业务结果返回,底层底座异步持久化会话记忆、上报全链路监控指标。

(二)腾讯云 Agent Runtime|四层标准分层架构

▫️ 四层分层定义

  1. 业务 Workflow 层:场景化服务入口,统一任务 ID 分发、状态流转、隔离 Workspace;

  2. Skill Service 层:垂直业务原子能力(日志分析、知识库问答、代码评审);

  3. Stage 分步推理层:单轮 LLM 步骤,内置自动重试、人工拦截逻辑;

  4. Agent Runner 执行层:模型路由、MCP 网关、Prompt 模板、分层埋点观测。

▫️ 端到端完整调用流转

  1. 外部请求进入 Workflow,创建隔离 Workspace,预拉取业务依赖资源;

  2. Workflow 调度对应 Skill Service,加载该能力依赖的全部预定义 Stage;

  3. 串行 / 分支执行每一个 Stage,单 Stage 组装上下文后调用 Runner;

  4. Runner 统一执行模型、MCP 工具调用,结构化结果回传 Stage;

  5. Stage 更新会话中间状态,全部步骤完成后结果回传给 Service;

  6. Workflow 汇总所有 Service 输出,销毁隔离 Workspace,持久化任务最终结果。

(三)Microsoft Azure Foundry Agent|六层极致解耦架构

▫️ 六层分层定义

  1. 业务应用层 Workflow:低代码预定义画布、对外 API,定义多 Agent 业务拓扑;

  2. 智能体编排层 Service:封装垂直子 Agent,管理角色、依赖步骤、权限范围;

  3. 推理步骤层 Stage:单轮 LLM 执行单元,负责上下文组装、分支判定;

  4. 模型抽象层:独立模型网关,多模型兼容、负载均衡、推理缓存;

  5. 工具统一协议层 MCP:独立全局网关,工具注册、鉴权、沙箱、跨系统协议转换;

  6. 观测与治理底座层:横向贯穿全层,统一埋点、权限、记忆、LLMOps、成本分账。

▫️ 端到端完整调用流转

  1. 请求进入业务应用层,初始化全局 State、TraceID,加载预定义编排拓扑;

  2. Workflow 调度对应智能体 Service;

  3. Service 遍历内部 Stage,每一步拆分两类调用:纯 LLM 推理 → 下发模型抽象层;需要工具 → 单独路由 MCP 协议层;

  4. 模型层 / MCP 层分别返回结果,Stage 合并数据更新全局 State;

  5. 判定分支、循环逻辑,重复执行 Stage 直至流程完成;

  6. 全六层自动向治理底座上报指标、日志、记忆快照;

  7. 流程结束,Workflow 汇总结果返回,底座同步生成成本账单、持久化用户记忆。

📊 主流架构选型对比总表


四个

🧱 企业落地 Agent 架构的核心模块清单

1. 顶层流程编排模块

Workflow 拓扑定义引擎:支持预定义 DAG、循环、条件分支、人工中断节点;

任务生命周期管理:JobID 分发、状态流转、隔离 Workspace、资源自动销毁;

统一 API 网关、多租户 / 用户隔离鉴权体系。


2. 原子能力复用模块

Service 资产注册中心:存储垂直领域子 Agent 元数据、依赖清单、权限白名单;

跨 Workflow 能力调度器,实现原子业务能力全局复用。


3. 分步推理调度模块

Stage 标准化执行模板,强制约束:1 Stage = 单次LLM调用;

内置自动重试、超时降级、人工审批拦截钩子;

全局统一结构化 State 状态存储,原生支撑断点续跑、故障恢复。


4. 底层统一执行模块

独立模型抽象网关:多模型路由、负载均衡、Prefix 推理缓存;

独立 MCP 工具协议网关:全局工具注册、统一鉴权、资源沙箱隔离;

Prompt 模板资产中心、输出 Schema 结构化校验组件。


5. 横向配套底座模块(生产环境必备)

分层记忆存储:会话临时状态、向量长期记忆、关系库用户结构化持久档案;

全链路分层观测平台:分层 Span 埋点、多维度指标、成本统计、异常告警;

LLMOps 运维流水线:资产版本管理、CI 自动化校验、灰度发布、自动化评测。


⚠️ 企业落地 Agent 避坑指南

❌ 选用 Harness 式大模型自主编排方案用于生产:无固定预定义流程约束,工作流逻辑极易跑偏,工具权限、数据安全无法管控,仅适合个人原型验证;

❌ 分层边界耦合:业务编排逻辑写入底层 Runner,后续模型、工具迭代需要修改上层业务代码;

❌ 无统一全局 State 载体:Stage 间零散透传参数,故障无法断点恢复,会话上下文管理混乱;

❌ 单 Stage 多次 LLM 调用:分层成本、耗时无法精准拆分,故障定位难度翻倍;

❌ 工具逻辑内嵌执行层,无独立 MCP 网关:新增业务工具需要改造底层执行代码,复用、管控成本极高;

✍️ 文末


53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询

扫码登录
登录即表示您同意《53AI网站服务协议》
服务协议

欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

一、 定义

本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

二、 账号注册与登录

登录方式:本网站支持以下登录方式,您可根据实际情况选择:

微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

三、 服务内容与规范

知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

禁止行为:您在使用服务时不得实施以下行为:

利用技术手段批量爬取、下载、转存知识库内容;

将知识库内容用于商业目的或未经授权地向第三方传播;

干扰本网站正常运行或侵犯其他用户合法权益;

发布违法违规信息或从事违反公序良俗的活动。

四、 知识产权声明

权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

五、 个人信息保护

我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

六、 免责声明

内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

七、 违约责任

如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

八、 法律适用与争议解决

本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

九、 其他

本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


已查阅