微信扫码
添加专属顾问
WAIC 2024上,阿里云、腾讯云等巨头分享了企业Agent落地的成熟方案,本文为你详解开源与云服务两条核心路径的架构与选择。 核心内容: 1. 企业Agent落地的两大主流技术路线:开源框架自研与云厂商服务 2. 以LangGraph和Dify为例,深度解析开源Agent框架的四层核心架构 3. 对比不同路线的实施差异与选型建议,助力企业降本增效
2026 WAIC观察
7 月 18 日 WAIC 世界人工智能大会多场企业 AI 专题论坛同步开讲,阿里云、腾讯云均把「企业内部标准化搭建 Agent、实现业务全链路降本增效」作为核心分享主题之一。两家云厂商现场完整披露了各自面向企业应用的 Agent 落地架构、分层工程实现思路、线上运维配套能力。
结合现场厂商分享,当前企业落地 Agent 可参考两大类成熟路线:开源框架自研路线、云厂商 Agent 服务路线(阿里腾讯这类),两条路线核心框架一致,具体的分层逻辑、调用链路、运维约束存在差异,下文会逐层拆解对比,可按需选择。
另外,目前行业还有一类 Harness 工程构建Agent 的方案,核心思路是完全交由大模型自主理解任务、动态编排工作流并执行工具调用。个人认为该模式更适合个人模式的Agent应用,企业生产落地上需要更强的稳定性和安全性,完全由大模型自己主导编排不太可控,这种模式本文暂不做展开。
🏗️ Agent开源框架落地架构
(一) LangGraph|工业级单智能体编排框架
▫️ 四层架构
Workflow/Graph 层:StateGraph 有向状态图,承载完整业务流程,预定义节点跳转、循环、人工中断规则;
Node 服务层:Graph 内独立能力单元(RAG 节点、LLM 节点、工具节点),对应垂直原子业务能力;
Step 执行层:Node 内部 ReAct 单轮推理单元,强制约束 1 Step = 1次LLM调用;
Runtime 执行原子层:Model Wrapper 模型封装 + Tool Registry 全局工具注册中心。
▫️ 端到端完整调用流转
初始化 Graph:接收业务请求,创建全局强类型 State 状态容器,写入用户入参、全局唯一 TraceID;
Graph 调度器读取 State 流转标记,选中待执行 Node;
Node 读取上下文,启动内部 Step 循环;
单 Step 组装 Prompt、工具列表,下发 Runtime 执行;
Runtime 完成模型调用、工具执行、输出结构化解析,结果回传给 Step;
Step 更新全局 State,自动判断循环 / 分支 / 终止;
流程结束后 Graph 汇总 State 输出结果,持久化 State 快照,原生支持断点续跑。
(二)Dify|低代码私有化企业 Agent 平台
▫️ 四层分层定义
应用 Workflow 画布层:可视化预定义业务流程,对外暴露统一 API,管理全生命周期任务;
插件 Service 层:全局可复用原子插件(知识库、代码执行、HTTP 工具);
执行节点 Stage 层:画布最小执行单元,检索 / LLM / 条件分支均为独立固定节点;
底层引擎 Runner 层:统一模型调度、Prompt 管理、工具网关、日志埋点。
▫️ 端到端完整调用流转
用户调用应用 API,加载预配置 DAG 拓扑,初始化全局会话变量池;
Workflow 预加载依赖 Service 插件,校验租户、工具访问权限;
按拓扑顺序串行执行每一个 Stage 节点;
Stage 读取全局变量,组装执行参数下发 Runner;
Runner 完成 Prompt 渲染、模型推理、工具沙箱执行、输出格式校验;
执行结果回写全局变量池,自动流转至下一节点
流程结束汇总输出,销毁临时沙箱与会话资源。
(三)AutoGen|多智能体协同五层扩展架构
▫️ 五层分层定义(四层基础 + 专属 A2A 通信层)
GroupChat Workflow:全局多 Agent 总流程,预定义任务终止条件、参与智能体角色;
Agent Service:独立子智能体(检索 Agent、分析 Agent、总结 Agent),各 Agent 拥有专属人设、独立工具权限;
Message Stage:单 Agent 单轮发言推理单元,1 Stage 绑定 1 次 LLM 调用;
Model/Tool Runner:统一底层模型、工具执行底座;
A2A 通信层(独有新增层):全局消息总线,负责 Agent 间消息转发、角色调度、轮次仲裁。
▫️ 端到端完整调用流转
Workflow 初始化 GroupChat 会话,注册全部子 Agent,创建全局消息池;
用户原始请求写入 A2A 消息总线,通信层按预设规则推选首个执行 Agent;
目标 Agent Service 读取全局对话消息,进入 Message Stage 推理;
Stage 组装上下文,下发 Runner 执行模型 / 工具调用;
Runner 返回结构化消息,Stage 将本轮输出提交至 A2A 总线;
A2A 层解析消息内容,按预设逻辑判定下一个待执行 Agent,循环调度;
满足终止条件后,Workflow 汇总全部对话消息对外输出。
☁️ 云厂商 Agent 服务架构
整体特点:云厂商一站式托管,配套成熟存储、观测、权限底座,开箱即用,无需自建底层基础设施。
(一)阿里云 Agent Run|三层合并一体化架构
▫️ 三层分层定义
Orchestration 编排层:可视化预定义 Workflow 画布、对外服务入口,统一管理租户、任务生命周期;
Runtime 调度层(Service+Stage 合并层):内置 State 管理器、步骤执行调度、能力路由;
能力执行 Runner 层:统一模型网关、MCP 工具沙箱、输出结构化校验;横向配套底座:记忆存储、向量库、观测平台、租户权限治理。
▫️ 端到端完整调用流转
请求进入编排层,加载预定义业务 DAG 拓扑,生成唯一 runId、初始化会话 State;
编排层将完整流程拓扑下发 Runtime 调度层;
Runtime 读取 State,自动拆分多步推理单元,循环执行:上下文组装 → 下发 Runner 执行模型 / 工具 → 接收结果更新 State → 判断分支循环;
全步骤执行完成,Runtime 汇总 State 数据回传给编排层;
编排层封装业务结果返回,底层底座异步持久化会话记忆、上报全链路监控指标。
(二)腾讯云 Agent Runtime|四层标准分层架构
▫️ 四层分层定义
业务 Workflow 层:场景化服务入口,统一任务 ID 分发、状态流转、隔离 Workspace;
Skill Service 层:垂直业务原子能力(日志分析、知识库问答、代码评审);
Stage 分步推理层:单轮 LLM 步骤,内置自动重试、人工拦截逻辑;
Agent Runner 执行层:模型路由、MCP 网关、Prompt 模板、分层埋点观测。
▫️ 端到端完整调用流转
外部请求进入 Workflow,创建隔离 Workspace,预拉取业务依赖资源;
Workflow 调度对应 Skill Service,加载该能力依赖的全部预定义 Stage;
串行 / 分支执行每一个 Stage,单 Stage 组装上下文后调用 Runner;
Runner 统一执行模型、MCP 工具调用,结构化结果回传 Stage;
Stage 更新会话中间状态,全部步骤完成后结果回传给 Service;
Workflow 汇总所有 Service 输出,销毁隔离 Workspace,持久化任务最终结果。
(三)Microsoft Azure Foundry Agent|六层极致解耦架构
▫️ 六层分层定义
业务应用层 Workflow:低代码预定义画布、对外 API,定义多 Agent 业务拓扑;
智能体编排层 Service:封装垂直子 Agent,管理角色、依赖步骤、权限范围;
推理步骤层 Stage:单轮 LLM 执行单元,负责上下文组装、分支判定;
模型抽象层:独立模型网关,多模型兼容、负载均衡、推理缓存;
工具统一协议层 MCP:独立全局网关,工具注册、鉴权、沙箱、跨系统协议转换;
观测与治理底座层:横向贯穿全层,统一埋点、权限、记忆、LLMOps、成本分账。
▫️ 端到端完整调用流转
请求进入业务应用层,初始化全局 State、TraceID,加载预定义编排拓扑;
Workflow 调度对应智能体 Service;
Service 遍历内部 Stage,每一步拆分两类调用:纯 LLM 推理 → 下发模型抽象层;需要工具 → 单独路由 MCP 协议层;
模型层 / MCP 层分别返回结果,Stage 合并数据更新全局 State;
判定分支、循环逻辑,重复执行 Stage 直至流程完成;
全六层自动向治理底座上报指标、日志、记忆快照;
流程结束,Workflow 汇总结果返回,底座同步生成成本账单、持久化用户记忆。
📊 主流架构选型对比总表
🧱 企业落地 Agent 架构的核心模块清单
1. 顶层流程编排模块
Workflow 拓扑定义引擎:支持预定义 DAG、循环、条件分支、人工中断节点;
任务生命周期管理:JobID 分发、状态流转、隔离 Workspace、资源自动销毁;
统一 API 网关、多租户 / 用户隔离鉴权体系。
2. 原子能力复用模块
Service 资产注册中心:存储垂直领域子 Agent 元数据、依赖清单、权限白名单;
跨 Workflow 能力调度器,实现原子业务能力全局复用。
3. 分步推理调度模块
Stage 标准化执行模板,强制约束:1 Stage = 单次LLM调用;
内置自动重试、超时降级、人工审批拦截钩子;
全局统一结构化 State 状态存储,原生支撑断点续跑、故障恢复。
4. 底层统一执行模块
独立模型抽象网关:多模型路由、负载均衡、Prefix 推理缓存;
独立 MCP 工具协议网关:全局工具注册、统一鉴权、资源沙箱隔离;
Prompt 模板资产中心、输出 Schema 结构化校验组件。
5. 横向配套底座模块(生产环境必备)
分层记忆存储:会话临时状态、向量长期记忆、关系库用户结构化持久档案;
全链路分层观测平台:分层 Span 埋点、多维度指标、成本统计、异常告警;
LLMOps 运维流水线:资产版本管理、CI 自动化校验、灰度发布、自动化评测。
⚠️ 企业落地 Agent 避坑指南
❌ 选用 Harness 式大模型自主编排方案用于生产:无固定预定义流程约束,工作流逻辑极易跑偏,工具权限、数据安全无法管控,仅适合个人原型验证;
❌ 分层边界耦合:业务编排逻辑写入底层 Runner,后续模型、工具迭代需要修改上层业务代码;
❌ 无统一全局 State 载体:Stage 间零散透传参数,故障无法断点恢复,会话上下文管理混乱;
❌ 单 Stage 多次 LLM 调用:分层成本、耗时无法精准拆分,故障定位难度翻倍;
❌ 工具逻辑内嵌执行层,无独立 MCP 网关:新增业务工具需要改造底层执行代码,复用、管控成本极高;
✍️ 文末
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-08-03
AIOps落地:上百台主机巡检,AI几分钟搞定,我是怎么做的
2026-08-01
Dify 里怎么用 Skill?Dify 接入 Skill 的最简路径思路
2026-07-28
用Dify搞定无规则Excel解析:一套可落地的表格数据处理工作流
2026-07-27
AI最大的价值不是提效:CEO如何借WorkBuddy走出效率陷阱
2026-07-22
Dify 1.16.0解读:Agent、Linux沙箱和MCP协议升级,Dify开始进入真正的Agent运行时
2026-07-20
Dify近三个月技术演进分析——从应用工具到AI基础设施
2026-07-18
时隔3周,Dify 1.16.0 发布了!
2026-07-18
Dify v1.16.0 正式发布:Dify Agent 进入公测阶段
2026-05-22
2026-06-11
2026-07-22
2026-07-18
2026-06-03
2026-07-06
2026-06-02
2026-07-18
2026-07-08
2026-07-03
欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。
在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。
一、 定义
本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。
会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。
知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。
二、 账号注册与登录
登录方式:本网站支持以下登录方式,您可根据实际情况选择:
微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。
手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。
账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。
实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。
未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。
三、 服务内容与规范
知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。
服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。
禁止行为:您在使用服务时不得实施以下行为:
利用技术手段批量爬取、下载、转存知识库内容;
将知识库内容用于商业目的或未经授权地向第三方传播;
干扰本网站正常运行或侵犯其他用户合法权益;
发布违法违规信息或从事违反公序良俗的活动。
四、 知识产权声明
权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。
有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。
侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。
五、 个人信息保护
我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。
您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。
您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。
六、 免责声明
内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。
不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。
第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。
七、 违约责任
如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。
如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。
八、 法律适用与争议解决
本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。
因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。
九、 其他
本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。
本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。
我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。