如何设计一个垂直场景的入门级Multi-Agent System？

推荐语

探索垂直行业AI落地的关键路径：从单Agent到多Agent系统的跃迁，解锁复杂场景自动化新可能。

核心内容：
1. 垂直行业场景中单Agent系统的局限性分析
2. Multi-Agent System(MAS)的架构优势与核心能力
3. 法律/医疗等典型场景的MAS实施框架与案例

杨芳贤

53A创始人/腾讯云(TVP)最具价值专家

    业界流行一个说法“2025 is the year of AI Agents”，2025上半年确实也看到了各种层出不穷的“Agent”。尽管Agent的标准定义目前业界并没有一个共识，比如流程为主的Workflow、SOP等是不是Agent，我个人认为真正的Agent起码要具备以下能力：

1. 自主规划：根据目标要求，能够自主规划达成目标的完整计划

2. 自主决策：可以基于规划和实时环境变化，对每一步动作可以自主决策

3. 工具使用：决策可以通过各种工具的自主选择和调用，完成决策的真正执行，完成任务。

4. 自主反思：复杂场景的任务很难按照规划的剧本“一条过”，agent最终效果需要执行过程中不断的反思，感知实时的环境和工具调用的结果不断验证、反思、探索新路径的“感知、决策、执行”反思迭代。多部、复杂场景的agent难做好，其中的一个原因还有反思能力弱不断导致的“错误累计”。

5. 持续迭代：业务流程不是一成不变的，LLM的能力也在不断提升，如何根据Agent的执行结果、过程以及人工反馈具备持续迭代的能力也是至关重要的。

    自从Sequoia去年提出Service-as-a-Software之后，各种传统的SaaS软件快速向AI Agents形态演进，而很多新的Startups的产品交付形态默认就是Agent-Native了。至少像我这样的用户，对于Agent产品形态的评价标准就是纯结果导向。

    Agent似乎最近成了一个“万能软件”的代名词，但目前的现实是：

    即使是基于业界最智能的大模型(如GPT4.1/o4，Gemini 2.5 Pro或者Claude 4等)，面对垂直行业场景的复杂任务，想通过单个Agent来完成端到端流程的自动化是非常困难的。

    根本原因在于，垂直行业场景的真实业务不是一个单回合的问答或者三两步简单任务就能解决的，它是一个由多个角色、多个阶段、多种工具，多种流程组成的复杂系统。

    从大模型应用在垂直行业场景落地的实用性来看，多智能体系统(Multi-Agent System，MAS）是大模型在行业复杂场景落地的必然工程实践，大模型应用也需要从“如何让一个模型更聪明”，转向“如何构建一个可靠、高效、可管理的智能系统”。

    要设计一个生产级的多智能体系统MAS是一个非常复杂的工程问题，本文尝试用一个入门级的简单多智能体系统来看看麻雀虽小，要如何五脏俱全。

一、MAS的核心价值：从“单点”到“全流程”

    在法律、医疗、金融、高端制造等知识密集、流程复杂且对合规性与准确性要求极高的垂直行业中，单一Agent系统往往难以应对。在处理涉及多步骤、且与众多遗留系统交互的复杂业务流程时，MAS的优势便凸显出来。

    先看一些业界典型的垂直行业应用场景：

• 法律服务：自动化处理大规模合同审查、法律研究、证据搜集与整理、合规性检查、诉讼支持等。MAS可以模拟一个律师团队的工作，不同Agent分别负责文档初筛、关键条款提取、风险识别、案例检索、法律意见起草等。

• 医疗保健：辅助临床诊断与治疗方案制定、个性化药物研发、临床试验管理、医疗影像分析、以及医疗文献的智能检索与综述生成。

• 金融服务：自动化信用评估与贷款审批、欺诈检测与风险管理、个性化投顾服务、高频交易策略执行、以及金融监管报告的自动生成。

• 客户支持：通过多Agent协作处理来自多渠道的复杂客户咨询，实现智能分流、问题解答、执行操作、以及在必要时无缝转接人工座席。

• 企业知识管理与研发：通过Agent帮助员工在庞大的企业知识库中进行深度研究、信息发现和洞察提炼，支持产品研发、市场分析等复杂知识工作。

    以这些应用场景可以看出，MAS的核心价值主要体现在几个方面：

1. 任务分解与专业化处理 ：复杂的垂直行业业务流程可以被分解为一系列更小、更易于管理的子任务。MAS可以为每个子任务指派具有特定知识、技能和工具访问权限的专用Agent。例如，在法律科技领域，Harvey AI就利用专用Agent处理合同分析、法律研究等不同任务 。这种专业化分工可以提高每个环节的处理质量和效率，避免让一个“万能”Agent承担其不擅长的任务。

2. 推理与决策能力：通过多个Agent的协作，可以实现更深层次的推理。例如，一个Agent负责从海量文档中提取初步证据，另一个Agent负责对这些证据进行逻辑分析和交叉验证，还有一个Agent负责基于分析结果生成决策建议。这种多Agent协作或流水线式推理，比单个Agent“单打独斗”更可能得出鲁棒和全面的结论。
   

3. 并行处理与效率提升：许多复杂的业务流程中包含可以并行处理的环节。MAS天然支持将这些环节分配给不同的Agent同时执行，从而大幅缩短整体任务的完成时间。

4. 与已有系统的灵活集成：垂直行业通常依赖大量专用工具、数据库和遗留系统。MAS中的每个Agent可以被设计为专门与特定的工具或API交互。例如，Salesforce Agentforce的Agent可以调用MuleSoft API与外部系统集成，Google Vertex AI Agent可以连接到各种数据库和公共API。这种模块化的工具集成方式比让单个Agent掌握所有接口更为高效和可维护。
   

5. 可扩展性与鲁棒性：如果在业务场景中可以准确定位原子粒度的单任务Agent和多任务组合的Multi-agent, 那MAS架构就更易于扩展。当业务需求增加或出现新的任务类型时，可以通过增加新的专用Agent或扩展现有Agent的能力来实现，而无需对整个系统进行大规模重构。

二、设计高效MAS的关键难点

    设计一个生产级MAS在工程上有非常大的挑战，即使是入门级的MAS也需要考虑以下关键挑战：

1. 编排(Orchestration)：状态管理与流程控制的复杂性

    将流程从简单的串行线性流程，转向包含并行、分支、循环和重试的复杂依赖图DAG时，整个系统的复杂性就会急剧上升。

    如何可靠地管理整个图的执行状态？一个子任务失败了，是应该重试、放弃，还是触发一个全新的分支？这个“状态机”由谁来维护？如果系统崩溃，如何从上一个检查点恢复？

    在协同方面，Agent间的每一次通信、每一次handoff，都会有数据序列化、网络传输和上下文加载的开销。当Agent数量增多，这种协同的开销可能迅速抵消掉Agent并行带来的好处。设计的关键在于，如何在“任务分解粒度”和“Agent协同开销”之间找到最佳平衡点。

2. 上下文(Context)：长下文与准确性的平衡

    上下文是LLM的“燃料”，但在MAS中上下文越长越复杂，信息干扰和模型准确性可能都会成为瓶颈。

    当多个Agent并行操作共享的知识库或外部系统时，如何保证数据的一致性？一个Agent正在更新客户信息，另一个Agent基于旧信息做出了决策，这在金融、医疗等领域是不可接受的。

3. 执行之殇：与非理想世界的接口问题

    Agent通过调用工具（Tool-use）与外部世界交互，但公司已有的API和系统交互也会遇到五花八门的问题。

    如何应对API的“脆弱性”？如何应对各种系统和API结果解析的模糊性？这是目前Agent执行层最不稳定的环节之一。

三、构建垂直行业MAS的关键技术方案

    基于上述难点，我们来探讨一个相对务实的入门级技术架构和实现方案。

1. 奠定基础：MAS总体架构与核心角色

    一个功能完备的MAS，其架构应是模块化和角色化的。将不同的职责分离到不同的Agent或服务中，是保证系统可维护性和可扩展性的关键。

2. 智能导航：规划、决策与动态调整机制

    规划、推理和动态调整是协调者的核心职责，也是MAS智能的体现。

• 规划的表示：常见的一种表示是DAG，它能清晰表达任务间的复杂依赖、并行路径和条件分支。其他的规划表示形式还有简单的结构化任务链、基于LLM理解的自然语言流程、行为树甚至一些伪代表的脚本化等形式。

• 推理决策：一个核心原则是，推理策略主要应用于协调者/规划者Agent的决策过程，或者在严格受控的范围内由专门的子Agent执行。常见的推理策略比如backtracking search、Branch and Bound/Beam Search、Sampling以及非常有争议的MCTS等，目标是优化整个MAS的协作计划和执行效率，一些好的设计原则比如”集中决策，分散执行”、“明确的评估标准”、“限制探索范围”以及”动态反馈注入“等。

• 动态调整的实现：这需要一个“感知-规划-行动-评估-再规划”的闭环，包括执行监控、偏差检测、重规划等，比如局部修复、计划调甚至人工介入。

3. 信息传递：Agent间的通信与上下文共享

    如何实现Agent间的信息通畅，其效率和可靠性直接影响整体性能。如果是在生产环境用，我个人都强烈建议实现一个独立的Context Management模块。

4. 可靠执行：工具调用、监控与人机协同

    这是MAS价值兑现的最后一公里，决策再好不能通过action转换成最终的结果都是白搭。因为企业可能有各种各样的系统，可靠的内外部工具调用也不是件容易的事情。设计时的关键考虑可能有：

• 安全的工具调用：

• 工具描述标准化：使用OpenAPI规范来定义API工具，提供清晰的函数签名和文档字符串来描述其他工具。这是实现Agent可靠调用的前提。
  

• 安全考量：必须在API网关或工具调用层实施严格的认证和授权。对于高风险操作（如交易、数据删除），必须引入人工审批流程。

• 精细化的异常处理：

• 局部错误处理：应具备自动重试（如指数退避）、优雅降级等能力
  

• 全局错误处理：当局部处理无效时，必须将详细的错误信息报告给协调者，由它决定下一步行动，比如重新规划、请求人工干预等。

• 有效的人机协同（Human-in-the-loop, HITL)：

• 在关键决策点设置“断点”：系统应在这些点暂停，将决策的上下文和建议清晰地呈现给人类，等待确认或修正。
  

• 提供可解释的“思考过程”：Agent不仅要给出结果，还要给出得出结果的依据和推理链，这种透明度除了让人更信任，还可以在出问题的时候让人能迅速判断如何协助解决问题。

• 反馈机制必须闭环：人类的每一次干预和修正，都应作为高质量的标注数据，被收集，用于未来模型的微调和优化。

  
  

5. 持续进化：反馈闭环与学习机制

    一个无法从经验中学习的MAS是没有生命力的，内外部环境和需求也在不断的变化，持续迭代进化的MAS才是一个“活”系统。设计实现时需要考虑的点有：

• 多维度评估：需要建立一个包含自动化指标和人工评估的立体化评估体系。

• 自动化评估：监控任务成功率、端到端延迟、工具调用错误率等量化指标。可以使用“LLM-as-a-Judge”来评估输出内容的质量。
  

• 人工评估：对于复杂的、主观性强的任务，领域专家的人工评估仍然是黄金标准。

• 基于反馈的学习：

• 规划策略优化：可以通过分析历史任务数据，发现规划模式的瓶颈，从而优化MAS的规划策略。
  

• Agent模型微调：收集到的高质量人机交互数据（特别是人类的修正），是进行模型微调（Fine-tuning）或强化学习（RLVR）的宝贵领域优势数据。
  

• 知识库动态更新：必须建立一套在线化的流程，将任务中产生的新知识、经过验证后，添加回领域知识中，并定期清理过时、无效的知识，保证知识库的“新鲜度”。

四、Key Takeaways

    最后，分享四点我个人在实践中的简单体会。

1. MAS的核心是“系统工程”，而非“算法工程”。这是一个典型的、复杂的分布式系统设计问题，工程挑战更多在于如何设计整个系统的拓扑结构、数据流、状态管理、容错机制、认证机制、Context管理机制、Agent通信机制等等。

2. Agent编排的本质是一个“持久化的状态机”。主规划/编排Agent的灵魂，不是那个用于“反思”的LLM，而是那个负责追踪、管理和恢复整个任务流程的、可靠的“状态机”。LLM提供了智能，但状态机提供了骨架。
   

3. 人机协同的最高价值是“高质量数据的生成器”。每一次人类的有效干预，都在为我们生成一条宝贵的、高质量的标注数据。这些数据是未来进行模型微调、实现系统自主进化的“燃料”。因此，人机协同不仅是成本，长久积累下来更是隐形的护城河。

4. 不可忽视的是“非功能性需求”。在垂直行业，一个MAS能否上线并产生价值，最终往往不是由其“智能”程度决定的，而是由其“非功能性”指标决定的：它的端到端延迟是否满足业务要求？它的安全性和合规性是否能通过审计？它的可观测性是否足以支撑快速的故障排查？它的运行成本是否在可接受范围内？这些看似“枯燥”的工程问题，才是真正的“生死线”。

    多智能体系统（MAS）是大模型应用在垂直行业场景落地的必然选择。这条路没有捷径，它需要用严谨的系统工程思维，去解决上面提到的一系列业务和技术挑战。MAS也是未来智能组织中”硅基员工“的基础，不仅是业务价值交付的主力，也是未来组织变革的驱动力。