咨询 | BCG：如何Build企业级Agent（内附PDF报告）

前言：告别炒作，迎接生产力时代

在过去几年中，人工智能（AI）智能体经历了从实验室到企业桌面的快速演进。然而，真正的挑战并非在于提升大型语言模型（LLM）的智能极限，而在于如何将这些智能体可靠、安全、大规模地融入复杂的企业生产环境；这涉及处理老旧的技术栈、混乱的数据治理、多样的国际化布局以及严苛的合规要求 。

部署生产级智能体的核心，是深度集成，而非单纯的智能优化。企业的战略眼光必须超越基础智能体，聚焦于深度智能体（Deep Agents）的构建，即能将复杂任务拆解并编排给多个专业子智能体执行的架构。

成功的关键在于三项核心战略原则：

1）架构先行，信任内嵌。信任、合规性和运营弹性绝不能事后补救，而必须从平台架构设计之初就融入，以确保规模化运营的安全和长期合规 。

2）聚焦深度编排 。优先开发深度智能体，通过分层架构应对复杂业务挑战，提供更强的可预测性和控制力。

3）数据引力定平台。智能体平台的构建（Build）、购买（Buy）或调整（Adapt）决策，主要取决于企业数据和遗留系统的地理位置和可访问性——即“数据引力”。

第一章：战略痛点与架构选择：克服规模化的五大障碍

领导者面临的“三难困境”与五大核心障碍

企业领导者在追求AI规模化效益时，普遍面临着一个“三难困境”：如何确保AI工作能实际影响利润（价值聚焦）、如何管理可靠性与成本（控制力），以及如何从概念验证（PoC）阶段推广到数百次部署（可靠规模化）。忽视执行纪律的后果是巨大的，高达75%的技术领导者担心投入巨额资金后遭遇“无声的失败” 。

在实践中，限制生产级智能体落地的主要因素并非来自LLM本身的能力，而是由企业内部环境和成熟度所固化的五大关键障碍 ：

遗留系统集成（Brownfield Integrations）： 将智能体缝合到现有的遗留技术栈、异构API和细粒度的基于角色的访问控制（RBAC）中，带来了重大的安全、审批和变更控制风险 。

企业数据不可靠： 孤立、低信任度和缓慢流动的数据会使智能体的决策变得脆弱。

缺乏持续评估： 复杂的推理路径隐藏着潜在的故障模式。追踪工具调用、进行“红队测试”以及基于全面的数据集评估是一项非同小可的工程挑战。

治理与审计开销： 为避免监管和声誉风险，企业要求智能体从第一天起就具备可解释性、安全防护栏（Guardrails）和政策合规性。

运营模式与规模化摩擦： 从PoC阶段过渡到持久运营，需要成熟的规程，包括建立适当的所有权、事件管理、成本/延迟控制、版本控制以及变更追踪。

企业必须战略性地聚焦于构建深度智能体。深度智能体充当编排器，将复杂的业务问题分解给专业子智能体处理 ，从而将风险、数据依赖和运营复杂性分解为可管理的单元。

我们在这一阶段的核心任务是帮助企业进行AI战略选型和风险治理。我们借鉴成熟方法论，通过严谨的调查，帮助客户评估其遗留系统和数据资产的就绪度，并提供数据治理和系统集成路线图，确保从一开始就将治理、合规性与运营弹性内嵌于架构中。理论上来说，企业可以根据自己的情况自我评估；但是实际过程中，我们还是会帮助企业来做一个评估，大部分以访谈的形式。

第二章：设计哲学：以成果为导向的蓝图构建

无法将战略目标转化为智能体行动

企业在设计智能体时，往往沉溺于技术细节，却难以将高层次的业务目标（如提高客户满意度25%）转化为清晰、可衡量的智能体可实现的目标 。这种“为了智能体而构建智能体”的心态，导致项目无法证明其对损益表（P&L）的实际影响，最终遭遇“无声的失败” 。

高效的智能体设计必须以可衡量的业务成果为锚点，坚持“成果而非产出”的核心理念。

我们的设计框架指导客户完成以下步骤：
1、目标分解与成果映射。我们通过将高层次成果分解为战略目标、战术目标，最终落实为智能体可实现的目标（例如，每日监控参与信号，触发个性化干预措施）。

2、适用性判断。智能体适用性框架  用于平衡目标与环境复杂性和风险、伦理与治理要求 ，帮助企业确定在何种场景下，应使用智能体主导（例如贷款申请处理 ）、人类主导或传统自动化方案。

智能体设计卡（ADC）

标准化是规模化的基石。我们推行智能体设计卡（ADC）作为蓝图，清晰地定义了智能体的目的、边界、所需的技能和工具，以及预期的回退行为。

ADC更是架构驱动力 ：它通过明确所需的“技能、工具和能力”，迫使企业评估现有技术栈的就绪程度，并决定必须构建或采购的最小平台工具集。

我们可以借鉴Agent Design Card（ADC）方法论，或者采用更加适合各个企业的评估矩阵；确保所有智能体设计都锚定可衡量的业务成果，并明确定义人机交互模型（例如，人在回路、人在监控 ）。我们协助客户进行高风险领域的适用性分析，并在设计阶段就融入治理要求，为后续的构建阶段提供一张清晰、可追溯的架构驱动蓝图。

第三章：实战构建：运营、数据与评估的纪律

运营纪律的缺失导致系统脆弱

智能体开发旅程充满了运营陷阱。数据的新鲜度和质量难以保障，导致智能体决策脆弱 ；缺乏持续、严格的评估体系，使得故障模式（如幻觉、提示注入 ）难以发现和修复；同时，企业未能有效集成短期和长期记忆，使智能体缺乏持久的上下文和学习能力。

BCG统计了企业14项核心能力的集成与LLMOps纪律。

我们将智能体从概念转变为生产力，但需要借鉴ML和软件工程（SWE）的最佳实践，遵循六步开发生命周期，并构建强大的共享平台能力。这一方法论借鉴了对14个核心组件的系统性要求，涵盖了从数据平台、记忆管理到评估与监管合规的各个环节。

要满足智能体的需求，数据平台必须支持混合搜索、知识图谱（GraphRAG）等高级检索机制 。同时，智能体必须高效集成上下文工程和记忆管理，平衡短期记忆（STM，用于会话连贯性 ）与长期记忆（LTM，用于知识积累和跨会话学习 ）。

为实现规模化、可治理的运营，企业需要统一AI网关： 作为模型访问的单一控制点，它不仅管理模型切换和性能 ，还通过嵌入成本可见性实现财务运营（FinOps）能力 。

同时，必须提供强大的提示管理、版本控制以及跨智能体轨迹的可观察性。我们强调尽早建立评估线束（“爬坡”），以持续衡量性能提升，确保将分数提高到75%等成果能直接转化为业务价值。

我们帮助客户建立企业级的LLMOps能力和评估体系，这是许多企业难以独立完成的工程任务。我们协助客户解决不可靠的企业数据难题，通过设计上下文工程策略、知识图谱、隐性知识萃取、流程梳理等确保数据的高效检索和使用。此外，我们帮助客户定义和实施提示运营（PromptOps）的最佳实践，确保提示的版本控制和迭代效果得到科学验证。

第四章：平台组装：由“引力”驱动的决策

痛点：平台选型的盲目性与遗留系统的限制

领导者普遍面临一个核心决策：“我们应该构建（Build）、购买（Buy）还是调整（Adapt）智能体平台？”

许多企业盲目追随供应商的炒作，但其平台选择矩阵往往没有由差异化潜力和执行能力驱动 。更根本的难题是，平台的位置和架构受到了现有企业环境引力因素的严重约束，导致错误的选型将引发更高的集成复杂性（即第一章提及的“棕地集成”风险）。

五大引力因素与混合架构战略

平台并非由技术决定，而是由现有企业环境的五大引力因素所约束 ：

• 数据引力（最强力量）： 智能体必须位于企业数据所在地。移动数据会增加延迟、脆弱性和开销。
• 系统引力：遗留的ERP、CRM和生产力平台，锚定了智能体可以操作和集成的范围。
• 治理、安全与合规： 平台必须符合企业控制、要求，并具备可审计性。
• 价值与差异化：平台提供的价值和独特能力越高，引力越强。
• UI/UX 复杂性： 智能体无缝嵌入人们日常使用的工具中时，采用速度最快。

基于这些引力因素，平台选择必然走向混合架构战略，避免一刀切的解决方案。安全控制平面也必须同步演进，部署AI防火墙和利用语义DLP扩展，将LLM/智能体遥测信号馈送到安全监控系统。

我们不推荐单一技术栈。我们提供基于五大引力因素的平台选择矩阵分析，帮助客户进行关键的“Build vs. Buy vs. Adapt”战略决策。

我们的一些看法

相比于Anthropic、或者Google写过的关于如何Build Agent的文章（后续我们会持续更新，欢迎关注）；咨询公司的内容则更加强调用例价值、组织变革、治理和人才，而不是手把手教你怎么写一个Agent。

此次BCG的报告看起来是一个例外，内有很多技术的内容；我们第一次读的时候也是稍有惊讶。

所以，根据封面上的作者，我们特地去Linkedin上看了下，果然写作的都是技术背景、或者IBM等大厂出来的；给BCG点个赞。

#1: 其实光看Linkedin，还搞不清楚各个职责的Role，命名方式也比较复杂。有知道详细情况的欢迎留言区留言，或者后台留言。

#2: 如果对Build 企业级 Agent有经验的，欢迎留言或者邮件contact-growth@proton.me