OxyGent：构建高效能多智能体系统的协作框架

推荐语

探索企业级多智能体协作的未来——OxyGent框架为AI开发带来革命性体验。

核心内容：
1. OxyGent框架的核心设计与无限扩展能力
2. 原子化编排架构与统一执行生命周期管理
3. 多协议工具集成与企业级应用实践

杨芳贤

53AI创始人/腾讯云(TVP)最具价值专家

01

OxyGent 是什么

1. 欢迎加入 OxyGent 开源社区

OxyGent 是一个开源的框架，也欢迎各位上我们的官网 https://oxygent.jd.com 来感受一下 OxyGent 带来的这个全新的 AI 开发的体验。

2. 欢迎加入 OxyGent 开源社区

OxyGent 开源项目支持 Python 与 Java 双语言版本，具备原子化编排（Atomic Orchestration）能力，实现任务级细粒度调度与解耦。其核心设计强调无限可扩展性（Infinite Extensibility），支持多模态工具集成与异构系统接入，适用于复杂 AI Agent 开发场景。Java 版本 JDOxyGent4J 已于 2025 年 12 月开源”，持续与主版本同步迭代。

3. OxyGent 核心类设计

OxyGent 采用原子化编排架构，以“Oxy”为顶层抽象基类，构建可扩展的 AI Agent 家族体系。其核心设计基于统一执行生命周期（Execution Lifecycle），通过标准化的_pre_process、_execute、_post_process 等钩子函数，实现对各类 Agent、LLM、Tool 及 Workflow 的统一控制与数据流转管理。横向支持多种角色（如 ChatAgent、ReActAgent、SSEOxyGent、WorkFlow 等），纵向支持多协议工具集成（如 OpenAI、MCP、Function Call 等），并引入 BaseBank 模块实现 AI 资产的集中管理。

系统遵循 AOP 编程范式，通过在基类 Oxy 中注入自定义 handler，可在不修改源码的前提下，无缝集成企业中间件服务（如日志、监控、安全策略）。该设计实现了无限可扩展性（Infinite Extensibility），支持新角色、新协议的动态接入，适配快速演进的 AI 应用场景。整体架构具备高内聚、低耦合特性，显著提升系统的可维护性与工程落地能力，适用于复杂智能体系统的规模化部署。

4. QuickStart

• 安装依赖（Install Dependencies）

用户通过标准包管理工具（如pip）一键安装 OxyGent 核心库，支持 Python 和 Java 双语言生态。该步骤封装了底层运行时依赖，确保多智能体系统具备可复现的执行环境，符合 DevOps 工程规范。

• 配置环境变量（Configure Environment Variables）

在 .env 或系统级配置中注入 LLM API 密钥、模型端点等敏感参数，实现安全隔离与多环境适配。该设计遵循 12-Factor App 原则，保障服务在开发、测试与生产环境中的无缝迁移。

• 编辑示例脚本（Customize Demo Script）

用户基于 GitHub 提供的 demo.py 模板，通过组合 Oxy 算子（如 Agent、Tool、Flow）定义任务逻辑。该过程体现积木化编程范式，支持声明式编排与低代码定制，提升开发敏捷性。

• 启动多智能体服务（Run Multi-Agent Service）

执行启动命令后，系统基于统一 Execution Lifecycle 调度各 Oxy 组件，完成多智能体协同推理。整个流程支持热加载与异步执行，适用于高并发、低延迟的企业级 AI 应用场景。

5. QuickStart

OxyGent 通过 HttpLLM 类实现大模型服务注册，支持基于环境变量动态注入 API Key、Base URL 等参数，确保配置安全与可移植性。其中 name 字段作为唯一标识符（Unique Identifier），用于多智能体间的服务发现与调用，支撑微服务化架构下的模块解耦与高内聚设计，提升系统可扩展性与编排灵活性。

6. QuickStart

OxyGent 支持通过 StdioMCPClient 集成 MCP 协议工具，实现远程服务调用。用户可通过 name 字段定义工具唯一标识（如 time_tools、file_tools），结合 params 配置命令行参数，支持本地与远程工具统一接入。该设计遵循插件化架构，具备良好的可扩展性与协议兼容性，适配多模态 AI 任务执行需求。

7. QuickStart

在 OxyGent 中，Agent 通过 name 和 description 实现语义化注册与向量检索驱动的服务发现，确保多智能体间高效协同。每个 Agent 显式绑定 LLM（如名为 default 的 HttpLLM 实例）和工具集（如 time_tools 或 file_tools），实现能力解耦与复用。系统采用主从架构：通过 is_master=True 指定主 Agent（Master Agent），并利用 sub_agents 属性声明子 Agent 列表，构建层级调用关系。框架自动处理跨 Agent 调用路由、权限校验及 MCP 工具通信，开发者仅需配置声明式属性，即可实现安全、可扩展的多智能体编排，无需关注底层连接细节，显著提升开发效率与系统可靠性。

8. QuickStart

通过 MAS(oxy_space)启动多智能体系统（MAS）服务，基于 oxy_space 注册的 Agent 与工具构建协同执行环境。调用 start_web_service 启动 HTTP 接口，支持异步请求处理，实现高并发、低延迟的智能体服务化部署，符合现代 AI 应用的微服务架构要求。

9. Demo 演示讲解

OxyGent 提供可视化 Playground 界面，支持多智能体系统（MAS）的交互式调试与可观测性分析。左侧以树状结构展示 Agent 组织架构（如 master_agent → file_agent），清晰呈现层级关系与工具调用链路，符合微服务拓扑视图标准。运行时，被激活的 Agent 与 Tool 实时高亮，实现动态执行路径追踪。

右侧日志面板完整记录每一步推理过程，包括 LLM 的 think 内容、调用参数（arguments）、工具响应及最终输出，形成端到端执行轨迹，满足 AI 系统调试与审计需求。用户可通过自然语言输入（如“现在几点？记到 time.txt 里”）触发任务，系统自动调度主从 Agent 协同完成时间查询与文件写入操作，体现声明式编排与自动化任务分解能力。

10. Demo 演示讲解

OxyGent Playground 提供深度可观测性能力，支持对多智能体系统（MAS）执行链路的细粒度调试与性能分析。用户可点击任意 Oxy 节点（如 default_llm），查看其调用时序、耗时统计及上下文流转，实现端到端延迟追踪，精准定位性能瓶颈。

左侧面板展示节点实例化配置（如 class_name、is_send_think 等），确保参数透明可控；中间区域呈现完整输入内容，包括 system prompt、工具描述、历史对话与上下文召回结果，符合 Prompt Engineering 可审计性标准。右侧 PlayGround 实时输出推理结果，支持通过“Regenerate”按钮动态调整 prompt 与输入，实现交互式 A/B 测试与策略优化。

该设计融合了调用链监控（Traceability）、配置可视化与动态重试机制，显著提升 AI 应用的可解释性与开发效率，适用于复杂任务场景下的模型行为分析与系统调优，满足企业级 AI 工程对可观测性（Observability） 与调试友好性的核心需求。

11. OxyGent 功能扩展

OxyGent 1 月版本新增提示词管理与对话历史管理功能，支持 Prompt 版本控制与上下文回溯。

12. 提示词管理

支持在线实时修改提示词，多实例同步更新，具备版本控制与回滚能力，实现 Prompt 工程的动态配置管理与高可用部署。

13. 提示词管理

OxyGent 提供智能提示词优化功能，支持基于 Agent 类型（如 ReActAgent）与优化策略（如 Comprehensive）的自动化 Prompt 改进。用户可自定义优化需求（如语言转换、边界案例增强），系统通过 AI 辅助生成实现语义增强与结构优化。结合版本控制与多实例同步，保障 Prompt 工程的一致性与可迭代性，提升大模型应用的推理质量与维护效率。

14. 提示词管理

OxyGent 支持基于大模型的 Prompt 自动优化，提供分析、改进建议与验证流程。系统通过语义解析与结构化重构提升提示词清晰度与执行效率，支持用户自定义优化方向，并实现一键应用与多实例同步，保障 Prompt 工程的可迭代性与一致性。

15. History 管理

OxyGent 提供完整的对话历史管理功能，点开后可查看多智能体系统与环境交互的所有 input 和 output，支持结构化存储、实时检索与会话回溯。系统集成点踩反馈机制，若将服务接口接入产品前端，用户点击“踩”即可自动记录负向样本，形成闭环反馈，用于模型效果评估与持续优化，满足企业级 AI 应用对可观测性与迭代效率的核心需求。

16. OxyGent 对标行业

OxyGent 在多智能体系统（MAS）研发中深度融合工程实践与算法友好性，聚焦落地可用性与开发体验优化。其核心优势体现在两方面：一是简易性，通过声明式配置（如 is_master、sub_agents、工具绑定等属性）实现复杂调度关系的快速构建，无需编写底层通信逻辑；二是全链路可视化，在智能体推理过程中实时展示 Agent 调用树、工具交互、Prompt 输入、模型思考及执行耗时，支持点击下钻与动态重试。这种“搭建即可见、运行可追溯”的设计，极大降低了调试成本，尤其对算法工程师和开发者极为友好。相比业界方案，OxyGent 更注重实际开发痛点，将可视化能力从部署阶段前移至推理执行阶段，真正实现可观测、可干预、可迭代的智能体开发闭环。

02

OxyGent 构建企业级多智能体

1. 单智能体:类人脑结构

OxyGent 单智能体架构借鉴人脑结构，构建“感知-认知-规划-执行”闭环。通过多模态感知（文本/图像/视频理解）、自适应认知（记忆与奖励机制）、动态规划（ReAct、Plan-and-Solve）与行为执行模块，实现类脑式推理与决策，支持端到端自主智能与可解释性增强，提升复杂任务处理能力。

2. 多智能体:群体智能

OxyGent 多智能体系统（MAS）支持复杂拓扑结构与群体智能协同，实现 Agent 间异构动态规划与多层级通信机制。通过 Master-SubAgent 分层架构、ReAct 与 Workflow 联合调度，结合联合训练与群体进化策略，构建高可扩展、强协同的智能体网络，满足企业级 AI 应用对任务分解能力与系统鲁棒性的核心需求。

3. 多模态通讯

OxyGent 支持多模态智能体间通信，通过统一的 VLM（视觉语言模型） 与 LLM 接口抽象层 实现跨模态任务调度。Master Agent 可将图像等非文本输入传递至 Vision Agent 进行解析，并调用 Image Gen Tools 完成生成任务，实现异构智能体协同推理与端到端多模态处理流程，提升系统在复杂场景下的感知与执行能力。

4. 多模态通讯 demo

OxyGent 通过多模态任务编排与智能体间协同推理机制，实现复杂场景下的端到端视觉理解与生成。用户上传图像后，Master Agent 无法直接解析，但可通过其子 Agent（Vision Agent）的描述信息进行向量检索与能力匹配，动态调用具备视觉理解能力的 VLM 模型。系统采用标准化文件引用格式（如![file 1](./cache_dir/uploads/...），确保跨 Agent 文件传递的安全性与可追溯性。Vision Agent 解析图像内容并返回结构化语义输出，供 Master Agent 进一步决策。随后，Master Agent 调用图像生成工具（Image Gen Tools），完成卡通化生成任务，并统一对外交互。整个流程体现异构智能体协同、多模态输入处理与声明式工作流调度，支持高阶 AI 应用中的感知-推理-执行闭环，显著提升系统的灵活性与可扩展性。

5. 分布式通讯

OxyGent 支持分布式智能体通信，通过 SSEOxyGent 实现跨服务、跨实例的异构 Agent 协同。开发者无需修改远程 Agent 代码，仅需提供其服务地址（如 http://127.0.0.1:8081），即可将其作为 Remote Agent 引入本地 MAS 架构。框架自动拉取远程 Agent 的元数据（包括描述、工具集与能力标签），并构建向量索引以支持语义化服务发现。在主 Agent 调用时，系统基于 Prompt 中的意图进行向量化检索，精准匹配可用子 Agent，实现动态调用路由与跨边界任务调度。该机制结合 Server-Sent Events（SSE）协议保障低延迟、高可靠的消息传递，支持多节点部署下的服务编排与弹性扩展，适用于企业级 AI 系统中模块化、微服务化的智能体集成场景。

6. 资源管理与数据共享

• 应用级别（Application Level）

OxyGent 在应用层级提供全局共享数据域，支持跨会话组、多用户场景下的配置与元信息复用。开发者可将静态资源（如模型参数、系统规则、认证凭证）存储于 oxy_request.global_data 中，实现跨会话状态一致性与服务级上下文管理，避免重复初始化，提升系统整体效率与资源利用率。

• 会话组级别（Session Group Level）

在 Session Group 层级，系统支持同一用户或任务流内多轮对话的上下文共享。通过 oxy_request.group_data 维护用户身份、登录态、偏好设置等长期有效信息，实现会话级状态持久化与跨请求上下文传递，减少冗余参数传输，增强多轮交互的连贯性与用户体验。

• 对话级别（Request Level）

每个 Request 对应一次独立的用户查询或任务调用，其上下文通过 oxy_request.shared_data 进行封装。该层级用于存储本次对话中生成的中间结果、工具调用记录与临时变量，支持单次推理链路内的数据共享，确保多智能体协作时节点间信息同步，具备强事务隔离性与可追溯性。

• 节点级别（Node Level）

Node 级别为最细粒度的数据作用域，对应单个 Oxy（Agent、Tool、LLM）执行单元的输入输出。通过 oxy_request.arguments 存储具体调用参数（如 API 请求体、工具参数），实现参数级精准控制与低耦合执行环境，保障各组件独立运行与调试能力，符合微服务架构中的最小权限原则与解耦设计范式。

7. 多智能体：群体智能

OxyGent 支持异构动态规划，通过 Plan-and-Solve 模块协同 ReActAgent 与 Workflow，实现多范式智能体的动态调度与任务分解，提升复杂任务处理的灵活性与执行效率。

8. 异构动态规划

OxyGent 支持异构动态规划，通过组合 ReActAgent、Workflow 与 Reflexion 等多范式智能体，构建可复用、高灵活性的复杂任务处理流程。在企业级场景中，系统常需兼顾确定性流程（如 Workflow）与动态推理能力（如 ReAct）。OxyGent 通过 PlanAndSolve 模块将两者解耦：由 Planner Agent 负责任务分解，Executor Agent 执行子流程，支持嵌套调用 ReAct 与 Reflexion 实现多轮推理与自省。该架构具备强可组合性与声明式编排能力，开发者仅需配置子 Agent 关系即可实现端到端任务调度。结合树状节点结构与上下文共享机制，系统在保证执行稳定性的同时，提升智能体的自主决策能力，适用于数据清洗、报告生成等需混合范式的 AI 应用场景。

9. 复杂拓扑结构智能体构建

OxyGent 支持复杂拓扑结构的快速构建，通过 sub_agents 属性与循环配置实现多层级组织架构（如 CEO→VP→Manager）的智能体编排。结合 team_size 参数可自动创建并行 Twin Agent 实例，支持多线程协同推理与结果聚合，实现高并发任务处理。系统在 5 分钟内可创建 2000+ 智能体，具备强可扩展性与工程化部署能力，适用于企业级客服、决策系统等复杂场景。

10. 简单 MOA

OxyGent 支持简单多智能体协作（Simple MoA），通过 team_size 参数实现单 Agent 的并行化扩展。当设置 team_size=4 时，系统自动创建四个同构 Twin Agent 实例，以异步并发方式执行相同任务，提升推理吞吐量与多样性。各子 Agent 独立推理后，由 Master Agent（如 RAGAgent）调用大模型对结果进行聚合与总结，实现群体智能决策。该机制无需额外代码，仅需配置即可完成 MoA 架构部署，显著降低开发复杂度。

11. 企业级多智能体系统

OxyGent 构建企业级多智能体系统的核心枢纽——Agent Server，作为连接知识库、MCP、LLM、数据存储与服务监控平台的统一中间件。通过标准化接口集成 KB Server、DeepSeek、ES、Redis 等异构系统，实现跨平台能力编排与智能体调度，支撑高可用性、可扩展性与可观测性的企业级 AI 应用架构。

12. OxyGent--连接企业平台/中间件与 Agent 的桥梁

OxyGent 作为企业级多智能体系统的中枢，通过原子化组件无缝集成各类内部平台。其 BankClient 对接知识库与底层存储（如 Elasticsearch、Redis），实现结构化数据的读写与 Memory 动态更新；MCPClient 支持标准 MCP 协议服务接入，而 FunctionHub 可调用任意 HTTP 接口，兼容未协议化的内部系统。大模型方面，RemoteLLM 和 LocalLLM 分别支持云端 API 调用与本地参数加载。通过 SSEOxyGent 或 A2A 子类，可连接外部 Agent 平台。更重要的是，系统基于基类 execute 生命周期提供非侵入式 Hook 机制，在不修改源码前提下，将 Prompt、History 与 Trace 数据对接企业私有监控平台（如京东内部系统），实现全链路可观测性，支撑高可用、安全合规的企业级 AI 服务部署。

13. OxyGent 赋能多项业务

OxyGent 是京东自研的企业级多智能体协作框架（MAS），已深度赋能商家智能助手、大模型 Copilot、商品运营 AI 等核心业务。支撑百万级 AI 服务调用，覆盖 C 端与 B 端全场景，具备高并发、强稳定性与可扩展性，实现从研发到生产落地的闭环能力，是真正面向大规模商业应用的工业级 AI 框架。

03

Bank 抽象与 OxyBank

1. Bank 是什么

OxyGent 引入 Bank 抽象，作为 AI 数据资产的“中央银行”，统一管理智能体所需的多源异构数据，包括对话历史（History）、长期记忆（Memory）与外部知识库。Bank 不仅是存储容器，更提供标准化的“存”与“取”服务接口，支持向量、结构化及非结构化数据的高效读写。通过 oxy.BankClient，智能体可动态加载上下文、检索知识，并将推理结果持久化为新记忆，形成认知闭环。该设计解耦了数据层与逻辑层，兼容多种底层存储，并支持访问控制与审计追踪，满足企业级系统对一致性、安全性与可扩展性的要求，为智能体的持续学习与自主进化奠定基础。

2.  构建原生 Memory Bank Server

OxyGent 提供了构建原生 Memory Bank Server 的完整能力，支持开发者通过轻量级代码快速搭建企业级数据存储与记忆管理服务。核心组件 BankRouter 作为专用 API 路由器，不仅具备标准 HTTP 接口定义能力，还内置 MAS 属性，使其天然集成 OxyGent 框架的多智能体调度机制，可直接调用其他 Oxy 实例执行任务，实现服务间协同推理。在示例中，user_profile_retrieve 和 user_profile_deposit 分别定义了读取与写入用户画像的接口，其中存款逻辑通过调用 bank_manager Agent 完成——该 Agent 接收当前 query、对话历史（context）和待更新内容，利用大模型进行语义理解与记忆融合，生成结构化记忆条目并返回。整个过程实现了“数据存入 → 多智能体协作 → 记忆演化”的闭环，具备高内聚、低耦合的设计特点。结合 oxy_space 的统一服务注册与发现机制，Bank Server 可被任意 BankClient 透明访问，支持跨服务、跨团队的数据共享与权限控制，满足企业级 AI 系统对可扩展性、可观测性与自主进化能力的核心需求。

3. OxyBank

我们开源了 Oxy Bank 全栈代码，支持私有化部署。基于 CS 架构，涵盖完整 Bank 平台功能模块，可灵活部署于任意环境，助力构建自主可控的金融知识库系统。

4. OxyBank--Create bank

OxyBank 支持结构化与非结构化数据的统一管理，可自动解析 PDF、TXT、Markdown 等格式文档。通过配置 chunk 模型与 embedding 模型，实现知识的自动化分块与向量化嵌入，构建高效的知识库系统，支持私有化部署，满足企业级知识管理需求。

5. 如何使用 Bank--oxy.BankClient

OxyBank 通过 oxy.BankClient 实现知识库的高效存取与智能体记忆管理。用户可将自定义 Bank 注册至 oxy_space，并通过 banks 属性注入至 ChatAgent，实现上下文感知的检索增强生成（RAG）。在执行流程中，前置调用 retrieve_bank 完成知识召回，结合预设的 embedding 模型，实现结构化与非结构化数据的向量化嵌入。后置异步调用 deposit 接口，将智能体输出结果通过 func_process_output 钩子 dump_memory 函数写入 Bank，实现记忆闭环。支持私有化部署，服务端通过 HTTP 接口暴露，客户端通过 server_url 连接，确保低延迟、高可用的知识交互。整体流程覆盖从知识存储、检索到动态更新的全链路，适用于多轮对话、个性化推荐等场景，显著提升大模型应用的上下文一致性与知识时效性。

6. 像工具一样使用 Bank

OxyBank 利用 oxy.BankClient 实现智能体与知识库的无缝对接，通过配置 banks 属性将 Bank 集成至对话流程。借助 user_profile_deposit 函数更新用户记忆，结合上下文动态调整记忆内容，如从“我喜欢 OxyGent”推断出与 sports 相关联的记忆更新。此过程基于 RAG 技术，支持结构化数据与非结构化数据处理，增强对话连贯性和个性化体验。

7. OxyBank--标注回流

OxyBank 支持标注回流机制，集成 QA 标注平台，实现数据闭环优化。用户可通过“Annotation”功能对模型输出进行人工或自动化标注，支持基础 QA 任务的结构化标注流程。

8. Bank 全流程示例

OxyBank 构建了完整的知识管理与标注闭环流程。在初始化阶段，OxyGent Server 与多种 Bank Server（如 History、Memory、Knowledge）建立连接，并存储后端。用户请求触发检索增强生成（RAG），系统通过多路召回整合上下文，输入至智能体进行多轮 React 推理。交互历史自动存入 History Bank，关键记忆写入 Memory Bank。标注环节支持人工与 Agent 自动化协同，通过标注接口实现样本回流，结合主动学习策略优化模型。整个流程遵循标准化的 Bank 协议，实现知识的动态演化与持续迭代，适用于复杂场景下的大模型应用部署与运维。

04

未来展望:记忆、训练与持续进化

1. OxyGent Next--记忆与训练

OxyGent Next 聚焦智能体记忆与模型进化，实现知识向模型参数的直接迁移。在完成 Bank 知识积累后，系统支持将动态记忆（Memory）经由微调或参数高效更新技术（如 LoRA、Adapter）注入 LLM，实现模型认知能力的持续演进。结合 Agent 调度与 Bank 协议，构建闭环的“记忆-训练”体系，推动大模型从静态检索增强向动态参数化学习过渡，迈向可进化智能体架构。

2. 联合训练实现群体进化

团队通过联合训练实现智能体进化，融合 Banks 知识库与业务数据，构建 14B-SFT 及 14B-VR-GRPO 模型。实验表明，平均准确率提升至 90% 以上，显著优于基线（GPT-4o >85%）。采用参数高效微调与多任务学习策略，实现知识迁移与模型能力持续演进，推动大模型在实际场景中的性能优化与泛化能力提升。

分享嘉宾

INTRODUCTION

韩艾博士

京东集团

算法总监

中国科学院与美国康奈尔大学联合培养博士，北京大学双学士。开源项目 OxyGent 多智能体协作框架总架构师与核心开发。现任京东集团算法总监，CCF 大赛专家委员会专家。

点个在看你最好看

SPRING HAS ARRIVED