免费POC, 零成本试错
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


我要投稿

智能体工具调度的新突破:8B小模型击败GPT-5

发布日期:2025-11-28 14:35:23 浏览次数: 1669
作者:AI工程化

微信搜一搜,关注“AI工程化”

推荐语

小模型也能有大智慧!香港大学与NVIDIA团队开发的8B参数调度模型,在多项测试中超越GPT-5表现。

核心内容:
1. 传统智能体工作流的两大缺陷与性能瓶颈
2. ToolOrchestra框架的强化学习解决方案与三大技术突破
3. 开源项目包含完整训练数据集ToolScale及实际应用效果

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家

香港大学与NVIDIA团队发现搭建智能体工作流的两个关键问题:仅靠提示词工程的工作流存在性能天花板,同时,静态路由策略还会导致资源浪费。


针对于此,他们通过其ToolOrchestra框架强化学习训练了一个8B参数的调度模型(Orchestrator-8B),在三个基准测试中表现突出:

  • HLE(人类最后一考):37.1%准确率,超越GPT-5的35.1%
  • τ²-Bench:成本降低70%的情况下准确率更高
  • FRAMES:响应延迟降低40%

研究团队发现传统工作流存在两个典型缺陷:

  • 自我增强偏见:过度调用自身简化版模型(如GPT-5-mini被调用占比达66%)
  • 资源错配:78%的简单任务仍调用顶级模型

而ToolOrchestra的解决的核心在于端到端强化学习训练,方案上:

  1. 多目标强化学习同时优化结果质量、效率和用户偏好
  2. 支持长周期决策,能自主判断何时调用何种工具(包括本地搜索、代码解释器、专业大模型等)
  3. 内置成本控制机制,避免无脑调用最贵模型

团队还开源了完整训练数据集ToolScale,覆盖10个领域(金融、体育、电商等),包含4063个多轮工具调用任务。数据生成采用两步流程:先模拟真实环境(数据库schema和API),再生成多样化任务。包含10个领域的数千条多轮工具调用记录。

有开发者尝试部署后反馈,在电影票务系统等需要多步操作的场景中,响应速度比传统方案快2-3倍。

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询