微信扫码
添加专属顾问
我要投稿
大模型推理,一般指的是将任务分解为更小的子集并单独解决这些子集。Chain-of-Thought, Tree-of-Tought, Skeleton-of-Thought, Reflexion等等,都是LLMs中解决推理能力的一些技巧。
当然推理的范畴还涉及一些借助外部能力,例如访问外部数据或工具。在过去几年中,我们看到模型在特定场景推理技术中表现得非常好,但它们未能跨领域泛化。并且推理是一项计算成本非常高的任务。最近有一个开源框架-哈士奇,由 Meta AI、华盛顿大学的科学家们开源。
框架开源地址 & 论文地址:
https://arxiv.org/html/2406.06469v1
https://github.com/agent-husky/Husky-v1
论文标题:Husky: A Unified, Open-Source Language Agent for Multi-Step Reasoning
先看效果:
HUSKY-哈士奇 是一个开源Agent,主要处理涉及数字、表格和基于知识的推理的各种复杂任务。与其他专注于特定任务或使用专有模型的智能体不同,HUSKY 在统一的框架内运行来应对不同的挑战。它分两个阶段工作:首先,它生成解决任务所需的下一个动作;其次,它使用专家模型执行此操作,并随着解决方案的进展而更新解决方案。
对于需要多步推理的任务,HUSKY 会预测下一步的动作和相应的工具,然后用专家模型来执行。这个过程一直持续到找到最终答案为止。 HUSKY 使用多个 LLMs 来协调专家模型,类似于一群哈士奇一起拉雪橇。
训练哈士奇
HUSKY 的训练涉及到使用教师模型创建工具集成的解决方案轨迹。这些轨迹有助于为动作生成器和专家模型构建训练数据。训练流程被简化且可推广,确保 HUSKY 可以处理广泛的任务,而无需特定于任务的假设。
最后:
HUSKY 代表了language agent的重大进步,为复杂的推理任务提供了多功能的开源解决方案。其整体方法将行动生成和执行与专家模型相结合,使其能够有效应对各种挑战。从各种评估中可以看出,HUSKY 的表现凸显了它重新定义语言代理处理复杂问题的潜力。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-06-14
从天价咨询到免费AI,夸克能改变志愿填报这门生意吗?
2025-06-14
开源破局,中国AI正在改写全球竞争格局!
2025-06-13
MinerU-利用专用LLM模型提取PDF内容的工具实测
2025-06-13
官宣|Milvus 2.6正式开源:内存减少 72%,速度比ES快4倍
2025-06-13
CoCo:全球首个“有记忆”的企业级AI Agent
2025-06-13
OpenAI 三连更:Team 上线 o3-pro、o3 额度翻倍、Projects 大升级!
2025-06-13
Manus免费版来了!两大核心更新功能实测
2025-06-13
[开源]RAGFlow: 基于深度文档理解的开源RAG引擎
2025-03-19
2025-03-19
2025-03-17
2025-04-01
2025-04-01
2025-04-13
2025-04-29
2025-03-19
2025-03-23
2025-03-22
2025-06-14
2025-06-10
2025-06-08
2025-05-28
2025-05-28
2025-05-26
2025-05-25
2025-05-23