我要投稿

Alibaba开源WebDancer解决DeepResearch复杂信息检索难题

发布日期：2025-05-30 21:43:19 浏览次数： 1790

作者：CourseAI

微信搜一搜，关注“CourseAI”

本公众号主要关注NLP、CV、LLM、RAG、Agent等AI前沿技术，免费分享业界实战案例与课程，助力您全面拥抱AIGC。

Deep Research面临的问题

高质量数据集：

现有的 QA 数据集大多浅层，无法满足多步推理的需求。需要构建能够反映多样化用户意图和丰富交互上下文的高质量、细粒度浏览数据

可靠轨迹构建

构建支持长时推理和任务分解的可靠轨迹

可扩展且泛化的训练策略

设计能够使Agent在分布外的网络环境、复杂交互模式和长期目标下表现出鲁棒行为的可扩展和泛化训练策略

WebDancer

从数据和训练阶段的角度出发，提出了一个端到端的自主信息检索代理构建范式，通过四个关键阶段：

浏览数据构建

CRAWLQA：通过爬取知识性网站的网页，模仿人类浏览行为，递归访问子页面，并利用 GPT-4o 生成基于收集内容的 QA 对。
这种方法能够获取丰富的背景知识，为复杂问题的构建提供基础。
E2HQA：从简单的 QA 对开始，逐步通过搜索和重写问题，增加问题的复杂性。
这种方法能够激励代理从简单任务逐步过渡到复杂任务，提升其推理能力。

轨迹采样

基于 ReAct 框架，代理通过 Thought-Action-Observation 轮次进行交互。
通过拒绝采样，结合短链推理（Short-CoT）和长链推理（Long-CoT）策略，生成高质量的轨迹。
采用三阶段过滤框架：有效性控制、正确性验证和质量评估，确保轨迹的高质量。

监督微调(SFT)以实现有效的冷启动

利用合成的轨迹数据，对代理进行微调，使其能够适应多步推理任务。
通过屏蔽外部反馈的损失贡献，避免学习过程中的干扰，提升性能和鲁棒性。

通过强化学习(RL)优化Agent的决策能力和泛化能力

采用 DAPO 算法，通过动态采样机制，优化代理的决策过程，提升其在真实世界网络环境中的泛化能力。

实验结果

在实验中，WebDancer 在 GAIA 和 WebWalkerQA 两个基准测试中表现出色。

在 GAIA 的 Level 1、Level 2 和 Level 3 测试中，WebDancer 分别取得了 41.0%、30.7% 和 0% 的通过率，显著优于其他开源框架。表明 WebDancer 在处理复杂信息检索任务时具有显著优势。

WebDancer的核心在于通过高质量数据和有效的训练方法，使代理能够在动态多变的网络环境中表现出色。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-07-17

亚马逊最新编程智能体Kiro系统提示词揭秘

2025-07-16

Kimi这把 “干翻”了 GPT-4？别闹，它们压根没在一个酒局！

2025-07-16

百度开源了文心4.5，我想说点实话

2025-07-16

微软开源 NLWeb，掘了数万伪AI创业者的坟

2025-07-16

为什么说Dify或许不是最好的选择，但一定是是目前最适合的应用构建平台？

2025-07-16

来自 OpenAI 离职员工的爆料：关于 OpenAI 的一些思考

2025-07-15

两句话，让Claude Code+Kimi K2 跑了3小时爬完17个竞品网站、做了一份深度市场数据分析报告

2025-07-15

n8n技术详细介绍，使用场景，部署使用和详细案例

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

看大厂PM，如何玩转多个智能体开发平台

2025-06-17

53AI Hub重磅开源！让99%的智能体开发者赚到钱！

2025-06-17

源神降临！阿里 Qwen3 全系发布，免费商用，消费级显卡就能跑！(深度解读 + 实战case)

2025-04-29

Qwen3中性能最强MOE模型部署抛砖引玉 + 实测

2025-04-29

阿里Qwen3正式发布：最小6亿参数，叫板Gemini-2.5Pro

2025-04-29

刚刚，DeepSeek开源新版R1，媲美OpenAI最高o3模型

2025-05-29

Kimi K2详测，Claude国产平替有了

2025-07-14

豆包电脑版不讲武德降维打击本地部署AI知识库的开源选手

2025-05-12

事实证明千问qwen3小模型才是企业的生产力，他究竟能做什么呢？

2025-05-14

开源DeepSeek R1增强版：推理效率快200%，创新AoE架构

2025-07-07

大家都在问

为什么说Dify或许不是最好的选择，但一定是是目前最适合的应用构建平台？

2025-07-16

大模型检索“内卷”时代，BGE凭什么成为终极答案？

2025-07-15

n8n vs. Dify vs. Coze：新一代效率工具，谁是你的菜？

2025-07-13

国内 Agent 赛道最大融资诞生！阿里云为何重注这家“真能干活”的 AI 公司？

2025-07-08

大模型开源，厂商靠什么盈利？

2025-07-04

OpenAI首席研究官没有博士学位，你的985还有用吗？

2025-07-03

卷疯了！这个清华系Agent框架开源后迅速斩获1.9k stars，还要“消灭”Prompt？

2025-06-28

从 MCP 谈起，到底什么才是 AI Native 产品？

2025-06-25

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB