我要投稿

Alibaba开源WebDancer解决DeepResearch复杂信息检索难题

发布日期：2025-05-30 21:43:19 浏览次数： 1545 作者：CourseAI

本公众号主要关注NLP、CV、LLM、RAG、Agent等AI前沿技术，免费分享业界实战案例与课程，助力您全面拥抱AIGC。

Deep Research面临的问题

高质量数据集：

现有的 QA 数据集大多浅层，无法满足多步推理的需求。需要构建能够反映多样化用户意图和丰富交互上下文的高质量、细粒度浏览数据

可靠轨迹构建

构建支持长时推理和任务分解的可靠轨迹

可扩展且泛化的训练策略

设计能够使Agent在分布外的网络环境、复杂交互模式和长期目标下表现出鲁棒行为的可扩展和泛化训练策略

WebDancer

从数据和训练阶段的角度出发，提出了一个端到端的自主信息检索代理构建范式，通过四个关键阶段：

浏览数据构建

CRAWLQA：通过爬取知识性网站的网页，模仿人类浏览行为，递归访问子页面，并利用 GPT-4o 生成基于收集内容的 QA 对。
这种方法能够获取丰富的背景知识，为复杂问题的构建提供基础。
E2HQA：从简单的 QA 对开始，逐步通过搜索和重写问题，增加问题的复杂性。
这种方法能够激励代理从简单任务逐步过渡到复杂任务，提升其推理能力。

轨迹采样

基于 ReAct 框架，代理通过 Thought-Action-Observation 轮次进行交互。
通过拒绝采样，结合短链推理（Short-CoT）和长链推理（Long-CoT）策略，生成高质量的轨迹。
采用三阶段过滤框架：有效性控制、正确性验证和质量评估，确保轨迹的高质量。

监督微调(SFT)以实现有效的冷启动

利用合成的轨迹数据，对代理进行微调，使其能够适应多步推理任务。
通过屏蔽外部反馈的损失贡献，避免学习过程中的干扰，提升性能和鲁棒性。

通过强化学习(RL)优化Agent的决策能力和泛化能力

采用 DAPO 算法，通过动态采样机制，优化代理的决策过程，提升其在真实世界网络环境中的泛化能力。

实验结果

在实验中，WebDancer 在 GAIA 和 WebWalkerQA 两个基准测试中表现出色。

在 GAIA 的 Level 1、Level 2 和 Level 3 测试中，WebDancer 分别取得了 41.0%、30.7% 和 0% 的通过率，显著优于其他开源框架。表明 WebDancer 在处理复杂信息检索任务时具有显著优势。

WebDancer的核心在于通过高质量数据和有效的训练方法，使代理能够在动态多变的网络环境中表现出色。

https://github.com/Alibaba-NLP/WebAgent

https://arxiv.org/pdf/2505.22648

推荐阅读

IBM放出『PDF灭霸』:2.56亿参数屠榜文档AI
Manus，自动编程+爬虫二合一" data-itemshowtype="0" linktype="text" data-linktype="2">3.4KStar 字节跳动扔出王炸LangManus，自动编程+爬虫二合一
港中大&华为云联合突破！首次提出GraphRAG统一框架
MCP服务器！企业级AI应用首选方案" data-itemshowtype="0" linktype="text" data-linktype="2">一行代码FastAPI秒变MCP服务器！企业级AI应用首选方案
Anthropic官方推荐！LangChain MCP双协议支持全球800+工具
3.4K Star 港大开源AutoAgent登顶GAIA全球评测，成本直降50%碾压商业巨头
Alibaba推出Embodied-Reasoner，持续反思，自我纠错，破解任务规划难题！
DeepSeek过度思考「自省式推理」登顶多跳问答榜" data-itemshowtype="0" linktype="text" data-linktype="2">清华ReaRAG，严防Deepseek过度思考「自省式推理」登顶多跳问答榜

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-06-01

为AI Agent增加超长记忆，开源创新框架超30000颗星

2025-05-31

阿里巴巴开源WebAgent：让AI像人类一样自主搜索、推理与行动

2025-05-30

Lemon AI重磅开源！5分钟部署你的专属全栈通用AI Agent，带你解锁智能体验

2025-05-30

DeepWiki让Github源代码秒变文档知识库

2025-05-30

MCP：释放AI Agent生产力的“万能转接口”

2025-05-30

免费GPU算力部署DeepSeek-R1 32B

2025-05-30

AgenticSeek: 100% 本地替代 Manus AI 的方案

2025-05-29

当Dify遇上可视化图表MCP（AntV），数据展示像呼吸一样简单

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Ollama 本地运行大模型(LLM)完全指南

2024-07-25

我把最近爆火的 DeepSeek-V3 接到了 Cursor！

2025-01-01

万字详解DeepSeek-R1，引爆AI圈的又一力作，大模型爆发势不可挡！

2025-01-21

太强了！10大开源大模型！

2024-05-06

QWEN2.5开源上新，14B/32B回归实测：这就是最强单卡本地模型！

2024-09-20

全民进入GPT-4时代：OpenAI强势推出GPT-4o mini！彻底取代GPT-3.5！

2024-07-20

如何免费使用 Claude AI？Claude使用指南！

2024-07-11

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

2024-06-12

DeepSeek-V3 正式发布

2024-12-26

开源项目Composio：突破 AI 智能体开发的边界

2024-08-13

大家都在问

如何管理和调度Dify工作流？

2025-05-28

字节开源文档解析Dolphin，PDF解析效率提升83%，到底行不行？

2025-05-28

蚂蚁集团开源antv的MCP服务：AI智能体与数据可视化的桥梁如何搭建？

2025-05-26

拆解OpenAI最大对手的杀手锏：为什么会是MCP？

2025-05-25

从基础大模型到场景适配，企业如何做好商业化最后一公里？

2025-05-23

AI 开源框架：Dify、Zylon、AutoGPT、Flowise、LangChain、React-Flow怎么选？

2025-05-17

刚刚，OpenAI丢出最强编程智能体Codex！倒反天罡——新上线功能竟是微软Copilotb鼻祖？

2025-05-17

刚刚，OpenAI发布自主编码代理Codex，程序员的工作将被彻底颠覆？

2025-05-17

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB