我要投稿

ERRR：基于参数知识的查询优化框架，增强RAG系统的准确性

发布日期：2024-12-12 22:42:23 浏览次数： 1801 作者：AI 搜索引擎

今天分享的是解决检索增强生成系统中预检索信息差距的一个方法：ERRR。

论文链接: https://arxiv.org/pdf/2411.07820v1

01

简介

随着大型语言模型（LLM）在自然语言处理领域的广泛应用，检索增强生成（RAG）技术被提出，以解决LLM知识局限性导致的“幻觉”问题。RAG系统通过检索外部知识库来增强LLM的知识，从而生成更准确、更相关的答案。

然而，现有的RAG系统存在一个关键问题：预检索信息差距。原始用户查询检索到的信息与生成准确答案所需信息之间存在差距，导致LLM无法生成准确的答案。现有的RAG系统主要采用查询重写方法来缩小预检索信息差距，例如Rewrite-Retrieve-Read（RRR）框架。RRR框架通过训练一个查询重写模块，将原始用户查询重写为更准确的查询，从而检索到更相关的文档。然而，RRR框架主要关注查询重写，而忽略了LLM的特定知识需求，导致查询重写的效果有限。

为了解决预检索信息差距问题，文章提出了Extract-Refine-Retrieve-Read（ERRR）框架。与RAG中使用的传统查询优化技术不同，ERRR框架首先从LLM中提取参数化知识，然后使用专门的查询优化器对这些查询进行精炼。这个过程确保了仅检索生成准确响应所需的最相关信息。在多个问答数据集和检索系统上的实验结果表明，ERRR框架在准确性和效率方面都优于现有的RAG系统，包括RRR框架。

02

框架

ERRR 的整体框架如上图 (iii) 所示，其主要由参数知识提取 (Parametric Knowledge Extraction)、查询优化 (Query Optimization)、检索 (Retrieval) 和生成 (Generation) 这四部分组成。下面详细介绍每一组成部分。

1. 参数知识提取 (Parametric Knowledge Extraction):

目标：从LLM中提取与原始查询相关的参数知识，以便为后续的查询优化提供重要的上下文信息基础。
方法：使用直接提示，让LLM生成包含与原始查询相关的背景信息的伪上下文文档。

2. 查询优化 (Query Optimization):

目标：根据参数知识和LLM的特定知识需求，生成一个或多个经过优化的查询，其能更准确地反映LLM的知识需求和用户的查询意图，以便检索到更相关的文档。
方法：使用LLM作为查询优化器，并通过提示生成优化查询。此外，为了提高灵活性和降低计算成本，文章还提出了一个可训练的方案，该方案使用一个较小的可调整模型作为查询优化器，并通过知识蒸馏从大型教师模型中进行精炼。

3. 检索 (Retrieval):

目标：根据优化查询检索相关文档，作为LLM生成答案的依据。
方法：为了提高框架在各种检索系统和数据源之间的适应性，该框架提供了两种不同的检索系统。

Web 搜索工具: 例如 Google 或 Brave Web Search Engine。
本地密集检索系统: 例如 Dense Passage Retrieval (DPR)。

4. 生成 (Generation):

目标：使用LLM根据检索到的文档和原始查询生成最终答案。
方法：使用指令提示与示例性提示，让LLM生成最终答案：

指令性‍提示：直接告诉LLM阅读器使用检索到的文档和原始查询来生成答案。
示例性提示：为每个数据集，提供几个示例，说明如何使用检索到的文档和原始查询来生成答案，以保持对LLM对不同任务的特定输出格式的控制。

03

总结

Extract-Refine-Retrieve-Read (ERRR)框架是一种旨在提升RAG性能的架构。ERRR框架通过参数知识提取和查询优化技术，有效地解决了预检索信息差距问题，显著提高了RAG系统的准确性和效率。ERRR框架为RAG技术的发展和应用提供了新的思路和方法。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-04-30

聊聊AI智能体框架MetaGPT下的RAG实践

2025-04-30

如何用大模型+RAG给宠物做一个AI健康助手（干货分享）？

2025-04-30

HiRAG:基于层级知识索引和检索的高精度RAG

2025-04-29

教程|通义Qwen 3 +Milvus，混合推理模型才是优化RAG成本的最佳范式

2025-04-29

RAG开发框架LangChain与LlamaIndex对比解析：谁更适合你的AI应用？

2025-04-29

RAG性能暴增20%！清华等推出“以笔记为中心”的深度检索增强生成框架，复杂问答效果飙升

2025-04-29

超神了，ChatWiki 支持GraphRAG，让 AI 具备垂直深度推理能力！

2025-04-29

AI 产品思维：我如何把一个 AI 应用从基础 RAG 升级到 multi-agent 架构

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

2024-10-27

一文彻底搞懂大模型 - RAG（检索、增强、生成）

2024-09-04

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

RAG框架，都在这了!

2024-06-20

RAG 高效应用指南：Embedding 模型的选择和微调

2024-06-13

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

微软开源的GraphRAG解读

2024-07-09

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

大家都在问

如何用大模型+RAG给宠物做一个AI健康助手（干货分享）？

2025-04-30

RAG开发框架LangChain与LlamaIndex对比解析：谁更适合你的AI应用？

2025-04-29

做好 AI Agent 最重要的是什么？

2025-04-29

RAG比之MCP或长上下文LLM，要没落了吗？

2025-04-26

HR AI小科普——什么是MCP？

2025-04-25

RAG应用必备！10种向量数据库全解析、Weaviate、Milvus、pgvector、Qdrant等热门工具谁更强？

2025-04-22

18种RAG技术大比拼：谁才是检索增强生成的最佳选择？

2025-04-22

大模型能像专业分析师一样提取用户需求吗？

2025-04-20

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204

上海：上海市浦东新区金新路58号1602室

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部