我要投稿

ERRR：基于参数知识的查询优化框架，增强RAG系统的准确性

发布日期：2024-12-12 22:42:23 浏览次数： 2411

作者：AI 搜索引擎

微信搜一搜，关注“AI 搜索引擎”

今天分享的是解决检索增强生成系统中预检索信息差距的一个方法：ERRR。

论文链接: https://arxiv.org/pdf/2411.07820v1

01

简介

随着大型语言模型（LLM）在自然语言处理领域的广泛应用，检索增强生成（RAG）技术被提出，以解决LLM知识局限性导致的“幻觉”问题。RAG系统通过检索外部知识库来增强LLM的知识，从而生成更准确、更相关的答案。

然而，现有的RAG系统存在一个关键问题：预检索信息差距。原始用户查询检索到的信息与生成准确答案所需信息之间存在差距，导致LLM无法生成准确的答案。现有的RAG系统主要采用查询重写方法来缩小预检索信息差距，例如Rewrite-Retrieve-Read（RRR）框架。RRR框架通过训练一个查询重写模块，将原始用户查询重写为更准确的查询，从而检索到更相关的文档。然而，RRR框架主要关注查询重写，而忽略了LLM的特定知识需求，导致查询重写的效果有限。

为了解决预检索信息差距问题，文章提出了Extract-Refine-Retrieve-Read（ERRR）框架。与RAG中使用的传统查询优化技术不同，ERRR框架首先从LLM中提取参数化知识，然后使用专门的查询优化器对这些查询进行精炼。这个过程确保了仅检索生成准确响应所需的最相关信息。在多个问答数据集和检索系统上的实验结果表明，ERRR框架在准确性和效率方面都优于现有的RAG系统，包括RRR框架。

02

框架

ERRR 的整体框架如上图 (iii) 所示，其主要由参数知识提取 (Parametric Knowledge Extraction)、查询优化 (Query Optimization)、检索 (Retrieval) 和生成 (Generation) 这四部分组成。下面详细介绍每一组成部分。

1. 参数知识提取 (Parametric Knowledge Extraction):

目标：从LLM中提取与原始查询相关的参数知识，以便为后续的查询优化提供重要的上下文信息基础。
方法：使用直接提示，让LLM生成包含与原始查询相关的背景信息的伪上下文文档。

2. 查询优化 (Query Optimization):

目标：根据参数知识和LLM的特定知识需求，生成一个或多个经过优化的查询，其能更准确地反映LLM的知识需求和用户的查询意图，以便检索到更相关的文档。
方法：使用LLM作为查询优化器，并通过提示生成优化查询。此外，为了提高灵活性和降低计算成本，文章还提出了一个可训练的方案，该方案使用一个较小的可调整模型作为查询优化器，并通过知识蒸馏从大型教师模型中进行精炼。

3. 检索 (Retrieval):

目标：根据优化查询检索相关文档，作为LLM生成答案的依据。
方法：为了提高框架在各种检索系统和数据源之间的适应性，该框架提供了两种不同的检索系统。

Web 搜索工具: 例如 Google 或 Brave Web Search Engine。
本地密集检索系统: 例如 Dense Passage Retrieval (DPR)。

4. 生成 (Generation):

目标：使用LLM根据检索到的文档和原始查询生成最终答案。
方法：使用指令提示与示例性提示，让LLM生成最终答案：

指令性‍提示：直接告诉LLM阅读器使用检索到的文档和原始查询来生成答案。
示例性提示：为每个数据集，提供几个示例，说明如何使用检索到的文档和原始查询来生成答案，以保持对LLM对不同任务的特定输出格式的控制。

03

总结

Extract-Refine-Retrieve-Read (ERRR)框架是一种旨在提升RAG性能的架构。ERRR框架通过参数知识提取和查询优化技术，有效地解决了预检索信息差距问题，显著提高了RAG系统的准确性和效率。ERRR框架为RAG技术的发展和应用提供了新的思路和方法。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-06-22

传统RAG已经落伍了？清华大神开源的这个 rag-skill，让知识库检索直接升维

2026-06-22

从个人知识库到企业级 RAG：我们最终选了 WeKnora

2026-06-22

RAG 不是先向量检索再回答：Metadata Filter 才是企业知识库的第一道门

2026-06-21

使用 LangSmith 进行 RAG 评估：构建生产级 RAG 系统的 AI 开发者指南

2026-06-20

RAG 投毒的六个影响因素与防御框架

2026-06-20

RAG 性能暴涨 5.9 倍！微软新框架让 LLM 自主检索，无需训练直接部署

2026-06-19

RAGular：适合知识库体质的 OCR 助手

2026-06-18

阿里扔出「向量版 SQLite」！十亿级向量毫秒检索，一行 pip install 搞定，本地 RAG 的游戏规则变了

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

全网爆火的大模型AI知识库，保姆级教程来了

2026-04-06

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-27

RAG进化了，深扒Claude Code源码中RAG高级技巧

2026-04-02

OpenDataLoader：PDF文档提取的一站式方案

2026-03-31

2026 年做搜索就是做 Agent Memory

2026-04-23

Codeindex · 让大模型更好地理解你的代码

2026-04-20

阿里云百炼「记忆库」正式上线，让龙虾真正记住你！

2026-04-09

YC CEO 的 AI 记住了 3000 个人

2026-04-12

专题解读 | 可更新的检索增强知识库发展方向及进展

2026-04-22

AI 答疑助手优化实践：从 RAG 到 LightRAG 的全链路升级

2026-04-10

大家都在问

RAG运维如何用好Loop Engineering？Milvus 3.0 对它有什么价值？

2026-06-15

如何构建一个更“好”的知识库？

2026-06-10

企业 RAG 知识库落地，应如何设计实现？

2026-06-10

AIOps探索：给不能联网的客户做一个AI运维助手到底有多难？

2026-05-20

有多少人把Agent与RAG的检索策略，简化成了 if-else？

2026-05-18

到底是谁会相信RAG已死啊？

2026-05-11

1G内存检索2500万向量，Milvus中如何用FLAT在强标量过滤场景搞定毫秒响应？

2026-05-07

多Agent场景，子agent 之间数据读写不同步，如何解决？

2026-05-06

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件 FDE AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部