我要投稿

RAG遇上知识冲突，Google祭出终极大招~

发布日期：2024-11-01 08:22:56 浏览次数： 2108

作者：NLP前沿

微信搜一搜，关注“NLP前沿”

在RAG的时候，再好的recall + rerank + 筛选策略，都会出现知识冲突，或query无关的候选知识的情况。文中称这种现象为“不完美检索”。

通常，当检索精度不低于 20%时，RAG 是有帮助的。当检索精度接近 0 时，带有 RAG 的模型的表现要比没有 RAG 的模型差。添加更多的检索段落并不一定导致更好的性能，因为额外的段落可能会降低检索精度。

核心流程如下图，分为3大步：

通过特定的prompt，引导LLMs生成准确、相关且无幻觉的问题相关的文本片段。设定最大的片段数量，所以LLMs可以自适应地决定生成多少文段，并在内部知识中没有更多可靠信息时停止生成。
将1生成的知识和2的知识结合导一起，每个文档段会表示元信息（来源），用于评估该片段的可靠性。通过迭代，让LLMs来识别哪些段落一致，分成一组一组的，过滤不相干的信息，哪些组之间是冲突冲突的。
基于每一组不冲突的文档块集合，生成一个答案，最后会让LLM综合来源，得到最可靠的一个答案。

其中步骤2可以迭代多次。总体上可以获得不错的提升。

一个示例如下：图片wx翻译

3个步骤都是prompt来完成，wx图片翻译的prompt如下，仅供参考

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-06-15

如何创建具有自我评估机制的Agent RAG

2025-06-15

RAG效果炸裂，亲测EasyDoc文档解析，结构化输出太香了

2025-06-14

一分钟读懂RAG的切分策略

2025-06-14

RAG-embedding篇

2025-06-14

RAG 信息检索：如何让模型找到‘对的知识’

2025-06-14

什么是RAG？一文搞懂检索增强生成技术

2025-06-14

AI开发实战：解决RAG的召回不准问题

2025-06-13

揭开RAG的神秘面纱：90%的人不知道腾讯IMA底层原理

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

通义QwQ-32B+Milvus，消费级显卡布满血大模型与RAG的时代来了！

2025-03-21

RAG检索增强之Reranker重排序模型详解！

2025-03-20

大模型 RAG 终极指南：信息检索 + 文本向量化 + BGE-M3 实践全解析！

2025-03-24

MCP、RAG、Agent之间的概念和关系，被我和AI协作的12张图总结了

2025-03-24

AI Agent 记忆技术浅析

2025-03-19

一个能给大模型加上“记忆”的工具，让 AI 助手更懂你，Star 26K+！

2025-03-24

Ragflow技术栈分析及二次开发指南

2025-03-28

让模型更懂你的业务！RAG原理和解决方案解析

2025-04-01

RAG 开发实例

2025-03-23

本地化大模型接入RagFlow错误记录

2025-04-13

大家都在问

从零开始学 Dify - Dify 的 RAG 系统如何有效地处理和检索大量文档？

2025-06-13

通过 RAG如何扩展提示词Prompting?

2025-06-09

为什么 RAG 一定需要 Rerank？

2025-06-06

RAG和向量数据库之间有什么关系?

2025-05-30

超越基础：Agentic Chunking 如何彻底改变 RAG？

2025-05-29

用Milvus构建RAG系统，N8N VS dify 如何选？

2025-05-29

【RAG】给传统企业搞AI转型，RAG项目最难啃的骨头是啥？

2025-05-23

解锁AI时代的核心通关密码——为什么你必须搞懂RAG、Agent、MCP？

2025-05-16

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204

上海：上海市浦东新区金新路58号1602室

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部