我要投稿

基于KG生成语料增强解决RAG问答幻觉问题的简单框架-Walk&Retrieve

发布日期：2025-05-29 12:25:03 浏览次数： 1722

作者：大模型自然语言处理

微信搜一搜，关注“大模型自然语言处理”

Walk&Retrieve基于知识图谱，利用基于图遍历和知识表述来进行零样本RAG的语料库生成。解决RAG系统的幻觉问题。该框架思路比较简单，核心点在于零样本RAG的语料库生成，下面来看看，供参考。

方法架构

语料生成

在框架中，语料生成该方法的核心步骤。该阶段从知识图谱中提取相关信息，并将其转化为适合LLM处理的文本格式。语料生成包括以下几个步骤：基于图的遍历、知识表示和索引。

1.基于图的遍历

随机游走：随机游走是一种随机过程，从一个节点开始，每次以均匀的概率选择当前节点的邻居节点进行移动。
其中，表示节点的邻居数量。对于每个节点，生成条长度为的随机游走路径。最终的语料库是所有节点的随机游走路径的集合。

优点：简单易行，适用于大规模图谱。
缺点：可能会产生重复路径和噪声。
广度优先搜索-BFS游走：BFS是一种图遍历算法，从根节点开始，逐层访问其邻居节点。对于每个根节点，构建一个层次结构，每一层的节点表示与根节点的最短路径距离。然后，按照层次顺序进行遍历，确保每个节点只被访问一次。
其中，，是最大深度。

优点：避免了重复路径，生成的游走路径更加多样化。
缺点：计算复杂度较高，尤其是在深层遍历时。

2.知识表示

LLM需要文本输入，需要将提取的图遍历路径转换为自然语言描述。使用预定义的提示模板，将每个节点的游走路径转化为自然语言句子。例如，对于一个随机游走的路径，可以生成类似“ 通过关系连接到，而通过关系连接到 ”的句子。

预定义的提示模板

3.索引

将每个游走路径转换为向量表示，并计算每个节点的全局表示，作为其所有游走路径向量的拼接。将节点及其对应的游走路径向量存储起来，便于在推理阶段进行快速检索。

检索问答

该阶段不是重点，与传统的RAG相同，包括将query编码、相似性检索（k近邻搜索）、上下文整合、答案生成。

答案生成prompt模板

实验性能

MetaQA上的性能：Walk&Retrieve-BFS在答案准确性和减少虚假答案方面表现最佳，相对提高了38.64%。其他基于KG的RAG系统虽然准确性高，但虚假答案更多。Walk&Retrieve-BFS在1跳、2跳和3跳问题上的真实性和减少无响应方面表现优异。

CRAG上的性能：Walk&Retrieve变体在答案准确性上优于仅使用LLM和基于文本的RAG，同时在虚假答案和无响应率上与之相当。由于CRAG的复杂性较高，Walk&Retrieve的性能略有下降，但仍表现出良好的鲁棒性。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-08-30

涌现观点｜RAG评估的"不可能三角"：当独角兽公司因AI评估失误损失10亿美元时，我们才意识到这个被忽视的技术死角

2025-08-29

RAG2.0进入“即插即用”时代！清华YAML+MCP让复杂RAG秒变“乐高”

2025-08-29

利用RAG构建智能问答平台实战经验分享

2025-08-29

RAG如七夕，鹊桥大工程：再看文档解析实际落地badcase

2025-08-29

基于智能体增强生成式检索（Agentic RAG）的流程知识提取技术研究

2025-08-29

RAG 为何能瞬间找到答案？向量数据库告诉你

2025-08-28

寻找RAG通往上下文工程之桥：生成式AI的双重基石重构

2025-08-28

万字长文详解优图RAG技术

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAGFlow中的Embeddings模型选择及向量数据库选型与实现分析

2025-06-05

RAG技巧与底层代码剖析

2025-06-06

RAG技术全解析：从基础原理到优化实战

2025-06-05

知识图谱+RAG：大幅提升智能问答系统准确率

2025-06-05

RAGFlow实战：如何根据文档类型选择最佳切片策略？

2025-06-20

从0到1落地一个RAG智能客服系统

2025-06-20

RAG彻底爆了！一文读懂其架构演进及核心要点

2025-07-15

详解RAG五种分块策略，技术原理、优劣对比与场景选型之道

2025-06-24

Agentic RAG：下一代智能检索与生成的革命性突破

2025-06-24

关于 RAGFlow 项目中 RAG 技术的实现分析

2025-06-05

大家都在问

RAG检索后如何应用更有效？

2025-08-28

一文搞懂大模型：何为深入理解RAG？

2025-08-25

别再往AI的知识库塞奇怪的东西了，什么样的知识适合作为RAG知识库？

2025-08-20

当AI学会“查资料”：RAG如何让智能回答更靠谱？

2025-08-11

响应速度提升300%、检索准确率90%：RAG如何让企业知识“活”起来赚钱？

2025-08-05

长文本放提示词中还是采用 RAG？

2025-07-28

AI大模型落地最后一公里：RAG？

2025-07-09

向量相似度检索遇到天花板，是否我们走错了？

2025-07-04

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部