我要投稿
利用知识图谱解决RAG问答幻觉问题的新框架，提高答案准确性和鲁棒性。 核心内容： 1. Walk&Retrieve框架的基于知识图谱的语料生成方法 2. 随机游走和广度优先搜索在图遍历中的应用 3. MetaQA和CRAG数据集上的实验性能评估
Walk&Retrieve基于知识图谱，利用基于图遍历和知识表述来进行零样本RAG的语料库生成。解决RAG系统的幻觉问题。该框架思路比较简单，核心点在于零样本RAG的语料库生成，下面来看看，供参考。
在框架中，语料生成该方法的核心步骤。该阶段从知识图谱中提取相关信息，并将其转化为适合LLM处理的文本格式。语料生成包括以下几个步骤：基于图的遍历、知识表示和索引。
随机游走：随机游走是一种随机过程，从一个节点开始，每次以均匀的概率选择当前节点的邻居节点进行移动。
其中， 表示节点 的邻居数量。 对于每个节点 ，生成 条长度为 的随机游走路径 。最终的语料库 是所有节点的随机游走路径的集合。
广度优先搜索-BFS游走：BFS是一种图遍历算法，从根节点开始，逐层访问其邻居节点。对于每个根节点 ，构建一个层次结构，每一层的节点表示与根节点的最短路径距离。然后，按照层次顺序进行遍历，确保每个节点只被访问一次。
其中，， 是最大深度。
LLM需要文本输入，需要将提取的图遍历路径转换为自然语言描述。使用预定义的提示模板，将每个节点的游走路径转化为自然语言句子。例如，对于一个随机游走的路径 ，可以生成类似“ 通过关系 连接到 ，而 通过关系 连接到 ”的句子。
将每个游走路径 转换为向量表示，并计算每个节点的全局表示，作为其所有游走路径向量的拼接。将节点及其对应的游走路径向量存储起来，便于在推理阶段进行快速检索。
该阶段不是重点，与传统的RAG相同，包括将query编码、相似性检索（k近邻搜索）、上下文整合、答案生成。
MetaQA上的性能：Walk&Retrieve-BFS在答案准确性和减少虚假答案方面表现最佳，相对提高了38.64%。其他基于KG的RAG系统虽然准确性高，但虚假答案更多。Walk&Retrieve-BFS在1跳、2跳和3跳问题上的真实性和减少无响应方面表现优异。
CRAG上的性能：Walk&Retrieve变体在答案准确性上优于仅使用LLM和基于文本的RAG，同时在虚假答案和无响应率上与之相当。由于CRAG的复杂性较高，Walk&Retrieve的性能略有下降，但仍表现出良好的鲁棒性。
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-05-31
RAG（检索增强生成）：提升大语言模型性能的终极指南
2025-05-31
DO-RAG：一种使用知识图谱增强检索辅助生成的领域特定问答框架 - 清华大学等
2025-05-30
2025年GitHub上十大RAG框架深度解析：从技术原理到实战应用
2025-05-30
90%企业不知道的RAG优化秘籍：Dify原生集成RAGflow (2)
2025-05-30
RAG其实并没有你想的那么简单，Late Chunking vs Contextual Retrieval解决上下文难题
2025-05-30
基于Gemini与Qdrant构建生产级RAG管道：设计指南与代码实践
2025-05-30
RAG和向量数据库之间有什么关系?
2025-05-30
RAG相关术语快速了解
2024-10-27
2024-09-04
2024-05-05
2024-07-18
2024-06-20
2024-06-13
2024-07-09
2024-07-09
2024-05-19
2024-07-07
2025-05-30
2025-05-29
2025-05-29
2025-05-23
2025-05-16
2025-05-15
2025-05-14
2025-05-14
回到顶部
粤ICP备17114055号