我要投稿

搭建 RAG 系统的技巧和策略

发布日期：2025-01-24 07:00:49 浏览次数： 2630

作者：机器智元

微信搜一搜，关注“机器智元”

【导读】RAG（Retrieval-Augmented Generation）是一种结合检索和生成的混合系统，在当前大模型的实际应用中具有重要意义。以下是我在之前分享的一些RAG搭建技巧和策略，供大家学习和参考。由于实验是在企业数据上进行验证的，因此不展示具体数据，仅进行技巧上的探讨。

RAG优势

通过结合检索和生成的优势，RAG显著提高了LLM答案的准确性、相关性和可解释性，并减少了幻觉现象。尽管LLM在处理长文本方面的能力不断增强，但在短期内，RAG的优势依然不可替代。

RAG框架流程

可以大致概括为4个部分：1）文档切分入库；2）问题处理；3）召回；4）大模型生成。

RAG文档切分入库

切分入库是RAG文档解析的第一步，通常可以使用现成的Python工具来实现，LangChain也提供了相关集成。对于多模态数据，可以采用OCR或VLLM等技术来解析其中的有效信息。

知识切分

文档切分是一个非常重要的环节，它直接关系到片段召回的完整性和生成质量。根据文档类型的不同，切分策略也有所不同。以下介绍了针对四种情况的不同切分方式。

多级索引

通常情况下，片段可以直接入库。然而，如果基于这些片段构建摘要和查询的索引，并将其链接回原始片段，可以显著增强检索效果。

问题处理

对于问题的处理通常容易被忽视，但实际上这一部分有许多可以尝试的改进点。通过优化问题处理，不仅可以提升整个系统的健壮性，还能显著改善用户体验。

召回排序模块

这一部分是RAG的核心模块，通常采用向量粗排和重排序（reranker）精排的策略。可以根据具体业务需求设计多种召回策略，充分利用知识库自带的信息。总之，召回模块应尽可能实现对知识的全面召回。

大模型生成

大模型生成部分的关键在于模型的选择和微调。在调试提示词（prompt）时，可以根据业务的复杂性进行多种尝试。如果是推理型问题，可以在提示词中增加思维链；如果涉及计算题，可以要求模型生成公式或代码，再计算结果。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-05-11

到底是谁会相信RAG已死啊？

2026-05-11

RAG又进化了！微软整了个企业级AgenticRAG

2026-05-11

AI Agent 如何重构 App 稳定性治理流程

2026-05-09

阿里云知识存储 skill？能接入openclaw/Hermes/codex吗

2026-05-07

阿里云知识存储 Skill 上架阿里云官网首批 Agent Skill：让智能体拥有企业级知识库

2026-05-07

1G内存检索2500万向量，Milvus中如何用FLAT在强标量过滤场景搞定毫秒响应？

2026-05-06

多Agent场景，子agent 之间数据读写不同步，如何解决？

2026-05-06

看 AgentRun 如何玩转记忆存储，最佳实践来了！

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

深度解析 PageIndex：无向量 RAG 框架的技术实现与原理剖析

2026-02-13

知识基座：让“AI 越用越懂业务”的团队经验实践【天猫AI Coding实践系列】

2026-03-23

全网爆火的大模型AI知识库，保姆级教程来了

2026-04-06

不用向量数据库的 RAG，居然跑得更准了？

2026-02-22

从RAG到GraphRAG：货拉拉元数据检索应用实践

2026-03-18

为什么总感觉 Claude Code 比 Cursor 聪明？真正的原因根本不是模型能力！

2026-03-20

当RAG遇上Agent记忆：为什么相似度检索会"塌方"？

2026-02-15

如何用 AI 做业务级 Code Review

2026-02-27

Claude Code 每次都要重新探索代码？这个工具直接省下30%成本

2026-02-21

面向手机Agent的记忆系统工程:OPPO的Agentic-RAG实战与演进

2026-03-21

大家都在问

到底是谁会相信RAG已死啊？

2026-05-11

1G内存检索2500万向量，Milvus中如何用FLAT在强标量过滤场景搞定毫秒响应？

2026-05-07

多Agent场景，子agent 之间数据读写不同步，如何解决？

2026-05-06

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-27

多轮对话时，RAG反复做重复召回，模型层与Milvus层分别如何解决？

2026-04-21

企业AI落地三重门，用友如何破局？

2026-03-17

Embedding相似度虚高，如何用langchain+Milvus搭建CRAG解决？

2026-03-11

不用向量数据库的 RAG，居然跑得更准了？

2026-02-22

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部