我要投稿

搭建 RAG 系统的技巧和策略

发布日期：2025-01-24 07:00:49 浏览次数： 2455

作者：机器智元

微信搜一搜，关注“机器智元”

【导读】RAG（Retrieval-Augmented Generation）是一种结合检索和生成的混合系统，在当前大模型的实际应用中具有重要意义。以下是我在之前分享的一些RAG搭建技巧和策略，供大家学习和参考。由于实验是在企业数据上进行验证的，因此不展示具体数据，仅进行技巧上的探讨。

RAG优势

通过结合检索和生成的优势，RAG显著提高了LLM答案的准确性、相关性和可解释性，并减少了幻觉现象。尽管LLM在处理长文本方面的能力不断增强，但在短期内，RAG的优势依然不可替代。

RAG框架流程

可以大致概括为4个部分：1）文档切分入库；2）问题处理；3）召回；4）大模型生成。

RAG文档切分入库

切分入库是RAG文档解析的第一步，通常可以使用现成的Python工具来实现，LangChain也提供了相关集成。对于多模态数据，可以采用OCR或VLLM等技术来解析其中的有效信息。

知识切分

文档切分是一个非常重要的环节，它直接关系到片段召回的完整性和生成质量。根据文档类型的不同，切分策略也有所不同。以下介绍了针对四种情况的不同切分方式。

多级索引

通常情况下，片段可以直接入库。然而，如果基于这些片段构建摘要和查询的索引，并将其链接回原始片段，可以显著增强检索效果。

问题处理

对于问题的处理通常容易被忽视，但实际上这一部分有许多可以尝试的改进点。通过优化问题处理，不仅可以提升整个系统的健壮性，还能显著改善用户体验。

召回排序模块

这一部分是RAG的核心模块，通常采用向量粗排和重排序（reranker）精排的策略。可以根据具体业务需求设计多种召回策略，充分利用知识库自带的信息。总之，召回模块应尽可能实现对知识的全面召回。

大模型生成

大模型生成部分的关键在于模型的选择和微调。在调试提示词（prompt）时，可以根据业务的复杂性进行多种尝试。如果是推理型问题，可以在提示词中增加思维链；如果涉及计算题，可以要求模型生成公式或代码，再计算结果。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-01-16

Dify 外部知识库最佳实践：基于 InfraNodus 扩展 RAG 图谱能力

2026-01-16

多层次理解向量匹配的底层原理

2026-01-15

2026 年你需要了解的 RAG 全解析

2026-01-14

官宣，Milvus开源语义高亮模型：告别饱和检索，帮RAG、agent剪枝80%上下文

2026-01-13

从RAG到记忆工程：AI长期记忆系统的架构范式与落地瓶颈

2026-01-13

索引选不对，成本贵十倍！ScaNN就是电商推荐的最优解

2026-01-13

Cursor 用文件系统重构上下文工程：5个实践讲透

2026-01-12

CES 2026 | 如何使用 RAG 和安全护栏构建语音智能体

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAG 深度解读：检索增强生成如何改变人工智能

2025-12-04

RAGFlow 深度介绍

2025-10-31

大模型生态的“不可能三角”：规模化应用的架构困境？

2025-11-04

大模型RAG入门宝典｜从AI搜索到实战搭建，小白&程序员必收藏的检索增强指南

2025-12-03

RAGFlow v0.22.0 发布：数据源同步、变量聚合、全新管理界面与多项重大更新

2025-11-13

5步构建企业级RAG应用：Dify与LangChain v1.0集成实战

2025-11-13

企业级 AI Agent规模化落地的避坑指南，就藏在这四大趋势里

2025-12-02

从 RAG 到 Agentic RAG，再到 Agent Memory：AI 记忆的进化三部曲

2025-11-05

RAG已经过时了？试试CAG，缓存增强生成技术实战大揭秘！

2025-11-06

RAG—Chunking策略实战｜得物技术

2025-10-29

大家都在问

NotebookLM如何在48小时内分析2万份论文？

2026-01-12

都有混合检索与智能路由了，谁还在给RAG赛博哭坟？

2026-01-08

如何用NotebookLM，把枯燥的财报解读成精美的PPT？

2026-01-02

为什么Claude Code不用RAG？

2025-12-23

终于，NotebookLM 和 Gemini 合体了。这是什么神之更新？

2025-12-21

Apple 入局 RAG：深度解析 CLaRa 框架，如何实现 128x 文档语义压缩？

2025-12-10

RAG知识库迎来大洗牌：GraphRAG如何让机器真正读懂世界？

2025-11-23

再谈RAG的文档解析——文档解析的难点在哪里？

2025-11-20

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部