大模型应用开发之RAG基本原理

写在前面

在大模型应用开发领域，RAG技术栈在其中具有很重要的地位，本文主要通过介绍带大家了解一下什么是RAG技术，RAG技术栈的整体流程，希望对于想要学习RAG技术的你提供帮助。

什么是RAG

RAG，全称为Retrieval-Augmented Generation（检索增强生成），是一种结合了 “信息检索” 与 “生成式 AI” 的混合 AI 技术。它的核心目标是解决传统大语言模型（LLM，如 GPT、LLaMA 等）的两大关键局限 ——知识时效性不足和事实准确性偏差（幻觉），通过 “先检索外部权威信息，再基于检索结果生成回答” 的逻辑，让 AI 输出更精准、更具时效性和可信度的内容。

为什么需要RAG

传统 LLM（如 GPT、LLaMA）因自身特性，难以满足实际场景需求，具体局限如下：

1. 1. 知识过时且固定：仅包含训练数据截止前的 “静态知识”，无法获取实时或者最新信息；
2. 2. 易产生 “幻觉”：基于概率生成 “听起来合理” 的内容，可能编造事实、混淆信息，且无法验证回答准确性；
3. 3. 无法对齐私有 / 场景化需求：训练数据是通用公开内容，无法调用企业内部文档、个人笔记、行业专属资料等 “私有知识”。

RAG的核心

RAG步骤

RAG大概分为两个步骤：知识库构建和知识库的使用，下面将对这两个步骤进行详细介绍。

1.知识库的构建

该阶段为后续在线响应做准备，核心是将原始数据转化为结构化、高检索效率的知识索引，避免在线时重复处理数据导致延迟，共 4 个关键步骤：

1. 1. 数据采集与清洗：收集目标领域的知识源（如 PDF、文档、数据库表、网页文本等），去除冗余（重复内容）、修正错误（乱码、格式问题），保证数据质量；
2. 2. 文档分割（Chunking）：按 “语义完整 + 适配 LLM 上下文窗口” 原则，将长文档拆分为片段（Chunk），常用策略包括 “固定长度分割（带前后文重叠）” 或 “语义分割（按段落 / 章节）”，避免语义断裂；
3. 3. 文本向量化（Embedding）：用 Embedding 模型（如 OpenAI Embedding、Sentence-BERT）将每个 Chunk 转化为数值向量，把 “语义相似性” 转化为 “向量空间距离”，为检索做准备；
4. 4. 构建向量索引：将所有 Chunk 的向量存入向量索引结构（如 FAISS、Milvus、Pinecone），替代 “暴力遍历”，实现毫秒级相似性检索。

2. 知识库的使用

该阶段是 RAG 与用户交互的核心，实时根据用户查询匹配知识并生成可靠答案，共 5 个关键步骤：

1. 1. 用户查询理解：优化原始查询（如纠错、提取关键词、扩展同义词），明确检索目标（例：将 “2024 新能源车销量同笔增长” 修正为 “2024 中国新能源汽车销量同比增长”）；
2. 2. 相似性检索：将优化后的查询转化为向量，通过向量数据库检索 “距离最近” 的 Top-N 个相关 Chunk（即与问题最匹配的外部知识），部分场景会结合关键词检索（如 BM25）做 “混合检索”；
3. 3. 知识过滤与排序：二次筛选检索结果（去除重复、无关内容），并用轻量模型（如 Cross-Encoder）重新排序，提升知识精准度；
4. 4. Prompt 构建：将 “用户查询 + 筛选后的相关 Chunk + 指令（要求答案仅来自参考知识）” 组合成 LLM 可理解的 Prompt；
5. 5. LLM 生成与输出：将 Prompt 输入 LLM（如 GPT-4、Llama 3），模型基于检索到的外部知识生成答案，可选标注知识来源以提升可追溯性。

RAG相关的技术栈

1.知识源与数据处理层

该层负责将非结构化（文本、PDF 等）、半结构化（表格、JSON 等）数据转化为机器可理解的 “检索友好型” 格式，是 RAG 的 “知识储备基础”。

2.向量工程层

该层通过 “向量嵌入（Embedding）” 将文本转化为高维向量，再通过向量数据库存储和索引，是 RAG “快速找到相关知识” 的关键

3.检索策略层

该层负责设计 “从向量库中筛选相关知识” 的逻辑，不仅依赖语义向量，还通过多策略优化确保 “找得准、找得全”。

4.生成与增强层

该层是 RAG 的 “输出端”，负责将检索到的知识与大模型结合，生成 “有依据、无幻觉” 的回答。

5.系统集成与框架层

该层提供 “开箱即用” 的 RAG 全流程框架，封装数据处理、检索、生成等模块，简化工程落地难度。

6.评估与运维层

该层负责监控 RAG 系统的 “检索精度”“生成质量” 和 “运行效率”，持续优化系统性能。