我要投稿

RAG的五种分块策略

发布日期：2025-08-04 08:14:32 浏览次数： 2056

作者：技术mi

微信搜一搜，关注“技术mi”

RAG 是将附加文档存储为嵌入向量，将传入的查询计算向量与这些向量进行匹配，并将最相似的信息与查询一起提供给LLM的过程。

由于附加文档可能非常大，流程的步骤1还需要分块，将大文档分成较小/方便管理的文本块，RAG的分块策略主要有五种，分别是固定大小分块、语义分块、递归分块、基于文档结构的分块、基于LLM的分块。

固定大小的分块

固定大小的分块是最直观和直接的方法，根据预定数量的字符、单词或标记将文本分成统一的段。

由于直接分割会破坏语义，因此在实际使用时在两个连续块之间保持一些重叠。还有一个问题，固定大小分块通常会打断句子或者语境。因此，重要的信息很可能会分散到不同的块中。

语义分块

根据句子、段落或主题部分等有意义的单位对文档进行细分，为每个片段创建嵌入，如果多个文本段的嵌入向量具有较高的余弦相似度，一直持续到余弦相似度显著下降，则这些段就形成了一个文本块。

与固定大小的块不同，这保持了语言的自然流畅并保留了完整的想法。由于每个块都更加丰富、完整，它提高了检索准确性，进而使 LLM 产生更加连贯和相关的响应。

由于依赖于一个阈值来确定余弦相似度是否显著下降，而这个阈值在不同文档之间差异可能很大。

递归分块

根据固有分隔符（如段落或章节）进行分块。接下来，如果每个块的大小超出了预定义的块大小限制，则将其拆分成更小的块。但是，如果块符合块大小限制，则不再进行进一步拆分。

与固定大小的块不同，这种方法还保持了语言的自然流畅性并保留了完整的语境。然而，在实施和计算复杂性方面存在一些额外的开销。

基于文档结构的分块

它利用文档的固有结构（如标题、章节或段落）来定义块边界，它就通过与文档的逻辑部分对齐来保持结构完整性。

基于文档结构的分块应用的前提条件是假设文档具有清晰的结构，但事实可能并非如此。此外，文本块的长度可能会有所不同，可能会超出模型token的限制。当出现这些问题时通常使用递归拆分进行合并。

基于LLM的分块

基于LLM的分块可以按照 LLM 生成语义上孤立且有意义的块，这种方法将确保较高的语义准确性，因为 LLM 可以理解超越简单启发式方法的上下文和含义。

唯一的问题是，基于LLM的分块是这里讨论的五种技术中计算要求最高的分块技术，另外还需要考虑 LLM 的上下文窗口通常是有限的。

总结

总之，每种文本分块技术都有其自身的优势和劣势。分块策略的选择将很大程度上取决于内容的性质、嵌入模型的功能、计算资源等具体情况。我在实际应用中发现语义分块在多数情况下效果很好，但你在使用语义分块时效果就有可能不理想。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-06-21

使用 LangSmith 进行 RAG 评估：构建生产级 RAG 系统的 AI 开发者指南

2026-06-20

RAG 投毒的六个影响因素与防御框架

2026-06-20

RAG 性能暴涨 5.9 倍！微软新框架让 LLM 自主检索，无需训练直接部署

2026-06-19

RAGular：适合知识库体质的 OCR 助手

2026-06-18

阿里扔出「向量版 SQLite」！十亿级向量毫秒检索，一行 pip install 搞定，本地 RAG 的游戏规则变了

2026-06-18

一个月拿下1500star，只因我们比MinerU多做了这件事

2026-06-18

为 1000 万+ 文档构建近零幻觉的 RAG Pipeline

2026-06-17

微软推出企业级 AgenticRAG！四个工具助力RAG新范式落地

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

全网爆火的大模型AI知识库，保姆级教程来了

2026-04-06

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-27

RAG进化了，深扒Claude Code源码中RAG高级技巧

2026-04-02

OpenDataLoader：PDF文档提取的一站式方案

2026-03-31

2026 年做搜索就是做 Agent Memory

2026-04-23

Codeindex · 让大模型更好地理解你的代码

2026-04-20

阿里云百炼「记忆库」正式上线，让龙虾真正记住你！

2026-04-09

YC CEO 的 AI 记住了 3000 个人

2026-04-12

专题解读 | 可更新的检索增强知识库发展方向及进展

2026-04-22

AI 答疑助手优化实践：从 RAG 到 LightRAG 的全链路升级

2026-04-10

大家都在问

RAG运维如何用好Loop Engineering？Milvus 3.0 对它有什么价值？

2026-06-15

如何构建一个更“好”的知识库？

2026-06-10

企业 RAG 知识库落地，应如何设计实现？

2026-06-10

AIOps探索：给不能联网的客户做一个AI运维助手到底有多难？

2026-05-20

有多少人把Agent与RAG的检索策略，简化成了 if-else？

2026-05-18

到底是谁会相信RAG已死啊？

2026-05-11

1G内存检索2500万向量，Milvus中如何用FLAT在强标量过滤场景搞定毫秒响应？

2026-05-07

多Agent场景，子agent 之间数据读写不同步，如何解决？

2026-05-06

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件 FDE AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部