我要投稿
微信搜一搜，关注“技术mi”
RAG技术如何高效分块？五种策略全面解析，助你优化检索增强生成流程。 核心内容： 1. 固定大小分块与语义分块的原理及优劣对比 2. 递归分块和基于文档结构分块的技术实现要点 3. 基于LLM的智能分块方案及其计算成本分析
与固定大小的块不同，这保持了语言的自然流畅并保留了完整的想法。由于每个块都更加丰富、完整，它提高了检索准确性，进而使 LLM 产生更加连贯和相关的响应。
由于依赖于一个阈值来确定余弦相似度是否显著下降，而这个阈值在不同文档之间差异可能很大。
递归分块
根据固有分隔符（如段落或章节）进行分块。接下来，如果每个块的大小超出了预定义的块大小限制，则将其拆分成更小的块。但是，如果块符合块大小限制，则不再进行进一步拆分。
与固定大小的块不同，这种方法还保持了语言的自然流畅性并保留了完整的语境。然而，在实施和计算复杂性方面存在一些额外的开销。
基于文档结构的分块
它利用文档的固有结构（如标题、章节或段落）来定义块边界，它就通过与文档的逻辑部分对齐来保持结构完整性。
基于文档结构的分块应用的前提条件是假设文档具有清晰的结构，但事实可能并非如此。此外，文本块的长度可能会有所不同，可能会超出模型token的限制。当出现这些问题时通常使用递归拆分进行合并。
基于LLM的分块
基于LLM的分块可以按照 LLM 生成语义上孤立且有意义的块，这种方法将确保较高的语义准确性，因为 LLM 可以理解超越简单启发式方法的上下文和含义。
唯一的问题是，基于LLM的分块是这里讨论的五种技术中计算要求最高的分块技术，另外还需要考虑 LLM 的上下文窗口通常是有限的。
总结
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业
2025-08-04
RAG 应用进阶指南：别再“一次性”加载了！教你构建可分离、可维护的动态 AI 知识库
2025-08-04
学习 RAGFlow 知识库高级配置
2025-08-04
Agentic Workflow——RAGFlow 0.20.0 特性预览
2025-08-04
E²GraphRAG：图结构 RAG 的效率 “加速器”
2025-08-03
关于RAG检索增强的右侧优化方案——企业级应用中怎么提升RAG的检索准确度
2025-08-03
在RAG中文档处理质量参差不齐的情况下——提升召回精度的企业级解决方案
2025-08-03
再学 RAGFlow 的文件解析逻辑
2025-08-03
AWS使用提示词与RAG来减少大模型幻觉
2025-05-30
2025-06-06
2025-06-05
2025-05-19
2025-05-08
2025-05-10
2025-06-05
2025-05-20
2025-06-05
2025-05-09
2025-07-28
2025-07-09
2025-07-04
2025-07-01
2025-07-01
2025-07-01
2025-07-01
2025-06-30
回到顶部
粤ICP备14082021号