我要投稿

再谈RAG的文档解析——文档解析的难点在哪里？

发布日期：2025-11-20 12:42:47 浏览次数： 1532

作者：AI探索时代

微信搜一搜，关注“AI探索时代”

“ 知识库是RAG的灵魂，一个好的知识库能解决绝大部分RAG问题。”

在之前关于RAG的优化文章中，大部分都是在强调检索端的优化，而关于文档解析方面的内容却非常的少，而这也是有原因的。

在之前介绍RAG的文章中，曾说过RAG是一种方法论，而不是一项具体的技术；其中有两个比较重要的模块：

其一是与大模型相关的上下文管理
其二是文档召回模块

其中文档召回模块又分为两大块，一块是知识库的构建，另一块是检索召回；而之前的文章主要就是针对检索召回和上下文管理。

而今天所讨论的文档解析，就属于知识库的构建，而这也是RAG系统好与坏的基石；一个好的知识库是RAG系统的基础，否则所谓的增强生成只能是空中楼阁。

因为，任何RAG相关的应用场景，在检索召回和上下文管理功能都可以进行复用；或者准确地说，RAG的检索召回和上下文管理的手段就只有这么多。但文档解析却不同，其需要根据不同的业务场景，数据格式进行特殊的处理，而这也是最难搞定的一环。

文档解析

为什么文档解析会那么难？

主要原因就在于文档格式和结构太复杂，特别是现在的富文本，同时包含图片，文字，表格等多种格式的数据；而如果只是格式种类比较多还问题不大，主要是文档内容多结构。

举例来说，你的文档是一个技术架构图，或者流程图等带有结构的数据，这时候你不论选择什么技术都很难进行处理。

以现在常见的OCR技术来说，虽然OCR能够识别出文档中内容，也就是信息；但是它识别不出来文档内容中的结构信息。

从作者个人的体验来看，除了纯文字的文档之外，任何带有结构化信息的文档，经过OCR处理之后，文档中的结构化信息全部丢失，而这对构建知识库来说会产生非常大的影响，甚至会直接导致有些文档完全无效，还不如不要。

所以在RAG中，文档处理的核心主要有以下三点：

提取关键信息
保留文档结构
保证文本质量

提取关键信息

保证文档中重要的数据内容都能被提取出来

保留文档结构

要保证文档的结构，如标题，段落，表格等；因此，作者在处理的过程中，会在每段拆分的文档前面拼接上其上层标题。

保证文本质量

有些人在使用文档格式转换工具或OCR工具之后，就直接把转换之后的文档切分并入库；但事实上这样的文档内容质量会非常差，原因就在于其中会存在很多噪音数据。

如图片，结构图，表格分隔符等，会占用大量的无效空间，导致文档质量直线下降；而这些噪音数据又很难处理，特别是在文档量比较大的情况下。一般情况下只能根据规则或正则表达式对内容进行适当的删除和处理。

因此，在RAG中知识库的构建，也就是文档的处理需要花费大量的时间和精力；然后根据不同的业务场景，选择合适的文档格式和结构，并且选择合适的存储工具；如传统数据库，向量数据库，知识图谱等。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-11-20

多源 RAG 自动化处理：从 0 到 1 构建事件驱动的实时 RAG 应用

2025-11-20

如何为 RAGFlow 添加新的数据源

2025-11-19

为什么RDF是AI系统的“天然知识层”？

2025-11-16

Google 让 RAG 变得前所未有地简单：全新 File Search 工具震撼登场

2025-11-14

从答案到洞察：Structured RAG正在重塑企业知识库的底层逻辑

2025-11-13

RAG Chunking 2.0：提升文档分块效果的一些经验

2025-11-13

RAGFlow v0.22.0 发布：数据源同步、变量聚合、全新管理界面与多项重大更新

2025-11-13

RAG实战(一)：Simple RAG篇

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAG彻底爆了！一文掌握其效果优化的架构设计及核心要点

2025-09-15

从原理到落地：RAG 技术全解析，手把手教你搭建专属知识库

2025-09-02

RAG系统全景：架构详解与落地实践指南

2025-08-25

高质量AI知识库应用的前提：选对向量数据库

2025-08-25

一文搞懂大模型：何为深入理解RAG？

2025-08-25

万字长文详解腾讯优图RAG技术的架构设计与创新实践

2025-09-08

DeepMind爆火论文：向量嵌入模型存在数学上限，Scaling laws放缓实锤？

2025-09-03

RAG检索后如何应用更有效？

2025-08-28

关于多模态应用的几个疑问，以及多模态应该怎么应用于RAG？