我要投稿

当RAG遇上PDF表格，如何实现索引内容的精准回答

发布日期：2024-06-19 12:20:54 浏览次数： 2457

作者：玄姐聊AGI

微信搜一搜，关注“玄姐聊AGI”

解析和理解非结构化文档尤其是图片格式表格（比如：扫描文件中的表格）时，优化 RAG 方案面临重大挑战。难点涉及：

扫描图像的复杂性，包括多变结构、非文本元素及手写与打印文本的混合，这些都阻碍了准确自动提取表格信息，可能导致结构损坏，影响 RAG 输出的完整性和语义理解。
表格标题的精确抽取及其与对应表格的有效关联，这对于正确理解表格意义至关重要。
开发高效索引结构以储存和检索表格的深层语义信息。

本文首先讲述 RAG 表格处理的核心技术，继而评估现有开源解决方案，并进一步提出及实践一种解决方案策略。

—1—

RAG 的关键技术

第一、Table Parsing（表格解析）

该模块核心职责是从非结构化文档及图像中高精度抽取表格结构，强调表格标题的准确提取及与表格本身的便捷绑定。现有方法概览：

1. 多模态 LLM 应用：运用GPT-4V等工具，识别并提取PDF页面中的表格信息。

2. 专用表格检测模型：比如：Table Transformer，专门用于解析表结构。

3. 开源框架利用：采用 unstructured 等框架进行全面文档解析，提取表格相关内容。

4. 端到端模型解决方案：Nougat、Donut 模型直接解析文档并提取表格信息，无需独立OCR，且便于表格标题的自动识别与关联，因表格标题常为内容精要，对理解表格内容至关重要。

第二、Index Structure

索引表格方法概括：

图像表格索引：专对图片格式表格。
文本/JSON 表格索引：针对纯文本和 JSON 结构表格。
LaTeX 表格索引：专门处理 LaTeX 格式。
表格摘要索引：利用 LLM 或多模态模型生成表摘要。
结构化层级索引：按内容从小到大或依文档摘要，涵盖表格各部分（比如：行）至整体（图像、文本、LaTeX 表）。

同时，可直接向多模态 LLM 提交图片、文本及查询，以获取即时答案。

需留意，并非所有策略依托 RAG：

针对性数据训练，运用 BERT-like 模型，比如：TAPAS，专项处理表格理解。
利用 LLM，经预训练、微调或提示调整，执行表格理解任务，参考GPT4Table 方法。

—2—

现有开源解决方案

LlamaIndex 提供四种方式，前三者运用多模态模型：

1. 图像检索后，由 GPT-4V 回应。

2. PDF 页面转图像，GPT-4V 分析建立索引，通过 Image Reasoning Vector Store 查询。

3. 从图中裁剪表格，GPT-4V 处理作答。

4. 表格图像 OCR转文本，送入 LLM 回答。

Langchain解决方案涵盖：

- 半结构化 RAG：Unstructured 解析 PDF 内容，多向量检索器存储，LCEL 实现问答，非多模态 LLM 参与。

- 半结构化+多模态 RAG 方案多样，例如：

- 选项1：CLIP 等嵌入图像和文本，送多模态 LLM 直接回答。

- 选项2：多模态 LLM 生成图像文本摘要，传统 RAG 链路处理 QA。

- 选项3：生成摘要、embedding，根据之找到原图，多模态 LLM 完成问答。

—3—

建议的解决方案

本文概括、分类并探讨了关键技术与现有方案，据此我们提出一项解决方案，如下图示。为清晰起见，简化说明，未展示RAG模块中的重排序和查询改写环节。

表格解析采用 Nougat，据称其表格检测优于 unstructured，擅长提取标题，便于标题与表格关联。

文档索引策略：小块含表格摘要，大块含 LaTeX 表格及标题，应用 Multi-Vector Retriever 存储方法。

表格内容汇总：表格及标题送入 LLM 生成摘要。

Nougat 源于 Donut，无需 OCR，整体架构请参考 Nougat 相关资料。

Nougat 解析公式表格的能力令人印象深刻，也能对表格标题进行关联（解析出来的表格式 LaTeX 格式），比如下面这个例子：

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-06-14

AI时代如何为企业和个人赋能

2025-06-14

没吃透 Function Calling？难怪你不理解 AI Agent 为何非来不可！

2025-06-14

浅尝一下微软的AutoGen框架

2025-06-14

基于大模型的智能运营｜智能体式编排，业务流程管理的新阶段

2025-06-14

从Manus爆火看Agent AI的技术演进与市场变革——AI Agent全景研报

2025-06-14

张鹏对谈李广密：Agent 的真问题与真机会，究竟藏在哪里？

2025-06-14

为什么说Maus是未来任务型AI系统的代表？

2025-06-14

AI agent如何进化为天网

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek R1-0528 小版本升级

2025-05-29

🧠 解码大语言模型的记忆力：上下文长度的前世今生

2025-03-20

萌新指南｜手把手教你Cherry Studio配置MCP，10分钟让大模型学会上网截图！

2025-03-21

教你解决GPT4o无法使用新版生图功能的教程

2025-04-11

Manus 是大模型 AI Agent + MCP，那什么是模型上下文协议 (MCP)?

2025-03-20

不止核弹芯片，黄仁勋发布两台 AI 个人超算，还拿下全球最快 DeepSeek 推理速度

2025-03-19

聊聊大模型MCP模型上下文协议-为何是AI在企业内应用落地的一个关键组件

2025-03-20

黄仁勋 2 个半小时演讲，英伟达已经进入「Agentic AI」时代

2025-03-19

用 Go 语言打造高并发 MCP 服务器：理论、实战与 AI 应用全景探索

2025-03-19

MCP如何重塑AI开发？一文带你深入了解

2025-03-19

大家都在问

张鹏对谈李广密：Agent 的真问题与真机会，究竟藏在哪里？

2025-06-14

为什么说Maus是未来任务型AI系统的代表？

2025-06-14

一手实测：首个有记忆的企业级AI Agent，能否经得住实践捶打？

2025-06-13

聊透 Agent，它是「同事」还是「工具」，创业机会和价值究竟是什么？

2025-06-13

拒绝碎片化 RAG，谷歌 DeepMind 推出 ReadAgent：模拟人类阅读长文本，或是NotebookLM底层技术？

2025-06-13

字节跳动2步突破，复杂文档布局解析，为啥如此惊艳？

2025-06-13

为什么我更看好Palantir的AI价值落地？

2025-06-12

如何设计一个垂直场景的入门级Multi-Agent System？

2025-06-12

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB