微信扫码
添加专属顾问
我要投稿
在构建 RAG 知识库时,PDF文档中的表格跨页现象是一个常见挑战。传统方法依赖复杂的逻辑来判断和合并表格,而更简单、高效的方案可以通过 chunk 的存储和上下文管理来解决。
两种表格合并算法
两种算法都基于版面识别判断法。
前提:正确识别版面并去除每页的页眉、页脚。
1. 合并后存储为一个chunk
判断当前页最后一个元素和下一页第一个元素的类型:
示例代码:
def merge_cross_page_tables(tables_per_page):merged_tables = []temp_table = Nonefor page_num, tables in enumerate(tables_per_page):for table in tables:if temp_table: # 上一页存在未合并的表格temp_table += table # 合并表格内容merged_tables.append({"page": page_num, "table": temp_table})temp_table = Noneelse:temp_table = tableif temp_table: # 表格延续至下一页continuereturn merged_tables
2. 基于分块与描述同步法(推荐)
将跨页表格的两部分分别提取,并生成独立的 chunk,一般第一个表格的描述信息就是第二页表格的描述信息,需要特殊处理就可以实现跨页。
这种方法无需实时合并表格,通过 LLM 在检索时合并上下文中的表格 chunk,完美解决跨页问题。
示例代码:
import pdfplumberdef extract_tables_as_chunks(pdf_path):chunks = []prev_table_desc = ""table_counter = 1with pdfplumber.open(pdf_path) as pdf:for page_num, page in enumerate(pdf.pages):tables = page.extract_tables()for table in tables:if prev_table_desc:desc = f"表格 {table_counter}(延续部分),前页描述:{prev_table_desc}"prev_table_desc = "" # 重置描述else:desc = f"表格 {table_counter}(第1部分)"prev_table_desc = descchunk = {"description": desc, "data": table, "page": page_num + 1}chunks.append(chunk)table_counter += 1return chunks
两种方案的对比
RAG 系统中的应用
存储:将跨页表格分为多个 chunk 存储,确保数据完整。
检索:用户查询时,RAG 系统会同时检索到表格的多个 chunk。
生成:LLM 根据表格的描述和数据自动合并,输出完整表格内容。
优势总结
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-05-07
阿里云知识存储 Skill 上架阿里云官网首批 Agent Skill:让智能体拥有企业级知识库
2026-05-07
1G内存检索2500万向量,Milvus中如何用FLAT在强标量过滤场景搞定毫秒响应?
2026-05-06
多Agent场景,子agent 之间数据读写不同步,如何解决?
2026-05-06
看 AgentRun 如何玩转记忆存储,最佳实践来了!
2026-05-06
RAG 与 MCP:每位 AI 开发人员真正需要了解的知识
2026-04-30
RAG已死?不,是Grep回归了!
2026-04-27
Mem0 深度解析:智能记忆层的架构原理
2026-04-27
Karpathy的LLM Wiki + 3.5 万Star的Graphify:企业级 RAG 缺的真是知识图谱?
2026-02-13
2026-03-23
2026-04-06
2026-02-22
2026-03-18
2026-03-20
2026-02-15
2026-02-27
2026-02-21
2026-03-21
2026-05-07
2026-05-06
2026-04-27
2026-04-21
2026-03-17
2026-03-11
2026-02-22
2026-02-15