前几天，有一位用户使用OCR产品识别多栏论文后向我们询问：要怎么解决不合适的断句、分段以及错误阅读顺序的问题？
我们用一个相似案例为大家直观展示这位用户遇到的情况。
如图中的多栏期刊，如果用OCR识别，或直接在一些办公软件对文字进行复制黏贴，我们就会得到右侧的效果——按PDF排版而不是语义进行换行分段，对多栏文字直接从左向右排布，得到完全不通顺的文字段落。
显然这样的效果是无法接受的。
于是，我们向用户推荐了文档解析产品，建议在处理多栏文件时使用文档解析来获得更好的识别结果。
这是文档解析的同一篇期刊论文输出示例?
可以看到，不论是自然段的划分，还是阅读顺序，甚至换页情况下的识别，都遵循了正确的阅读习惯。
这正是我们在做文档解析过程中关注的重点之一，也是解析产品和过往纯OCR产品的不同之处：段落识别与阅读顺序还原。
今天，我们也想和大家聊聊，在Markdown Tester中，这个维度的指标是如何设计的。
再次指路我们的测评工具?https://github.com/intsig/markdown_tester
段落维度的指标包含了段落识别率、召回率，指标的计算方式后文我们会进行展开说明。直观上来说，段落识别能力指的是系统能够识别和区分PDF文档中的不同段落，理解每个段落的开始和结束。
而阅读顺序的还原能力指的是系统能够根据PDF文档的布局和格式，推断出人类阅读时的顺序，而不仅仅是机械地判定为从左至右排序。作为自然语言处理的利器，大模型需要的也正是与人类一致的阅读顺序，从预训练、调整到对话应用，正确、优质的语料能为大模型提供良好的工作基础。
在实际情况中，文档智能应用场景往往包含着复杂的文档布局（如多栏、嵌套表格、不规则文本框等），正确识别段落和恢复阅读顺序是确保信息准确传达的关键要素之一。
以目前对PDF解析需求量相当高的RAG开发和数据清洗两个应用方向为例：
在RAG（Retrieval-Augmented Generation）系统中，正确的阅读顺序还原有助于系统理解文档的逻辑结构和信息流，而正确的段落识别让系统能更准确地定位到文档中的关键信息段落，从而提高检索的准确性和生成内容的相关性。在优秀解析能力的辅助下，RAG分块（Chunking）策略也可以做进一步优化，用按段落分块取代固定长度切分，避免把完整的段落文字“拦腰斩断”、影响语义理解与生成的问题。
而在数据清洗和模型训练过程中，解析工具能够保持文档的原始阅读顺序，段落识别则有助于将PDF文档分割成更小的、语义上独立的单元。这使得训练数据更加结构化，对于训练模型理解文档的层次结构和内容组织至关重要，能有效提高模型的训练效果、泛化能力和对复杂文档的理解能力。
?来看看我们的Markdown Tester如何评估这两个维度的解析效果。
编辑距离的概念，我们在上一期文章《聊聊文档解析测评里的表格指标》里介绍过。
它指的是，对给定的两个字符串，最少要经历多少次插入、删除、替换操作，才能使两个字符串完全一样。
在阅读顺序指标中，我们应用同样的概念对匹配段落进行检测，在这一项中得分越高，意味着解析结果中的阅读顺序与实际越匹配、差异越小，也即还原效果越好。
段落识别率指的是被正确识别的段落数量占所有识别出的段落总数的百分比。
它测量的是段落解析够不够“准”。
举一个比较直观的例子来说明段落识别率和段落召回率分别代表的含义。
现在我们有一篇需要识别的短文，它有3个段落，分别为：
+----------------+
段1:开头
+----------------+
+----------------+
段2:正文
+----------------+
+----------------+
段3:结尾
+----------------+
在解析过程中，段1、段2被正确识别，而段3被识别为了2个分开的段落。即解析结果为：
+----------------+
段1:开头
+----------------+
+----------------+
段2:正文
+----------------+
+----------------+
段3:发展
+----------------+
+----------------+
段4:结尾
+----------------+
那么，在这个案例中，段落识别率=2/4=50%。
段落识别率反映了产品正确识别段落的能力，即查准率。识别率越高，意味着系统在识别段落时的准确性越高。
段落召回率是指被识别到的相关段落数量占实际总段落数的百分比。
它测量的是段落解析是不是“全”。
我们继续看前面的短文案例，此处的段落召回率=2/3=66.67%。
简单来说，就是原文的3个段落中里，我们正确找到了其中的2个。
它衡量了解析产品在识别文档时的查全率。召回率越高，意味着越能够正确找到所有段落。
F1值是识别率和召回率的调和平均值，它综合考虑了这两个指标，用于评估文档解析的整体性能。F1值越高，通常意味着文档解析的性能越好。
粤ICP备14082021号
免费POC，
零成本试错
