我要投稿

RAG之对于非结构性数据提取

发布日期：2025-03-12 07:50:03 浏览次数： 1888

作者：半路IT南

微信搜一搜，关注“半路IT南”

前段时间在B站上看到一个up主分享了一个如何《将图片或PDF中复杂的表格数据转成纯文本输入大模型，如何保持表格文字的排版布局不变？》，后面在评论中和up主讨论了一下，当一个文档中出现了多种数据结构形式，比如文本、图片、表格、公式，而不是视频分享中的单一模式，对于这些形式内容的提取可以采用哪些方法呢？

https://www.bilibili.com/video/BV1hJvQeyEZS/?vd_source=a686566edc80a9ac643686804824933c#reply249547265968

其实这种非结构性数据文本在生活中似乎更长见，大家对这种数据的处理也确实比较头疼，后台也有很多好友咨询我处理的方式，这里对我自己的做法进行如下分享：

整体思路可以参考omniparser，首先读取整个文本切分成单叶，然后对于每一页数据结合yolov8等模型对该页文本进行检测切分，整体结构如下，

而对于文章中经常出现的文本、图片、表格、公式等非结构性数据形式，通过检测模型得到对应的模块，然后分别送入对应的sota识别模块，这里可以结合传统的技术，也可以采用多模态技术，比如对于表格内容识别就可以利用Table-LLaVA等。然后再将提取的信息embedding到数据库，结合rag技术实现对基座llm在垂直领域的回答能力。

最后，对于非结构性数据信息的提取，各种新的方式方法有很多，大家在学习中不断总结吧！

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-06-14

一分钟读懂RAG的切分策略

2025-06-14

RAG-embedding篇

2025-06-14

RAG 信息检索：如何让模型找到‘对的知识’

2025-06-14

什么是RAG？一文搞懂检索增强生成技术

2025-06-14

AI开发实战：解决RAG的召回不准问题

2025-06-13

揭开RAG的神秘面纱：90%的人不知道腾讯IMA底层原理

2025-06-13

金融智脑：破解RAG系统在金融场景中常见失败的七大陷阱

2025-06-13

从零开始学 Dify - Dify 的 RAG 系统如何有效地处理和检索大量文档？

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

通义QwQ-32B+Milvus，消费级显卡布满血大模型与RAG的时代来了！

2025-03-21

RAG检索增强之Reranker重排序模型详解！

2025-03-20

大模型 RAG 终极指南：信息检索 + 文本向量化 + BGE-M3 实践全解析！

2025-03-24

AISearchPro-AI智能搜索实践

2025-03-17

MCP、RAG、Agent之间的概念和关系，被我和AI协作的12张图总结了

2025-03-24

AI Agent 记忆技术浅析

2025-03-19

一个能给大模型加上“记忆”的工具，让 AI 助手更懂你，Star 26K+！

2025-03-24

Ragflow技术栈分析及二次开发指南

2025-03-28

让模型更懂你的业务！RAG原理和解决方案解析

2025-04-01

RAG 开发实例

2025-03-23

大家都在问

从零开始学 Dify - Dify 的 RAG 系统如何有效地处理和检索大量文档？

2025-06-13

通过 RAG如何扩展提示词Prompting?

2025-06-09

为什么 RAG 一定需要 Rerank？

2025-06-06

RAG和向量数据库之间有什么关系?

2025-05-30

超越基础：Agentic Chunking 如何彻底改变 RAG？

2025-05-29

用Milvus构建RAG系统，N8N VS dify 如何选？

2025-05-29

【RAG】给传统企业搞AI转型，RAG项目最难啃的骨头是啥？

2025-05-23

解锁AI时代的核心通关密码——为什么你必须搞懂RAG、Agent、MCP？

2025-05-16

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204

上海：上海市浦东新区金新路58号1602室

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部