微信扫码
添加专属顾问
我要投稿
将图片和PDF文档无缝整合进Dify知识库,MinerU工作流解决方案全解析。核心内容:1. 面对非文本资料的解析难题,MinerU如何助力Dify知识库2. 部署MinerU-API,创建Dify知识库的前期准备步骤3. 搭建工作流,实现文档解析与知识库创建的自动化流程
您是否正在遭遇以下困扰?有一个重要资料是纯图片格式,有一个文档是扫描版的PDF,想上传到dify的知识库做解析,可Dify根本读取不到。为了解决这个问题,我们可以使用MinerU来完美解决,让你的Dify知识库拥有解析图片的能力。本文将详细介绍一个工作流,使你的Dify知识库也拥有OCR的能力。
(本文Dify版本为1.3.1)
参考本公众号前两篇文章《在Dify中使用MinerU提取PDF》《MinerU-API | 支持多格式解析,进一步提升Dify文档能力》,获取MinerU-API代码,再用docker部署。本文就不再多赘述。
docker run -d --gpus all --network docker_ssrf_proxy_network --name mineru-api -v minerupaddleocr:/root/.paddleocr mineru-api:v0.3
创建一个Dify知识库,设定好基础的Embedding模型和Rerank模型
打开知识库,在地址栏里找到该知识库的ID,并记住它。
在知识库->API 界面,生成一个API密钥,用于接口调用。
整个工作流有三个代码块,分别用于处理接口参数、MinerU解析文档、创建Dify知识库文档
Process Parameters:用于处理接口参数,这边主要处理/datasets/{dataset_id}/document/create-by-text
接口的参数。
MinerU提取:将PDF、图片转成Markdown格式的文本。
知识库-文档创建:调用Dify/datasets/{dataset_id}/document/create-by-text
,在知识库中创建文档。Python代码如下:
import requests
def main(api_key,file_name,content, api_params, dataset_id):
headers = {
'Authorization': f'Bearer {api_key}',
'Content-Type': 'application/json',
}
api_params.update({
"name": file_name,
"text": content,
})
response = requests.post(
f'http://api:5001/v1/datasets/{dataset_id}/document/create-by-text',
headers=headers,
json=api_params,
)
return {"result":response.text}
以一份网页打印出的PDF文档为例,对比直传知识库,和使用MinerU工作流的效果。
很显然,通过直传知识库,虽然文档能上传成功,可是里面的内容用Dify原生的知识库能力,完全无法解析。
通过MinerU工作流创建文档,显然工作流成功执行,并且返回了接口调用结果。在知识库里查看一下。
文档创建以后,Dify会自动对文档进行索引。待文档索引完成后,进行召回测试。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-05-13
看见设计的未来:Lovart 全球首个设计 Agent 体验
2025-05-13
什么是基于知识图谱的多模态推理?
2025-05-09
Gemini API 集成 Imagen 3,带来更强大的图像生成功能
2025-05-08
Veo 2正式登陆Google AI Studio了——实在太疯狂了!
2025-05-07
Adobe首发多Agent、跨模态框架MDocAgent:复杂文档理解性能爆炸12%,错误率直降21%
2025-05-07
多模态文档检索开源方案-三大竞赛获奖方案技术链路
2025-05-07
多模态 GraphRAG 初探:文档智能+知识图谱+大模型结合范式
2025-05-05
推翻传统RAG,腾讯用生成式检索打开多模态新局面
2024-09-12
2024-06-14
2024-06-17
2024-08-06
2024-08-30
2024-05-30
2024-11-28
2024-10-07
2024-10-16
2024-04-21