微信扫码
添加专属顾问
我要投稿
强强联手!MinerU与沐曦曦云C500的适配实现60%性能跃升,为国产AI生态注入新动能。核心内容: 1. MinerU多模态文档解析技术实现国产芯片适配突破 2. DLInfer中间件打通大模型推理与国产硬件异构计算 3. 软硬协同技术路线验证国产AI生态发展潜力
MinerU GitHub链接:
https://github.com/opendatalab/MinerU
DLInfer GitHub链接:
https://github.com/DeepLink-org/dlinfer
MetaX 算子库链接:
https://github.com/orgs/MetaX-MACA/repositories
LMDeploy GitHub链接:
https://github.com/InternLM/lmdeploy
MinerU项目旨在解决多模态文档与复杂网页的解析难题,可将科学文献、扫描文件和复杂网页中的高价值信息,快速转化为Al-Ready数据,为RAG 知识库、Agent工具及大模型训练提供高质量的语料支撑,目前该项目正在持续适配国产芯片,努力构建开放高效技术生态,驱动产业应用与技术创新。
在此次合作中,得益于DLInfer对LMDeploy主流模型推理的强力支持,MinerU在曦云C500 上展现出了卓越的性能。经过实测,Graph模式相比Eager模式可实现性能加速 60%。
" MinerU + 芯片 + DLInfer + LMDepLoy " 技术路线
DLInfer是一套专为国产硬件适配大模型推理框架的中间件解决方案,其核心功能在于通过标准化的融合算子接口,打通上层大模型推理框架与底层硬件厂商的异构计算能力。目前,DLInfer已实现软硬适配工程中的有效解耦,支持包括 InternLM系列、InternVL系列、Qwen系列、DeepSeek系列在内的多款主流模型在多元硬件上的推理适配,支撑包括沐曦股份曦云C500在内的超5款主流硬件接入。
DLInfer 架构图
DLInfer通过标准化的融合算子接口,工程团队成功高效地打通了上层大模型推理框架与底层沐曦硬件的异构计算能力,并实现了软硬适配工程的有效解耦,让科研团队能够更专注于MinerU的核心功能优化,而不必为底层硬件差异耗费过多精力。
此次与沐曦的合作,不仅验证了MinerU在国产算力平台上的广泛适应性,也展现了国产软硬协同生态的巨大潜力。未来,OpenDataLab团队将继续携手沐曦及更多合作伙伴,为开发者提供更高效、更易用的文档解析与数据处理工具,共同推动国产 AI 生态的繁荣发展。
上海AI实验室致力于构建AI开放数据生态,持续推动数据要素全面赋能大模型发展。实验室打造的OpenDataLab开放数据平台,现已成为国内领先的大模型开源数据平台。平台持续为开发者与研究者提供高质量、安全合规的AI数据支持,有效应对数据处理中的各类风险与挑战,为大模型的技术研发与产业落地提供了坚实的数据基础,有力推动了AI开放生态的繁荣。
在打通数据要素的基础上,为进一步释放算力潜能、实现软硬件协同创新,实验室推出了人工智能开放计算平台DeepLink。作为芯片与深度学习框架之间的“桥梁”,其从根本上实现了软硬件解耦。DeepLink平台聚焦多元芯片生态建设,深耕编译优化、异构通信等核心技术,全力推进国产AI工具链研发与安全高效的方案落地,为人工智能领域的软硬件协同创新与产业共建提供了关键纽带。
END
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2025-12-23
AI 操控手机,在极空间NAS部署类“豆包手机助手”... 支持安卓/IOS/模拟器
2025-12-23
钉钉A1,摸到了语音AI 的“命门”:一个开放平台正在形成
2025-12-22
京东金融鸿蒙端部署AI超分模型实践
2025-12-22
基于 GPU 及 vLLM 加速大模型推理实用技术分享(实践+案例)
2025-12-21
小智AI 如何自定义唤醒词+背景图:原理+流程拆解
2025-12-16
乐鑫推出私有化智能体平台:兼容主流大模型,打造多模态 AI 能力
2025-12-16
英特尔核显就能跑120B大模型?我们不如实测看看!
2025-12-15
豆包“撕裂”AI手机
2025-12-05
2025-11-09
2025-10-13
2025-10-27
2025-10-24
2025-12-09
2025-12-01
2025-11-17
2025-12-08
2025-12-01