免费POC, 零成本试错
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


我要投稿

强强联手!MinerU携手沐曦完成适配,曦云C500推理性能加速60%

发布日期:2025-12-25 21:51:08 浏览次数: 1516
作者:OpenDataLab

微信搜一搜,关注“OpenDataLab”

推荐语

强强联手!MinerU与沐曦曦云C500的适配实现60%性能跃升,为国产AI生态注入新动能。

核心内容:
1. MinerU多模态文档解析技术实现国产芯片适配突破
2. DLInfer中间件打通大模型推理与国产硬件异构计算
3. 软硬协同技术路线验证国产AI生态发展潜力

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家
图片

近日,上海人工智能实验室OpenDataLab团队、DeepLink团队与沐曦(MetaX)达成深度合作,成功将MinerU多模态文档提取场景落地于沐曦曦云C500智能计算卡,并实现性能跃升。

MinerU GitHub链接:

https://github.com/opendatalab/MinerU

DLInfer GitHub链接:

https://github.com/DeepLink-org/dlinfer

MetaX 算子库链接

https://github.com/orgs/MetaX-MACA/repositories

LMDeploy GitHub链接:

https://github.com/InternLM/lmdeploy

MinerU项目旨在解决多模态文档与复杂网页的解析难题,可将科学文献、扫描文件和复杂网页中的高价值信息,快速转化为Al-Ready数据,为RAG 知识库、Agent工具及大模型训练提供高质量的语料支撑,目前该项目正在持续适配国产芯片,努力构建开放高效技术生态,驱动产业应用与技术创新。

在此次合作中,得益于DLInfer对LMDeploy主流模型推理的强力支持,MinerU在曦云C500 上展现出了卓越的性能。经过实测,Graph模式相比Eager模式可实现性能加速 60%。

" MinerU + 芯片 + DLInfer + LMDepLoy " 技术路线

DLInfer是一套专为国产硬件适配大模型推理框架的中间件解决方案,其核心功能在于通过标准化的融合算子接口,打通上层大模型推理框架与底层硬件厂商的异构计算能力。目前,DLInfer已实现软硬适配工程中的有效解耦,支持包括 InternLM系列、InternVL系列、Qwen系列、DeepSeek系列在内的多款主流模型在多元硬件上的推理适配,支撑包括沐曦股份曦云C500在内的超5款主流硬件接入。

DLInfer 架构图

DLInfer通过标准化的融合算子接口,工程团队成功高效地打通了上层大模型推理框架与底层沐曦硬件的异构计算能力,并实现了软硬适配工程的有效解耦,让科研团队能够更专注于MinerU的核心功能优化,而不必为底层硬件差异耗费过多精力。

此次与沐曦的合作,不仅验证了MinerU在国产算力平台上的广泛适应性,也展现了国产软硬协同生态的巨大潜力。未来,OpenDataLab团队将继续携手沐曦及更多合作伙伴,为开发者提供更高效、更易用的文档解析与数据处理工具,共同推动国产 AI 生态的繁荣发展。

上海AI实验室致力于构建AI开放数据生态,持续推动数据要素全面赋能大模型发展。实验室打造的OpenDataLab开放数据平台,现已成为国内领先的大模型开源数据平台。平台持续为开发者与研究者提供高质量、安全合规的AI数据支持,有效应对数据处理中的各类风险与挑战,为大模型的技术研发与产业落地提供了坚实的数据基础,有力推动了AI开放生态的繁荣。

在打通数据要素的基础上,为进一步释放算力潜能、实现软硬件协同创新,实验室推出了人工智能开放计算平台DeepLink。作为芯片与深度学习框架之间的“桥梁”,其从根本上实现了软硬件解耦。DeepLink平台聚焦多元芯片生态建设,深耕编译优化、异构通信等核心技术,全力推进国产AI工具链研发与安全高效的方案落地,为人工智能领域的软硬件协同创新与产业共建提供了关键纽带。

图片

END

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询