万亿空间！大模型下半场深度分析！2025

推荐语

大模型技术正加速AI普惠化，DeepSeek以开放生态推动行业变革，2025年市场规模有望突破万亿。

核心内容：
1. 大模型下半场的核心挑战与战略机遇
2. DeepSeek技术矩阵的创新突破与开源优势
3. AI基础设施优化与未来技术演进方向

杨芳贤

53AI创始人/腾讯云(TVP)最具价值专家

一、大模型下半场: 推动 AI 普惠并抢占战略制高点

在全球数字经济加速向智能化转型的浪潮中，生成式 AI 技术突破、大模型生态爆发与数 据量指数级增长，正重塑企业竞争格局，使得算力需求呈现前所未有的增长态势。企业正 站在从传统 IT 架构向智能决策体系转型的战略窗口。

在这场智能革命中，算力集群的弹 性扩展能力、算法框架的优化及数据资产的跨域融合，共同构成了数字化转型的坚实“数 字底座”。IDC《2024 全球 AI 基础设施报告》显示，中国企业 AI 算力支出达 127 亿美元， 年增长率 58%，但算力利用率中位数仅为 34%，“高投入、低效能” 的矛盾凸显。

企业迫切需要突破算力孤岛、算法碎片化和数据质量瓶颈。构建全栈协同、自主可控的智能基 础设施，成为企业实现战略转型的必选项，而这正是中国市场展现创新活力的关键所在。

在此背景下，DeepSeek 以 “技术普惠 + 生态开放” 为核心，成为推动 AI 产业变革的 重要力量。随着市场需求的持续攀升，DeepSeek 不仅实现了市场空间的显著扩张，积 极促进了 AI 技术的广泛普及，更在深层次上推动了企业对 AI 大模型应用需求的激增， 将智能体平台和生态从“封闭孤立”转变为“开放协同”，全力打造一个开放、安全且普 惠的 AI 生态系统。通过这一生态系统，企业能够以较低的成本构建专属的智能中枢，推 动 AI 技术的普惠发展。

此外，DeepSeek 还通过全球化生态布局、开放 API 与工具等方式，不断降低成本和技 术门槛，促进 AI 技术的广泛应用。值得一提的是，DeepSeek 以较低成本训练出效果卓 越的 V3 版本，并免费开放模型结构和权重，实现了技术和价格的双重普惠。

这一进展不 仅彰显了大模型发展的潜力，也强调了算法、系统化工程、芯片算力和软件栈深度融合的 重要性，这也带来了新的需求与挑战:

在模型层面，强化学习和蒸馏技术的使用将进一步推动性能提升。

同时，AI 算力基础设施优化和底层优化也至关重要，包括验证 FP8 精度的有效性、PD分离、通算融合等技术。

此外，CUDA 底层的 PTX 虚拟汇编重构和 DualPipe 算法也将受到重视。 这些优化措施将共同促进大模型的高效运行和发展，为 AI 普惠的未来奠定坚实基础。

二、DeepSeek 技术矩阵: 重构 AI 时代核心竞争力

从算法优化到架构迭代:DeepSeek V3 与 R1 的技术突围

DeepSeek V3 训练模型与 R1 推理模型的技术突破，为企业智能化转型提供了关键支撑:

R1 模型在推理能力上超过了 OpenAl o1，不仅擅长展示推理过程，还提供了“思维链”。 值得一提的是，R1 模型的技术是开源的，并使用 MIT 许可证，允许使用、复制、修改、发表、 分发、再授权及销售软件，具有广泛的应用前景。

算法模型与 AI 算力基础设施充分融合的工程化范例

2.1 AI 基础设施建设，迈向高效低成本新时代

DeepSeek 为 AI 基础设施建设带来了显著变化:

• 使用场景方面：推理场景因其简单易部署的特点，正逐渐超越复杂的训练场景， 受到更多关注。推理模型能够与智能体直接结合，在业务场景 中迅速体现价值。

• 建设成本方面：AI 基础设施建设成本大幅降低，AI 智算中心的建设规模缩小， 从成百上千节点变为仅需单个或几个节点即可部署相关业务， 同时对配套设备和系统环境的要求也降低，减少了技术人员专 业化和团队规模的需求。

• 管理模式方面：AI 基础设施建设更趋于精细化管理，DeepSeek 的特性决定了 需要精细化管理资源，基础架构层也提供了更开放的管理和调 度功能。

尽管 DeepSeek 通过技术创新大幅降低了 AI 应用门槛，但企业在实际落地过程中仍面 临诸多挑战。从算力供给与需求的动态失衡，到技术架构与现有 IT 生态的兼容难题，再 到模型性能与工程效率的权衡困境，这些矛盾成为阻碍 AI 规模化应用的关键瓶颈。

二、企业 AI 大模型应用: 从试水到规模化落地的全新挑战

在第一章我们探讨了 DeepSeek 技术矩阵如何通过算法创新与架构优化(如 MoE 动 态路由、FP8 全栈支持等)降低 AI 应用门槛，但技术的理论优势与企业实际落地效果 之间仍存在巨大鸿沟。

2024 年中国企业 AI 大模型落地应用现状调研报告显示，AI 大 模型落地总体上仍处在探索孵化阶段，渗透率不足 1%。

2.1 Deepseek普及阶段的多元挑战

落差背后折射出三大核心矛盾:算力供给与业务需求的动态失衡、技术架构与 IT 生态的 兼容鸿沟，以及模型性能与工程效率的此消彼长。这些矛盾在企业落地 DeepSeek 技术 的过程中，进一步衍生了全新的挑战。

资源效能定制与算力短缺困局

企业在应用 DeepSeek 技术时，需根据不同模型应用场景定制方案，然而计算资源短缺 成为横亘在前的首要难题。AI 大模型训练与推理对算力需求呈指数级增长，不仅硬件采购、 运维成本高昂，资源动态分配与调度逻辑复杂，且模型开发所需的基础环境搭建涉及软件 适配、系统调试等大量工作。

算存网协同与平台转型难题

在网络 / 存储资源方面，为配合 DeepSeek 的高效传输需求，企业需要设计 IB 网络 与 RDMA 网络，解决拥塞带宽问题，实现路径优化。在管理平台方面，为更好地融入 DeepSeek 的生态系统，企业需统一部署平台，构建异构 GPU 卡管理平台，开发可视化 界面以简化管理操作，推动智能体平台与生态系统从“封闭隔离”向“开放协同”转型。

部署与算力挑战，亟需高效整合并打破性能瓶颈

• 部署层面 ：DeepSeek 模型在通用基础架构平台中快速部署仍有较高门 槛，客户需了解如何通过简单操作完成模型的分布式环境搭建， 并思考如何与原有 AI 基础设施设备高效融合。

• 算力层面：DeepSeek 在国产化环境中需进行性能调优，客户还需探索如 何在模型推理或后训练过程中有效提升单节点算力效率，在集 群环境下快速找到性能瓶颈，发挥系统整体算力。

• DeepSeek 一体化平台：快速搭建 DeepSeek 一体化平台也是企业关注的重点，企业 希望在最短时间内实现业务响应，让 DeepSeek 与智能体快 速适配并在一体化平台上进行模型微调。同时，DeepSeek 基 础算力平台如何与用户现有模型开发平台适配兼容，实现模型 与业务系统的联调，也是亟待解决的问题。

DeepSeek 一体机性能考量: 选型背后的多维博弈

看待 DeepSeek 一体机的性能，需从用户和技术两个维度分析。

从用户角度， DeepSeek 一体机主要承载智能知识库、翻译、材料总结等应用，企业可根据自身场 景需求选择满血版或蒸馏版，其输入 / 输出能力分别为输入 128k tokens / 输出 512k tokens 或输入 2k tokens / 输出 256k tokens，文档处理上下文大小也可按需选择。

从 技术角度，需评估企业高峰时段的并发访问量，以 100 人为单位估算，通常同一时间提 问的人数(并发)在 10 - 20 人左右。此外，未来若需微调，则需更高的算力支持，后期 可通过 来满足需求。

2.2 场景化应用实践: 从技术到价值的跨越

明确 DeepSeek 普及阶段多元挑战后，如何让 DeepSeek 技术真正落地，转化为实际业 务价值，是企业在实践环节将要面临的新一轮的挑战。接下来，我们一同探索 DeepSeek 在场景化应用中如何实现从技术到价值的跨越。

应用模式 1: DeepSeek+ 知识库――模型能力外挂专业知识库

对应场景: 通用知识处理――高效完成日常任务

选型结合 RAG(检索增强生成)模式，通过整合大 语言模型(LLM)与外部知识库的动态检索能力， 显著提升生成内容的准确性、时效性与领域适应性。

技术优势：抑制幻觉，提升生成可信度

RAG 通过实时检索权威知识库(如行业文档、实时 数据库)为模型提供事实依据，大幅减少 LLM 因训 练数据滞后或参数偏差导致的“虚构性输出”问题。

动态知识更新，突破训练时效限制

传统 LLM 依赖静态训练数据，而 RAG 允许通过更新外部知识库即时整合新信息(如政 策法规变更、技术标准迭代)，无需重新训练模型。

增强领域专业化能力

通用大模型缺乏垂直领域知识，RAG 通过对接企业私有知识图谱，使模型在特定任务中 的准确率提升 50%-70%。

应用价值：

该模式无需从头训练行业专用模型，通过复用现有数据完成领域适配，开发成本可缩减 60% 以上，同时敏感数据存储在本地知识库，生成过程仅调用脱敏信息，有效避免企业 隐私泄露风险，兼具经济性与安全性。

应用模式 2: DeepSeek+ 微调 / 强化学习――对模型进行特定任务能力增强

对应场景: 特定任务分析――精准研判复杂问题

大 模 型 通 过 微 调(Fine-Tuning) 和 强 化 学 习 (Reinforcement Learning)进行特定任务能力 增强，两者的协同优化显著提升了模型性能。

微调 以低成本、高效率实现任务适配，适合数据有限但 需快速落地的场景(如企业知识库更新);强化学 习优化复杂目标与长期规划，适合需动态交互和人 类偏好对齐的任务(如客服对话、创意写作)，二 者结合(如 SFT+RLHF)已成为大模型落地的黄 金范式，在医疗、金融、教育等领域实现突破性应用。

技术优势：微调仅需少量高质量标注数据即可适配任务，强化学习通过奖励函数替代人工标注减少 数据需求，实现了低数据依赖。

 微调采用参数高效微调技术冻结大部分参数，训练资源 需求仅为全参数微调的 10%-30%，强化学习利用分布式训练框架结合 GPU 加速，使 大规模模型训练时间缩短 50% 以上，有效优化了计算成本。

同时，强化学习通过奖励 函数抑制错误生成，微调结合检索增强生成技术进一步提升生成准确性，实现了人类偏 好对齐和领域定制化能力，减少幻觉与错误传播。

应用价值：

该模式通过微调的高效参数调整和强化学习的策略优化，能够快速适配特定任务，在数 据有限的情况下实现高性能表现，同时降低计算成本，提升模型的可控性和领域定制化 能力，为企业精准研判复杂问题提供了有力支持，助力企业在特定业务场景中取得更好 的效果。

应用模式 3: DeepSeek+ 蒸馏――增强小参数模型推理能力

对应场景: 小参数模型推理――轻量部署快速响应

DeepSeek 的蒸馏技术通过知识高效迁移与多层级 参数适配，解决了大模型部署成本高、垂直领域适 配难的痛点。其核心价值在于: 对 1.5B-70B 模型实 现性能与效率的阶梯式平衡，通过动态知识注入突 破训练数据时效限制，构建从边缘到云端的全栈行 业解决方案。这一技术路径已推动金融、医疗、智 能制造等领域的低成本 AI 落地，成为企业数字化转 型的关键基础设施。

技术优势：

计算成本大幅降低，参数量从 671B 压缩至 7B，推理速度提升 3-5 倍，内存占用减少 90% 以上，1.5B 模型可在消费级 GPU(如 RTX 3090)上运行，云端推理成本仅为大 模型的 1/10。

硬件适配灵活，小模型支持边缘部署，1.5B 适配智能手表 / 摄像头，7B 满 足本地 AI 助手需求，70B 则专用于云端复杂计算。

应用价值：

该模式通过蒸馏技术实现大模型到小模型的知识迁移，大幅降低计算成本，提高推理速度， 减少内存占用，同时具备灵活的硬件适配性，能够在边缘设备和云端实现高效部署，满足 不同场景的需求，为企业在轻量部署和快速响应方面提供了有效的解决方案，推动 AI 在 各领域的低成本落地和数字化转型。

应用模式 4: DeepSeek+ 二次训练――对模型进行行业能力增强

对应场景: 行业能力增强――深度赋能专业领域

在大型语言模型(LLM)的应用中，二次预训练 至关重要。它基于已有的大规模预训练模型，利 用行业特定数据和领域知识进行针对性训练，使 模型更精准地理解垂直领域的专业内容。支持基 于开源框架定制开发、企业私有化部署，可动态 调整训练参数与模型架构，适配不同行业需求， 还能通过迁移学习快速适应新兴领域。

技术优势：

• 精准适配行业知识: 让模型深入学习行业专业术语、规范和流程，如医疗领域的医学词汇与流程、金融领域的法规和市场知识，为相关任务提供精准支持。

• 提升模型泛化能力: 学习多样化行业数据特征，增强模型在不同行业场景下的适应性，以 及迁移至新行业时减少性能下降的情况。

• 灵活优化模型性能: 根据行业需求调整训练参数和模型结构，在精度和速度等性能方面进 行针对性优化。

应用价值：

该模式通过二次训练使模型深度适配行业需求，能够理解专业术语、把握业务流程和决策 逻辑，同时支持定制化开发和私有化部署，满足企业个性化需求，动态调整参数和架构也 使其能灵活适配不同行业的数据和硬件条件，为企业深度赋能专业领域提供有力支撑。