在中国，大模型的应用困境

推荐语

在中国，大模型应用的挑战与困境全解析。

核心内容：
1. 大模型技术在各行业的应用热情与实际落地难题
2. 医疗行业大模型部署热潮背后的成本与价值反差
3. 数据治理与系统对接难题，以及对大模型应用的影响

杨芳贤

53A创始人/腾讯云(TVP)最具价值专家

当技术的光环照亮全行业，落地的灰尘却最先粘在最脏的角落。

ChatGPT横空出世，DeepSeek引爆中国的AI热情，接着Agent技术在2025年取得了显著进展。OpenAI、Cursor、Manus等公司通过强化学习微调（RFT）和环境理解实现了技术突破，编程类Agent向通用型进化，垂类产品如Vantel、Gamma展现出巨大潜力。

谁都生怕错过这一波技术浪潮，医疗、金融、制造、零售等行业也纷至沓来，争相“买算力、上架构、贴标签”，希望借此实现飞跃式效率提升与降本增效。

然而，各行各业在大模型应用的过程中，却暴露出“成本投入与实际价值严重不匹配”、“技术部署环节跌跌撞撞”、“数据治理与系统对接如爬峭壁”以及“专业化需求与通用大模型之间相互错位”的共同困境。

这次，就尝试站在目前的时间节点，通过真实案例，剖析大模型在不同场景下的应用阵痛与前路思考。

1. 医疗行业：一体机卖爆、临床使用却难跑通

“掀天盖地”的部署热潮

今年年初，DeepSeek大模型横空出世，仅三个月，就有上千家医院官宣本地化部署，厂商集中打出“算力成本仅为OpenAI十分之一”、“一体机秒杀市面竞品”的口号，不少医院信息科负责人立刻拍板：预算从几十万到上百万，涌动着“买算力、上车”的洪潮。

然而，在百万级硬件成本砸入机房之后，医生真正“躺进”模型界面的却凤毛麟角。据多家三甲医院信息科主任透露，大模型一体机最终用在行政公文起草、科研助手，离“辅助诊断”“影像分析”这些真实临床场景相去甚远。

原因何在？一方面，医生面对“模型幻觉”、“错误率高”不敢贸然信任，另一方面，医院内部百余套HIS、PACS、LIS等系统的数据格式不一、标准不统一，想要把海量病历、影像、检验报告全部喂给大模型，犹如让它“徒手搬山”，信息科往往要花费数月、数百万元，甚至成果依然不尽如人意。

成本与价值的巨大反差

以某头部三甲医院为例，为了部署DeepSeek满血版，他们单是NVIDIA H100显卡硬件成本就投入约500万元。理想状态下，这套算力能在预问诊、电子病历生成、个性化治疗方案推荐等环节，给医生以“秒级响应”“多模态融合”的即时帮助。

然而，当它真正应用到临床时，医生发现：同样一份影像报告，人工阅读需要几分钟，而大模型给出的结论往往要再校验五分钟，且错误率高达20%以上；生成的诊断建议，则存在不符合最新指南的陈旧信息。结果是“耗时更长、风险更高”，医护人员宁可选择“传统流程”，也不愿冒被模型误导的风险。

与此同时，医院信息化系统对接的隐形成本，更是一座无形冰山：医院一线科室的病历、检验、影像数据格式各异，甚至同一套系统里，同一个字段在不同科室的标注方式都可能不一致。“血红蛋白”可能写作“Hb”、“HGB”、“红细胞压积”等，某些手写检验单上干脆全是缩写和错别字。

要将这样的非结构化数据集成到大模型管道，需要信息科动用整整一个数据治理团队，逐条校对、打标签、格式化，再花数月时间完成微调训练；而这些投入，往往换来的仅仅是“行政公文起草”的权宜之计，离真正在临床高频使用还有天渊之别。

专病垂直模型的“破局”尝试

面对通用大模型在临床应用中的“高开低走”，不少头部三甲医院开始探索“专科垂直模型”的可行性。

上海仁济医院联合蚂蚁集团，花费一年多时间，打磨出一款针对泌尿外科的垂直大模型，通过2,132个经专家确认的问答对及25,000余条诊疗依据，将模型“喂饱”专业语料后，取得了接近69.8%的诊断准确率；

上海瑞金医院与华为联合打造的RuiPath病理大模型，依托百万级数字病理切片库，在常见病理问题中，准确率超90%。这类专病纵深攻坚的模式，让大模型在“大而全”抛开误差风险的同时，专注“某一科室的深度应用”，成为医院内部最被认可的首选路径。

不过，即便是专科模型也并非“一劳永逸”：它仍旧要面对数据采集门槛高、标注流程长、临床与技术需要双向协同的阵痛期。

只有当基层医院、乡镇卫生院也能毫不费力地对接这些小场景模型时，它们才有可能从顶级三甲进一步向下贯通，实现“分级诊疗+AI赋能”的闭环。

2. 金融行业：风控、智能投顾与“合规幽魂”

AI风控吃香，却因“合规红线”寸步难行

金融机构最早一批大模型尝试，往往集中在“智能风控”、“反欺诈”与“智能客服”领域。

某大行曾拉来一家AI公司，在其总部机房内部署超大参数量的语言模型，宣称“只需一个Query，就能对客户异常交易进行实时预判”。然而，一旦将模型输出与金融监管对接，便发现“大模型的决策逻辑太过黑盒”，很难给监管方一个“可追溯、可解释”的结果。

监管层要求：每一笔风控决策，都要能提供“从数据到结论”的闭环审计报告。而大模型在生成建议时，往往靠概率分布做输出，缺乏“因果链式解释”。

于是，这家银行把大模型从核心风控链路剔除，改为“辅助分析”模式，让模型生成一份初步报告，然后由人工风控团队对可疑点进行二次核验。结果是：模型在筛查效率上相较传统规则引擎只提升了约10%，但在合规成本上却增加了约30%，既要为模型额外配备审计团队，又要投入更多人员进行校对与解释。

最终，这家银行将大模型应用场景，退回到“客户热线自动应答”和“文档智能检索”，远远低于最初的“全流程风控翻新”预期。

智能投顾“精准”呼声高，数据隔离却成天然屏障

另一家股份制银行曾尝试将大模型引入个人理财子公司，打造“智能投顾+定制化组合”服务。项目组拿到数万条客户历史资产配置与交易行为数据，试图让模型学习后给出个性化资产配置建议。

然而，在金融数据安全管理条例面前，这批数据只能在严格的“脱敏沙箱环境”中流转，核心交易明细与个人敏感信息根本无法与大模型共享。即便对外部API调用做了全链路加密，监管依然要求：模型若要参与实际投顾服务，就必须将所有预测逻辑、本金风险提示、历史业绩差异化等细节透明公示。大模型天生“黑盒”和“幻觉”特性，根本无法满足这样的审计与可解释需求。

最终，这个投顾项目退化为“模型给的建议仅供参考，最终决策仍由人工投顾团队做把关”。在背书“智能投顾”的噱头下，银行方面需要投入大量合规会议、法律审查和二次验证，却依然无法承诺“模型输出安全可靠”。于是项目组将关注点重新聚焦在“智能化文档撰写”“产品说明自动生成”等低风险环节，勇气与理想之间的距离，被监监管红线一步步拉得越来越远。

金融行业的“专科模型”萌芽：垂直切分 vs. 通用难题

和医疗行业类似，一些金融机构已经开始探索“垂直化大模型”思路。某国有基金公司联合知名券商，孵化出一个专门针对上市公司财报的NLP模型。它只“喂”该公司过去五年的年报、季报、研报以及券商研讨会实录，模型能够在10秒内对未来公司营收增长、现金流风险做出初步预判。

然而，该模型仅能解决“财报文本分析”这一专门场景，一旦要扩展到“宏观经济预测”、“行业风向研判”或者“合规审计”，就需要重新准备大量标注数据，开发成本极大、且难以复用。

相较于通用大模型，金融垂直模型确实能更快跑通一个细分场景，但要想在“银行票据风险分析”、“信贷审批自动化”、“投资组合智能优化”等多个业务线全面铺开，仍然面临同样的“数据孤岛+合规审计”、“多系统对接+任务切换”问题。

还没等它们从“沙箱”走进生产环境，金融机构往往又因为业务需求变化而暂停项目，这让“先行的垂直模型方案”在落地过程中频频遇冷。

3. 制造行业：数字化改造“上半场”，大模型落地“下半场”迷茫

理想中的智能制造：预测维护、质量控制、数字孪生

制造业对AI的期待，多集中在“设备预测维护”、“产线质量监测”、“数字孪生仿真”、“供应链优化”等环节。

某家大型家电企业引入通用大模型，希望通过海量设备运行日志、大量工艺参数、历史订单交付数据，构建一个“智能生产助理”。

按理说，模型应该能够在设备出现异常振动时，立刻给出“可能原因+对应维修方案”，或在生产计划波动时，给出“最优排产建议+成本对比”。

数据边界与工控系统的“隐形围墙”

但当他们试图对接SCADA、MES、ERP等多个工控系统时，才发现所有数据都被“厂区内网+专有协议”层层包裹。

要把这些数据解密、格式化、筛选，再导入大模型做训练，需要与自动化厂、OT（Operational Technology）团队反复确认接口定义，哪怕是一个温度传感器的字段，也要从TCP/IP层再往下拆。

对于传统制造企业而言，IT部门往往只负责ERP系统维护，提到“让大模型看看设备运行日志”，就像让老厨师去学编程，两者之间根本无共通语。

最终，这家家电企业花费半年时间，仅完成“关键设备日志历史归集”，却还没来得及做模型微调，就被生产线紧急改造计划打断，项目陷入“无人问津”的冷却期。

智能化厂区 vs. 人才与思维裂缝

即便有数据接入了大模型，也要面临工艺工程师与算法团队之间的思维鸿沟：“设备接下来可能会故障”的概率输出，对一线车间而言缺乏足够的可操作性；相反，“某工艺参数增大0.5%时，成品率或降低2%”的结论才更有说服力。

这种“顶层规划式的智能制造梦”与“生产现场实操需求”常常脱节，导致大模型成果成为“高层幻灯片上的美好愿景”，在车间里却找不到可落地的抓手。

为了解决这一局面，一些企业开始尝试“垂直营销模型”与“工艺数据专项模型”相结合的方式。例如，某家国内知名汽车零部件厂，与高校联合开发了一个针对“冲压设备故障诊断”的小型垂直模型，重点监测冲压机床的振动信号、模具磨损率与温度参数。该模型在实验室环境下取得了80%以上的故障预警准确率，但要将其推广到全国十几家生产基地，就必须为每条冲压线改造传感器、升级网络，并投入大量培训成本，让现场技师学会“如何读取模型预警，如何判断报警真伪”。短期内，这些厂区还不足以看到显著的ROI（投资回报率），导致厂区管理层对大模型信心不足，项目往往止步于“内部实验室”阶段。

4. 零售行业：个性化推荐与库存优化，落地效果喜忧参半

“千人千面”与冷启动的拉锯战

零售业最早将大模型应用于“个性化推荐”、“智能客服”、“供应链预测”上。

某电商巨头内部曾搭建通用大模型，希望实现“用户浏览、加购、评价与预测需求全链路打通”，让模型通过海量用户行为数据，为新用户推送“千人千面”的个性化首页。

然而，天生存在“冷启动”问题：新用户刚注册时，没有足够的历史行为数据可供学习，模型根本无法给出高质量推荐，只能根据大盘聚类逻辑进行泛泛推荐，导致真实效果并不比传统协同过滤提升多少。

另一方面，当模型的推荐逻辑要打通到线下门店时，还要面临POS系统、CRM系统、供应链WMS系统的数据孤岛。某家连锁超市尝试将线上大模型与线下门店打通，希望在门店APP上给顾客提供“到店就能看到实时库存+个性化折扣”的购物体验。

然而，由于门店刷卡系统、扫码购系统各自为阵，并没有统一的中台，导致模型在读取“实时库存”“会员标签”时，往往会出现数据延迟或冲突。一旦推荐的优惠券与库存不符，顾客便会产生“APP上显示有、到店却卖空”的糟糕体验。

价格战与模型ROI的拉锯

零售业的利润普遍较薄，许多头部企业盲目追求“技术加持”的噱头，结果是大模型项目“要么花钱买算力、刷数据日志，要么让自己陷入数据清洗的泥潭”，却没为最终销售额带来明显提升。

某连锁服装品牌为了推广“大模型智能搭配”功能，先后花费数十万在人像识别、商品属性标注上；上线后，只有不到10%的用户使用“智能搭配”功能，大多数人还是习惯人工浏览店铺风格。

短期内，这个智能搭配模型对营收提升不足1%，而其维护成本却占到了全年IT预算的20%。在价格战越演越烈的当下，这类“短期看不到回报”的尝试，很容易被门店运营方贴上“项目鸡肋”的标签。

社交电商与垂直模型的生机

不过，也不乏一些零售企业通过垂直大模型取得了突破。

某新锐美妆电商与某AI创业公司合作，推出了一套“小语种+深度学习”的“智能试妆+护肤问答”系统：系统前端通过自拍人脸识别肤质、肤色，中后台模型则结合用户肤质输入、商品成分数据库、季节气候数据给出“个性化试妆”与“护肤建议”。

由于这套系统只专注“美妆”领域，且与门店导购系统充分联动，不仅大幅提升了用户粘性，还带来了约15%的客单价增长。

相比于通用大模型花费巨大，却只在“首页推荐”环节体验平平，这种垂直化、细分化的做法更容易在“精准场景”下实现ROI的快速回本。

5. 大模型应用的共性困境

共性困境，一句话，成本投入与落地价值难对接。

硬件与运维成本高昂

医疗：部署大模型一体机，单台算力成本动辄几十万到上百万，一旦利用率不足，就变成“高价摆件”。

金融：为了满足合规审计需求，需要专门的GPU集群、日志审计系统、合规团队，才勉强能够算清“模型为何给出这个结论”，成本占比巨大。

制造：要接入工控系统，就得改造PLC接口、布置新的传感器、升级OT网络，成本投入超过模型研发本身。

零售：线下门店数据打通、POS升级、CRM打通等基建投入，一旦场景跑不通，就成了“花钱买了个大数据中台，捞不到一滴实际销售” 的尴尬。

技术落地难度极高

医疗：数据分散、不规范，模型输出需要临床医生校验，延误诊疗效率。

金融：监管红线高、可解释性要求严格，模型“黑盒”特性难以落地在风控核心链路。

制造：工控系统割裂，IT与OT两军分裂，模型想读取生产数据如同“隔山打牛”。

零售：线上线下数据脱节，预测模型要与库存系统、ERP系统、会员系统打通，需要跨系统架构改革。

行业专业化 vs. 通用模型错位

通用大模型解决的是“百科式问题”和“多领域覆盖”，却难以深入到各行业的“细分痛点”。

专科/垂直模型在数据质量与场景契合度上更高，但其通用性有限，推广成本高，且需要行业专家持续参与。

6. 大模型应用的破局思路

破局思路，一句话，从“买算力”到“买价值”。

聚焦场景、分步落地

医疗：先从“专病模型”、“辅助诊断”切入，待在某个科室验证成功后，再向其他科室复制。

金融：先在“文档智能检索”、“合规报告自动生成”等低风险场景跑通，再逐步摸索“风控预警”、“智能投顾”等高风险场景。

制造：先让垂直故障预测模型在单一产线跑通，待ROI清晰后再扩展到整厂、跨工厂。

零售：先从“线上智能客服”、“会员画像细化”着手，待预测效果稳定后再整合到“库存与供应链优化”。

数据中台与标准化建设同步推进

建设更成熟的“数据中台”，统一数据标准，打通各系统之间的接口。

推动行业协会或监管部门制定行业数据标准，减少同质化改造成本。

医工、金工、产学、产销协同共创

医疗领域要求临床医生、信息科与算法团队形成“共创”机制，医生告诉算法需要什么指标，算法持续打磨，医生不断反馈修正。

金融领域鼓励风控团队、合规团队与技术团队联合立项，确保模型输出合规可审计。

制造领域需将IT/OT两军打通，让现场工程师与算法工程师“同桌吃饭”讨论需求，及时迭代模型。

零售领域让营销团队与数据团队紧密联动，一起制定“推荐规则”与“营销策略”，让模型与业务需求同步演进。

构建“可解释+可追溯”的审计体系

模型输出必须附带“解释层”，让用户知道“为什么给出这条建议”、“依据是什么”，避免“黑盒决策”遭遇信任危机。

同时在监管合规场景下落实“全链路审计”，记录输入、输出、逻辑路径，确保一旦出现偏差，可以溯源整改。

边缘计算与轻量化模型的潜力

对于硬件资源有限的中小机构，可寻求“轻量级预训练+在线微调”方案，减少对算力的依赖。

把模型放在边缘服务器、移动终端，或者直接采用云边协同，让训练与推理更加灵活，减少硬件闲置成本。

7. 结语：大模型，跑在路上比站在原地更有希望

如果说深度学习的浪潮是“海啸”，那么大模型应用的落地就是“冲浪”。

医疗、金融、制造、零售，几大行业都有自己热切的期待，却也都面临“数据孤岛”、“部署成本”、“专业化错位”、“合规审计”等现实难题。

大模型并非一剂“放之四海而皆准”的灵丹妙药，而更像是一块“半成品拼图”，需要各行业在场景、数据与监管之间持续打磨、反复迭代，才能真正融入业务流程。

当下，最要紧的不是“谁先吃下一口算力糕”，而是“谁能把手中的一小块拼图先拼好”。从医疗一体机的“卖爆”到金融风控的“观望”，从制造预测维护的“沙盘”到零售个性化推荐的“流量陷阱”，大模型的应用困境告诉我们：唯有以更扎实的基础建设、更贴近的场景需求和更可持续的运营思维，让技术与业务、数据与合规、算法与专业知识形成合力，才能让这块“存在争议的拼图”真正融入行业画卷，而不是沦为“高价摆设”的噱头。

未来几年，大模型在各行业的“二次浪潮”或将到来：金融风控体系会进一步打磨可解释模型；制造全流程数字化或催生更轻量化的“边缘推理”方案；零售行业会在“社交电商+垂直模型”上继续挖掘增量……

当这些碎片化的尝试足够多、足够深入时，大模型或能真正让“AI赋能”从纸面走进现实，让那些曾被称为“高价摆件”的算力机器，真正成为“点燃业务价值”的助推器。

等待这股浪潮，需要更多耐心、更深协同，也需要对“成本与价值”的精准拿捏。

当技术的光环照亮全行业，落地的灰尘却最先粘在最脏的角落。

唯有踏实跑通每一个场景，才能让光环的余晖照彻实际应用的每一寸土地。