微信扫码
添加专属顾问
我要投稿
两位实战派专家揭秘AI大模型落地的真实挑战与解决方案,为企业决策者提供避坑指南。核心内容: 1. 企业AI推进的"五段论":从冷静到落地的完整周期 2. CIO角色进化:从Information到Intelligence的转变关键 3. AI落地的核心原则与"樱桃蛋糕"式应用策略
阿里云智能集团副总裁、CIO 蒋林泉,过去几个月和近百位业界CIO/CTO进行了交流,共话大模型落地的真实经验。钛媒体联合创始人、联席 CEO 刘湘明则通过百余份调研,试图厘清“AI 落地的十个问题”。两位“阅人无数”的实战派,在云栖大会展开了一场名为《AI大模型时代老板必修课》的思想碰撞,围绕CIO的角色进化、业务价值的界定、如何识别有潜力应用场景、企业AI战略制定及衡量基准、企业落地阻力、拉齐认知的有效方式等关键议题展开坦诚对谈。
蒋林泉总结出了企业 AI 推进中的“五段论”,从全员冷静到局部上头,再到系统施压、落地受阻,直至认知对齐、实现真正落地。这趟“上头”与“冷静”交替的过山车旅程中,一个绕不开的问题是:AI究竟能做什么?
刘湘明分享了他在硅谷听到的一句箴言:“软件做得好的事,AI就不要做了。”这话猛地听起来像给 AI 的热潮泼了盆冷水,但蒋林泉用“樱桃蛋糕”之喻巧妙回应了这一说法,强调AI应在成熟系统之上降低一线员工的使用门槛、提升普惠价值。
这场《AI大模型时代老板必修课》的对谈,就从这些真实、接地气的“坑”与“解”开始。两位专家摒弃空谈,直击企业AI落地过程中的真实挑战,为焦虑的决策者们提供了一份宝贵的实践指南。
Q1:CIO 在AI时代的角色进化与新要求
蒋林泉:
CIO 最开始的 “I”是 Information 。Information的本质还是“信息化”,把原来线下的流程线上化。前段时间的浪潮叫“数字化”,曾经把这个“ I” 改为了“D(Data)”,叫 CDO。现在的“I”又是 Intelligence。
我心目中信息化是企业想要把线下的东西变成数字世界,然后产生数据,数据产生洞察,洞察再作用于业务——这是上一轮数字化的逻辑。这次我觉得 AI 的区别是什么呢?它又引入了一个新的数据,是以前企业那么多年都没有被好好挖掘和利用的非结构化数据,就是脑子里面“Language“类的数据,载体是文档、合同、客服 SOP等等。这次的AI技术能够把这些数据消化、处理并利用,产生新的以”Language“为中心的智能。我的答案是没有叫“Intelligence”的“I”,CIO其实都是同样的角色,要用数字技术把企业在线化,把Record-based 的数据化,再去做洞察,它是一脉相承的。我觉得阶段性偏“Intelligence”,但最终还是回归到你还是一个“CIO”,无外乎就是利用各式各样的数字化技术,无论是在线应用技术,还是大数据技术或新时代大模型技术,改变一个企业的运营效率、改变一个企业的业务创新。
刘湘明:
其实雁杨讲得很全面了,我就做一些补充。核心的区别在于从“Information”到“Intelligence”的变化。我是学计算机的,从毕业就开始和CIO打交道。他们面临的挑战,最早是让老板怎么用计算机,现在挑战变成了老板天天催着他们怎么上 AI 。这个关系已经发生了很大的变化,对 CIO 来说就提出了很大的挑战。一方面我觉得是能力上的挑战,从计算机到 AI 其实基本是两套知识体系了,CIO自己和团队的能力都要提升。另外,整体的边界其实也不一样,原来基本上 CIO 管自己IT部门的一摊事就行,现在变成从老板到业务总、财务总都在催CIO上 AI。这对他们来说压力很大,协同范围大了很多,挑战也大了很多。真要去懂业务、懂财务其实也是挑战非常大的事情。还有,我觉得就是怎么去管理好老板的预期。老板说AI可以干这个,你觉得AI干不了,那你就问题很大。或者说你觉得能干,老板不想干,那你问题也很大。大家认知形成统一,后边很多事情就很好办。一个很重要的就是,你不要成为历史前进的绊脚石,如果不想被AI替代掉,那你一定要成为用AI最好的“CIO”。你要把知识、能力、资源等都加持到自己身上,就可能成为一个新时代的 CIO。
Q2:如何界定AI的业务价值并识别真正有潜力的应用场景
蒋林泉:
其实关键一定要理解两件事情的边界。一个是说哪些业务适合用这一轮的 AI 技术去做创新、去解决问题。另外一个是当前的大模型以及大模型之上的框架平台、Agent技术到底进展到了什么程度。你必须要做两端都非常清楚的东西,因为你最后是要撮合供给端的技术和真正的应用端落地的。如果对两端都没有深刻认知的话,何谈撮合。
“大模型”是个简称,它的全称是“Large Language Model”。所以你会发现翻译为中文“大模型”时漏掉了两个字——“语言(Language)”。我觉得不应该漏掉,“语言(Language)”才是最核心的关键词。
所以怎么选择有潜力的应用场景呢?第一,选择企业里面的职能和数据都是以“语言”为中心的场景,绝对要从这里切入。例如客户服务、电话销售、合同审核、内部知识库等。这轮AI技术特别善于处理“语言”,它能获取、处理信息并做决策,还能够通过语音的方式跟人去做交流、往前推进业务;第二,一定要是重复的场景,在流程里面一直有“人”的角色在做执行。我们讲的信息技术,其实是一个自动化的体系。首先它能做,其次它善于自动化的批量去做。所以如果是一个非常低频、复杂的场景,比如说老板需要根据很多材料做重大决定,那么这不合适由 AI做。先从相对简单、“语言(Language)”重复的地方切入,一定会拿到很大的收益;最后,最好这个工作有一定的压力,比如像“HR天天说要 Headcount“、”客户说我处理不了,有人着急等着结果“这类缺人或效率低的场景。
再来回顾一下。第一,“语言(Language)”的特征适合;第二,具有重复性,适合 AI批量化、自动化去干;第三,有压力,业务有动力配合你去干。如果符合这三个特征,一般来讲是非常合适的切入点。
这是这一端的逻辑,另外一端就得靠你自己躬身入局。场景深度、当前技术、组织、团队,包括现在大模型还有Agent 的平台能干什么、不能干什么,这个必须要自己亲自去干。干上一年,你大致就有体感了。
刘湘明:
对,这个事其实挺有意思的。大家对大模型的认知其实是有起伏的。我有一个做企业家的朋友前段时间特别高兴跟我讲,AI 是好用。但现在他却开始怀疑了。我觉得首先应该让老板用起来,老板对这事就有了体感。原来哪怕是弄一个Dashboard,弄一个驾驶舱,也是别人给他弄好。AI时代,老板变成“我亲自在操纵这个东西”,而不是通过别人。我觉得这对老板建立感知是有好处的。
AI 做项目的特点是一开始特别快,哗啦哗啦就做得差不多了,但是再往后就问题很多。你一定要找到业务价值高、大家愿意用的场景,然后才能迭代,AI的价值才能体现出来。如果做了做,觉得不行就放弃了,说咱们再做一个别的吧,这会对团队及企业内部影响很大。
最近收获特别大的一句话,是我在硅谷见了一个投资人,问软件和 AI 到底边界在哪里,他说的“软件做得好的事,AI 就不要做了”。我学软件出身,回来一直在想,AI它处理的维度更大、不确定性更强,但有的软件已经做了几十年,它在成熟的边界、成熟的规则里已经做得很完美。这些软件它已经变得很确定了,你拿来用就行,没必要再把它重改一遍。
蒋林泉:
我觉得逻辑非常对,如果原来用软件能做的,其实没有必要用 AI再做一遍。但是举个例子,比如报表场景,企业里面的BI 把那些大宽表导来导去,然后做 SQL、做报表、做信息的洞察。你会发现这种洞察一般来说只会供应到老板和主管这层,供应没有下沉。因为能写SQL并且精于业务SQL建模的人是少数。如果这些表本身口径没问题,我们让这些口径和表变成自然语言可以去提取洞察——也就是原来的IT系统和软件还在,写SQL的确定性还在,你只是把SQL用自然语言做了翻译。这时候,你就会发现有巨大的效应。例如原来对于销售来说,只有主管有资格享受BI服务。现在通过AI,一线销售都能享有BI服务,这个是有价值的。但前提是原来那些表,用人写 SQL 是写得出来的。
我自己打了个比方来形容企业IT系统和 AI的关系。原来企业IT系统如果做得特别好,加了范式,比如自然语言的翻译,马上就能获得魔法效应——我们称之为 AI 的“樱桃”,而原来的企业信息系统就是那个“蛋糕坯”。如果你的蛋糕坯不好,樱桃放上去也没用,因为老板想吃的其实是樱桃蛋糕。如果认为拿个樱桃就能吃到樱桃蛋糕,那这是最大的误区。我们有业务方提出,为什么不能用AI分析所有数据。我说原来很精英的BI都写不出来,AI凭什么能写出来。所以,软件用AI 再写一遍,它的界定是什么——你的软件体系如果足够好,原来需要专业人士去操作它,那么这时候可以变成用自然语言来操作它。你可以通过AI,实现专业化技能门槛的降低,从而实现IT系统使用的“普惠化”。这种普惠化有非常大的价值。
刘湘明:
你说的特别对,从软件的架构来看也是这样。程序真正核心的代码量是很小的,大量的代码都在写交互和界面。现在 AI 的出现其实把这一部分省掉了。原来要做一个复杂查询,最后可能都要上点编程语言了,但是现在你只要能跟秘书说得清楚,AI就能给你实现。
Q3:企业如何制定顶层的 AI 战略,及怎么建立公司的衡量基准
蒋林泉:
这看起来是个组织问题,其实本质上还是个业务管理问题。我特别强调中文“大模型”漏掉了“语言(Language)”这个词。“语言”的特征适合客服、电销、合同审核等白领原来的工作。这些工作企业之前也有标准,如果你切入,那就是用真实世界里做事的方式去度量。正确的问题并不难度量,但如果天马行空、不切实际的想法是无法度量的。所以,首先需要从需求和切入点,定义出正确的问题,才能去度量一个问题。
刘湘明:
但这里面有一点不同——AI是没有情绪的。如果你让设计师改三遍,他心里不骂你才怪。但AI你要它改20遍也没关系,它还鼓励你“你这个 Idea 特别好”,反而给你一些情绪价值。所以,AI会让组织里很多之前的消耗就没有了。
蒋林泉:
对,我回过头来继续说。其实在很多重复性的执行工作中,它必然要有度量。比如,电销一定要有转化率,服务一定要有 NPS、及时响应率、问题关单率。这些必须做度量才能运行得起来。所以企业里面一类已经规模化、有 SOP的工作,它就有度量机制。如果原来没有规模化、重复、可度量的能力,怎么能用 AI 来解决呢,这逻辑就不成立。
Q4:进一步分享AI 落地的成功实践经验,及选择哪些重点场景为突破口
蒋林泉:
我同时在分管阿里云公共云网站,对客自服务的售前与销售以及自服务的售后。我们公共云的商业模式,是客户主要通过网站来获取信息,做决策,购买并使用。我们有十几万篇文档,客户如果有问题,要自己看文档去解决。之前获取信息要么通过目录去查找,像Yahoo一样,黄页查到内容;要么通过搜索,问问题、直接拿到答案。我们测算了一下,人类白领工作最主要的时间花在了信息获取上。信息获取的效率,搜索比目录查找快了十倍,而用 Chatbot又比搜索快了十倍。所以,当不同信息获取方式上有十倍的效率差,而又是你时间主要消耗的地方时,AI会改变整个世界。
获取信息,加工信息,做决策,最后才行动。其中获取信息占了一半的时间,它的效率非常关键。所以我第一件事情,是官网加了 Chatbot,让客户获取信息的方式从目录、搜索直接跳到Chat。这是我很直白的想法,但是后面就遇上了很多问题。因为要做成与做好并不容易。我们很快就发现Chatbot答不好,出现各式各样的情况,不符合客户的意图期望,经常是这样。
上一代叫搜索进企业,门户里面加个搜索。比起Google相对互联网的成功,搜索在企业里没那么成功,大家还是对目录的依赖比较高。
刘湘明:
对,你说搜索这个事,它其实也跟写 Prompt一样,正确的写出关键词来也很不容易。
蒋林泉:
湘明说到关键点。做个目录,是个团队就能做出来。而要做好搜索,你的班子,你的搜索框架、搜索算法、数据处理能力等就要上来。做 AI 比做搜索要更难,所以AI对供给端团队能力的要求很大。湘明提到一个非常关键的点,AI对消费端的要求也越来越高,能用好 AI 和不能用好AI的差别就是天那么大。所以使用新技术,不光使用端有门槛,供给端也有门槛。这两个门槛如果没有被双向满足,它是不可能匹配的。这就叫幸福的家庭要双向匹配,不幸的家庭各有各的不幸。
Q5:AI企业落地的最大阻力是什么
刘湘明:
我觉得最大的阻力还是回到刚才说的认知问题。山中方一日,世上已千年。中国公众对 AI 的真正认知,其实就是 DeepSeek今年春节起来后这几个月的事情。哪怕像我们这批人,也就是在ChatGPT出来之后重新重视AI,也就几年。往前到达特茅斯会议的时候,即使几十年,对人类来说也是很短暂的。所以,知识、信息的扩散,其实远远要比我们想的渗透度要低很多,大家可能现在只是一知半解。
而且还有很大传播学上的问题。真正像雁杨这样很懂的人,没有时间去做传播。但是天天做炸裂体的人,也就可能比一般人多知道一点,但他主要的工作就是传播,加上现在社交网络上一定要有情绪,要炸裂,要制造焦虑才能传播起来,这就整体造成现在这样非常不对称的状态。老板们也是正常、普通的人,自然会焦虑。他想“万一我的竞争对手突然销售额十倍增长、成本十倍下降,那我不就完了吗?不行,他炸裂我也炸裂。”
蒋林泉:
我过去几个月其实和业界差不多八十到一百个CIO做过交流,我跟他们去分享过去两年踩坑的所有经验。分享的时候我发现那些越深入的人,越在拍大腿叫好,恨不得一直聊下去。入行浅的就相对没什么感触。其实他们已经是CIO 级别,已经不是普罗大众了。从传播学的角度来讲,我讲的这些很真实的东西其实大部分人是不太喜欢的。但只要他自己深入进去,被毒打过之后,可能就能有共鸣了。
刘湘明:
你说的太对了。最近我们准备“AI 落地的十个问题”,差不多做了一百个调研,发现里边跟技术相关的问题很少,最多其实是关于基模的选择,但现在基模也没有那么大的差别。剩下的都是刚才说的认知、数据等问题。数据、人才、组织其实全是大家没那么爱干的事。
现在看AI取得的效率提升,其实80%可能来自于组织结构的调整和管理流程的优化。我其实觉得AI 是给了大家做组织流程管理的契机,但是真正来自于 AI本身的大提升还没开始。未来调顺之后可能会有,但我觉得为时尚早。
蒋林泉:
我认为AI像一面镜子。在代码级别,AI 确实很快提升了很多。最后发现同一需求怎么还要花同样的时间?只好自己再进去看,看着看着就找出问题来了。做AI不得不去面对和度量这些问题。这些问题有部分AI能解决,有部分AI 解决不了。但如果说最近加强了管理,所以效率提升了,这显得很不性感,那最后可能就把功劳安在了 AI身上。你要全靠 AI 解决所有问题,这是不可能的。
Q6:企业对于选择私有或开源大模型等问题的意见是否统一?
蒋林泉:
我觉得不可能统一。目前观察下来,每个人都有自己的坚信。我自己的逻辑是,如果在一个应用里面找对了问题,要用模型就一定要用SOTA,一定要用当前最好的模型。什么是最好的模型,这就需要在业务里面,你自己去评测它。如果你不评测它,就谈不上选型。选型本质来讲背后是有度量的,你能选型说明你有度量能力。你能度量一个系统,才能去改进它。所以倒过来问,有没有度量能力?如果有,那大概率会选最好的模型。如果没有,用五花八门的模型,那么大概率也没有度量能力。
刘湘明:
度量能力是很高阶的能力。
Q7:业务和技术对 AI 的理解存在偏差时,哪些有效机制可以促成对齐合作
蒋林泉:
其实没有这种魔法,因为机制的背后是人,机制永远是人来保障的。我自己的经验是摸索出来的。千万不要看我在这里侃侃而谈,最初的一年AI也是落不下去。我最开始也没从期待里面走出来,试了后发现搞不定,我就得冷静。冷静完之后发现业务方他们还没有冷静,于是就得想办法,就发现必须要去给业务方做科普了。我和我的业务方一直在讲,不停地在讲——必须要刷齐大家的认知。
还有就是我们阿里云的认证。为什么我在内部是大模型ACA、ACP认证极大的推动者,是因为大模型的知识更新太快,我发现大家不把基础知识学一学,根本聊不到一块。所以我就内部提出在 AI时代,不止是技术人员,包括业务团队和全员都要做认证。我还分管认证中心,大家通过学习大模型 ACA认证,就能把大模型能做什么、不能做什么、应该怎么操作、原理是什么都系统性的了解清楚了。本来很难讲清楚的东西,通过有效的认证课程去讲清楚。现在我们内部财务、HR、销售、中后台、技术等都在做全员认证。除了阿里云,阿里淘天、AIDC等也都在推动。
那些非技术工作者、白领工作者如果要参与 AI项目,要真正的懂AI 。我觉得阿里云大模型 ACA 认证,起到了拉齐基础协作认知的作用。然后,我们自己形成的这些材料和认知,我会到处去分享、去交流,从而形成决策层的逻辑认知共识。我就是这么干的,人的认知不会天然改变,没有什么捷径。
刘湘明:
我觉得雁杨这个做法特别值得推广。在传统的企业里面,CIO 这个角色就是Pioneer,就是先锋。CIO很重要的一个角色就是作为“布道官”去布道。
Q8:给正在转型或开始AI探索的CIO们提些实在的建议
蒋林泉:
我们划分一下阶段,每个阶段的建议肯定是不一样的。第一个阶段,是CEO、CIO 全员都冷静。第二个阶段,是CEO一个人上头,他要想办法让底下的人动起来。第三个阶段,是CEO很上头,底下的人也知道了,然后CEO开始产生系统性的压迫,要求底下的人落地。第四个阶段,是落地的人觉得很冷静,开始不上头了,因为他发现落地的时候落不下去。他去想要如何让业务方冷静。然后再到最后一个阶段,有人又上头又冷静,大家一起把AI实际落下去了。MIT的报告说, 5%的企业AI落地成功了。
我可以跟大家分享一下我的感受,我们两个项目用了AI后,最近一轮大模型Qwen3-Max升级后,我发现什么都没干,只是升级了一个基模,项目的准确率就已经提升了三个点。我用了大模型以来,成本下降了20倍、30倍。一旦你只要真正把AI用在企业真实的工作流里,AI这个牛马就在不停的进化了。我在内部形容为“你的同行在平地做俯卧撑,而你已经在电梯里面做俯卧撑了”,你们将来的高度是肯定不一样的。所以,我的第一个建议是,如果你的企业还没有用AI,无论在什么生命周期阶段,一定要全面开始启动 AI 战略。否则如果你的竞争对手在电梯里做俯卧撑,你在平地做,那么你一定是死。第二个建议,还是马上去躬身入局,遇上问题、解决问题,不要再等待。因为在真实的实践当中,你才能够获得深刻的认知,才能了解业务的特征和技术的特征,判断AI合适不合适,才能去不断的迭代它、磨练它。如果你不真正的躬身入局启动一个真正的闭环,你永远不可能有深刻的认知。靠炸裂体和公众号是不能获取深度认知的。
刘湘明:
我觉得一个是“人”的问题。大家怎么统一认知,这个最重要。如果方向有分歧,大家再使劲,其实也是耗散的。刚才雁杨提到的全员 AI 认证这个事情,我觉得挺好的。尤其对于传统企业来说,人才的储备是很有问题的,不管是技术团队,还是普通员工,都需要提升对 AI 的认知。另外一个就是“场景”。开始大家可能各种小试一下都可以,但真正选择核心的业务场景开始做,是要慎重的。第三,我觉得人真正的学习就是教训、体感。很难场景一击中的,一下就做好,基本上不可能。该摔的跟头肯定要摔,该交的学费肯定要交,该骂的人要骂,该挨的骂也要挨,就是这样,一定要动起来。我创业学的最重要的话就是“行动克服恐惧”。你天天在屋里焦虑,是不行的。走两步,一看斗转星移,就可能不一样了。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2025-10-23
Claude Agents Skills vs MCP:AI 扩展的两条路径
2025-10-23
Dify Agent 核心解密:三模双驱,如何选对策略让你的AI应用“开挂”?
2025-10-23
Agent Skills 逆向工程解密,用Strands Agents SDK完美实现Agent Skills
2025-10-23
AI时代,GEO的探索、痛点和方法|AI透镜研究系列
2025-10-23
冷启动策略:没有数据,我的第一个AI功能如何从0到1?
2025-10-23
从 SEO 到 GEO:当搜索变成“被AI引用的权力游戏”
2025-10-22
给PM的DeepSeek-OCR深度解析,智能体上下文工程的范式转变
2025-10-22
AI Agent的未来之争:任务规划,该由人主导还是AI自主?——阿里云RDS AI助手的最佳实践
2025-08-21
2025-08-21
2025-08-19
2025-09-16
2025-07-29
2025-09-08
2025-09-17
2025-08-19
2025-10-02
2025-09-29
2025-10-23
2025-10-23
2025-10-22
2025-10-22
2025-10-20
2025-10-20
2025-10-19
2025-10-18