我要投稿

SaaS的“大模型焦虑”

发布日期：2024-06-13 08:55:24 浏览次数： 3333

作者：牛透社

微信搜一搜，关注“牛透社”

在向 AI 的转型升级中，行业 Know-how 依然是 SaaS 厂商可靠的壁垒。

大模型落地的另一面，是 SaaS 的AI化升级。

在与大模型的双向奔赴中，SaaS 厂商如何走出“大模型焦虑”，找到“AI自信”？

“大模型焦虑”

“所有软件，都值得用大模型重做一遍”。

2022 年底，ChatGPT 火爆出圈，也把不少 To B 从业者带入一种“大模型焦虑”中。

两、三个月后，第一波焦虑慢慢缓解下来。因为大家发现，当时的大语言模型，更像一个偏 C 端的“大号玩具”，加上大语言模型幻觉、隐私安全、落地场景等制约，距离真正的 To B 生产力工具，还有点远。

随着 OpenAI 开放 API 接口，Meta、谷歌推出开源大语言模型，以及大语言模型应用开发工具 LangChain 的兴起，大语言模型在 B 端的商业化路径，逐渐清晰起来：

首先，开源降低了大语言模型技术应用的门槛。例如，SaaS 厂商可以在开源大语言模型的基础上，训练和微调自己的行业大模型，帮助客户解决具体业务场景中的问题；此外，LangChain 等 Agent 平台和工具，也为 SaaS 厂商的创新和业务探索提供了很多便利。

职行力创始人兼 CEO 林华荣，一直在密切关注大语言模型技术的进程。“开源大语言模型只是变化的起点，真正让 To B 行业兴奋起来的，应该是 LangChain 这类可以实现 Agent 概念的框架出现。大家开始意识到：AI 已经可以被业务场景需求驾驭了。”

在林华荣看来，通过类似 LangChain 的开源框架，加上 RAG 技术（检索增强生成），大语言模型通过外挂知识库（向量数据库），很好地解决了大语言模型非要训练才可用的问题。这也让许多 SaaS 从业者非常兴奋，至少找到了一个大语言模型落地最直接的场景：企业内部知识库的智能问答。

“大语言模型可私有化部署，企业数据可私有向量化，是大语言模型技术在 To B 场景落地的重大转折点。”

无论 SaaS 厂商，还是企业客户，在训练大语言模型时，都比较担心数据安全和知识产权保护的问题：把自己的数据喂给大语言模型，训练结果万一被对手抄去了怎么办？

大语言模型技术，模拟的是人的神经网络方式，不同于传统的硬盘，它的数据存储和管理都很难精确化管控。因此，林华荣认为，通过“训练”来实现企业“私有智慧大脑”是存在一定误区的。

首先，训练大语言模型掌握了特定的知识以后，要求大语言模型要对信息做一些针对性的保密，这有点像内部员工交流时，“我告诉你个秘密，你不要告诉别人”，实际上就很难真正保密了。

其次，大语言模型的输出和人类的表述方式类似，大多数情况下并没有所谓的“标准答案”，如果缺少一些知识边界的约束，就会不可控地产生“幻觉”，也就是我们经常说的“一本正经地胡说八道”。

最重要的是，企业知识本身存在持续性的快速迭代，训练完的知识，如果要替换旧的知识，不能像以前那样通过硬盘信息的“删除”或“修改”操作来实现。新旧知识，就会像人的记忆一样会产生叠加，很容易产生混淆，这样也会产生“幻觉”。

基于以上分析，林华荣以为，“通过知识向量化的方式，把企业知识植入私有的向量数据库，这些向量数据库可以部署在自己的云上，或者本地服务器上，类似于以往 SaaS 对企业私有数据所提供的混合部署，这样就能很好地解决大语言模型落地的隐私安全问题；同时，通过 Agent 平台来约束大语言模型在不同的场景下，在指定的知识范围内，作出筛选回答，就可以较好地解决大语言模型在 To B 场景的幻觉产生问题。”

Gartner 技术成熟度曲线表明：每一项新技术从诞生到成熟，都会经历技术萌芽、欲望膨胀、泡沫破裂、稳步爬升、技术成熟的周期，同时也会伴随着一些“短期高估”和“长期低估”的误判。

从长期看，AI 浪潮不可逆转，应当看到AI 转型升级的战略意义；从短期看，如何“+ AI”，利用AI升级自己的产品，许多 SaaS 厂商尚处于摸索阶段，应当避免因为 FOMO（错失恐惧症），而盲目投入或转向。

在向 AI 的转型升级中，行业 Know-how 依然是 SaaS 厂商可靠的壁垒。

经历过短期焦虑，面对大语言模型浪潮，林华荣充满信心，“这波大语言模型技术，核心价值还在于 AIGC ，也就是通过大语言模型来把企业内的隐性经验，输出成可用的显性知识或者服务，大语言模型技术正在重塑我们的产品。所以我们今天不仅不焦虑了，而且由于我们在知识运营管理赛道上的 Know-how 积累，反而对未来的市场更加自信。”

“落地之痛”

据牛透社调研，目前大语言模型在国内 To B 场景的落地，仍处于探索和试点阶段，主要有智能客服、企业培训、AI面试、营销获客、数据分析、法律咨询、产品研发等场景；此外，还有一些偏 AI 平台、工具类的赛道，如低代码、AI Agent、RAG flow等。

在大语言模型的商业化落地中，目前主要面临安全合规、准确性、可控性、易用性、规模化等挑战。

安全合规：这是企业经营不能触碰的“红线”。大语言模型商业化，也必须符合国家法律法规，确保信息安全、内容合规；此外，还要满足一些行业的特定要求，比如金融、政务行业，一些场景会要求大语言模型私有化部署。

准确性：生成数据不准确、文案效果不理想、胡说八道……幻觉问题，仍是大语言模型在 To B 场景落地的一个重要“BUG”。我们也发现有厂商在探索通过 Function Calling（函数调用）、RAG（检索增强生成）等技术，以增强生成内容的实时性和准确性。

可控性：安全可控是决定 To B 产品使用深度的一个重要因素。如何解决安全可控？除了合规和准确性要求，权限管理也非常重要。以知识管理场景为例，如何让大语言模型在不同场景下，针对不同权限的对象，输出正确的知识，动态权限管理非常重要，否则就只适用于浅层次场景，很难在全员应用的场景落地，业务价值也将大打折扣。

易用性：“我们公司里，Prompt 写得最好的，不是产品经理，也不是技术，而是测试工程师”。有 SaaS 厂商在面向客户提供 Prompt 工具时，发现客户不会用，甚至连自己的人员也不清楚怎么去用。这种情况下，能面向普通使用者，不用敲代码就可以搭建业务应用的 Prompt 工具就非常重要。

规模化：大语言模型技术，一定是在某个行业、某类客户中普惠，让大多数人可用，才能真正实现规模化。受制于成本、实施能力、技术稳定性等因素，有的 SaaS 产品结合大语言模型技术后，只能服务极少部分的高客单价客户，还无法全面推广。

此外，咨询、数据治理等生态服务同样也不可少。SaaS 厂商要与AI生态厂商、客户共建标准化解决方案，通过“大模型+服务”，才能更好地闭环。

在大语言模型落地中，如何界定大语言模型的能力边界（优势）？

一些高频、高标准化、海量数据的场景，如数据分析、客户洞察等，不仅适合传统数字化技术，同样也比较容易结合大语言模型的优势。以 Chat BI 为例，结合大语言模型的自然语言处理和数据分析能力，能够极大提高对话式 BI 的能力，使 BI 产品更易被业务场景深度使用；此外，大语言模型在自然语言交互、推理能力、学习效率、执行能力等方面的优势，能够扩展、打通原来某些智能化环节，甚至会重新定义一些工作流程和岗位。比如在大语言模型能力的加持下，客服部门就有可能实现从服务中心到销售中心的升级。

林华荣说，做管理软件出身的人，容易习惯性地通过软件来增加管理控制的精确性，但如果仅从精确性来使用大语言模型技术，就很可能限制了大语言模型的优势能力：“我们要把大语言模型当作‘人’，而不是当作工具来看，这是一个非常重要的思考方式。”

在企业级大语言模型产品的实施交付上，同样也需要把大语言模型当作“人”来理解，并不局限于数据训练、微调等技术服务，而是要具备驾驭大语言模型的能力，让它能为企业所用。林华荣把大语言模型实施归结为三项主要工作：提示词工程、Agent 流程设计、行业 Konw-how 植入。核心目标是要把行业 Konw-how 转化为驾驭AI的能力，帮助客户实现业务结果。

“升级之路”

大模型浪潮下，企业的 AI 转型，不再是一个选择题，而是一个生存题。

在与一部分 SaaS 厂商的交流中，我们发现产研提效，是目前“SaaS+AI”的一个重要落地场景。

例如，一家 SaaS 企业产品负责人表示，自今年2月份以来，便要求所有研发人员必须使用大模型开发，否则就会被要求离开公司。目前该公司AI写代码占到了60%，研发效率得到了极大提升。

除了在产研和运营上的提效，SaaS 厂商也在积极探索产品与大语言模型技术的结合点。

林华荣表示，这里面一个难点在于大语言模型与传统管理软件输出的价值，是两个不同的维度。“管理软件属于解决管控性的系统，而大语言模型技术则相反，是要替代人的知识类高负荷工作。这也是为什么很多 SaaS 厂商一直很难找到大语言模型和自身产品产生 ‘化学反应点’的原因。”

这一差异，造成大语言模型技术与国内大部分企业管理软件的融合，仍处在体验升级阶段，尚未深入管理业务的核心。SaaS 企业的 AI 升级，也因此分为两条路线（或两个阶段）：

一为体验升级之路。即让原有能力，能够更好地被 AI 驾驭和驱动。这是适合当下大部分 SaaS，尤其一些复杂的管理软件 SaaS 厂商的升级之路。

二为重塑产品之路。即利用AI能力，做出一个全新的产品。这是适合更多创意工具、知识管理、智能客服等 AIGC 相关赛道 SaaS 厂商的升级之路。

相比之下，体验升级之路，更容易落地，但 SaaS 厂商在这条路上，多少有点 FOMO（错失恐惧症）的因素：有的是被大语言模型裹挟，不得不卷；也有的是想在大语言模型蓝海中找到新机会。

这有点像燃油车到电动车的转型：原来只是做汽车，现在还要装上冰箱、彩电……核心产品、价值链没变，更多是在卷体验（同样价格水平更多体验），很容易掉入“炫技陷阱”：为了一点体验改善，去加大语言模型，最后叫好不叫座。

想象一下：用大语言模型去点外卖、订机票，是不是真的比用 APP 更便捷？SaaS 厂商在交互体验升级上的投入，是否真的能够提高客单价和续费率？

重塑产品之路，目前主要集中在 AIGC 高度相关的赛道。

以职行力为例，林华荣提到，以往职行力产品主要面向中大型客户，这些企业都是具备相对较为完备的知识培训体系的，职行力可以在此基础之上，帮助客户解决让培训更有效果的问题，从而快速提升人效；但由于中小企业往往都不具备完备的知识培训体系，所以，以往职行力是不做中小企业客群的：不是不想做，而是做不了，因为这样往往会把软件交付做成咨询案交付。

大语言模型技术出来之后，职行力推出了基于 AIGC 的智能陪练系统。与以往的产品相比，这更像是一种快速见效的“特效药”。无需通过漫长的系统化治疗（建立培训体系并推动体系落地），而是直接给每一位员工配备一名贴身的“专业医生”（提供咨询、辅导、带教服务的专业教练），就可以更加快速、高效、低成本地满足中小企业客群在业务培训上的需求，这就是传统产品和大语言模型能力结合后产生的“化学反应”。

结合以上两条路线来看，SaaS 厂商在大语言模型方向的探索，目前主要还在于提升产品交互体验，提高研发和运营效率上：比如在现有产品上增加特性，提升交互体验，或体现在一些单点功能的突破上，尚未与业务深度融合。从更长期看，随着大语言模型对 To B 业务场景的渗透， SaaS 厂商可能就需要思考如何借助大语言模型，重构产品服务。也就是说，体验升级之路，最终会走向重塑产品之路。

无论哪条路线，大语言模型技术，都为 To B 行业带来了新的生态融合。

近段时间，国内大语言模型厂商，逐渐从“拼参数”转向“争生态”。SaaS 厂商也能从中明显感受到大厂态度的转变：以往找大语言模型厂商谈 API 合作，对方可能不太理会；现在各赛道头部的 SaaS 厂商，经常都会收到多家大模型厂商的测试邀请。说到底，大模型厂商的商业化破局，关键还在应用生态：ISV 伙伴的质量和数量，决定了大模型厂商的市场渗透能力和长期优势，这也是近期国内通用大语言模型“价格战”背后的逻辑。

但也有一部分 SaaS 厂商，看到了在 AI 生态中面临的挑战：AI Agent平台、AI 原生应用，会不会冲击到原有 SaaS 的地位？

林华荣认为， SaaS 厂商的 AI 升级，有点类似于燃油汽车向电动汽车升级转型的过程。如果让汽车厂商自己去做电池，或者生产车载彩电、冰箱，显然是有点不现实的。更合适的方式是去找专门的电池厂家、电器厂商合作。要做到这一点，燃油汽车厂商首先要做的是把自己原有平台升级到电动化平台，能够挂载电池和电机，在车内可以接入冰箱、彩电等各种电器。

对于 SaaS 厂商来说，关键也是要保持开放，与专业的大语言模型厂商、Agent厂商合作，让自己能被AI驱动，融入到AI生态中。

结语

在大语言模型的商业化落地上，目前还面临安全合规、准确性、可控性、易用性、规模化等多重挑战，如何降低大语言模型技术的服务成本，完成闭环是关键。

SaaS 的 AI 升级，目前主要有两条路线：一为体验升级之路：即让原有能力，更好地被 AI 驾驭和驱动；二为重塑产品之路：即利用 AI 能力，做出一个全新的产品。随着大语言模型对 To B 业务场景的渗透，体验升级之路，最终会走向重塑产品之路。

大模型时代，行业 Know-how 依然是 SaaS 厂商可靠的壁垒。尤其是资本退潮以后，SaaS 厂商打造盈利模型，最终还是要回到核心竞争力上，积极融入 AI 生态。相比较卷价格，卷专业价值更有未来。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业