我要投稿

企业AI应用落地的一些思考和记录

发布日期：2025-12-24 22:13:08 浏览次数： 1513

作者：AllaboutAI

微信搜一搜，关注“AllaboutAI”

上周参加了一个AI相关活动，记录一些碎片的想法和思考

整体的感觉是不管是对外提供服务的，还是内部的一个小的服务部门，基本都在非常积极地做各种AI或者Agent相关的实践，甚至感觉做的有点过度了，就是为了能在实际的业务中真的用起来，在工程上做了非常多的事情，这个趋势应该是非常明显的，在不同的企业和行业内的探索和实践程度应该是在飞速增长的，不过具体的效果上可能也是未知的

越大的企业，或者业务本身的规模越大，可能效果更好。因为效果或者质量的提升只要一点点，带来的收益都是巨大的，动力也会更强一点

AI带给组织的不是单个技术目标，而是一种全新的运行模式

全面的实践

不同的企业各种场景下的尝试和探索都很多，不管是内部自己用，还是对外的服务。面临的问题其实也类似，核心还是上下文的管理和对于业务的理解

技术路线上，各种实践都有，但是感觉有些可能也会走向过度工程化了，比如一个问题或者效果可能 ROI 没有那么高，那花那么多的时间和精力是否值得.或者三个月之后模型能力进化了，之前做的工程化是不是就浪费了？不管是用闭源模型还是开源模型其实都要面临这个问题

所以做这些 Agent 探索的做核心还是积累对于一业务的理解，基于这个契机来梳理清楚业务上做的事情到底是什么？

特别是原始的定义和目标是什么，因为以前可能这整个流程里面有一部分是完全模糊的，它由具体的人的经验甚至直觉组成，比如判断某些内容的价值，某些产品的改进方向等等，他们可能直接被压缩到某个人或者团队的决策中了，可能他们自己也无法用自然语言或者 dsl 的方式来总结出来，但是这又是最核心的部分，不管是基于 workflow 还是 Agent 的方式来做，这个业务理解 AI 化的过程是不可逆的，也是最有价值的

不管模型怎么变，我们都需要模型想办法去理解这些业务逻辑和决策思考的链条，那些已经很明确的 workflow 自然已经是大家都更早开始探索和实践的了

至于这些到底怎么变成自然语言，可能也不仅仅是个技术问题了，身在其中的人对于这个事情的抵触可能是更大的，甚至这些模糊不清的直觉和经验本身也是企业已有的问题，不管有没有 AI 的引入，只是大模型技术的出现可能加速了这个事情，把这个问题变成了企业必须解决的问题了

关于数据分析的Agent

在各种数据分析的Agent场景中，基本都会碰到一个问题，就是原始数据是海量的，怎么使用是个必须考虑的问题

最开始能想到的方案可能都是想办法把本次需要的数据都尽可能的给到大模型，只要上下文的长度足够

但是仔细想想原始的数据不一定是最好的，特别是各种表的数字，因为数字的关系在被转成二维表格之后，其实是被压缩了的，而大模型其实更加擅长的是自然语义的理解，所以可能在转成自然语言之后的效果反而会更好，比如结构数据用自然语言来描述，比如视频内容逐帧描述发生了什么，需要重点关注什么。这种增强或者对于数据的二次描述可能是在使用各种数据库数据和表格数据中必须考虑的一个环境

怎么高效地去理解数据可能大语言模型在这个场景最大的挑战，代码应该是能直观想到的最合理的方案，但是代码面临效率问题和上下文的管理问题，感觉最近对于一些 MCP 的思考反思可能是一个好的思路，就是不要直接给大模型塞进去具体的数据，这些可能涉及到数据计算处理甚至判断循环的部分，都给一个代码工具，至于代码工具和大模型直接到底怎么对接和结合可能就是最关键的了

日志增强就是一个类似的思路，核心是不要自己把原始数据给 AI，也不要自己调用 mcp 之后把结果给 AI，核心是数据的计算和处理交给代码，AI 来控制代码工具

关于到底是Agent还是workflow，在真实的业务场景下可能并不是个简单的二元选择题，或者也不是一个必须要做的所谓的技术路线的选项

实际场景下我们可能需要基于业务场景的短期目标、长期目标，当前的价值、成本的综合考虑来做设计

比如某些环境我们需要更加Agent的能力来应对可能需要进行的任务规划和复杂判断

而有些场景可能整个流程就是效率最高或者效果最好，我们又需要把具体的执行过程给提炼成一个workflow

感觉真的在线上跑起来的应用应该还是 workflow 更多一点，其实类比一下我们自己的工作方式可能也是这样的，一个新的业务可能需要一个很强的人来主导，但是稳定之后，我们肯定需要一个稳定的SOP来执行的效果会更好，或者大部分的环节是SOP，其中可能某些关键节点是人的经验在发挥作用。

AI的落地应用上好像也类似的逻辑，从更广义的角度还是目标的差异带来的结果，Agent 带来的更高的上限和较低的稳定性，而企业内其实一直在做的大部分可能都是提高效率稳定性和可复制性，上限的探索可能不是最核心的部分，所以本质上两种路线和方式并不是互斥的，甚至可能大概率是需要融合的，核心还是你的短期目标和长期目标的问题

关于企业应用落地

所有的分享结束之后都会有些简单的QA，从这些QA里面也都可以感受到一些企业AI应用落地过程中的参差不齐

1. 大部分的介绍可能都已经在讲实际应用落地过程中碰到的问题和相应的解决方案，但是实际很多企业可能还在解决认知问题

比如业务人员不认同或者不配合怎么办
数据应该怎么收集，怎么有效地构建评测集
怎么去更好地沉淀和设计具体的workflow

2. 看上去很多主题都和技术相关，比如各种上下文管理的技术和工程手段，但是深入想想本质都是业务问题，都是在解决怎么把业务流程、理解和认知压缩到大模型的上下文管理的过程中的问题

这个事情的本质到底是什么？提供什么服务？核心价值是什么？做Agent落地会更频繁地触及可能大家以前不太思考的问题，就是这个业务本质在提供什么价值
数据从哪来，到哪去，怎么用，每次决策和分析分别需要到什么数据，这些数据到底是怎么在这个业务上使用起来的
业务流程是怎么流转的，每个环节是怎么执行的，具体的决策是怎么判断的

3. AI的应用落地更多的是组织和业务问题，而不是技术问题

不是技术不重要，是技术的通用性带来了更多的可能性，大家可以去探索不同的方式，以及本质上没有那么复杂，核心就是解决怎么更高效地管理给到AI的上下文信息
对于业务的理解是核心，这部分可能之前大家是不会考虑需要怎么能描述出来的，这些可能都长期存在组织的某些人的脑袋里面，或者作为一种看不见的组织惯性在持续影响着，但是现在如果你期望能把这些能力更好地迁移到AI上，那就需要去整理出来
对于技术的认知、边界和发展趋势与业务场景的结合是真实场景落地应用中最核心的部分