我要投稿

AI创业者的惨痛教训：押注模型准确性是产品陷阱，利用模型灵活性才是答案

发布日期：2025-01-26 20:40:58 浏览次数： 2087

作者：乌鸦智能说

微信搜一搜，关注“乌鸦智能说”

随着越来越多AI产品落地，很多投资人心中都有一个疑问：

到底什么样的AI应用才值得投资？

关于这个问题，我们或许能在Andon Labs联合创始人（YC 24W孵化）Lukas Petersson的一篇文章中找到答案。

最近，Lukas Petersson在YC Hacker News发布了一篇文章，内容是其在调研了100多个YC校友项目并复盘了Richard Sutton著名的文章《痛苦的教训》后提出：

现在大量AI产品在当前模型的局限性上投入过多精力，但从长期看，创业公司更应该押注那些能够充分利用大模型自主性与灵活性的机会。

这个文章一经发布就引发了广泛的讨论。今天，乌鸦君就为您编译了这篇文章，以下是该文章的核心观点：

1）从历史角度来看，通用方法总能在人工智能领域胜出。

2）现在人工智能应用领域的创始人正在重蹈过去人工智能研究人员所犯的覆辙。

3）更出色的人工智能模型将催生通用型人工智能应用。与此同时，围绕人工智能模型的软件附加值将会减少。

/ 01 /

通用方法总能胜出

‍

2019年，理查德·萨顿（Richard Sutton）以如下文章作为其著名文章《痛苦的教训》的开篇：

“从70年的人工智能研究中可以得到的最大教训是，利用计算的通用方法最终是最有效的，而且优势巨大”。

他提到，在人工智能的发展历程中，研究人员曾屡次尝试将人类领域的知识融入系统，进而推动AI技术进步。

但后来大家发现，一个拥有更强算力的系统，效果远远好于其他精心设计的解决方案。这种趋势并没有停止，未来仍将延续。

这个《痛苦的教训》基于以下历史观察：

1、人工智能研究人员经常试图将知识构建到他们的智能体中；

2、这在短期内总是有帮助的，并且让研究人员个人感到满足；

3、但从长远来看，它会停滞不前，甚至阻碍进一步的进步；

4、而突破性的进展最终会通过一种基于扩展计算资源的相反方法实现。

本文着眼于应用层的人工智能产品，其中“更好”既指性能，也指市场接受度。更好的性能意味着处理更复杂的问题，从而释放更多价值。

图 1，不同类型的 AI 产品说明‍

目前，人工智能产品通常是将人工智能模型封装在某些配套软件中。你可以通过两种方式提高其性能：

通过工程设计：通过单一领域知识输入，在软件上实现特定的功能

通过更好的模型：等待人工智能实验室发布更强大的模型

对于创业者来说，这两条路并不冲突。但问题在于，随着模型的改进，工程工作的价值会降低，甚至最后根本不用复杂的工程设计，模型就能解决大部分问题。

图2说明了在应用层构建 AI 产品时工程投入的回报递减。随着工程投入的增加和更好的模型的发布，价值也会减少。

上图显示了随着模型的改进，工程工作的价值如何降低。

当前的模型存在很大的局限性，这意味着公司仍然可以从工程工作中获得很多收益。

在YC校友演示日上，我看到很多产品都利用这点实现了成功。这些工程层面的成功大致可以分为两类：

一类是产品已大规模投入生产（解决相对简单的问题）——目前来看是少数；另一类则瞄准稍微复杂的问题。第二类公司表现良好，因为他们的概念验证表明，通过足够的工程努力，他们可以实现相应的目标。

但这些公司面临的关键问题是：下一个模型发布是否会让所有这些工程工作变得毫无意义，进而彻底摧毁它们的竞争优势？

OpenAI的o1模型的发布就说明了这种风险。

我和很多AI应用的创始人聊过，他们都很担心。因为他们在优化提升上投入了大量的资源，但随着o1发布，提示工程的重要性逐渐下降。

从本质上讲，这项工程努力旨在限制人工智能并减少其错误。通过观察许多解决方案，我发现了两种主要类型的限制：

特异性：指的是解决方案的专注程度。垂直解决方案的配套软件是为解决特定问题而构建的。相比之下，通用型产品可以处理多种不同类型的问题。

自主性：衡量人工智能独立运作的程度。按Anthropic的术语，我们将其分为Workflow（LLM和工具遵循预定义代码路径的系统）和Agent（LLM控制自身流程和工具的使用，自主决定如何完成任务的系统）。

这两种类型构成了一个对人工智能产品进行分类的框架：

表 1：著名AI产品分类。请注意，ChatGPT可能遵循每条消息的预定义代码路径，使其成为工作流而不是代理。

让我们来探索一下如何针对同一项任务实施每个类别：业务分析师制作投资路演幻灯片。以下是每种方法的一种可能方法：

Vertical workflow：固定的步骤顺序：首先，对公司数据库进行RAG查询，将其传递给小型LLM进行汇总，然后传递给更强大的LLM，提取关键数字并使用计算器工具。LLM在编写幻灯片内容之前检查这些数字是否有意义。最后，幻灯片生成器创建演示文稿。每次都按此顺序运行。

Vertical agent：LLM循环运行，使用一次迭代的输出作为下一次迭代的输入。它可以访问与工作流版本相同的工具，但自行决定何时使用它们。循环持续进行，直到代理确定结果符合其质量阈值。

Horizontal workflow：ChatGPT和类似工具可以协助完成部分任务，但无法端到端地完成任务。它们既缺乏完成全部工作所需的专业化，也缺乏自主性。

Horizontal agent：Claude 计算机使用可以访问标准的办公软件。分析师用自然语言提供指令，代理像人类一样操作计算机，根据需要调整其方法。

演示日上几乎所有的产品都属于垂直工作流程类别。这是有道理的——目前的模型对于其他方法来说不够可靠。

即使是对于垂直Workflow而言过于复杂的问题，也被被迫采取这种模式。因为这是当前模型能力下接近可接受性能的唯一方法。

虽然工程可以改进这些解决方案，但它所能实现的效果有明显的上限。对于当前模型无法解决的问题，更好的策略是等待一个更强大的模型。

正如利奥波德·阿申布伦纳 (Leopold Aschenbrenner)在《情境意识》中所说，对于许多问题，工程工作将比等待更好的模型花费更长的时间：

“看起来，这种拖延需要的时间会比放松需要的时间更长，也就是说，当即插即用的远程工作者能够自动化大量工作时，中间模型尚未得到充分利用和整合。”

这种模式听起来应该很熟悉。

人工智能研究人员反复尝试设计出“可接受的性能”，但最终却被更通用的解决方案所取代，而这些解决方案只需要更多的计算。

这与当今人工智能产品的构建方式惊人地相似。我们可以通过研究《痛苦的教训》如何应用于我们提出的两种约束类型，我们可以更清晰地理解这种联系：

对于解决路径不明确的问题，自主性更强的产品将取得更好的效果。同样，在处理大型、复杂的输入空间时，特定性较低的产品将表现更好。

我们观察到一种历史模式：利用领域知识的垂直模型始终被利用计算的AI模型所取代。当今的AI产品与这种模式有着惊人的相似之处。

在我看来，考虑到模型正在高速进化，构建软件来弥补当前模型的局限性，注定会失败。

正如YC合伙人Jarred在Lightcone播客中所说：

“第一波LLM应用程序（垂直工作流程）大多被下一代GPT打败了。”

此前，Sam Altman也一再强调，创业者应该对更好的模型发布而感到兴奋，而不是害怕。

我接触的许多人工智能应用层的创始人都对模型发布感到兴奋，但实际上，如果从公司发展角度来说，对他们未必是一件好事。

因为他们忽略了一件事：

更好的模型实际上可能会降低你的优势，而不是增强它。当然，从产品性能的角度看，也存在另一个可能——构建能够更有效地解决更困难问题的产品。

/ 02 /

补充附录

附录A：《惨痛教训》统计图：

一种方法可以通过基本统计数据来理解《痛苦的教训》。在构建模型时，你通常会面临一个权衡。你可以创建一个非常精确地处理问题的模型（高偏差），或许可以创建一个更灵活但更不可预测的模型（高方差）。

《痛苦的教训》建议选择灵活的方法，因为模型可靠性问题可能用更多的算力和数据区解决。

回到现在，虽然垂直工作流程和特定约束能让AI产品变得更加可靠，但限制了它最终能达到的水平。相比之下，让AI更自由地运作，在今天看来似乎有风险，但随着模型进化总会找到更好的解决方案。

正如一直强调的观点：从历史上看，押注灵活性一直是一种失败的策略。

附录 B：端到端与特征工程

图 1：传统机器学习需要手动特征工程，而深度学习采用端到端方法。传统方法需要人类定义数据中什么是重要的，而深度学习可以自行找出答案。

传统的机器学习需要人类来决定数据中什么是重要的。你获取原始输入（如图像），然后手动提取有意义的模式或“特征”-例如计算特定形状或测量某些属性。相比之下，深度学习会自动学习这些模式。

图 2：自动驾驶汽车可视化显示特征提取的实际操作。该系统识别并跟踪特定物体，如汽车、行人和车道标记。这代表了将复杂问题分解为更小、明确的部分的传统方法。

让我们以自动驾驶汽车为例。你可以通过两种方式构建它：

特征工程：将汽车所看到的东西分解成具体的部分——其他汽车在哪里、车道在哪里、行人移动的速度有多快？

端到端：将原始视频直接输入神经网络并让其弄清楚如何驱动。

特征工程方法感觉更安全、更可控。这就是它在早期人工智能中占据主导地位的原因。但正如乔治·霍兹所观察到的：“如果人工智能的历史教会了我们什么，那就是特征工程方法将永远被取代，并输给端到端方法。”

图 3：Sholto Douglas 的推文

这直接关系到我们对AI产品的讨论。构建垂直特定工具就像特征工程一样——你要提前决定哪些信息是重要的。当你限制模型的自主性时，你做的也是同样的事情。虽然这在今天可能效果更好，但历史表明，从长远来看，押注端到端方法将会获胜。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-10-30

Cursor 2.0的一些有趣的新特性

2025-10-30

Anthropic 发布最新研究：LLM 展现初步自省迹象

2025-10-30

让Agent系统更聪明之前，先让它能被信任

2025-10-30

Rag不行？谷歌DeepMind同款，文档阅读新助手：ReadAgent

2025-10-29

4大阶段，10个步骤，助你高效构建企业级智能体（Agent）

2025-10-29

DocReward：让智能体“写得更专业”的文档奖励模型

2025-10-29

沃尔沃RAG实战：企业级知识库，早就该放弃小分块策略

2025-10-29

大模型的Funcation Calling是什么？

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek-V3.1 发布，迈向 Agent 时代的第一步

2025-08-21

DeepSeekV3.1 提到的 UE8M0 FP8 Scale 是什么？下一代国产芯片设计？

2025-08-21

DeepSeek V3.1 测评

2025-08-19

新版 GPT-5 刚刚发布，最卷 AI 连肝代码 7 小时，编程工具大洗牌开始了

2025-09-16

实测 Sora 2 ：AI视频的“ChatGPT时刻”来了？八大场景教你解锁各种玩法（附邀请码）

2025-10-02

AI大家说 | 下一代AI创业的机会在哪里？定价趋势是什么？

2025-09-08

阿里发布下一代企业级智能体开发框架AgentScope 1.0

2025-09-17

DeepSeek突然更新V3.1：实测后才发现的亮点与槽点

2025-08-19

RagFLow v0.20.X全面解析！双向MCP、Agentic智能体...这次真的起飞了！（附长图）

2025-09-29

DeepSeek v3.1 到底有多强？与 Claude Code 一起实测！

2025-08-20

大家都在问

大模型的Funcation Calling是什么？

2025-10-29

向量搜索已过时，混合搜索都有三大流派了！你看好哪个流派？

2025-10-29

BCG最新报告：企业如何跨越AI价值鸿沟，进入复利增长？

2025-10-28

如何用飞书多维表格快速搭建一个可落地应用？

2025-10-28

当AI学会“听”：声音识别到声音理解，AI到底是怎么听懂的？

2025-10-27

如何让你的内容出现在AI生成的答案中？

2025-10-26

2025，为何“体感上没有AI爆款应用”？

2025-10-25

Dify Agent 核心解密：三模双驱，如何选对策略让你的AI应用“开挂”？

2025-10-23

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部