LLM还不是世界操作系统：语言大模型的七个致命缺陷

发布日期：2025-11-18 08:49:55 浏览次数： 2753

作者：信息化与数字化

微信搜一搜，关注“信息化与数字化”

在这两年的大模型狂欢里，我们似乎习惯了用“颠覆”“重构”“新纪元”来形容一切变化。写文档用AI、写代码用AI、开会记要点也用AI，仿佛一个“语言大模型”就可以变成通用大脑，接管知识工作的各个环节。

但如果把情绪抽掉，只从系统角度冷静看一眼，会发现：

今天的大语言模型不只是“有缺点”，而是存在几条很难跨过去的“结构性边界”——这些边界决定了，它注定不可能成为世界的终极操作系统。

下面这七个“致命缺点”，并不是只是挑刺，而是试图把问题说清楚：大模型到底在哪儿强，又在哪儿永远够不到。

一、语言大模型是“有损概率压缩”，幻觉是结构性问题

从工程的角度看，大语言模型本质上就是一个巨大的概率模型：用有限的参数，对海量语料做一次“有损压缩”，再在这个压缩后的空间里做下一个 token 的概率预测。

它靠的不是“演绎推理”，而是“最像的那一句话”的统计学直觉。
这就像把整个人类知识挤进一个高维向量空间，多余的细节、边缘场景、不常出现的组合，会在压缩过程中被模糊甚至舍弃。

于是，“幻觉”就不是一个 bug，而是这种有损压缩的必然副作用：

模型并没有“记住每一句话”，而是学到一个模糊的知识表示；
当语境稍微偏离训练分布，或需要精确细节时，它只能“脑补”一个看起来很像的答案；
这种脑补在日常对话里问题不大，但在高精度场景（法律条款、金融数据、工程参数）里，就会变成灾难。

一个常被忽略的比喻是：

物理定律只是几行公式，真正让“万物运行”的，是整个宇宙这个模拟器本身。如果没有这个巨大的“运行环境”，牛顿定律不过是教科书上的几行文字，不会自动长出星系、行星和生命。

语言大模型也一样：
它手里拿着的是人类写下来的“公式、总结和故事”，却并没有一个对应的“宇宙模拟器”去跑这些定律——只有文字，没有世界。
想靠文字里的有损概率压缩，反推出“万物运行的真实规律”，并且做到可靠可控，几乎是不可能的任务。

二、人类靠闭环反馈进化，大模型却困在单向输出里

很多人说：“人类也经常犯错，人脑不也像个概率模型吗？”
没错，人确实经常判断失误，但人类智力成长的核心不在于“一次回答对不对”，而在于：

人长期生活在一个强反馈的闭环里。

你说错话，会看到别人皱眉或反驳；
你做错决策，会立刻在业绩、关系、健康上收到后果；
你踩坑一次，下次就会小心——这是一个类似自动控制里的负反馈闭环系统。

也就是说，人类不是“离线训练一次，终身推理”，而是在持续地与环境交互、试错、更新自己的世界模型。

反观今天的大语言模型，大部分时候处于一种非常诡异的状态：

它对你输出了一段内容；
你要么点个赞，要么扔掉不用；
微弱的“人类反馈”只在少数训练阶段以极低采样率出现（比如RLHF）；
绝大多数真实的“后果”，模型根本看不到。

它既看不到行为在环境中的真实效果，也无法持续更新自己的内部模型。
这就好像把一个人关在房间里，只能看书写作业，却永远不让他出门与世界接触——他的知识也许很广，但许多判断永远停留在纸面推理。

真正的智能系统，必须是“感知—决策—行动—反馈—更新”的完整闭环；
而今天的大语言模型，更多只是从“感知到的历史文本”直接跳到了“语言输出”，中间缺少对环境的实际作用与修正，这种开放环结构注定限制了它的上限。

三、无法真正“理解”数字世界的底层软件与操作系统

有一种流行说法：让大模型去“写代码、跑程序、观察结果”，就能获得类似现实世界的反馈。听起来很美好，但现实残酷得多。

今天的大语言模型，和数字世界的关系，大致还停留在：

通过一扇很窄的“终端窗口”，往系统里敲命令，再把看到的几行输出拿回来继续推理。

它并不理解操作系统的整体结构，不知道进程调度、内存管理、文件系统、网络栈是怎样协作的；
它也看不到完整的系统状态，只能看到被提示词“喂过来”的那一点点片段。

更要命的是，它无法跳出当前操作系统视角去看更大的“数字世界全景”：

这个程序在整个业务系统中处于哪个环节？
这台服务器与其他节点怎样协同？
这套脚本修改的对象，是核心交易链路，还是一个无关紧要的报表？

对人类工程师来说，这些都是每天要处理的“上下文”，但对模型来说，它只看到几个函数名和日志片段，很难对整体系统形成稳定的心智模型。

如果我们真想让AI在数字世界里获得像样的反馈，其实需要的是：

多种独立、可控的运行环境（沙箱、虚拟机、容器集群）；
向模型暴露足够丰富的系统状态、指标与日志；
允许模型在其中进行大量、低成本、可回放的“仿真试验”。

现在的大模型更多是把自己当成“更聪明的命令行用户”，而不是“理解并优化系统的一方”。不理解底层软件世界，就谈不上真正的数字世界智能。

四、有“大脑”没“小脑”：缺乏对时空与物质世界的直接感知

从认知功能上看，大语言模型有点像是人类的“大脑皮层”：
擅长做抽象、做类比、概括故事、复述规律——这正是语言和符号系统的强项。

但人类之所以能稳稳地走路、接住飞来的球、在复杂环境中瞬间做出反应，很大程度上依赖的是“小脑”和整个感知-运动系统对时空与物质世界的精细建模。

你不需要一句话告诉你“前面有台车”，眼睛和身体已经完成了预测和躲避；
小孩不会说话时，就已经能在房间里自由爬行、抓东西；
小动物没有人类的语言，却拥有极强的空间感和本能判断。

这说明一件事：
语言并不是表达时空关系最有效的符号系统，甚至可能是“更上层、更低效的壳”。

今天的大语言模型，几乎完全靠“语言”来推断一切：

它通过描述性的文字间接想象世界；
用“猫会跳上桌子”“车会在路上走”这样的语料，去拼出对时空的粗糙认知；
却缺乏长期的、连续的、带物理约束的真实感知和动作经验。

这也是为什么李飞飞等人会强调“时空大模型 / 世界大模型”的重要性。真正理解世界，不是把更多文字喂给语言模型，而是要让模型直接面对视觉、动作、位置、速度、拓扑结构、物理约束这类原始信号。

从这个角度看，未来的“世界智能”很可能不以语言为主轴，语言只是其中一层“人机接口”，而不是智能的核心。

只盯着语言做大模型，本身就站在了一个过于狭窄的起点上。

五、主体—动机—关系：大模型缺失的“社会坐标系”

在真实的人类社会中，我们理解一件事，很少是“孤立看事实”，而是本能地套用一套社会坐标系：

Who：谁在这件事里扮演关键角色？
Why：他们各自的利益、诉求、动机是什么？
Where：这是在哪个场域、哪套规则体系里发生的？
When：发生在什么时间点、什么周期与节奏下？

换句话说，人类习惯用一种“主体—动机—关系”的视角理解系统：

个体有自己的身体和大脑思考的整体边界，有“我能管到哪儿”的直觉；
团队有共同的目标、KPI 和内部协作规则；
组织有章程、流程、权责矩阵和决策机制，可以被抽象成“一个带边界的行为主体”。

这套抽象能力，让我们可以把一个企业、一个部门、一支项目组，当成一个“有意图的角色”，再去分析它在大环境中的位置与行为。

而大语言模型在看世界时，大多是从“文本片段的相似性”出发的：

它很擅长回答“这件事怎么做（How）”：步骤、流程、模板、最佳实践；
却不擅长可靠回答“为什么要这么做（Why）、是谁在做（Who）、在什么系统与场域里做（Where）、在什么时间点不得不这么做（When）”。

这四个 W，看起来像是补充信息，实际上分别指向：

Where：空间与场景的拓扑结构——这是在监管场景、商业竞争场景，还是内部权力场？
Who：主体与组织的边界、角色划分与权力结构——谁说了算，谁是执行者，谁是受行动影响的？
When：时间上的节奏与约束——是预算规划期还是考核冲刺期？

缺少这些结构化、稳定的“主体模型”，大模型就很难真正看懂：

同样一句话，换了不同的人、不同时间、不同场合，反应却完全不同，背后其实是各自的偏好、经历和处境在起作用；
一个决策背后的主体、组织之间的博弈；
为什么同一方案在 A 公司是“亮点”，在 B 公司就是“雷点”；
一条规则在不同阶段执行，会产生截然不同的副作用。

于是你让它写制度、定 KPI、做战略，它可以模仿出一份格式完美、逻辑完整的文件，却往往只是把已有话术再排列组合一遍——“字都对”，但你会隐约觉得：它没看见人，也没看见组织，只看见了句子。

被抹平的过程与隐藏信息：大模型看到的是过滤后的世界

上面说的是“它缺了哪套坐标系”，更深一层的原因是：它看到的原始世界，本身就是被严重压缩和筛选过的“公开版本现实”。

当前主流大模型的训练数据，几乎都来自互联网与各类公开文本。问题在于，人类真正重要的活动和博弈，有大量是从未被完整记录、更别说公开发布的：

在科研领域，我们在论文里看到的，是一条逻辑完整、数据齐全的“阳光路径”。
但一篇论文背后，往往是几十甚至上百次失败实验、被否掉的假设、被拒绝的稿件和反复推翻的分析——这些都只躺在实验记录本、内部邮件和研究者的记忆里，极少进入公开语料。
在城市空间的演变里，人们看到的是最终落地的“新区规划图”、“地铁线路图”。
但在此之前，有过多少版路线比选、多少次听证会和争议、多少群体的利益协调，可能涉及几百个人、无数轮会议、反复修改的版本，这些多不会以完整原貌公开，只留下几句高度概括的“经充分论证”、“广泛征求意见”。
在资本市场上也是如此：投资者看到的，只是一场精心排练过的业绩发布会。
几张PPT、一份财报、一段“稳健、可持续”的口径。背后则是财务团队无数轮测算、管理层与投行/律所/审计师对披露边界反复博弈，以及IR团队彩排好的问答脚本。大模型能抓到的，只是这套对外统一口径，看不到那些被删掉的句子、被否决的版本和关起门来讨论的真实顾虑。一个上百亿的企业，对外公开的信息总和可能还不如一个每天直播的旅行家。

看起来更“贴近日常”的，是娱乐和内容消费场景：

综艺节目呈现的是剪辑后的“高光时刻”：几分钟的机智反应和笑点，背后可能是嘉宾一天的录制、无数次冷场和试错；
短视频与直播平台上，我们看到的是经过精心选题和筛选的日常切片：精致料理、成功经验、精心布置的房间；

而真正漫长、琐碎、尴尬、犹豫不决的过程，很少有人愿意完整公开，也难以形成规模化数据。

更关键的是，人类行为背后最真实的驱动力——也就是你提到的那些“没法或者不愿说出口的东西”：

对资源和安全的本能竞争；
对归属感、被认可、被看见的渴望；
对地位、荣誉、影响力的追逐；
对公平、尊严的敏感，以及嫉妒、羞耻、恐惧、报复心、占有欲等极端情绪；
还有大量停留在潜意识层面、连自己都说不清的偏好与防御机制。

这些内容，要么从未被书写，要么只零星存在于私密日记、心理咨询室或当事者内心独白里，自然难以成为大模型训练时的主菜。

结果就是：

模型学到的是“被允许说出口、被愿意记录下来的那一层理由”，
而不是真正驱动行动的那一层冲动、博弈和潜意识。

它看到的是：
“我们基于长期战略考虑，决定进行组织优化”，
却看不到这背后是市场竞争受挫、预算压力、部门博弈与个体的取舍。

它学到的是：
PPT 里的组织结构图——几层方框、几条线，权责边界似乎一目了然。
却看不到茶水间里的小范围沟通、项目群里的默契分工，以及那些凭借信任链条在“组织图之外”发挥作用的非正式网络。

当你请这样一个模型来分析组织、设计激励、预测行为，它给出的往往是基于“公开叙事”的理想化方案，而不是基于“隐藏过程”的冷静判断。

这就是为什么，很多管理建议、组织诊断、战略分析，看起来像咨询公司 PPT 的总结页，但一落到具体公司就会显得“悬空”：它没有踩在真实人性的泥土和复杂利益的水流里。

七、记忆是碎片化的：长上下文问题远没解决

从 GPT-4 到 Claude，再到一众“长上下文模型”，宣传里总有一句：支持 100K、200K 甚至百万级 token，“上百页文档一次看懂”。
但真正把它当“长期合作者”用过的人，大多有相反的体感：越往后聊越容易跑偏，越喂越多越抓不住重点。

本质原因不在于“窗口还不够大”，而在于：大语言模型根本没有一套像人类那样的记忆系统。现在所谓的“长上下文”，更多只是把“工作记忆”硬撑大，而不是补齐“长期记忆”和“记忆管理”。

对大模型来说，“记忆”主要就两块：

一块是写死在参数里的模糊知识：预训练把海量语料压进参数里，形成一种类似“常识/语感”的语义空间，这更像人脑里的语义记忆。但训练一旦结束就基本冻结，不会因为和你聊了一周，就改写自己的“世界观”。
另一块是每次调用时的上下文窗口：你在 prompt 里塞什么，它就在这一串 token 里现找线索，这更像短期的工作记忆。窗口一满，旧的信息就整体“滑出画面”，下次对话相当于重开一个副本。