ChatGPT 温柔的奇点

推荐语

探索人类与数字超级智能共存的新纪元。

核心内容：
1. 数字超级智能的崛起及其对人类能力的增强
2. AI在科学进展和生产力提升中的潜在影响
3. 2030年代人类社会可能的变革与挑战

杨芳贤

53A创始人/腾讯云(TVP)最具价值专家

我们已经越过了事件视界，腾飞已经开始。人类距离构建数字超级智能已非常接近，而至少到目前为止，这一切远没有看起来那么奇怪。

机器人还未走上街头，我们也还没有整天与 AI 对话。人们依然死于疾病，我们仍无法轻松前往太空，还有很多关于宇宙的奥秘尚未理解。

但我们最近已经构建出在许多方面比人类更聪明的系统，并且它们能够显著增强使用者的能力。最不可能实现的部分已经成为过去；我们实现 GPT-4 和 o3 等系统所依赖的科学洞见是艰难赢得的，但足以带我们走得更远。

AI 将在多个方面推动世界进步，而其对生活质量的提升，尤其是在加快科学进展和提高生产力方面，将是巨大的；未来可能会远远优于现在。科学进步是整体进步的最大驱动力；想象我们可能拥有多少尚未获得的知识，这令人无比兴奋。

从某种重要意义上来说，ChatGPT 已经比历史上任何一个人都更强大。每天有数亿人依赖它来完成越来越重要的任务；一个微小的新能力可能带来巨大的积极影响，而一个微小的不对齐乘以数亿人，也可能造成严重负面后果。

2025 年，能够完成真实认知工作的智能代理系统问世了；编写计算机代码的方式将永远改变。2026 年，我们很可能将迎来能够提出新颖见解的系统。2027 年，或许就会有能够在现实世界中完成任务的机器人登场。

更多人将能够创作软件和艺术作品。但世界对这两者的需求远远未饱和，只要专家愿意拥抱新工具，他们可能仍然比初学者强得多。总体而言，到 2030 年，一个人所能完成的工作量将远远超过 2020 年，这将是一个引人注目的变化，而许多人将会懂得如何从中受益。

在最重要的方面，2030 年代可能不会显得非常不同。人们仍会热爱家人，表达创造力，玩游戏，在湖中游泳。

但在其他同样重要的方面，2030 年代又极可能与以往任何时代截然不同。我们不知道人类智能的极限在哪，但我们很快就会知道。

到了 2030 年代，智能和能源——也就是创意和实现创意的能力——将变得极度丰富。这两者长期以来一直是人类进步的基本限制因素；拥有充足的智能和能源（再加上良好的治理），我们在理论上可以拥有其他一切。

我们已经在与强大的数字智能共处，而且在最初的震撼之后，大多数人很快就适应了。从惊叹 AI 能生成一段优美文字，到期待它能创作一部完整小说；从惊讶它能诊断疾病，到期待它能研发治愈方法；从赞叹它能写出一个小程序，到渴望它能创建一家公司。这就是奇点的节奏：奇迹变成了日常，然后成为门槛。

我们已经听到科学家表示，他们的生产效率是过去的两到三倍。高级 AI 令人着迷的理由有很多，但或许最重要的一点是，我们可以用它来加速 AI 研究本身。如果我们能在一年、甚至一个月内完成十年的研究，那么进展速度自然会大不相同。

从现在开始，我们已经构建的工具将帮助我们寻找进一步的科学洞见，并协助我们打造更好的 AI 系统。当然，这还不是 AI 系统能够完全自主更新其代码，但它确实是递归自我改进的幼体版本。

还有其他的正反馈循环正在发生。经济价值的释放已经启动了一轮为运行这些愈发强大的 AI 系统而建设基础设施的飞轮。能够制造其他机器人的机器人（以及从某种意义上讲，能够复制其他数据中心的数据中心）也并不遥远。

如果我们必须用传统方式制造首批一百万个人形机器人，然后让它们接管整个供应链——采矿、精炼、运输、工厂运行等——来制造更多机器人，以及建造更多芯片工厂、数据中心等，那么进展速度显然也会完全不同。

随着数据中心生产被自动化，智能的成本最终应该会趋近于电力成本。（很多人关心 ChatGPT 查询的能耗；平均每次查询耗电约 0.34 瓦时，相当于烤箱运行一秒多，或高效灯泡亮几分钟。同时耗水约 0.000085 加仑，大约是 1/15 茶匙。）

技术进步的速度将持续加快，而人类适应变化的能力也几乎是无限的。当然会有非常艰难的挑战，比如大量职业的消失；但另一方面，世界将迅速变得更加富裕，我们将真正开始认真思考以前无法实现的新政策。我们可能不会一下子建立起全新的社会契约，但回望几十年之后，那些渐进的变化将累积成巨大的变革。

如果历史可以作为借鉴，人类总会找到新事可做、新目标去追求，也总能迅速适应新工具（比如工业革命之后的职业变迁）。人们的期望会提高，但能力也会同样快速增长，我们将拥有更好的东西。我们将为彼此打造越来越奇妙的事物。人类相较 AI 的一个长期重要而独特的优势是：我们天生关心他人和彼此的行为，而并不太在意机器。

一千年前的自给农民如果看到我们现在的工作，可能会觉得我们都在做“假工作”，以为我们只是在自娱自乐，因为我们有吃有喝还有他们难以想象的奢侈品。我希望一千年后的人们看到他们自己的工作时也会觉得是“假工作”，但我毫不怀疑，那些工作对当时的人来说将是极其重要且充满满足感的。

新奇迹的涌现速度将是惊人的。我们今天甚至很难想象 2035 年会取得怎样的发现；也许我们某年刚解决高能物理问题，下一年就开始太空殖民；或某年实现材料科学重大突破，下一年就有真正的高带宽脑机接口。很多人可能选择继续按照现在的方式生活，但至少一些人很可能会选择“接入系统”。

展望未来，这一切听起来难以理解。但现实可能是：亲身经历这一切的感觉，会是令人印象深刻但可应对的。从相对论的角度来看，奇点是渐进式发生的，融合也是慢慢进行的。我们正沿着科技进步的指数曲线攀登；向前看似乎垂直陡峭，向后看却仿佛平坦无奇，但其实这是一条光滑而连续的曲线。（想想 2020 年，当时若有人说 2025 年我们会接近 AGI，那听起来是多么疯狂；但看看过去五年的实际进展。）

当然，这一切伴随着严峻挑战。我们确实需要解决技术和社会层面的安全问题，但接下来同样重要的是：要广泛分发超级智能的使用权，因为它的经济影响极为深远。最理想的路径可能是：

首先解决对齐问题，也就是能够稳健地让 AI 学会并朝着我们集体长期真正想要的目标行动（社交媒体是一个典型的“失对齐”例子；那些算法在让你继续刷视频方面效果惊人，确实理解你的短期偏好，但它们通过劫持大脑机制来违背你的长期偏好）。

接下来，专注于让超级智能变得便宜、易用、普及，而不会过度集中在某个人、公司或国家手中。社会具有弹性、创造力和快速适应能力。如果我们能调动人民的集体意志和智慧，那么尽管过程中会犯错、会出问题，我们仍能快速学习、调整，并最大限度地放大这项技术的好处，最小化坏处。给予用户充分的自由，在由社会决定的广泛边界内运行，是至关重要的。世界越早开始围绕这些边界以及如何定义“集体对齐”展开对话，就越好。

我们（不仅仅是 OpenAI，而是整个行业）正在为世界构建一个大脑。它将极度个性化，每个人都能轻松使用；真正的限制将是好点子的多少。过去，技术圈的人常常嘲笑那些“只有一个想法”的人；他们有个创意，却找不到人去实现它。现在看来，他们的春天即将到来。

OpenAI 如今有很多角色，但首先我们是一家超级智能研究公司。我们还有很多工作要做，但未来的道路已经被照亮，那些未知的黑暗正在迅速退去。我们对所做的一切深感感激。

“智能便宜得几乎无需计费”这一愿景近在咫尺。这听起来或许很疯狂，但如果我们在 2020 年告诉你我们将在今天达到这一点，当时听起来恐怕比我们现在对 2030 年的预测还要疯狂。

愿我们平稳、指数级、无波澜地迈向超级智能。