我要投稿

OpenAI 创始人 Altman ：超级人工智能实现仅剩几千天

发布日期：2024-10-01 16:27:26 浏览次数： 2072 来源：DataFunTalk

导读近日，OpenAI CEO Altman 在个人博客上发表了一篇关于超级人工智能（ASI）的深度剖析，从人类社会基础设施的变革，到大数据和人工智能（AI）的普及，再到对未来 ASI 的预测，Altman 为我们描绘了一个充满挑战与机遇的智能时代，并大胆预测距离ASI的实现仅剩几千天。

ASI 真的能在几千天内实现吗？人工智能的发展从何而来，又将去往何处？

分享嘉宾｜DataFun社区编辑：王吉东

出品社区｜DataFun

从数理统计到 Transformer，AI 的发展将何去何从

社会基础设施的变革始终推动着人类文明的进步，从蒸汽机的发明，到电力、互联网的普及，每一次技术革命都极大地改变了人类的生活方式。如今，我们正站在 AI 这一新的历史节点上，迎接智能时代的到来。

人工智能（AI）的发展历程，如同一条蜿蜒的河流，从最初的数理统计模型到如今的 Transformer 架构，不断演变，不断突破，将我们带入了一个充满无限可能的智能时代。

1. 早期的 AI：数理统计的萌芽

AI 的起源可以追溯到 20 世纪 50 年代，当时的研究主要集中在基于数理统计的机器学习算法上，通过分析数据中的模式和规律，实现对未知数据的预测和分类；然而，受限于计算能力和数据量，早期的 AI 模型只能处理简单的任务，且泛化能力较弱。

2. 深度学习的崛起：神经网络的重生

随着计算能力的提升和数据量的爆炸式增长，深度学习技术应运而生。深度学习通过模拟人脑神经元结构，构建多层神经网络，从而实现对复杂模式的识别和建模；尤其是卷积神经网络（CNN）和循环神经网络（RNN）的出现，使得 AI 在图像识别、语音识别等领域取得了突破性进展。

3. Transformer 架构：自然语言处理的革命

近年来，Transformer 架构的兴起，大大影响了自然语言处理（NLP）领域的发展。Transformer 通过自注意力机制，捕捉长距离依赖关系，从而更好地理解语言的结构和语义。基于 Transformer 架构结合互联网海量数据，形成以 GPT 为代表的大语言模型，展现出惊人的语言理解和生成能力，将 NLP 技术推向了一个新的高度。

近年来，在大数据和 AI 技术的推动下，我们的生活发生了翻天覆地的变化。从智能家居、自动驾驶，到医疗、教育，AI 已经渗透到各个领域，成为推动社会发展的重要力量。AI 的发展前景广阔，但也面临着诸多挑战。

谷歌 AI 负责人杰夫·迪恩（Jeff Dean）认为，未来的 AI 将朝着以下几个方向发展：

(1) 多模态学习：将视觉、听觉、语言等多种模态信息进行融合，实现更加全面和智能的认知。

(2) 强人工智能：通过强化学习，突破当前AI的限制，实现真正意义上的自主学习和决策，向着ASI的实现更进一步。

Google DeepMind 于 2023 年 12 月 6 日发布人工智能多模态大模型 Gemini，可同时识别文本、图像、音频、视频和代码等类型的信息，可理解和生成主流编程语言（如 Python、Java、C++）的高质量代码，并拥有全面的安全性评估。

基于 Gemini 的发布，谷歌 AI 负责人杰夫·迪恩（Jeff Dean）提出，多模态模型允许用户从不同输入模态中获取更丰富、更有用的输出，使个性化服务成为现实；而将监督学习和强化学习相结合，则会进一步推动 AI 在更多领域的进展。

同时，迪恩也提及了 AI 可能带来的风险，如 AI 有可能带来事关人类生存危机的看法，如 AI 可能会找出对人类不利的方法来实现其目标，以及不同 AI 系统之间可能发生的竞争和资源争夺等。

02 从 AI 到 ASI，我们还缺什么？

ASI 的全称是 Artificial Super Intelligence，是指一种智能水平远超人类大脑的智能体。相较于当前的人工智能，ASI 具备极高的智能水平和广泛的应用能力，可以在短时间内学会人类几千年的知识，解决复杂问题，甚至进行自我创新；这种智能使其在所有的认知任务上都能超越人类的智能，包括科学创新、通识智慧和社交技能等；此外，ASI 还具有自我意识、情感、创造力等人类特有的能力。

AI 技术在近年来已取得突破性进展，当前的大模型在感知和生成方面的能力较强，已经接近或部分超越人类水平，但在规划、推理、学习和记忆方面的能力还有较大的不足。因此，还需要跨越巨大的技术鸿沟。以下是我们迈向 ASI 道路上的几个关键挑战：

首先是算法层面，一方面要持续优化和扩展深度学习算法，以及开发新的学习范式，如无监督学习、迁移学习、强化学习等，以提高 AI 的学习能力和泛化能力；尤其是强化学习，高度模拟了人类大脑在奖励驱动和行为适应方面的学习过程，对于理解人类学习和决策过程方面有着其他算法不可比拟的优势。特斯拉 CEO 埃隆·马斯克（Elon Musk）曾说，我们需要开发新的算法，才能让 AI 实现真正的通用智能。

其次是算力层面，目前基于 Transformer 架构的模型都是使用传统的经典计算架构运行的；然而对于 ASI 来，这样的算力是远远不够的，需要大幅提升计算能力，需要通过高性能计算集群和专门为 ASI 设计的硬件加速器甚至是量子计算，为 ASI 提供所需的巨大算力；目前量子计算技术仍处于相对初级阶段，未来如能将其高效地应用到人工智能领域，算力将得到指数级提升，届时 ASI 将成为可能。

03 总结

ASI 一旦实现，人类将史无前例地进入新智能时代，ASI 将成为企业和个人的“全方位助手”。但由于 ASI 的智能水平远超人类，因此其行为和决策都会变得难以预测，尤其是当 ASI 的目标与人类利益出现分歧时，它可能会采取对人类有害的行动来实现其目标（例如，一个被设定为最大化纸张生产的 ASI 可能会破坏森林和生态系统）。

而一旦 ASI 达到一定的水平和能力，它可能会找到方法来避免人类的控制，导致人类无法停止或修改其行为，从而“反噬”人类，所谓“物极必反”。超级人工智能的临近，既让我们充满期待，也让我们面临前所未有的挑战。

正如前 OpenAI 首席科学家伊尔亚·苏茨克弗（Ilya Sutskever）表示：“超级智能是人工智能发展的下一个重要阶段，我们需要认真思考如何安全地引导其发展。”

参考链接

博客原文：https://ia.samaltman.com/
https://x.com/GoogleDeepMind/status/1833872938031894632
https://www.youtube.com/watch?v=lH74gNeryhQ
https://venturebeat.com/ai/elon-musk-reveals-xai-efforts-predicts-full-agi-by-2029/
https://zhuanlan.zhihu.com/p/705536996
https://www.ted.com/talks/ilya_sutskever_the_exciting_perilous_journey_toward_agi
https://www.fastcompany.com/90985752/ilya-sutskever-openai-chief-scientist