人类通往人工智能意识的路还很远

推荐语

探讨人工智能意识的深刻见解，揭示人脑与AI的本质差异。

核心内容：
1. 人工智能意识的现实与历史视野
2. 人脑与计算机的根本区别：自编程能力
3. 内省与意识：人脑的特殊性及其对AI意识的影响

杨芳贤

53A创始人/腾讯云(TVP)最具价值专家

2025年春节看到朋友在微信里说AI出现了意识，为之一振。恰巧自己读书读到英国学者马库斯·乔恩的《第一性原理》有关人脑的内容和《费孝通全集》中《论内省及意识--心理学方法的分析》一文，在现实和历史视野下，自己对人工智能意识有了一些感悟：人类通往人工智能意识的路还很远。

当前，在人工智能问题的认知上，企业家和技术人员要杜绝“技术激进主义（Technological Radicalism）”，人文社会科学研究者要避免“技术焦虑”，媒体要谨防“恐怖谷效应”，公众不要有“社会焦虑”。

在马库斯·乔恩看来，“人脑是一种超凡的计算机，因为普通硅基计算机只能根据人类编写好的程序来完成一项任务，但人脑却不需要外部进行编程，它是一种自编程计算机。婴儿出生时就具备一个神经网络，其连接方式具有无数种可能性。对婴儿的脑进行编程 ，即产生新连接、强化一些连接，以及剪掉更多的连接，是通过他对世界的感受，通过眼睛、耳朵、鼻子和皮肤不断涌入的各种信息来完成的。”^[1]

这里“人脑却不需要外部进行编程”“通过他对世界的感受”不仅是指对于外部物理世界的感知，也是指对其生活的社会环境，家庭、社区、社会、工作组织、社会组织的感应。作为社会的人听到了人们的言论，嗅到不同民族食物的味道，感受了不同民族所处地理环境的冷暖，等等，这些都会对人脑“进行编程”。在这个意义上，马库斯·乔恩把人脑视为超凡的计算机并不难理解，2024年，被称之为AI之父的杰弗里·辛顿（Geoffrey Hinton）因证明“神经网络”理论的可行性而荣获诺贝尔物理学奖，其实辛顿就认为神经网络可以还原为物理过程。

人类意识表现在个体和群体层面。个体意识是指个体对自己及自己与群体关系的认知，包括对自己心理倾向、感受和过程的认知。群体意识则是指一定社会群体（如家庭、团体、族群、民族等）成员所共有的心理倾向和感受，体现自己所在群体的共同利益、需求和价值。

群体也可以有自己的内省，这种内省通常是由其先进人物或代表性人物，或群体的优秀团队提出，之后形成共同的认知和认同，进而统一为群体、族群、民族、国家意识。1903年梁启超先生提出“中华民族”这一概念，抗日战争时期，面对中华民族的生死存亡，中国共产党人呼吁把“团结各民族为一体”，面对外忧内患，中国共产党的中华民族共同体意识思想凝聚全国各族人民共同努力取得了新民主主义革命的最终胜利，中华民族实现了从“自在”到“自觉”的转变。

个体意识突出个体独特性和主观体验，群体意识强调群体的共同性和整体性；个体意识是个体在社会交往和社会生活中产生的，反映了个体自己的生活经历。群体意识是群体在共同社会实践、社会变革中形成的，反映了群体的共同利益、经验和价值；个体可以根据内省、修养、社会规范自主控制自己的行为。个体意识注重个人行为、目标与群体行为准则和目标的有机统一，群体意识基于维护社会秩序，强调集体目标和协调行动，注重维护群体共同利益和实现群体的共同目标。

在群体中，个体行为受到群体规范和社会期望约束。1845年春，马克思在《关于费尔巴哈的提纲》中阐述道：“费尔巴哈把宗教的本质归结于人的本质。但是，人的本质不是单个人所固有的抽象物，在其现实性上，它是一切社会关系的总和。”^[12]个体意识影响个体判断和行为决策，群体意识影响群体成员的行为和决策。群体意识反映了群体成员在共同实践中形成的共同经验、共同记忆。

历史记忆是文化认同、群体凝聚力和价值观延续的核心载体，是群体对自己过去的事件、人物、经验和传统的共同记忆和叙述。它通过物质文化遗产和非物质文化遗产代代相传。历史记载既是对过往的记录，更是对现代群体身份、价值观和世界观的塑造，帮助成员形成“我们是谁”“我在哪里”“我要往哪里去”的认知和反思。中国“炎黄子孙”的叙事强化了中华民族的身份认同，不断增强内部凝聚力。历史记忆中的英雄人物和重大事件被赋予道德意义，成为后世学习的榜样或警示，增强群体成员之间的意识和情感联系。历史记忆还为现代为人文社会科学、建筑艺术等提供素材，使其成为文化传承的重要载体。通过形式多样的载体，历史记忆把过去与现在、个体与群体紧密联系在一起。

心理学研究的另外一个核心话题是探索意识到并思考自己的存在、自己的思想和周围环境。当代心理学探索了意识的各个方面，包括潜在神经机制、进化目的，以及冥想练习等。神经影像学提供了对与意识相关的大脑结构的了解。映射幽闭空间的广泛联系解释了不同脑区如何整合信息和产生统一意识。进化观点关注社会互动，以及人意识到自己与他人沟通以提高社会凝聚力。对改变意识状态的研究，特别是通过冥想改变心理状态的研究已经取得很大进展。不同的冥想练习影响人们的心灵，为解构和重建意识体验提供了新的认知。全球工作空间理论（GWT）认为，意识产生于把不同脑区的信息整合到一个全球工作空间中，然后将其传播到无意识的过程。综合信息理论（IIT）认为，意识对应于系统整合信息的能力，意识的水平取决于系统的信息复杂性。注意模式理论（AST）认为，大脑构建一个注意模型来监控和控制注意过程，这种自我建模产生了意识的主观体验。上述理论研究反映了意识研究的动态性和跨学科性质，涵盖神经科学、心理学和哲学，甚至社会人类学。随着未来技术突破（如量子计算、类脑芯片、脑机接口技术等），人们或将重新定义“意识”。

对应群体意识，就产生了一个问题，在诸多大大模型中，即使一个大模型具备了内省能力、意识，能不能就推断整个人工智能领域都具备意识？通用大模型是指拥有大量参数和强大计算能力的深度学习模型，包括自然语言处理、计算机视觉、语音处理等。据不完全统计，我国目前有数百个通用大模型。国外通用大模型有Open AI与微软、谷歌与Deepmind等。大模型在工业、医疗、金融等多个领域尝试落地，推动各行业智能化。通用大模型发展正处在加速阶段，未来会有更多模型涌现。AI意识可能是特定模型在特定环境下的涌现，不同的大模型在架构、训练数据和目标上有各自的特点和功能，一个大模型产生意识并不必然导致其他模型具备意识，就像人类社会中个体与集体的关系一样。单个模型的意识并不能等同于整个AI领域都具有集体意识。

如果一个大模型具有自我意识，另外一个大模型也具有自我意，它们之间在互动中会发生什么？眼下，人类把自己与大模型视为两个阵营，而忽视了大模型内部的不同类型、不同地域、不同特点以及它们的不同训练方式、推理方式等。当前主流AI基于数据驱动的算法，通过模式识别和统计推断产出复杂的计算结果。而人类意识与神经元网络、动态反馈、身体感知、社会互动、社会认知密切相关，AI“智能”仅体现在程序预定目标中，还不具备生物体的自主性和内在体验。“人脑能产生丰富内心世界的秘密在于神经元之间的连接。人脑能编码大量的信息，记忆和思想，都是基于连接的力量。”^[13]是什么促进了人脑神经元之间的连接？是外部刺激。这个外部刺激，对于人类来说，不能忽视社会关系的变动，处于社会关系环绕的人类，其意识的形成与发展离不开社会。不能简单地把人类的“内省”依赖主观意识、元认知、人际互动等与AI运行机制等同起来。通常，AI的“输出调整”依赖于外部提示（如用户反馈），而不是自己内在的主动修正，目前它无法评估自身的认知边界。程序工程师通过技术手段增强模型的内省能力仍属于工程技巧，而非模型自发的能力。AI的“类内省”是工具，不是心智。未来，一旦海量具身机器人活跃在人类中间，将会产生什么结果？那是后话。不过市场已经提出了问题，甚至在进行资金和基础设施部署，2025年“以来，大模型都逐渐向小型化发展的趋势。谷歌和Anthropic均推出性能强大的小版本Gemini-flash和Anthropic的Claude 3 Haiku。大模型中的庞大知识在小版本中得到很好的浓缩，同时推理速度、端侧部署能力得到显著提高，有望更快在端侧落地。