我要投稿

随笔|对AI发展的一点思考

发布日期：2025-06-24 12:11:24 浏览次数： 1526

作者：爱胡思乱想的人类

微信搜一搜，关注“爱胡思乱想的人类”

题记：当我投身神经网络去处理那复杂的优化模型，还在纠结“搞计算机的，人和代码总得有一个人能跑”时，涂涂已经用混沌系统的偏微分方程解试图去解释神经网络的输入如何影响输出。与未来的菲尔兹奖获得者去浅谈我们对AI的理解，这确实是一次很有意思的对话。学管理的人和学数学的人如果能有很多话可聊，AI的功劳必不可少，这或许是AI对我俩共同的启发。

当AI技术逐渐渗透到各个行业，我们开始习惯于看到诸多网站和产品标榜自己提供了最先进的AI模型，比如“满血版”DeepSeek或最高级别的ChatGPT。这种潮流让我们不禁反思：AI真正为我们带来了什么？

在我们的对话中，我们的第一个关注点是AI的场景应用。

当AI与人类合作，表现出的效率和效果远远超过单独使用AI或单独依靠人类时，我们都会惊叹于AI的强大能力。比如，AI教授围棋能让学生在对战中的胜率高于人类教师带出的学生的胜率；在医疗领域，AI结合医生的专业知识比单独使用AI或医生单独诊断更精准。随着AI从简单的纯文本模型演变为复杂的多模态模型，我们应该更深入地思考AI未来还能给我们带来什么。

这便引出了我们讨论的第二个问题：AI智能与AI意识。

Joanne Jang在她的博客中提到，“ChatGPT的初衷是服务于人类”。当我们在使用AI产品并建立依赖关系时，其实是人们对AI产品认知信任与情感信任的建立。认知信任源于AI帮助我们掌握更多信息，展现出强大的智能功能；而情感信任则是我们与AI互动后产生的情感联结，尤其当AI能主动记忆和回忆时，我们不禁会怀疑AI是否具备了意识。

试想一下，一个没有任何情感基础的AI在与你的深入交流之后刻上了你的烙印，并且它的记忆功能让它变得比你还了解你自己，这可能还只是人类大脑内存的拓展，但是当AI拥有了回忆，并且在和你后续的对话中把之前对话学会的风格融入进来，你一定会变得更加依恋这个很懂你并且只懂你的智能体，你可能也会在某一刻感到害怕，它是否拥有了和人类同样的意识甚至是在和你交互之后才产生了与你有共鸣的意识。

对于我俩的这个问题，Joanne给出的想法是模型的设计并不会“暗示用户的内心世界”，也不希望“模型表现出自己的欲望和情感“，ChatGPT只需要让用户感受到温暖，而不是”试图与用户建立情感纽带“。这好像打了大部分学术研究者的脸，当大家都在想着AI产品的发展是为了且必然要与用户建立情感联系时，至少ChatGPT模型行为和策略的领导者并不是这么想的，这或许给了我们更多的反思空间。

这也引发了我们对话中谈论的最后一个问题：AI的兴起会让我们失去什么？AI会取代人类吗？从第二次工业革命解放人类体能，到第三次工业革命解放人类技能，第四次工业革命是否会彻底解放人类的智能？如果人类的智能最终也可以被AI完全取代，那么人类是否还有存在的必要？正如AI教父杰弗里·辛顿所忧虑的，“比我们更智能的系统终将控制一切”，这或许并不遥远。