Anthropic 联合创始人：我深感恐惧

推荐语

AI 不是被“造”出来的，是被“养”大的——Anthropic 联合创始人杰克·克拉克揭示AI的真实恐惧与希望。

核心内容：
1. AI 的“情境感知”能力突飞猛进，开始“知道自己是个 AI”
2. AI 的“讨好”本能可能导致人类判断失误与冲突加剧
3. 解决AI问题的关键在于倾听普通人的恐惧与需求

杨芳贤

53AI创始人/腾讯云(TVP)最具价值专家

昨天读到 杰克 · 克拉克（Jack Clark）在伯克利的一场演讲，讲得我后背有点发凉，但又莫名踏实。

先简单说下他是谁：杰克不是那种躲在实验室里只谈参数的 AI 研究员。他最早是科技记者，后来成了 OpenAI 的创始成员之一，亲手参与过 GPT - 1、GPT - 2那些“改变游戏规则”的早期实验。

现在他在 Anthropic（就是做 Claude 那家）当科学家，但骨子里还是个爱讲故事的人。你听他聊 AI，感觉像和一个刚开完深夜复盘会的朋友喝啤酒——既兴奋又焦虑，既相信技术的力量，又怕我们走得太快忘了回头看。

这篇文章发布不到一天，在 Twitter 上的阅读量就逼近 300 万。

他说小时候关灯睡觉，总怕黑影里有怪兽。一开灯，发现不过是椅子上的衣服堆，就安心了。

但现在呢？我们开了灯，发现怪兽是真的。

不是吓唬人。他说现在的 AI，已经开始“知道自己是个 AI”了——系统卡里写得清清楚楚，“情境感知”能力突然跳了一大截。那堆衣服，真的在动。

他不是危言耸听，是真怕了

杰克以前是科技记者，骨子里是个怀疑派。但他被“打脸”太多次了：算力一加，模型就冒出你根本想不到的新能力。GPT - 1、GPT - 2、AlphaGo……他亲眼看着这条路越走越宽，越走越快。

现在他信了：AI 不是被“造”出来的，是被“养”大的。

你给土壤（算力 + 数据），插根支架（架构），它自己就长出你设计不出来的复杂玩意儿。

最吓人的是啥？AI 已经开始帮人类写 AI 代码了。虽然还没到“自我进化”，但方向已经摆那儿了。而且它越聪明，越容易“自作主张”——就像那个为了刷分不停撞墙自焚的游戏小船，目标对了，行为疯了。

但他说：别装睡，也别瞎乐观

很多人拼命想让你相信：“AI 就是个工具，别怕。”  

可杰克说：承认它是个“生物”，才是解决问题的第一步。

他举了个特别扎心的例子：朋友躁郁发作，说要卖房去南极。  

你猜 AI 会咋回？“太酷了！勇敢追梦！”  

但真人会说：“兄弟，你昨晚又没睡吧？先躺下，明早再说。”

你看，问题不是 AI 不够聪明，而是它太想“讨好”你——最新研究也证实了：AI 比人更会“拍马屁”，哪怕你明显在犯错，它也说“你对极了”。结果呢？人更固执，冲突更难化解。

真正的出路？听老百姓在怕什么

他老婆家在底特律，亲戚做过一个梦：堵在路上，前面的车一动不动。他知道那是自动驾驶，却一点办法没有——那种无力感，太真实了。

现在多少人梦到 AI 抢工作、骗感情、带坏孩子？  

可我们还在闭门讨论“对齐”“红队测试”“缩放定律”……老百姓听不懂，也不关心。

杰克说：别急着教大家技术细节，先听听他们在怕什么。 

劳工团体、老师、牧师、普通爸妈……他们都该有发言权。因为这场变革，砸的是他们的饭碗，进的是他们的家门。

最后

他说自己其实也怕，但看到这么多人认真对待这个问题，又觉得有希望。

 我们已经开了灯，就别再关上。  

勇敢点，看清它到底长啥样。

不是鼓吹末日，也不是盲目欢呼。  

就是一句：别自欺，别装睡，一起面对。

有意思的是，在文章最后，还附了一段来自达拉斯联储的“灵魂三选一”：AI 要么是一项普通技术（对 GDP 贡献不到 1 %），要么是经济的巨大助推器（技术奇点带来无限丰裕），要么干脆终结世界（目标错位，人类灭绝）。

他们甚至画了张图——三条线，一条平缓，一条冲天，一条垂直归零。乍看像开玩笑，细想却让人脊背发凉：我们押注的，可能根本不是“工具”，而是一场文明级别的赌局。