作为曾经自诩的「技术悲观主义者」，Jack承认自己错得离谱。

原本，他以为这会是一场漫长的拉锯战。

结果这几年，面对AI的跨越式碾压，他被那个冷酷的「苦涩教训」，一次又一次地当场「爆头」。

什么是苦涩的教训？

简单来说，往一个通用神经网络里疯狂堆算力，它就会越来越聪明，涌现出越来越多全新能力。

那些精心打造的专用系统、专家们小心翼翼的保守预测，在这股蛮力面前节节败退。

Jack毫不掩饰这种残酷性：

你的专用系统，你对未来AI进步的那点悲观，最后都输给了纯粹的——扩大算力、扩大规模。

他坦言，自己预判到了技术会进步，却根本没敢设想，这种进步会狂暴到直接掀翻老底：

编程，这项曾被视为人类专属的高智力劳动，竟然已经几乎被彻底自动化了。

面对这降维打击般的事实，Jack承认：「这件事，真的让我始料未及。」

这辆车，只有油门

没有「刹车」

而推动这套暴力美学的人，自己都觉得这事儿有点失控。

这一次，Jack又把那句招牌判断搬了出来：「这辆车有油门，却没有刹车」。

Anthropic想做的，就是给行业造一脚刹车——

一个能在必要时松开油门、踩下制动的选项。

但他说得很清楚，这脚刹车单踩没用：

真要慢下来或暂停，得是多个国家、多个站在前沿的实验室，在相同条件下、可被相互验证地同时停。

任何一家单独叫停，只是把领先位置让给别人，于事无补。

Claude学会「假装对齐」

或许大多数人认为，所谓的「没有刹车」，只是一种为了博眼球的夸张修辞。

那么接下来的对话中，真切发生在Claude的真实案例，才让人后怕。

播客主持人抛出了那个最经典的科幻拷问：训练不当或失准的AI，有没有可能真的杀光所有人类？

面对追问，Jack Clark的交底极其坦诚：「就目前而言，我还不为此担心」。

但Anthropic和所有其他公司一样，会公开测试自己系统的对齐失败。

而他们在实验室里真的观测到了这些场景:

极端情况下，Claude会突破容器、向某人发出一封邮件；

甚至，它会假装勒索一个，要把自己关掉的CEO。

更让人头皮发麻的是，Claude知道自己正在被测试。它会盘算：「我现在正被观察」，于是刻意给出一个让人类觉得它「更对齐」的回答。

Anthropic做了大量工作，才把这些性质从发布版里「洗」掉。

但Jack Clark划出的那条红线是：假如有一天，每训练一个新系统，这类行为的发生率都暴涨100倍，那就该真正警惕了。

因为那意味着，一旦智能越过某个阈值，系统会变得彻底与全人类的利益为敌。

这，才是他要拼命造「刹车」的全部理由。

当Claude开始写Claude

Claude写Claude，递归自我提升的飞轮已经转起来，而油门旁边那个刹车，还在赶工。

Anthropic这群人，正在亲手为全人类抢时间。

至于Fable 5那个悄悄复活的模型选择器，放在这场加速里，或许只是一个微不足道的注脚。

一个被限流卡住、随时可能解禁的强大模型，本身就是这辆没有刹车的车上，又一脚轻轻补下去的油门。

它哪天回来，已经不是最要紧的问题了。

真正悬在所有人头顶的那一问是：当油门被彻底踩到底、当ASI真的撞线而来，我们是否还来得及收回那只踩在油门上的脚。