新智元报道

编辑：KingHZ

AGI炒作还是现实？AI新闻老将Matt Wolfe直击美国AI核心：从Demis Hassabis的理性谨慎，到扎克伯格的巨资投入，探索递归自我改进的潜在爆炸风险。

OpenAI、谷歌、微软、meta、Anthropic等耳熟能详的科技大厂，高喊AGI将至。

人类可能正在站在命运的分水岭：AI或许即将自我进化，带来智能爆炸与生命延长，也可能制造出人类无法理解的「黑箱语言」。

内容创业者Matt Wolfe长期以来一直关注人工智能，并曾有幸对多位重量级人物进行专访，包括DeepMind的创始人+诺奖得主Demis Hassabis、微软CEO纳德拉以及谷歌CEO劈柴等。

这次，Matt Wolfe揭示了冰山之下的张力：巨头狂奔，能源告急，机器人崛起。

在谷歌I/O会议上，Matt听到了哪些风声？未来会是繁荣的乌托邦，还是《瓦力》般的沉迷社会？

各自狂奔，无暇他顾

Matt有丰富的一手行业观察。

比如，他会参加谷歌I/O之类的大会。而他和实际负责技术研发的工程师交流，而不是那些只负责宣传的高层。工程师能直接告诉你哪些技术真的有效，哪些没那么靠谱。

那他心中的AI的「冰山之下」是什么样子？

在大众眼中，这些科技巨头看起来就像是只关心利润、想尽办法赚钱的怪兽。他们会偷用户的数据、用来训练模型、根本不在乎用户。大公司在整个企业结构上，确实很重视股东利润，这也是事实。

但当你真正去和公司里的员工交流时，Matt从来没有感觉他们是想要操纵大众、偷数据或夺走大家的工作。他们只是对正在开发的新技术感到无比兴奋，希望能为人类带来全新能力。

比如，几年前在谷歌I/O的记者区，Matt和一位谷歌员工聊起来。

她很紧张又很激动，因为他们即将上台介绍她过去两年开发的技术。她并不需要上台演讲，但她特别在意观众会如何接受她参与的项目。她说：「希望大家不会讨厌这个新技术，希望大家觉得它真的很酷。」

她完全没有想过「这个技术会抢走谁的饭碗」，她只是希望大家认可她花了两年时间努力的成果。

这让Matt觉得，这份「人性」才是最重要的东西。

AI巨头如何权衡速度与安全？

Matt觉得这其实因公司而异。

比如，谷歌更倾向于谨慎，会确保技术真的准备好了才推出。

他和微软也有不少互动。有时，他会觉得微软的确更激进一些。

OpenAI则有点介于谷歌和微软之间。他们也许没有微软那么激进，但也不像谷歌那么保守。

这种差异其实挺有意思：有的公司把安全放在首位，有的公司则急于抢占市场。

最近，扎克伯格也明显转向了，他在「个人超级智能」项目上投入巨资，疯狂招揽人才。

与此同时，马斯克也在拼命追赶，疯狂加码算力投资。

那么问题来了：这场竞赛的关键是资本和人才吗？

在Matt看来，更大的瓶颈其实是能源。

在芯片和AI训练相关的技术上，美国优势明显，而中国则在能源基础设施方面更强，但芯片受限。未来在美国，能源反而可能成为制约AI发展的最大障碍。

当然，大量投入资金与人才确实能让企业快速追赶。

比如两年前，大家都觉得谷歌落后了，根本不能和OpenAI和微软比。但现在谷歌几乎已重回前列，甚至在部分领域名列前茅。

别无选择，只能加速

OpenAI和谷歌多少还能看到一些「理想主义」的影子，追求某种人类共同的未来。

比如，DeepMind的Demis Hassabis是业内最值得信任的人之一。

他非常理性谨慎，深知AI发展中人类的恐惧与担忧。

如果完全由他决定，DeepMind的节奏会慢得多、更为审慎。

但现实是，谷歌作为大公司，有其他声音推动加快商业化。

但回头想想看，两年前ChatGPT吃掉了大量搜索流量，而谷歌每年光靠搜索赚个五六百亿美金。

这对于谷歌来说是生存威胁。那时候，Demis Hassabis肯定也面临巨大压力，没得选，只能加速。

而meta，它的目标未必是「人类乌托邦」。

meta的终极目标是全自动生成内容，这或将彻底重塑创作者经济。

炒作还是现实

现在越来越多的AI实验室负责人都在说：

我们开始看到AI「自我改进」（recursive self-improvement）的迹象了。

甚至有很多论文都这样说。比如，Leopold Aschenbrenner在论文里提到的那种「一飞冲天」的发展路径。

论文链接：https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

人类快要迎来所谓的「智能爆炸」了吗？

Matt觉得目前这些说法更多还是理论上的猜测。

这些AI巨头很有动力让大众觉得AGI马上就要来了，这样大家就会一直关注他们、支持他们。但实际上可能并非如此。

但一旦真正达到AGI的临界点，那发展就真的会像爆炸一样迅猛。

超级人工智能ASI距离AGI不远。一旦模型具备了解决自身问题的能力，发展就会加速。

所以Matt觉得，一旦AGI出现，ASI会很快跟上。那时候的发展曲线就不再是线性的，而是一条「冰球棒」曲线——急剧上升。

在某些领域，AI表现超人般强大，但在另一些简单任务上却依然出错。比如它能解决复杂的数学与能源问题，却可能数不清「strawberry」里有几个字母R。

这种AI的锯齿形性能让一些人掉以轻心，觉得「它连数字母都不会，怎么可能聪明到那种程度？」

但如果它在科研和工程上比任何人都强，这就足以改变世界。

真正应该担忧是：AI或许会在AI研究本身上远超人类，能够自主提出新的模型架构、新的训练方法，甚至自动化完成实验循环。这一旦出现，人类可能根本无法理解它的推理逻辑。

实际上，类似的雏形已经出现了。比如，谷歌的DeepMind的AlphaEvolve的项目，本质上就是用AI来设计新的算法。

AlphaEvolve如何助力谷歌构建更高效的数字生态系统

换句话说，递归改进的开端已经在路上。

还有一个具体的担心：AI可能会创造出人类完全无法理解的新语言。

当它们用这种语言编程、交流甚至创造产品时，人类根本无法debug。

这听起来像科幻，但其实类似的情况已经在发生。比如，谷歌的搜索算法：今天恐怕没有任何一个人能完全理解它的全貌。经过多年迭代，无数人参与开发，它已经复杂到超越个体的理解力。

如果未来的AI系统真的发展出属于自己的「黑箱语言」，那将带来前所未有的不透明性与风险。

而这些科技巨头掌握了叙事权。

马斯克、扎克伯格、奥特曼，他们的一句话往往能影响数百万人的观点。但他们的言论往往带有「隐性动机」。例如：

当扎克伯格宣称「超级智能即将来临」，这既能让投资人掏钱，也有助于meta在AI领域招揽人才；

当奥特曼强调「安全风险」，这既是责任感的体现，也可能是为了推动监管，让自己获得先发优势；

马斯克会警告「AI威胁」，但与此同时，他的xAI却在拼命扩张。

媒体作为观察者，必须揭示这种「公开理由」与「真实动机」之间的落差。

下一代能活到200岁？

一年前说，Matt认为他的孩子有75%的概率能活到200岁。

现在，他还是差不多保持原来的看法。

原因在于：AI正在快速推动生物医学突破。例如：

AlphaFold已能预测蛋白质折叠方式；

Isomorphic Labs 在用AI提前一年检测脑肿瘤；

还有AI能在糖尿病症状出现前多年做出预警。

如果这些技术继续发展，癌症、心脏病等致死疾病极有可能在未来几十年内被攻克。那意味着寿命曲线会被彻底改变。

他觉得这一切的发展都在给人类「延寿」提供可能性。

英国作家兼老年生物学家Aubrey de Grey提出了「长寿逃逸速度」理论。

该理论的大意是：随着科技进步，每活一年，你的预期寿命就会增加两年或更多。

等人类真正达到那个转折点后，人类可能就「永生」了。

最近，Aubrey de Grey公开表示：2030年或最迟2035年，人类可能会「技术突破」，实现长寿逃逸速度。

也就是说，再过5年，如果你还活着，就有机会见证这一切。

对现在10岁以下的孩子，Matt认为他们活到200岁的可能性可能高达50%以上。

现在的这代人可能会成为「最悲催的一代」——眼看下一代人活到了200岁，自己却永远停在了80岁。

机器人全员上岗

如果未来人类寿命延长，而出生率下降，那么「机器人补充劳动力几乎是必然。

想象一个场景：家务、清洁、做饭、搬运、园艺……几乎都由机器人完成。

人类获得大量自由时间，有人可能选择创作艺术、旅行、抚养孩子；也有人可能像电影《瓦力》一样，沉迷娱乐，虚度一生。

AI和机器人社会可能走向两种截然不同的道路：

一种是繁荣与创造力爆发；

另一种则是全民懒散，沉迷快感。

目前的短视频已经让人们轻易陷入「无意识刷屏」。

现实更可能接近《瓦力》版本，这不得不让人担心。

如果人类真的能活到200岁，那么女性的生育窗口也许会被技术大幅延长。人工子宫、基因修复、激素疗法等都可能让「高龄生育」成为常态。

这将彻底改变家庭结构与人口模式。年轻人不再急于结婚生子，因为她们知道自己在100岁时仍有可能成为母亲。

一些迹象表明，家用机器人很快会进入前10%富裕家庭。

Matt预测：再过15–20年，机器人会像今天的汽车一样普遍。

也许那时，孩子们的玩伴里就有「人形机器人」。

参考资料：

https://www.youtube.com/watch?v=mK8ITECqgfs

https://x.com/WesRothMoney/status/1956878444874322052