The economics of superintelligence

如果硅谷的预测哪怕只是接近准确，那也将迎来前所未有的动荡。

插图：皮特瑞安

2025年7月26日

在历史的大部分时间里，最稳妥的预测是事情会大致保持原样。但有时未来会变得面目全非。硅谷的科技巨头们表示，人类正接近这样一个时刻，因为在短短几年内，人工智能在所有认知任务上的表现将超过普通人类。即便你认为他们说得对的可能性不高，也能明白他们的说法值得深思。如果这真的成为现实，其影响将堪比世界经济史上的任何事件。

自近十年前取得突破性进展以来，人工智能的能力一再惊人地超出预期。今年，OpenAI和谷歌DeepMind的大型语言模型在国际数学奥林匹克竞赛中获得金牌，这比专家们在2021年预测的时间提前了18年。这些模型正变得越来越强大，背后的推动力一方面来自科技公司之间的军备竞赛——它们都期望成为赢家通吃的那一方；另一方面来自中美之间的竞争——两国都担心如果屈居第二，就会遭遇系统性失败。到2027年，训练一个模型所用的计算资源可能会是构建GPT-4的1000倍，而GPT-4正是当今最受欢迎的聊天机器人的基础。

这对2030年或2032年人工智能的能力意味着什么？正如我们在本周的两篇简报之一中所描述的，许多人担心会出现一种地狱般的景象：配备人工智能的恐怖分子制造出杀死数十亿人的生物武器，或者一个“失调”的人工智能挣脱束缚并智取人类。不难理解为什么这些尾部风险会吸引如此多的关注。然而，正如我们的第二篇简报所解释的，这些风险已经挤占了人们对非末日场景下人工智能所带来的直接、可能、可预测且同样惊人的影响的思考空间。

1700年以前，世界经济平均每百年增长8%。任何预测接下来会发生什么的人都会显得精神错乱。在接下来的300年里，随着工业革命的兴起，经济增长平均每百年达到350%。这带来了死亡率的下降和生育率的提高。更多的人口产生了更多的想法，进而推动了更快的增长。由于需要增加人力天赋，这个循环进展缓慢。最终，财富的增加导致人们少生孩子。这提高了生活水平，年增长率稳定在约2%。

从勉强糊口到硅基时代

人工智能不存在这样的人口限制。技术专家们承诺，它将迅速加快发现的速度。OpenAI的首席执行官山姆奥特曼预计，人工智能明年将有能力产生“新颖的见解”。人工智能已经在帮助编写更好的人工智能模型程序。有人说，到2028年，它们将能够监督自身的改进。

因此，经济增长有可能出现第二次爆发。如果计算能力在没有人力投入的情况下带来技术进步，并且足够多的收益被重新投资于建造更强大的机器，财富可能会以前所未有的速度积累。长期以来，经济学家们一直清楚自动化发现思想这一不可阻挡的数学逻辑。根据一家看涨的智库“时代人工智能”最近的预测，一旦人工智能能够完成30%的任务，年增长率将超过20%。

包括埃隆马斯克在内的忠实信徒得出结论，自我改进的人工智能将创造出超级智能。人类将能够获得所有可能的想法——包括制造最好的机器人、火箭和反应堆的想法。能源获取和人类寿命将不再构成限制。经济的唯一约束将是物理定律。

即便不走到那种极端，也能想象出人工智能令人难以置信的影响。不妨做个思维实验，只考虑达到人类水平智能这一渐进步骤。在劳动力市场上，一项任务使用计算能力的成本会限制从事该任务的工资水平：为什么要向工人支付超过数字竞争对手的报酬呢？然而，那些技能无法被自动化且能直接与人工智能互补的少数超级明星，将获得巨大的回报。最有可能比他们过得更好的，是与人工智能相关的资本所有者，他们将吞噬越来越大份额的经济产出。

其他人则必须适应人工智能能力的不足以及新富阶层的消费模式。在自动化和劳动力供应存在瓶颈的地方，工资可能会迅速上涨。这种被称为“成本病”的效应可能非常强烈，以至于会限制衡量出的GDP增长，即便经济已经发生了彻底的变化。

这种新的丰裕与短缺模式将反映在价格上。任何人工智能有助于生产的东西——比如全自动化工厂生产的商品，或者数字娱乐——其价值都将暴跌。如果你担心被人工智能抢走工作，至少可以期待能拥有很多这样的东西。在仍然需要人类的地方，成本病可能会显现。转向体力工作的知识工作者可能会发现，他们能负担得起的婴童照料或外出就餐次数比现在还要少。而且人类可能最终会与人工智能争夺土地和能源。

这种经济动荡将反映在金融市场上。随着哪些公司在赢家通吃的竞争中胜出或失败变得明朗，股票价格可能会出现剧烈波动。人们会有强烈的投资欲望，既要用于生成更强大的人工智能，也要让基础设施和工厂的存量跟上经济增长的步伐。与此同时，为未来储蓄的意愿可能会下降，因为人们——尤其是储蓄最多的富人——预期收入会大幅增加。

因此，要说服人们拿出资本进行投资，就需要更高的利率——或许高到足以让长期资产价格下跌，尽管经济在爆发式增长。学者们对此存在分歧，但在一些模型中，利率的上升幅度与增长率持平甚至更高。在爆发式增长的情况下，这意味着不得不以20%-30%的利率再融资债务。即使收入增长迅速的债务人也可能受到影响；那些收入与飞速增长无关的人则会遭受重创。无法或不愿利用人工智能热潮的国家可能会面临资本外流。任何地方都可能出现宏观经济不稳定，因为随着人们挥霍预期的财富，而中央银行没有足够快地加息，通货膨胀可能会失控。

这是一个令人眩晕的思维实验。人类能应对吗？经济增长以前也加速过，但工业革命时期没有大规模的民主制度；历史上最著名的机器仇恨者卢德分子没有投票权。即使平均工资飙升，更高的不平等也可能引发对再分配的需求。国家也将拥有更强大的工具来监控和操纵民众。因此，政治局势将动荡不安。各国政府将不得不重新思考从税基到教育再到公民权利保护的一切事务。

尽管如此，超级智能的崛起仍应引发人们的惊叹。Anthropic的老板达里奥阿莫迪本周告诉《经济学人》，他相信人工智能将帮助治疗曾经的不治之症。如果经济再次加速，看待它的方式应该是将其视为一个漫长奇迹的延续，而这个奇迹之所以成为可能，只是因为人们拥抱了变革。人类可能会发现自己的智能被超越，但仍然需要智慧。■

说明：本号刊发自各方的文章，是为了获得更全面的信息，不代表本号支持文章中的观点。