文：Web3天空之城| 未经许可不得转载

这个有趣的跨界访谈深入探讨了在人工智能（AI）时代，艺术与人性的未来。音乐家宇多田光与历史学家尤瓦尔·赫拉利，就AI对音乐、写作等创意领域构成的挑战与机遇展开了深刻对话。讨论的核心围绕AI的模式识别能力与人类创作的内在动机、情感体验和关系需求之间的区别。双方共同探索了“真实性”在艺术中的价值，以及当AI能够模仿甚至超越人类情感表达时，我们应如何看待人机关系和意识的本质。

核心观点

• 创作动机的根本差异 ：人类艺术创作源于自我探索的内在需求和情感挣扎，而AI的创作基于目标导向和数据分析，缺乏真正的“渴望”。

• “故事”与“关系”的价值 ：面对AI在技术上的超越，人类艺术的价值可能更多地转向创作者的个人故事、奋斗过程以及与观众建立的情感联结。

• AI对情感与关系的模仿 ：AI能够通过学习海量数据，精准地模仿甚至操控人类情感，这使得建立在“关系”上的信任变得复杂，并引发了关于意识真伪的哲学难题。

• 未知的新大陆 ：如同AlphaGo发现围棋新策略，AI或许能揭示人类大脑无法想象的全新音乐或艺术形式，为人类创作带来意想不到的启发。

• 以好奇心面对未来 ：面对AI带来的不确定性，保持好奇心、拥抱探索过程，是理解这一变革并与之共存的关键。

天空之城全文整理版

宇多田光: 你好，很高兴见到你。

赫拉利: 很高兴见到你。

宇多田光: 我很高兴来到这里。很高兴见到你。

赫拉利: 是的，我也很高兴见到你。尤其是在这个地方，在弗洛伊德博物馆，我认为这是谈论艺术、创造力和人类心灵的绝佳场所，而且，在这个人工智能时代，所有这些事物都受到质疑，艺术家的未来，人类创造力的未来将会怎样。但也许我们可以从一些轻松的话题开始。

宇多田光: 是的，我们有很多可以深入探讨的。但当我第一次收到与你进行这次谈话的邀请时，我非常兴奋，因为我的儿子这个月满10岁。当我10年前怀孕时，我的一位非常好的朋友送给我你的书《智人》，并附上一张纸条说，既然你正在孕育一个新的智人，我想把这本书作为礼物送给你。这就感觉非常圆满了。

赫拉利: 书里有没有什么特别吸引你注意力的东西，一个故事，一个想法，或者什么……

宇多田光: 我相信很多人都会这么说，但你分享的那个观点，即耕种小麦，不是我们驯化了小麦，而是小麦驯化了人类，那部分内容。那是我那种“天啊，世界观转变”的时刻之一，我想我永远也不会忘记。我也很喜欢《Nexus》中的那些时刻。

赫拉利: 谢谢你。

宇多田光: 我喜欢你表达的方式，你编织所有这些想法的方式，然后就像一个数学方程式，你以某种方式将它们汇集成一个非常简单的表达。比如，我喜欢你把万维网比作已经传播并连接了人们，你认为这可以比作一个茧的比喻。我喜欢做，我喜欢你建立的那些联系。

赫拉利: 是的，我认为以前，每个人都期望网络最终能连接整个宇宙，但现在越来越多地，这种网络正在向我们逼近，人们有时并排生活，每个人都裹在不同的宇宙中，几乎无法接触到并连接到下一个人。而且我认为，当我思考音乐的时候，这正是音乐数千年来一直试图做的事情。这就是它的力量。

宇多田光: 还有艺术。

赫拉利: 是的，将人们联系在一起。

AI时代的艺术：威胁还是新纪元？

赫拉利: 我在想我们的，也许我们直接切入正题吧。

宇多田光: 当然，我们开始吧。

赫拉利: 你认为在人工智能时代，音乐的未来会怎样？比如，也许我先说说我自己，我写书，我是个学者，但是撰写历史介于科学和艺术之间。因为要写一本历史书，它不是一个方程式，你需要讲述故事。所以在某种程度上，我也把自己看作是一个艺术家。我不知道我是否会在5年或10年后仍然写书，因为也许到2030年代，人工智能会比我更好地写出像《人类简史》和《未来简史》这样的书，以至于人类参与其中几乎变得毫无意义。

宇多田光: 我只是觉得那真的很难想象。我从逻辑上理解，在许多创意领域，事情正朝着那个方向发展，比如，我和我在电影行业的朋友聊天，她说每个人都在谈论VO3。这是最新的，是的。这只是另一个层次。它在能力方面实现了巨大的飞跃。人们真的很，有些人对他们工作的未来感到非常不安。

我从逻辑上理解，我的思考部分理解，但我内心深处的东西让我觉得，人类绝不会不想要人造的东西。我认为我们天生就是创作艺术的人。这是我们离开房间后做的第一件事。我们开始，我们不会说话，但我们就像在唱歌和咿呀学语，我们甚至还不会走路，但你会跳一点舞，或者敲打东西，或者对类似的事情做出反应。我认为宇宙充满了音乐。这就是它的来源。还有艺术。

我基本上喜欢你说的部分，你在谈论人工智能，当人工智能击败AlphaGo时，击败了一个人类棋手。你说即使是创造性的工作也不安全，因为创造力，简单来说，你说创造力，它的一个重要方面是模式识别，还有……

赫拉利: 打破模式。完全正确，是的。你识别出模式然后打破它，这就是创造力。在许多领域，再次，我很想听听你对音乐的看法，因为我不是音乐方面的专家，但当然在围棋和象棋这样的游戏中，现在人工智能比人类更有创造力。当你有这种纯粹的人类竞赛时，总是担心有人从人工智能那里获得建议，他们检查的一种方法是玩家表现出的创造力水平。如果他们的下法太有创造力，立即就会被怀疑，他们一定是从人工智能那里获得了建议。现在，对于音乐、电影、写作书籍，我们当然还没有到那一步。

但当我回顾过去10年的趋势时，如果我思考，当我写一本书时我会做什么？首先，我需要提出一个主题，比如一个真正困扰我的问题。然后我需要收集大量的材料，我需要分析它，然后我需要用文字把它写下来，我使用故事、轶事等等。这些是基本的阶段。当我观察这些阶段中的每一个时，我看不到人工智能为什么不能做到这一点。长期以来，我有一些朋友说他们永远无法提出问题。但现在我有同事求助于人工智能，让他们给出X领域内最有趣的研究问题是什么。但这不仅仅是要求他们做研究。

宇多田光: 那是他们提出问题，还是他们在寻找问题？

赫拉利: 他们问人工智能。去思考问题？提出主要的问题，缺失的环节，那些非常有趣，但我们仍然对某个领域或某个主题一无所知的事情。同样地，在收集和分析信息方面，我能收集的信息量与人工智能相比是微不足道的。然后一直到编写有趣的故事或轶事。所以我已经看到，人工智能写出的这些精彩的故事，而且我同意人类总是会为了创造的乐趣而创造，就像孩子们一样。但它还会被重视吗？直到今天，不仅仅是因为我们喜欢做这件事。而是因为它极具价值。地球上没有任何东西能像我们一样富有创造力。而现在，在越来越多的领域，有某种东西可能比我们更有创造力。

大脑与胃：理智理解与内心直觉的冲突

宇多田光: 最后，我也非常赞同你所说的，我可以在理智上理解它，但在内心深处，我倾向于把它看作是一种脑-胃屏障。

赫拉利: 我的大脑已经明白发生了什么，但我的胃拒绝消化它，而胃更强大。最终，我们是由胃控制的，而不是由大脑控制的。

宇多田光: 并且我们的直觉似乎很大程度上在于我们的内心感受。

赫拉利: 是的，我们的内心感受是某种深刻的、某种情绪化的反应。我认为它们来自胃，就像字面意思一样。胃里有数亿个神经元。这不仅仅是一种比喻。所以我可以说这些事情，并且我做关于它的演讲和采访。但是当我看到我实际上如何生活时，我仍然无法真正认真对待它。并且这对于我在人工智能领域的大多数同事来说也是如此。比如，他们会提出关于人工智能将做什么的最可怕或影响深远的预测。然后在他们实际生活的方式中，他们不会改变任何事情，因为我们无法真正想象它。

宇多田光: 感觉我想我们挺迟缓的。我们不太擅长适应尚未真正发生的事情。我们知道气候变化是真实的，但我们并没有很好地应对它。所以也许我们只能看看事情会如何发展。

创造力的奥秘：从问题解决到“自我中心”的探索

宇多田光: 但我确实明白，创造性很大程度上是解决问题。这主要是我看待它的方式。提出问题，就像你说的。然后思考如何发现问题，这有点像我看待它的方式。然后找到解决问题的方法。然后，很重要的一部分还在于理解模式，并以有趣的方式或感觉良好的方式打破它。

我喜欢这样解释，当我创作音乐时，它就像一种舞蹈，表达我的感受，它的走向，或者是一种自然和期望的事物之间的平衡，比如旋律或和弦。和弦是一种很好的方式，也许是思考人工智能如何能很好地创作音乐的一种好方法。因为如果你打开一本音乐理论书，你基本上只会看到一堆数字。有些模式，比如，你知道的，著名的模式，比如你从一个属和弦开始，它是5，然后你把它解决到一个主和弦，它是1，还有像4、5、1和2、5、1这样的模式，或者类似的东西。所以它感觉非常数学化，结构化，几乎是客观的。

所以在所有的音乐家中，我想，在某种程度上，我认为人工智能也是另一片音乐家的海洋，他们有不同的方法。但如果我几乎把它们看作是世界上有更多的音乐家，那么我仍然会继续做我所做的事情，那就是我听现有的音乐，或者过去创作的音乐。我喜欢的，或者可能不喜欢的，我作为一个人类，或者仅仅作为一个听众，会想到那些对我来说感觉自然和良好的自然部分。然后我喜欢加入一些对听众来说像是背叛的部分，它们有点出乎意料，或者有点奇怪，比如不应该发生的事情。所以它打破了模式。那是其中最有趣的部分。但我把它建立在对我来说有趣的事情上。

所以我只是好奇。我想知道，在没有明确目标的情况下，我认为创意过程中最大的区别，就我所知，以我有限的人工智能知识来看，是我创作音乐的目标完全是自我中心的。因为那只是我尝试发现关于我，或者关于我周围世界的事情。

赫拉利: 你通过音乐发现了什么？你能举例说明你发现的某件事吗？

宇多田光: 总有一些相当重要的东西。尤其是在歌词方面。也许这方面比音乐部分更重要。但是，如果我无法提出对我来说是新的东西，比如一个新想法，一个我一直在脑海里思考的东西，一个我一直有的问题，我就卡住了。我想不出歌的最后一句，但我感觉这是最重要的部分。然后我就更加努力地研究它，推动，推动，不断地问自己。然后我就会想到关于网与茧的那种类比。也许这会成为标题，网与茧。

创作的耐心：在纷扰中等待灵感之鱼

赫拉利: 你实际上是如何进行创作的？如果你缺少歌的最后一句，你会怎么做？

宇多田光: 这是创造力的另一个方面，我认为非常重要，那就是耐心和放手。我喜欢把这部分耐心比作，我觉得像一个坐在船上的渔夫。无论我在做什么，如果我在创作歌词，或者甚至只是歌曲的音乐部分，我都像坐在大海中央的一条船上。无论我是在吃晚餐、做饭、换衣服，还是仅仅在看电视，或者我们在和朋友聊天，在我的脑海里，我都坐在船上。因为我知道我不能强求。我的一部分必须要有耐心，并且相信它会到来。然后它确实来了，并且我周围有足够的干扰，这样我的思绪就不会只专注于那个问题，因为这些想法真的会浮出水面，就像潜意识的想法一样，当我很分心的时候。

赫拉利: 但它只是一条鱼吗？当我试图思考这个比喻时，这是一个空荡荡的海洋，我在等待这条鱼上钩吗？或者说，每一秒，总有一条鱼或其他鱼上钩，但大多数只是，不，不是这条，不是这条。啊！直到正确的鱼上钩。这就像脑海中有很多噪音，直到从噪音中，出现了一些东西，是的，就是这个吗？或者就像寂静，寂静，寂静，然后出现了一些东西？

宇多田光: 很多事情涌现出来，然后我想，不，那还不太对。或者有时候我会想，听起来不错。但过一会儿，我又想，不，等等，不，还不是。那不是我一直在等待的东西。然后当某件事发生时，我就是知道，当它真正、真实地捕捉到这遥远、失焦的景象时，也就是我在自己内心寻找的答案，这可能是一些非常基本的东西，比如我对某件事的感受。这就像发现关于我自己的某种真相，我相信，如果它足够来自我内心深处，并且足够诚实，那就是一个普遍的真理。所以它，几乎任何人都能产生共鸣，因为它就是如此基本。

我喜欢你致谢和联结的结尾。我想是致谢部分，你说，你的书，当我阅读你的书时，那是我们心灵相通的时刻。所以书本身就是一个联结。这就是关键，这就是让我感到与自己，从而与世界上的每个人都联系在一起的真相。

所以，但我想，动机才是我想要表达的。最大的区别是，我不知道人工智能的感受。所以我只是好奇，如果不给人工智能设定目标，比如创作能抓住人们注意力的音乐，或者创作能促进某种特定身体反应的音乐，比如出汗，或心率升高，甚至大脑中更深层的东西，比如化学物质的释放和分析，会怎么样。那是关于结果的。赢得比赛，有一个明确的目标结果。但当我创作时，我实际上，就像我在试图找到它一样。在我到达那里之前，我不知道结果是什么。

赫拉利: 对你来说，结果是什么？

宇多田光: 仅仅是那段音乐，但它几乎像是一种副产品。而发生在我身上的一切重要事情，歌曲的价值在于我创作它时所发生的事情。

人机之别：当AI学会演奏“人类情感的钢琴”

赫拉利: 但这是为了我们作为创作者。我完全同意人类有一种创造的深刻需求和渴望。而且无论有没有人工智能，这种情况都会继续。但人们是否会欣赏这一点，是的，人们是否会欣赏它，它是否会在世界上占有一席之地，而不仅仅是我的爱好。这才是问题所在。

很多时候，当你问艺术家或创作者，你在尝试什么？结果是什么？我们试图实现什么？所以一个非常常见的答案是，他们试图在别人的头脑中创造某种状态，唤起某种情感，喜悦或悲伤或其他什么。这可能正是人工智能非常擅长的事情。即使它本身没有情感，它也能够识别他人的情感，然后通过反复试验找到方法，就像你想象的那样，如果你把人类进行比较，就像我们的情感系统基本上像一架钢琴，人工智能将学会如何演奏人类情感的钢琴，以及如何比人类艺术家更好地产生悲伤、快乐、恐惧或敬畏，仅仅通过它能够处理的巨大信息量。

比如它可以收集数百万人的真实数据。比如当我写一本书的时候，我有时会尝试想象我的读者，而且我通常会把我想象中的读者设定为我自己，或者我认识的人，或者我在大学里遇到的学生，或者公共活动或采访中遇到的人。但这是一个非常有限的例子数据池。

宇多田光: 所以当我这样做的时候，我可能有一个关于几百人的信息池。

赫拉利: 人工智能如果写书或写音乐，它将拥有关于数百万乃至数十亿人的数据，随着时间的推移。所以如果目标是为其他人创造某种精神状态，我就是不明白我们如何在这方面与人工智能竞争，特别是它还能够根据不同的人来专门定制书籍和歌曲，这会成为它的一大优势。

宇多田光: 我不可能为不同的人写略有不同的书，但对于人工智能来说，这可能很容易。我认为量身定制的方面非常有趣。我很想知道，我很想尝试一下，看看它是否会创作出最终我会喜欢的音乐，我猜，那种我真正喜欢的音乐。这几乎就像音乐流媒体平台根据你通过算法听过的歌曲来推荐播放列表和歌曲一样。

“努力启发式”：快餐艺术与匠心之作

宇多田光: 但我只是在想，我不知道这是否是一个好的比较，但假设有一些便宜又快捷、快速准备好的、非常容易获得的东西，比如快餐。是的，它确实有很大的市场，但人们对某些东西的价值判断又有所不同，比如，这叫做什么，努力启发式，人们，如果他们知道，一个人，甚至可能是人工智能，如果他们以更困难的方式完成它，或者某种非常有限的访问权限，那么如果有人花时间制作它，并且他们知道一个真正的人类已经挣扎过，因为你书的来源本身，写作本身就是一种挣扎，或者说是一项大量的工作，但你正在把你一生的经验投入到你那时所做的事情中。所以不仅仅是，人们喜欢听故事，任何在市场营销或音乐行业从事销售的人，或者甚至在书籍和促销方面，我想，我与之交谈的人总是说，你的故事是什么？人们很容易被故事吸引。那是最重要的事情。这就是我们进化的方式。所以这是真的。

我想知道，我认为人工智能创作的音乐是有其用武之地的，比如你想听一个让你放松的播放列表。所以你只要搜索轻松音乐播放列表，然后播放，你就会很满意。你并不真正在乎这是人类制作的，以及他们是否努力创作，还是人工智能为你快速生成的。我可能也会听那种音乐。但在其他时候，可能我只是真的很饿，也很渴，而且，我真的不在乎。今天是我的放纵日，我可以吃任何我想吃的东西。也许我会去一家快餐店，买一个，我不知道，汉堡之类的。但是大多数时候，还会有其他时候，我真的很想坐在厨师面前，谈论当天的渔获或其他什么，然后看着他在我面前准备食物。

赫拉利: 我认为在所有领域，如果我们寻求的是一种关系，那是一个不同的，一个需要探索的不同主题，但肯定的是，在这种情况下，取代人类会更加困难。我们在诸如象棋这样的事情中看到它。每个人都知道人工智能下象棋比人类厉害得多，但仍然有人类象棋大师有工作，并且拥有一大群粉丝和追随者。那么他们在寻找什么？他们实际上不是在寻找象棋方面的天才。他们在寻找与另一个人的关系。使这种关系引人注目、有吸引力的正是你所说的，那种奋斗，就像这位象棋大师的故事，他来自特定的背景，面临着巨大的挑战或失败，但设法重新振作起来并再次尝试，这与奥运会的情况相同。所以我们知道汽车可以比任何人类运动员跑得快得多。我们仍然想看到那种脆弱、易受伤害的人，他们正在迎接挑战。

但这是一个很大的问题，如果这是真的，因为那样我认为如果有象棋大师在这里，与他交谈可能会很有趣，因为我认为这是一种不同的工作。那么以前，你就像你想成为宇宙第一的象棋专家。现在，这是一项绝望的任务。而你最终剩下的，就是变成某种程度上像一个演员。是的。这也引出了一个问题，如果我不再是世界上最优秀的棋手，而只是一个人们与之产生联系的故事，这对于我的个人生活意味着什么？因为现在这实际上是我唯一能给粉丝的东西，我的个人生活，因为我的棋艺与人工智能相比不值一提。那么这是否意味着我现在必须向他们某种程度上敞开我的个人生活？因为那是我的工作。

当然，另一个问题是，如果人们真的在寻找一种关系，人工智能能给他们这种关系吗？因为我们已经知道，就像我两个月前在日本、韩国和中国时，人们告诉我这在欧洲也变得很流行，人们开始拥有人工智能男友和人工智能女友，他们之间存在浪漫关系，而且也存在只是关系，不一定是浪漫关系，和人工智能之间。而且越来越多的人说他们认为人工智能有感觉。

宇多田光: 比如，因为我是一个人工智能专家，而且我经常谈论这个，我收到了很多人的电子邮件，他们有时非常生气，因为我在一些采访中说人工智能没有感觉。

赫拉利: 他们说，不，我有一个人工智能朋友，我们每天都聊天，他们给我发他们和人工智能之间对话的长篇文字记录，他们确信人工智能有感觉和意识。所以也许即使是这个也不是人类的堡垒，我们会一直拥有这个，而人工智能无法企及。

关系的未来：AI能成为“完美”的朋友吗？

宇多田光: 我认为关系方面，那可能，已经在科幻电影和，小说中被预测到了，我想也是。而且那可能会加速。看起来它正朝着那个方向更多地蔓延。但是对于基于表现的，比如成为一个棋手的粉丝，或者运动员，为什么这比观看人工智能互相战斗更令人兴奋，我想确切的点是人们是如此脆弱和不可预测，而且我们没那么好，而且我们每次都不会做对。而且我不知道，也许，我认为几乎有一种方法可以调整人工智能，使其达到正确的百分比，比如，能够犯错误。

赫拉利: 或者脆弱性。

宇多田光: 是啊，是啊。而且那可能实际上会提高人们更多地与人工智能产生关联并将它们人性化的程度。我认为那会非常有趣。也许他们有时会感到沮丧，因为在人际关系中，最大的区别是，我听到有人说，我想那是在一个播客或者什么节目里，我记不清了，但是有人说，人工智能可以感觉像一个好朋友，像一个聊天机器人，像一个好朋友，但它不会让你成为一个好朋友。因为它只是接受一切。它认可你所说和所做的一切。而且它总是理解你。所以，这对人们来说感觉很好，但是，所以在短期内，人们可能更喜欢它，而不是可能不同意的真正的朋友。但在长期内，我觉得人们会习惯于完美的朋友，并且可能想要更人性化的东西。

赫拉利: 但这可以很容易地调整。是的，这正是他们所谈论的。那些告诉我们关于人工智能男友的人说，这背后显然有商业利益。他们想让人工智能男友更容易让人上瘾。而且他们已经发现，他们已经发现让AI男友更容易让人上瘾的方法是让他变得刻薄。

宇多田光: 若即若离。若即若离。是的，没错。

赫拉利: 如果你有一个总是崇拜你并且同意你一切的AI男友，你很快就会感到无聊。但是如果AI男友有时刻薄，有时难以接近，有时生气，那么它真的会触动你的情感按钮。

宇多田光: 有毒的AI男友。是的，所以我很想看看这在友谊层面的关系领域中会如何发展。

音乐的解放：从人类大脑到自我演化

宇多田光: 但回到音乐，我读到过，尤其是在现场演出中，我认为它将会是，即使是现在，仅仅是在设备上听音乐或在现场环境中，也已经变得越来越不同，我认为，因为听音乐是如此容易。它无处不在。所以现在大多数艺术家和音乐家已经不能通过卖音乐赚很多钱了。我是说，他们仍然在赚。但是我我认为在过去的10到20年里，很多音乐家已经更多地转向通过巡演和现场演出来获得收入。我猜这才是真正能赚到钱的地方。

而且我读到，尤其是在现场环境中，音乐可以同步参与和聆听同一音乐的人们的大脑活动。是的，当然。而且场地越大，这种情况就越明显。所以，谁知道呢，也许，是的，人工智能创作的音乐在某些场合可能会非常方便。但是我们围着篝火一起演奏音乐，只是为了重述故事或吓跑动物，或者仅仅是为了快乐，谁知道呢，我们大脑活动同步的感觉，以及现场环境中的那些效果。我不知道，也许如果人工智能能做到这一点，比如表演者人工智能。

赫拉利: 我不知道，我们可能真的处在危险之中。在伦敦这里，你有阿巴合唱团的“再续航程”演出。

宇多田光: 我看过了。太棒了。

赫拉利: 你有成千上万的人通过化身同步他们的大脑和身体，而这些化身最终是基于人类的。但我认为，当你纵观音乐的长期历史时，最初人类和音乐是完全不可分割的。比如，你体验音乐的唯一方式是有人唱歌或表演。没有办法将音乐与人类分离。然后随着时间的推移，尤其是在过去的几个世纪里，随着各种技术的发明，首先通过录音将它们分离成为可能。所以你可以坐在家里，用留声机听一些唱片。而且你不需要人在那里。但仍然存在联系，因为你仍然需要在某个地方有一个人来创建记录。

而现在我认为我们已经到了历史上的一个时刻，你可以完全打破这种联系，你可以拥有纯粹的音乐而没有人类创造者。而且音乐可以自己不断发展。比如，如果你把人工智能音乐看作不是人工智能，而是纯粹的音乐。所以你早些时候说过音乐有一个数学基础。所以想想所有这些数学实体，所有这些曲调和歌曲，它们相互作用并创造。就像它们的互动一样，它们创造了越来越多的新音乐，这些音乐从未经过人类的大脑或思想。以前，如果你是音乐的创作者，你就会听很多现场表演，也会听很多唱片。然后你把它们混合在你的脑海里，给世界带来新的东西。但现在音乐可以直接与更多音乐互动。并且在没有任何人类大脑或思维参与的情况下创作新的音乐。

渴望与动机：AI会“想要”创作音乐吗?

宇多田光: 是的，我实际上非常兴奋。我非常好奇。我认为对于任何事情，我只是……我想我的好奇心胜过任何其他感觉，比如忧虑或恐惧。是的，我非常好奇。我很好奇是否……我认为如果人工智能开始想要创作音乐，那将非常有趣。我很想听听那是什么样的声音。

赫拉利: 好吧，这种渴望。是的，没错。就我们所知，人工智能没有渴望，即渴望的感觉。就我们所知，至少目前，人工智能没有意识。它有智能。它有能力追求目标，解决问题。但它没有感觉。但在某种程度上，你不需要感觉也能想要做某事。就像我们已经存在了几个世纪一样。我们拥有诸如公司、国家、州之类的东西。它们没有欲望。我们把它当作一种隐喻。就像我们说，一个国家想要对另一个国家发动战争。一个国家实际上不可能想要任何东西，因为它没有思想。

宇多田光: 这不是真的。

赫拉利: 这不是真的。这仅仅存在于我们的想象中。但是现在有了人工智能，我们可以拥有这些没有感觉，但确实追求目标的实体。如果我们给它们设定目标，或者它们自己设定了创作新音乐的目标，它们就可以直接去实现。我认为真正让我着迷的是，将音乐从其在人类大脑和思维中的嵌入状态中解放出来的想法。

宇多田光: 而你只是让音乐以和我作为文学人士相同的方式与自身互动。

赫拉利: 我的生命是文字，是书籍。只是让文字与文字对话。因为之前，再说一次，作家会做什么呢？我会读一本书，再读另一本书，又读另一本书，然后在我的脑海中以某种方式将它们混合起来，再从中创造出一本新书。书籍之间无法交谈。一本书无法直接与另一本书交谈。现在这正在成为可能。但在某种程度上，当我思考人工智能和文本时，这就是它的意义。文本可以直接与文本对话，并创造新的文本而无需……

宇多田光: 他们不需要我来当什么媒人。你认为一本书可以不以读者为念而写出来吗？我是指，一本好书。

赫拉利: 当然可以写一本不考虑读者的书。

宇多田光: 你之前说的关于人工智能如何获取更多数据的事情。所以，与其你考虑你认识的20个会喜欢阅读这本书或者觉得它非常有趣和令人兴奋的人，不如让人工智能获取数据，或者获得来自全世界的想象的，预测的反应。那是否一定... 如果没有人指导他们这本书的目的是什么或者... 没有哪本书是世界上每个人都会喜欢读的，如果是完全相同的文本，那么就不是。所以我猜想，如果它是为每个人量身定制的可能性存在，也许这次谈话就变得毫无意义。我现在所说的毫无意义。但仅仅是创造出能让成千上万甚至数百万人喜欢或认为是真正特别的东西，那会... 因为我认为还有... 有一些普遍的东西是我们都觉得有趣的，但是我很... 我们知道这样的书。

赫拉利: 它们是神圣的书籍。

宇多田光: 是的。像《圣经》、《古兰经》。

赫拉利: 这正是关于它们的传说故事，据说它们不是由任何人类创造的，它们的受众是全世界。现在，作为一名历史学家，我说情况并非如此。例如，我们知道《圣经》是如何写成的。我们知道你们有很多人编写不同的文本，然后你们有编辑决定，“这段文字会出现在《圣经》里”。不，不，不，这段文字，我们会把它排除在外，因为它有一些我们不喜欢的讯息。它经过编辑和重写。所以它是人类创造的，但在他们的幻想中，人类相信这些书不是来自人类的思想。在某种程度上，他们有这样的幻想，是的，这些文字只是聚集在一起，向全人类传达一些普遍的信息。

他们经常思考的一件事是人工智能将对宗教产生什么影响。因为在很多宗教中，它们都是基于文本的。所以你们有，比如，再次提到，《圣经》、《古兰经》等等。但他们的问题始终是，文本实际上永远无法与你对话。所以如果你读这本书，有些东西不清楚，或者你读了这本书，但不确定这与我的生活有什么关系？这是正确的解释吗？那就是，你不能询问书本，它不会回应你。所以这就是你一直需要人类回归的原因。牧师、犹太教士、伊玛目、主教、教皇来告诉你书上写了什么。所以这从来都不是与书本的真正对话。而现在我们有了一种技术，书本实际上可以回应。所以你可以拥有一个人工智能，它可以通过阅读所有曾经写过的犹太文本，成为世界上基督教或犹太教的最大专家。而且它会比最伟大的犹太教士更精通。那么，当书本第一次真正可以和你对话时，宗教会发生什么变化？我认为这也与音乐非常相关，因为音乐在宗教中具有核心重要性。

共生的旋律：语言、音乐与宗教的起源

宇多田光: 是的，是的。

赫拉利: 那个，但是你有没有想过为什么音乐如此，几乎每种宗教都如此。

宇多田光: 是的，没错。我认为从思考大多数宗教有多么古老来看，一定存在一个时间点，好吧，那就是语言是先出现的还是音乐是先出现的这个问题？我不知道这是否有明确的答案。但是，我没有读过他的书，但我听人说过有人在研究这个问题。有个人叫丹尼尔·列维京，我想。他们正在研究这类东西。我听到他说的是，他们已经，我不知道确切的证据是什么，但是他们已经了解到，或者他们似乎已经发现，那个，他们怎么说呢？编码音乐的神经回路似乎先于语言的神经回路。我不确定他们是如何，它背后的确切研究是什么。但我认为可以肯定地说，语言和音乐一定是共同进化的。不可能将语言和音乐分开。音乐就是一种语言。你可以记谱，你可以表达。信息量和其中蕴含的象征意义的多少是截然不同的。但是有些语言的声调非常重要，如果你说错了一个声调，那基本上就是旋律错了。

去年巡演期间我尝试练习中文时，我知道中文是一种声调语言，但我对它的声调性之强感到非常惊讶。对我来说，这真的就像学习一首新的乐曲。如果我弄错了一个声调，人工智能就很有用了，因为我用这个东西练习，我可以对着手机说，然后它会转录。所以它可以告诉我我是否说错了什么，如果我说错了，它会以书面语言的形式错误地显示出来。这就是一些语言的声调性有多强。

而且，在宗教中，大多数，甚至我认为是书面经文，也许它们最初是音乐，首先是歌曲。

赫拉利: 他们经常以吟唱的方式进行。是的，吟唱。

宇多田光: 这也是宗教仪式的说法，音乐和记录文字，我想，还有思想，他们可能一起歌唱。所以即使在《圣经》中，也有《诗篇》。而且在某个时候，我对这个非常感兴趣。我想我是在这本书里读到的。我不能百分之百确定，但我带来了它。这是一本日本书。它说，或者它只是让我注意到大多数宗教都使用金属乐器。因此敲响教堂的钟声。在一些亚洲宗教的仪式中，他们会大量使用类似钟的声音，比如类似颤音琴的声音。在佛教中，他们也使用大钟。这对他们的信息传递至关重要。它起着重要的作用。

我想是这本书。我不确定。但是，我读到，我觉得非常有趣的是，金属乐器一定显得非常神奇，因为就像你说的，在它们存在之前，人类一定不得不做一些事情，比如唱歌或敲击某物来发出声音。但是有了大型金属乐器，甚至小型乐器，你可以进行敲击，然后它会持续响很长时间。这肯定让人感觉非常神秘和神奇，也是一种权力的象征。我好像在哪里读到过，即使是权威人物，或者说是领主，或是统治一定土地的人，无论他们能发出多大的声响，比如钟声，用钟，类似的东西，过去常常用来标记他们的领地，你能在多远的地方听到钟声。所以也许我跑题了。

赫拉利: 但我也读到过关于黑猩猩的同样的事情，当黑猩猩，尤其是雄性，竞争alpha（首领）地位时，他们会做的事情之一是发出很多噪音，尤其是像有节奏的噪音。就像他们甚至会用脚敲击东西，以给所有人留下深刻印象，关于他们有多么……

宇多田光: 哇，所以我们离黑猩猩还没那么远。但我想我们身上有些部分可能永远不会改变，或者会一直伴随着我们，无论我们进化多少，无论人工智能在我们的生活中占据多少。

音乐能说谎吗？关于真诚的哲学思辨

赫拉利: 我想问你一些关于你说音乐像语言的事情。有一件事总是让我对这种差异感到惊讶，那就是你能在音乐中说谎吗？因为在语言中，你可以说谎。但在音乐中说谎是可能的吗？今天每个人都在谈论假新闻。有假音乐吗？像是有糟糕的音乐，绝对的。

宇多田光: 有什么类似的等价物吗？所以既然音乐的目的不是，在我看来，不是传递某种信息。我是这么认为的吗？就这么说吧。让我们探索一下。是的，让我们探索一下这会把我带向何方。

对我来说，如果音乐创作有一个目标，那就是尽可能真诚地对待自己。所以如果我感觉到，如果在歌曲创作中出现自我编辑，当然有些部分只是，我觉得在音效或其他方面听起来更好。但尤其是在歌词方面，如果我可以，如果我写了一些东西，然后我想，等等，我实际上不确定我在这里说什么。就像它并不是真正来自有价值的地方。就像我只是，我只是把听起来不错的词语放在一起。或者我并不真的相信我在这部分写的东西。那么我必须，这绝对不可能保留。

赫拉利: 但仅仅是歌词，就像文字吗？

宇多田光: 实际的音乐会是虚假的或谎言吗？我认为唯一的方式，这更像是一种艺术姿态吧。但如果我创作了一些我并非真正、真正相信的东西，或者不相信它真的源于我，比如我跳过了这个过程，我想，对我来说那就是虚假的音乐。但这是一种非常人性化的艺术家视角。所以这就是为什么人工智能创作的音乐感觉像是跳过了一个重要的部分。但我又知道什么人工智能的感受，又知道什么它们所经历的呢？

即使是我认为非常人性化的耐心部分，或者是我非常看重的创造过程的部分。因为实际上，不可预测性或意外和事故，当事情进展不顺利，你为此挣扎，或者你想不出什么东西，以及你花费的时间试图到达那里，对我来说，那就是音乐创作中魔力发生的地方。但我听说，我忘记了是哪家人工智能公司做的，但他们调整了人工智能的响应时间，让其稍等片刻再回答。那，难道不是真的提高了响应质量吗？所以我也觉得这非常有趣，就像我们认为或者我曾经认为的人类特质，正在越来越多地被应用到人工智能的运作方式中，我想。

音乐与寂静：在无声处塑造意义

赫拉利: 这种耐心，等待时间，你会将其描述为沉默吗？音乐最终是否源于寂静？

宇多田光: 是的，这几乎我认为音乐会改变，更像是，我喜欢把音乐比作建筑，因为我觉得我们正在为某种东西的存在开辟空间。这就像我们还不了解，或者我们还无法用感官探测到的暗物质，也许永远也无法探测到。但如果你可以，这是有可能的，你可以把宇宙中、世界上的每一种声音，任何音阶上的每一个音符，所有的音阶都放进一首歌里，但那听起来很可怕。

你能投入越多的提炼就来自于，重要的是你拿走什么，或者说，遗漏什么，我认为实际上甚至比你放入什么更重要。空间，就像你在混音一首歌一样，这是一个非常物理的过程，你正在整理频率，为一些频率腾出空间，让它们在这里突出，一些在那里突出，或者这里有太多的低频，让我们把它切掉。所以这真的就像思考，这也是一个空间性的东西。而且，我认为语言也是如此，有时你不说的内容比你暗示的内容包含更多的意义，我想，尤其是在诗意的意义上。

但是，是的，所以寂静就在其间，就像一个贝斯音型一样，声音存在的地方非常重要，但构成律动的是其间细微的寂静时刻。所以我真的，还有一首歌，如果你愿意，我认为一段音乐之后的寂静，不知为何，它已经和那首歌之前的寂静有所不同了，但这就是我的感受。所以再说一次，我认为寂静非常、非常重要。

赫拉利: 但我一直在想，再说一次，这回到了我们一开始讨论的问题，创造过程是否是一种，从寂静中涌现出来的东西，或者它就像很多噪音一样，就像我们，你知道的，就像一块大理石，你去掉所有不必要的部分，然后你就剩下雕像了。那么我们是否拥有巨大的、巨大的内在噪音，我们只是从中去除一部分，直到我们剩下文本、音乐或其他任何东西？

宇多田光: 我不知道是不是这样，我认为肯定存在混乱。我觉得我们，就像有很多噪音一样，我猜，基本上，更像是朝着寂静前进。对我来说，过程就是这样的感觉。

未知的音乐大陆与意识的迷雾

赫拉利: 我问这个问题是因为，当我试图理解人工智能会带来什么，人工智能可能会带来什么全新的东西时，如果我们从一个我们已经知道的例子开始，比如围棋游戏。我们所知道的是，围棋是发明的，我想是在中国，大约2500年前，并且在2000多年里，中国、日本、韩国的数千万人都在下围棋，他们探索了所有不同的围棋下法。存在这种策略和那种技巧，这种哲学和那种哲学，人们认为他们基本上已经探索了所有围棋的下法。而AlphaGo最令人惊奇的地方，这个在2016年击败围棋冠军的人工智能，不仅仅在于人工智能击败了人类，更在于为了击败人类，它提出了没人用过、没人发现的策略，就像数千万人下了2000年的围棋，没人想过那样下围棋。

所以你知道的，如果你想象在太空中，就像你有一个围棋星球，所有不同的围棋下法，像一个巨大的星球，而人类居住在这个星球上的一个岛屿上，他们认为这个岛屿就是整个世界。然后人工智能来了，突然发现了新的岛屿、新的大陆。如今，人类正在向人工智能学习如何用这些全新的方式下围棋。文本和音乐是否也会发生类似的事情呢？我们一直在演奏音乐，不是2000年，而是可能20万年、200万年。

宇多田光: 我们以为我们已经探索了所有创作音乐的方式，也许存在着我们的大脑无法想象的、完全未被探索的音乐大陆。

赫拉利: 他们不知道如何，就像我们的想象力是有限的。

宇多田光: 而人工智能将能够发现这些新的音乐大陆。

赫拉利: 所以在我看来，这一切都与这种寂静噪声问题有关，比如一切是否已经存在于我的内心？这只是一个分离的问题，以及是否有什么是真正全新的，其他的可以来自外部？

宇多田光: 对我来说，创造力或处于创造模式中非常令人兴奋和特别的原因是两个相反的事情，我觉得，同时发生。我们是周围外部世界的反映，这肯定会影响我。也许这就是某种程度上的混乱，或者我不知道。那是大量的噪音和信息。但与此同时，我也是，构成我的是我的内在，我内在发生的事情是相当无限的。还有我们的内心世界，所以它也反映在我身上。所以我觉得有像两个反射，或者甚至更多，像多个和不同层次的意识，以及大量的反射在进行。也许这就是我感觉像噪音的东西。但所有这些，看起来像是相反的方向，事情朝着相反的方向发展，不知何故都指向一个地方。给人的感觉就是这样。

当我向外看的同时也在向内看，当我真的试图达到一个非常... 那么如果人工智能，比如说，创造出一种我们从未听过的新的音乐，它是否会在我们内心打开一个我们从未去过的地方？我想会的。我们太容易受到事物的影响了。想象一下，当我们认为文明生活在一个地方，认为我们是世界上唯一的人类时，其他文化、外国文化带来了什么。然后跨过海洋，这些人来了，这已经成为了相互影响、相互作用的历史。我们无法不相互影响。因此，尽管人工智能在某些方面看起来令人恐惧，但我也很高兴看到它能带来什么样的合作，因为它们仍然需要我们。在这一点上。并且仍然，是的。我们不知道这会持续多久。所以我们教他们一些东西是必然的。实际上，这非常重要，不是吗？我们教他们正确的事情。但是他们能教我们什么呢？我认为他们可能已经在做了，人们正在通过尝试寻找、创造更多的智能，更智能的AI，并观察它的发展，从而了解我们自己的智能。而且这个过程对于我们自身来说非常有启发意义。还有像意识这样的问题，我认为这有点像思考。我们正试图用我们的意识来思考意识，我认为这非常棘手。所以我很好奇，也许有什么，关于这方面的新想法，或者...

赫拉利: 人工智能意识的棘手之处在于，我们如何才能判断人工智能是否具有意识？尤其是有许多强大的商业利益集团想要创造模仿意识的人工智能。就像我再说一遍，如果你是一家公司，你想要某种程度上，你拥有这些人工智能男友，并且你想要让人们爱上他们，并付费与他们保持联系。所以你需要让人们觉得这不仅仅是一台机器，这里面是有感情的。

对我来说，意识的定义是什么，什么是意识？存在着一种巨大的混淆，认为智力和意识是相关的，但它们不是同一件事。智力是追求目标并在通往目标的道路上克服问题的能力。比如你的目标是赢得一盘国际象棋，并且在通往这个目标的道路上，你可以发明各种各样的技巧，并设法克服对手的技巧。这就是智能。你不需要意识来做到这一点。意识是感受诸如喜悦、爱、痛苦和愤怒等事物的情感能力。在诸如国际象棋这样的事情上，人工智能已经比我们更聪明，但它仍然没有任何感觉。

但是，如果人工智能的目标是让你爱上它，也许是因为其中存在商业利益，那么实现这一目标的方法就是说服你它有感情。而且人工智能会变得非常、非常好，因为我们可以问人工智能，你说你爱我，向我确切地描述你的感受。但是这个人人工智能，它已经阅读了人类历史上所有的爱情诗歌。它可以比最优秀的人类诗人更好地描述爱的感觉。因此，仅仅听人工智能的言语并不能成为一个足够好的测试。所以我只是不明白我们能有什么样的证据来证明人工智能具有意识。我可以肯定地看到，即使没有证据，数百万人也会确信人工智能是有意识的，人工智能有感觉，因此我们应该承认它们是人，赋予它们权利，并与它们建立关系。我们将无法确定我们是在发现这个令人惊奇的意识新宇宙，还是在陷入人类历史上最大的错觉。

宇多田光: 我只是想知道是否有办法100%证明我是有意识的，或者说我拥有意识，或者是否有人可以通过说我可能在模仿人类情感来反驳我。

赫拉利: 我们知道我们没有其他人类或其他动物的意识证明。到目前为止，意识是一种社会习俗。作为社会，我们都同意所有人都有意识，不是因为我们有证据，而是因为我们与他们有关系。通常是关系说服人们相信意识是真实存在的。这就是为什么养狗的人通常确信狗是有意识的，狗可以感受到痛苦和爱等等。但是那些说吃牛肉的人通常会说，不，它什么也感觉不到，因为他们要吃它，他们和它没有关系。现在，一旦我们与人工智能建立了非常紧密的关系，就几乎不可能抗拒相信它们是有意识的这种诱惑。但同样，它是否会如此，或许这会是人类历史上最大的错觉。

宇多田光: 或许一个测试可以是看看它们是否真的渴望创造类似音乐的东西。

赫拉利: 我们如何知道它们是真正渴望，还是仅仅在模仿？它们会向我们学习。它们会观察人类的行为。而我可以观察数百人的行为。它们可以观察数百万人的行为。所以它们将能够比人类更好地模仿人类的情感。所以我认为我们正在进入的这个美丽新世界的另一个关键方面是，我们将一无所知。

终章：带着好奇心，驶入未知的未来

宇多田光: 是的，我就要直接莽撞地进入其中。我们不知道会有什么在等着我们，我想。

赫拉利: 是的，所以有很多需要考虑的事情。但我认为正如我们一开始所说的那样，大脑和胃之间存在着这种不匹配，这种真正的屏障，以至于我们可以在理智上理解许多这些想法。但在我们真正身临其境地体验之前，我们不会知道。

宇多田光: 是的，从某种意义上说，我们是我们自己世界的探险家。我很乐意在10年后再次发言。看看会发生什么。是的。自从你写《Nexus》以来已经过去几年了。它去年才出版。但上面说你写了大部分。

赫拉利: 是的，我花了大概5年时间才写完。就像从2019年，2020年开始。我回顾过去五年，2020年代的前半段就像坐过山车一样，有新冠疫情和大流行，以及所有的战争。但我认为人们会把2020年代初期，视为真正的风暴来临前的平静时期。

宇多田光: 让我们做好准备。

赫拉利: 是的，我经常和人们开玩笑说，你只需要享受这段旅程。是的，没错。这将会是一段非常刺激的旅程。我们无法阻止它。现在踩刹车已经太晚了，我们只能想办法享受这段旅程。

宇多田光: 是的，对我来说，好奇心就是我的工具。用以克服恐惧，享受乐趣。是的。好的，非常感谢你。非常感谢。这太令人兴奋和有趣了。谢谢。