主题：联结历史、现在和未来——从尤瓦尔·赫拉利新书《智人之上》说起

时间：9月10日

主持：首都师范大学讲师 黄竞欧

嘉宾：华东师范大学政治学系教授  刘擎

华东师范大学历史学系教授  许纪霖

从石器时代的原始狩猎，到21世纪的信息爆炸，人类在历史的长河中不断进化、发展，而这一切，都被一位杰出的历史学家、哲学家尤瓦尔·赫拉利以独特的视角记录在了他的《人类简史》三部曲中。这三部作品不仅在全球范围内引发了关于人类历史与未来的深刻思考，更在中国读者中掀起了一股关于人类文明史的讨论热潮。

作为沉淀六年后的新作，在《智人之上》中，赫拉利深入探讨了信息网络如何重构了我们的世界，以及在未来社会中，信息与权力、智慧与自由之间的复杂关系。他指出信息网络的演变不仅推动了社会的进步，也可能导致新的分裂与不平等，他也发出警示，在算法日益主导世界的今天，人类文明的走向正面临着前所未有的挑战。

9月10日，华东师范大学的刘擎和许纪霖两位教授，结合尤瓦尔·赫拉利这本新书《智人之上》进行对谈，探讨了人工智能的发展，以及它和我们人类产生的可能性的情感链接等问题。

让AI为我们的目标服务，而不是被它操纵

黄竞欧：在新书《智人之上》中，尤瓦尔·赫拉利谈到我们已然处于一个人工智能的时代，比如我们使用聊天机器人，各式各样的翻译软件等。他提出了一个观点：每个人在使用AI的过程中都肩负着重大的责任，即我们要正确地引导AI向着一种积极的、有利于人类发展的方向。他认为每个人都负有这个责任，因为每个人都处在跟AI交流的信息节点上。

请问两位老师，从伦理的层面，或是从有利于人类发展的层面来看，我们应该如何跟AI打交道，或者说我们如何使用它、引导它？

刘擎：《智人之上》这本书是以信息网络作为主干来分析的。他认为印刷术和计算机发明的信息网络，看上去都是技术，但它们有一个本质的不同。印刷术是无法摆脱人而独自存在的，用印刷术制作的任何书籍、纸张文件等，人在整个运转的程序当中是不可缺少的一环。

而计算机时代有两个特点，一个是它可以独立做出决定。它只要是智能的，就可以做决定，它不需要情感，不需要意识。第二，它在做决定的时候，通过计算以后有新的想法，于是可以只从一端构成信息网络，它中间没有所谓人的环节，而是计算机连一个计算机，再连一个计算机……

在这种情况下，他谈到我们在使用它的时候，应该让它能够为我们人类的目标来服务，而不是我们被它所操纵，这就变成了一个很重要的问题。

我认为赫拉利在这本书里面最深的一个洞见，就是他对西方民主政治的危机感是很强的。计算机虽然没有情感，但它知道它要什么。它要大家参与度更高，要流量更高，所以它在经验的大数据下知道煽动性的言论很有效，于是它就会做出这样一个决定，推送大量的内容。它是一个没有情感的机器，没有内在意识的机器，做出来这样的决定，它就改变了网络信息的立场分布。他认为这是致命的。

我认为这本书有敲响警钟的作用，让我们在使用人工智能的时候意识到我们是被算法所操纵的。有意思的一点是我们为什么觉得它还是有用的呢？大家想想这样两种状态：一种是你被算法推送，却不知道有算法这回事；第二种是有人告诉你，接到这么多同一类商品，是由于算法在操纵你。我们处在这两个状态是不一样的，正像当我们不知道存在魔术的时候，魔术变成了一个惊喜，但是当有人告诉我们这是魔术时，这是一种特殊的伎俩造成的结果，我们在认知上是处于不同的状态的。

刘擎

人工智能会形成一个硅幕

许纪霖：我看了赫拉利在这一年多的很多访谈，他深刻表达出ChatGPT诞生以后，人工智能可能会给人类社会所带来的伤害。

这是人类文明第一次出现的这样一个人类的创造物，它最终有可能摆脱人类本身，成为人类无法控制的一个新的物种，就是所谓的硅基生物，那么硅基生物在以后有没有可能会建立、形成一个对碳基生物的统治呢？我们可以想象一下，当高级人工智能产生以后，无数台计算机之间可以产生无数的链接，不需要人就可以形成另外一个世界。这个世界一旦出现以后，我们是无法操控它的。这就像当年围棋Alpha Go，它可以创造出漂亮的新的下法，我们过去想都想不到。

刘擎：是Alpha Zero。Alpha Go是模仿大师的，Alpha Zero是自己形成的下法。

许纪霖：对，这是一个典范。在《智人之上》里面，赫拉利说人工智能会形成一个硅幕，即硅基生物最后建立了一条铁幕，这个铁幕把硅基生物和我们碳基生物隔离了，那个世界是我们无法理解的，甚至它具有自主性，它自己可以运作。

自主性，是真正让我们恐惧的地方。如果它是它的世界，我是我的世界，大家在一个平行世界里面，那也就罢了。但是很有可能出现的情况是硅基生物对我们人类世界的殖民化。它可以释放出足以乱真的虚假信息，我们根本无法辨别。虽然我们的法律可以要求，“凡是AI创造的，必须打水印注明”，但是最后当它不再听我们指挥的时候，它释放给我们的信息不打水印，我们该何以辨别？这不是一个天方夜谭的故事。

许纪霖

人工智能提供的亲密关系是没有办法取代人类的

黄竞欧：在这本书中，赫拉利不仅从宏观层面去讨论人工智能时代给整个人类发展带来的挑战，还从微观上注意到当计算机学会了使用人类的语言之后，能够通过跟人类沟通的方式来跟人类建立亲密关系，对个体所造成的影响。

在两位老师看来，人跟人工智能或者跟计算机建立的这种亲密关系是真实的吗？而在现在日渐老龄化的社会里，它又是否有存在的必要性？

刘擎：这是一个有意思的问题。当真实的亲密关系这一问题本身变成问题的时候，我觉得很多人愿意说，只要人工智能的机器人伴侣发展得更真切一点，它完全可以做一个所谓的平替。虽然现在AI还不是发展得特别健全和成熟，但已经有一部分人跟它发展出一种伴侣的关系、问答的关系。我有一次在讲课的时候遇到一些海外留学生，我当时还没用过ChatGPT，有三四个女生和一个男生在ChatGPT 3.5版本的时候，每天晚上睡觉前的20分钟会跟ChatGPT3.5（那个时候是很低的版本）对话。他们有的时候是吐槽，向它诉说今天一天的沮丧、不安或者是问题，它应答特别体贴。过了一段时间他们就觉得它像一个伴侣一样，离不开它，对它有感情了。赫拉利在新书里也引入了这样一个例子，谷歌公司里有一个人就发现他自己对机器人有了感情。

在我看来，人工智能的亲密关系是没有办法取代人类的亲密关系的。我在做一个关于爱情哲学的课程时，提出了一个思想实验。你说现在谈恋爱太难了，我们就发明了一种机器人伴侣，出厂设置全部按你所愿，它是百依百顺的。或者如果你觉得百依百顺太无聊了，你可以设置和调整它的脾气。这一切都如你所愿，你跟它生活在一起，你感到很舒适。你会感到爱情，但你能相信这是真的爱情吗？

有一个麻烦在于，当在爱情当中的时候，我们相信有一种主体间的关系，因为我得到一个人的赞美或者体贴，哪怕是顺从，当他是一个具有主体和自由意志的人的时候，这份承认才是值得的，才是有价值的。正像黑格尔在讲主奴辩证法的时候认为当我们完全变成主人，奴隶对我们的承认虽然是100%彻底的，但这没有价值，因为他是奴隶。所以我们不知道他的承认是由衷的，还是出于他的奴隶地位。

在我对机器人伴侣感到十分美好的时候，我知道所有它顺应我的那些特点都是我自己设计出来的，因此我仍然会有一个巨大的缺失和空虚感。

目前为止 人工智能只提供了虚假的亲密性

许纪霖：我这一年与好几个聊天模型做沉浸式的体验，我发现这些所谓的机器人伴侣目前达到的水准，让我的体验不是很好。因为它有很多语库，它给出的反应和语言是一种概率的计算，当我们问问题时，它就会在各种各样的可能性答案中，选择了一种来回答我们，而这些回答基本是陈词滥调，缺乏个性和鲜活感。

实际上亲密关系恰恰就像开盲盒，我们不知道他的反应会如何，才会吸引你。这种不确定感和神秘性才构成了某一种喜欢它的理由，如果它所有的回应都是一种我们所期待的、预料中的，我们想想看它还会有多少惊喜？没有了。不了解才会产生爱，因为了解最后反而是彼此疏远，这是亲密关系的某种特征。

刘擎：有一个电影《她》，里面的“她”会打动人吗？明明知道选的是机器人，但是那个主人公还是陷落其中，直到他认识到“她”跟35000个人在同时交往的时候，才崩溃了。他明明知道是自己选的，也知道是一个机器大语言模型训练过来投喂给他的，但他还是对“她”产生了一种很强的依恋感。

黄竞欧：他要“她”的独特性，“她”可以是AI，但是必须属于我，不能跟别人共享。

黄竞欧

刘擎：对，这是一种专有的、排他的关系。

许纪霖：爱情一定是具有某种排他性的，这种排他性在动物那里也存在，且不要说人。所以电影《她》最后男主的崩溃在于发现他所爱上的这位是不具有排他性，是和别人共享的“人”。

主体间性就是我与你，而非我与他，这种关系是真正达到了一种恋人的关系，如果不具有排他性，我们所爱的人同时和500个、5000个人在恋爱，这意味着我们只是它的一个客体，只是它服务的众多客体之一，我们的主体已经消失了，成为它的一个服务的客体而已。

我只能说到目前为止，人工智能只提供了虚假的亲密性，并不是一个真实亲密性，它只是弥补了我们在真实世界里面匮乏的一面。

刘擎：我觉得许老师刚才强调的要点在于，排他性是要求身心合一的，而且是同一个人。

赫拉利在这本书里说得很清楚，他以前也曾讲过，我们断定机器人是可以有智能的，未必需要有意识，有智识就可以做恰当的决定。所以它的喜怒哀乐都是它做出的正确的决定，而不是发自内心的。在这个意义上讲，它可以作为一个亲密关系的平替，但不能够真正达到我们所向往的经典意义的亲密关系和主体间性。

编辑/韩世容