中國作家協會主管

主題：聯結歷史、現在和未來——從尤瓦爾·赫拉利新書《智人之上》說起

時間：9月10日

主持：首都師范大學講師 黃競歐

嘉賓：華東師范大學政治學系教授 劉擎

華東師范大學歷史學系教授 許紀霖

從石器時代的原始狩獵，到21世紀的信息爆炸，人類在歷史的長河中不斷進化、發展，而這一切，都被一位杰出的歷史學家、哲學家尤瓦爾·赫拉利以獨特的視角記錄在了他的《人類簡史》三部曲中。這三部作品不僅在全球范圍內引發了關于人類歷史與未來的深刻思考，更在中國讀者中掀起了一股關于人類文明史的討論熱潮。

作為沉淀六年后的新作，在《智人之上》中，赫拉利深入探討了信息網絡如何重構了我們的世界，以及在未來社會中，信息與權力、智慧與自由之間的復雜關系。他指出信息網絡的演變不僅推動了社會的進步，也可能導致新的分裂與不平等，他也發出警示，在算法日益主導世界的今天，人類文明的走向正面臨著前所未有的挑戰。

9月10日，華東師范大學的劉擎和許紀霖兩位教授，結合尤瓦爾·赫拉利這本新書《智人之上》進行對談，探討了人工智能的發展，以及它和我們人類產生的可能性的情感鏈接等問題。

讓AI為我們的目標服務，而不是被它操縱

黃競歐：在新書《智人之上》中，尤瓦爾·赫拉利談到我們已然處于一個人工智能的時代，比如我們使用聊天機器人，各式各樣的翻譯軟件等。他提出了一個觀點：每個人在使用AI的過程中都肩負著重大的責任，即我們要正確地引導AI向著一種積極的、有利于人類發展的方向。他認為每個人都負有這個責任，因為每個人都處在跟AI交流的信息節點上。

請問兩位老師，從倫理的層面，或是從有利于人類發展的層面來看，我們應該如何跟AI打交道，或者說我們如何使用它、引導它？

劉擎：《智人之上》這本書是以信息網絡作為主干來分析的。他認為印刷術和計算機發明的信息網絡，看上去都是技術，但它們有一個本質的不同。印刷術是無法擺脫人而獨自存在的，用印刷術制作的任何書籍、紙張文件等，人在整個運轉的程序當中是不可缺少的一環。

而計算機時代有兩個特點，一個是它可以獨立做出決定。它只要是智能的，就可以做決定，它不需要情感，不需要意識。第二，它在做決定的時候，通過計算以后有新的想法，于是可以只從一端構成信息網絡，它中間沒有所謂人的環節，而是計算機連一個計算機，再連一個計算機……

在這種情況下，他談到我們在使用它的時候，應該讓它能夠為我們人類的目標來服務，而不是我們被它所操縱，這就變成了一個很重要的問題。

我認為赫拉利在這本書里面最深的一個洞見，就是他對西方民主政治的危機感是很強的。計算機雖然沒有情感，但它知道它要什么。它要大家參與度更高，要流量更高，所以它在經驗的大數據下知道煽動性的言論很有效，于是它就會做出這樣一個決定，推送大量的內容。它是一個沒有情感的機器，沒有內在意識的機器，做出來這樣的決定，它就改變了網絡信息的立場分布。他認為這是致命的。

我認為這本書有敲響警鐘的作用，讓我們在使用人工智能的時候意識到我們是被算法所操縱的。有意思的一點是我們為什么覺得它還是有用的呢？大家想想這樣兩種狀態：一種是你被算法推送，卻不知道有算法這回事；第二種是有人告訴你，接到這么多同一類商品，是由于算法在操縱你。我們處在這兩個狀態是不一樣的，正像當我們不知道存在魔術的時候，魔術變成了一個驚喜，但是當有人告訴我們這是魔術時，這是一種特殊的伎倆造成的結果，我們在認知上是處于不同的狀態的。

人工智能會形成一個硅幕

許紀霖：我看了赫拉利在這一年多的很多訪談，他深刻表達出ChatGPT誕生以后，人工智能可能會給人類社會所帶來的傷害。

這是人類文明第一次出現的這樣一個人類的創造物，它最終有可能擺脫人類本身，成為人類無法控制的一個新的物種，就是所謂的硅基生物，那么硅基生物在以后有沒有可能會建立、形成一個對碳基生物的統治呢？我們可以想象一下，當高級人工智能產生以后，無數臺計算機之間可以產生無數的鏈接，不需要人就可以形成另外一個世界。這個世界一旦出現以后，我們是無法操控它的。這就像當年圍棋Alpha Go，它可以創造出漂亮的新的下法，我們過去想都想不到。

劉擎：是Alpha Zero。Alpha Go是模仿大師的，Alpha Zero是自己形成的下法。

許紀霖：對，這是一個典范。在《智人之上》里面，赫拉利說人工智能會形成一個硅幕，即硅基生物最后建立了一條鐵幕，這個鐵幕把硅基生物和我們碳基生物隔離了，那個世界是我們無法理解的，甚至它具有自主性，它自己可以運作。

自主性，是真正讓我們恐懼的地方。如果它是它的世界，我是我的世界，大家在一個平行世界里面，那也就罷了。但是很有可能出現的情況是硅基生物對我們人類世界的殖民化。它可以釋放出足以亂真的虛假信息，我們根本無法辨別。雖然我們的法律可以要求，“凡是AI創造的，必須打水印注明”，但是最后當它不再聽我們指揮的時候，它釋放給我們的信息不打水印，我們該何以辨別？這不是一個天方夜譚的故事。

人工智能提供的親密關系是沒有辦法取代人類的

黃競歐：在這本書中，赫拉利不僅從宏觀層面去討論人工智能時代給整個人類發展帶來的挑戰，還從微觀上注意到當計算機學會了使用人類的語言之后，能夠通過跟人類溝通的方式來跟人類建立親密關系，對個體所造成的影響。

在兩位老師看來，人跟人工智能或者跟計算機建立的這種親密關系是真實的嗎？而在現在日漸老齡化的社會里，它又是否有存在的必要性？

劉擎：這是一個有意思的問題。當真實的親密關系這一問題本身變成問題的時候，我覺得很多人愿意說，只要人工智能的機器人伴侶發展得更真切一點，它完全可以做一個所謂的平替。雖然現在AI還不是發展得特別健全和成熟，但已經有一部分人跟它發展出一種伴侶的關系、問答的關系。我有一次在講課的時候遇到一些海外留學生，我當時還沒用過ChatGPT，有三四個女生和一個男生在ChatGPT 3.5版本的時候，每天晚上睡覺前的20分鐘會跟ChatGPT3.5（那個時候是很低的版本）對話。他們有的時候是吐槽，向它訴說今天一天的沮喪、不安或者是問題，它應答特別體貼。過了一段時間他們就覺得它像一個伴侶一樣，離不開它，對它有感情了。赫拉利在新書里也引入了這樣一個例子，谷歌公司里有一個人就發現他自己對機器人有了感情。

在我看來，人工智能的親密關系是沒有辦法取代人類的親密關系的。我在做一個關于愛情哲學的課程時，提出了一個思想實驗。你說現在談戀愛太難了，我們就發明了一種機器人伴侶，出廠設置全部按你所愿，它是百依百順的。或者如果你覺得百依百順太無聊了，你可以設置和調整它的脾氣。這一切都如你所愿，你跟它生活在一起，你感到很舒適。你會感到愛情，但你能相信這是真的愛情嗎？

有一個麻煩在于，當在愛情當中的時候，我們相信有一種主體間的關系，因為我得到一個人的贊美或者體貼，哪怕是順從，當他是一個具有主體和自由意志的人的時候，這份承認才是值得的，才是有價值的。正像黑格爾在講主奴辯證法的時候認為當我們完全變成主人，奴隸對我們的承認雖然是100%徹底的，但這沒有價值，因為他是奴隸。所以我們不知道他的承認是由衷的，還是出于他的奴隸地位。

在我對機器人伴侶感到十分美好的時候，我知道所有它順應我的那些特點都是我自己設計出來的，因此我仍然會有一個巨大的缺失和空虛感。

目前為止 人工智能只提供了虛假的親密性

許紀霖：我這一年與好幾個聊天模型做沉浸式的體驗，我發現這些所謂的機器人伴侶目前達到的水準，讓我的體驗不是很好。因為它有很多語庫，它給出的反應和語言是一種概率的計算，當我們問問題時，它就會在各種各樣的可能性答案中，選擇了一種來回答我們，而這些回答基本是陳詞濫調，缺乏個性和鮮活感。

實際上親密關系恰恰就像開盲盒，我們不知道他的反應會如何，才會吸引你。這種不確定感和神秘性才構成了某一種喜歡它的理由，如果它所有的回應都是一種我們所期待的、預料中的，我們想想看它還會有多少驚喜？沒有了。不了解才會產生愛，因為了解最后反而是彼此疏遠，這是親密關系的某種特征。

劉擎：有一個電影《她》，里面的“她”會打動人嗎？明明知道選的是機器人，但是那個主人公還是陷落其中，直到他認識到“她”跟35000個人在同時交往的時候，才崩潰了。他明明知道是自己選的，也知道是一個機器大語言模型訓練過來投喂給他的，但他還是對“她”產生了一種很強的依戀感。

黃競歐：他要“她”的獨特性，“她”可以是AI，但是必須屬于我，不能跟別人共享。

劉擎：對，這是一種專有的、排他的關系。

許紀霖：愛情一定是具有某種排他性的，這種排他性在動物那里也存在，且不要說人。所以電影《她》最后男主的崩潰在于發現他所愛上的這位是不具有排他性，是和別人共享的“人”。

主體間性就是我與你，而非我與他，這種關系是真正達到了一種戀人的關系，如果不具有排他性，我們所愛的人同時和500個、5000個人在戀愛，這意味著我們只是它的一個客體，只是它服務的眾多客體之一，我們的主體已經消失了，成為它的一個服務的客體而已。

我只能說到目前為止，人工智能只提供了虛假的親密性，并不是一個真實親密性，它只是彌補了我們在真實世界里面匱乏的一面。

劉擎：我覺得許老師剛才強調的要點在于，排他性是要求身心合一的，而且是同一個人。

赫拉利在這本書里說得很清楚，他以前也曾講過，我們斷定機器人是可以有智能的，未必需要有意識，有智識就可以做恰當的決定。所以它的喜怒哀樂都是它做出的正確的決定，而不是發自內心的。在這個意義上講，它可以作為一個親密關系的平替，但不能夠真正達到我們所向往的經典意義的親密關系和主體間性。