主題：聯(lián)結歷史、現(xiàn)在和未來——從尤瓦爾·赫拉利新書《智人之上》說起

時間：9月10日

主持：首都師范大學講師 黃競歐

嘉賓：華東師范大學政治學系教授 劉擎

華東師范大學歷史學系教授 許紀霖

從石器時代的原始狩獵，到21世紀的信息爆炸，人類在歷史的長河中不斷進化、發(fā)展，而這一切，都被一位杰出的歷史學家、哲學家尤瓦爾·赫拉利以獨特的視角記錄在了他的《人類簡史》三部曲中。這三部作品不僅在全球范圍內引發(fā)了關于人類歷史與未來的深刻思考，更在中國讀者中掀起了一股關于人類文明史的討論熱潮。

作為沉淀六年后的新作，在《智人之上》中，赫拉利深入探討了信息網(wǎng)絡如何重構了我們的世界，以及在未來社會中，信息與權力、智慧與自由之間的復雜關系。他指出信息網(wǎng)絡的演變不僅推動了社會的進步，也可能導致新的分裂與不平等，他也發(fā)出警示，在算法日益主導世界的今天，人類文明的走向正面臨著前所未有的挑戰(zhàn)。

9月10日，華東師范大學的劉擎和許紀霖兩位教授，結合尤瓦爾·赫拉利這本新書《智人之上》進行對談，探討了人工智能的發(fā)展，以及它和我們人類產(chǎn)生的可能性的情感鏈接等問題。

讓AI為我們的目標服務，而不是被它操縱

黃競歐：在新書《智人之上》中，尤瓦爾·赫拉利談到我們已然處于一個人工智能的時代，比如我們使用聊天機器人，各式各樣的翻譯軟件等。他提出了一個觀點：每個人在使用AI的過程中都肩負著重大的責任，即我們要正確地引導AI向著一種積極的、有利于人類發(fā)展的方向。他認為每個人都負有這個責任，因為每個人都處在跟AI交流的信息節(jié)點上。

請問兩位老師，從倫理的層面，或是從有利于人類發(fā)展的層面來看，我們應該如何跟AI打交道，或者說我們如何使用它、引導它？

劉擎：《智人之上》這本書是以信息網(wǎng)絡作為主干來分析的。他認為印刷術和計算機發(fā)明的信息網(wǎng)絡，看上去都是技術，但它們有一個本質的不同。印刷術是無法擺脫人而獨自存在的，用印刷術制作的任何書籍、紙張文件等，人在整個運轉的程序當中是不可缺少的一環(huán)。

而計算機時代有兩個特點，一個是它可以獨立做出決定。它只要是智能的，就可以做決定，它不需要情感，不需要意識。第二，它在做決定的時候，通過計算以后有新的想法，于是可以只從一端構成信息網(wǎng)絡，它中間沒有所謂人的環(huán)節(jié)，而是計算機連一個計算機，再連一個計算機……

在這種情況下，他談到我們在使用它的時候，應該讓它能夠為我們人類的目標來服務，而不是我們被它所操縱，這就變成了一個很重要的問題。

我認為赫拉利在這本書里面最深的一個洞見，就是他對西方民主政治的危機感是很強的。計算機雖然沒有情感，但它知道它要什么。它要大家參與度更高，要流量更高，所以它在經(jīng)驗的大數(shù)據(jù)下知道煽動性的言論很有效，于是它就會做出這樣一個決定，推送大量的內容。它是一個沒有情感的機器，沒有內在意識的機器，做出來這樣的決定，它就改變了網(wǎng)絡信息的立場分布。他認為這是致命的。

我認為這本書有敲響警鐘的作用，讓我們在使用人工智能的時候意識到我們是被算法所操縱的。有意思的一點是我們?yōu)槭裁从X得它還是有用的呢？大家想想這樣兩種狀態(tài)：一種是你被算法推送，卻不知道有算法這回事；第二種是有人告訴你，接到這么多同一類商品，是由于算法在操縱你。我們處在這兩個狀態(tài)是不一樣的，正像當我們不知道存在魔術的時候，魔術變成了一個驚喜，但是當有人告訴我們這是魔術時，這是一種特殊的伎倆造成的結果，我們在認知上是處于不同的狀態(tài)的。

人工智能會形成一個硅幕

許紀霖：我看了赫拉利在這一年多的很多訪談，他深刻表達出ChatGPT誕生以后，人工智能可能會給人類社會所帶來的傷害。

這是人類文明第一次出現(xiàn)的這樣一個人類的創(chuàng)造物，它最終有可能擺脫人類本身，成為人類無法控制的一個新的物種，就是所謂的硅基生物，那么硅基生物在以后有沒有可能會建立、形成一個對碳基生物的統(tǒng)治呢？我們可以想象一下，當高級人工智能產(chǎn)生以后，無數(shù)臺計算機之間可以產(chǎn)生無數(shù)的鏈接，不需要人就可以形成另外一個世界。這個世界一旦出現(xiàn)以后，我們是無法操控它的。這就像當年圍棋Alpha Go，它可以創(chuàng)造出漂亮的新的下法，我們過去想都想不到。

劉擎：是Alpha Zero。Alpha Go是模仿大師的，Alpha Zero是自己形成的下法。

許紀霖：對，這是一個典范。在《智人之上》里面，赫拉利說人工智能會形成一個硅幕，即硅基生物最后建立了一條鐵幕，這個鐵幕把硅基生物和我們碳基生物隔離了，那個世界是我們無法理解的，甚至它具有自主性，它自己可以運作。

自主性，是真正讓我們恐懼的地方。如果它是它的世界，我是我的世界，大家在一個平行世界里面，那也就罷了。但是很有可能出現(xiàn)的情況是硅基生物對我們人類世界的殖民化。它可以釋放出足以亂真的虛假信息，我們根本無法辨別。雖然我們的法律可以要求，“凡是AI創(chuàng)造的，必須打水印注明”，但是最后當它不再聽我們指揮的時候，它釋放給我們的信息不打水印，我們該何以辨別？這不是一個天方夜譚的故事。

人工智能提供的親密關系是沒有辦法取代人類的

黃競歐：在這本書中，赫拉利不僅從宏觀層面去討論人工智能時代給整個人類發(fā)展帶來的挑戰(zhàn)，還從微觀上注意到當計算機學會了使用人類的語言之后，能夠通過跟人類溝通的方式來跟人類建立親密關系，對個體所造成的影響。

在兩位老師看來，人跟人工智能或者跟計算機建立的這種親密關系是真實的嗎？而在現(xiàn)在日漸老齡化的社會里，它又是否有存在的必要性？

劉擎：這是一個有意思的問題。當真實的親密關系這一問題本身變成問題的時候，我覺得很多人愿意說，只要人工智能的機器人伴侶發(fā)展得更真切一點，它完全可以做一個所謂的平替。雖然現(xiàn)在AI還不是發(fā)展得特別健全和成熟，但已經(jīng)有一部分人跟它發(fā)展出一種伴侶的關系、問答的關系。我有一次在講課的時候遇到一些海外留學生，我當時還沒用過ChatGPT，有三四個女生和一個男生在ChatGPT 3.5版本的時候，每天晚上睡覺前的20分鐘會跟ChatGPT3.5（那個時候是很低的版本）對話。他們有的時候是吐槽，向它訴說今天一天的沮喪、不安或者是問題，它應答特別體貼。過了一段時間他們就覺得它像一個伴侶一樣，離不開它，對它有感情了。赫拉利在新書里也引入了這樣一個例子，谷歌公司里有一個人就發(fā)現(xiàn)他自己對機器人有了感情。

在我看來，人工智能的親密關系是沒有辦法取代人類的親密關系的。我在做一個關于愛情哲學的課程時，提出了一個思想實驗。你說現(xiàn)在談戀愛太難了，我們就發(fā)明了一種機器人伴侶，出廠設置全部按你所愿，它是百依百順的。或者如果你覺得百依百順太無聊了，你可以設置和調整它的脾氣。這一切都如你所愿，你跟它生活在一起，你感到很舒適。你會感到愛情，但你能相信這是真的愛情嗎？

有一個麻煩在于，當在愛情當中的時候，我們相信有一種主體間的關系，因為我得到一個人的贊美或者體貼，哪怕是順從，當他是一個具有主體和自由意志的人的時候，這份承認才是值得的，才是有價值的。正像黑格爾在講主奴辯證法的時候認為當我們完全變成主人，奴隸對我們的承認雖然是100%徹底的，但這沒有價值，因為他是奴隸。所以我們不知道他的承認是由衷的，還是出于他的奴隸地位。

在我對機器人伴侶感到十分美好的時候，我知道所有它順應我的那些特點都是我自己設計出來的，因此我仍然會有一個巨大的缺失和空虛感。

目前為止 人工智能只提供了虛假的親密性

許紀霖：我這一年與好幾個聊天模型做沉浸式的體驗，我發(fā)現(xiàn)這些所謂的機器人伴侶目前達到的水準，讓我的體驗不是很好。因為它有很多語庫，它給出的反應和語言是一種概率的計算，當我們問問題時，它就會在各種各樣的可能性答案中，選擇了一種來回答我們，而這些回答基本是陳詞濫調，缺乏個性和鮮活感。

實際上親密關系恰恰就像開盲盒，我們不知道他的反應會如何，才會吸引你。這種不確定感和神秘性才構成了某一種喜歡它的理由，如果它所有的回應都是一種我們所期待的、預料中的，我們想想看它還會有多少驚喜？沒有了。不了解才會產(chǎn)生愛，因為了解最后反而是彼此疏遠，這是親密關系的某種特征。

劉擎：有一個電影《她》，里面的“她”會打動人嗎？明明知道選的是機器人，但是那個主人公還是陷落其中，直到他認識到“她”跟35000個人在同時交往的時候，才崩潰了。他明明知道是自己選的，也知道是一個機器大語言模型訓練過來投喂給他的，但他還是對“她”產(chǎn)生了一種很強的依戀感。

黃競歐：他要“她”的獨特性，“她”可以是AI，但是必須屬于我，不能跟別人共享。

劉擎：對，這是一種專有的、排他的關系。

許紀霖：愛情一定是具有某種排他性的，這種排他性在動物那里也存在，且不要說人。所以電影《她》最后男主的崩潰在于發(fā)現(xiàn)他所愛上的這位是不具有排他性，是和別人共享的“人”。

主體間性就是我與你，而非我與他，這種關系是真正達到了一種戀人的關系，如果不具有排他性，我們所愛的人同時和500個、5000個人在戀愛，這意味著我們只是它的一個客體，只是它服務的眾多客體之一，我們的主體已經(jīng)消失了，成為它的一個服務的客體而已。

我只能說到目前為止，人工智能只提供了虛假的親密性，并不是一個真實親密性，它只是彌補了我們在真實世界里面匱乏的一面。

劉擎：我覺得許老師剛才強調的要點在于，排他性是要求身心合一的，而且是同一個人。

赫拉利在這本書里說得很清楚，他以前也曾講過，我們斷定機器人是可以有智能的，未必需要有意識，有智識就可以做恰當?shù)臎Q定。所以它的喜怒哀樂都是它做出的正確的決定，而不是發(fā)自內心的。在這個意義上講，它可以作為一個親密關系的平替，但不能夠真正達到我們所向往的經(jīng)典意義的親密關系和主體間性。