中國(guó)作家協(xié)會(huì)主管

《人類剎車計(jì)劃》是圍繞著自動(dòng)化武器、區(qū)塊鏈、量子計(jì)算等技術(shù)展開(kāi)的對(duì)于未來(lái)一種極端化場(chǎng)景的想象。在這一想象里，一個(gè)人便能夠發(fā)起一場(chǎng)全球規(guī)模的恐怖襲擊，甚至將人類社會(huì)的發(fā)展“撥回”信息革命之前。幸好，這樣的事情大概率不會(huì)在可見(jiàn)的未來(lái)發(fā)生，一方面因?yàn)榧夹g(shù)的步伐未必如我們所愿般迅速，另一方面人類將竭盡所能設(shè)置種種的“保險(xiǎn)”來(lái)確保技術(shù)的應(yīng)用不會(huì)脫軌。

這個(gè)故事是小說(shuō)集《AI 2041》的其中一篇，將在全球以不同語(yǔ)種發(fā)行，講的是10個(gè)發(fā)生在20年后跟AI相關(guān)的故事，包括醫(yī)療、教育、娛樂(lè)、養(yǎng)老、就業(yè)等等議題。我與李開(kāi)復(fù)博士花了很長(zhǎng)時(shí)間，跟AI從業(yè)者、學(xué)者、研究者做交流，希望從最堅(jiān)實(shí)的科技基礎(chǔ)展望未來(lái)。在這個(gè)過(guò)程當(dāng)中，我發(fā)現(xiàn)現(xiàn)在的弱勢(shì)群體在未來(lái)AI主導(dǎo)的社會(huì)里，將會(huì)變得更加弱勢(shì)。因?yàn)锳I是基于現(xiàn)有收集的數(shù)據(jù)，經(jīng)過(guò)機(jī)器強(qiáng)化學(xué)習(xí)得到的解決方案，而所謂的弱勢(shì)群體，比如說(shuō)在疫情中沒(méi)有用智能手機(jī)的這樣一群人，沒(méi)有接入網(wǎng)絡(luò)的一群人，老年人和殘障人士，他們的數(shù)據(jù)是缺失的。在未來(lái)如何建立更加公平、友好，用善意對(duì)待每個(gè)人的AI技術(shù)將成為關(guān)鍵。因?yàn)樵谖铱磥?lái)，AI是為每個(gè)人而生的，不應(yīng)該只是為了某些特定群體，比如說(shuō)精英階層而設(shè)計(jì)。

科學(xué)是對(duì)客觀世界規(guī)律的一種探尋和發(fā)現(xiàn)，它是一個(gè)中性的存在。但是技術(shù)是對(duì)于這種規(guī)律的一個(gè)應(yīng)用，它是根據(jù)人的需求來(lái)量體裁衣。對(duì)于某些人可以說(shuō)是正面的科技，對(duì)于另一些人來(lái)說(shuō)不一定，從AI這件事上可以看到特別明顯的體現(xiàn)。一個(gè)貌似非常中性的篩選簡(jiǎn)歷的AI，在使用過(guò)程中，會(huì)發(fā)現(xiàn)它變得越來(lái)越具有某種傾向性，比如說(shuō)性別上的、種族上的、學(xué)歷背景上的傾向性，某些特征的簡(jiǎn)歷通過(guò)率會(huì)更高，這是由于人類對(duì)AI進(jìn)行目標(biāo)函數(shù)最大化的設(shè)置，讓它不斷自我強(qiáng)化，導(dǎo)致結(jié)構(gòu)性歧視的產(chǎn)生。

我們需要傳遞“AI可持續(xù)發(fā)展”這樣一個(gè)非常重要的觀念，不僅是對(duì)政策制定者，對(duì)于大公司、技術(shù)從業(yè)者，更重要的是社會(huì)中的每個(gè)個(gè)體都應(yīng)該理解，我有什么樣的權(quán)利、責(zé)任和義務(wù)。作為一個(gè)寫作者，我能做的就是把技術(shù)想象通過(guò)講故事的方式，傳遞給更多的人，建立起一個(gè)更大的共識(shí)，只有當(dāng)共識(shí)形成之后，我們才能凝聚起力量，讓每個(gè)人都能看到AI所能帶來(lái)的照亮未來(lái)的光。

我們現(xiàn)在所謂的科學(xué)是一個(gè)自文藝復(fù)興、啟蒙運(yùn)動(dòng)、工業(yè)革命之后，一路發(fā)展到現(xiàn)在的產(chǎn)物。它對(duì)于人類來(lái)說(shuō)有非常正向的影響，比如說(shuō)生產(chǎn)力和效率、嬰兒存活率，人的平均壽命，對(duì)抗疾病與災(zāi)難、包括物質(zhì)生活的水平，有大幅度提升。但如果從另一個(gè)角度，從地球整體的生物圈，生態(tài)多樣性，氣候變化，有可能我們所擁有的是一個(gè)負(fù)面的科技。去年的疫情讓我們直觀感受到這樣的變化，野豬在高速公路上狂奔，野生動(dòng)物開(kāi)始在城市里嬉戲，這是對(duì)于原來(lái)工業(yè)文明，加速主義視角下的科技觀的一個(gè)撥亂反正。這樣的視角下，我們?nèi)绾斡酶暧^、更多元甚至是去人類中心化的視角討論科技這件事情。

如果人類想讓自己的文明延續(xù)得更久遠(yuǎn)一些，我們必須去深刻地考慮什么是可持續(xù)發(fā)展，是針對(duì)誰(shuí)的可持續(xù)發(fā)展。