中國(guó)近年來(lái)的影視作品，從各方面看進(jìn)步都非?？?，包括以往國(guó)內(nèi)較少?lài)L試的科幻題材，也有了不少值得稱(chēng)道的作品。中國(guó)的科幻創(chuàng)作曾長(zhǎng)期處在“科普綱領(lǐng)”的強(qiáng)烈影響之下，許多人，包括相當(dāng)多的創(chuàng)作者，習(xí)慣于將科幻視為科普的一種形式，而且還是以青少年為讀者對(duì)象的低幼形式。當(dāng)國(guó)內(nèi)科幻小說(shuō)作家整體上在20世紀(jì)90年代完成了“和國(guó)際接軌”的轉(zhuǎn)變之后，影視作品仍然滯后。直到最近幾年，在優(yōu)秀作品帶動(dòng)下，在相關(guān)政策引導(dǎo)下，情況才有了較為明顯的改變。影片《流浪地球》的成功，真正開(kāi)啟了中國(guó)影視的“科幻元年”，信非虛語(yǔ)。

在告別了“科普綱領(lǐng)”之后，這絕不意味著優(yōu)秀的科幻作品不會(huì)在客觀上繼續(xù)發(fā)揮科普的實(shí)際作用，科幻作品最值得重視的價(jià)值就是它的思想性，而思想性恰恰是國(guó)內(nèi)科幻作品的短板。這塊短板亟需有作品開(kāi)始將它補(bǔ)起來(lái)。今年，一部30集科幻劇集《你好，安怡》(以下簡(jiǎn)稱(chēng)《安怡》)在這方面做了相當(dāng)成功的嘗試。

雖然《安怡》有著一般青春劇的形式，主要是一群青春靚麗的年輕人的故事，用親子關(guān)系、愛(ài)情等輔線(xiàn)來(lái)幫助推進(jìn)情節(jié)，但編劇看來(lái)對(duì)人工智能問(wèn)題做過(guò)不少功課，對(duì)于當(dāng)下有關(guān)人工智能的幾乎所有重要爭(zhēng)議和思考，劇中都有所表現(xiàn)或回應(yīng)，這在以往的國(guó)產(chǎn)科幻影視作品中比較少見(jiàn)。

機(jī)器人的人權(quán)、三定律、圖靈測(cè)試

首先是機(jī)器人——可以平移為克隆人、復(fù)制人、人造人……在《安怡》中是“芯機(jī)人”——的人權(quán)問(wèn)題。在無(wú)數(shù)涉及人工智能題材的科幻作品中，機(jī)器人的人權(quán)問(wèn)題經(jīng)常被作為主題或主題之一?！栋测分心切┮呀?jīng)有了自我意識(shí)的機(jī)器人，希望得到人類(lèi)的平等對(duì)待，它們痛恨人類(lèi)將自己看成一臺(tái)機(jī)器，特別痛恨人類(lèi)在挽救一個(gè)人類(lèi)生命時(shí)，可以毫不猶豫地犧牲機(jī)器人的生命。這其實(shí)也就是希望獲得人權(quán)。在《安怡》中，正面角色都認(rèn)同了這一點(diǎn)，這可以理解為劇集主題贊成承認(rèn)機(jī)器人的人權(quán)——如果它們的自我意識(shí)已經(jīng)具備或覺(jué)醒，并且在各方面足夠優(yōu)秀的話(huà)。

阿西莫夫在他的小說(shuō)中提出了著名的“機(jī)器人三定律”。國(guó)外一些涉及人工智能的早期作品中，還要鄭重其事地找機(jī)會(huì)將這三定律宣示一番?！栋测分幸矊?duì)“機(jī)器人三定律”有所宣示，但安排得比較自然。值得注意的是，電視劇對(duì)違反三定律的現(xiàn)象有所思考。劇中出現(xiàn)了受罪犯操控的機(jī)器人殺手，而劇中人物明確指出，這樣的機(jī)器人直接違反三定律中的第一定律“機(jī)器人不得傷害人類(lèi)”。這個(gè)情節(jié)背后的道理雖然簡(jiǎn)單，卻可以直接推論出：任何軍事用途的機(jī)器人都是直接違反三定律的。事實(shí)上，根據(jù)“機(jī)器人不得傷害人類(lèi)”，我們甚至不可以讓機(jī)器人來(lái)對(duì)一個(gè)死刑犯人執(zhí)行死刑。死刑必須由人類(lèi)來(lái)執(zhí)行。

著名的“圖靈測(cè)試”，是國(guó)外一些科幻影視作品中喜歡表現(xiàn)的內(nèi)容，比如影片《機(jī)械姬》(2015)，詳細(xì)展示了反人類(lèi)的機(jī)器人如何通過(guò)測(cè)試，而《安怡》將這個(gè)問(wèn)題直接轉(zhuǎn)換為機(jī)器人和人類(lèi)的識(shí)別問(wèn)題。在電視劇設(shè)想的情節(jié)中，機(jī)器人通過(guò)“圖靈測(cè)試”早已不是問(wèn)題，楊小蘭長(zhǎng)期隱瞞自己的機(jī)器人身份，在政府部門(mén)擔(dān)任公務(wù)員;文浩康甚至一直在機(jī)器人專(zhuān)家程世光身邊擔(dān)任助理和親信，也沒(méi)有讓程世光發(fā)現(xiàn)他其實(shí)是機(jī)器人。這表明主創(chuàng)并不認(rèn)為機(jī)器人通過(guò)“圖靈測(cè)試”有什么劃時(shí)代的意義。

奇點(diǎn)和自我意識(shí)

在《安怡》中，最重要的懸念是“奇點(diǎn)”。類(lèi)似科技狂人的機(jī)器人專(zhuān)家程世光，以及心懷深深怨念潛伏在程世光身邊后來(lái)兇相畢露的機(jī)器人文浩康，都心心念念要“開(kāi)啟奇點(diǎn)”。但是，“奇點(diǎn)”如何開(kāi)啟?開(kāi)啟之后意味著什么?這兩個(gè)角色都沒(méi)有想明白。事實(shí)上，主創(chuàng)對(duì)這兩個(gè)問(wèn)題顯然也沒(méi)有想明白——眼下誰(shuí)能將這兩個(gè)問(wèn)題想明白?

“奇點(diǎn)”之說(shuō)的流行，源自庫(kù)茲韋爾寫(xiě)于2005年的暢銷(xiāo)書(shū)《奇點(diǎn)臨近》。書(shū)中鼓吹，到2045年，人工智能將超越人類(lèi)，那時(shí)就是“奇點(diǎn)”的到來(lái)：“奇點(diǎn)涉及很多方面，其發(fā)展速度是近似垂直的指數(shù)增長(zhǎng)，技術(shù)的擴(kuò)展速度也幾乎是無(wú)限的。”書(shū)中還明確預(yù)言，2020年之前人工智能將通過(guò)“圖靈測(cè)試”，現(xiàn)在看來(lái)至少是估計(jì)得過(guò)早了。

庫(kù)茲韋爾的書(shū)雖然總體上有呼喚“奇點(diǎn)”的姿態(tài)，但他書(shū)中論述給人的印象，“奇點(diǎn)”是一個(gè)亦正亦邪的時(shí)刻，雖然激動(dòng)人心，卻也充滿(mǎn)風(fēng)險(xiǎn)。而《安怡》對(duì)待“奇點(diǎn)”的態(tài)度也是相當(dāng)曖昧的：不顧一切要開(kāi)啟“奇點(diǎn)”的，是兩個(gè)反面人物，劇中的正面人物都在奮不顧身地阻止“奇點(diǎn)”的開(kāi)啟。但“奇點(diǎn)”到底意味著什么呢?根據(jù)劇中人物的對(duì)白，似乎主要是這一點(diǎn)：有自我意識(shí)的機(jī)器人大量出現(xiàn)。至于“奇點(diǎn)”如何開(kāi)啟，在此基礎(chǔ)上也就不難想象了：程世光和文浩康都打算將能夠產(chǎn)生機(jī)器人自我意識(shí)的程序上傳到網(wǎng)上去，讓千千萬(wàn)萬(wàn)機(jī)器人能夠自我升級(jí)，這樣“奇點(diǎn)”就能夠開(kāi)啟。

于是我們就進(jìn)入《安怡》中最基本的設(shè)定之一，即機(jī)器人的自我意識(shí)問(wèn)題。這個(gè)問(wèn)題是國(guó)外許多作品喜歡濃墨重彩去描寫(xiě)和想象的，比如劇集《西部世界》，幾乎整個(gè)第一季都在表現(xiàn)機(jī)器人自我意識(shí)的萌生或覺(jué)醒。而《安怡》則采用了簡(jiǎn)潔明了的方式，一上來(lái)就指明了四個(gè)有自我意識(shí)的機(jī)器人，后來(lái)又追加了兩個(gè)潛伏的。這些機(jī)器人的自我意識(shí)，也不是自動(dòng)萌發(fā)的，而是它們的“父親”、人工智能專(zhuān)家李建維直接賦予它們的。

其實(shí)人類(lèi)的意識(shí)到底是什么，心理學(xué)家、腦科學(xué)家、科幻作家、人工智能專(zhuān)家都會(huì)關(guān)心這個(gè)問(wèn)題。一些腦科學(xué)家試圖將人類(lèi)意識(shí)還原或理解為人腦某種物理運(yùn)動(dòng)的產(chǎn)物，這雖然具有哲學(xué)上的誘惑性，但迄今仍缺乏實(shí)證。

而《安怡》將自我意識(shí)想象為某一段神秘的代碼或程序，李建維將它寫(xiě)入了姜離、葉坤、曲思家、小馬、李遙(他們的大腦是電腦)、楊小蘭乃至文浩康的腦中，它們就都是一出場(chǎng)即具有自我意識(shí)的機(jī)器人。程世光、文浩康為了開(kāi)啟奇點(diǎn)，不顧一切想要獲得的也就是這段代碼或程序。電視劇的這個(gè)想法，有可能得到一部分人工智能專(zhuān)家的贊成，盡管這樣神奇的代碼或程序迄今在現(xiàn)實(shí)世界中尚不存在。

人類(lèi)打算如何與機(jī)器人相處

關(guān)于機(jī)器人的自我意識(shí)，有必要順便提到今年引進(jìn)出版的石黑一雄的最新小說(shuō)《克拉拉與太陽(yáng)》。因?yàn)榇蠖鄶?shù)涉及人工智能的科幻作品，顯然都更愿意設(shè)想機(jī)器人自我意識(shí)的萌發(fā)或覺(jué)醒，因?yàn)檫@種自我意識(shí)必將與人類(lèi)的意識(shí)沖突，這樣才容易往下編故事，但石黑一雄反其道而行之，塑造了一個(gè)徹底“無(wú)我”的機(jī)器人形象，這也相當(dāng)罕見(jiàn)。

克拉拉是一個(gè)專(zhuān)為陪伴少年而設(shè)計(jì)的機(jī)器人，買(mǎi)下她的家庭對(duì)克拉拉也非常尊重，機(jī)器人科幻作品中常見(jiàn)的機(jī)器人的人權(quán)問(wèn)題，在這個(gè)家庭里根本不存在，或者說(shuō)被石黑一雄簡(jiǎn)單回避了。克拉拉真正做到了毫不利己專(zhuān)門(mén)利人，為了它負(fù)責(zé)陪伴的喬西，克拉拉可以做任何事情，甚至不惜損害自己的健康。這和《安怡》中文浩康因?yàn)槔罱ňS要用自己的腦去挽救兒子李遙的生命而生出無(wú)窮怨念，造成鮮明對(duì)照。

幾年后，喬西考上了她這個(gè)階層的孩子應(yīng)該上的大學(xué)，克拉拉的陪伴使命宣告終結(jié)。盡管母親對(duì)克拉拉是滿(mǎn)心感激的，但克拉拉仍不能免于被廢棄的命運(yùn)，這表明人類(lèi)沒(méi)有承認(rèn)它們的人權(quán)?？死趶U棄機(jī)器人的堆場(chǎng)上，平靜地、無(wú)怨無(wú)悔地接受了自己的命運(yùn)——為人類(lèi)付出了自己的一切，被人類(lèi)用完之后卻棄若敝屣。再想一想，人類(lèi)對(duì)于生活中使用的許多器物，不也有這種薄情寡義的態(tài)度嗎?

和國(guó)外許多電視劇一樣，《安怡》的結(jié)尾也是開(kāi)放的：有了機(jī)器人的未來(lái)世界，既可能鳥(niǎo)語(yǔ)花香，也可能腥風(fēng)血雨。人類(lèi)打算如何與機(jī)器人相處呢?這取決于我們賦予機(jī)器人怎樣的自我意識(shí)。

(作者為上海交通大學(xué)講席教授)