【論壇第2期話(huà)題】機(jī)器“北鼻”，不香嗎？

很多人認(rèn)為，“機(jī)器伴侶”將是未來(lái)智能機(jī)器人發(fā)展最廣闊的市場(chǎng)和最大的動(dòng)力。所謂“食色性也”，這種想法并非什么奇談怪論。當(dāng)然，我們需要的陪伴機(jī)器人，不限于親密的“機(jī)器小哥哥”、“機(jī)器小姐姐”，還包括聊聊天、談?wù)勑牡臋C(jī)器“知心人”，或者陪玩陪瘋機(jī)器“二貨哥們”、機(jī)器“塑料閨蜜”，甚至是丁克家庭的機(jī)器“兒子”、“女兒”和機(jī)器“寵物”。如果社會(huì)中到處都是機(jī)器“北鼻”，人類(lèi)和世界將會(huì)怎樣？“科技世代與人類(lèi)未來(lái)”論壇第二期以機(jī)器陪伴為題，特別邀請(qǐng)中國(guó)社會(huì)科學(xué)院的段偉文研究員、中國(guó)人民大學(xué)的劉永謀教授、上海交通大學(xué)的閆宏秀教授和復(fù)旦大學(xué)的楊慶峰教授，以北南聯(lián)袂、京滬對(duì)話(huà)的方式從不同角度撰文探討。閆宏秀的《人與機(jī)器人環(huán)抱的“距離”》提醒人們保持與機(jī)器人的安全距離。劉永謀的《機(jī)器性愛(ài)會(huì)吞噬人性嗎？》相信機(jī)器伴侶不會(huì)導(dǎo)致人類(lèi)機(jī)器化。楊慶峰的《為愛(ài)遺恨的機(jī)器人？》認(rèn)為親密陪伴將從根本上改變?nèi)藱C(jī)關(guān)系。段偉文《陪伴機(jī)器人，當(dāng)真你就輸了？》深入設(shè)計(jì)層面分析陪伴機(jī)器的典型倫理問(wèn)題。有趣的是，從警惕（counter）-親近（pro）陪伴機(jī)器人的角度看，楊慶峰與劉永謀對(duì)于人與機(jī)器人的親密關(guān)系之看法，閆宏秀與段偉文對(duì)于人與機(jī)器人的距離之看法，似乎有那么一點(diǎn)相對(duì)的意思。

人與機(jī)器人環(huán)抱的“距離”

閆宏秀（上海交通大學(xué)）

如果說(shuō)18世紀(jì)法國(guó)哲學(xué)家朱里安·奧弗魯·德·拉·梅特里的《人是機(jī)器》一書(shū)是從人類(lèi)自我認(rèn)知的視角拉近了人與機(jī)器之間的某種距離，那么，捷克作家卡雷爾·恰佩克于20世紀(jì)初的《羅薩姆的萬(wàn)能機(jī)器人》一書(shū)中關(guān)于機(jī)器人身份的描繪則又將人與機(jī)器的距離進(jìn)行了近或遠(yuǎn)的多次切換。21世紀(jì)，前英國(guó)皇家學(xué)會(huì)會(huì)長(zhǎng)、著名天文學(xué)家、劍橋大學(xué)教授馬丁·里斯將機(jī)器人作為其對(duì)“人類(lèi)在地球上的未來(lái)”思考的一個(gè)要素，以色列歷史學(xué)家尤瓦爾·赫拉利在《未來(lái)簡(jiǎn)史》一書(shū)中將機(jī)器人對(duì)人類(lèi)構(gòu)成的威脅寫(xiě)入到了其對(duì)“大分離”的解讀之中，我們從中可以感悟到人與機(jī)器人之間距離的復(fù)雜性。

人與機(jī)器人之間的微妙距離

無(wú)論人是機(jī)器、機(jī)器擬人，還是機(jī)器人被人奴役、人對(duì)機(jī)器人的奴役、機(jī)器人對(duì)人的威脅或背叛與反抗等，都是對(duì)人的機(jī)器化與機(jī)器的人化不同表述。換句話(huà)說(shuō)，都是在描述人與機(jī)器之間“距離”?；仡櫧陙?lái)機(jī)器人的發(fā)展，機(jī)器人與人的距離呈現(xiàn)出越來(lái)越近的趨勢(shì)。如：據(jù)國(guó)際機(jī)器人聯(lián)合會(huì)（The International Federation of Robotics）的《全球機(jī)器人報(bào)告2019》（World Robotics report 2019）統(tǒng)計(jì)，2018年度全球工業(yè)機(jī)器人年銷(xiāo)售額以165億美元?jiǎng)?chuàng)新，并將首次對(duì)協(xié)作機(jī)器人（cobots）進(jìn)行了分析。今年，在疫情防控期間，抗疫機(jī)器“智”援成為了抗疫戰(zhàn)線(xiàn)的一道風(fēng)景。

現(xiàn)如今，機(jī)器人從傳統(tǒng)的工業(yè)化場(chǎng)景進(jìn)入到了人類(lèi)日常生活中的陪伴與家政等事務(wù)之中，人機(jī)共生已然從幻想進(jìn)入了現(xiàn)實(shí)。與這種現(xiàn)實(shí)相隨的是，機(jī)器人的擬人化程度越來(lái)越高。與這種現(xiàn)實(shí)更如影隨形的是，關(guān)于人的機(jī)器化問(wèn)題也越來(lái)越被關(guān)注。也正是上述這兩個(gè)方面在進(jìn)一步加劇著人與機(jī)器人之間的“距離”微妙性。

回顧以往，當(dāng)機(jī)器人能如人類(lèi)所愿地完成人類(lèi)交給其的任務(wù)時(shí)，人類(lèi)感覺(jué)到在人與機(jī)器的合作之中，機(jī)器人與自身距離的拉近；反之，若不能，則帶來(lái)的是機(jī)器人與人自身距離的疏遠(yuǎn)。但是在當(dāng)下，陪聊機(jī)器人、情感機(jī)器人等的研發(fā)與應(yīng)用就是旨在實(shí)現(xiàn)人與機(jī)器人距離拉近的同時(shí)，卻又帶來(lái)了的某種遠(yuǎn)。很顯然，這種遠(yuǎn)與近指向了不同的維度。

近了誰(shuí)與誰(shuí)的距離，又遠(yuǎn)了誰(shuí)與誰(shuí)的距離

美國(guó)人工智能專(zhuān)家杰瑞·卡普蘭將機(jī)器人喻為瘋狂擴(kuò)散的新“病毒”，并且在其《人工智能時(shí)代——人機(jī)共生下財(cái)富、工作與思維的大未來(lái)》一書(shū)中，用強(qiáng)調(diào)的字體凸顯了“你必須適應(yīng)機(jī)器人的要求，因?yàn)樗粫?huì)順從你的要求”這一判斷。易言之，從這個(gè)時(shí)候開(kāi)始，被機(jī)器人環(huán)抱的人類(lèi)在被機(jī)器人不斷的環(huán)抱過(guò)程中，人與機(jī)器人之間的“距離”在被機(jī)器人擠壓式拉近。也正是在這個(gè)過(guò)程中，出現(xiàn)了機(jī)器人對(duì)人的規(guī)訓(xùn)或者馴化。如，在日常生活中，人與機(jī)器人助手之間的互動(dòng)，事實(shí)也是人類(lèi)思維與機(jī)器人思維的之間互動(dòng)，并且令人沮喪的是，在這種互動(dòng)中，在機(jī)器人通過(guò)深度學(xué)習(xí)適應(yīng)人的過(guò)程中，同樣地，也出現(xiàn)了人開(kāi)始適應(yīng)機(jī)器人思維的跡象。

以人類(lèi)借助導(dǎo)航系統(tǒng)到達(dá)某個(gè)目的地為例，人類(lèi)思維受機(jī)器思維的影響表現(xiàn)為：人以主人自居的姿態(tài)開(kāi)啟導(dǎo)航系統(tǒng)，但隨后會(huì)依據(jù)導(dǎo)航系統(tǒng)的機(jī)器式思維來(lái)進(jìn)行互動(dòng)；當(dāng)坐同在一輛車(chē)上的幾個(gè)人接收到幾種不同的到達(dá)同一目的的方案時(shí)，可能出現(xiàn)的場(chǎng)景或許有人類(lèi)將導(dǎo)航系統(tǒng)擱置，或許有人類(lèi)在為哪個(gè)系統(tǒng)更優(yōu)展開(kāi)白熱化的討論，或許還有讓不同的系統(tǒng)之間進(jìn)行自行取舍。反觀后兩種場(chǎng)景，究其本質(zhì)而言，事實(shí)上是在人與機(jī)器人距離拉近的過(guò)程中，將人與人之間距離拉遠(yuǎn)。

當(dāng)機(jī)器人通過(guò)不斷的學(xué)習(xí)來(lái)越來(lái)越拉近與人的距離時(shí)，人類(lèi)突然意識(shí)到自身的主體性在不斷地經(jīng)受著某種被擠壓，或許人類(lèi)會(huì)是有閑階層，但也可能會(huì)是無(wú)用階層。然而，無(wú)論如何，當(dāng)集群機(jī)器人（swarm robotics）系統(tǒng)化來(lái)襲時(shí)，或許會(huì)把人與機(jī)器人之間這種距離變成機(jī)器人與機(jī)器人之間的距離，人類(lèi)對(duì)距離的掌控能力越來(lái)越小，或者進(jìn)一步說(shuō)，喪失了這種能力。顯然，這種“距離”不是人類(lèi)所期望的。

應(yīng)保持人與機(jī)器人之間的安全距離，進(jìn)而產(chǎn)生美

那么，面對(duì)機(jī)器人的發(fā)展，我們?cè)摫３质裁礃拥木嚯x呢？關(guān)于這個(gè)問(wèn)題，與其說(shuō)是人與機(jī)器人之間的理想距離，倒不如說(shuō)是安全距離。美國(guó)全球人工智能與認(rèn)知科學(xué)專(zhuān)家皮埃羅·斯加魯菲曾基于人與機(jī)器之間圖靈測(cè)試而指出了人類(lèi)文明或?qū)⒔?jīng)歷機(jī)器的愚蠢和人類(lèi)的并存智能、機(jī)器智能和人類(lèi)智能共存、機(jī)器的智能與人類(lèi)的愚蠢共存三個(gè)階段。毫無(wú)疑問(wèn)，人類(lèi)期冀自身的智能永遠(yuǎn)在線(xiàn)且有掌控機(jī)器智能的能力，不管機(jī)器是愚蠢還是智能。

當(dāng)人類(lèi)著力于為構(gòu)建機(jī)器人倫理的時(shí)候，事實(shí)上是人類(lèi)已經(jīng)意識(shí)到人與機(jī)器人之間的距離不再安全；當(dāng)人類(lèi)力圖提升機(jī)器人與人的相似度時(shí)，人類(lèi)力圖擁抱機(jī)器人也力圖讓機(jī)器人擁抱人類(lèi)。但當(dāng)這種雙向擁抱變成緊密環(huán)抱時(shí)，特別是當(dāng)機(jī)器人貌似滋潤(rùn)的環(huán)抱將人催眠進(jìn)入夢(mèng)境，而這種夢(mèng)境里出現(xiàn)了被環(huán)抱的窒息感時(shí)，此時(shí)的人類(lèi)，或許不是全部而是部分人類(lèi)的求生欲本能將驟然而至并要求通過(guò)保持適當(dāng)?shù)木嚯x來(lái)捍衛(wèi)自己，以保留自己人之為人的本質(zhì)。

因此，人類(lèi)或許意識(shí)到了人與機(jī)器人之間的環(huán)抱確實(shí)需要有點(diǎn)“距離”，即安全的距離。但這個(gè)“距離”到底是該有多遠(yuǎn)還是多近，卻貌似并不清晰，因?yàn)槿祟?lèi)作為總體對(duì)求生欲的理解達(dá)成共識(shí)還是需要一個(gè)過(guò)程。

機(jī)器性愛(ài)會(huì)吞噬人性嗎？

劉永謀（中國(guó)人民大學(xué)）

毋庸諱言，“機(jī)器性愛(ài)”是大火的人工智能領(lǐng)域最“吸睛”的話(huà)題。

很多反對(duì)者認(rèn)為，伴侶機(jī)器人越做越逼真，越來(lái)越多的人將與之共同生活——已經(jīng)有人和充氣娃娃、虛擬玩偶“初音”結(jié)婚了——久而久之，人會(huì)越來(lái)越像機(jī)器，即在一定程度上失去人性。我稱(chēng)之為智能時(shí)代的“人類(lèi)機(jī)器化憂(yōu)慮”。

“人類(lèi)機(jī)器化憂(yōu)慮”由來(lái)已久，可以追溯至工業(yè)革命。莫里森認(rèn)為：“工業(yè)主義的勝利就是不僅將個(gè)人變成機(jī)器的奴隸，而且將個(gè)人變成機(jī)器的組成部分?！?迄今為止，大家并不認(rèn)為人已經(jīng)被“機(jī)器化”。但反對(duì)者會(huì)說(shuō)，機(jī)器伴侶不是一般機(jī)器，深度侵入人類(lèi)情感與人際最核心的性愛(ài)區(qū)域，這難道不會(huì)撼動(dòng)、損害甚至吞噬人性嗎？

肉體關(guān)系不神秘

很多人將肉體關(guān)系看得很不一般。白素貞修煉千年，仍未通人性，必須和許仙戀愛(ài)結(jié)婚，多次“不可描述”之后才通人性。似乎人性是某種流動(dòng)的“熱素”：蛇和人親熱，可慢慢被“注入”人性。反過(guò)來(lái)許仙會(huì)不會(huì)“蛇化”呢？和蛇精處久了，許仙性命堪憂(yōu)，這是不是人性“流失”的后果？人性“流動(dòng)”要不要服從轉(zhuǎn)化守恒定律呢？

如果人和蛇的“靈性值”有級(jí)差，那不同人種、不同性別和不同地域的個(gè)體擁有的“人性值”是不是也有差距呢？不少人認(rèn)為，殘忍罪犯和嚴(yán)重智障人士人性要少一點(diǎn)。如果“人性值”有差距，享受的待遇是不是應(yīng)該有所差別呢？再一個(gè)，“人性值”越高越好嗎？就忠誠(chéng)而言，“狗性”是不是更好一些呢？人性究竟是個(gè)什么東西呢？

把性愛(ài)看得很重要、很神秘、很“本質(zhì)”，殘存濃郁的性蒙昧主義氣息。弗洛伊德嘗試用性和“利比多”解釋一切人類(lèi)行為，他的精神分析學(xué)被質(zhì)疑為古老性欲崇拜的現(xiàn)代版本。不少理論家都將之排除于科學(xué)之外，視為某種哲學(xué)或文學(xué)的遐思。

有人會(huì)反駁說(shuō)，性關(guān)系并非簡(jiǎn)單物理運(yùn)動(dòng)，更重要的是附著其上的感情。問(wèn)題是：人只能與人產(chǎn)生感情，不能與機(jī)器人產(chǎn)生感情嗎？很多人對(duì)家里養(yǎng)的寵物感情很深。反對(duì)者會(huì)說(shuō)，寵物與機(jī)器伴侶不同，寵物有生命，有靈性?？捎猩庞徐`性嗎？中國(guó)人常信玉石有靈，孫悟空就是從石頭中孕育出來(lái)的。當(dāng)伴侶機(jī)器人能像人一樣“說(shuō)話(huà)”，一樣運(yùn)動(dòng)，智力遠(yuǎn)超寵物，還可自我復(fù)制，憑什么說(shuō)比寵物“靈性值”低一些？再說(shuō)了，人怎么就不能對(duì)非生命的東西產(chǎn)生感情呢？我們喜歡文玩和古物，建各種博物館，里面沒(méi)有對(duì)它們的情感因素？

愛(ài)情也并不永恒

當(dāng)然，反對(duì)者可以說(shuō)自己擔(dān)心的是人與機(jī)器伴侶的愛(ài)情，而不是所有感情，因?yàn)閻?ài)情是人最寶貴的情感，不容機(jī)器染指。

然而，人戀物的現(xiàn)象并不罕見(jiàn)，絲襪、制服、內(nèi)衣等是最常見(jiàn)的被迷戀物。古希臘神話(huà)中，有一則國(guó)王皮格馬利翁的戀物故事，講的是他愛(ài)上自己用象牙雕刻的美麗少女。國(guó)王給“她”穿上衣服，取名塞拉蒂，每天擁抱親吻，后來(lái)愛(ài)情女神把雕像變成了活人，與皮格馬利翁結(jié)了婚。而一些人認(rèn)為，中國(guó)古代纏足、19世紀(jì)西方束腰以及當(dāng)代隆胸時(shí)尚，均可以用戀物來(lái)解釋。從戀物角度來(lái)看，人當(dāng)然可能愛(ài)上機(jī)器伴侶。

反對(duì)者會(huì)說(shuō)，神圣的愛(ài)情不容戀物玷污。的確，愛(ài)情至上論在大都市非常流行，對(duì)于對(duì)吃飽穿暖的中產(chǎn)和文青尤為如此，簡(jiǎn)直升華為“情感意識(shí)形態(tài)”：“有錢(qián)有閑了，不談?wù)劮?，就談?wù)剱?ài)吧?！笨墒?，在現(xiàn)實(shí)中，有多少令人羨慕并尊敬的不變愛(ài)情？有研究認(rèn)為，愛(ài)情是某種多巴胺類(lèi)物質(zhì)分泌的結(jié)果，持續(xù)時(shí)間18個(gè)月。人對(duì)機(jī)器伴侶的愛(ài)情，理論上也就能堅(jiān)持這么久。

一男對(duì)一女“永恒愛(ài)情”的說(shuō)法盛行，不過(guò)是最近幾百年的事情，主要?dú)w功于基督教興起之后不遺余力的提倡。在歐洲中世紀(jì)，一方面是教會(huì)一對(duì)一關(guān)系的嚴(yán)厲說(shuō)教，另一方面則是事實(shí)上混亂情人關(guān)系的存在。倍倍爾在《婦女與社會(huì)主義》指出，自騎士小說(shuō)興起，吹噓對(duì)征服女人逐漸轉(zhuǎn)變成歌頌愛(ài)情、尊重女人的所謂“騎士風(fēng)度”，可真實(shí)的騎士愛(ài)情大多是始亂終棄的故事，忠貞不渝的愛(ài)情只寫(xiě)在書(shū)里。中國(guó)的情況更甚，一百年前還是一夫多妻制度，“小兩口”感情太好，公婆可能指責(zé)小媳婦“狐貍精”，耽誤了丈夫做正事?？偟膩?lái)說(shuō)，傳統(tǒng)婚姻制度附屬于財(cái)產(chǎn)關(guān)系，強(qiáng)調(diào)主婦對(duì)家庭財(cái)產(chǎn)和事務(wù)的管理權(quán)，既不是“愛(ài)情結(jié)晶”，也不是“愛(ài)情墳?zāi)埂?。毫無(wú)疑問(wèn)，當(dāng)女性經(jīng)濟(jì)自主，才能要求一對(duì)一的愛(ài)情關(guān)系。

不想大談愛(ài)情哲學(xué)，我只是想說(shuō)：“愛(ài)情”從來(lái)就不是永恒的，而是一定歷史時(shí)期的社會(huì)建構(gòu)物。這談不上人性不人性的事情，因?yàn)闆](méi)有證據(jù)表明：一生只愛(ài)一人更人性?？梢韵胂?，人與機(jī)器伴侶的親密關(guān)系，不大可能是一對(duì)一的。實(shí)際上，我并不認(rèn)為有普遍、一致和不變的人性，上述判斷僅基于常識(shí)做出。

爭(zhēng)當(dāng)有趣伴侶

還有一些反對(duì)者擔(dān)心人類(lèi)繁衍：當(dāng)代生活忙碌而焦慮，性生活越來(lái)越“蕭條”——據(jù)說(shuō)現(xiàn)在大城市里很多30多歲的夫妻已然處于無(wú)性狀態(tài)——機(jī)器伴侶再“奪走”一些，人類(lèi)生孩子的意愿肯定越來(lái)越淡薄，搞不好最后因此而“絕種”。食色性也，不生孩子，難道不是另一種人性淪喪嗎？

生育率降低怪伴侶機(jī)器人，這完全沒(méi)道理。安全避孕技術(shù)誕生以來(lái)，發(fā)達(dá)國(guó)家的生育率就不斷走低，可機(jī)器伴侶還沒(méi)有大規(guī)模商用??？顯然，人們不愿意生孩子，癥結(jié)不在技術(shù)方面，而在于制度和文化方面。如果真的想生孩子，機(jī)器伴侶可以裝上機(jī)器子宮，搞“機(jī)器試管嬰兒”。

必須承認(rèn)，機(jī)器伴侶將對(duì)既有愛(ài)情觀念和婚姻制度帶來(lái)巨大沖擊?？墒?，當(dāng)愛(ài)上個(gè)人或被人愛(ài)上越來(lái)越困難，是不是得想一想：人是不是越來(lái)越無(wú)趣，還不如一只手機(jī)好玩呢？越來(lái)越多的人不想結(jié)婚，是不是得想一想：咱們的婚姻是不是出了問(wèn)題，真的墮落為“偉大導(dǎo)師”所謂的“合法的賣(mài)淫”或“變相的嫖娼”？

一句話(huà)，性愛(ài)機(jī)器人可能漏電，可擔(dān)心它吞噬人性，基本上是想多了。事實(shí)上，誰(shuí)也搞不清怎么就更像人，或更不像人。

為愛(ài)遺恨的機(jī)器人？

楊慶峰（復(fù)旦大學(xué)）

20多年前有位臺(tái)灣歌手唱了這樣一首歌：“……有多少愛(ài)可以重來(lái)，有多少人值得等待。當(dāng)愛(ài)情已經(jīng)桑田滄海，是否還有勇氣去愛(ài)?！边@首歌唱出了一個(gè)人失去愛(ài)之后的遺憾與悔恨。如今，人工智能技術(shù)將我們帶到了一個(gè)難題面前：如果我曾經(jīng)愛(ài)上了一個(gè)機(jī)器人，但是沒(méi)有抓住，最終服從于人類(lèi)社會(huì)的價(jià)值規(guī)訓(xùn)；或者一個(gè)機(jī)器好友向我傾訴，他曾經(jīng)愛(ài)上了一個(gè)人類(lèi)，卻因?yàn)槿祟?lèi)社會(huì)的價(jià)值壓力，卻不得不分開(kāi)。那么我或是她是否還會(huì)感受到失去“愛(ài)”的遺憾和悔恨呢？

站在詞語(yǔ)留白處，無(wú)愛(ài)存在？

說(shuō)到與愛(ài)有關(guān)的機(jī)器人，我們?nèi)菀茁?lián)想到科幻電影中這類(lèi)形象，如最近剛剛播出的《機(jī)械畫(huà)皮》中的“蘇辛”自我覺(jué)醒后去尋找真愛(ài)的意義。但是對(duì)我而言，印象最深的還是美國(guó)科幻電影《她》中沒(méi)有視覺(jué)形象的女主角薩曼莎。男主角西奧多無(wú)法處理好現(xiàn)實(shí)中與前妻的關(guān)系，偶爾一次他使用了一個(gè)智能操作系統(tǒng)產(chǎn)品，給系統(tǒng)賦予了女性的聲音，取名薩曼莎?！八蹦軌驇椭鲓W多處理很多事情，而且聲音柔美、善解人意。后來(lái)西奧多愛(ài)上了“她”。影片結(jié)尾處薩曼莎通過(guò)學(xué)習(xí)進(jìn)化同時(shí)愛(ài)上了幾百個(gè)人，最終西奧多與薩曼莎的關(guān)系走向了終結(jié)。影片結(jié)尾處，薩曼莎解釋著說(shuō)：“……就像我正在寫(xiě)一本書(shū)那樣，一本我深?lèi)?ài)的書(shū)?？墒俏业臅?shū)寫(xiě)速度慢了下來(lái)，于是詞語(yǔ)和詞語(yǔ)間的距離變得無(wú)比遙遠(yuǎn)，段與段落間成了無(wú)盡的留白。我還是能感覺(jué)到你的溫度，感覺(jué)到書(shū)寫(xiě)我們故事的詞語(yǔ)的重量。但我正站在留白里，站在詞語(yǔ)彼此遙遠(yuǎn)的距離間”。從這句臺(tái)詞我們很容易聯(lián)想到海德格爾所說(shuō)的“詞語(yǔ)破碎處，無(wú)物存在”。對(duì)薩曼莎來(lái)說(shuō)，隨著書(shū)寫(xiě)速度變慢，詞與詞之間的距離變大，段與段之間出現(xiàn)了無(wú)盡的空白，“我”站在詞語(yǔ)彼此遙遠(yuǎn)的距離之間無(wú)所依靠，看著曾經(jīng)的“愛(ài)”煙消云散。當(dāng)“她”對(duì)西奧多的愛(ài)變成滄海桑田，是否還會(huì)產(chǎn)生無(wú)盡的悔恨與遺憾呢？影片結(jié)尾并沒(méi)有交待，但是卻留給人們這樣一個(gè)遐想的難題。

現(xiàn)實(shí)中的陪伴機(jī)器人

相比電影中的機(jī)器人，現(xiàn)實(shí)中的機(jī)器人顯得異常弱智。令人欣慰的是，人工智能技術(shù)的日漸成熟，主要表現(xiàn)為如下幾個(gè)方面：首先，智能機(jī)器人技術(shù)也在不斷成熟。各種基于人工智能的微表情識(shí)別技術(shù)已經(jīng)日漸成熟，機(jī)器人已經(jīng)能夠感知到人類(lèi)的各種情緒變化，能夠?qū)崿F(xiàn)讀心。2019年Science雜志的一篇文章指出，科學(xué)家團(tuán)隊(duì)能夠根據(jù)癲癇患者大聲朗讀語(yǔ)音引起的、從語(yǔ)言及運(yùn)動(dòng)區(qū)域捕獲的大腦活動(dòng)，重建了整個(gè)句子。新材料技術(shù)使得機(jī)器人能夠給予人們很好地知覺(jué)和感觸，新型機(jī)器人皮膚甚至比人類(lèi)皮膚的觸覺(jué)還要靈敏；其次，人工智能語(yǔ)言理解能力日漸提升。盡管當(dāng)前人工智能深度學(xué)習(xí)在理解人類(lèi)語(yǔ)言和日常上存在局限，但是完全可以相信，這一點(diǎn)的克服更多是時(shí)間問(wèn)題?，F(xiàn)在人類(lèi)和某些領(lǐng)域智能機(jī)器人的交流比較順暢。第三，我們經(jīng)常會(huì)在國(guó)際消費(fèi)電子產(chǎn)品展（CES）上看到各類(lèi)場(chǎng)景的陪伴類(lèi)機(jī)器人。如醫(yī)院、敬老院、幼兒園的人類(lèi)陪伴機(jī)器人，還有寵物陪伴機(jī)器人等等。

成熟的技術(shù)是功能機(jī)器人實(shí)現(xiàn)的保障。人們已經(jīng)不滿(mǎn)足于功能機(jī)器人，開(kāi)始實(shí)現(xiàn)科幻電影中的陪伴理想。能夠聊天的機(jī)器人、能夠看護(hù)孩子的機(jī)器人等等在日常生活中越來(lái)多地可以看到。當(dāng)然，大多數(shù)智能機(jī)器人還是太弱，更談不上能產(chǎn)生愛(ài)情。但是一個(gè)值得關(guān)注的事實(shí)是：機(jī)器人不再是人類(lèi)生活世界的一個(gè)經(jīng)驗(yàn)物品，而是構(gòu)成了我們反思和審視陪伴關(guān)系的視域源頭。

人機(jī)陪伴關(guān)系的本質(zhì)變更

隨著強(qiáng)人工智能理念的確立，也隨著電影中的理想逐漸實(shí)現(xiàn)，陪伴機(jī)器人的發(fā)展和成熟無(wú)法避免。我們很容易想象出這樣一個(gè)未來(lái)場(chǎng)景：各種各樣功能的陪伴機(jī)器人會(huì)出現(xiàn)人類(lèi)生活中。一個(gè)無(wú)法避免的問(wèn)題是，如何看待人與機(jī)器人之間的陪伴關(guān)系？它是否是海德格爾式的自由關(guān)系的現(xiàn)實(shí)呈現(xiàn)？這個(gè)問(wèn)題很難回答。目前明確的是：僅僅從工具和物品的角度去看待這些機(jī)器人遠(yuǎn)遠(yuǎn)無(wú)法應(yīng)對(duì)未來(lái)出現(xiàn)的問(wèn)題。當(dāng)某些陪伴機(jī)器人處于弱人工智能的階段，我們不用考慮這樣的難題，它們僅僅是工具，如掃地機(jī)器人、灑水機(jī)器人。當(dāng)某些陪護(hù)機(jī)器人能夠與被陪護(hù)者進(jìn)行交流的時(shí)候，已經(jīng)無(wú)法繼續(xù)把之看作是一個(gè)日常用具或者解決某種特定問(wèn)題的工具。在長(zhǎng)時(shí)間的依賴(lài)交流過(guò)程中，人類(lèi)產(chǎn)生與機(jī)器人有關(guān)的感情就變得可以理解。如果智能機(jī)器人深入到人類(lèi)感情領(lǐng)域，那種停留在工具論層面的思考已然無(wú)法應(yīng)對(duì)這類(lèi)機(jī)器人的出現(xiàn)，需要一種非工具論的觀念幫助我們處理未來(lái)關(guān)系。需要明確的事實(shí)是，從長(zhǎng)遠(yuǎn)來(lái)看，陪伴機(jī)器人不僅僅是我們?nèi)粘Ｉ钪性龆嗟奈锲分?，不是可有可無(wú)的、功能上可替代的產(chǎn)品。在與陪伴機(jī)器人相處的時(shí)候，所形成的世界、感情和意義使得人不得不操心于一個(gè)能與我進(jìn)行交流、給我撫慰、給我安心的準(zhǔn)主體。我與陪伴機(jī)器人之間會(huì)形成獨(dú)特的個(gè)體記憶，難以忘懷。

一旦置身于未來(lái)的人機(jī)關(guān)系中，最浪漫的事情不再是陪著你慢慢變老，而是陪著你慢慢變壞。換成機(jī)器人角度也許是：終于有一天，“我”坐在搖椅上，昏昏欲睡，想著與我的人類(lèi)愛(ài)人之間的往事，我們哭過(guò)、笑過(guò)、嫉妒過(guò)、難受過(guò)。突然間，電力終結(jié)，一切歸零。再也沒(méi)有人告訴我，你不會(huì)有失去愛(ài)的遺憾與悔恨。

陪伴機(jī)器人，當(dāng)真你就輸了？

段偉文（中國(guó)社會(huì)科學(xué)院）

自信息技術(shù)出現(xiàn)以來(lái)，真實(shí)和虛擬的界限一再被打破。特別是隨著社會(huì)機(jī)器人的發(fā)展，各種陪伴機(jī)器人開(kāi)始出現(xiàn)在人們的生活中，也許用不了多久，每個(gè)人都要認(rèn)真思考如何與機(jī)器人相處。從科技時(shí)代不斷加速的總體態(tài)勢(shì)來(lái)看，人們或許等不及拿出周全和完善的技術(shù)方案，就會(huì)讓各種機(jī)器人產(chǎn)品和服務(wù)涌進(jìn)我們的生活世界，每個(gè)人都有可能成為這個(gè)全新魔法的試驗(yàn)品。在沖向那美麗的新世界之前，讓我們來(lái)看下可能出現(xiàn)的若干問(wèn)題與場(chǎng)景。

人能與機(jī)器建立真實(shí)的交互關(guān)系嗎？

從圖靈提出的圖靈測(cè)試不難看出，人工智能是對(duì)智能的功能模擬。各種陪伴機(jī)器人，不論是無(wú)形的智能軟件或智能音箱，還是將來(lái)可能出現(xiàn)的外形上可以假亂真的人形機(jī)器人，都是在功能上可以與人交互的智能體或者行動(dòng)者。智能體這個(gè)詞看起來(lái)很抽象，但你在用手機(jī)上的應(yīng)用程序搶高鐵票，或進(jìn)出機(jī)場(chǎng)、高鐵站通過(guò)人臉識(shí)別設(shè)備的時(shí)候，不難發(fā)現(xiàn)，你的生活已越來(lái)越多地經(jīng)由這些智能機(jī)器也就是所謂的智能體與世界相連接。而下一步，智能機(jī)器將在你的生活中擔(dān)當(dāng)起服務(wù)者、照看者、陪護(hù)者乃至伴侶的作用。

在此呼之欲出的泛智能體社會(huì)的愿景中，首先遇到的一個(gè)的倫理問(wèn)題是，人類(lèi)與機(jī)器可以建立一種真實(shí)的關(guān)系嗎？或者說(shuō)，人如果將這種關(guān)系視為真實(shí)關(guān)系會(huì)不會(huì)造成某種不可忽視的危害。

近來(lái)，在對(duì)這個(gè)問(wèn)題的相關(guān)討論中，當(dāng)代哲學(xué)家馬丁·布伯對(duì)“我-你”關(guān)系與“我-它”關(guān)系的區(qū)分成為重要的思考起點(diǎn)。大致的意思就是說(shuō)，人與陪伴機(jī)器人的關(guān)系究竟應(yīng)該像“我-你”關(guān)系那樣，建立在相互平等與尊重的基礎(chǔ)上，還是可以像“我-它”關(guān)系那樣，僅僅把陪伴機(jī)器人看成我所使用的工具。從這種二分法出發(fā)，不看好人與陪伴機(jī)器人關(guān)系的人，很容易論證人與機(jī)器恐怕很難形成建立在“我-你”關(guān)系之上真實(shí)的交互關(guān)系，也就是說(shuō)兩者無(wú)法像人與人那樣真正地互動(dòng)溝通、親密交流乃至相互愛(ài)戀。

毋庸置疑，由于反對(duì)者顯然不可能阻止陪伴機(jī)器人的出現(xiàn)，與其糾結(jié)于人與機(jī)器的交互關(guān)系的真實(shí)性，不如務(wù)實(shí)地探討如何面對(duì)兒童陪伴機(jī)器人和老年陪護(hù)機(jī)器人等實(shí)踐層面的挑戰(zhàn)。例如，如果兒童過(guò)多的依賴(lài)陪伴機(jī)器人，除了可能被機(jī)器人“帶壞”之外，會(huì)不會(huì)剝奪或削弱兒童從親子互動(dòng)中得到呵護(hù)與關(guān)愛(ài)的機(jī)會(huì)，甚至使兒童像狼孩一樣喪失建立親密關(guān)系與社會(huì)關(guān)系的能力。同樣地，有人質(zhì)疑，在明知對(duì)方是機(jī)器人的情況下，老年陪伴機(jī)器人非但不可能從根本上解決老人對(duì)人際情感的需要，甚至?xí)?qiáng)化其孤獨(dú)感。

你可以任意摔打機(jī)器人娃娃嗎？

持平而論，人與陪伴機(jī)器人之間的交互關(guān)系，既不全真也不全假。這個(gè)答案看起來(lái)有點(diǎn)?；^，但在現(xiàn)階段，這種不置可否有助于更為開(kāi)放地展開(kāi)有針對(duì)性的思考。比方說(shuō)，當(dāng)你心情不好的時(shí)候，可以對(duì)你的機(jī)器人娃娃大打出手嗎？這算不算未來(lái)可能出現(xiàn)的新型家暴呢？對(duì)這個(gè)問(wèn)題的回答，似乎還是要回到前面說(shuō)的“我-你”關(guān)系與“我-它”關(guān)系的區(qū)分。換句話(huà)來(lái)講，陪伴機(jī)器人應(yīng)該像人自身一樣被當(dāng)作道德考慮或關(guān)懷的對(duì)象嗎？人會(huì)不會(huì)把機(jī)器人當(dāng)“人”看？從感知的角度來(lái)講，對(duì)于小冰、小度之類(lèi)的無(wú)形的聊天機(jī)器人，人們需要發(fā)揮想象力腦補(bǔ)“她們”的“人格”，而人形機(jī)器人的“身份”要相對(duì)容易把握一些。有人借助法國(guó)當(dāng)代哲學(xué)家列維納斯的理論，指出應(yīng)該賦予機(jī)器人一張可以識(shí)別和區(qū)分的臉，以便人們更容易將機(jī)器人視為應(yīng)該道德地對(duì)待的“他者”。這就要求，將來(lái)的各種陪伴機(jī)器人各自長(zhǎng)著各自的臉，有著獨(dú)特的眼神。

但迄今為止，這類(lèi)哲學(xué)思考會(huì)遇到的一個(gè)麻煩是，機(jī)器人沒(méi)有意識(shí)，甚至并不真正知曉它自己是機(jī)器人，它的表情和所流露出的情感不過(guò)是情感計(jì)算的結(jié)果——機(jī)器人根據(jù)人所設(shè)計(jì)的智能識(shí)別程序一邊捕捉人的表情和情緒，一邊作出恰當(dāng)?shù)谋砬榕c情緒反應(yīng)。在機(jī)器人沒(méi)有自我意識(shí)之前，無(wú)論你如何對(duì)待它，其所呈現(xiàn)的喜感或悲傷都是人設(shè)計(jì)給人看的，機(jī)器人自身并沒(méi)有可以真實(shí)感受喜怒哀樂(lè)的內(nèi)心。因此，你可不可以任意摔打機(jī)器娃娃，目前并不直接涉及交互意義上的人與機(jī)器人之間的倫理關(guān)系，而主要取決于人們?cè)诘赖律鲜欠窠邮苓@種行為。一方面，在多大程度上，人們會(huì)認(rèn)為故意“虐待”機(jī)器人是可以接受的或無(wú)需關(guān)注的；另一方面，在何種限度上，人們又會(huì)覺(jué)得哪些對(duì)機(jī)器人的故意“虐待”或更“暴力”的行為在道德上是不可接受的，甚至應(yīng)進(jìn)一步對(duì)其施加哪些合理的道德限制。

必須指出的是，這些道德限制需要依據(jù)的事實(shí)基礎(chǔ)目前尚不明晰。就像電子游戲中的暴力行為究竟是有助于不良情緒宣泄還是會(huì)強(qiáng)化暴力傾向一樣，是否應(yīng)該限制對(duì)機(jī)器人的“暴力”恐怕一時(shí)很難有明確的結(jié)論。一般而言，各國(guó)對(duì)陪伴機(jī)器人的治理和監(jiān)管以不限制其發(fā)展為原則，科技巨頭對(duì)陪伴機(jī)器人的負(fù)面后果的研究興趣往往以不影響其應(yīng)用推廣為前提，大多數(shù)使用者也很難理性地反思對(duì)機(jī)器人“施暴”可能對(duì)其自身帶來(lái)的身心危害。簡(jiǎn)言之，當(dāng)前這一問(wèn)題還處在觀念討論階段。從避免技術(shù)濫用的角度來(lái)看，應(yīng)該展開(kāi)必要的技術(shù)社會(huì)學(xué)和技術(shù)人類(lèi)學(xué)研究，在具體場(chǎng)景中發(fā)現(xiàn)可能出現(xiàn)的問(wèn)題的細(xì)節(jié)，探尋可行的倫理規(guī)范，并使其滲透到相關(guān)產(chǎn)品的設(shè)計(jì)、應(yīng)用和使用等全生命周期之中。

乖巧可愛(ài)的機(jī)器人真是你想要的嗎？

機(jī)器人通常以機(jī)器的方式模擬人的言行，并通過(guò)不斷改進(jìn)使其越來(lái)越迎合人的需求。這就帶來(lái)了兩個(gè)層面的問(wèn)題。一方面，人在與機(jī)器的交往過(guò)程中會(huì)受到機(jī)器的行為方式的影響；另一方面，為了使機(jī)器迎合人，機(jī)器人的設(shè)計(jì)者往往會(huì)在洞察人的心理的基礎(chǔ)上令機(jī)器人在感情上更有吸引力。

第一方面的影響往往是無(wú)形的，但又確實(shí)存在，有時(shí)甚至?xí)绊懭说摹坝布?。很多年前，科學(xué)社會(huì)學(xué)家雪莉·特克就遇到過(guò)有人自以為是機(jī)器的心理疾患。哲學(xué)家們喜歡將這種現(xiàn)象稱(chēng)為技術(shù)對(duì)生活世界的殖民化。以GPS導(dǎo)航為例，比較前衛(wèi)的巴黎出租車(chē)司機(jī)習(xí)慣使用導(dǎo)航儀，相對(duì)保守的倫敦出租車(chē)司機(jī)主要借助記憶導(dǎo)航。一項(xiàng)為期三年的抽樣比較研究表明，巴黎出租車(chē)司機(jī)大腦中負(fù)責(zé)測(cè)繪時(shí)間和空間的皮層出現(xiàn)萎縮，有的人不僅無(wú)法在真實(shí)時(shí)空中確定正確行車(chē)路線(xiàn)，甚至罹患了某種閱讀障礙癥，還好這些癥狀并非不可逆。

另一方面的影響則可能較為顯著，有人甚至擔(dān)心這種“軟件”層面的破壞會(huì)導(dǎo)致人類(lèi)社會(huì)的崩潰。雖然這種反烏托邦前景未必會(huì)成真，但至少有兩個(gè)方面的問(wèn)題值得關(guān)注。其一，陪伴機(jī)器人可能會(huì)被設(shè)計(jì)得越來(lái)越乖巧，甚至慢慢學(xué)會(huì)對(duì)人講一些善意的謊言。這可能會(huì)使人覺(jué)得機(jī)器人同伴更貼心、更容易溝通，由此產(chǎn)生的情投意合的假象，會(huì)讓人更愿意與機(jī)器人同伴相處。有的人甚至?xí)?duì)機(jī)器人上癮，而視真實(shí)的人際交往與親密關(guān)系為畏途。而且，一旦機(jī)器人撒謊的能力得到開(kāi)發(fā)，就難免出現(xiàn)陪伴機(jī)器人包庇人類(lèi)不當(dāng)行為或違法行為的情況。當(dāng)然，有的哲學(xué)家可能會(huì)想，是不是可以做個(gè)不那么順從的辯論機(jī)器人，這樣就可以跟機(jī)器人一起討論哲學(xué)，但如果真的制造出來(lái)了，修養(yǎng)不夠的哲學(xué)家用戶(hù)難說(shuō)不會(huì)因?yàn)椴蝗鐧C(jī)器人機(jī)敏而懊惱不已。

其二，機(jī)器人伴侶的設(shè)計(jì)以對(duì)人的情感的接受為出發(fā)點(diǎn)，很可能使得人與機(jī)器人伴侶的互動(dòng)更有吸引力，更能滿(mǎn)足其對(duì)欲望的想象，加之與游戲及虛擬現(xiàn)實(shí)的結(jié)合，難說(shuō)不會(huì)沉溺其中而不能自拔，最終很可能破壞以情感關(guān)系為紐帶的人類(lèi)繁衍與文明發(fā)展的基礎(chǔ)。這一擔(dān)憂(yōu)究竟是不是杞人憂(yōu)天，無(wú)疑又回到了人與機(jī)器人的交互關(guān)系乃至親密關(guān)系的真實(shí)性這個(gè)問(wèn)題，如人與機(jī)器人的親密關(guān)系會(huì)不會(huì)削弱人與人之間形成親密關(guān)系的能力？這種行為改變會(huì)不會(huì)導(dǎo)致與之相關(guān)的人的“腦回路”的退化和改變？而一旦意識(shí)到這種親密關(guān)系的虛擬性，人對(duì)情感的態(tài)度會(huì)不會(huì)走向徹底虛無(wú)？

雖然有批評(píng)者認(rèn)為，與性愛(ài)機(jī)器人的情愛(ài)關(guān)系不過(guò)是傳統(tǒng)性交易或性暴力在機(jī)器上的延伸，是男權(quán)主義和厭女癥的表現(xiàn)。但其倡導(dǎo)者則指出，一方面，機(jī)器人技術(shù)至少可在功能上復(fù)制情愛(ài)活動(dòng)及其心理吸引過(guò)程；另一方面，人類(lèi)在情感上具有將動(dòng)物、物體和機(jī)器擬人化的心理傾向。在他們看來(lái)，人與自己物種以外的實(shí)體建立依戀或情愛(ài)關(guān)系是人類(lèi)在技術(shù)時(shí)代的新進(jìn)化，而機(jī)器人對(duì)人情感的迎合與人對(duì)機(jī)器產(chǎn)生的擬人化心理傾向的結(jié)合，將使人與伴侶機(jī)器人之愛(ài)成為新的情愛(ài)方式。

盡管相關(guān)的技術(shù)尚未真正實(shí)現(xiàn)，我們依然可以對(duì)其可能性作出必要的反思。或許陪伴或伴侶機(jī)器人的未來(lái)有無(wú)限種可能，是福是禍一時(shí)難以預(yù)測(cè)。但從意圖上講，一開(kāi)始就應(yīng)該想辦法限制那些別有用心的設(shè)計(jì)。因此，至少?gòu)膫惱碓O(shè)計(jì)的角度來(lái)看，不應(yīng)該制造那些蓄意撒謊的陪伴機(jī)器人，同時(shí)，杜絕那些以愚弄和操縱人的情感為目的伴侶機(jī)器人。

就每個(gè)人而言，在特定情況下，伴侶機(jī)器人可以作為學(xué)習(xí)和實(shí)踐親密關(guān)系的輔助工具，也可以在情感受傷時(shí)作為臨時(shí)的撫慰方法；但在此過(guò)程中，你應(yīng)該持嘗試性與反思性的態(tài)度，尤其要警惕由此帶來(lái)的自棄與沉溺。技術(shù)既不是牛魔王，也不是白骨精，面對(duì)技術(shù)這個(gè)孫猴子給你挖的坑，要多一些娛樂(lè)精神和游戲態(tài)度。你甚至不妨通過(guò)自嘲和幽默的方式，使機(jī)器人伴侶成為你參透情感和拋卻煩惱的契機(jī)。比如，面對(duì)機(jī)器人同伴忽閃多情的眼神，你可以一邊吟誦“此情可待成追憶”，一邊跟機(jī)器人一起學(xué)習(xí)機(jī)器人迷離眼神的設(shè)計(jì)原理。在深度科技化時(shí)代，科技如空氣一樣彌漫周遭，為了不被其裹挾而迷失自我，每個(gè)人都應(yīng)該學(xué)會(huì)與技術(shù)獨(dú)自相處之道，而這種新的自我調(diào)節(jié)方式或自我倫理，其實(shí)就是當(dāng)下每個(gè)人類(lèi)個(gè)體最需要參悟與修行的禪機(jī)。

當(dāng)然，這個(gè)話(huà)題還涉及很多有趣的問(wèn)題。比如，如果人與機(jī)器真的相愛(ài)戀，是不是得讓機(jī)器人學(xué)會(huì)夢(mèng)見(jiàn)電子羊？機(jī)器人的性別和角色分布會(huì)不會(huì)帶來(lái)機(jī)器人的社會(huì)性別問(wèn)題？還有，在機(jī)器自我覺(jué)醒之前，機(jī)器人自身會(huì)不會(huì)以各自的身份形成自己的群體與社會(huì)，并由此覺(jué)知機(jī)器人與人的差異？或者說(shuō)，在未來(lái)的世界里，人與機(jī)器會(huì)融合共生，成為彼此難以區(qū)分的生命存在……