原創(chuàng) 鐘文 品玩

作者｜鐘文

五個(gè)無辜者被一個(gè)瘋子綁在電車軌道上，眼看著一輛失控的電車正在駛來，此時(shí)你的手上有一個(gè)拉桿，可以讓電車開到另一條軌道上。但另一個(gè)條軌道上也綁了一個(gè)無辜者。

你會(huì)為了救五個(gè)人而犧牲另一個(gè)人嗎？

這個(gè)電車難題是倫理學(xué)上最著名的思想實(shí)驗(yàn)之一，在這個(gè)實(shí)驗(yàn)中，背負(fù)倫理矛盾，被要求做出選擇的是人。菲利帕·福特在上個(gè)世紀(jì)60年代提出這個(gè)問題，55年后這個(gè)問題不得不被進(jìn)一步復(fù)雜化。

面前是這樣的生死時(shí)刻，如果握著這柄拉桿的是人工智能和算法呢？

《道德自主汽車》，圖片拍攝自「Hello,Robot.」展覽現(xiàn)場

在一件名為《道德自主汽車》的概念作品中，瑞士設(shè)計(jì)師馬修·切魯比尼假想了一個(gè)并不存在的自動(dòng)駕駛系統(tǒng)。

自動(dòng)駕駛技術(shù)因其具備提升社會(huì)效率的巨大潛力，已經(jīng)成為人類與人工智能最矚目的交匯點(diǎn)之一。汽車曾在工業(yè)時(shí)代標(biāo)志著人類社會(huì)的巨大革新，又逐漸進(jìn)化成一個(gè)新的智能體，開始在新的時(shí)代顛覆人類對(duì)于機(jī)器人的舊定義。

如果自動(dòng)駕駛的原則進(jìn)一步細(xì)化下去，分別以社會(huì)影響、貨幣成本或者乘客個(gè)人安全作為第一優(yōu)先級(jí)的考慮因素，未來的智能汽車將會(huì)如何在面對(duì)一場不可避免的車禍時(shí)提供最優(yōu)解？

馬修·切魯比尼提出了這個(gè)問題。這件關(guān)于自動(dòng)駕駛的思辨設(shè)計(jì)作品目前正于北京798藝術(shù)區(qū)的現(xiàn)代汽車文化中心里展出，是由現(xiàn)代汽車和維特拉設(shè)計(jì)博物館共同主辦的機(jī)器人主題展覽中的一件。

機(jī)器人，這個(gè)從人類的浪漫幻想里誕生的名詞，現(xiàn)在已經(jīng)深刻地進(jìn)入了工業(yè)領(lǐng)域，在深度學(xué)習(xí)和人工智能的羽翼逐漸豐滿之后，機(jī)器人開始嘗試與人類情感發(fā)生聯(lián)結(jié)。這其中帶來興奮與不安，也在重置人與機(jī)器的關(guān)系。人與機(jī)器該如何共生？幻想正在變成一個(gè)需要嚴(yán)肅思考的現(xiàn)實(shí)問題。

其中一些尖銳的思辨被科學(xué)家和藝術(shù)家們抓住，成為作品，收錄進(jìn)這個(gè)主題展中。

「Hello,Robot.」，是這個(gè)展覽的名字。

戲劇、夢(mèng)幻與人類想象：Room1

自動(dòng)駕駛的展品被放置在展覽開篇的第一個(gè)房間，同一個(gè)房間里，一同展示的有世界上第一個(gè)出現(xiàn)在大熒幕上的等身機(jī)器人Elektro (Moto-Man)、星戰(zhàn)里的C-3PO和R2-D2，以及草薙素子，一些大眾藝術(shù)品中關(guān)于機(jī)器人的標(biāo)志性形象。

圖片拍攝自「Hello,Robot.」展覽現(xiàn)場

算法、人工智能、IoT，科技的進(jìn)步成為我們一次次重新定義機(jī)器人的憑據(jù)，而人類對(duì)于機(jī)器人的最初靈感，強(qiáng)烈的夾雜著文學(xué)和藝術(shù)性，具體來說，Robot這個(gè)詞來源于一場戲劇。

1920 年，卡雷爾·怡佩爾創(chuàng)作的一個(gè)關(guān)于R.U.R公司生產(chǎn)機(jī)器人的劇本首次出版，在這些機(jī)器人起義反抗之前，他們是沒有任何權(quán)利的廉價(jià)勞動(dòng)力。在這部戲劇中，「Robot」這個(gè)日后將會(huì)成為世界上所有知名的搜索引擎中的高頻詞被創(chuàng)造出來，隨著戲劇第一次出現(xiàn)在維也納、柏林以及紐約。

在C-3PO和R2-D2的照片旁邊，一塊屏幕上放著發(fā)電站樂隊(duì)2017年《3-d the catalogue》專輯里的一首歌。這個(gè)從「泡菜搖滾」開始一腳踹開電子樂大門的柏林樂隊(duì)，也讓柏林至今仍然無可爭議的留著一張Techno圣地的名片。

兩年后的2019年，一張叫做《Auxuman Vol.1》的專輯發(fā)布，制作公司是Auxuman， 一家人工智能音樂初創(chuàng)公司。這張專輯收錄了十首歌，由人工智能創(chuàng)作和演唱，最熱門的一首《One》在YouTube上的觀看次數(shù)超過了8萬人。最高贊的留言看起來像是一句警告:「不要點(diǎn)踩(Dislike)，AI會(huì)記住你的，等到他們的時(shí)代來臨」。

《One》

人類對(duì)于機(jī)器人的戒備近乎本能，并且一直藏在浪漫空想的背面。當(dāng)非人類物體擺脫空想時(shí)代，機(jī)器人開始切進(jìn)人類生活，它首先成為了工具。

效率、工具與被替代的隱憂：Room2

從第一個(gè)空間出來，布景從黑色轉(zhuǎn)為明亮。這個(gè)寬闊展廳的一側(cè)，放著不同形狀又質(zhì)地各異的椅子，它們沒有榫卯，沒有螺紋和釘子。

展覽中的3D打印椅子。圖片拍攝自「Hello,Robot.」展覽現(xiàn)場

1986 年，美國科學(xué)家Charles Hull開發(fā)了第一臺(tái)商業(yè)3D印刷機(jī)；僅僅24年之后，世界上第一輛3D打印汽車Urbee問世；到今年7月，看慣了豐富河道的阿姆斯特丹居民們見證了人類歷史上第一座3D打印鋼橋的落成。這成為我們思辨的矛盾核心：在生產(chǎn)活動(dòng)中，機(jī)器人應(yīng)該取代人嗎，這會(huì)帶來什么后果？

"如果工人被機(jī)器人取代，丟了工作與收入，消費(fèi)能力降低，那么大批機(jī)器人生產(chǎn)出來的商品又沒有人購買，這是一個(gè)人與機(jī)器間的悖論。"

左側(cè)的一個(gè)電視屏幕在滾動(dòng)著一些采訪片段，一位學(xué)者這樣發(fā)問。

椅子的對(duì)側(cè)有一臺(tái)電腦，顯示的網(wǎng)頁關(guān)于一個(gè)測(cè)試：「你的職業(yè)被機(jī)器人取代的概率有多大？」

展品：機(jī)器人會(huì)取代你的工作嗎？測(cè)試：「你的職業(yè)被機(jī)器人取代的概率有多大？」。圖片拍攝自「Hello,Robot.」展覽現(xiàn)場

顯示屏的畫面里顯示，IT工程師的被替代率是73%，行政人員是97%，攝影師或短視頻拍攝者也到了50%。當(dāng)機(jī)器人能夠完全滿足人類的工作場景，金融分析師、秘書、酒保這些角色都將不復(fù)存在。

但仍有不少社會(huì)角色看起來會(huì)長久的處于安全區(qū)里，意外的是，除了極度依賴人類智慧的科學(xué)家與工程師們，一些與人類生活非?？拷墓ぷ饕搽y以被取代——比如護(hù)士。這意味著在我們目前所認(rèn)知的機(jī)器人極限里，當(dāng)觸及思想和情感，人類角色無法被完全代替。

但在機(jī)器人本身的發(fā)展中，「理解人類」本身就是最重要的課題之一，甚至是人類對(duì)于機(jī)器人好奇心的出發(fā)點(diǎn)。

機(jī)器人已經(jīng)遍布人類社會(huì)的工作場景。下一步勢(shì)必要跳出工作，與真正的人類情感相交。

圖靈測(cè)試、情感與自我拷問：Room3

電影《機(jī)械姬》里，年輕人迦勒被卷入一場關(guān)于機(jī)器人研發(fā)的騙局，隨著交談深入，年輕人逐漸被機(jī)器人駕馭，最終成了后者擺脫人類叛逃的一把鑰匙。

整個(gè)交談就是一場被擴(kuò)展了的圖靈測(cè)試，迦勒被要求回答的問題是，自己是否會(huì)在明知對(duì)方是機(jī)器人的情況下，依然把它當(dāng)做人類，并產(chǎn)生本能的共情。

電影《機(jī)械姬》

最終機(jī)器人Ava通過了測(cè)試，但迦勒也被永遠(yuǎn)困在一個(gè)狹小房間，這似乎是一場噩夢(mèng)的開始。

回到現(xiàn)實(shí)，人工智能的發(fā)展要積極地多，無數(shù)場圖靈測(cè)試已經(jīng)發(fā)生，機(jī)器人對(duì)于情感的接受和反饋，鋸齒感正在逐漸消失，它們開始成為人類情感生活的補(bǔ)充。

荷蘭觸覺公司2014年的產(chǎn)品Frebble可以讓觸覺同頻，一個(gè)人握緊著其中一個(gè)觸覺機(jī)器人，成對(duì)的另一個(gè)會(huì)將相同的觸覺傳遞到另一只緊握著它的手上。圖片拍攝自「Hello,Robot.」展覽現(xiàn)場Paro是一只海豹，也是一個(gè)為癡呆癥患者提供慰藉的治療機(jī)器人。它的身體里有聽覺和光學(xué)傳感器，你可以撫摸它，或者叫出它的名字，它會(huì)扭扭身子回應(yīng)你的。圖片拍攝自「Hello,Robot.」展覽現(xiàn)場

從抽象的推薦算法，到更容易理解的海豹，機(jī)器人一直在向人類情感靠近，但這并不是機(jī)器人的主動(dòng)選擇，荷爾蒙來自人類自己。

20世紀(jì)90年代，日本興起了感性工學(xué)（Kansei Engineering）的研究浪潮。感性工學(xué)基于語義分析，將人類感性與工程結(jié)合起來，并且傳遞到具體的商品設(shè)計(jì)和制造業(yè)里。

詭異的天才工程學(xué)教授石黑浩在2007年將自己的機(jī)器人“替身”帶入公共視野。石黑浩在機(jī)器人的仿真皮膚下埋入50多個(gè)傳感器和馬達(dá)，它可以挪動(dòng)身體，也有簡單的痛覺反應(yīng)器。石黑浩可以依靠遙控器和機(jī)器人眼球背后的攝像頭來實(shí)時(shí)地控制“替身”，甚至將它擺在學(xué)校教室代替自己上課。

石黑浩和他的替身

機(jī)器人對(duì)于人類情感的呈現(xiàn)和感知，就像是信息的輸出和輸入兩端一樣缺一不可。巧合的是，兩者幾乎在同一時(shí)期開始展現(xiàn)出發(fā)展跡象。

“情感計(jì)算是針對(duì)人類的外在表現(xiàn)，能夠進(jìn)行測(cè)量和分析，并能對(duì)情感施加影響的計(jì)算。”

1997年，Rosalind W. Picard發(fā)表著作《Affective Computing》，這位麻省理工學(xué)院跨領(lǐng)域尖端科學(xué)實(shí)驗(yàn)室Media Lab的人工智能領(lǐng)域巨擎，第一次在人工領(lǐng)域里劃出了情感計(jì)算的分支，依靠機(jī)器算法以及傳感器的支持，真實(shí)笑容與苦笑，以及更復(fù)雜的人類情緒，開始嘗試被轉(zhuǎn)錄為絕對(duì)理性的代碼。

2016年時(shí)，麻省理工計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室推出了一款名為“EQ-Radio”的設(shè)備，實(shí)驗(yàn)室團(tuán)隊(duì)表示，EQ-Radio可以依靠監(jiān)測(cè)呼吸和心率層面的細(xì)微變化，來判斷一個(gè)人的情緒是興奮、高興或者悲傷，并且準(zhǔn)確率達(dá)到87%。

從左到右：Fadel Adib博士、Mingmin Zhao博士以及Dina Katabi教授

但許多重要的問題在人工智能領(lǐng)域的發(fā)展初期被忽略掉了，直到近幾年才集中性地被被重視和重新提出，比如人工智能的道德問題，以及機(jī)器人被賦予的情感，是否需要在某一個(gè)界限內(nèi)。

《紐約時(shí)報(bào)》在2018年發(fā)表了一篇文章，指出當(dāng)下人工智能攜帶文化偏見，比如詞語"女性""婦女"與藝術(shù)人文類職業(yè)以及家庭聯(lián)系更緊密，詞語"男性""男人"則和數(shù)學(xué)、工程類職業(yè)更近。除此之外，從微軟、IBM和曠視三家公司的人臉識(shí)別API所關(guān)聯(lián)的數(shù)據(jù)來看，研究顯示人臉識(shí)別對(duì)于不同人種的準(zhǔn)確率存在巨大偏差，針對(duì)黑人女性的錯(cuò)誤率甚至高達(dá)30%。

深度學(xué)習(xí)為機(jī)器人快速形成人類思維提供通道，但以大量人類社會(huì)信息為養(yǎng)分的深度學(xué)習(xí)，本身就先天性的帶有偏見。一些研究者認(rèn)為這種偏見的濃度甚至?xí)谏疃葘W(xué)習(xí)的過程中被強(qiáng)化，因?yàn)樗鼈儾幌袢丝梢杂幸庾R(shí)地去抵制偏見。

機(jī)器人最終需要遵循人類的倫理規(guī)則，也需要足夠的道德敏感性，越來越多的學(xué)者意識(shí)到，這甚至應(yīng)該發(fā)生在機(jī)器人進(jìn)一步理解人類情感之前。

在上述展品的旁邊，安靜放著另外兩件作品，質(zhì)問著機(jī)器人的情感與人類的親近極限。

你是否愿意在生命的最后一刻與機(jī)器人相伴？

這個(gè)裝置叫做「臨終關(guān)懷機(jī)」，接近死亡的人類可以購買這臺(tái)機(jī)器，它將貼合著人類小臂的護(hù)膚對(duì)人類進(jìn)行安撫，置于機(jī)器內(nèi)的傳感器則可以感知人類的生命狀態(tài)，并且在最終，準(zhǔn)確的記錄下人類的死亡時(shí)間。圖片拍攝自「Hello,Robot.」展覽現(xiàn)場

或者將自己的衰老過程托付給機(jī)器人，甚至變成一個(gè)百分?jǐn)?shù)？

「火葬機(jī)器人」，通過將自己的毛發(fā)、指甲等等放入這個(gè)瓶子中，人類可以知道自己新陳代謝以及衰老的過程，隨著放進(jìn)去火化的東西越來越多，瓶下的百分?jǐn)?shù)會(huì)向前演進(jìn)，這也意味著與死亡越來越接近。藝術(shù)家陳丹想要表達(dá)的是，人類需要直面生命不斷進(jìn)入下一個(gè)階段的事實(shí)，并且積極地看待這件事的發(fā)生。圖片拍攝自「Hello,Robot.」展覽現(xiàn)場

無論如何，具備情感的機(jī)器人仍然與人類站在同側(cè)，這是這些作品背后所保留的潛在共識(shí)。在人與機(jī)器共生的不確定中，我們需要這樣一個(gè)堅(jiān)定的錨。

回歸、合一、我們共同的未來：Room4

如果突然有一天，所有的機(jī)器人都突然報(bào)廢，這個(gè)世界將會(huì)怎樣?顯而易見，這個(gè)世界也將幾近報(bào)廢， 這是我們的生活現(xiàn)狀。機(jī)器人還無法讀懂自然語言，但它與人類生活的相融早已經(jīng)發(fā)生了。

智能電動(dòng)車，充滿IoT芯片的房子，人類與機(jī)器人融合的最后階段就是人類生活在"機(jī)器" 里。這個(gè)機(jī)器可能是你的身體，或者整座城市。

城市是否一定要遵循扎根土地的原則，只能通過“建立-拆除-再建立”的邏輯演化？英國先鋒建筑電訊派成員朗·赫倫在上世紀(jì)60年代開創(chuàng)了“行走城市”的構(gòu)想，整個(gè)城市成為一個(gè)巨大的游牧系統(tǒng)，而人類融入其中。圖片拍攝自「Hello,Robot.」展覽現(xiàn)場

手機(jī)在很早前就被描述為人體的外接設(shè)備，智能汽車也將在未來普及，成為人體的更敏銳的官能。

人類從開始直立行走到進(jìn)化出高級(jí)文明，至少用了500萬年時(shí)間。而在短短兩個(gè)世紀(jì)內(nèi)，汽車的發(fā)明讓人類的“行走”速度提升到了數(shù)十公里每小時(shí)。

機(jī)器人與人類社會(huì)共生的過程中爭議不斷，但隨著機(jī)器人的發(fā)展越來越接近人類最初的幻想，這又是必然會(huì)發(fā)生的。2017年的沙特阿拉伯發(fā)生了一件重要的事，"女性"機(jī)器人索菲婭成為沙特第一位機(jī)器人"公民"。

這個(gè)由香港漢森機(jī)器人技術(shù)公司研發(fā)的類人類機(jī)器人，旨在學(xué)習(xí)和適應(yīng)人類的行為、并與人類一起工作。索菲婭的原型是奧黛麗·赫本，具有人工智能、視覺數(shù)據(jù)處理和面部識(shí)別功能，這意味著她可以解讀外界的信息，并且以語言或表情做出反饋。

類人類機(jī)器人索菲亞

在一次電視采訪中，當(dāng)采訪者表露出對(duì)于機(jī)器人的擔(dān)憂時(shí)，索菲亞甚至打趣說對(duì)方一定是看了太多馬斯克或者好萊塢的東西。

但這種擔(dān)憂是普遍存在的，這種擔(dān)憂在機(jī)器人越來越同時(shí)在形體和智力水平上接近人類的過程中愈發(fā)鮮明。這觸及到一個(gè)本質(zhì)的爭論，人類制造出的機(jī)器人，是希望成為人類的附庸，還是另一種與人類平起平坐的生物？你想變的比自然創(chuàng)造出來的更好嗎？

機(jī)器人促進(jìn)了進(jìn)化嗎？

這是這次展覽的最后兩個(gè)問題。

左為Ekso GT??，世界上唯一獲得 FDA（美國食品及藥物管理局）認(rèn)證的，用于治療中風(fēng)偏癱、高位截癱患者的機(jī)器人外骨骼，它為截癱患者提供了一個(gè)強(qiáng)力的外部支撐和行動(dòng)系統(tǒng)；右為醫(yī)療技術(shù)公司奧拓巴克在2007年推出的機(jī)電控制假肢，通過與身體的神經(jīng)末梢連接，假肢可以像自然手臂一樣重新與腦電波建立聯(lián)系。圖片拍攝自「Hello,Robot.」展覽現(xiàn)場

答案顯而易見，并且正在發(fā)生。

尾聲

最后一個(gè)房間，色調(diào)從溫暖的粉色重新暗淡下來，仿佛回到關(guān)于「科學(xué)與想象」的第一室。這契合著人類對(duì)于機(jī)器人的研究的演進(jìn)，從基于人體的幻想開始，然后成為工廠的機(jī)械手臂、客廳里的掃地機(jī)，在科技發(fā)展到一定程度后，重新將情感和仿生學(xué)的技術(shù)貫徹進(jìn)去，以期更深刻地融入人類生活。

機(jī)器人的發(fā)展，是人類對(duì)于自身和外部客觀世界的認(rèn)識(shí)的群體意識(shí)總和。最終，也許我們可以逃離恐怖谷，面對(duì)眼前觸手可及的人工智能放下戒備，問候一句

——HELLO,ROBOT.

「HELLO,ROBOT. Design between Human and Machine」，即《你好，機(jī)器人-人類、機(jī)器與設(shè)計(jì)》主題展，正在進(jìn)行中。

時(shí)間：2021年12月17日——2022年3月20日

地址：北京市朝陽區(qū)酒仙橋路甲4號(hào)798藝術(shù)區(qū)E-1號(hào)，現(xiàn)代汽車文化中心

這是該主題展在中國的首次亮相。

· 文章版權(quán)歸品玩所有，未經(jīng)授權(quán)不得轉(zhuǎn)載。

原標(biāo)題：《我與機(jī)器人，如何過好這一生？》

閱讀原文