下載客戶端

登錄

技術(shù)的頂點，是造福人類還是超越人類？

2021-02-05 19:08

來源：澎湃新聞·澎湃號·湃客

△

題圖來源：《星際穿越》

我們很容易忽視我們在宏大的生態(tài)系統(tǒng)中的卓越地位，尤其是在一個容易依賴技術(shù)引領(lǐng)我們走向我們渴望的未來的時代。

我們真的相信技術(shù)比人類更復雜和必要嗎？被創(chuàng)造的東西真的能取代它的創(chuàng)造者嗎？我們必須共同決定，是在宏偉技術(shù)的幫助下為人類建設(shè)更美好的未來，還是以犧牲人類為代價建設(shè)一個更好的技術(shù)的未來。

技術(shù)的頂點是什么？

文 | 卡洛斯·莫雷拉、戴維·弗格森

來源 | 《超人類密碼》

轉(zhuǎn)載自 | 學人讀書（ID：scholar_book）

原子彈之后，

技術(shù)是否將再一次凌駕于人類之上

我們以前也經(jīng)歷過類似的情況，結(jié)果總是事與愿違。我們集體做出了錯誤的選擇，或者說，我們沒有及時做出正確的選擇。我們沒有把人性放在首位，而是提升了對技術(shù)的承諾。我們讓技術(shù)引領(lǐng)我們，技術(shù)卻讓我們誤入歧途。這種看似細微的疏忽總是把我們的生活變得更糟糕。

1895年，德國機械工程師威廉·倫琴（Wilhelm Rontgen）發(fā)現(xiàn)了X射線。他的發(fā)現(xiàn)讓法國化學家皮埃爾·居里和瑪麗·居里3年后發(fā)現(xiàn)了放射性元素。居里夫婦發(fā)現(xiàn)放射性元素的10年后，新西蘭物理學家歐內(nèi)斯特·盧瑟福（Ernest Rutherford）和英國放射化學家弗雷德里克·索迪（Frederick Soddy）發(fā)現(xiàn)鈾的放射性是原子分裂的結(jié)果。僅僅這3項發(fā)現(xiàn)——X射線、放射性和原子分裂，就推動了科技在世界范圍內(nèi)的發(fā)展，而科技的發(fā)展反過來又永久地改變了人類歷史的進程，可是因為我們沒有保持警惕，結(jié)果也有壞的一面。

倫琴

倫琴、居里夫婦、盧瑟福和索迪都獲得了諾貝爾獎，而且索迪在放射性方面的工作引起了全世界對核反應(yīng)的關(guān)注，這也成為科幻作家H.G.威爾斯于1914年出版的未來主義小說《解放全世界》的主要靈感來源，這部小說描繪了戰(zhàn)爭時從飛機上空投原子彈的場景。20年后，威爾斯想象的原子彈在德國的一個秘密實驗室里變成了現(xiàn)實。匈牙利物理學家利奧·西拉德（Leo Szilard）致信美國總統(tǒng)富蘭克林·羅斯福，向他通報了德國的計劃，并敦促美國開始發(fā)展自己的核武器。西拉德邀請阿爾伯特·愛因斯坦在這封信上簽名，這讓這封信更有分量。曼哈頓計劃由此誕生。

6年后，1945年8月6日和9日，美國分別在廣島和長崎投下了秘密武器——原子彈，迅速結(jié)束了第二次世界大戰(zhàn)。人類損失慘重，但事實上，人類遭受的持久傷害早在1945年夏天之前就已經(jīng)開始了，恰好在50年前的1895年，當時的一系列科學發(fā)現(xiàn)讓我們把技術(shù)提升到了人類之上。

被原子彈摧毀的長崎

在我們興奮而又輕率地奔向未來的過程中，我們的前輩一路乘著技術(shù)浪潮，來到了核戰(zhàn)爭這一無可挽回的威脅面前。這一認識促使愛因斯坦最終哀嘆道：“讓我害怕的是，我們的技術(shù)已經(jīng)超越了我們的人性，這一點已經(jīng)變得非常明顯。”

今天的情況貌似不同，但其利害關(guān)系的重要性并不亞于X射線和原子分裂的發(fā)現(xiàn)。我們當前的技術(shù)高峰之前的進步浪潮，與20世紀之交的那一波同樣值得注意：1973年，羅伯特·梅特卡夫（Robert Metcalfe）發(fā)明了以太網(wǎng)；1975年，溫頓·瑟夫（VintonCerf）和羅伯特·卡恩（Robert Kahn）發(fā)明了互聯(lián)網(wǎng)；1976年，喬布斯和沃茲尼亞克發(fā)明了第一臺個人電子計算機；1990年，蒂姆·伯納斯·李（TimBerners-Lee）發(fā)明了萬維網(wǎng)。這些激動人心的進步催生了第一個瀏覽器、第一個搜索引擎、第一個社交網(wǎng)絡(luò)、第一部智能手機和第一個手機應(yīng)用。隨著虛擬現(xiàn)實、區(qū)塊鏈、數(shù)字貨幣、人工智能和機器人等技術(shù)的發(fā)展，技術(shù)正在進一步加速發(fā)展。

我們又一次處于臨界點。我們必須首先提醒自己，我們每個人擁有的身體、思想和靈魂比世界上一切東西都先進。正是人類這一資源為我們提供了最大的靈感，并對所有人最好的未來做出了最偉大的詮釋。

我們必須記住，目前存在的以及將來會存在的所有技術(shù)，都是我們自身完善的技術(shù)體系的產(chǎn)物。如果我們在這個浩瀚的宇宙中擁抱我們的主要價值，然后收獲人類的巨大資源，我們就能確保在未來的日子里實現(xiàn)大多數(shù)人最深切希望的。如果我們忽視了這一點，那么我們失去的將不僅僅是生命，而是我們生存的理由。

《2001：太空漫游》劇照

追問：

什么是主流，技術(shù)還是人性？

《連線》雜志創(chuàng)始主編凱文·凱利（KevinKelly）稱科技是“人類的催化劑”。這種加速效果讓我們興奮不已。當蘋果發(fā)布最新款iPhone（蘋果手機）時，我們一起慶祝。人工智能機器人、虛擬現(xiàn)實和自動駕駛汽車的新聞讓我們大開眼界。目前，科技是全球最熱門的話題和最熱門的投資領(lǐng)域，而且這一趨勢在短期內(nèi)似乎不會降溫。許多曾經(jīng)只存在于科幻小說中的場景如今已成為現(xiàn)實。未來，我們會看到教育、醫(yī)療和電力等行業(yè)的效率達到前所未有的水平，還會看到對抗癌癥和饑餓等全球性問題的更偉大的勝利，甚至是永久的勝利。

但正如埃里克·韋納（ErikWeiner）在《洛杉磯時報》的一篇專欄文章中所指出的那樣，目前仍存在沖突。他寫道：

“我們生活在便利的時代，這一理念是硅谷推銷的核心，我們熱衷于此。我們認為便利不僅是一種美好，也是一種期望，一種權(quán)利……但我們往往沒有意識到便利生活的全部成本。”

科技提供給我們的“便利”

今天的技術(shù)世界是由幾十萬人的思想和資源來建立和管理的。因此，在我們生活的社會里，最富有的1%的人現(xiàn)在積累的財富比世界上其余人的總和還要多，他們中的大多數(shù)人都是通過科技發(fā)家致富的。我們對技術(shù)的讓步，讓我們在不知不覺中把經(jīng)濟授權(quán)給了1%的人，而不是創(chuàng)造一個為所有人、子孫后代和地球的繁榮而運行的經(jīng)濟。如果我們不共同記住全人類固有的價值，并開始把人們的權(quán)利放在追逐利潤之上，這種不平衡就會加速。

凱文·凱利寫道：“我們今天生活中每一個重大變化的核心都是某種技術(shù)。”決定世界如何變化的首要問題是我們將如何使用技術(shù)，而不是我們將使用什么技術(shù)。技術(shù)將作為主要的催化劑和主導力量繼續(xù)存在。它正在并將繼續(xù)成為我們生活中越來越重要的一部分。關(guān)鍵的問題是，我們是繼續(xù)讓技術(shù)削弱我們的卓越地位，還是重申自己作為技術(shù)的創(chuàng)造者和完美主義者的地位？我們的職責是確保被創(chuàng)造、接受和擴散的東西總是首先培養(yǎng)出更優(yōu)秀、更健康的人類。

凱利解釋說：“我們不同于我們的動物祖先，因為我們不僅僅滿足于生存……這種不滿足激發(fā)了我們的創(chuàng)造力和成長。”我們必須做出的決定是明智地管理我們至高無上的聰明才智和蓬勃發(fā)展。我們必須不斷問自己：“什么是主流？是人性還是技術(shù)？”我們必須在全世界范圍內(nèi)采取必要的措施，確保我們的答案是人性，而且永遠都是人性。

機器人與人類女孩

有些人認為，我們應(yīng)該無條件地把對人類未來的控制權(quán)交給機器。他們把自己的信念建立在所謂的“技術(shù)奇點”上，技術(shù)奇點假設(shè)，已經(jīng)出現(xiàn)的人工智能最終會引發(fā)一場智能爆炸，產(chǎn)生一種強大的計算機超級智能，其質(zhì)量將遠遠超過人類的所有能力。科幻作家弗諾·文奇（Vernor Vinge）在他的文章《即將到來的技術(shù)奇點》中說，這將標志著人類時代的終結(jié)，因為新的超級智能將繼續(xù)進行自我升級，并以人類無法理解的速度前進。換言之，我們將成為機器的奴隸。

這一假設(shè)的重大缺陷在于，它沒有考慮人類的精神和道德特征，而正是這些特征將我們與地球上的其他物種區(qū)分開來，這些特征包括直覺、同理心、遠見、信念，以及凱利所說的獨創(chuàng)性，它們來源于人類永遠渴望“更好”。埃隆·馬斯克（Elon Musk）最近承認，人類被低估有一個關(guān)鍵的原因。機器人永遠不會知道患上癌癥或因饑餓失去孩子的感覺。人工智能永遠無法理解分娩、海上的日落或?qū)崿F(xiàn)10年夢想的宏偉場面。計算機程序永遠無法與人類的復雜性相比，因為人類具有廣泛的情感和部落特征。

最好的技術(shù)可以做的是，根據(jù)我們的管理、我們的設(shè)計、我們的編程來確定工作的優(yōu)先順序。關(guān)鍵是確保我們分配給它的優(yōu)先事項和我們賦予它的管理方法符合全人類的最佳利益。解決辦法是將人類的核心屬性，即那些使我們與地球上的每一種生命形式區(qū)別開來的屬性，編入我們創(chuàng)造的技術(shù)中；將人類智慧代碼寫入人工智能技術(shù)，以便讓產(chǎn)品為我們服務(wù)，而不是讓我們屈從于它。

人性外包：

技術(shù)正在讓人性商品化、標簽化

技術(shù)只有在我們允許的范圍內(nèi)才能自由發(fā)展。到目前為止，我們在管理技術(shù)自由方面一直很遲鈍。操縱美國總統(tǒng)大選或許是一個轉(zhuǎn)折點。至少，它為全球敲響了警鐘。但我們必須掌握的真相要微不足道得多：我們都是臉書平臺操縱能力的同謀。我們創(chuàng)造了它，多年來一直欣然接受它，賦予它力量，無論是有意的還是無意的。

2012年1月的一個星期里，臉書從大約70萬名用戶接收到的新聞推送中刪除了10%到90%的積極情緒內(nèi)容。這一行動是臉書和美國學者正在進行的一項秘密研究的一部分，他們都想知道，用戶的情緒是否會被朋友通過社交網(wǎng)絡(luò)表達的情緒所影響。他們的最終目標是確定是否有可能操縱用戶接收到的推送，從而使他們更快樂，理論上，這會讓他們在臉書上停留更長時間，讓他們接觸更多的廣告，從而增加臉書的收入。據(jù)《衛(wèi)報》專欄作家斯圖爾特·杰弗里斯（Stuart Jeffries）稱，這項研究發(fā)現(xiàn)：“減少某人接收到的新聞推送中積極情緒內(nèi)容的數(shù)量，會導致他們在自己的狀態(tài)更新中使用的積極詞匯的數(shù)量顯著下降，而消極詞匯的數(shù)量略有增加。”換言之，這項研究證明，如果臉書愿意的話，它可以影響用戶的情緒，從而達到贏利的目的。

正如你所想象的那樣，當臉書進行測試的消息被泄露時，用戶的反應(yīng)不太愉快。杰弗里斯解釋道：“臉書可能想讓我們在它的網(wǎng)站上更快樂，這樣我們就能待得更久，這讓人很反感……這樣馬克·扎克伯格就可以買更多的游艇了?！彪m然杰弗里斯認為這是“一種令人厭惡的商業(yè)模式”，但他承認這種做法在各類技術(shù)平臺上并不是新鮮事。他援引《倫敦書評》的作者托馬斯·瓊斯（Thomas Jones）的話提醒我們：“臉書的目的是搜集、組織和存儲盡可能多的個人信息，以便向廣告商推銷，并篩選和分層……我們不是臉書的用戶，而是它的產(chǎn)品?！?/p>

正如瓊斯所言，讓“日常生活方方面面地媒介化和商品化”，并不只有臉書這么做。從手機、搜索引擎到門鈴、安全攝像頭和聲控揚聲器，你使用的幾乎所有技術(shù)工具都是這么做的。我們生活在一個由技術(shù)驅(qū)動的世界里，這個世界的真相讓我們像杰弗里斯一樣不禁要問：我們是否已經(jīng)成了“被切除腦葉的實驗室老鼠”，可以被改變情緒以增加公司收入？事實上，正在爭奪網(wǎng)絡(luò)控制權(quán)的為數(shù)不多的幾家大型平臺公司——臉書、亞馬遜、谷歌和推特，并不是為了影響我們的情緒而進行這項活動的。大多數(shù)情況下，這些公司都希望我們在使用它們的產(chǎn)品時打起精神，以便為我們推送更多我們想要的東西。這當然是提供良好客戶服務(wù)的基礎(chǔ)，為客戶提供服務(wù)的最佳方式莫過于盡可能多地了解客戶。然而，這種方法引發(fā)了一些更關(guān)鍵的問題。

◆ 如果搜集到的關(guān)于你的信息并不能說明全部情況該怎么辦？

◆ 如果你尋找的東西不僅僅是一天十幾個數(shù)字印記該怎么辦？

◆ 最重要的是，這些公司掌握關(guān)于你的信息之后還能做些什么？

在一個日益受到我們所使用的技術(shù)影響的世界里，我們使用的技術(shù)越多，失去的做人的自由就越多。

對現(xiàn)代科技公司而言，它們的一大法寶就是把你的身份、個人數(shù)據(jù)和行為搜集、翻譯，并賣給其他公司的營銷人員，后者需要這些信息來向你推銷產(chǎn)品。這種算法被稱為“行為定向”，它有效地利用技術(shù)對你的行為的翻譯來影響你未來的決策。這從表面上看是無害的，在現(xiàn)代，這似乎不過是一種精明的營銷策略，也許你根本不相信它會影響我們。不幸的是，這種用技術(shù)贏利的普遍做法不僅改善了公司的營銷工作，還改變了我們對自己的看法，這直接影響著我們的行為方式，以及我們會變成什么樣的人。

在一個極少人能看到的隱蔽的現(xiàn)實背后，你正在把你的人性外包給一小部分公司，這些公司可能是善意的，但它們永遠無法充分保護你，永遠不能完全代表你，永遠無法幫助你實現(xiàn)期許和夢想。在大多數(shù)情況下，它們所做的恰恰相反：破壞你的基本自主權(quán)。

電影《社交網(wǎng)絡(luò)》劇照

這個問題比經(jīng)濟問題大得多。我們正在談?wù)摰氖?，在全球生態(tài)系統(tǒng)中，人類生活面臨的一個明顯的現(xiàn)實威脅。我們是存在的頂峰，頭頂著創(chuàng)造的皇冠。但我們在不知不覺中創(chuàng)造了全球歷史上最大的敵人——現(xiàn)代的科學怪人。但我們?nèi)匀豢梢钥刂乒适碌慕Y(jié)局。我們必須心甘情愿且明智地行使這種控制權(quán)。

技術(shù)的本質(zhì)：

讓人類自由地做自己

在前三次工業(yè)革命中，人類首先利用蒸汽機實現(xiàn)生產(chǎn)機械化，然后用電力實現(xiàn)大規(guī)模生產(chǎn)，最后利用電子信息技術(shù)實現(xiàn)生產(chǎn)自動化。在過去的半個世紀里，第四次工業(yè)革命在第三次工業(yè)革命的基礎(chǔ)上開始發(fā)展，德國著名經(jīng)濟學家克勞斯·施瓦布（Klaus Schwab）認為，第四次工業(yè)革命的特征是“跨越物理、數(shù)字和生物領(lǐng)域的技術(shù)融合”。

如果部署得當，這種融合極具發(fā)展前景。幾十年來一直存在的全球性問題，如獲得清潔的水源和治愈某些癌癥，現(xiàn)在都可以得到解決。幾十年來似乎無法實現(xiàn)的全球性任務(wù)，例如普及教育，現(xiàn)在已經(jīng)成為我們生活中的現(xiàn)實。但就目前情況而言，施瓦布描述的消除各個領(lǐng)域之間的界限在很大程度上導致了對人類資源的濫用，以及失去對未來的掌控。

人類的精神和愿望的本質(zhì)是自由：做自己的自由，表達個人信念的自由，以及成為我們能成為的最好的自己的自由。事實上，我們不僅是人類，還是進化中的人類。“我們作為集體會變成什么”這個問題為我們世界的未來寫下了劇本。技術(shù)能否讓我們共同成為最好的自己？

人類與技術(shù)的不穩(wěn)定結(jié)合給我們每個人都留下了一個生存問題。它正擺在我們面前，在我們的心中激蕩。你想要的僅僅是生存，還是真正的繁榮？數(shù)千年的人類歷史提供了一個顯而易見的答案，這個答案將我們與其他所有生命形式區(qū)分開來：人類渴望繁榮、進步，渴望變得比現(xiàn)在更好。

THE END