Computer Power and Human Reason: From Judgement to Calculation，Joseph Weizenbaum，W.H. Freeman & Company，January 1976

盡管ChatGPT是2022年底才出現(xiàn)的新事物，足夠以假亂真的人工智能卻并不新，對人工智能的反思也不新。1968年即已投入實踐的ELIZA，就是一款能夠和人流暢對話、開解苦悶，甚至讓當(dāng)時的精神科醫(yī)師都在熱議人機如何協(xié)作、人會不會被取代的人工智能。在那些為技術(shù)進(jìn)展而歡欣鼓舞的時人看來，ELIZA的出現(xiàn)標(biāo)志著強人工智能，或者說所謂的技術(shù)“奇點”，幾乎已是觸手可及。讓人意外的是，ELIZA的開發(fā)者約瑟夫·魏岑鮑姆（Joseph Weizenbaum）幾乎沒有太多的遲疑，就斷然放棄了這一前路一片光明的方向。

不僅如此，魏岑鮑姆走上了截然相反的道路。1976年，他出版《計算機權(quán)力和人類理性：從決斷到計算》（以下簡稱《權(quán)力》）一書，先自數(shù)理和技術(shù)，再到哲學(xué)和法律，又從科學(xué)和政治，對以ELIZA為代表的人工智能展開甚為全面、深刻、尖銳的批判。今日觀之，依舊代表了這一議題極高的水準(zhǔn)。遺憾的是，盡管偶爾還有少許著述會一帶而過這本奇書，半個世紀(jì)之后再度狂熱的今人，大體已經(jīng)遺忘了魏岑鮑姆這位奇人。當(dāng)二十一世紀(jì)的“ELIZA”再臨，我們值得徹底地重讀魏岑鮑姆的自白，仔細(xì)地聆聽其警語。

奇人其人

1923年，魏岑鮑姆出生在德國柏林的一個村莊。生長于斯，歸根于斯，并在中間大約三十年的時間里深刻改變了人工智能。魏岑鮑姆在這一領(lǐng)域的工作具備天馬行空般的獨創(chuàng)性和開放性。一方面，ELIZA是當(dāng)時的技術(shù)和工程前沿水平的代表，是理論推演和繁密機巧的精細(xì)綜合。另一方面，《權(quán)力》體現(xiàn)了對十?dāng)?shù)個彼此相隔甚遠(yuǎn)的領(lǐng)域的熟稔———先從波蘭尼寫到圖靈機，再從軟件開發(fā)的日?；貧w霍爾姆斯大法官（Holmes, Jr.）的判決。在爬梳千頭萬緒的論證理路之前，需要概述魏岑鮑姆的成長環(huán)境、學(xué)術(shù)場域和社會氛圍的影響。

約瑟夫·魏岑鮑姆（Joseph Weizenbaum）

《權(quán)力》有從起點出發(fā)推演展開的綿長邏輯鏈條，也有不時迸發(fā)的對純真年代不再的失落喟嘆。無論是邏輯的起點，還是偶然的感傷，隱約都能窺見根植于鄉(xiāng)村生活的，對自然主義和神秘主義的不懈復(fù)歸。開篇伊始，魏岑鮑姆就從耕地的犁寫起，速覽了一部人類在工具理性主義中不斷迷失、日益袖手的歷史。這部歷史中有著里程碑意義的兩個端點，一是鐘表，一是計算機。鐘表為何如此重要？在其發(fā)明之前，人對時間的理解根植于生活世界的直接經(jīng)驗——廣闊原野的物候，往復(fù)輪轉(zhuǎn)；在其發(fā)明之后，人逐步疏遠(yuǎn)了自然的時間，取而代之的，是一個與生活世界平行的、理性的、可度量的、科學(xué)的、人造的時間模型。面對誘惑力和成癮性毫不遜色于鐘表的計算機，魏岑鮑姆難以自抑對素樸的柏林和新英格蘭鄉(xiāng)村生活的深深留戀。無怪乎在全書接近結(jié)尾時，他擲地有聲地論斷：人和人工智能終究有別的邏輯根本，是人工智能終究缺乏每一個人類嬰兒都必須經(jīng)歷的“走出伊甸園”的社會化過程。在推進(jìn)全書最為核心的論證時，作為一名計算機科學(xué)家，魏岑鮑姆并沒有將其邏輯起點建筑在各色的不完備和測不準(zhǔn)定理之上——盡管他相當(dāng)熟悉這些定理，也在書中多次引述了這些定理——而是將“母親和嬰兒間不可分離的相互性”，以及這一紐帶所必然經(jīng)歷的“悲劇性的分離”作為整個論證的前提。

田園牧歌和精神分析只是《權(quán)力》一小部分的主題。魏岑鮑姆的主要任務(wù)，還是與諸多至今仍在影響人工智能發(fā)展的學(xué)者對話，并嘗試挫敗他們的野心。他要對話的學(xué)科和學(xué)者很多，有一部分還是他當(dāng)時在麻省理工學(xué)院的同事好友。無論是同樣橫跨許多學(xué)科的司馬賀（Herbert Simon）和諾姆·喬姆斯基（Noam Chomsky），還是用心理學(xué)等交叉學(xué)科方法解析人類智能的伯爾赫斯·斯金納（Burrhus Skinner）和艾倫·紐厄爾（Alan Newell），抑或是最早開辟人工智能技術(shù)“奇點”和具身智能領(lǐng)域的諾伯特·維納（Nobert Werner）和特里·文諾格拉德（Terry Winograd），在魏岑鮑姆看來，都太過狹隘地將人的智能視為僅僅是在完成信息處理的任務(wù)?；蛘哒f，都過分篤信了作為一時顯學(xué)的控制論的視角：將人的智能等同于設(shè)置特定的目標(biāo)以后，根據(jù)信息輸入選擇理性的策略的機器。這一任務(wù)并不容易。當(dāng)一個時代的眾多學(xué)科都在熱烈擁抱一個充滿希望的新范式，且因此不斷取得突破時，批判性的對話注定荊棘叢生?？上攵?，僅僅依賴隱喻般的“走出伊甸園”的論證不太可能說服這些學(xué)者。魏岑鮑姆必然需要深入對方的腹地，“用魔法打敗魔法”，以控制論范式自毀其根基。在《權(quán)力》當(dāng)中，他也確實這樣努力過了。

返璞歸真的愿望和學(xué)術(shù)場域的辯駁都很珍貴，但魏岑鮑姆深知，為了阻止人與自然的分離，為了防止工具理性主義的宰制，也是為了喝止人在技術(shù)面前受到誘惑放棄自我判斷的能力，這些都還不夠。他還需要和大眾對話，還需要和當(dāng)權(quán)者對話。在當(dāng)時美國的社會氛圍下，既有對科學(xué)的狂信成癮，亦有少許萌芽的批判。二者的聲浪大小全然不成比例。在當(dāng)時美國的社會現(xiàn)實里，既有勾連學(xué)界驅(qū)動人工智能研究的軍工復(fù)合體，也有在越戰(zhàn)反戰(zhàn)聲浪下對人工智能技術(shù)的揭露批判。受軍事部門資助用于監(jiān)控、傷害、殺戮的人工智能驅(qū)馳無礙。魏岑鮑姆其言其行，可謂體現(xiàn)出一種無可救藥的理想主義。他不僅是在用心最深的一本著作中背離了自己的專業(yè)，勉力追逐理想中的自然主義和神秘主義；他也不僅是直面當(dāng)時最為炙手可熱的顯學(xué)，盡力辯駁在十幾個學(xué)科都已取得耀眼成就的革命范式；他還要去揭露大眾在思考技術(shù)時的盲點，直陳大眾既不了解、也不研習(xí)技術(shù)本身，只是按照自身主觀賦予技術(shù)的屬性來“思考”技術(shù)；他甚至還要扳停軍工技術(shù)前方的道閘，疾呼停止語音識別技術(shù)的研發(fā)。只從立場出發(fā)，當(dāng)時的人幾乎沒有誰會喜歡《權(quán)力》。然而，或許正是因為超越了當(dāng)時幾乎所有人的一己之見，《權(quán)力》的生命力才有可能超越一時一地。

多岐路，今安在？

《權(quán)力》何以瑰奇？歸根結(jié)底，還是其對人工智能的批判甚為全面、深刻且尖銳，足以啟示今人。魏岑鮑姆的經(jīng)歷、智識、成就和勇氣，包括其創(chuàng)作和叛離了半個世紀(jì)前的“ChatGPT”，終究只是理解批判的背景音。充分闡發(fā)《權(quán)力》為何足以啟示今人，不僅需要重述其間論證，還要闡明這些論證如何關(guān)系到今日依然重要的議題?！稒?quán)力》的論證頗為連貫，又甚為綿長。就此，扼要將其約簡至三個部分。每一部分采取不同學(xué)科的視角，分別聚焦人工智能的可信賴性、權(quán)力濫用和可問責(zé)性。半個世紀(jì)以來，這些議題一直都很重要。誤入歧路的危險（放任人工智能辜負(fù)信賴、宰制擅權(quán)且無法負(fù)責(zé)）始終存在。

首先從理論計算機科學(xué)的視角出發(fā)，從根本上質(zhì)疑人工智能的可信賴性。魏岑鮑姆的論證思路是：通過論證人和人工智能之間存在根本的鴻溝，闡明有的事情只能由人來承擔(dān)，而不能由人工智能來承擔(dān)。為此，需要分別闡明人的根本和人工智能的根本，然后解析二者間的鴻溝。人的根本，特別是無法為工具理性主義所徹底洞察的根本，在于其個體性、無意識和“走出伊甸園”的社會化過程。先說個體性。《權(quán)力》在此佯作退讓：采取同時期控制論的視角和術(shù)語，承認(rèn)人對世界的理解可以視為在其信念結(jié)構(gòu)中完成對世界知識的表征。之后圖窮匕見商榷之意：因每個人的信念結(jié)構(gòu)彼此不同，且無法通約，對世界知識的表征在根本上是一個具備個人性的過程。也就是說，不可通約的信念結(jié)構(gòu)間的差異，這一“根本的私密性”，導(dǎo)致了理解的個人性。探討人工智能的所謂“理解”，因而只能是對語詞的“驚人的”挪用。再是無意識。從其個人體驗、眾多學(xué)者和藝術(shù)家的創(chuàng)作體驗以及同時期對左右腦功能差異的研究出發(fā)，《權(quán)力》較早強調(diào)了人的無意識對人工智能批判的意義。按其斷言，即使未來科學(xué)能夠解析人的每一個神經(jīng)元，其依舊不足以理解由夢、直覺、靈感、天啟和創(chuàng)造力混合而成的這片“海平面下的混沌”。進(jìn)而言之，即使人工智能能夠以左腦的方式表征信息、形成理解，也永遠(yuǎn)不可能以右腦的方式運作。最后是作為邏輯起點，造成個人性和無意識的社會化過程。這一過程起自母親和孩子間“悲劇性的分離”，在教育、婚姻、戰(zhàn)爭和愛恨情仇當(dāng)中不斷深化。沒有經(jīng)歷人的社會化過程的計算機，無法由此形成根本性的私密的信念結(jié)構(gòu)，也不具備由此蘊育的無意識的混沌。計算機的根本是圖靈機能夠加以計算的任務(wù)。個體性、無意識和神秘主義都落在能夠計算的任務(wù)范圍之外，從而落在由計算機運行的人工智能能夠理解的范圍之外。既然人工智能不能理解人的根本，人的根本要事就只能由人來做，而不能依賴人工智能去做。

其次以哲學(xué)和法律為主要視角，反思人工智能的發(fā)展催生權(quán)力濫用的兩種機制。具體來說，從技術(shù)哲學(xué)出發(fā)，人工智能放任了制定和執(zhí)行法則的權(quán)力的濫用；從司法裁判出發(fā)，人工智能在默會、不成文、地方性的知識面前充滿了傲慢。盡管計算機不能做到應(yīng)當(dāng)由人去做的許多事情，但在圖靈機能夠計算的范圍之內(nèi)，其有著制定和執(zhí)行法則的絕對的權(quán)力。任何表面上的桀驁不馴都來源于人的錯誤，總是能夠通過“捉蟲（Bug）”的方式加以改正。除此之外，其總是遵循邏輯，總是流暢運行，總是按照程序員的意旨忠實地運行。循此，魏岑鮑姆直陳其凜然的機鋒——既然絕對的權(quán)力導(dǎo)致絕對的腐敗，掌握制定和執(zhí)行法則的絕對權(quán)力的程序員，也將不可避免地濫用其權(quán)力。這一點既體現(xiàn)在程序員以人工智能“革新”“重塑”“顛覆”社會的本能般的沖動當(dāng)中，也體現(xiàn)在其普遍的倫理冷感和隨波逐流當(dāng)中。當(dāng)其如魯莽的醉漢般論證人工智能足以解析人的狀況時，他們不過是不斷地尋找能夠證明自身正確的線索或啟示的、狀似理性的賭徒。半個世紀(jì)以來，這樣沖動的無思和無知仍舊愈演愈烈，儼然熊熊之勢?！稒?quán)力》之后引用霍爾姆斯大法官在迪亞茲訴岡薩雷斯案（Diaz v. Gonzalez）一案中的說理，闡明人工智能的另一種傲慢。此間論證可由一句質(zhì)問加以概括：如果人和人工智能之間的差別不會比霍爾姆斯大法官所言的美國文化和日本文化之間的差異更小——二者間有著“不同的關(guān)切、默示的預(yù)設(shè)、不成文的實踐、以及其他至少一千種不同的影響因素”，由人工智能來為人的事做判決，怎么可能會是正當(dāng)?shù)淖龇?，又怎么可能不是?quán)力的濫用呢？

最后是從軟件工程和科學(xué)政治的實踐視角出發(fā)，預(yù)見人工智能在可解釋性和可問責(zé)性上的缺失。人工智能越界做了人做的事，人工智能濫權(quán)為人做了判決，這些本身都不那么可怕。真正可怕的是我們無法知曉人工智能的當(dāng)前狀況，無法要求應(yīng)當(dāng)為其濫用負(fù)責(zé)的人來負(fù)責(zé)，從而，也就無法阻止所有的越界、濫權(quán)和災(zāi)禍的發(fā)生?！稒?quán)力》在此的論證甚為用心、用情。畢竟，能夠在半個世紀(jì)前如此熟稔軟件工程，又同時處在軍工復(fù)合體的勾連關(guān)節(jié)處的人本就不多。按其所述，軟件開發(fā)中的封裝實踐導(dǎo)致我們最終難以知曉人工智能的狀況，政治在科學(xué)實踐背后的隱蔽運作導(dǎo)致人工智能責(zé)任者的悄然隱沒。先是軟件工程和可解釋性。所謂封裝，指的是將復(fù)雜的計算機代碼“打包”，使程序員得以在毋需知曉包裹內(nèi)部細(xì)節(jié)的情況下加以利用。封裝當(dāng)然是顯著促進(jìn)了人工智能等復(fù)雜軟件的發(fā)展，也早已成為軟件工程實踐的標(biāo)準(zhǔn)動作。盡管如此，每一次封裝，都是事實上造成了一個黑箱；每一次對封裝的利用，都是搬來一個新的黑箱；每一次對利用了封裝的代碼的再利用，都是在堆疊黑箱。隨著黑箱之上不斷堆疊新的黑箱，質(zhì)變終將到來，人終將徹底喪失理解一個人工智能的能力。這一在半個世紀(jì)前開始露頭的問題，今日早已催人袖手。如果只有兩百行代碼的ELIZA已然不那么容易理解，更何況是簡介其概況就需要近兩百頁的ChatGPT？再是科學(xué)政治和可問責(zé)性。同樣可以一言以蔽之：計算機和人工智能，幫著在國內(nèi)外狂轟濫炸、肆意監(jiān)控的美國軍事和情報機關(guān)干了不少臟活。無論是開展為越南村莊的“戰(zhàn)略價值”，或者說值得轟炸的程度打分的研究項目，還是資助基于人工智能的語音識別，為大規(guī)模的無差別監(jiān)控儲備技術(shù)，為美國政府辯護(hù)的聲音都可以輕描淡寫地說：“只有行動，沒有行動者；只有壞事，而沒有壞人?！庇谑牵斯ぶ悄艿呢?zé)任悄然蒸發(fā)了。魏岑鮑姆在此以讀者幾乎震耳欲聾的語氣疾呼：人工智能背后存在著行動者！今天，面對越界、濫用和為禍的人工智能，我們依然在呼喚可解釋性和可問責(zé)性。或者說，我們依然在孜孜不倦地探明壞事究竟如何發(fā)生，如何讓壞人對此負(fù)責(zé)。

直面的勇氣

即使只是一個經(jīng)過約簡的論證，我們依舊足以感知其撲面而來的廣度、深度和力度。既然涉及人之為人、權(quán)力節(jié)制和解釋問責(zé)等大問題，可想而知，魏岑鮑姆的主張不會只有原則口號——即使在半個世紀(jì)前這也已是陳詞濫調(diào)，也不會只是大概沒有人相信會奏效的政策和制度補丁。他的主張不僅僅是從自己開始，從人工智能的開發(fā)者轉(zhuǎn)為批判者開始，也不只是少許具體但有力的對策，包括停止語言識別的研究和禁止人工智能用于判決。在此之上，他的主張不僅包括將研究的焦點從“能不能”轉(zhuǎn)向“該不該”，即使人工智能能夠做許多事情，人工智能也不應(yīng)該去做這些事情，還包括摒棄對工具理性主義的迷信，直面深海中的混沌。每個人、學(xué)術(shù)社群和整個社會，都應(yīng)該重拾勇氣。

個人需要勇敢地直面混沌。也就是說，發(fā)揚人的根本，阻止鴻溝消弭。個人性、無意識和社會化是人區(qū)別于人工智能的根本所在。發(fā)揚或者復(fù)歸能夠?qū)Υ思右源龠M(jìn)的自然主義、神秘主義和具身主義，相應(yīng)足以成為人主動區(qū)隔于人工智能的策略所在。有趣的是，從人的立場出發(fā)闡明的區(qū)隔策略，恰好也是半個世紀(jì)至今人工智能立場下的技術(shù)難點和熱點。不要在與現(xiàn)實平行的、理性的、懸浮的模型中理解生活世界，而是去親身感知一度遭到疏遠(yuǎn)的自然，是一種區(qū)隔策略。與此同時，如何為人工智能建立所謂“世界模型”（World Model），使其能夠掌握人的常識、場景和對世界的體驗，是人工智能至今尚未解決，2023年以來甚為熱門的技術(shù)問題。不要把人抽象地視為可通約的信息處理機器，而是承認(rèn)每個人之間不可通約的根本的私密性，認(rèn)可在每個人的社會化過程當(dāng)中涌現(xiàn)的夢、直覺、靈感、啟示等無意識，是又一種區(qū)隔的策略。與此同時，如何理解人工智能等心智問題，能否談?wù)摗⑷绾握務(wù)撊斯ぶ悄苁欠窬邆鋬?nèi)部性、無意識和超越體驗，亦是ChatGPT展現(xiàn)其能力以來更加熱門的議題。不要認(rèn)為一切理解都包含于心靈的理念之中，而是承認(rèn)許多知識蘊含在物理的肌肉、關(guān)節(jié)和韌帶之中，認(rèn)可心靈和身體的平等二分，是另一種區(qū)隔的策略。與此同時，如何開發(fā)所謂的“具身人工智能”（Embodied AI），為人工智能賦予如人一般行動的肌肉、關(guān)節(jié)和韌帶，也是人工智能至今仍在探索，2023年以來同樣甚為熱門的問題。值得一提的是，《權(quán)力》并不認(rèn)為人必然能夠成功。其論斷在當(dāng)時天馬行空，在今日猶未落后：如果未來出現(xiàn)能夠完整模擬人的身體的數(shù)字機器人，策略將不再奏效。 

計算機社群需要勇敢地直面黑暗。《權(quán)力》在五十年前就指出：程序員在人工智能研發(fā)當(dāng)中的倫理冷感和隨波逐流，在接受本科和研究生時期的計算機專業(yè)教育時就扎下了根。魏岑鮑姆在教育上有切身的體驗，話說得也很重。按其所感，計算機專業(yè)的學(xué)生和教師都在很大程度上忽視了一個整全的人格對這門學(xué)科的重要性。對學(xué)生來說，一方面，計算機科學(xué)和人工智能并不困難，這是一門“只需要一點點指導(dǎo)，一個有著合理水平的條理的頭腦就可以嫻熟的手藝”；另一方面，這門簡單的手藝可以提供即時的反饋和極具誘惑的控制感，這樣的后果就是，“他們自認(rèn)為是真正地掌握了一門有著相當(dāng)?shù)牧α亢椭匾缘募妓嚕瑢崉t只知其皮毛，對其實質(zhì)一無所知”。結(jié)果，無論是學(xué)生自己，還是他們的教師，都很容易把即時反饋的權(quán)力掌控之下的成癮和敗壞誤認(rèn)為是興趣和使命感，從而放任學(xué)生走上無思和無知的沖動歧路。計算機專業(yè)的教師同樣面臨歧路的誘惑。一方面，教授一門充斥著推導(dǎo)和計算的學(xué)科很容易帶來虛幻的知識優(yōu)越感，使其誤認(rèn)為這是一門更“硬”的學(xué)科，對人文社科領(lǐng)域的新知閉目塞聽。另一方面，當(dāng)學(xué)生和教師一同陷入傲慢且沖動的陷阱，他們也就割斷了自身從所謂的“軟”學(xué)科汲取養(yǎng)分的可能性，從而也就放棄了培育整全人格的可能性。由此，計算機學(xué)科的技術(shù)精英魯莽地挪用概念、濫用權(quán)力、敗壞倫理，常?？梢詮慕逃桨钢幸挼酶?。五十年后，余音回響，愈而響亮。

最后，整個社會需要勇敢地直面風(fēng)險。這是一部批判工具理性、批判人工智能、批判權(quán)力宰制的書，這也是一部為人的無意識、內(nèi)在的私密性和默會的私密性在技術(shù)發(fā)展過程中的根本重要性正名的書，從而，也是一本為整個社會勇敢直面風(fēng)險鼓與呼的書。偶然、黑暗和混沌不只是壞事。當(dāng)工具理性主義的宰制浸潤社會，當(dāng)人和人工智能間的鴻溝逐漸滅失，當(dāng)我們從計算理性的極致——納粹的“最終解決方案”中沒有得到足夠的教訓(xùn)，擁抱偶然、直面黑暗和接受混沌不僅不是壞事，還很有可能是維護(hù)人之為人的必行之事。值得一提的是，魏岑鮑姆對計算機和人工智能、納粹的大屠殺和工具理性主義之間的深層關(guān)聯(lián)的探討，較齊格蒙·鮑曼（Zygmund Bauman）的經(jīng)典論述還要早了好些年。在發(fā)出技術(shù)的納粹即將再臨，結(jié)局很可能是又一場不可避免的大屠殺（Holocaust）的警語之后，《權(quán)力》結(jié)尾處提出了最為深刻地體現(xiàn)其無可救藥的理想主義的主張。或許難以做到，然而必須做到。值得照錄如此：“無論是一名教師，還是其他的任何人，如果他想要在他人面前成為一個整全的人的范例，他必須自己首先努力成為一個整全的人。如果沒有直面自身的內(nèi)部世界和外部世界的勇氣，不可能成為整全的人。僅僅憑借工具主義的理想不能實現(xiàn)這一點。正是這里存在著人和機器之間的關(guān)鍵差別：為了變得整全，人必須永遠(yuǎn)地是內(nèi)心世界和外部世界的探險者。他的生活充滿了風(fēng)險，但這些是他有著勇氣去接受的風(fēng)險，因為，就像一個探險者那樣，他學(xué)會了相信他自己，相信他自己能夠去忍受、去克服的能力。當(dāng)一個人談到機器的時候，機器的風(fēng)險、勇氣、信任、忍耐和克服，又有什么意思呢？”

結(jié)語：我們時代的魏岑鮑姆

我們重讀了半個世紀(jì)前的“ChatGPT”的發(fā)明者的自白?！稒?quán)力》至今依然代表著人工智能治理議題上的極高水準(zhǔn)。這有三層意義。一是其中所關(guān)注的許多議題至今依然很重要。無論是可信賴性、可解釋性、可問責(zé)性等治理議題，還是世界模型、具身智能等技術(shù)色彩更強的議題，2023年以來都還在爭論不休。二是在這些議題上的論證依然具備極高的水準(zhǔn)。盡管論證所援引的部分學(xué)術(shù)工作已經(jīng)有些陳舊，建立在基礎(chǔ)理論、人文哲學(xué)和實踐體悟之上的思辨整體來看有著持久的生命力。三則是每個時代都不多見的、極強的道德感召力。

進(jìn)而言之，半個世紀(jì)后再面對相似的問題，從中依然可以得到不少現(xiàn)實的啟發(fā)。魏岑鮑姆涉及了很多相對具體的建議。既有改革計算機專業(yè)課程的設(shè)置，加入對可信賴性、可解釋性、可問責(zé)性等倫理問題的討論。這已是當(dāng)前國內(nèi)外計算機專業(yè)都在探索的改變。也有增強每個人的道德勇氣：比起思考“能不能”，要多去思考“應(yīng)不應(yīng)該”。如果見到壞人用人工智能做壞事，勇敢地說“不”。在此之上更加值得思考的，是這個時代能否再有魏岑鮑姆?；蛘哒f，我們的時代是否也會產(chǎn)生一部融貫廣博人文、精深科技和道德勇氣的奇書？