技術(shù)對(duì)于世界的革命性意義早為人類共知，而對(duì)技術(shù)革命的人文反思卻相對(duì)關(guān)注寥寥。作為國(guó)內(nèi)較早從事人工智能歷史研究的學(xué)者之一，科學(xué)史博士、上海交通大學(xué)科學(xué)史與科學(xué)文化研究院客座研究員陳自富長(zhǎng)于從哲學(xué)和倫理角度反思新技術(shù)，并試圖將這種反思置入更為日?；?、脈絡(luò)化的場(chǎng)景中。

在文化縱橫雜志社、東方出版社和南都觀察共同舉辦的沙龍暨文化縱橫書系之《賽先生的夢(mèng)魘：新技術(shù)革命二十講》新書發(fā)布會(huì)上，陳自富就以曾受到廣泛關(guān)注的人工智能軟件“阿爾法狗（AlphaGo）”和人類基因組編輯事件為例，詳解他對(duì)新技術(shù)的種種人文反思。

反思技術(shù)變革的必要性

陳自富首先強(qiáng)調(diào)，不論是專業(yè)人士還是普通民眾，對(duì)于技術(shù)革命或重大科技變革等議題進(jìn)行討論和反思都有其必要性。普通民眾常被認(rèn)為在知識(shí)上無法與專業(yè)人士進(jìn)行平等討論，即便是專業(yè)人士中，不同專業(yè)乃至同一專業(yè)中的不同領(lǐng)域的人也存在認(rèn)知上的分歧，但是這些都不影響大家共同享受信息文明帶來的成果，共同承擔(dān)其中的責(zé)任，共同思考其中的意義。

這種反思既包括對(duì)技術(shù)內(nèi)容本身，也包括對(duì)其在社會(huì)、人文意義上更深層次的思考。前者拓展技術(shù)，后者則能夠幫助形成和強(qiáng)化人類在擴(kuò)展自身邊界時(shí)的“問題意識(shí)”，并從人與自然如何相處的問題意識(shí)延伸到技術(shù)重新定義人類反身性的問題意識(shí)。這樣的問題意識(shí)，在以尋求知識(shí)增長(zhǎng)為目的的自然科學(xué)領(lǐng)域和謀求人類平等、幸福的社會(huì)科學(xué)領(lǐng)域都是至關(guān)重要的。

技術(shù)革命大大拓展了人與自然的關(guān)系，創(chuàng)造了很多自然本不存在的東西，人類的邊界不斷延伸，人與技術(shù)也不斷融合，人類必須重新思考自身的定義。而對(duì)技術(shù)進(jìn)行人文反思的過程一方面能夠幫助我們提問，另一方面也讓問題意識(shí)浮現(xiàn)，提供多維視角，告別封閉性討論，不斷擴(kuò)大問題領(lǐng)域的外延，促使全社會(huì)不斷接近最大程度的共識(shí)，讓科技真正服務(wù)于人類福祉。

至于技術(shù)革命，陳自富解釋說，當(dāng)前被很多人稱為“第四次工業(yè)革命”乃至“智能革命”時(shí)期，且不細(xì)究說法，但回顧歷史可以發(fā)現(xiàn)，科學(xué)和技術(shù)實(shí)際上是并列關(guān)系，科學(xué)并不能代表技術(shù)。

回顧技術(shù)革命

工業(yè)革命之前，人類從最初學(xué)會(huì)使用火的蒙昧?xí)r代發(fā)展到實(shí)現(xiàn)畜牧業(yè)和農(nóng)業(yè)分離、農(nóng)業(yè)和手工業(yè)分離和商人出現(xiàn)的野蠻時(shí)代，而進(jìn)入早期文明時(shí)代后，私有制開始出現(xiàn)，產(chǎn)生以城市為標(biāo)志的定居文明，還出現(xiàn)了龐大的祭司階層，但是人口增長(zhǎng)與戰(zhàn)爭(zhēng)卻始終交替出現(xiàn)。直到第一次工業(yè)革命時(shí)期，蒸汽革命將生產(chǎn)的“動(dòng)力”徹底革新，畜力和水力被取代，冶金和機(jī)械制造成為重心，資本家開始出現(xiàn)。這是一次以英國(guó)為核心的單源性工業(yè)革命，并由此產(chǎn)生了工匠文化和商品輸出。

第二次工業(yè)革命是電力革命，電力的使用極大地推進(jìn)了包括汽車業(yè)在內(nèi)的重化工業(yè)發(fā)展，工業(yè)革命的范圍開始延伸，城市化腳步開始加快。也正是在此過程中，科學(xué)和技術(shù)的關(guān)系開始變化。作為工匠的瓦特身處于技術(shù)和科學(xué)并行的時(shí)代，但到了二次工業(yè)革命時(shí)期，化學(xué)、冶金等技術(shù)行業(yè)則仰賴于科學(xué)。阿爾文·托夫勒（Alvin Toffler）稱之為“第三次浪潮”、至今余韻未絕的第三次工業(yè)革命，以信息革命為主要特征，還包括核技術(shù)和航空航天技術(shù)以及農(nóng)業(yè)革命的發(fā)展，全球化程度越來越高，貧富差距也在拉大。

而當(dāng)前，信息革命正在向所謂的“智能革命”推進(jìn)，盡管第四次工業(yè)革命尚無公認(rèn)的說法，但人工智能、生物科技、航空航天和清潔能源等技術(shù)面向已經(jīng)越發(fā)突出，這些過去認(rèn)為完全不同的領(lǐng)域之間也在加速融合。以火星探測(cè)為例，由于距離帶來的時(shí)間延遲，導(dǎo)致無法進(jìn)行實(shí)時(shí)操縱，必須賦予火星上的探測(cè)器一定的自主判斷能力，也就是與人工智能發(fā)生緊密的結(jié)合，這一技術(shù)也會(huì)慢慢影響到地球的其他技術(shù)行業(yè)。

因此當(dāng)前這種跨領(lǐng)域的技術(shù)革新與前三次工業(yè)革命有了巨大的差異，具有跨領(lǐng)域特性的技術(shù)有極強(qiáng)的“正反饋”效果，技術(shù)的發(fā)展速度特別快，適用的人口范圍也特別廣。其重大意義在于，人類的認(rèn)知邊界將被全面拓展，向外進(jìn)入太空，向內(nèi)則進(jìn)入人類基因編輯層面。

但也正是在此狀況下，目前的技術(shù)革命并沒有得到科學(xué)的全面支援與支撐，我們尚缺乏各方面的準(zhǔn)備，原理上的茫然將帶來更大的未知，其影響也無法預(yù)知。正如蒸汽革命時(shí)期倫敦大力發(fā)展煤炭工業(yè)后帶來的嚴(yán)重污染，就是典型的解決實(shí)際問題，卻因不理解原理而無法預(yù)測(cè)其發(fā)展軌跡，進(jìn)而陷入困境。陳自富指出，只有具備科學(xué)理論基礎(chǔ)的技術(shù)在發(fā)展時(shí)才更有規(guī)律性，其后果和邊界才更容易澄清，便于人們做出理性選擇，對(duì)其技術(shù)路線的預(yù)測(cè)也會(huì)相對(duì)更加準(zhǔn)確。蒸汽機(jī)的制造與利用和核技術(shù)的發(fā)展已完全不可同日而語，后者必須建立在相對(duì)論這樣的理論基礎(chǔ)之上。

難以解釋的問題

所以大多數(shù)時(shí)候，科學(xué)不等于技術(shù)，人也不總是理性。目前認(rèn)知科學(xué)對(duì)于智能的理解和生物科學(xué)對(duì)于人類基因組修飾的所知都十分有限，但技術(shù)上嘗試的步伐似乎在不斷加速。一般而言，人類會(huì)對(duì)技術(shù)的發(fā)展作科學(xué)的算計(jì)，以求實(shí)現(xiàn)技術(shù)決策中的利益價(jià)值比較，也就是所謂的“兩害相權(quán)取其輕，兩利相權(quán)取其重”，然而在沒有相應(yīng)科學(xué)基礎(chǔ)的情況下，盲目決策出現(xiàn)的概率大大提高了。

以“阿爾法狗”為例，其在實(shí)踐上戰(zhàn)勝了人類最強(qiáng)棋手，在基于規(guī)則的博弈領(lǐng)域達(dá)到前所未有的高度，這樣亮眼的表現(xiàn)卻并不能說明人工智能已經(jīng)作為人造物開始模仿人類智能運(yùn)作，因?yàn)槿祟愖约簩?duì)于大腦運(yùn)作的原理也尚處于十分抽象的解釋階段，包括阿爾法狗在內(nèi)的智能技術(shù)進(jìn)展仍屬于缺乏足夠理論支持和知識(shí)基礎(chǔ)的工程實(shí)踐。

陳自富認(rèn)為，這種“難以解釋的生物智能或人工智能”就是我們當(dāng)前面臨的現(xiàn)狀，其中存在很多的問題?！爸R(shí)就是力量”，如果將知識(shí)作為智能的核心來源，那么由于認(rèn)識(shí)論是哲學(xué)的研究范疇，人工智能就與哲學(xué)有了糾纏；如果不考慮知識(shí)的核心地位，正如當(dāng)前人工智能深度學(xué)習(xí)所依賴的路徑本質(zhì)上與知識(shí)沒有太大關(guān)系，仍舊缺乏理論基礎(chǔ)。但需要指出的是，人工智能盡管沒有掌握所謂的知識(shí)，卻在棋類博弈游戲、定理證明、圖像識(shí)別等一些腦力活動(dòng)領(lǐng)域有了重大進(jìn)展，比之人類呈現(xiàn)出壓倒性優(yōu)勢(shì)，與過去蒸汽、電力的工具性利用相比，人類要如何面對(duì)這樣的進(jìn)步？

人類與人工智能

曾經(jīng)，機(jī)器取代人力導(dǎo)致工人失業(yè)，但總體而言工具性利用始終還被框限在“改造自然”的范圍內(nèi)，但隨著人工智能的技術(shù)發(fā)展，人類被取代的焦慮將會(huì)日益深重。要解決這一問題，需要明確的是，應(yīng)該如何定義人工智能？

人類似乎總在為自己尋找一個(gè)穩(wěn)定的哲學(xué)定義，人會(huì)利用工具、制造工具，人是符號(hào)動(dòng)物、理性動(dòng)物、知識(shí)動(dòng)物……這些似乎可以證明人類唯一性的特質(zhì)正在隨著技術(shù)的發(fā)展和認(rèn)識(shí)的深入不斷退縮，人工智能的突出表現(xiàn)更使得人類開始懷疑是否連“創(chuàng)新”都并非人類的本質(zhì)。因此，問題恐怕也要繼續(xù)回溯，是否從一開始，人類執(zhí)著于思考自己的本質(zhì)就已經(jīng)錯(cuò)了？

陳自富指出，之所以會(huì)出現(xiàn)人工智能挑戰(zhàn)人類的問題，正是由于人類從一開始就試圖通過本質(zhì)主義來定義自身，進(jìn)而定義人工智能，以準(zhǔn)確地區(qū)分人類和非人類。但這種對(duì)本質(zhì)的追求可能會(huì)導(dǎo)致一種永遠(yuǎn)沒有答案的遞歸，還有可能出現(xiàn)對(duì)人類肉身的超越，即這樣完美的人類定義是否真的存在？因此他認(rèn)為，人類只有放棄這種本質(zhì)主義的幻想，將智能、意識(shí)這種心理學(xué)詞匯設(shè)想為生物體與環(huán)境交互的過程，使之與人類的定義脫鉤，才能避免滑入這一困境中。

那么，如何理解人類與人工智能的概念和關(guān)系呢？

關(guān)于“人類”，實(shí)際上不存在靜態(tài)、固定的概念，勞動(dòng)、符號(hào)、理性、文化等都只刻劃了人類的某一方面，他進(jìn)一步指出，所謂的“人類”指的是具有獨(dú)特基因組的人類與其環(huán)境組合的產(chǎn)物，而環(huán)境的變化導(dǎo)致了在不同的歷史階段“人類”都有不同的內(nèi)涵和外延。當(dāng)代生物學(xué)和哲學(xué)對(duì)于人類的物種概念，甚至人類是否是一個(gè)物種，迄今未能達(dá)成一致，因此在這一 意義上討論人工智能對(duì)人類的取代或競(jìng)爭(zhēng)，其實(shí)是一個(gè)不恰當(dāng)?shù)膯栴}。

與此同時(shí)，人工智能也不像人類一樣存在有性生殖變異的基礎(chǔ)，存在著宏觀上生命與非生命的區(qū)別；并且人工智能的復(fù)雜程度比之人腦的功能模塊，也不在一個(gè)數(shù)量級(jí)上，在相當(dāng)漫長(zhǎng)的時(shí)間內(nèi)，人工智能都無法成為獨(dú)立的主體，也就無法作為生命體承擔(dān)責(zé)任，其缺陷或成就都將指向其人類設(shè)計(jì)者。

總的來說，區(qū)別于人工智能，有性生殖、社會(huì)性、語言能力、倫理責(zé)任等是人類作為高等生命的主要特征，而如科幻小說或電影中為人工智能或機(jī)器人賦予生命特征的例子，恐怕只能視之為一種隱喻或類比。

數(shù)學(xué)家和控制論先驅(qū)諾伯特·維納（Norbert Wiener）早年在其名作《人有人的用處》中提到一個(gè)如今科幻作品中常見的設(shè)定，即把人通過信息渠道傳輸?shù)搅硪惶帲愖愿粚⒅Q為“把人存儲(chǔ)起來”，前卡內(nèi)基梅隆大學(xué)移動(dòng)機(jī)器人實(shí)驗(yàn)室主任漢斯·莫拉維克（Hans Moravec）曾試圖實(shí)現(xiàn)這一構(gòu)想，也就是人類的機(jī)器化（mind as machine），個(gè)體的人可以以信息的方式儲(chǔ)存和傳輸；而家喻戶曉的圖靈測(cè)試（The Turing test）試圖判斷機(jī)器能否模擬人，反映的是計(jì)算機(jī)擬人化（machine as mind），二者截然不同卻都是把信息作為人的本質(zhì)，這與現(xiàn)今流行的基因觀點(diǎn)產(chǎn)生了聯(lián)系，人都有獨(dú)一無二的基因，以一段基因序列作為一個(gè)人唯一的標(biāo)志，這似乎可以作為人類與人工智能在信息上的聯(lián)系。

如果說信息是人的本質(zhì)，那么再加上個(gè)體和環(huán)境交互的歷史信息，人類社會(huì)可以基于信息重建，這個(gè)猜想或者說隱喻就構(gòu)成了信息本體論的一種形式。這與拉·梅特里（La Mettrie）在《人是機(jī)器》中提出的隱喻一樣，都在一定程度上反映了一種萬物均可形式化的機(jī)械世界觀，而其背后都是實(shí)證主義的哲學(xué)觀。

除了哲學(xué)上的考慮，陳自富還談及如今的技術(shù)帶來的倫理挑戰(zhàn)，例如以借助神經(jīng)網(wǎng)絡(luò)技術(shù)為照片人物脫衣的DeepNude和可以進(jìn)行人體圖像合成以偽造圖片的Deepfake這樣的技術(shù)作惡，利用算法強(qiáng)化社會(huì)偏見或不公的算法歧視等。不僅如此，沒有過程性因果解釋的算法是否能夠替代人類決策，對(duì)人類的生殖系基因修飾是否構(gòu)成對(duì)人類的生物學(xué)改造，花費(fèi)巨額代價(jià)為罕見病開發(fā)基因療法是否值得等問題都困擾著人類。

盡管人類可以用強(qiáng)人類中心主義或人類沙文主義來說服自己，用更透明的技術(shù)治理結(jié)構(gòu)來規(guī)訓(xùn)技術(shù)，通過驅(qū)除哲學(xué)上的本質(zhì)主義以謹(jǐn)慎支持生殖系基因修飾……但總體而言，在人類已經(jīng)無法進(jìn)化出更多新物種，也不可能再通過自然選擇以獲得更好基因型的情況下，人類不能在驚愕和茫然中坐視技術(shù)革命的自主發(fā)展。

陳自富最后強(qiáng)調(diào)，人類必須對(duì)未來的技術(shù)發(fā)展作出規(guī)劃和選擇，更好地進(jìn)行思考和提問以應(yīng)對(duì)技術(shù)的快速變革。