2018年9月在上海召開的世界人工智能大會讓社會與公眾走近也進(jìn)一步了解了人工智能。一方面，人們看到人工智能賦能新時代，給社會帶來了經(jīng)濟(jì)發(fā)展、產(chǎn)業(yè)結(jié)構(gòu)的變化。另一方面，也有人禁不住提問：人類正在面臨一場智能革命嗎？該如何定義所謂“智能革命”？這場革命對人類會有怎樣的影響？

面對這些問題，于上月底（2018年9月27日）在上海舉辦的“智能革命、城市與人類未來”研討會上，來自中國社會科學(xué)院、中國人民大學(xué)、清華大學(xué)、北京郵電大學(xué)、北京語言大學(xué)、上海社科院、復(fù)旦大學(xué)、上海交通大學(xué)、華東師范大學(xué)、上海大學(xué)、華東政法大學(xué)的學(xué)者圍繞“智能革命的實質(zhì)”、“智能革命對人類的深遠(yuǎn)影響”、“人類認(rèn)知與生活的深度智能化”、“‘生命智能社會復(fù)合體‘（Bio-intelligence-social Complex）與城市未來”等議題進(jìn)行了深入討論。

研討會由上海市科協(xié)、中國社會科學(xué)院科學(xué)技術(shù)和社會研究中心主辦，上海市自然辯證法研究會承辦，屬國家社科基金重大項目“智能革命與人類深度科技化前景的哲學(xué)研究”的一部分。

“澎湃新聞（www.xinlihui.cn）”獲主辦方授權(quán)，刊發(fā)研討會上部分專家學(xué)者的發(fā)言。本文包括其中“人類認(rèn)知與生活的深度智能化”這一議題。

機(jī)器學(xué)習(xí)與逼真虛構(gòu)

酈全民（華東師范大學(xué)教授）

這幾年人工智能很火，我沒有寫什么文章。不過，我原來確實是做人工智能哲學(xué)的。我的第一篇學(xué)術(shù)文章就屬于人工智能哲學(xué)，1998年發(fā)的，題目叫“人工智能中的達(dá)爾文主義”。我不是樂觀派也不是悲觀派，是個現(xiàn)實派。從進(jìn)化論上講，人類是不是進(jìn)化鏈條上的最后一環(huán)？好像不太可能；有沒有自然規(guī)律排除了出現(xiàn)比人類更高級的智能物種？好像沒有證據(jù)否定。因此，那篇文章寫了出現(xiàn)新的智能物種的可能性。這是20年前的事情，但后來沒有做這個。

這幾年人工智能方面的發(fā)展我一直關(guān)注，文獻(xiàn)材料幾乎天天看。今天我講一點(diǎn)我關(guān)注的東西。講之前我稍微做個說明。現(xiàn)在社會上，包括學(xué)界，對人工智能這個概念有不少誤解。人工智能這個概念有兩個含義。當(dāng)年創(chuàng)始人是把它看作科學(xué)?？茖W(xué)的目標(biāo)是理解智能，包括人在內(nèi)。這個任務(wù)任重道遠(yuǎn)，也沒有看到近年來有多少實質(zhì)性的進(jìn)展。

另一個含義就是人工智能技術(shù)。因為人工智能是試圖用技術(shù)或工程的手段實現(xiàn)科學(xué)的目標(biāo)，所以有兩重性。現(xiàn)在火的是一些技術(shù)。人工智能發(fā)展的歷史當(dāng)中有個很有趣的現(xiàn)象。以前60年代、70年代、80年代有不少做出來的技術(shù)被搞軟件的人或者搞人機(jī)交互的人拿去了，所以，人工智能內(nèi)部的人感慨說是“為他人做嫁衣”?，F(xiàn)在倒過來了，人工智能火了，什么都叫人工智能，本來不是人工智能的東西，比如一個簡單的APP，也叫人工智能。我們搞哲學(xué)的，有責(zé)任對這些概念做個梳理和澄清。

接下去，我想講的是一個比較有趣的東西，四年來最火的一種技術(shù)。我想用這個例子來說明真正的技術(shù)發(fā)明和技術(shù)創(chuàng)新其實是很難預(yù)測的。另外，我想講一下一種技術(shù)給我們帶來的思考。那是什么呢？2014年出現(xiàn)了一種新技術(shù)，被認(rèn)為是近年來最酷或者最火的發(fā)明，叫GAN。 “G”就是生成，“A”就是對抗、抗辯，“N”就是網(wǎng)絡(luò)，簡單地說就是生成對抗網(wǎng)絡(luò)。

這種技術(shù)的發(fā)明者是加拿大蒙特利爾大學(xué)的博士生，叫Goodfellow。2014年的一天，他和另外幾個人送一個師兄畢業(yè)，就去酒吧。喝得微醉時候不知道怎么回事，他突然想到費(fèi)恩曼1988年臨終那天在黑板上留下的話，意思是我無法理解不能創(chuàng)造的東西。受這句話的啟發(fā)，他發(fā)明了GAN技術(shù)。這種技術(shù)的基本思想是：有一個能不斷生成圖像或其他什么的神經(jīng)網(wǎng)絡(luò)，再有另一個能鑒別或評判生成的東西是不是靠譜的神經(jīng)網(wǎng)絡(luò)，通過兩者的抗辯來獲得逼真的結(jié)果。這有點(diǎn)像藝術(shù)家和藝術(shù)鑒賞家或批評家之間的關(guān)系，通過互動來獲得優(yōu)化的結(jié)果。這可以說是一個比較偶然的發(fā)明案例。

我要說明的問題是什么呢？我們作預(yù)言，往往是預(yù)言一個籠統(tǒng)的大趨勢，或者預(yù)言那些重復(fù)性的現(xiàn)象。真正技術(shù)的新發(fā)明或科學(xué)發(fā)現(xiàn)，有很大的偶然性，其實很難預(yù)言。很多東西不能做預(yù)言，包括人類社會，未來會怎么樣，我們無法預(yù)言。前面很多老師講到未來的前景，我是有困惑，不知道會怎么樣。

這種GAN技術(shù)經(jīng)過近四年的發(fā)展，我網(wǎng)上查過有很多應(yīng)用。應(yīng)用當(dāng)中會出現(xiàn)一些問題，需要我們思考。它的一個主要用處是創(chuàng)作圖像，比如說生成一張看上去就是張三的照片。這個張三的真實照片作為比較，感覺生成的照片不像就改，后來改到兩張照片沒辦法區(qū)分了，就算達(dá)到目標(biāo)了。

這種技術(shù)有什么用呢？網(wǎng)上出現(xiàn)過一個關(guān)于“奧巴馬”的視頻，看上去是奧巴馬，聽上去是奧巴馬；而實際上是用這種技術(shù)生成的。這可以叫做逼真的虛構(gòu)，看上去逼真，其實是虛構(gòu)。那么，像這樣的東西出來之后可能帶來各種法律和倫理問題。一個馬上可以想到是關(guān)于人臉的。比方說，視頻中，我們常?？吹接行┤四槺淮蛄笋R賽克?，F(xiàn)在，這個技術(shù)可以把馬賽克去掉，就會有問題。

這種技術(shù)假如大量使用，也許會出現(xiàn)一個亦真亦假亦虛亦實的世界。到底怎么樣，對普通人來說，可能會變得無法分辨。對我們這些搞教育的，這是一個巨大的挑戰(zhàn)，也就是如何提高受教育者的判斷力。當(dāng)今世界，不缺知識，缺少的是判斷力。

數(shù)據(jù)挖掘與技術(shù)倫理

閆宏秀（上海交通大學(xué)科學(xué)史與科學(xué)文化研究院副教授）

我這里有個很小的問題叫“數(shù)學(xué)挖掘與技術(shù)倫理學(xué)的內(nèi)在路徑構(gòu)建”。

我提的是一個內(nèi)在路徑，傳統(tǒng)意義上我們是從外在看倫理學(xué)的，一般把技術(shù)當(dāng)做是倫理學(xué)批判和反思的對象，反過來在智能革命時代，就是智能參與多的時候，包括劉老師講的人機(jī)交互之后，更多什么東西需要倫理去反思它，這樣我就想內(nèi)在路徑可以做什么。這是最近有點(diǎn)成果，在1月份做了一篇文章，《數(shù)據(jù)挖掘技術(shù)的哲學(xué)反思》，其中主要是從本體論和認(rèn)識論談了一點(diǎn)想法，這個文章也被轉(zhuǎn)載。這個想法當(dāng)中我就提出，既然數(shù)據(jù)挖掘從本體和認(rèn)識當(dāng)中已經(jīng)促進(jìn)發(fā)展，那么作為倫理學(xué)來講是不是有更新的東西在里面呢。倫理學(xué)本身環(huán)境已經(jīng)改變了，改變之后倫理學(xué)本身是不是有更新的東西。我選了一個小的視角，什么視角呢？前面幾位專家全部探討人、技術(shù)、過程、動物等，人和自然是剝離還是回歸，我們是否被AI監(jiān)控起來之后，其實我們在想一個共同的話題，人到底想干什么？就智能時代我們想干什么樣的事情，歸根到底倫理學(xué)特別想搞清楚人到底想要創(chuàng)造什么樣的世界，這樣就重新審視一下人的倫理主體地位。

無人駕駛的法律與倫理問題

高奇琦（華東政法大學(xué)教授）

今天講一個比較具體的話題——自動駕駛，因為我報的題目是無人駕駛，但到底是自動駕駛還是無人駕駛這是一個非常有爭議的問題，能不能做到無人技術(shù)上包括倫理上還有很多爭議。前兩天也是討論人工智能和法律相關(guān)問題的時候，大家還是傾向于用輔助手段。我就來講自動駕駛，因為自動駕駛比較快吧，因為5G的落地，特別在中國主要是2020年，所以2020年自動駕駛的落地可能會比較快了，現(xiàn)在技術(shù)上有更好的儲備，但是在政策、倫理、法律的基礎(chǔ)上遠(yuǎn)遠(yuǎn)沒有做到很好的儲備。

第一個問題是上路，上路的問題現(xiàn)在有一些政治性法規(guī)主要是用于測試?，F(xiàn)在主要是中國的一些地方，比方說北京做了一些可以上路測試的規(guī)則，但至于商業(yè)化應(yīng)用的上路其實《交通法》還沒有規(guī)定。大家都知道級別是從L0到L5六個等級的級別，現(xiàn)在最高等級，技術(shù)上應(yīng)該說最先進(jìn)的是奧迪A8，達(dá)到L3的級別。大概是什么情況呢？到車速低于60的時候，在擁堵的狀態(tài)下可以啟動自動駕駛的模式，高于60的話還是要人來操作。德國因為奧迪A8修改了法律，制定了20條的自動與網(wǎng)聯(lián)化汽車交通能力規(guī)則，它是調(diào)整了，允許這種情況，但是我們國家現(xiàn)在還沒有修改。

第二個問題，產(chǎn)生事故之后產(chǎn)生的刑事和民事糾紛的問題。刑事主要涉及到兩個罪名，一個是危險駕駛罪，一個是交通肇事罪。如果我們將來同意，就把自動駕駛的設(shè)備認(rèn)定為司機(jī)的話，這其實美國是認(rèn)定為司機(jī)，我們現(xiàn)在還沒有認(rèn)定，認(rèn)定之后產(chǎn)生一系列問題，包括在法律上開了個口子，你要認(rèn)定它為司機(jī)，那就相當(dāng)于要認(rèn)定這個設(shè)備有獨(dú)立的民事法律主體的地位，這可能給機(jī)器人開了一個大的口子，接下來一系列是不是要給它民事行為主體，但美國是已經(jīng)把它認(rèn)定為司機(jī)了，中國還沒有認(rèn)定。一旦認(rèn)定為司機(jī)的話就不存在危險駕駛罪問題了，因為它可以上路了。日常中危險駕駛罪有兩個情況，一是賽車，還有就是醉駕，一定要認(rèn)定之后這兩個罪名和自動駕駛沒太大關(guān)系的，所以主要是交通肇事罪。交通肇事罪指的是違反交通規(guī)則之后造成重大事故，致人重傷死亡和公司財產(chǎn)重大損失的。為什么說這是一個難題呢？就是說現(xiàn)在的交通肇事罪的主體是人，我們講的是自然人，如果將來自動駕駛出現(xiàn)了致人重大事故死亡的話，現(xiàn)在是沒辦法認(rèn)定，認(rèn)定誰呢？肯定是機(jī)構(gòu)或者汽車生產(chǎn)商，所以現(xiàn)在刑法是沒辦法解決這個問題的。還有如果將來有人用黑客技術(shù)，比方說用網(wǎng)絡(luò)安全問題進(jìn)去產(chǎn)生重大事故，這怎么來進(jìn)行規(guī)定。

在民法上主要是侵權(quán)責(zé)任法，到底誰來賠償承擔(dān)這個民事責(zé)任的問題，這里面大概思路是這樣的，如果它不是獨(dú)立主體的話這個責(zé)任肯定是歸車主，如果是獨(dú)立主體的話就有點(diǎn)麻煩了。如果產(chǎn)品有瑕疵有責(zé)任的話可能就涉及到汽車制造商或者說軟件服務(wù)提供商來承擔(dān)責(zé)任。如果不是產(chǎn)品責(zé)任，那如果是獨(dú)立主體的話將來是不是有種可能，機(jī)器人或者自動駕駛的設(shè)備獨(dú)立來承擔(dān)。無人駕駛或者自動駕駛可能會把這些倫理問題先就產(chǎn)生了，自動駕駛還沒有上路，但已經(jīng)有人來找我們討論這問題了。快遞自動的小車在園區(qū)里跑已經(jīng)撞到人了，產(chǎn)生糾紛了，他們解決不了就來找我們了。還有一個是舉證責(zé)任的問題，還是挺復(fù)雜的一些問題，時間有限就簡單點(diǎn)一下。

第三個問題，倫理問題。因為我們?nèi)爽F(xiàn)在還討論不清楚，大家現(xiàn)在很關(guān)心一個問題，人還沒討論清楚的問題現(xiàn)在要交給機(jī)器來判斷，機(jī)器怎么做判斷？人還沒明白現(xiàn)在要讓算法來解決，所以這是一個問題。另外還涉及到算法在緊急狀態(tài)下做決策的問題，我講一下德國的法律調(diào)整，德國的最新交通法中規(guī)定駕駛者在使用自動駕駛的時候仍然有警覺和隨時接管的義務(wù)，這主要是針對L3的，在緊急狀態(tài)下要干預(yù)的，不干預(yù)出了事故是車主的責(zé)任。同時德國的法律里也有沖突的地方，就是和道路交通修正案配套的自動駕駛倫理準(zhǔn)則中，準(zhǔn)則第十九條中規(guī)定說制造商和軟件提供商不能在緊急狀態(tài)下要求人的介入，因為這涉及到人本的原則。留給人的時間可能很短，就五秒鐘或者十秒鐘，現(xiàn)在突然說自動駕駛把持不住了，請人來做決定，這對人來講不公平的，特別是對于年齡大的人，五秒鐘反應(yīng)不過來，說這個責(zé)任就是你的，這很有可能成為自動駕駛服務(wù)提供商推卸責(zé)任的條款，這個倫理準(zhǔn)則中說是不允許的，特別對于一些老人或者弱勢群體是不太對的。

還有剛才楊老師講的隱私問題，在我看來是個最大的問題，我個人不管是自動駕駛還是什么，將來自動設(shè)備最大的問題就是隱私問題。相當(dāng)于多了一個數(shù)據(jù)采集，你能隨時喚醒就意味著它隨時在采集你的數(shù)據(jù)。自動駕駛也是這樣的，包括網(wǎng)絡(luò)安全，包括隱私在我看來是最大的問題。還有失業(yè)的問題，我舉一個數(shù)字—滴滴，滴滴號稱給2100萬人提供非正式的就業(yè)崗位，在自動駕駛落地的過程中，這2100萬會逐漸地沒有了，所以自動駕駛的落地在我看來是個系統(tǒng)工程，總書記前兩天世界智能大會的賀信非常好，把我們重大項目的意義完全突顯出來了，人工智能相關(guān)的法律、倫理、政策、安全、隱私等等，恰恰是段老師來引導(dǎo)我們的題目。

軟件權(quán)力及其治理

陳鵬（北京語言大學(xué)）

我匯報的題目是軟件的權(quán)力與治理。應(yīng)該說我們整個團(tuán)隊在兩三年前就一起討論軟件權(quán)力（算法權(quán)力）的相關(guān)問題，記得三年前和段老師在一個會議上比較詳細(xì)地交流過算法權(quán)利及倫理問題。這些年算法權(quán)力（數(shù)據(jù)權(quán)力）的問題似乎炙手可熱，已經(jīng)有了不少文獻(xiàn)對其開展嚴(yán)肅地探討。整體而言，我們的研究有自己的一個進(jìn)路，在對這個問題的研究中，一直是有幾個問題在引導(dǎo)我去做一些深入的思考。首先，第一個問題就是人類未來生存的空間到底是什么樣的？這是非常讓我著迷的問題。其次，第二個問題便是軟件在未來人類生存空間中究竟處于什么樣的位置？扮演什么樣的角色？軟件和生存空間中權(quán)力問題是什么樣的關(guān)系？。最后，第三個問題是新的權(quán)力架構(gòu)下的倫理考量。

我今天的匯報可能會觸及對這些問題的一些思考。首先，關(guān)于第一個關(guān)于人類未來生存空間的問題。之前我對軟件本質(zhì)做過一個追問，在計算機(jī)學(xué)科中，軟件的概念是一個非常基礎(chǔ)的概念，安東尼·泉朵、皮特·舒伯、蒂莫西·柯爾本、詹姆斯·摩爾等學(xué)者對軟件都進(jìn)行過深入的研究與分析，然而大多數(shù)研究是從技術(shù)層面來分析軟件，我認(rèn)為軟件應(yīng)該從人、軟件、計算機(jī)三元視角去考察，同時，應(yīng)該跳出純技術(shù)的視角，在這樣的視角下會發(fā)現(xiàn)軟件會因人而異也會因機(jī)而異。沿著這條思路，我們得出：軟件本質(zhì)上是人與計算機(jī)形成的共同編碼，并在轉(zhuǎn)導(dǎo)層次上形成共同的邏輯。在這個基礎(chǔ)上，我們進(jìn)而思考到人類未來的生存空間，以往人本主義我們會很自然地把世界或者把我們對意義的追尋是以人為主體的。然而，在軟件的調(diào)制下，人類未來的生存空間其實是以人和機(jī)器為共同主體，以軟件為核心去建構(gòu)這樣一種生存空間，一種新的意義空間。在某種意義下，這種空間和弗洛里迪的信息圈有相似之處。

當(dāng)然，我所說的這種人類未來生存空間與現(xiàn)在所提的網(wǎng)絡(luò)空間（cyberspace）有著本質(zhì)的區(qū)分。實質(zhì)上，人們現(xiàn)在所言的網(wǎng)絡(luò)空間或者虛擬空間已經(jīng)終結(jié)，它們正成為人類生存空間的一個維度，是人類所追尋意義的空間的延展。

在這種人類未來生存空間下，我們將進(jìn)一步追問軟件所扮演的角色？我認(rèn)為，軟件正在重新定義這個生存空間的權(quán)力結(jié)構(gòu)。如果你從軟件即媒介的視角的話，麥克盧漢有過很明確的對媒介權(quán)力的闡釋；如果你從軟件知識的視角，利奧塔、福柯等人都對知識權(quán)力做過精辟的分析；如果從軟件信任的視角來看，現(xiàn)在類似比特幣和區(qū)塊鏈就是這種權(quán)力的一種主張。通過這三種視角，軟件成為一種未來人類生成空間中很穩(wěn)固的權(quán)力基礎(chǔ)。值得一提，我們所言的軟件權(quán)力涵蓋現(xiàn)在很多學(xué)者提出的算法權(quán)力和數(shù)據(jù)權(quán)力問題，在計算機(jī)科學(xué)中，就通常將軟件定義為“算法+數(shù)據(jù)結(jié)構(gòu)”。

我所定義的軟件權(quán)力實質(zhì)上有三種構(gòu)型，這三種構(gòu)型是我剛才說到的人、軟件、計算機(jī)三元關(guān)系派生出來的。它包括：機(jī)器-軟件權(quán)力，第二是人-軟件權(quán)力，第三個是機(jī)器-軟件-人權(quán)力。

機(jī)器-軟件權(quán)力構(gòu)型是現(xiàn)在很少被關(guān)注的。所謂的機(jī)器-軟件權(quán)力是以機(jī)器作為主體的權(quán)力主張，其實這種主張已經(jīng)在不經(jīng)意中正得到一些回應(yīng)，比如說現(xiàn)在很多政府要求的開放數(shù)據(jù)必須是可機(jī)讀的，不僅僅是人讀，要保證你的數(shù)據(jù)對機(jī)器是可見。另外，在許多自然語言處理中，人類對各種語料庫的語法或者語義標(biāo)引也是對機(jī)器-軟件權(quán)力主張的回應(yīng)。

第二個權(quán)力構(gòu)型是人-軟件權(quán)力，對這種權(quán)力現(xiàn)在大家討論特別多了，包括現(xiàn)在大數(shù)據(jù)的數(shù)據(jù)權(quán)力會影響到社會政策，例如2016年的英國脫歐，2017年美國大選。另外這種權(quán)力對金融已經(jīng)實施了深刻的影響，現(xiàn)在應(yīng)該65%以上的交易都是算法交易，此外最近大家非常關(guān)注類似亞馬遜平臺上的算法定價的公平問題或者壟斷問題。還有算法權(quán)力在司法領(lǐng)域的影響，2018年朱莉婭研究了在美國司法部門廣泛采用的犯罪預(yù)測軟件存在對美國黑人的一種歧視。還有算法權(quán)力在社會保障中的影響，像尤邦克斯也是提到了算法或者數(shù)據(jù)濫用導(dǎo)致的一些社會本身不平等的加劇。

最后一個構(gòu)型就是把機(jī)器-軟件-人權(quán)力，這個構(gòu)型實際上是沒有太多人去研究，但實際上存在一個問題，當(dāng)一個機(jī)器如果只是人的代理，它應(yīng)該在整個權(quán)力中承擔(dān)什么責(zé)任？這種權(quán)力構(gòu)型是對人，對社會的影響又如何？

最后就是我對這種軟件權(quán)力的規(guī)訓(xùn)以及治理的思考。軟件權(quán)力會引發(fā)公平性、知情權(quán)、個人隱私等眾多的倫理問題，我們該如何應(yīng)對？我們?nèi)绾稳浖?quán)力進(jìn)行審計并問責(zé)，都是擺在我們面前的嚴(yán)峻挑戰(zhàn)。

論明斯基的“心智社會”

陳自富（上海交通大學(xué)科學(xué)史與科學(xué)文化研究院博士）

我們對智能革命的理解，智能為先，革命為后。我們回到智能革命本身，一個是涉及到智能本身技術(shù)的思想史，另外一個就是說對智能理論基礎(chǔ)的反思。這兩個主題的討論來自于一本書，就是明斯基的《心智社會》。在計算機(jī)界的最高獎圖靈獎中，目前為止有五個人因為AI方面的工作獲得了圖靈獎，其中第一位就是馬文·明斯基，1969年，他獲獎的理由就是因為人工智能理論和技術(shù)方面的貢獻(xiàn)。馬文·明斯基前兩年才去世，他另一個身份也是人工智能1956年達(dá)特茅斯會議的發(fā)起人。因為從工程技術(shù)角度來看，我們講獲得圖靈獎的五位科技工作者當(dāng)中喜歡從事戰(zhàn)略性思考的，其實主要是馬文·明斯基和赫爾伯特·西蒙，但馬文·明斯基的書偏大眾化一點(diǎn)，他還有一本書《情感機(jī)器》，目前這兩本書目前都翻譯成中文了。

其實這個標(biāo)題有點(diǎn)誤解，因為馬文·明斯基在這里做了一個區(qū)分，他盜用了Society，這個詞其實在這里并不是我們講的人類社會的本義，他用community這個詞來指日常意義上的“社會”，而我們知道community一般翻譯為“社區(qū)”。這本書的產(chǎn)生是有特殊性的，就是說馬文·明斯基他有一個習(xí)慣，喜歡把書的手稿先散發(fā)，在同行當(dāng)中散發(fā)了大概10年以上，到了1986年才把這本書出版，所以這中間有個比較好的和同行之間溝通的過程。《心智社會》既是書名又是關(guān)于他關(guān)于自然智能的基礎(chǔ)理論的名稱。這本書很通俗，正是因為寫的太通俗了，好像每個人都能懂，但讀下來的話里面的內(nèi)容還是非常深刻。這本書的思想來源很多，其中不少是明斯基指導(dǎo)的學(xué)生，但該書的起源是70年代早期與認(rèn)知科學(xué)家派珀特在MIT合作開發(fā)操作兒童積木世界的機(jī)器人工作。

這本書是一個比較奇怪的體例，中文版翻過來的體例就看不到，英文版是有270頁，每一頁就是一篇獨(dú)立的短文。為什么他要這么做呢？他認(rèn)為我們沒法用一個簡單的理論來描述，也就是說在人工智能領(lǐng)域沒有辦法用簡單的理論來描述智能的原理，所以他的文章題材這么來安排，用270頁相對獨(dú)立的短文，從這種雜亂的材料組織當(dāng)中反映智能的產(chǎn)生原理，這反映他對于智能的根本看法。

這本書是一本商業(yè)上的暢銷書，trade book。正是由于內(nèi)容組織這么雜亂，我們知道明斯基提出了AI研究方法中的兩個概念，scruffy和neat，前者可以翻譯為雜亂派，后者是整潔派。他把自己算在了雜亂派，另外一種是整潔派，需要對知識進(jìn)行形式化處理。這本書的主題我嘗試著做了一些相關(guān)的梳理，大概包括幻燈片上的這些。關(guān)于思維的形而上學(xué)思考，思維的本質(zhì)和來源、思維與智能、人類的“機(jī)器隱喻”、自我、智能的本質(zhì)。還有心理學(xué)假設(shè)和模型：記憶理論（K-line）、A-B腦假設(shè)、問題求解。他自己的框架腳本在這里做了一個擴(kuò)充，叫Trans-Frames。還有他討論到了倫理學(xué)。另外他基本上把邏輯和推理的重要性做了否定性的回答，所以我們把它當(dāng)成明斯基從事人工智能開發(fā)時，不管是來自于項目實踐還是來自于未來構(gòu)想的一種智能理論基礎(chǔ)。

為了加深對理論的核心理解，我從書中提煉出了一些詞句，例如思維的本質(zhì)：它的能力似乎就是源于那些智能體之間復(fù)雜的交錯關(guān)聯(lián)。這里面就不太仔細(xì)去念，例如因為在人工智能研究方面會用到語言，他就說語言其實是沒有多大用處的，語言只是指揮它干什么活的工具。

這里隨便舉出幾個例子大家都非常熟悉，他和同行這么多人交流，因此思想來源就非常的龐雜，包括學(xué)生的一些博士論文。他思想的很多內(nèi)容來自于GOFAI，但這里面也有些問題，西蒙講的其他一些符號假設(shè)基本上是不看，或者完全否定。第二個方面是關(guān)于記憶的理論來自于聯(lián)結(jié)主義。還有一部分講小孩子怎么獲得智力和思索行為的，另外也大量使用了弗洛伊德的精神分析，還有進(jìn)化生物學(xué)和分析哲學(xué)。為什么這本書比市面上其他的那些書要值得重視，畢竟他算是AI這個行業(yè)的大師級人物，很多東西值得思考。

從這本書中獲得的一些啟發(fā)，第一個是關(guān)于Agent的含義問題。Agent的含義有多個，首先有經(jīng)濟(jì)上的含義，另外我們講軟件工程的Agent自治性不是SoM中Agent的核心特征。第二個講明斯基遇到很大的難題，因為按照他的理論邏輯是沒有自由意識的，但是如果沒有自由意識的話只有兩種方式，一種是決定論，一種是概率論，這兩種方式會使人面臨道德困境，后面明斯基說雖然我們認(rèn)為沒有自由意識，但不得不堅守錯誤的假設(shè)，自由意志必須存在。明斯基把存在自由意識當(dāng)做工具論來假設(shè)，而不是科學(xué)解釋。第三個就是說AI，缺乏非常強(qiáng)的理論基礎(chǔ)，那SoM這個層次對于奠定AI理論基礎(chǔ)是否有必要？在當(dāng)前階段，SoM在哲學(xué)、心理學(xué)與實際的AI工程問題之間搭建了一個灰色的橋梁，為什么要灰色？第一如果你是黑色可見的那需要證偽，這個很難。如果是白色的那就是空談，所以需要有一個灰度，有初步的解釋模型。第四個是我認(rèn)為最值得思考的地方，究竟什么樣的科學(xué)理論適合作為AI的研究基礎(chǔ)？還有我們講一個總結(jié)，沒有科學(xué)哲學(xué)的科學(xué)史是盲目的，沒有科學(xué)哲學(xué)的科學(xué)史是空洞的，因此，如果沒有合適的智能理論基礎(chǔ)和哲學(xué)指導(dǎo)，AI技術(shù)實現(xiàn)將是失控和可怕的。

智能算法與解析社會的政治與倫理考量

段偉文（中國社會科學(xué)院哲學(xué)所研究員）

近年來，人工智能應(yīng)用的熱點(diǎn)是數(shù)據(jù)智能，其主要背景是世界的數(shù)據(jù)化。所謂世界的數(shù)據(jù)化簡單地講就是：世界就是數(shù)據(jù)，數(shù)據(jù)就是世界。什么是數(shù)據(jù)？英文中的數(shù)據(jù)一詞是data，但其內(nèi)涵不僅與數(shù)字或科學(xué)觀測有關(guān)，更是對世界的記錄。當(dāng)初傅統(tǒng)先在譯杜威的《確定性的尋求》時，將data翻譯為素材。當(dāng)前，我們所說的大數(shù)據(jù)和數(shù)據(jù)智能中的數(shù)據(jù)的含義就是素材，更確切地講是電子化的素材，比方說報告的錄音、錄像就。有些素材的元數(shù)據(jù)是可以量化和結(jié)構(gòu)化的，這些數(shù)據(jù)起到了測量世界和人的行為過程的作用。近年來，由于素材或數(shù)據(jù)存儲與處理的成本不斷降低，我們能夠把很多東西記錄下來，雖然記錄的時候有各種各樣的目的，一旦記錄下來以后就可以變成素材而用于別的用途，如可作為其他主題的數(shù)據(jù)挖掘之用。值得指出的是，當(dāng)我們講“世界就是數(shù)據(jù)”和“數(shù)據(jù)就是世界”時，應(yīng)該看到所謂的世界的數(shù)據(jù)化并不是抽象的，用數(shù)據(jù)呈現(xiàn)世界和人的行為的方式取決于具體的記錄、傳感、測量和分析技術(shù)，而任何方式都會突出與強(qiáng)化世界與人的行為的某些方面而忽視與弱化另一些方面。

數(shù)據(jù)智能和智能算法的應(yīng)用是現(xiàn)代社會治理與個人治理日益量化的最新表現(xiàn)，這一趨勢發(fā)端于17世紀(jì)的“政治算術(shù)”和始于19世紀(jì)的“控制革命”密切相關(guān)，其新近的發(fā)展正在導(dǎo)致“解析社會”的來臨。首先，所謂政治算術(shù)可以追溯至17世紀(jì)剛興起的統(tǒng)計學(xué)的社會應(yīng)用。當(dāng)時，統(tǒng)計學(xué)的社會應(yīng)用的倡導(dǎo)者將統(tǒng)計學(xué)稱為政治算術(shù)，當(dāng)時的哲學(xué)家和古典經(jīng)濟(jì)學(xué)家威廉.配第還專門寫了本題為《政治算術(shù)》的小冊子，以強(qiáng)調(diào)統(tǒng)計數(shù)字對于政治具有至關(guān)重要的作用。其次，使政治算術(shù)的理念得以普遍推行的則是被稱為“控制革命”的信息技術(shù)的發(fā)展。20世紀(jì)80年代，信息技術(shù)史家貝尼格（James R. Beniger）在《控制革命》一書中指出，19世紀(jì)以來，信息技術(shù)的發(fā)展實質(zhì)上是為了克服由城市化和大工業(yè)生產(chǎn)所帶來的控制的危機(jī)而形成的一系列控制革命。

20世紀(jì)的最后30年間，伴隨著對以工業(yè)化為特征的現(xiàn)代化的弊端的反思，微電子、個人計算機(jī)、網(wǎng)絡(luò)和移動通信等信息通信技術(shù)的發(fā)展為信息化開辟了道路，其間不僅涌現(xiàn)出后工業(yè)社會和第三次浪潮等社會理論與未來學(xué)思潮，而且還由反主流文化孕育出為虛擬空間奠基的賽博文化，其結(jié)果導(dǎo)致了20世紀(jì)末具有虛擬性、匿名性和多主體交互性的網(wǎng)絡(luò)空間的崛起。但這種貌似個體可以通過虛擬的網(wǎng)絡(luò)空間擺脫現(xiàn)實社會制約的幻象很快就破滅了。隨著谷歌搜索對百科全書檢索式的雅虎等早期門戶網(wǎng)站的超越以及Web2.0和網(wǎng)絡(luò)社交新媒體的發(fā)展，用戶網(wǎng)絡(luò)活動所生成的內(nèi)容即UGC（User-generated content）不僅使網(wǎng)絡(luò)為用戶數(shù)據(jù)所驅(qū)動，而且這些數(shù)據(jù)反過來成為人們的數(shù)據(jù)足跡。隨著移動互聯(lián)網(wǎng)、網(wǎng)絡(luò)社交媒體、智能手機(jī)、可穿戴設(shè)備等信息技術(shù)的發(fā)展和各種數(shù)據(jù)的指數(shù)化增長，對人的線上和線下行為數(shù)據(jù)的搜集和分析則可能使每個人成為被追蹤、觀測、分析的對象，數(shù)據(jù)的掌握者由此可對數(shù)據(jù)進(jìn)行認(rèn)知計算，借助一定的算法對數(shù)據(jù)主體展開行為評分和內(nèi)容推薦等對人的行為進(jìn)行評判、引導(dǎo)和干預(yù)。

不論是運(yùn)用數(shù)據(jù)表征或干預(yù)世界和人的行為，還是運(yùn)用各種可穿戴設(shè)備對數(shù)據(jù)采集與分析對他人或自己的生活進(jìn)行量化自我等管理與治理，都預(yù)示著一個全新的社會——解析社會或數(shù)據(jù)解析社會的來臨。數(shù)據(jù)解析社會這種新的社會形態(tài)是革命性的。一方面，數(shù)據(jù)所扮演的角色如同13世紀(jì)時出現(xiàn)的透鏡，透鏡所制造的望遠(yuǎn)鏡和顯微鏡讓宇宙和微觀世界得以清晰地觀測與呈現(xiàn)，如今“數(shù)據(jù)透鏡”則使人的行為得到得到量化地記錄與透視。另一方面，就像17世紀(jì)笛卡爾發(fā)明解析幾何使得自然界的結(jié)構(gòu)與規(guī)律得以探究一樣，數(shù)據(jù)分析與智能算法的應(yīng)用正在使人的行為規(guī)律得到洞察和解析。

不論數(shù)據(jù)解析社會的構(gòu)建如何展開，智能算法對人們生活的影響已無處不在。從企業(yè)對員工的評價、人事簡歷自動篩選、商業(yè)信用評分到區(qū)域犯罪預(yù)測、城市警力分布、自我健康管理，數(shù)據(jù)分析與智能算法在人們生活中涉及的各種評價、篩選和決策中日漸扮演著舉足輕重的角色，我們業(yè)已步入由算法規(guī)制生活和引導(dǎo)人的行為的算法生活時代。政府和企業(yè)為了各種目的在其管理和運(yùn)營中引入了很多智能算法，這些算法在執(zhí)行中會形成各種影響人的生活的算法權(quán)力。這種算法權(quán)力很容易遭到濫用，甚至?xí)l(fā)展為所謂的算法霸權(quán)。首先，姑且不提算法可能存在的黑箱問題（不透明、不易解釋等），供機(jī)器學(xué)習(xí)的大量罪犯行為數(shù)據(jù)本身是由人記錄和處理的，本身就帶有人的各種偏見（如種族偏見、社區(qū)偏見等），在此基礎(chǔ)上所進(jìn)行的算法決策很容易使這些偏見放大。其次，這種算法往往只考慮到某些特定的視角而缺乏整體性的思考。其三，這種算法中存在的不合理之處往往缺乏反饋與糾正的渠道，如果不能引入受到算法權(quán)力傷害或不公正對待的人能夠及時參與的反饋糾錯機(jī)制，算法的主導(dǎo)者很難主動發(fā)現(xiàn)問題并加以反思和修正。

智能算法的應(yīng)用建立在一種基于預(yù)見的可能性而采取控制行動的政治邏輯之上，我們可以稱之為可能性的政治。在斯皮爾格導(dǎo)演的電影《少數(shù)派報告》中對未實施的犯罪的阻止甚至懲罰雖然不一定發(fā)生，但數(shù)據(jù)分析和智能算法的控制者顯然會用它們來預(yù)測、引導(dǎo)或阻止人的行為，不論其方式是柔性的計算機(jī)說服技術(shù)或智能化助推，還是剛性的簡歷篩選和行動自由的限制，都體現(xiàn)了某種宰制性的權(quán)力或霸權(quán)。以所謂人的數(shù)據(jù)畫像為例，雖然人的數(shù)據(jù)畫像如同人的“數(shù)據(jù)孿生兄弟”，但其本身是沒有主體性的和能動性的，而只是體現(xiàn)了數(shù)據(jù)分析與智能算法的掌控者對你的主體性或能動性的猜測，其中所折射的是他人的主體性、能動性或意向性。因此，數(shù)據(jù)孿生兄弟實際上是缺失心靈的數(shù)據(jù)僵尸。

由此，要克服數(shù)據(jù)分析與智能算法的數(shù)據(jù)霸權(quán)與算法權(quán)力，應(yīng)該從主體的能動性構(gòu)建出發(fā)，使人的主體性、能動性或意向性免于被數(shù)據(jù)僵尸所取代的命運(yùn)。這就要求我們通過與數(shù)據(jù)霸權(quán)與算法權(quán)力的纏斗尋求人的能動性與算法權(quán)力關(guān)系的再平衡：始終從使用者或人的角度去評判智能算法的合理性；智能算法應(yīng)發(fā)揮普遍性賦能作用，使每個人的能力增強(qiáng)、權(quán)利也得到相應(yīng)擴(kuò)充；人與算法要建立起一種伙伴關(guān)系，即使智能算法成為陪伴人、幫助人的伴侶技術(shù)。