——讀《錯覺：AI如何通過數(shù)據(jù)挖掘誤導我們》有感

西澤研究院特約研究員  鄧宇

《錯覺：AI如何通過數(shù)據(jù)挖掘誤導我們》

       大數(shù)據(jù)時代，讓我們置身于智能化與大數(shù)據(jù)時代快節(jié)奏、便利化的生活方式當中，并且通過人工智能AI技術(shù)逐步滲透到社交、購物、出行、新聞媒體、政治事件等各個領(lǐng)域，甚至通過人工智能這種強大的學習能力和數(shù)據(jù)分析開始左右我們的思考、誘導我們的日常選擇。

       美國經(jīng)濟學教授加里·史密斯的新著《錯覺：AI如何通過數(shù)據(jù)挖掘誤導我們》（以下簡稱《錯覺》）一書提供了非常獨特的視角，與大多數(shù)倡導大數(shù)據(jù)和追逐大數(shù)據(jù)產(chǎn)業(yè)的研究者不同，史密斯教授更多的是對計算機挖掘大數(shù)據(jù)以及應(yīng)用到各個領(lǐng)域的現(xiàn)象進行批判性研究，這項研究將啟迪我們思考大數(shù)據(jù)與人工智能的社會意義、倫理價值、科學內(nèi)涵。如果只考慮大數(shù)據(jù)和計算機應(yīng)用的優(yōu)勢，忽視其負面效應(yīng)和局限性，那么大數(shù)據(jù)以及AI將可能失去其科學與社會價值，這也是作者對“理論先于數(shù)據(jù)”這一科學方法的有力辯護。

       《錯覺》列舉了很多思想性實驗以及案例研究，如圖靈測試、漢語室思想實驗、威諾格拉德模式挑戰(zhàn)賽等等，這些實驗無不揭示計算機本身的思維模仿與學習并不是完全超越人類，計算機的語言、閱讀和寫作缺乏靈魂、語境。而計算機模型以及數(shù)據(jù)分析結(jié)果無法替代人類的判斷，仍然需要人類充分的討論與批判，完全依賴計算機的數(shù)據(jù)結(jié)果將導致很多混亂和錯誤的決策。

       從理論上來說，計算機技術(shù)的演進以及大數(shù)據(jù)、人工智能的應(yīng)用的確已從實驗室進入到人們的日常生活當中，特別是隨著移動互聯(lián)網(wǎng)、5G通信技術(shù)的進步，計算機甚至在某些領(lǐng)域，如計算能力、學習能力、數(shù)據(jù)分析、儲存以及模型預(yù)測方面超越人類智慧。數(shù)據(jù)挖掘成為各個科技公司、高科技企業(yè)、創(chuàng)業(yè)公司的核心競爭力，一切產(chǎn)業(yè)發(fā)展都以大數(shù)據(jù)為支撐，而這的確產(chǎn)生了巨大的經(jīng)濟、社會效益和廣告宣傳效益?；ヂ?lián)網(wǎng)產(chǎn)業(yè)以及數(shù)字經(jīng)濟的崛起為大數(shù)據(jù)與人工智能的應(yīng)用提供了廣泛的市場，數(shù)據(jù)庫的泛濫也間接引發(fā)了諸多的爭議，特別是一些購物網(wǎng)站、新聞媒體、社交軟件大肆應(yīng)用數(shù)據(jù)挖掘，跟蹤用戶的日常應(yīng)用習性、消費特點和社交網(wǎng)絡(luò)，企圖誘導用戶選擇購買服務(wù)或訂制某些產(chǎn)品。

       值得注意的是，當前計算機的運算能力早已比人類更快，承載的數(shù)據(jù)資源也更為龐大，這些依據(jù)人工智能開發(fā)的應(yīng)用系統(tǒng)已滲透進人們的生活，甚至左右人們的思維。如果缺乏對計算機語言以及數(shù)據(jù)分析結(jié)果本身的識別，將帶來很多消極的結(jié)果?！跺e覺》這本書通過一系列數(shù)據(jù)結(jié)果質(zhì)疑計算機的“壞數(shù)據(jù)”，而使用數(shù)據(jù)同樣存在較大的“隨機性”，作者指出，模型不可避免地是由無法解釋的隨機事件創(chuàng)建出來的，我們應(yīng)該承認自己容易受到模型的誘惑。

AI大數(shù)據(jù)融入日常生活

       看似無所不能的計算機技術(shù)卻也存在諸多的缺陷，與人類的智慧、思維相比還有很多的局限性。其中，最重要的一點，正如作者在文章開篇表明的那樣，計算機在批判性思維方面存在嚴重缺陷。計算機在數(shù)據(jù)處理、儲存以及記憶方面的優(yōu)勢是人類無法匹敵的，隨著計算機與人工智能的深度融合，大量的產(chǎn)業(yè)、產(chǎn)品以及思維將受制于計算機技術(shù)。有一點可以明確，現(xiàn)代人們的生活、生產(chǎn)以及創(chuàng)新大都依靠計算機模型和數(shù)據(jù)分析，海量的數(shù)據(jù)往往意味著創(chuàng)業(yè)客群與市場，而“竊取”這些個人信息和數(shù)據(jù)漸漸演變?yōu)橐环N產(chǎn)業(yè)，行走在法律的邊緣。作者列舉了預(yù)測總統(tǒng)大選、非線性模型、神經(jīng)網(wǎng)絡(luò)算法等一系列典型的案例，這些“新瓶裝舊酒”的計算機數(shù)據(jù)模型看似提供了有力的技術(shù)支撐，為預(yù)測和分析驗證帶來了從未有過的“技術(shù)優(yōu)越性”，卻最終在現(xiàn)實面前“現(xiàn)形”。從現(xiàn)實來看，很多技術(shù)至上論者盲目地認為計算機語言和數(shù)據(jù)可以“無所不包”，迷信于大數(shù)據(jù)，陷入數(shù)據(jù)的誤導與錯覺，難以做出理性的決策。如作者在本書第三章總結(jié)道，計算機沒有現(xiàn)實生活認知，這些智慧和常識來自真實生活。

       《錯覺》這本書的結(jié)構(gòu)充滿了“批判性”，作者并未采取理論說教、枯燥解讀的傳統(tǒng)模式，而是另辟蹊徑，從科學實驗、醫(yī)療技術(shù)、歷史政治事件、經(jīng)濟數(shù)學模型、股市、保險等不同角度切入文章主題，以計算機數(shù)據(jù)分析的過程、結(jié)果進行批判性思考，啟迪讀者去正確認知計算機語言的邏輯，以及數(shù)據(jù)模型結(jié)果的隨機性因素。事實上，在這本書中，作者提出了很多識別數(shù)據(jù)和驗證數(shù)據(jù)真實性的方法，一方面是計算機語言缺乏時間性，線性的數(shù)據(jù)分析并不能解釋非線性世界的諸多現(xiàn)象，反而簡化了現(xiàn)實世界的復(fù)雜性；另一方面是數(shù)據(jù)本身的缺陷，在計算機技術(shù)尚處于開發(fā)階段，人工智能還未成熟，距離人類的思想、批判能力存在較大差距，導致了數(shù)據(jù)的收集、整理和分析并不全面，漏洞百出的數(shù)據(jù)結(jié)果不足以支撐分析的可靠性。近年來，計算機與大數(shù)據(jù)也正在通過其廣泛的民意基礎(chǔ)對政治選舉進行“干預(yù)”，網(wǎng)上民調(diào)、互聯(lián)網(wǎng)民意、媒體輿論等，甚至開始進入到選舉程序。

       人工智能的發(fā)展沒有達到預(yù)想的效果，是因為現(xiàn)實生活與歷史事件的復(fù)雜性超越了大數(shù)據(jù)本身的分析，而且眾多的數(shù)據(jù)未能考慮時間的跨度，模型以及計算機語境的符號不能完全取代人類的批判性思維?！跺e覺》這本書的精彩之處正在于此，如馬里蘭大學法學教授弗蘭克·帕斯奎爾所評價的，本書從計算機的角度出發(fā)，對人工智能、大數(shù)據(jù)和機器學習在我們?nèi)粘Ｉ钪杏l(fā)盛行的現(xiàn)狀做出了強烈批判。本書的寫作邏輯與加里·史密斯教授一直以來對數(shù)據(jù)分析方法的批判性研究一脈相承，其經(jīng)典著作《數(shù)據(jù)科學的9個陷阱》《基本統(tǒng)計、回歸和計量經(jīng)濟學》《標準偏差：有缺陷的假設(shè)，扭曲的數(shù)據(jù)，以及其他欺騙統(tǒng)計數(shù)據(jù)的方法》等幾乎都在批判數(shù)據(jù)分析模型和方法，這種思維貫穿于《錯覺：AI如何通過數(shù)據(jù)挖掘誤導我們》之中。本書最后四章的案例論述聚焦于醫(yī)療、股市、日常生活的事例，詳細分析AI如何通過數(shù)據(jù)挖掘誤導我們。如作者在結(jié)語部分所言，統(tǒng)計學證據(jù)不足以辨別真知灼見和虛假信息。只有邏輯、智慧和常識才能對其加以區(qū)分。人工智能目前還無法評估事物是真正相關(guān)還是偶然相關(guān)，因為她還不理解數(shù)據(jù)的意義。

       讀罷此書，也讓我想到了近期一本風靡的暢銷書，以色列歷史學家尤瓦爾·赫拉利的《今日簡史》，這本跨學科的經(jīng)典著作提出了富有啟發(fā)性的思考，其中對人工智能和大數(shù)據(jù)提出了深刻的批判，作者認為，我們真正應(yīng)該擔心的，是有一小群超人類精英憑借算法帶來的力量，與大量底層的手無權(quán)利之人之間發(fā)生沖突。兩本書有異曲同工之妙，都對大數(shù)據(jù)、AI人工智能和算法提出了質(zhì)疑，這種批判精神有助于我們對計算機科學技術(shù)的應(yīng)用保持警惕。對于普羅大眾來說，正確理解和判斷人工智能、大數(shù)據(jù)的虛假信息、錯誤模型著實比較困難，需要花費時間和精力去辨別，最重要的是能夠形成獨立的思想判斷力，盡可能不被大數(shù)據(jù)所誤導。當然，本書的出發(fā)點并不是毫無根據(jù)地指責大數(shù)據(jù)和人工智能的科學進步，而是站在更接近于人性和社會學的角度理解AI，這才是真正的科學精神。加里·史密斯教授最后指出，在大數(shù)據(jù)時代，真正的危險部署計算機比我們更聰明，而是我們自己也這么認為，從而信任計算機為我們做出重要決定?！跺e覺：AI如何通過數(shù)據(jù)挖掘誤導我們》則給予我們一次反思大數(shù)據(jù)和AI人工智能的機會。

科學精神