2025年春晚，智能機(jī)器人舞團(tuán)引發(fā)全民驚嘆；企業(yè)財(cái)報(bào)上，AI驅(qū)動已成為新標(biāo)簽；甚至醫(yī)療診斷與司法量刑的灰色地帶，也出現(xiàn)了預(yù)測式算法的身影。一股近乎宗教狂熱的技術(shù)信仰正在全球蔓延。值此關(guān)鍵時(shí)刻，阿爾文德?納拉亞南與薩亞什?卡普爾合著的《AI萬金油：商業(yè)幻想與科技狂潮》（以下簡稱《AI萬金油》）如同一柄經(jīng)過精密校準(zhǔn)的手術(shù)刀，冷靜地剖開了人工智能熱潮的華麗外衣與內(nèi)部肌理。作為普林斯頓大學(xué)信息技術(shù)政策權(quán)威與前臉書AI工程師的跨界之作，這本書以學(xué)界洞察與產(chǎn)業(yè)親歷的雙重視角，對AI神話展開了從技術(shù)本源、社會建構(gòu)到治理路徑的系統(tǒng)性祛魅，為迷失于技術(shù)迷霧的公眾、決策者與業(yè)界，提供了難得的理性坐標(biāo)系。

阿爾文德?納拉亞南、薩亞什?卡普爾著《AI萬金油：商業(yè)幻想與科技狂潮》，王勇、王安心譯，中信出版集團(tuán)，2025年8月

從萬能敘事到有限工具的范式轉(zhuǎn)換

《AI萬金油》打破了一種普遍認(rèn)知，即人工智能是統(tǒng)一、連貫且持續(xù)逼近人類智能的技術(shù)實(shí)體，這種想法在公眾乃至部分業(yè)界人士心中根深蒂固。作者首先進(jìn)行了一項(xiàng)至關(guān)重要的概念清理工作，將當(dāng)下被籠統(tǒng)稱為“AI”的技術(shù)現(xiàn)象，清晰劃分為生成式、預(yù)測式與內(nèi)容審核式三大類別。這絕非單純的學(xué)術(shù)分類，而是對技術(shù)本質(zhì)的回歸，不搞籠統(tǒng)定義，而是直面不同AI的真實(shí)屬性。它迫使讀者認(rèn)識到，談?wù)揂I的影響本身可能是一個偽命題，我們必須具體到哪一種AI、在何種場景下、基于何種數(shù)據(jù)與算法進(jìn)行討論。如將ChatGPT與貸款風(fēng)險(xiǎn)評估算法統(tǒng)稱為“AI”，其混為一談的誤導(dǎo)性堪比將自行車與航天飛機(jī)歸為同一類交通工具。這種分類法為后續(xù)的批判性分析奠定了堅(jiān)實(shí)的邏輯基石。

在對生成式AI的剖析中，作者避免了全盤否定或盲目推崇的簡單化立場，而是進(jìn)行了一場精密的價(jià)值與風(fēng)險(xiǎn)權(quán)衡。他們一方面客觀記錄了此類工具在代碼輔助生成、圖像創(chuàng)作等特定場景中帶來的效率革命；另一方面，則毫不留情地揭示了其“通過學(xué)習(xí)訓(xùn)練數(shù)據(jù)中的統(tǒng)計(jì)模式來生成文本”本質(zhì)。谷歌Bard因錯誤陳述韋伯空間望遠(yuǎn)鏡成果而引發(fā)母公司市值暴跌的案例，用以說明生成式AI所固有的幻覺問題，它能夠生成語法流暢、看似權(quán)威的文本，卻無法保證其與客觀事實(shí)的錨定。更嚴(yán)峻的挑戰(zhàn)在于，這種一本正經(jīng)地胡說八道的特性，在缺乏監(jiān)管的商業(yè)環(huán)境中被迅速放大。書中列舉了亞馬遜上AI生成的毒蘑菇鑒別指南、新聞網(wǎng)站上漏洞百出的AI報(bào)道，這些案例暴露的不只是技術(shù)缺陷，更是資本驅(qū)動下的倫理真空，技術(shù)被異化為流量與利潤的工具，以致脫離了責(zé)任約束。

如果說生成式AI的風(fēng)險(xiǎn)主要體現(xiàn)在虛構(gòu)層面，那么預(yù)測式AI則被置于更危險(xiǎn)的境地。這類技術(shù)宣稱能夠預(yù)見從疾病發(fā)展、員工表現(xiàn)到犯罪概率的未來軌跡，并已深度嵌入醫(yī)療、司法、金融等社會核心系統(tǒng)的決策鏈條。然而，本書則層層剝開了其科學(xué)精準(zhǔn)的偽裝。美國醫(yī)療保險(xiǎn)算法錯誤預(yù)測一名85歲老人康復(fù)進(jìn)度、進(jìn)而導(dǎo)致其保險(xiǎn)被提前終止的案例，深刻揭示了預(yù)測式AI將人類生命的復(fù)雜性與不確定性，粗暴簡化為有限數(shù)據(jù)指標(biāo)的算法暴力。而好事達(dá)保險(xiǎn)公司被曝光的冤大頭名單則更具社會學(xué)意義，算法并非如宣傳那樣消除了人類偏見，反而通過學(xué)習(xí)歷史數(shù)據(jù)，將原本存在于社會中的年齡歧視等不公自動化、規(guī)?；?。最為釜底抽薪的批判來自對AI研究根基的審視，書中引述的挪威科技大學(xué)對400篇頂級AI期刊論文的可重復(fù)性檢驗(yàn)顯示，沒有一篇完全滿足可復(fù)制性的所有標(biāo)準(zhǔn)。這一發(fā)現(xiàn)無異于指出，許多被企業(yè)奉為圭臬并應(yīng)用于現(xiàn)實(shí)決策的高精度模型，其科學(xué)性基礎(chǔ)可能建立在一片無法驗(yàn)證的流沙之上。

內(nèi)容審核AI的困境則揭示了技術(shù)邏輯與社會價(jià)值判斷之間的根本性張力。曾親歷臉書內(nèi)容審核系統(tǒng)開發(fā)的卡普爾，貢獻(xiàn)了諸多內(nèi)部視角的鮮活案例。例如，臉書上的黑人用戶經(jīng)常被封禁，卻對一張配有標(biāo)題“沒有寵物的家不算家”，而畫面則是一對白人家庭和一個黑人孩子的圖片無能為力。這絕非簡單的算法bug，而是暴露了一個結(jié)構(gòu)性難題，內(nèi)容審核本質(zhì)上是復(fù)雜的社會價(jià)值判斷和語境理解，試圖用統(tǒng)一的、基于模式識別的數(shù)學(xué)模型來編碼千變?nèi)f化的道德與倫理邊界，是一項(xiàng)本質(zhì)上不可能完美完成的任務(wù)。其根源在于我們試圖用計(jì)算語言學(xué)工具，去解決一個實(shí)質(zhì)上屬于道德哲學(xué)和政治社會學(xué)范疇的問題。

共謀鏈條下的技術(shù)幻覺生產(chǎn)機(jī)制

《AI萬金油》并沒有停留在技術(shù)批判的表面，而是深入挖掘了AI萬金油現(xiàn)象得以形成和持續(xù)膨脹的社會生態(tài)系統(tǒng)。作者描繪了一條環(huán)環(huán)相扣的“研究-資本-媒體-公眾”共謀鏈條，揭示了技術(shù)幻覺是如何被系統(tǒng)性生產(chǎn)出來的。

鏈條的源頭是學(xué)術(shù)研究界的內(nèi)部空心化。許多宣稱取得突破的研究，因其代碼和數(shù)據(jù)不公開而如同黑箱，結(jié)果無法被獨(dú)立驗(yàn)證。醫(yī)療保健公司Epic的敗血癥模型從未公開接受同行評審，關(guān)于AI預(yù)測內(nèi)戰(zhàn)的驚人論文，事后被揭露存在嚴(yán)重的數(shù)據(jù)泄露錯誤。這種“重性能指標(biāo)、輕科學(xué)理解”的氛圍，被批評為現(xiàn)代煉金術(shù)。它使得前沿研究本身變成了一個缺乏堅(jiān)實(shí)基座的泡沫，為后續(xù)的商業(yè)炒作提供了看似光鮮卻經(jīng)不起推敲的科學(xué)原材料。作者進(jìn)一步追溯了AI社區(qū)根植于“春天與冬天”交替的歷史性敘事習(xí)慣——從感知器、專家系統(tǒng)到今日的大模型，技術(shù)愿景總被提前許諾為革命性突破，而在周期性幻滅（AI寒冬）后，社區(qū)又迅速轉(zhuǎn)向下一個熱點(diǎn)，形成了“許諾-狂熱-遺忘-再許諾”的循環(huán)。這種文化深刻影響了研究倫理，使夸大規(guī)模與影響的“炒作”成為某種生存策略。

企業(yè)資本是這一鏈條的核心加速器。書中分析了科技公司在風(fēng)險(xiǎn)投資驅(qū)動下的內(nèi)在扭曲激勵，對于無數(shù)初創(chuàng)公司而言，在吹牛無需成本、但沉默注定失敗的市場環(huán)境中，為了融資與競爭，必須將產(chǎn)品包裝成由尖端AI驅(qū)動的革命性方案，這導(dǎo)致了大量偽AI產(chǎn)品的出現(xiàn)。無論是Epic通過支付百萬美金獎勵來推動醫(yī)院采用其有缺陷的模型，還是初創(chuàng)公司通過操縱前N準(zhǔn)確率等指標(biāo)將性能優(yōu)化到吸引投資者的數(shù)字，甚至如x.ai、Live Time等公司被揭露其AI背后實(shí)為人工或并未使用AI，AI成了一種商業(yè)修辭學(xué)。更深層的風(fēng)險(xiǎn)在于，當(dāng)少數(shù)科技巨頭通過控制算力、核心模型和數(shù)據(jù)成為AI基礎(chǔ)設(shè)施的提供者時(shí)，其商業(yè)利益將可能深刻塑造甚至壟斷整個技術(shù)發(fā)展的路徑與倫理議程，使以人為中心的考量讓位于市場與資本的邏輯。

不幸的是，媒體與公眾的認(rèn)知非但未能成為防火墻，反而成了滋養(yǎng)炒作生態(tài)的溫床。作者批評了新聞機(jī)構(gòu)在經(jīng)濟(jì)效益與專業(yè)素養(yǎng)之間的失衡，它們常常不經(jīng)批判地重復(fù)公司的宣傳通稿，并熱衷于AI達(dá)到人類水平、某項(xiàng)工作將被取代等戲劇化標(biāo)題（如對犯罪預(yù)測算法90%準(zhǔn)確率的報(bào)道）。這種敘事將復(fù)雜、漸進(jìn)的技術(shù)發(fā)展簡化為非黑即白的轉(zhuǎn)折點(diǎn)，嚴(yán)重混淆了基準(zhǔn)測試表現(xiàn)與現(xiàn)實(shí)世界能力之間的鴻溝。而從公眾認(rèn)知角度，作者引入了深刻的認(rèn)知心理學(xué)洞察。面對社會復(fù)雜性，人們普遍存在技術(shù)救世主情結(jié)與控制幻覺，渴望一個客觀、強(qiáng)大的技術(shù)方案一勞永逸地解決難題。對算法黑箱的神秘感，配合解釋深度錯覺、光環(huán)效應(yīng)（因AI在圍棋獲勝便認(rèn)為其全能）、錨定偏見（深信最初的夸大宣傳）等認(rèn)知偏差，使得AI炒作獲得了遠(yuǎn)比以往科技泡沫更為穩(wěn)固的社會心理基礎(chǔ)。這條共謀鏈條并非松散集合，而是形成了閉環(huán)反饋。不透明的研究為資本提供了炒作素材，資本的推波為媒體制造了報(bào)道熱點(diǎn)，媒體的夸張敘事塑造并迎合了公眾的認(rèn)知偏見，而公眾的期待與市場熱情，反過來又激勵資本投入和學(xué)術(shù)圈追逐更宏大的愿景，卻忽視扎實(shí)的驗(yàn)證與審慎的評估。

邁向有限信任與系統(tǒng)治理的負(fù)責(zé)任創(chuàng)新

作為一部旨在建設(shè)性祛魅的著作，《AI萬金油》并未滑向技術(shù)悲觀主義，其最終落點(diǎn)在于如何在狂熱中保持理性、在風(fēng)險(xiǎn)中把握機(jī)遇，勾勒出一套兼具原則性與操作性的框架。這里的核心原則是審慎的樂觀與主動的治理，即在承認(rèn)AI工具價(jià)值的同時(shí)，始終保持對其能力邊界和潛在風(fēng)險(xiǎn)的清醒認(rèn)知，并通過制度設(shè)計(jì)來引導(dǎo)其正向發(fā)展。

在技術(shù)應(yīng)用的倫理與社會定位層面，本書超越了簡單的工具論，深入探討了如何將AI融入而非植入社會。作者指出，AI的未來影響不取決于技術(shù)本身，而更多取決于社會和政治如何應(yīng)對和利用這些技術(shù)。書中通過“凱的世界”與“瑪雅的世界”兩個詳盡的對比性未來情境，深刻揭示了社會選擇的關(guān)鍵性。在“凱的世界”里，因恐懼而生的嚴(yán)格禁令與實(shí)際執(zhí)行的低效，導(dǎo)致兒童暴露于缺乏監(jiān)管、追求成癮的AI娛樂應(yīng)用中，而教育系統(tǒng)則濫用預(yù)測式AI對學(xué)生進(jìn)行可能形成自我實(shí)現(xiàn)預(yù)言的分流。相反，在“瑪雅的世界”中，在充分研究支持下，AI被設(shè)計(jì)為有趣且有益的學(xué)習(xí)伙伴，教育者被賦能將AI作為教學(xué)工具，社交媒體因互操作性要求而變得多元，公眾對自動化決策保持警惕。這兩種未來的根本分野，正在于是以畏懼和順從還是以理解和塑造的態(tài)度來面對技術(shù)。

監(jiān)管與治理創(chuàng)新被視為破局的關(guān)鍵。監(jiān)管必然扼殺創(chuàng)新或監(jiān)管永遠(yuǎn)滯后于技術(shù)等觀點(diǎn)遠(yuǎn)非合理。監(jiān)管的核心目的應(yīng)是糾正市場失靈，即當(dāng)企業(yè)沒有經(jīng)濟(jì)動力去解決其技術(shù)帶來的廣泛社會損害（如藝術(shù)家收入損失）時(shí)，公權(quán)力的介入就變得必要。本書務(wù)實(shí)分析了全球并存的多種監(jiān)管范式：美國的垂直管理模式（各領(lǐng)域機(jī)構(gòu)依職權(quán)監(jiān)管）、歐盟的橫向風(fēng)險(xiǎn)規(guī)制（如《人工智能法案》），以及中國先垂直后橫向的實(shí)踐。這種多樣性本身被視為一種優(yōu)勢，有助于探索有效的監(jiān)管原則。作者特別強(qiáng)調(diào)，許多現(xiàn)有法律已為監(jiān)管AI提供了依據(jù)，例如美國聯(lián)邦貿(mào)易委員會已利用反虛假商業(yè)行為規(guī)則追究AI公司的誤導(dǎo)性宣傳。同時(shí)，也尖銳地警告了監(jiān)管俘獲的風(fēng)險(xiǎn)，即企業(yè)通過推動對自己有利的許可制等規(guī)則，將監(jiān)管變?yōu)榕懦飧偁帯⒐袒陨韮?yōu)勢的工具。因此，有效的治理不僅需要規(guī)則，更需強(qiáng)化監(jiān)管機(jī)構(gòu)自身的資源、獨(dú)立性與專業(yè)能力。

長遠(yuǎn)而言，社會認(rèn)知與公共討論的重塑是構(gòu)建健康技術(shù)生態(tài)的根基。本書本身就是一場AI素養(yǎng)的普及實(shí)踐，其目的不僅是傳授知識，更是培養(yǎng)一種批判性質(zhì)疑的習(xí)慣。當(dāng)一項(xiàng)AI技術(shù)被部署時(shí)，人們應(yīng)追問其證據(jù)基礎(chǔ)、問責(zé)機(jī)制與社會影響。全書展現(xiàn)了一種擁抱復(fù)雜性的智慧，在醫(yī)療、教育、司法等涉及高度人性化的領(lǐng)域，承認(rèn)社會過程的復(fù)雜性與預(yù)測的固有局限，遠(yuǎn)比迷信算法提供、看似精確實(shí)則可能充滿偏見的偽確定性更為重要。這種深刻的謙卑，構(gòu)成了抵御技術(shù)萬能論的最后，也是最堅(jiān)固的防線。

在技術(shù)的鏡像中，照見人類自身的抉擇

《AI萬金油》的深刻性，在于它成功地將一個看似前沿的技術(shù)議題，還原為一個經(jīng)典的社會與哲學(xué)議題。當(dāng)納拉亞南和卡普爾寫下“真正決定AI對經(jīng)濟(jì)和社會產(chǎn)生何種影響的，是一個國家能否有效地將AI融入現(xiàn)有體制與系統(tǒng)”時(shí)，他們已然指明了問題的本質(zhì)。所謂的“AI萬金油”，并非技術(shù)自主演化的必然產(chǎn)物，它本質(zhì)上是一面鏡子，清晰地映照出人類社會的欲望、偏見、短視以及對簡單解決方案的永恒迷戀。

在一個技術(shù)概念被資本、媒體與公眾情緒反復(fù)炒作和消費(fèi)的時(shí)代，本書不止于提供批判的彈藥，還在于提供了一套完整的批判性思維工具包，一種審視技術(shù)宣稱的懷疑精神，一種追溯利益鏈條的分析方法，以及一種在擁抱進(jìn)步的同時(shí)堅(jiān)守人文價(jià)值的平衡智慧。它告訴我們，在面對令人目眩的技術(shù)奇觀時(shí)，要多問一句：它是如何工作的？誰從中受益？誰可能受損？我們失去了什么？

歷史總在回響。十九世紀(jì)，兜售“包治百病”的蛇油販子在美國猖獗橫行；一個多世紀(jì)后的今天，面對種種可能被過度包裝的智能解決方案，我們更需要清醒的辨別力，《AI萬金油》提供了我們這個時(shí)代急需的一劑清醒劑。它不鼓吹拋棄AI，而是倡導(dǎo)一種清醒的擁抱，既不過度神化其無所不能的幻象，也不輕易否定其作為工具的革新潛力。它指引我們在幻想與現(xiàn)實(shí)之間、在恐懼與狂熱之間，尋找那條讓技術(shù)真正服務(wù)于人的尊嚴(yán)、公平與福祉的理性之路。在AI持續(xù)重塑社會基石的漫長進(jìn)程中，這樣的系統(tǒng)性反思，其重要性或許將超越任何單一的技術(shù)突破本身。

當(dāng)然，本書的祛魅，更應(yīng)是一場必要對話的開端，而非終點(diǎn)。它所揭示的“研究-資本-媒體-公眾”共謀鏈條，像是一幅靜態(tài)的生態(tài)系統(tǒng)剖面圖。若將視野拉寬，還能發(fā)現(xiàn)當(dāng)下驅(qū)動這一生態(tài)更具能動性的角色——國家。書中雖提及全球監(jiān)管范式的多樣性，但對于不少國家將AI視為新一輪科技競賽與綜合國力博弈的核心場域，進(jìn)而通過頂層戰(zhàn)略、產(chǎn)業(yè)政策與巨額資源投入，自上而下地主動制造并助推政策驅(qū)動型技術(shù)狂熱的現(xiàn)象，探討尚不充分。這種國家意志與資本邏輯的合流，不僅放大了炒作聲量，更可能扭曲技術(shù)研發(fā)的優(yōu)先次序，使本應(yīng)審慎的治理考量讓位于追趕與領(lǐng)先的競賽心態(tài)。對這一維度的深入剖析，或?qū)⑹箤Τ醋魃鷳B(tài)系統(tǒng)的批判更具政治經(jīng)濟(jì)學(xué)的縱深感。

與此同時(shí)，本書的論述重心落在了對過度炒作的降溫和對現(xiàn)有危害的揭露上。若順著這一批判邏輯繼續(xù)向深審視，或許會發(fā)現(xiàn)另一類同等重要的批判視角，即當(dāng)AI技術(shù)并非作為言過其實(shí)的萬金油被推銷，而是作為一套靜默、高效且已被廣泛接納的基礎(chǔ)設(shè)施（如平臺內(nèi)容審核、全球物流調(diào)度、金融信用評分等）深度嵌入社會運(yùn)行時(shí)，它所引發(fā)的權(quán)力集中、勞動過程隱形化、社會控制形式變遷等更為根本性的社會議題。對這些成功應(yīng)用的常態(tài)化批判，關(guān)乎技術(shù)如何重塑社會結(jié)構(gòu)本身，或許是本書精彩解構(gòu)之后亟待探討解決的諸多未盡任務(wù)之一。

此外，本書對惡意AI的祛魅頗具價(jià)值，戳破了科幻化的生存威脅炒作，但其將惡意AI完全歸為科幻小說，并視作批判性炒作，卻可能忽視了技術(shù)工具屬性下的風(fēng)險(xiǎn)放大效應(yīng)，惡意AI的核心風(fēng)險(xiǎn)并非只是技術(shù)自主覺醒，而是AI降低了大規(guī)模破壞的實(shí)施門檻與成本。深度偽造用于輿論操縱、AI輔助挖掘網(wǎng)絡(luò)漏洞攻擊關(guān)鍵基礎(chǔ)設(shè)施，這些并非科幻，而是已初現(xiàn)的現(xiàn)實(shí)威脅。原書警惕風(fēng)險(xiǎn)再定義的邏輯固然合理，但難免弱化了對惡意使用AI這一維度的關(guān)切。我們真正需要警惕的，從來不單單只是覺醒的機(jī)器，而是被AI賦能的惡意行為與權(quán)力濫用，這一點(diǎn)不應(yīng)因批判炒作而被遮蔽。

《AI萬金油》給社會遞上了一面批判的透鏡，它沒有窮盡所有問題，卻教會了我們發(fā)現(xiàn)問題的思路與方法。無論面對喧囂的技術(shù)炒作，還是國家競賽的復(fù)雜動力，書中倡導(dǎo)的清醒擁抱與系統(tǒng)性懷疑精神，都為我們穿越技術(shù)迷霧、做出理性抉擇提供了重要指引。