【編者按】

上海社聯(lián)2023年度論文已出爐。該活動(dòng)無(wú)需作者自行申報(bào)，依托各學(xué)科權(quán)威專(zhuān)家學(xué)者、學(xué)術(shù)期刊主編、資深學(xué)術(shù)編輯等開(kāi)展多輪評(píng)審。在“反五唯”背景下，這個(gè)活動(dòng)也是對(duì)學(xué)術(shù)評(píng)估機(jī)制的大膽創(chuàng)新。

推薦入選論文的共同特點(diǎn)是密切關(guān)注社會(huì)現(xiàn)實(shí)和學(xué)界動(dòng)態(tài)，善于發(fā)現(xiàn)和提煉問(wèn)題，彰顯學(xué)術(shù)論文的創(chuàng)新性、學(xué)理性、科學(xué)性品質(zhì)，并具有一定前瞻性和開(kāi)拓性。

澎湃新聞?dòng)浾吲c上海社聯(lián)2023年度論文獲獎(jiǎng)?wù)哒归_(kāi)對(duì)談，看上海社科學(xué)者如何在現(xiàn)實(shí)關(guān)切中，回答中國(guó)之問(wèn)、世界之問(wèn)、人民之問(wèn)、時(shí)代之問(wèn)。

當(dāng)今，算法廣泛應(yīng)用于經(jīng)濟(jì)發(fā)展、國(guó)家治理等層面，同時(shí)也滲透進(jìn)日常的數(shù)字化生活之中。隨著推送的個(gè)性化、生活的指標(biāo)化、勞動(dòng)的度量化，一旦以資本原則為主導(dǎo)，算法則會(huì)出現(xiàn)嚴(yán)重的“異化”問(wèn)題。華東師范大學(xué)哲學(xué)系暨中國(guó)現(xiàn)代思想文化研究所教授孫亮認(rèn)為，當(dāng)“算法”被構(gòu)建為認(rèn)知世界的圖像，成為治理的新主體，蛻變?yōu)橘Y本增殖的工具時(shí)，造成了與現(xiàn)代世界文明的“悖反”。 

在上海社聯(lián)2023年度青年論文《“算法資本主義”的政治經(jīng)濟(jì)學(xué)批判闡釋》（原載于《馬克思主義研究》2022年第11期）中，孫亮通過(guò)對(duì)算法運(yùn)行機(jī)制的分析發(fā)現(xiàn)，算法內(nèi)在地蘊(yùn)含了設(shè)計(jì)者的預(yù)期“利益”。在資本操控下，算法及其平臺(tái)在數(shù)據(jù)引導(dǎo)的能力、數(shù)據(jù)的占有上形成了壟斷。因此，在充分發(fā)揮算法積極作用的同時(shí)，也要警惕資本為了追逐利益在對(duì)算法運(yùn)用時(shí)造成的負(fù)面影響。 

在“苦于算法之發(fā)展”與“苦于算法之不發(fā)展”的雙重張力下，孫亮認(rèn)為，一方面中國(guó)現(xiàn)代化建設(shè)要突出算法優(yōu)勢(shì)，另一方面要明確算法與資本之間的復(fù)雜關(guān)系，警惕算法資本化的運(yùn)用范圍、程度、邊界，特別是算法設(shè)計(jì)的價(jià)值偏向，尋求矯正算法的基本原則、具體策略，從而發(fā)揮算法在經(jīng)濟(jì)、政治、文化等方面的積極價(jià)值。

認(rèn)清算法局限，發(fā)揮好算法優(yōu)勢(shì)

澎湃新聞：當(dāng)前算法與現(xiàn)代世界文明出現(xiàn)了怎樣的“悖反”現(xiàn)狀？存在哪些現(xiàn)實(shí)問(wèn)題有待關(guān)注？

孫亮：算法在經(jīng)濟(jì)與社會(huì)發(fā)展、國(guó)家治理等層面的運(yùn)用越來(lái)越重要和廣泛，但在現(xiàn)實(shí)中，算法也與現(xiàn)代世界文明產(chǎn)生了“悖反”狀況，被資本所吸納的算法對(duì)現(xiàn)代文明發(fā)展帶來(lái)很多現(xiàn)實(shí)問(wèn)題。 

首先，我們生活在被算法精心構(gòu)造的認(rèn)知世界中，一切都有可能成為被操縱的“精準(zhǔn)圖像”。在數(shù)據(jù)樣本足夠大的情況下，算法可以對(duì)社會(huì)進(jìn)行精準(zhǔn)把握與主導(dǎo)，這一過(guò)程就好比制圖學(xué)工作。當(dāng)世界被衛(wèi)星導(dǎo)航、地圖軟件和全球定位系統(tǒng)滲透，會(huì)表現(xiàn)為一系列圖像，我們只能從圖像的算法去理解世界。一旦如此，人們就會(huì)失去對(duì)世界自身更為整全性的認(rèn)知，用阿多諾的話說(shuō)，“對(duì)象不可能完全消融在概念之中”。 

算法會(huì)強(qiáng)化主體“認(rèn)知繭房”的現(xiàn)象，每個(gè)人在數(shù)字世界中只能接收主觀偏好的事物。算法的前提是生活的度量化，健康、睡眠、行為、情感、經(jīng)濟(jì)生活等一切皆可被計(jì)算。算法通過(guò)我們每次的搜索、瀏覽記錄，能準(zhǔn)確投放“選擇標(biāo)準(zhǔn)”，人們由于追求完美而臣服于這種標(biāo)準(zhǔn)，最終成為被算法俘獲的對(duì)象。比如，通過(guò)人面部表情歡快的頻率、心率、血壓等可以評(píng)估度量幸福，通過(guò)算法的大數(shù)據(jù)精準(zhǔn)推送，也可為不同人群構(gòu)造浪漫愛(ài)情的個(gè)性化指標(biāo)。 

其次，算法原本可以解決社會(huì)運(yùn)行的“有序”問(wèn)題，但在資本化操縱下，很可能走向新的“生命政治”治理空間，帶來(lái)負(fù)面影響。算法世界存在將人“物化”的風(fēng)險(xiǎn)，導(dǎo)致算法本身成為主導(dǎo)規(guī)則的“主體”，人和現(xiàn)實(shí)世界則成為算法待處理的“對(duì)象”。算法治理是對(duì)“對(duì)象”進(jìn)行更準(zhǔn)確、細(xì)致、全方位的數(shù)據(jù)抓取和加工，在差異化的“私人定制”中，完成對(duì)個(gè)體無(wú)死角的“調(diào)節(jié)”。由此，算法構(gòu)成新的生命政治治理的基礎(chǔ)條件。 

最后，從資本主義社會(huì)生產(chǎn)方式看，算法可以為構(gòu)造生產(chǎn)資料共享的經(jīng)濟(jì)發(fā)展圖景提供便利，但也可能蛻變?yōu)橘Y本增殖手段。一旦作為“資本增殖手段”，數(shù)字算法將會(huì)徹底打破工作與生活的界限，化解勞動(dòng)的度量難題。而對(duì)于無(wú)法被度量和價(jià)值形式化的情感、交往等“社會(huì)關(guān)系”，經(jīng)過(guò)算法也徹底解決了度量的難題，這為資本主義的“抽象”統(tǒng)治和實(shí)質(zhì)吸納提供了可能。因此，認(rèn)為算法能通過(guò)調(diào)節(jié)資源產(chǎn)生共享經(jīng)濟(jì)與相應(yīng)生存方式的看法不僅難以形成，反而加劇了資本主義的不公正以及社會(huì)撕裂現(xiàn)象。 

澎湃新聞：這篇論文的重要研究成果是什么？在社會(huì)主義生產(chǎn)力發(fā)展要求下，這對(duì)于推進(jìn)中國(guó)式現(xiàn)代化建設(shè)有何現(xiàn)實(shí)意義？

孫亮：論文一方面梳理了算法在現(xiàn)代文明發(fā)展中可能會(huì)出現(xiàn)的問(wèn)題，更重要的是，通過(guò)對(duì)算法運(yùn)行機(jī)制的分析，論證算法蘊(yùn)含了設(shè)計(jì)者的預(yù)期“利益”。受資本操控影響，算法及其平臺(tái)在數(shù)據(jù)引導(dǎo)能力、數(shù)據(jù)占有方面構(gòu)成壟斷，通過(guò)操控?cái)?shù)據(jù)資源完成資本增殖目的，加深了對(duì)勞動(dòng)者的剝削程度。

為此，在社會(huì)主義生產(chǎn)力發(fā)展要求下，特別是發(fā)展新質(zhì)生產(chǎn)力的要求下，我們必須把握好“苦于算法之發(fā)展與苦于算法之不發(fā)展”的現(xiàn)實(shí)境遇，使其更有助于推進(jìn)中國(guó)式現(xiàn)代化建設(shè)。 

中國(guó)式現(xiàn)代化建設(shè)既要突出算法的優(yōu)勢(shì)，大力推進(jìn)數(shù)字經(jīng)濟(jì)的發(fā)展，也要明確算法與資本之間的復(fù)雜關(guān)系，警惕與規(guī)范算法資本化的運(yùn)用范圍、程度、邊界，特別是算法設(shè)計(jì)的價(jià)值偏向，尋求矯正算法的基本原則、具體策略，從而發(fā)揮算法在經(jīng)濟(jì)、政治、文化等方面的積極價(jià)值。

因此，不僅需要處理好算法與資本邏輯的關(guān)系，更需要改變資本化的算法邏輯，使其在社會(huì)主義的應(yīng)用中產(chǎn)生積極價(jià)值。這一課題值得數(shù)字研究者從多學(xué)科展開(kāi)富有建設(shè)性的研究。 

警惕算法在資本推動(dòng)下的負(fù)面影響

澎湃新聞：算法在社會(huì)發(fā)展中發(fā)揮了積極作用，但資本為了追逐利益，對(duì)算法運(yùn)用造成了哪些負(fù)面影響？

孫亮：資本為了追逐利益，在運(yùn)用算法時(shí)造成了很多負(fù)面影響。比如，算法需要聚合來(lái)源不同的數(shù)據(jù)，但數(shù)據(jù)獲取渠道要合法合規(guī)，數(shù)據(jù)在使用中也要通過(guò)更多規(guī)范加以約束，目前要警惕存在資本在數(shù)據(jù)中造成的壟斷，惡意競(jìng)爭(zhēng)、數(shù)據(jù)不規(guī)范導(dǎo)致的風(fēng)險(xiǎn)，以及隱性的數(shù)據(jù)監(jiān)控等問(wèn)題?？傮w來(lái)說(shuō)，算法在資本推動(dòng)下造成的負(fù)面影響有以下幾種類(lèi)型。

在個(gè)體層面，算法會(huì)干預(yù)偏好、習(xí)慣、認(rèn)知，從而調(diào)節(jié)和操控人們現(xiàn)在以及未來(lái)的生活。比如，創(chuàng)造了“數(shù)學(xué)清洗”概念的弗萊德·本南森就認(rèn)為，臉書(shū)（Facebook）編輯通過(guò)故意推出其他事情以壓制另一些事情，是在利用算法左右人們的價(jià)值與判斷。

在社會(huì)層面，算法導(dǎo)致社會(huì)鴻溝拓寬，算法治理規(guī)則的同一性與社會(huì)自身復(fù)雜性之間矛盾的強(qiáng)化、社會(huì)市場(chǎng)競(jìng)爭(zhēng)集中化等問(wèn)題凸顯。比如，盡管市場(chǎng)競(jìng)爭(zhēng)中“贏家通吃”的局面有所改觀，但依然需要引導(dǎo)超級(jí)大平臺(tái)通過(guò)市場(chǎng)優(yōu)勢(shì)支撐市場(chǎng)健康發(fā)展。

從全球來(lái)看，算法在資本的推動(dòng)下，加劇了發(fā)達(dá)國(guó)家與發(fā)展中國(guó)家的不平衡。發(fā)達(dá)國(guó)家壟斷數(shù)據(jù)、支配算法，形成了新一輪的數(shù)據(jù)殖民主義。此外，還有數(shù)據(jù)隱私、數(shù)據(jù)監(jiān)控等問(wèn)題，算法社會(huì)還在發(fā)展之中，其負(fù)面性需進(jìn)一步觀察。 

澎湃新聞：您在論文中就設(shè)計(jì)者利益掌控“數(shù)據(jù)引導(dǎo)”與算法運(yùn)行的資本原則展開(kāi)了深入分析，并提出了三種機(jī)制，理解這一問(wèn)題的關(guān)鍵是什么？

孫亮：這三種機(jī)制指的是，第一，算法作為特定的資本主義生產(chǎn)形式并非客觀、中立，而是蘊(yùn)含了設(shè)計(jì)者的“利益”預(yù)期；第二，在西方社會(huì)，以生產(chǎn)資料私有制為基礎(chǔ)的資本主義生產(chǎn)關(guān)系所造成的不平等，會(huì)進(jìn)一步在算法和決策中再次顯現(xiàn)，其典型表現(xiàn)為數(shù)據(jù)引導(dǎo)能力；第三，最重要的是，需考察平臺(tái)所有權(quán)的資本主義屬性問(wèn)題，這樣才能在改變這一屬性的基礎(chǔ)上，使其朝公共利益方向發(fā)展。 

我認(rèn)為，理解這一問(wèn)題的關(guān)鍵是將算法看作“工具”。算法本身沒(méi)有自主性，需要外部給予指令，因此，指令性質(zhì)才是導(dǎo)致算法與文明相悖的原因。以數(shù)據(jù)引導(dǎo)能力為例，過(guò)去人們上網(wǎng)的主要方式是瀏覽網(wǎng)頁(yè)，如今隨著智能手機(jī)的普及，少數(shù)幾個(gè)APP幾乎占據(jù)了人們所有的上網(wǎng)時(shí)間，讓社交、工作、生活都更為便捷。但人們也更加依賴(lài)相應(yīng)平臺(tái)，甚至不會(huì)輕易更換，因?yàn)閺?fù)雜的注冊(cè)程序，足以讓人望而卻步。隨著生活、工作日益依賴(lài)幾個(gè)大型APP，數(shù)據(jù)將被更為集中地提取、重構(gòu)，從而更有效、全面地確保數(shù)據(jù)引導(dǎo)效果，這種趨勢(shì)就是數(shù)據(jù)壟斷主義效應(yīng)的體現(xiàn)。 

與此相應(yīng)的是，一些市場(chǎng)主導(dǎo)者宣稱(chēng)數(shù)據(jù)資源的私有化，認(rèn)為任何一種資源的私有化都能給所有者帶來(lái)最大動(dòng)力，這是自由主義經(jīng)濟(jì)學(xué)對(duì)算法和數(shù)據(jù)資源的投射。資本需要利用新技術(shù)重構(gòu)生產(chǎn)組織形式，而平臺(tái)算法恰恰為資本增殖提供了條件，平臺(tái)與資本在相互推動(dòng)中達(dá)成純粹的資本增殖目的，這是“算法資本化”的基本觀點(diǎn)。 

避免被困在算法中

澎湃新聞：論文中的研究成果如何幫助解決算法所造成的社會(huì)問(wèn)題？比如，近年來(lái)備受爭(zhēng)議的外賣(mài)騎手困在系統(tǒng)、大數(shù)據(jù)殺熟、信息繭房等問(wèn)題。

孫亮：經(jīng)濟(jì)生活或日常生活中出現(xiàn)的大數(shù)據(jù)殺熟、信息繭房等問(wèn)題都只是“結(jié)果”，背后的原因是算法被利益引導(dǎo)。資本確實(shí)需要增殖，否則就沒(méi)有資本的擴(kuò)展，市場(chǎng)也難以進(jìn)一步發(fā)展。但是，市場(chǎng)更需要健康發(fā)展。

我在論文中從超越與現(xiàn)實(shí)兩個(gè)維度討論了如何解決算法造成的社會(huì)問(wèn)題。

從超越角度看，算法或者說(shuō)是“一般智力”只要為資本占有，個(gè)人勞動(dòng)力便會(huì)被廣泛吸納進(jìn)剩余價(jià)值的生產(chǎn)之中。為此，只有變革資本主義生產(chǎn)資料所有制結(jié)構(gòu)，算法才能在提供社會(huì)生產(chǎn)力的同時(shí)，促進(jìn)人的自由全面發(fā)展。

從現(xiàn)實(shí)角度看，算法從屬于資本的發(fā)展方向，受資本原則的主導(dǎo)與調(diào)節(jié)，在一定范圍內(nèi)依然有現(xiàn)實(shí)性依據(jù)。正因如此，人們需要對(duì)智能算法時(shí)代的來(lái)臨抱有積極想象，因?yàn)樗侨祟?lèi)獲取自由時(shí)間、成就自身的積極條件，這就是“苦于算法之不發(fā)展”。 

澎湃新聞：2023年人工智能、大模型等技術(shù)取得突破性進(jìn)展，關(guān)于人是否會(huì)被機(jī)器所取代的話題也一度處于風(fēng)口浪尖，您如何從算法角度看待這一現(xiàn)象？

孫亮：ChatGPT等成為學(xué)術(shù)熱點(diǎn)有現(xiàn)實(shí)依據(jù)，但目前談?wù)撊四芊癖粰C(jī)器取代這一問(wèn)題可能還為時(shí)過(guò)早，因?yàn)闊o(wú)法證明人被機(jī)器取代的算法方向完全正確。學(xué)術(shù)對(duì)此有兩種討論，一種認(rèn)為，人有自己的特殊性，心靈、意志、否定思維、感情等都是無(wú)法被人工智能逾越的。另一種認(rèn)為，心靈、意志等其實(shí)是一種功能性存在。比如，丹尼特就在論證這一觀點(diǎn)。因此，只要算法方向正確，功能性存在都可以通過(guò)算法達(dá)成。

在我看來(lái)，這是兩種不同世界觀的爭(zhēng)論。當(dāng)前主要需要警惕的是以算法為代表的科技與資本聯(lián)合后，對(duì)人的生活、現(xiàn)代文明所造成的負(fù)面危害，所以在談?wù)摷夹g(shù)奇點(diǎn)之前，更重要的是關(guān)注經(jīng)濟(jì)奇點(diǎn)的問(wèn)題。 

澎湃新聞：您在論文中談到“苦于算法之發(fā)展與苦于算法之不發(fā)展”的現(xiàn)實(shí)境遇，要想化解這一矛盾該從什么方面思考解決之道？

孫亮：“苦于算法之發(fā)展與苦于算法之不發(fā)展”的現(xiàn)實(shí)境遇，主要與現(xiàn)代化發(fā)展方式有關(guān)。西方的現(xiàn)代化以資本原則為主導(dǎo)，凡是利于資本增殖的任何手段都可以被吸納和推進(jìn)，不會(huì)有發(fā)不發(fā)展算法的矛盾。但中國(guó)式現(xiàn)代化發(fā)展方式要規(guī)范、引導(dǎo)好資本。一方面要發(fā)揮資本的積極作用，進(jìn)一步發(fā)展算法以推進(jìn)中國(guó)現(xiàn)代化建設(shè)，另一方面要控制資本的消極作用，規(guī)范算法應(yīng)用，制定系統(tǒng)性的算法規(guī)則。

最近，從國(guó)家到地方數(shù)據(jù)局的掛牌，就是要統(tǒng)籌推進(jìn)政府、企業(yè)、社會(huì)的數(shù)據(jù)要素，從而讓數(shù)據(jù)得到合理確權(quán)，讓算法以實(shí)現(xiàn)高質(zhì)量發(fā)展、建設(shè)中國(guó)式現(xiàn)代化為發(fā)展方向。同時(shí)，對(duì)于數(shù)字經(jīng)濟(jì)與數(shù)字社會(huì)發(fā)展中出現(xiàn)的算法問(wèn)題，相關(guān)法律、法規(guī)及政策也在積極推進(jìn)規(guī)范化建設(shè)。這在全球數(shù)字社會(huì)發(fā)展的大背景下具有重要的歷史意義。