隨著全球?qū)θ斯ぶ悄芗夹g(shù)關(guān)注度的日益提升，如何在推動創(chuàng)新發(fā)展的同時實現(xiàn)有效治理，并在開放格局中謀求共識，已成為各國面臨的重大挑戰(zhàn)。在這一進(jìn)程中，中國展現(xiàn)出自身獨特的戰(zhàn)略思維：在創(chuàng)新支持方面，通過加速構(gòu)建大模型技術(shù)體系、完善創(chuàng)新生態(tài)環(huán)境，有力培育產(chǎn)業(yè)發(fā)展新動能；在風(fēng)險治理層面，積極探索倫理規(guī)范建設(shè)，構(gòu)建安全防范機(jī)制，推動行業(yè)健康發(fā)展；在開放合作領(lǐng)域，持續(xù)推進(jìn)國際交流對話，攜手各方共建技術(shù)標(biāo)準(zhǔn)與發(fā)展框架。這種多維度的發(fā)展策略，不僅推動技術(shù)持續(xù)創(chuàng)新，更有助于實現(xiàn)社會長期穩(wěn)定與公平發(fā)展。人工智能的發(fā)展超越了單純的科技創(chuàng)新范疇，它考驗著人類如何在技術(shù)變革浪潮中守護(hù)核心價值、實現(xiàn)共同繁榮。

AI賽道加速擴(kuò)張：機(jī)遇與潛力

2023年以來，全球人工智能市場以前所未有的速度擴(kuò)張。CB Insights的數(shù)據(jù)顯示，2024年迄今的平均AI交易規(guī)模較2023年增長55%。   

長期展望同樣樂觀，《2024年全球人工智能行業(yè)報告》預(yù)測，到2030年，全球人工智能市場規(guī)模將從2023年的2080億美元飆升至1.84萬億美元，年增長率高達(dá)29.77%。

具體到區(qū)域市場，美國生成式AI市場預(yù)計將從2023年的160億美元增長到2030年的600億美元以上，增長幅度超過四倍。相比之下，中國雖然起步相對較晚，但增速迅猛，預(yù)計將從2023年的20.63億美元增長到2028年的165.44億美元。到2035年，AI有望使中國GDP相較基準(zhǔn)情形提升9.8%，相當(dāng)于未來10年的年化增長率額外增加0.8%。

從企業(yè)層面來看，AI技術(shù)的采用呈現(xiàn)快速增長趨勢。麥肯錫調(diào)查顯示，2023年，全球55%的企業(yè)至少在一個業(yè)務(wù)環(huán)節(jié)中應(yīng)用AI技術(shù)，較2022年提高5%。同時，AI已成為中小企業(yè)，尤其是垂直應(yīng)用領(lǐng)域創(chuàng)業(yè)公司的重要競爭力來源。39%的中小企業(yè)正在使用人工智能，預(yù)計到2025年底這一比例將躍升至51%。

生成式AI發(fā)展四大隱憂：從意識覺醒到失控風(fēng)險

意識覺醒

生成式AI的迅猛發(fā)展引發(fā)了社會各界對其意識覺醒的廣泛討論和深切擔(dān)憂。美國技術(shù)哲學(xué)家Shannon Vallor曾警告，當(dāng)我們將本質(zhì)上無法進(jìn)行真正感知和思考的系統(tǒng)稱為“超人類”時，可能已在無意中削弱了人性的獨特價值。

一種觀點認(rèn)為，AI可能會逐步發(fā)展出超越人類控制的自主意識，進(jìn)而對人類社會構(gòu)成威脅。這種擔(dān)憂源于對AI可能產(chǎn)生獨立于人類意志的目標(biāo)和動機(jī)的想象。

與此同時，更深層的憂慮在于技術(shù)進(jìn)步可能引發(fā)的人類主體性危機(jī)。當(dāng)AI系統(tǒng)在功能上日益接近甚至超越人類智能時，我們將面臨一個難以區(qū)分人類與機(jī)器心智的未來。這不僅挑戰(zhàn)了人類的自主性，還動搖了人類的獨特價值。

盡管這些擔(dān)憂廣受關(guān)注，當(dāng)前的科學(xué)研究仍表明生成式AI距離擁有真正的意識還有很長的路要走。達(dá)姆施塔特工業(yè)大學(xué)和巴斯大學(xué)的研究團(tuán)隊發(fā)現(xiàn)，所謂AI的“涌現(xiàn)能力”，實際上更類似于這些模型基于已有訓(xùn)練數(shù)據(jù)和經(jīng)驗進(jìn)行的高級模仿或即興創(chuàng)作，并不意味著AI已經(jīng)具備了完全自主發(fā)展能力或獨立意圖。盡管模型規(guī)模的擴(kuò)大確實提升了AI表現(xiàn)，但這些能力仍局限于設(shè)計者預(yù)設(shè)的框架內(nèi)。

情感依戀

生成式AI卓越的語言理解與情感分析能力正在重塑人類與機(jī)器的互動模式。人們不僅在日常任務(wù)中依賴AI，還將其視為情感支持的來源，甚至發(fā)展出親密關(guān)系，如朋友、戀人、導(dǎo)師和心理疏導(dǎo)者等。例如，包小柏利用AI“復(fù)刻”病故的女兒的案例，展示了人們對AI能力的深度依賴與情感投射。然而，這種人機(jī)情感關(guān)系的加深帶來了一系列倫理和心理學(xué)問題。研究表明，AI的“諂媚效應(yīng)”可能導(dǎo)致用戶產(chǎn)生深層情感依賴。長期沉溺于與AI的互動，用戶可能逐漸失去維系真實人際關(guān)系的能力，出現(xiàn)“數(shù)字依戀障礙”。

盡管AI系統(tǒng)表現(xiàn)得越來越像人，但它們本質(zhì)上缺乏真正的人格和自主情感。這種本質(zhì)與用戶對其產(chǎn)生的情感投射之間的矛盾，可能對個體的心理健康和社交能力產(chǎn)生深遠(yuǎn)的負(fù)面影響。

面對這些挑戰(zhàn)，學(xué)界和業(yè)界正在積極探索應(yīng)對方案。首要任務(wù)是加強(qiáng)科技倫理研究，深入探討AI與人類情感互動中的倫理邊界和社會影響。在技術(shù)層面，研究者提出了“設(shè)計中的監(jiān)管”概念，旨在通過在AI系統(tǒng)設(shè)計中嵌入安全措施來預(yù)防潛在的情感依賴風(fēng)險。此外，業(yè)界正在探索對齊微調(diào)和機(jī)制可解釋性等技術(shù)方法，通過優(yōu)化模型行為、提升系統(tǒng)透明度，確保AI在情感互動中保持恰當(dāng)邊界。

創(chuàng)作沖擊

生成式AI正在改變內(nèi)容創(chuàng)作的生態(tài)，提升了創(chuàng)作效率和多樣性，但同時也引發(fā)了原創(chuàng)性、版權(quán)歸屬等問題。例如，字節(jié)跳動旗下的番茄小說平臺要求作者簽署協(xié)議以允許作品用于AI訓(xùn)練，激起了創(chuàng)作者的集體抵制。為保護(hù)知識產(chǎn)權(quán)，創(chuàng)作者與研究者正嘗試新方法，如倫敦帝國理工學(xué)院開發(fā)的“版權(quán)陷阱”技術(shù)，通過嵌入特殊句子來檢測作品是否被用于AI訓(xùn)練。未來，創(chuàng)作者不僅要具備與AI技術(shù)協(xié)同工作的能力，還需要在內(nèi)容創(chuàng)作上保持獨特性和創(chuàng)新性，以在快速變化的創(chuàng)作生態(tài)中保持競爭力。

新型安全風(fēng)險

AI深度偽造技術(shù)正被濫用，篡改人像、偽造證據(jù)等違法行為不斷增多，已淪為操縱輿論、實施詐騙的新型犯罪工具。AI在復(fù)雜決策中的應(yīng)用也備受爭議，如在醫(yī)療領(lǐng)域，AI協(xié)助臨終決策盡管減輕了家屬壓力，卻引發(fā)了對其可靠性和倫理性的擔(dān)憂。

面對生成式AI帶來的安全挑戰(zhàn)，主要科技公司已采取了一系列治理措施。例如，OpenAI設(shè)立了獨立團(tuán)隊測試其模型在網(wǎng)絡(luò)安全、生物威脅等方面的風(fēng)險。Anthropic則與外部機(jī)構(gòu)合作評估其新模型的自動駕駛功能。谷歌的SynthID和Meta的Stable Signature等數(shù)字水印工具也在加快研發(fā)，助力用戶識別AI生成內(nèi)容。美國科技公司還加強(qiáng)了網(wǎng)絡(luò)安全措施，保護(hù)專有模型和未發(fā)布的模型權(quán)重，如微軟推出的“安全未來計劃”。在中國，國家互聯(lián)網(wǎng)信息辦公室實施了深度合成服務(wù)算法備案制度，增加了AI技術(shù)應(yīng)用的透明度。

盡管各國采取的具體措施不同，但都反映了對AI安全治理的重視。然而，專家指出，仍需要更多的透明度、獨立審核和跨學(xué)科合作，特別是在模型訓(xùn)練數(shù)據(jù)來源、決策過程透明度等方面。全球范圍內(nèi)的協(xié)同合作將是未來有效應(yīng)對AI技術(shù)復(fù)雜挑戰(zhàn)的關(guān)鍵。

中國AI政策三重奏：創(chuàng)新、治理與開放合作

在人工智能發(fā)展的新時代，中國正致力于構(gòu)建新的戰(zhàn)略框架，以推動AI從高速發(fā)展走向高質(zhì)量發(fā)展。這一戰(zhàn)略涵蓋創(chuàng)新支持、風(fēng)險治理與開放合作三個關(guān)鍵維度。

創(chuàng)新支持：構(gòu)建引領(lǐng)性大模型技術(shù)創(chuàng)新體系

在支持AI創(chuàng)新方面，中國通過前瞻性政策布局，正加速推進(jìn)大模型發(fā)展的關(guān)鍵要素建設(shè)。為強(qiáng)化數(shù)據(jù)支撐，工信部等部門聯(lián)合發(fā)布《新產(chǎn)業(yè)標(biāo)準(zhǔn)化領(lǐng)航工程實施方案》，構(gòu)建了生成式人工智能應(yīng)用標(biāo)準(zhǔn)體系。中國大模型語料聯(lián)盟的成立為大模型發(fā)展提供了多元數(shù)據(jù)要素保障。《生成式人工智能服務(wù)管理暫行辦法》的出臺則為大模型創(chuàng)新應(yīng)用提供了制度保障。

加強(qiáng)創(chuàng)新支撐體系是推動AI高質(zhì)量發(fā)展的關(guān)鍵。首要任務(wù)是建立國家級產(chǎn)業(yè)創(chuàng)新聯(lián)合體，整合高校與企業(yè)的科研資源，促進(jìn)基礎(chǔ)研究與應(yīng)用創(chuàng)新深度融合。在底層技術(shù)領(lǐng)域，中國需在預(yù)訓(xùn)練算法、知識圖譜等方面實現(xiàn)自主突破，同時構(gòu)建開源開放的技術(shù)生態(tài)，促進(jìn)創(chuàng)新要素高效流動。

與此同時，中國應(yīng)結(jié)合產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型需求，著重培育能夠服務(wù)不同行業(yè)的大模型應(yīng)用，尤其是推動制造業(yè)在智能設(shè)計、工藝優(yōu)化和質(zhì)量管理等領(lǐng)域的應(yīng)用創(chuàng)新。通過完善數(shù)據(jù)確權(quán)、定價和交易的制度改革，釋放數(shù)據(jù)要素的潛能，推動創(chuàng)新持續(xù)發(fā)展，使中國從“跟跑”邁向“領(lǐng)跑”。

風(fēng)險治理：完善人工智能發(fā)展的安全保障體系

從2018年首次提出互聯(lián)網(wǎng)信息服務(wù)安全評估要求，到2022年出臺算法推薦管理規(guī)定，再到2023年專門針對生成式人工智能發(fā)布系列規(guī)范，中國已形成了多層次、立體化的AI監(jiān)管與治理框架。特別是2024年《生成式人工智能服務(wù)安全基本要求》的發(fā)布，構(gòu)建了從語料、模型到應(yīng)用的全鏈條安全規(guī)范，為全球AI治理提供了借鑒。

隨著AI在各行業(yè)中的廣泛應(yīng)用，保障創(chuàng)新發(fā)展的同時構(gòu)建更加智慧的治理機(jī)制成為當(dāng)務(wù)之急。通過“制度+技術(shù)”雙輪驅(qū)動的模式，政府應(yīng)繼續(xù)完善分層分類的監(jiān)管框架，根據(jù)不同風(fēng)險等級制定相應(yīng)標(biāo)準(zhǔn)。在技術(shù)方面，加強(qiáng)AI系統(tǒng)的安全評估、內(nèi)容識別及追溯審計技術(shù)的研發(fā)，將為治理提供技術(shù)支撐。

此外，AI治理還需形成“政府引導(dǎo)、企業(yè)參與、社會協(xié)同”的共治模式。政府重在完善制度和監(jiān)管框架，企業(yè)則應(yīng)在內(nèi)部建立風(fēng)險管理機(jī)制并積極承擔(dān)社會責(zé)任，行業(yè)組織可推動行業(yè)自律和標(biāo)準(zhǔn)化發(fā)展。多元共治模式不僅能提高AI發(fā)展的安全性，還將推動創(chuàng)新的可持續(xù)發(fā)展。

開放合作：貢獻(xiàn)人工智能全球治理的中國方案

中國正以開放包容的姿態(tài)積極融入全球AI創(chuàng)新網(wǎng)絡(luò)。在投資環(huán)境優(yōu)化方面，2022年修訂的《鼓勵外商投資產(chǎn)業(yè)目錄》將人工智能列為重點領(lǐng)域，特別是在醫(yī)療、智能制造等高技術(shù)領(lǐng)域加大開放力度。在數(shù)據(jù)要素流動方面，2024年《促進(jìn)和規(guī)范數(shù)據(jù)跨境流動規(guī)定》的出臺，為跨境數(shù)據(jù)流動提供了清晰的監(jiān)管規(guī)則。同時，中國積極參與全球AI治理，從支持G20“以人為本的AI原則”到提出《全球人工智能治理倡議》，展現(xiàn)了負(fù)責(zé)任大國的擔(dān)當(dāng)。

在區(qū)域合作上，中國依托“一帶一路”倡議，推動多邊框架下的技術(shù)標(biāo)準(zhǔn)互認(rèn)和數(shù)據(jù)規(guī)則協(xié)同，促進(jìn)區(qū)域間的互聯(lián)互通。產(chǎn)業(yè)合作層面，中國積極融入全球AI產(chǎn)業(yè)鏈分工，既引進(jìn)國際領(lǐng)先企業(yè)參與國內(nèi)市場，也支持中國企業(yè)開拓海外市場，形成優(yōu)勢互補(bǔ)的產(chǎn)業(yè)生態(tài)。

更深層面看，中國正致力于成為全球AI發(fā)展的重要樞紐——通過建設(shè)國際AI創(chuàng)新合作平臺，匯聚全球創(chuàng)新資源；通過參與國際標(biāo)準(zhǔn)制定，提升全球治理話語權(quán)；通過深化人才交流，促進(jìn)創(chuàng)新理念碰撞。這種多維度的開放合作戰(zhàn)略，將助力中國在全球AI創(chuàng)新版圖中占據(jù)更重要位置，為全球AI治理貢獻(xiàn)中國智慧。

（本文作者顧潔系上海社會科學(xué)院信息研究所產(chǎn)業(yè)數(shù)據(jù)創(chuàng)新實驗室主任）