近年來，以AI生成內(nèi)容（AIGC）為代表的技術(shù)浪潮以前所未有的速度席卷全球，極大地豐富了信息傳播和內(nèi)容創(chuàng)作的生態(tài)。

然而，技術(shù)如雙刃劍，在帶來效率和創(chuàng)新的同時(shí)，其被濫用的風(fēng)險(xiǎn)也日益凸顯。

“小鵬汽車展臺(tái)”事件就是一個(gè)鮮明的例證：通過AI“無中生有”地制造虛假、低俗的視頻，不僅損害了企業(yè)的品牌聲譽(yù)，更暴露了在深度偽造（Deepfake）技術(shù)日益成熟的今天，虛假信息傳播所帶來的社會(huì)信任危機(jī)和法律倫理挑戰(zhàn)。

面對(duì)AIGC技術(shù)越來越先進(jìn)的趨勢，我們必須正視核心問題——如何防止AI生成圖片和視頻技術(shù)被濫用，以及誰應(yīng)該承擔(dān)主體責(zé)任？

資深互聯(lián)網(wǎng)專家張棟偉表示，解決這一難題，需要從技術(shù)、法律、平臺(tái)和用戶等多個(gè)維度構(gòu)建多層次、全鏈條的防御與責(zé)任體系。

一、技術(shù)：對(duì)抗虛假的“數(shù)字盾牌”

防止AIGC濫用的第一道防線，永遠(yuǎn)是技術(shù)對(duì)抗。道高一尺，魔高一丈，我們需要開發(fā)出能夠識(shí)別和溯源AI生成內(nèi)容的“數(shù)字盾牌”。

1. 強(qiáng)制性標(biāo)識(shí)和數(shù)字水印

國際共識(shí)正在形成，即對(duì)AI生成內(nèi)容實(shí)施強(qiáng)制性標(biāo)識(shí)（Mandatory Labeling）。

正如中國《生成式人工智能服務(wù)管理暫行辦法》和歐盟《人工智能法案》所強(qiáng)調(diào)的透明度義務(wù)，所有向公眾提供的生成式AI服務(wù)都應(yīng)在生成內(nèi)容上進(jìn)行清晰、易識(shí)別的標(biāo)記，告知用戶該內(nèi)容為AI生成或深度偽造。

我國已率先建立起AIGC專項(xiàng)治理框架，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》及配套強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》的發(fā)布，進(jìn)一步明確要求服務(wù)提供者在生成內(nèi)容中添加不影響使用的隱式標(biāo)識(shí)，在易混淆場景添加顯式標(biāo)識(shí)，傳播平臺(tái)需主動(dòng)核驗(yàn)標(biāo)識(shí)信息。

更進(jìn)一步，應(yīng)推廣數(shù)字水?。―igital Watermarking）和加密溯源技術(shù)。

數(shù)字水印可嵌入到AI生成內(nèi)容的底層數(shù)據(jù)中，不可見但難以篡改。它能記錄內(nèi)容的生成時(shí)間、所使用的模型、甚至是最初的生成者信息。一旦內(nèi)容被用于不法目的，監(jiān)管者和受害者可以通過這些水印進(jìn)行準(zhǔn)確溯源，為法律追責(zé)提供關(guān)鍵證據(jù)。

例如，美國加州2024年通過的《人工智能透明度法案》，明確要求提供者配備檢測工具與顯隱式標(biāo)識(shí)功能，形成技術(shù)治理的合力。

2. “反深度偽造”檢測技術(shù)

需要持續(xù)投入研發(fā)“反深度偽造”（Anti-Deepfake）技術(shù)。

這類技術(shù)旨在通過檢測圖像或視頻中細(xì)微的、非人類模式的數(shù)字偽影、幀與幀之間的不一致性、或AI模型特有的指紋，來自動(dòng)判斷內(nèi)容的真實(shí)性。當(dāng)前AIGC技術(shù)迭代速度極快，平均兩個(gè)月就會(huì)出現(xiàn)新的里程碑模型，這使得檢測技術(shù)與生成技術(shù)始終處于動(dòng)態(tài)博弈狀態(tài)。

對(duì)此，政府和科研機(jī)構(gòu)必須加大對(duì)這一領(lǐng)域的支持力度，構(gòu)建“以大模型對(duì)抗大模型”的基座化鑒偽底座，確保檢測能力不落后于生成能力。

一方面，要通過“生成-標(biāo)識(shí)-檢測”的數(shù)據(jù)生態(tài)閉環(huán)積累訓(xùn)練樣本，提升鑒偽模型的泛化能力，應(yīng)對(duì)各類新型偽造方法；另一方面，需針對(duì)性研發(fā)對(duì)抗技術(shù)，防范造假者通過內(nèi)容壓縮、隱蔽投毒等方式規(guī)避檢測的行為。

同時(shí)，應(yīng)推動(dòng)鑒偽工具全民化普及，開發(fā)易用的手機(jī)端APP、網(wǎng)頁插件等，讓普通用戶能便捷辨別AI生成內(nèi)容，筑牢全民監(jiān)督的技術(shù)基礎(chǔ)。

這一點(diǎn)，中國的網(wǎng)絡(luò)安全領(lǐng)導(dǎo)企業(yè)“國投智能”（美亞柏科）走在了世界前列，已經(jīng)推出了“美亞鑒真平臺(tái)”小程序，雖然還在初期階段，但已經(jīng)是在引領(lǐng)時(shí)代。

感興趣的同學(xué)，可以打開微信小程序試試。

二、法律與監(jiān)管：構(gòu)建“技術(shù)向善”的邊界

技術(shù)對(duì)抗是基礎(chǔ)，但要從根本上遏制濫用，必須依靠法律法規(guī)的約束與指引，為AIGC劃定清晰的“技術(shù)向善”邊界。

1. 明確的負(fù)面清單與內(nèi)容審核義務(wù)

各國監(jiān)管應(yīng)設(shè)立明確的AIGC負(fù)面清單，禁止生成和傳播危害國家安全、宣揚(yáng)恐怖主義、煽動(dòng)歧視、以及包括色情、低俗在內(nèi)的不良信息。

更重要的是，應(yīng)對(duì)生成式AI服務(wù)提供者施加前置的內(nèi)容審核和過濾義務(wù)。

在模型的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練階段，必須采取有效措施，篩除含有歧視性、違法或不良信息的語料；在用戶端，模型應(yīng)內(nèi)置針對(duì)敏感內(nèi)容的“安全過濾器”，對(duì)可能生成違法信息的提示詞（Prompt）進(jìn)行攔截或拒絕。

2. 知識(shí)產(chǎn)權(quán)與肖像權(quán)保護(hù)

AIGC濫用往往伴隨著對(duì)個(gè)人肖像權(quán)、名譽(yù)權(quán)和知識(shí)產(chǎn)權(quán)的侵害。法律必須清晰界定：未經(jīng)授權(quán)利用他人肖像或作品生成的內(nèi)容，即使是AI創(chuàng)作，其法律責(zé)任依然由實(shí)際使用者和可能的技術(shù)提供者承擔(dān)。

我國《民法典》雖已明確網(wǎng)絡(luò)侵權(quán)責(zé)任，但在AI場景下，需要進(jìn)一步細(xì)化，尤其是在侵權(quán)舉證困難的情況下，探索由平臺(tái)披露相關(guān)證據(jù)的機(jī)制。在“深度偽造”侵權(quán)案件中，應(yīng)引入更嚴(yán)厲的懲罰機(jī)制，以震懾不法行為。

三、主體責(zé)任：多方共治，層層遞進(jìn)

在AIGC濫用事件中，主體責(zé)任的劃分是復(fù)雜且關(guān)鍵的問題。

鑒于AIGC的鏈條性特點(diǎn)，責(zé)任不應(yīng)只由單一主體承擔(dān)，而應(yīng)是“多方共治，層層遞進(jìn)”的體系，涵蓋服務(wù)提供者、傳播平臺(tái)、內(nèi)容生成者三個(gè)核心環(huán)節(jié)。

1. 服務(wù)提供者（模型開發(fā)者）的主體責(zé)任

AIGC服務(wù)提供者（如大模型公司）是技術(shù)的“源頭活水”，其應(yīng)承擔(dān)信息內(nèi)容管理的主體責(zé)任，這是第一層、也是最關(guān)鍵的責(zé)任。

其一，開發(fā)者在設(shè)計(jì)和訓(xùn)練模型時(shí)，必須將合規(guī)和倫理要求嵌入其中，遵守訓(xùn)練數(shù)據(jù)合法來源、不侵犯知識(shí)產(chǎn)權(quán)等規(guī)定。

其二，開發(fā)者有義務(wù)建立健全風(fēng)險(xiǎn)評(píng)估、安全技術(shù)措施和應(yīng)急處置制度，包括對(duì)模型進(jìn)行“紅隊(duì)測試”，主動(dòng)發(fā)現(xiàn)和修復(fù)可能被用于生成違法內(nèi)容的漏洞；提供便捷的投訴舉報(bào)入口；對(duì)生成內(nèi)容進(jìn)行必要的監(jiān)測和過濾。

其三，當(dāng)監(jiān)管部門介入調(diào)查時(shí)，提供者應(yīng)依法配合，對(duì)訓(xùn)練數(shù)據(jù)來源、算法機(jī)制等進(jìn)行說明，提供技術(shù)和數(shù)據(jù)支持。

2. 內(nèi)容傳播平臺(tái)（網(wǎng)絡(luò)服務(wù)提供者）的連帶責(zé)任

內(nèi)容傳播平臺(tái)（如社交媒體、視頻網(wǎng)站）是虛假信息擴(kuò)散的“放大器”，其應(yīng)承擔(dān)“通知-刪除”義務(wù)和平臺(tái)管理責(zé)任，這是第二層責(zé)任。

盡管事前審核難度極大，但對(duì)于明確存在高風(fēng)險(xiǎn)的AIGC內(nèi)容，平臺(tái)應(yīng)具備一定的事前識(shí)別能力。

依據(jù)《民法典》及相關(guān)法規(guī)，當(dāng)權(quán)利人通知平臺(tái)存在侵權(quán)內(nèi)容時(shí)，平臺(tái)必須及時(shí)采取刪除、屏蔽、斷開鏈接等必要措施。如果平臺(tái)“明知或應(yīng)知”侵權(quán)而未采取措施，則應(yīng)承擔(dān)連帶責(zé)任。

同時(shí)，平臺(tái)應(yīng)建立健全網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理機(jī)制，尤其是針對(duì)網(wǎng)絡(luò)謠言、低俗信息等，進(jìn)行實(shí)時(shí)巡查和高效處置。

當(dāng)前部分平臺(tái)雖已探索AI內(nèi)容檢測技術(shù)，但仍存在檢測不精準(zhǔn)、響應(yīng)不及時(shí)等問題，未來需加大技術(shù)投入，建立“早發(fā)現(xiàn)、早攔截、早處置”的快速響應(yīng)機(jī)制。

例如“美亞鑒真平臺(tái)”只能支持抖音、快手、小紅書的視頻鑒真，說明還有更廣大的視頻平臺(tái)沒有與類似美亞柏科的網(wǎng)絡(luò)安全平臺(tái)合作，存在較大的安全隱患。

3. 內(nèi)容生成者（用戶）的直接責(zé)任

內(nèi)容生成者（即實(shí)際利用AIGC工具制造虛假內(nèi)容的用戶）是侵權(quán)行為的直接實(shí)施者，必須承擔(dān)最主要的直接法律責(zé)任，這是第三層責(zé)任。

無論是侵害他人的名譽(yù)權(quán)、肖像權(quán)還是知識(shí)產(chǎn)權(quán)，用戶都應(yīng)根據(jù)《民法典》承擔(dān)停止侵害、消除影響、賠禮道歉、賠償損失等民事責(zé)任。

重慶網(wǎng)民何某利用AI合成災(zāi)情視頻博取關(guān)注被行政處罰、山西網(wǎng)民編造懸空寺坍塌虛假視頻遭追責(zé)等案例，均彰顯了法律對(duì)AI造謠行為的零容忍。若AIGC內(nèi)容構(gòu)成散布謠言、擾亂公共秩序，甚至是以營利為目的的傳播淫穢物品，則可能觸犯《治安管理處罰法》甚至《刑法》。

值得注意的是，用戶若故意規(guī)避平臺(tái)規(guī)則，使用非法技術(shù)繞過內(nèi)容過濾，還可能面臨懲罰性賠償，這一規(guī)定將有效遏制惡意濫用行為。

四、全球協(xié)作：應(yīng)對(duì)跨國界的數(shù)字挑戰(zhàn)

AIGC技術(shù)和虛假信息傳播不分國界，任何單一國家或地區(qū)都無法獨(dú)立解決這一問題。國際社會(huì)應(yīng)推動(dòng)在AIGC治理領(lǐng)域的國際交流與合作，在數(shù)字水印、內(nèi)容溯源、安全標(biāo)準(zhǔn)、倫理準(zhǔn)則等方面達(dá)成國際互操作性的共識(shí)。

聯(lián)合國、NIST（美國國家標(biāo)準(zhǔn)與技術(shù)研究院）等國際組織和機(jī)構(gòu)正在推動(dòng)內(nèi)容認(rèn)證和來源識(shí)別機(jī)制的建立，我國發(fā)布的《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》也為國際標(biāo)準(zhǔn)編制提供了重要借鑒，展現(xiàn)了AIGC安全治理的“中國范式”。

通過制定一套全球通用的“數(shù)字內(nèi)容認(rèn)證標(biāo)準(zhǔn)”，才能在信息跨境流動(dòng)時(shí)，依然能夠?qū)μ摷賰?nèi)容進(jìn)行有效識(shí)別和追溯，形成全球協(xié)同治理合力。

結(jié)語：在創(chuàng)新與安全之間尋求平衡

AI生成視頻、圖片所帶來的“無中生有”的風(fēng)險(xiǎn)，是對(duì)社會(huì)信任、企業(yè)聲譽(yù)乃至個(gè)人權(quán)利的嚴(yán)峻挑戰(zhàn)。

我們必須認(rèn)識(shí)到，這不是要“阻止”技術(shù)創(chuàng)新，而是在“促進(jìn)發(fā)展”與“規(guī)范治理”之間尋求一個(gè)動(dòng)態(tài)平衡。

防治AIGC濫用是一項(xiàng)系統(tǒng)工程，其核心在于：技術(shù)上，利用數(shù)字水印和反深度偽造技術(shù)，筑牢數(shù)字防御的基石；法律上，構(gòu)建清晰的負(fù)面清單和侵權(quán)追責(zé)機(jī)制，劃定行為的紅線；責(zé)任上，確立“提供者—平臺(tái)—用戶”三位一體的責(zé)任體系，讓每一個(gè)環(huán)節(jié)都承擔(dān)起相應(yīng)的合規(guī)和法律義務(wù)。

只有構(gòu)建“技術(shù)可防、法律可依、責(zé)任可溯”的綜合治理框架，我們才能最大程度地發(fā)揮AIGC的積極價(jià)值，將“數(shù)字迷霧”中的虛假之影驅(qū)散，確保技術(shù)真正服務(wù)于人類福祉。

作者：張棟偉（資深互聯(lián)網(wǎng)專家、市場營銷專家、大學(xué)生就業(yè)創(chuàng)業(yè)導(dǎo)師）