隨著AI技術(shù)的普及，“克隆”特定人物聲音已實(shí)現(xiàn)“一鍵式”操作，同時也帶來了民事侵權(quán)甚至涉嫌犯罪的法律問題。

在互聯(lián)網(wǎng)上，奧運(yùn)冠軍的“聲音”突然開始推銷農(nóng)產(chǎn)品，知名演員的“聲音”24小時不間斷在直播間與粉絲互動……這些以假亂真的AI克隆聲音正成為部分自媒體博主的“流量密碼”。

據(jù)悉，依托成熟的語音大模型技術(shù)，僅需十幾秒就能“克隆”任何人的聲音，當(dāng)聲音能被輕易竊取和濫用，隨之而來的侵權(quán)亂象頻繁上演。

以假亂真，用奧運(yùn)冠軍的AI克隆聲音帶貨

網(wǎng)傳AI仿冒全紅嬋帶貨畫面：大家好，我是你們的嬋寶，今天有事請大家?guī)兔?。嬋妹就想著幫助媽媽，讓家里的生活過得更好一點(diǎn)，同時把老家的土雞蛋分享給粉絲們嘗嘗……

記者在抖音平臺發(fā)現(xiàn)，在這個網(wǎng)名為“我是小助理吖”的博主賬號中，已發(fā)布的17件作品，內(nèi)容全部是利用AI仿冒奧運(yùn)冠軍全紅嬋聲音帶貨土雞蛋的視頻，其中一個視頻點(diǎn)贊量高達(dá)1.1萬。

評論區(qū)顯示，大量粉絲誤以為這就是全紅嬋本人，紛紛下單購買鏈接中的雞蛋，該商品鏈接顯示已售出4.7萬件。今年4月，全紅嬋家人曾向媒體證實(shí)，全紅嬋并未給相關(guān)農(nóng)產(chǎn)品代言或授權(quán)。

除全紅嬋外，奧運(yùn)冠軍孫穎莎和王楚欽也遭遇了同樣的仿冒。在這個網(wǎng)名為“小兔真可愛”的賬號中，兩位奧運(yùn)冠軍的AI克隆聲音同樣在為土雞蛋帶貨。

網(wǎng)傳仿冒孫穎莎帶貨畫面：大家好，我是莎莎，我為嬋寶家農(nóng)家土雞蛋代言。今天我就拿到了8單做福利，它是自家散養(yǎng)土雞，而且是吃糧食和草長大的，營養(yǎng)價(jià)值特別高。

網(wǎng)傳仿冒王楚欽帶貨畫面：大家好，我是王楚欽。昨天收到嬋妹私信，說他們家土雞蛋大豐收，這么好的土雞蛋不發(fā)出去就可惜了。叫我拿給家人、粉絲們嘗嘗。

為獲關(guān)注，一些博主克隆名人聲音進(jìn)行直播

以假亂真的聲音再加上對奧運(yùn)冠軍的喜愛，該網(wǎng)絡(luò)博主也收獲了大量粉絲的訂單。

而記者發(fā)現(xiàn)，AI仿冒名人的亂象遠(yuǎn)不止帶貨，還有部分自媒體博主克隆名人的聲音后進(jìn)行24小時語音直播，演員靳東是被仿冒最多的對象，在這看似匪夷所思的操作背后，卻隱藏著另一個灰色產(chǎn)業(yè)鏈。

據(jù)網(wǎng)絡(luò)安全專家潘季明介紹，通過仿冒名人進(jìn)行直播這種方式不僅可以誘騙粉絲打賞獲利，還可以將一個小白賬號迅速打造成上萬粉絲的賬號，從而再為后續(xù)牟利鋪路。

合作一次，配音演員就遭“AI盜聲”困局

AI仿冒名人的行為，不僅欺騙了消費(fèi)者，也侵犯了當(dāng)事人的人格權(quán)。而AI克隆技術(shù)濫用盯上的遠(yuǎn)不止我們熟知的名人，記者調(diào)查發(fā)現(xiàn)，配音演員被AI克隆侵權(quán)的案例同樣頻繁發(fā)生。

他叫武揚(yáng)，是一位從業(yè)十多年的職業(yè)配音演員，主要從事影視和廣告配音。今年6月中旬，武揚(yáng)突然在某餐飲企業(yè)的宣傳片中聽到了自己的聲音，但這段配音并不是他錄制的，該視頻的轉(zhuǎn)發(fā)量當(dāng)時已達(dá)到2800多次。

面對武揚(yáng)的質(zhì)問，對方承認(rèn)了他們利用AI克隆武揚(yáng)聲音的事實(shí)，但是拒絕武揚(yáng)提出公開道歉的要求，聲稱該克隆聲音是由第三方公司提供，他們沒有直接責(zé)任，僅愿意支付5000元來進(jìn)行賠償，武揚(yáng)拒絕了這個條件，他擔(dān)心這筆錢被當(dāng)成了授權(quán)費(fèi)，更怕妥協(xié)后侵權(quán)會變本加厲。

與武揚(yáng)的情況類似，另一位配音演員浩洋的維權(quán)也陷入了“自證循環(huán)”，侵權(quán)方不僅拒絕承認(rèn)對浩洋聲音克隆侵權(quán)，還試圖采取拖延的方式蒙混過關(guān)。

配音演員 浩洋：他們就說要跟視頻制作方溝通這個事情，過半個月后回我，怎么能證明這個聲音是您呢？我就需要再去自證一下，我是我。之后他們說再跟視頻制作方進(jìn)行溝通，然后再回復(fù)我，現(xiàn)在我還在等回復(fù)。

浩洋告訴記者，從今年年初開始，他已經(jīng)遭遇了多次被侵權(quán)，而他的遭遇在配音行業(yè)也并非個例。

當(dāng)被濫用的AI技術(shù)成為侵權(quán)行為的掩護(hù)，合作一次就能無限克隆，遭到侵權(quán)的配音演員們決定不再隱忍，武揚(yáng)目前已經(jīng)收集了相關(guān)的證據(jù)，準(zhǔn)備走法律程序起訴侵權(quán)方。

配音演員 武揚(yáng)：我還是建議同行，盡量讓侵權(quán)方付出更高的違法成本，這樣他們就不敢輕易用AI對我們進(jìn)行侵權(quán)。違法成本高了，也是對我們今后這個行業(yè)的一個保護(hù)。

一鍵盜聲僅需十幾秒，AI技術(shù)應(yīng)做具體限制

有人為自己的權(quán)益被侵犯而困擾，侵權(quán)者卻濫用AI技術(shù)違法牟利。那么，AI克隆聲音是如何實(shí)現(xiàn)以假亂真的？又是誰在為“盜取聲音”而推波助瀾？

記者調(diào)查發(fā)現(xiàn)，在抖音、快手等網(wǎng)絡(luò)平臺上，以“聲音克隆”為關(guān)鍵詞進(jìn)行搜索，能輕易找到大量相關(guān)教程視頻和軟件下載信息。部分博主不僅詳細(xì)演示操作過程，還直接提供軟件資源。

網(wǎng)絡(luò)安全專家潘季明介紹，基于開源的語音大模型，只需一段清晰的語音樣本，任何人的聲音都可能在極短時間內(nèi)被克隆，并能被操縱說出攻擊者設(shè)定的任意內(nèi)容。

AI克隆聲音最大隱患是被詐騙分子利用

據(jù)潘季明介紹，除了侵犯聲音權(quán)等合法權(quán)益，AI克隆聲音目前最大的隱患是被詐騙分子利用，一旦與AI換臉等技術(shù)結(jié)合，生成高度逼真的“數(shù)字人”實(shí)施詐騙，危害將非常嚴(yán)重。潘季明建議，目前相關(guān)的技術(shù)要從源頭進(jìn)行相應(yīng)限制。

網(wǎng)絡(luò)安全專家 潘季明：在開源的過程當(dāng)中，我們可能需要對這些開源代碼做一些使用層面上的限制，包括使用時長、應(yīng)用場景上，也需要做一些具體的應(yīng)用限制。

保護(hù)“聲音”，法律為AI克隆劃出紅線

從“一聽就假”到“真假難辨”，AI克隆技術(shù)的濫用不僅嚴(yán)重侵犯了當(dāng)事者的權(quán)益，而且還涉嫌違法違規(guī)。

據(jù)法律專家介紹，我國民法典將人格權(quán)獨(dú)立成編，首次以立法形式將保護(hù)“聲音”寫入其中，在第1023條中明確，對自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。

北京航空航天大學(xué)法學(xué)院副教授 趙精武：利用人工智能合成的這些聲音，如果能夠使得一般公眾或者相關(guān)領(lǐng)域的公眾，根據(jù)他的音色以及風(fēng)格關(guān)聯(lián)到特定自然人，那么就具有了法律上認(rèn)定的可識別性，仍然可以構(gòu)成對他人的侵權(quán)行為。我們國家的民法典1019條、1023條，都明確了相關(guān)侵權(quán)行為的認(rèn)定，是沒有經(jīng)過肖像權(quán)人的同意作為前提的。

趙精武介紹，任何自然人的聲音均應(yīng)受到法律的保護(hù)，對錄音制品的授權(quán)并不意味著對聲音AI克隆的授權(quán)，未經(jīng)權(quán)利人許可，擅自使用或許可他人使用權(quán)利人的聲音構(gòu)成侵權(quán)。

技術(shù)+監(jiān)管，重拳整治AI技術(shù)濫用

針對目前網(wǎng)絡(luò)上AI克隆聲音的相關(guān)內(nèi)容被大量傳播，相關(guān)的平臺是否也應(yīng)承擔(dān)相應(yīng)的責(zé)任呢？此類亂象該如何治理呢？

北京航空航天大學(xué)法學(xué)院副教授 趙精武：根據(jù)民法典1197條的相關(guān)規(guī)定，平臺與平臺用戶承擔(dān)連帶責(zé)任有一個前提，也就是平臺知道或者應(yīng)當(dāng)知道用戶利用了它的網(wǎng)絡(luò)信息服務(wù)，實(shí)施了侵害他人合法權(quán)益的行為，并且沒有采取必要措施。這里知道或者應(yīng)當(dāng)知道的判斷標(biāo)準(zhǔn)，主要是考慮到平臺對網(wǎng)絡(luò)信息內(nèi)容的管控能力，所提供的服務(wù)性質(zhì)、方式，以及引發(fā)侵權(quán)可能性的大小，平臺有沒有采取預(yù)防侵權(quán)措施的技術(shù)的可能，并且有沒有相應(yīng)的合理的措施。

專家建議，針對濫用AI克隆聲音的亂象，平臺層面要切實(shí)履行監(jiān)管責(zé)任，建立健全對AI聲音的審核和侵權(quán)舉報(bào)機(jī)制，及時發(fā)現(xiàn)和攔截侵權(quán)、虛假、違法等不良內(nèi)容。

今年3月，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》，將于2025年9月1日起施行，其中明確了服務(wù)提供者應(yīng)當(dāng)對文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標(biāo)識等。另外，中央網(wǎng)信辦近日在全國范圍內(nèi)部署開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動，將強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，推動網(wǎng)站平臺提升檢測鑒偽能力等。

來源：央視新聞、湖北日報(bào)、河南日報(bào)