AI換臉實(shí)施詐騙、AI翻唱明星歌曲、AI“復(fù)活”逝者……隨著AI技術(shù)的不斷發(fā)展，在網(wǎng)上“克隆”他人的容貌、聲音已非難事，相關(guān)糾紛也屢見(jiàn)不鮮。

前不久，北京互聯(lián)網(wǎng)法院一審開(kāi)庭宣判全國(guó)首例AI生成聲音人格權(quán)侵權(quán)案，明確認(rèn)定在具備可識(shí)別性的前提下，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音。AI生成聲音可識(shí)別性的認(rèn)定應(yīng)綜合考慮行為人使用情況，并以相關(guān)領(lǐng)域普通聽(tīng)眾能否識(shí)別作為判斷標(biāo)準(zhǔn)。

接受《法治日?qǐng)?bào)》記者采訪的專(zhuān)家認(rèn)為，對(duì)于AI技術(shù)的研發(fā)和應(yīng)用，需在保護(hù)個(gè)人權(quán)益的基礎(chǔ)上進(jìn)行。應(yīng)提高AI技術(shù)的安全性和可靠性，防止聲音被非法獲取和使用；還要加強(qiáng)行業(yè)自律，建立完善的監(jiān)管機(jī)制，規(guī)范AI技術(shù)的使用行為，確保AI技術(shù)循著以人為本和技術(shù)向善的理念發(fā)展。

語(yǔ)音合成以假亂真

冒充熟人實(shí)施詐騙

記者在多款A(yù)I軟件中搜索發(fā)現(xiàn)，有不少模仿知名藝人聲音的情況。去年，“AI孫燕姿”翻唱《發(fā)如雪》等歌曲，迅速走紅網(wǎng)絡(luò)，多平臺(tái)播放量破百萬(wàn)，熱度居高不下。之后又出現(xiàn)一批其他“AI歌手”，其中不乏已故歌手的AI。隨后，大批AI翻譯作品涌現(xiàn)，如郭德綱用英語(yǔ)說(shuō)相聲等。

據(jù)了解，“AI孫燕姿”使用的核心技術(shù)來(lái)源于Sovits4.0模型。它是基于AI技術(shù)的免費(fèi)學(xué)唱軟件，用戶(hù)只需輸入歌詞和曲調(diào)，就可以精準(zhǔn)模擬人聲，自動(dòng)生成一首翻唱歌曲。

記者在某短視頻平臺(tái)搜索發(fā)現(xiàn)，關(guān)于此類(lèi)技術(shù)的學(xué)習(xí)教程不在少數(shù)。有業(yè)內(nèi)專(zhuān)家指出，目前，通過(guò)AI技術(shù)，可以實(shí)現(xiàn)對(duì)圖像、聲音、視頻的篡改、偽造和自動(dòng)生成，產(chǎn)生以假亂真的效果，一些不法分子很可能利用這類(lèi)技術(shù)實(shí)施違法犯罪行為，危害社會(huì)公共利益。

其中，最為常見(jiàn)的手法是冒充熟人實(shí)施電信詐騙。不久前，江蘇句容的楊女士在收到自己“女兒”多條要求繳納報(bào)名費(fèi)的語(yǔ)音后，向騙子賬戶(hù)轉(zhuǎn)賬3.5萬(wàn)元。對(duì)此，辦案民警反復(fù)提醒：“遇到轉(zhuǎn)賬一定要慎之又慎，眼見(jiàn)不一定為實(shí)?！?/p>

“自然人的聲音也是人格權(quán)的一種，受民法典保護(hù)。任何人不得丑化、污損或者偽造他人聲音，更不可以未經(jīng)本人許可，模仿他人聲音獲利?！北本┦芯熉蓭熓聞?wù)所律師許浩說(shuō)。

許浩介紹，和著作權(quán)不同，自然人的聲音有獨(dú)特性，在音色、語(yǔ)調(diào)以及發(fā)音風(fēng)格等多維度，可識(shí)別性較強(qiáng)，使用人工智能工具對(duì)其加工，并進(jìn)行傳播獲利，則構(gòu)成對(duì)人格權(quán)的侵權(quán)。

“特定人的聲音可以產(chǎn)生一定經(jīng)濟(jì)價(jià)值的屬性，被侵犯不僅會(huì)造成人格損失，更可能造成經(jīng)濟(jì)損失?！北本┚┍韭蓭熓聞?wù)所主任連大有說(shuō)，但實(shí)踐中這類(lèi)案件通常面臨維權(quán)難的困境，存在取證難、舉證難、認(rèn)定難等問(wèn)題。

未獲得權(quán)利人同意

擅自使用構(gòu)成侵權(quán)

AI“復(fù)活”逝者也是頗受爭(zhēng)議的話題之一。

記者在某電商平臺(tái)上看到，不少網(wǎng)店專(zhuān)門(mén)從事AI“復(fù)活”逝者的生意，稱(chēng)可以“讓動(dòng)態(tài)照片開(kāi)口說(shuō)話，修復(fù)合成微笑定制懷念視頻”，一般標(biāo)價(jià)為10元。但產(chǎn)品詳情頁(yè)中寫(xiě)道，拍前請(qǐng)與客服溝通需求，具體價(jià)格根據(jù)難易程度決定。

客服介紹，簡(jiǎn)單地讓照片動(dòng)起來(lái)只需幾十元錢(qián)，稍微復(fù)雜點(diǎn)有表情的要上百元。如果需要采用AI換臉技術(shù)，根據(jù)相似度不同，價(jià)格在幾百元至上萬(wàn)元不等，其聲音、相貌的相似度可達(dá)95%以上。

據(jù)了解，AI“復(fù)活”逝者是基于大數(shù)據(jù)分析、語(yǔ)音合成、機(jī)器學(xué)習(xí)等先進(jìn)技術(shù)，通過(guò)對(duì)逝者生前的文字、音頻、視頻資料進(jìn)行深度學(xué)習(xí)，創(chuàng)造出與其音容笑貌極為相似的虛擬形象。

在中國(guó)政法大學(xué)傳播法研究中心副主任朱巍看來(lái)，是否獲得權(quán)利人的合法授權(quán)，是判定是否構(gòu)成聲音權(quán)益侵權(quán)的關(guān)鍵。近年來(lái)，AI語(yǔ)音合成技術(shù)的應(yīng)用日益普遍，但編輯、使用某一自然人的聲音，需要當(dāng)事人單獨(dú)同意。如果當(dāng)事人已經(jīng)去世，應(yīng)當(dāng)獲得相關(guān)權(quán)利人的授權(quán)，但此舉也有可能引發(fā)倫理問(wèn)題。

朱巍認(rèn)為，所謂的“復(fù)活”，本質(zhì)上是利用深度合成技術(shù)生成所謂的虛擬人或者數(shù)字人，需要使用逝者的人臉、聲音等各種數(shù)據(jù)，配合自己的目的制作相應(yīng)的內(nèi)容。如果行為人為了悼念目的，“復(fù)活”自己的親人，原則上不構(gòu)成侵權(quán)，但若是出于營(yíng)利、博眼球、詐騙等違法目的，則可能構(gòu)成侵權(quán)，甚至是刑事犯罪。

“如歌迷、粉絲出于對(duì)已故偶像的喜愛(ài)，用AI技術(shù)復(fù)活偶像，這種行為涉嫌違法。”連大有說(shuō)，根據(jù)民法典第九百九十四條，死者的姓名、肖像、名譽(yù)、榮譽(yù)、隱私、遺體等受到侵害的，其配偶、子女、父母有權(quán)依法請(qǐng)求行為人承擔(dān)民事責(zé)任；死者沒(méi)有配偶、子女且父母已經(jīng)死亡的，其他近親屬有權(quán)依法請(qǐng)求行為人承擔(dān)民事責(zé)任。

連大有說(shuō)，利用技術(shù)“復(fù)活”死者的行為還可能涉及知識(shí)產(chǎn)權(quán)問(wèn)題，如“復(fù)活”已故偶像，往往會(huì)使用相關(guān)的歌曲、影視、著作等知識(shí)產(chǎn)權(quán)。相關(guān)的知識(shí)產(chǎn)權(quán)可能屬于其他公司、企業(yè)等，也需要獲得其授權(quán)才能使用。

明確侵權(quán)賠償責(zé)任

制定技術(shù)標(biāo)準(zhǔn)規(guī)范

對(duì)于AI語(yǔ)音合成技術(shù)背后的侵權(quán)風(fēng)險(xiǎn)，相關(guān)部門(mén)和網(wǎng)絡(luò)平臺(tái)已著手監(jiān)管和規(guī)范，嘗試在技術(shù)發(fā)展和法律保障之間達(dá)到平衡。

2022年11月，國(guó)家網(wǎng)信辦等部門(mén)發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，要求任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息；可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)。

2023年7月，國(guó)家網(wǎng)信辦等部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，此舉標(biāo)志著生成式AI有了專(zhuān)門(mén)性行政法規(guī)。

該辦法第七條規(guī)定，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，要求必須使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。

2023年9月，科技部等10部門(mén)印發(fā)的《科技倫理審查辦法（試行）》，列出了需要開(kāi)展倫理審查復(fù)核的科技活動(dòng)清單，其中就包括具有社會(huì)動(dòng)員能力和社會(huì)意識(shí)引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)研發(fā)等。

與此同時(shí)，相關(guān)平臺(tái)也在嘗試加強(qiáng)治理。2023年5月，抖音發(fā)布關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議。對(duì)于創(chuàng)作者、主播、用戶(hù)、商家、廣告主等平臺(tái)生態(tài)參與者在抖音應(yīng)用生成式人工智能技術(shù)提出要求，對(duì)于違規(guī)使用AI技術(shù)的行為，一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

連大有認(rèn)為，AI領(lǐng)域的法治化仍有進(jìn)一步細(xì)化的空間?？杉涌烊斯ぶ悄芊矫娴姆晒┙o，推動(dòng)國(guó)家層面生成式人工智能規(guī)范的確立。對(duì)已有案例出現(xiàn)的疑難法律問(wèn)題，要通過(guò)學(xué)術(shù)討論和司法實(shí)踐，逐步形成共識(shí)，總結(jié)確立法律適用規(guī)則。

“在AI技術(shù)不斷發(fā)展的背景下，要更加注重保護(hù)個(gè)人隱私和聲音權(quán)益，同時(shí)也要規(guī)范AI語(yǔ)音合成技術(shù)的應(yīng)用范圍和使用方式?！痹S浩認(rèn)為，對(duì)于相關(guān)的公司和個(gè)人來(lái)說(shuō)，應(yīng)當(dāng)加強(qiáng)對(duì)于AI技術(shù)的了解和應(yīng)用，遵循法律法規(guī)和行業(yè)標(biāo)準(zhǔn)，避免侵犯他人權(quán)益。

朱巍呼吁，技術(shù)供應(yīng)方應(yīng)當(dāng)重視技術(shù)倫理問(wèn)題，制定統(tǒng)一的技術(shù)標(biāo)準(zhǔn)和規(guī)范，確保技術(shù)應(yīng)用有底線。在法律監(jiān)管方面，提升防控措施的精準(zhǔn)性、透明性和穩(wěn)定性。

連大有建議，在司法實(shí)踐中，要進(jìn)一步細(xì)化相關(guān)法律規(guī)定，明確聲音權(quán)的范圍、侵權(quán)行為的認(rèn)定標(biāo)準(zhǔn)以及賠償責(zé)任、承擔(dān)方式等。同時(shí)，還要加強(qiáng)宣傳教育，提高公眾對(duì)聲音權(quán)的認(rèn)識(shí)和重視，營(yíng)造全社會(huì)共同維護(hù)聲音權(quán)的良好氛圍。

（原題為《花十元就能讓照片開(kāi)口“說(shuō)話”？專(zhuān)家提醒：警惕AI悄悄“偷”走你的聲音》）