前不久，內(nèi)蒙古包頭警方就曾通報(bào)，有騙子利用AI換臉和擬聲技術(shù)佯裝熟人實(shí)施詐騙，福州市某公司法人代表郭先生10分鐘內(nèi)就被騙走430萬(wàn)元。另一起發(fā)生在安徽安慶經(jīng)濟(jì)開發(fā)區(qū)的案件中，詐騙分子僅使用一段9秒鐘的AI換臉視頻，就從受害人處騙走了245萬(wàn)元。這兩起典型案例引發(fā)了廣泛關(guān)注和討論。

當(dāng)下，隨著人工智能技術(shù)（AI）的迅猛發(fā)展，AI換臉詐騙等新型犯罪也呈現(xiàn)上升趨勢(shì)。通過(guò)深度學(xué)習(xí)和生成式模型，詐騙方能夠以數(shù)字化手段融合他人的面孔和聲音，制造出逼真的合成圖像。深度偽造的換臉視頻和聲音片段常常令受害者放松警惕，導(dǎo)致上當(dāng)受騙，蒙受經(jīng)濟(jì)損失。

好消息是，針對(duì)AI數(shù)字技術(shù)犯罪，國(guó)家層面相關(guān)立法研究工作正在持續(xù)積極推進(jìn)。

今年接連發(fā)布相關(guān)管理辦法

今年以來(lái)，有關(guān)深度合成、自動(dòng)生成等AI技術(shù)應(yīng)用的管理辦法頻頻發(fā)布。

1月，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，細(xì)化了深度合成技術(shù)支持者、服務(wù)提供者、服務(wù)使用者以及應(yīng)用程序分發(fā)平臺(tái)的主體責(zé)任。

4月，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》向社會(huì)公開征求意見(jiàn)。該辦法建立了AI服務(wù)的規(guī)范管理框架，要求提供生成式人工智能產(chǎn)品或服務(wù)的企業(yè)或個(gè)人進(jìn)行實(shí)名認(rèn)證、信息公示、申報(bào)安全評(píng)估、履行算法備案和變更、注銷備案手續(xù)等。上述規(guī)定和辦法的逐步落實(shí)應(yīng)能在一定程度上遏制非法個(gè)體或組織實(shí)施AI詐騙的行為。

6月25日，全國(guó)人大常委會(huì)法制工作委員會(huì)舉行記者會(huì)，針對(duì)有關(guān)利用“AI換臉”技術(shù)進(jìn)行視頻合成，進(jìn)而實(shí)施詐騙的問(wèn)題，發(fā)言人臧鐵偉指出：“萬(wàn)變不離其宗，通過(guò)‘AI換臉’進(jìn)行視頻合成、實(shí)施詐騙的行為，是利用新技術(shù)進(jìn)行的詐騙，與傳統(tǒng)詐騙行為在本質(zhì)上沒(méi)有區(qū)別?！?/p>

應(yīng)當(dāng)看到，國(guó)家層面制定的反電信網(wǎng)絡(luò)詐騙法、刑法等法律為打擊治理各類電信網(wǎng)絡(luò)詐騙活動(dòng)提供了較為充分地支撐，AI換臉、AI擬聲、AI釣魚郵件等詐騙行為并沒(méi)有逃出既有法律的打擊范圍。

立法之外，協(xié)同治理不可或缺

當(dāng)前，隨著深度學(xué)習(xí)等AI技術(shù)的成熟，AI詐騙呈現(xiàn)手段愈發(fā)多樣、門檻大幅降低、辨別難度加大等特點(diǎn)，并且犯罪成本也很低。在網(wǎng)絡(luò)上，一些高逼真的換臉付費(fèi)軟件售價(jià)僅在幾百元至幾千元之間，大量被泄露的個(gè)人信息和數(shù)據(jù)也能以較低價(jià)格獲取。這可能會(huì)導(dǎo)致大量侵權(quán)內(nèi)容生成，進(jìn)而對(duì)公民肖像權(quán)、名譽(yù)權(quán)和隱私權(quán)構(gòu)成巨大威脅，僅靠立法規(guī)制并不能徹底解決，還需要相應(yīng)行政治理措施的協(xié)同。

首先是要大力加強(qiáng)監(jiān)管機(jī)構(gòu)的能力建設(shè)。利用機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘、區(qū)塊鏈等技術(shù)加強(qiáng)對(duì)AI應(yīng)用的監(jiān)管與審查，及時(shí)發(fā)現(xiàn)和應(yīng)對(duì)新型犯罪手法。

其次是加強(qiáng)技術(shù)研究和創(chuàng)新。開發(fā)先進(jìn)的防御工具和技術(shù)來(lái)檢測(cè)、識(shí)別和防范利用AI等高科技進(jìn)行的詐騙犯罪。例如，開發(fā)強(qiáng)大的身份驗(yàn)證技術(shù)、欺詐檢測(cè)算法和反欺詐系統(tǒng)等。

同時(shí)，還需要大力加強(qiáng)跨部門、跨行業(yè)乃至跨國(guó)的協(xié)同合作，共建網(wǎng)絡(luò)安全生態(tài)系統(tǒng)。建立公安、工信、網(wǎng)信、市場(chǎng)監(jiān)管部門等政府部門會(huì)同電信企業(yè)、通訊軟件提供商、銀行等企業(yè)的聯(lián)合工作機(jī)制，提供技術(shù)解決方案，推動(dòng)行業(yè)標(biāo)準(zhǔn)和最佳實(shí)踐，共同監(jiān)測(cè)和維護(hù)網(wǎng)絡(luò)安全。

普通人可以做什么

更為關(guān)鍵的是，每個(gè)居民都是個(gè)人信息安全的第一責(zé)任人，需加強(qiáng)保護(hù)意識(shí)，防止信息泄露，尤其是不能輕易提供人臉、指紋等個(gè)人生物信息給他人。以下一些建議，或可幫助個(gè)人辨別AI換臉詐騙情況。

不尋常的請(qǐng)求或交流：如果你收到了一條突然出現(xiàn)的請(qǐng)求或消息，其中包含進(jìn)行不尋常行為的要求，例如轉(zhuǎn)賬款項(xiàng)、提供個(gè)人信息等，需要保持警惕，不輕易回應(yīng)。

異常的語(yǔ)言和行為：盡管AI換臉技術(shù)可以逼真地模仿原始人物的語(yǔ)言和行為，但仍可能存在一些異常之處。例如不連貫的語(yǔ)句、奇怪的語(yǔ)法錯(cuò)誤、與平時(shí)不符的態(tài)度和行為等。如果你感覺(jué)對(duì)方的語(yǔ)言和行為稍有“不同尋?！保鸵⒖叹X(jué)。

細(xì)致觀察面部特征和動(dòng)作：使用AI換臉技術(shù)模仿原始人物的面部特征和動(dòng)作，目前還不能在細(xì)節(jié)上做到百分百完美匹配，因此需要留意細(xì)節(jié)上的異常，例如眼睛的移動(dòng)不協(xié)調(diào)、面部表情不自然、唇形不匹配等。如果觀察到類似情形，就要懷疑其真實(shí)性。

認(rèn)真核實(shí)身份和信息：在收到涉及重要決策或敏感信息的請(qǐng)求時(shí)，一定要堅(jiān)持在第一時(shí)間核實(shí)對(duì)方的身份和信息，例如直接與其進(jìn)行電話或面對(duì)面溝通，而不僅僅依賴于在線交流。

留意平臺(tái)的警示：部分社交媒體和在線平臺(tái)已經(jīng)采取了一些措施來(lái)標(biāo)識(shí)或警告AI換臉生成的內(nèi)容。如果您在社交媒體或在線平臺(tái)上看到有關(guān)特定賬戶或內(nèi)容的緊急提示，須保持警醒。

與此同時(shí)，日常生活中要時(shí)刻注意不泄露個(gè)人信息。比如，前段時(shí)間上海街頭有許多小販?zhǔn)殖钟∮卸S碼的紙牌與路人搭訕，說(shuō)只要掃一掃就可以免費(fèi)贈(zèng)送大鵝公仔。看似輕無(wú)足輕重的請(qǐng)求和萌萌的大鵝，很容易讓人喪失警惕。然而，只要輕輕一掃，竊取個(gè)人信息、植入惡意軟件和病毒，非法訪問(wèn)手機(jī)相冊(cè)、麥克風(fēng)等風(fēng)險(xiǎn)就可能接踵而至。

因此，每個(gè)人隨時(shí)都要保持警惕和謹(jǐn)慎，不要隨意相信和執(zhí)行不尋常的請(qǐng)求。如果懷疑自己遇到了AI換臉詐騙，最佳做法是暫停與對(duì)方交流，核實(shí)其信息和身份，咨詢專業(yè)人士，并及時(shí)向執(zhí)法機(jī)構(gòu)報(bào)告。

治理和防范“AI換臉”等新型詐騙犯罪，仍然需通過(guò)立法、治理和公共教育等各方多管齊下地努力，并合理引導(dǎo)科技向善，才能應(yīng)對(duì)潛在威脅，維護(hù)社會(huì)安全與穩(wěn)定。

 --------

城市因集聚而誕生。

一座城市的公共政策、人居環(huán)境、習(xí)俗風(fēng)氣塑造了市民生活的底色。

澎湃城市觀察，聚焦公共政策，回應(yīng)大眾關(guān)切，探討城市議題。