前不久，內(nèi)蒙古包頭警方就曾通報，有騙子利用AI換臉和擬聲技術(shù)佯裝熟人實(shí)施詐騙，福州市某公司法人代表郭先生10分鐘內(nèi)就被騙走430萬元。另一起發(fā)生在安徽安慶經(jīng)濟(jì)開發(fā)區(qū)的案件中，詐騙分子僅使用一段9秒鐘的AI換臉視頻，就從受害人處騙走了245萬元。這兩起典型案例引發(fā)了廣泛關(guān)注和討論。

當(dāng)下，隨著人工智能技術(shù)（AI）的迅猛發(fā)展，AI換臉詐騙等新型犯罪也呈現(xiàn)上升趨勢。通過深度學(xué)習(xí)和生成式模型，詐騙方能夠以數(shù)字化手段融合他人的面孔和聲音，制造出逼真的合成圖像。深度偽造的換臉視頻和聲音片段常常令受害者放松警惕，導(dǎo)致上當(dāng)受騙，蒙受經(jīng)濟(jì)損失。

好消息是，針對AI數(shù)字技術(shù)犯罪，國家層面相關(guān)立法研究工作正在持續(xù)積極推進(jìn)。

今年接連發(fā)布相關(guān)管理辦法

今年以來，有關(guān)深度合成、自動生成等AI技術(shù)應(yīng)用的管理辦法頻頻發(fā)布。

1月，中國國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，細(xì)化了深度合成技術(shù)支持者、服務(wù)提供者、服務(wù)使用者以及應(yīng)用程序分發(fā)平臺的主體責(zé)任。

4月，中國國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》向社會公開征求意見。該辦法建立了AI服務(wù)的規(guī)范管理框架，要求提供生成式人工智能產(chǎn)品或服務(wù)的企業(yè)或個人進(jìn)行實(shí)名認(rèn)證、信息公示、申報安全評估、履行算法備案和變更、注銷備案手續(xù)等。上述規(guī)定和辦法的逐步落實(shí)應(yīng)能在一定程度上遏制非法個體或組織實(shí)施AI詐騙的行為。

6月25日，全國人大常委會法制工作委員會舉行記者會，針對有關(guān)利用“AI換臉”技術(shù)進(jìn)行視頻合成，進(jìn)而實(shí)施詐騙的問題，發(fā)言人臧鐵偉指出：“萬變不離其宗，通過‘AI換臉’進(jìn)行視頻合成、實(shí)施詐騙的行為，是利用新技術(shù)進(jìn)行的詐騙，與傳統(tǒng)詐騙行為在本質(zhì)上沒有區(qū)別。”

應(yīng)當(dāng)看到，國家層面制定的反電信網(wǎng)絡(luò)詐騙法、刑法等法律為打擊治理各類電信網(wǎng)絡(luò)詐騙活動提供了較為充分地支撐，AI換臉、AI擬聲、AI釣魚郵件等詐騙行為并沒有逃出既有法律的打擊范圍。

立法之外，協(xié)同治理不可或缺

當(dāng)前，隨著深度學(xué)習(xí)等AI技術(shù)的成熟，AI詐騙呈現(xiàn)手段愈發(fā)多樣、門檻大幅降低、辨別難度加大等特點(diǎn)，并且犯罪成本也很低。在網(wǎng)絡(luò)上，一些高逼真的換臉付費(fèi)軟件售價僅在幾百元至幾千元之間，大量被泄露的個人信息和數(shù)據(jù)也能以較低價格獲取。這可能會導(dǎo)致大量侵權(quán)內(nèi)容生成，進(jìn)而對公民肖像權(quán)、名譽(yù)權(quán)和隱私權(quán)構(gòu)成巨大威脅，僅靠立法規(guī)制并不能徹底解決，還需要相應(yīng)行政治理措施的協(xié)同。

首先是要大力加強(qiáng)監(jiān)管機(jī)構(gòu)的能力建設(shè)。利用機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘、區(qū)塊鏈等技術(shù)加強(qiáng)對AI應(yīng)用的監(jiān)管與審查，及時發(fā)現(xiàn)和應(yīng)對新型犯罪手法。

其次是加強(qiáng)技術(shù)研究和創(chuàng)新。開發(fā)先進(jìn)的防御工具和技術(shù)來檢測、識別和防范利用AI等高科技進(jìn)行的詐騙犯罪。例如，開發(fā)強(qiáng)大的身份驗(yàn)證技術(shù)、欺詐檢測算法和反欺詐系統(tǒng)等。

同時，還需要大力加強(qiáng)跨部門、跨行業(yè)乃至跨國的協(xié)同合作，共建網(wǎng)絡(luò)安全生態(tài)系統(tǒng)。建立公安、工信、網(wǎng)信、市場監(jiān)管部門等政府部門會同電信企業(yè)、通訊軟件提供商、銀行等企業(yè)的聯(lián)合工作機(jī)制，提供技術(shù)解決方案，推動行業(yè)標(biāo)準(zhǔn)和最佳實(shí)踐，共同監(jiān)測和維護(hù)網(wǎng)絡(luò)安全。

普通人可以做什么

更為關(guān)鍵的是，每個居民都是個人信息安全的第一責(zé)任人，需加強(qiáng)保護(hù)意識，防止信息泄露，尤其是不能輕易提供人臉、指紋等個人生物信息給他人。以下一些建議，或可幫助個人辨別AI換臉詐騙情況。

不尋常的請求或交流：如果你收到了一條突然出現(xiàn)的請求或消息，其中包含進(jìn)行不尋常行為的要求，例如轉(zhuǎn)賬款項(xiàng)、提供個人信息等，需要保持警惕，不輕易回應(yīng)。

異常的語言和行為：盡管AI換臉技術(shù)可以逼真地模仿原始人物的語言和行為，但仍可能存在一些異常之處。例如不連貫的語句、奇怪的語法錯誤、與平時不符的態(tài)度和行為等。如果你感覺對方的語言和行為稍有“不同尋?！保鸵⒖叹X。

細(xì)致觀察面部特征和動作：使用AI換臉技術(shù)模仿原始人物的面部特征和動作，目前還不能在細(xì)節(jié)上做到百分百完美匹配，因此需要留意細(xì)節(jié)上的異常，例如眼睛的移動不協(xié)調(diào)、面部表情不自然、唇形不匹配等。如果觀察到類似情形，就要懷疑其真實(shí)性。

認(rèn)真核實(shí)身份和信息：在收到涉及重要決策或敏感信息的請求時，一定要堅持在第一時間核實(shí)對方的身份和信息，例如直接與其進(jìn)行電話或面對面溝通，而不僅僅依賴于在線交流。

留意平臺的警示：部分社交媒體和在線平臺已經(jīng)采取了一些措施來標(biāo)識或警告AI換臉生成的內(nèi)容。如果您在社交媒體或在線平臺上看到有關(guān)特定賬戶或內(nèi)容的緊急提示，須保持警醒。

與此同時，日常生活中要時刻注意不泄露個人信息。比如，前段時間上海街頭有許多小販?zhǔn)殖钟∮卸S碼的紙牌與路人搭訕，說只要掃一掃就可以免費(fèi)贈送大鵝公仔?？此戚p無足輕重的請求和萌萌的大鵝，很容易讓人喪失警惕。然而，只要輕輕一掃，竊取個人信息、植入惡意軟件和病毒，非法訪問手機(jī)相冊、麥克風(fēng)等風(fēng)險就可能接踵而至。

因此，每個人隨時都要保持警惕和謹(jǐn)慎，不要隨意相信和執(zhí)行不尋常的請求。如果懷疑自己遇到了AI換臉詐騙，最佳做法是暫停與對方交流，核實(shí)其信息和身份，咨詢專業(yè)人士，并及時向執(zhí)法機(jī)構(gòu)報告。

治理和防范“AI換臉”等新型詐騙犯罪，仍然需通過立法、治理和公共教育等各方多管齊下地努力，并合理引導(dǎo)科技向善，才能應(yīng)對潛在威脅，維護(hù)社會安全與穩(wěn)定。

 --------

城市因集聚而誕生。

一座城市的公共政策、人居環(huán)境、習(xí)俗風(fēng)氣塑造了市民生活的底色。

澎湃城市觀察，聚焦公共政策，回應(yīng)大眾關(guān)切，探討城市議題。