來(lái)源丨元宇宙簡(jiǎn)史

作者丨元宇宙簡(jiǎn)史主理人 Fun

【元宇宙導(dǎo)讀】隨著AI技術(shù)的發(fā)展和應(yīng)用，網(wǎng)絡(luò)詐騙也出現(xiàn)了新的手法和變化。近日，福州市某科技公司法人代表郭先生在與“好友”視頻聊天時(shí)，被對(duì)方以借用賬戶(hù)轉(zhuǎn)賬為由，10分鐘內(nèi)被騙走430萬(wàn)元。這是一起典型的AI詐騙案件，也是目前全國(guó)范圍內(nèi)正在爆發(fā)的一種新型詐騙方式。本文將分析AI詐騙的原理、特點(diǎn)、危害和防范措施，以期提高公眾的安全意識(shí)和防范能力。

近日，一條令人震驚的消息登上了微博熱搜榜：AI詐騙正在全國(guó)爆發(fā)。

據(jù)報(bào)道，福州市某科技公司法人代表郭先生，在與好友視頻聊天時(shí)，被對(duì)方以借用賬戶(hù)轉(zhuǎn)賬為由，10分鐘內(nèi)騙走了430萬(wàn)元。事后才發(fā)現(xiàn)，視頻中的好友其實(shí)是騙子利用AI換臉和擬聲技術(shù)偽造的。

這是近期全國(guó)范圍內(nèi)出現(xiàn)的一種新型電信詐騙，該詐騙利用AI人工智能，通過(guò)“換臉”和“擬聲”技術(shù)模仿受害人的朋友或親戚的聲音和外貌，以此騙取受害者的信任，進(jìn)行網(wǎng)絡(luò)詐騙。

據(jù)包頭警方介紹，這種詐騙的成功率高達(dá)100%，已經(jīng)造成了多起重大經(jīng)濟(jì)損失。

01、430萬(wàn)AI詐騙案件始末

郭先生是福州市一家科技公司的法人代表，他在4月20日11時(shí)40分左右收到了一個(gè)微信視頻電話(huà)，是他的好友打來(lái)的。

好友跟他聊了幾句，然后說(shuō)自己有個(gè)朋友在外地參加投標(biāo)，需要借用郭先生公司的公對(duì)公賬戶(hù)轉(zhuǎn)430萬(wàn)元保證金。好友還給郭先生發(fā)了銀行轉(zhuǎn)賬單的截圖，說(shuō)已經(jīng)把錢(qián)打到了郭先生的賬戶(hù)上。

郭先生看了視頻，覺(jué)得好友的面貌和聲音都沒(méi)有問(wèn)題，就沒(méi)有去核實(shí)賬戶(hù)是否收到錢(qián)，于11時(shí)49分分兩次把430萬(wàn)元轉(zhuǎn)給了好友指定的賬戶(hù)。

轉(zhuǎn)完錢(qián)后，郭先生給好友發(fā)了微信消息，告訴他已經(jīng)辦好了。沒(méi)想到，好友回復(fù)了一個(gè)問(wèn)號(hào)。 

郭先生趕緊打電話(huà)給好友，才知道好友根本不知道這件事。原來(lái)，對(duì)方利用智能AI換臉技術(shù)，冒充好友對(duì)他進(jìn)行了詐騙。

“他一直沒(méi)有跟我說(shuō)要借錢(qián)，只說(shuō)會(huì)先把錢(qián)打給我，再讓我轉(zhuǎn)給他朋友。而且視頻里面我也認(rèn)出了他的長(zhǎng)相和聲音，所以我就沒(méi)有多想”，郭先生說(shuō)。 

4月20日12時(shí)21分，福州市公安局刑偵支隊(duì)向包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)出外協(xié)請(qǐng)求，稱(chēng)福建省一位知名民營(yíng)企業(yè)負(fù)責(zé)人被騙走430萬(wàn)元，而涉案的銀行卡是包頭市蒙商銀行的對(duì)公賬戶(hù)，請(qǐng)求包頭警方盡快進(jìn)行止付處理。

包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局立刻啟動(dòng)“包頭市警銀聯(lián)動(dòng)綠色查詢(xún)機(jī)制”，當(dāng)班民警迅速完成核查、報(bào)審程序，并第一時(shí)間將涉案卡的信息通報(bào)給蒙商銀行相關(guān)部門(mén)。

在銀行的大力配合下，僅用10分鐘，就成功攔截了該詐騙賬戶(hù)內(nèi)的336.84萬(wàn)元被騙資金。同時(shí)，向福州市公安局警方提供了剩余款項(xiàng)93.16萬(wàn)元資金流出信息，為進(jìn)一步追查該案剩余資金提供了重要線索。

目前，福建警方與包頭警方正在全力追繳剩余資金中。

02、AI詐騙原理解析

AI換臉和擬聲技術(shù)是人工智能技術(shù)在圖像和語(yǔ)音領(lǐng)域的重要應(yīng)用之一，它們可以通過(guò)深度學(xué)習(xí)算法，從大量數(shù)據(jù)中提取特征，并生成逼真的圖像和語(yǔ)音。

AI換臉技術(shù)可以將一個(gè)人臉圖像中的面部特征替換成另一個(gè)人臉圖像中的面部特征，并保持原圖像中其他部分不變。例如，可以將一個(gè)人臉圖像中的眼睛、鼻子、嘴巴等替換成另一個(gè)人臉圖像中對(duì)應(yīng)部位的眼睛、鼻子、嘴巴，而發(fā)型可以保持不變。

AI擬聲技術(shù)可以根據(jù)一個(gè)人語(yǔ)音樣本中的音色、語(yǔ)調(diào)、節(jié)奏等特征生成與其相似或相同的語(yǔ)音，并可以根據(jù)輸入文本合成任意內(nèi)容的語(yǔ)音。例如，可以根據(jù)一個(gè)人的說(shuō)話(huà)錄音，生成與其相同或相似的聲音，然后你可以用這個(gè)聲音去和任何人交談。

正常情況下，AI換臉和擬聲技術(shù)可以為我們帶來(lái)極大的便利，特別是可以提高影視行業(yè)的效率降低其成本，但如果被不法分子利用，則可能造成嚴(yán)重后果。

03、部分典型的AI詐騙案例

2022年2月，浙江溫州市公安局甌海分局接到報(bào)案稱(chēng)，一名陳先生被“好友”詐騙了近5萬(wàn)元。騙子利用陳先生好友在社交平臺(tái)發(fā)布的視頻，截取其面部視頻畫(huà)面后再利用“AI換臉”技術(shù)合成，制造陳先生與“好友”視頻聊天的假象騙取其信任。

2021年4月，上海某公司高管因?qū)Ψ绞褂肁I換臉與人工生成的語(yǔ)音技術(shù)制作公司領(lǐng)導(dǎo)的面孔，并要該高管轉(zhuǎn)賬，致使該高管被詐騙150萬(wàn)元。

2021年，常德網(wǎng)警巡查發(fā)布消息，AI技術(shù)改變?cè)p騙，新騙局來(lái)襲后，詐騙成功率竟接近100%。騙子利用AI換臉技術(shù)，將自己置換成視頻、電視劇中的男（女）主角，并通過(guò)社交軟件與受害者聊天，以情感為誘餌進(jìn)行詐騙。

2020年12月，廣東深圳市某大學(xué)生小李在網(wǎng)上認(rèn)識(shí)了一名女網(wǎng)友，并與其視頻聊天。不料，對(duì)方利用AI換臉技術(shù)，將小李視頻中的面部合成到不雅視頻中，并以此威脅小李支付5萬(wàn)元封口費(fèi)。小李拒絕后，對(duì)方將不雅視頻發(fā)送給了小李的親友，造成了嚴(yán)重的社會(huì)影響。

04、AI詐騙是如何實(shí)施的？

AI詐騙的實(shí)施過(guò)程大致分為以下幾個(gè)步驟：

1、騙子通過(guò)各種渠道收集受害人及其熟人的信息，如姓名、電話(huà)、社交賬號(hào)、照片、視頻等；

2、騙子利用AI換臉技術(shù)，將自己或他人的面部替換成受害人熟人的面部，并利用AI擬聲技術(shù)，將自己或他人的聲音轉(zhuǎn)變成受害人熟人的聲音；

3、騙子通過(guò)社交軟件或電話(huà)聯(lián)系受害人，并以視頻方式進(jìn)行信息確認(rèn)，讓受害人放松警惕；

4、騙子以各種理由誘導(dǎo)受害人轉(zhuǎn)賬匯款，如借錢(qián)、投資、緊急救助等，并催促受害人盡快操作；

5、騙子在收到錢(qián)款后立即消失，切斷與受害人的聯(lián)系。

05、AI詐騙有何特點(diǎn)？

AI詐騙相比傳統(tǒng)的電信詐騙，有以下幾個(gè)特點(diǎn)：

- 更加隱蔽和逼真。通過(guò)AI換臉和擬聲技術(shù)，騙子可以輕易地偽裝成任何人，并與受害人進(jìn)行視頻通話(huà)，讓受害人無(wú)法辨別真?zhèn)危?/p>

- 更加高效和精準(zhǔn)。通過(guò)AI技術(shù)分析公眾發(fā)布在網(wǎng)上的各類(lèi)信息，騙子可以快速地篩選出目標(biāo)人群，并根據(jù)不同情況制定定制化的詐騙腳本，從而提高詐騙成功率；

- 更加難以防范和追查。由于AI換臉和擬聲技術(shù)生成的內(nèi)容很難被檢測(cè)和辨認(rèn)，受害人往往在事后才發(fā)現(xiàn)被騙，并且難以找到證據(jù)和線索。同時(shí)，由于騙子使用虛假或盜用的身份信息和賬戶(hù)信息進(jìn)行轉(zhuǎn)賬匯款，也增加了警方追繳資金和抓捕嫌疑人的難度。

06、如何防范AI詐騙？

面對(duì)日益猖獗的AI詐騙，我們應(yīng)該如何提高安全防范意識(shí)，避免上當(dāng)受騙呢？以下是一些防范建議：

- 不輕信陌生電話(huà)或視頻。如果有陌生人或熟人通過(guò)電話(huà)或視頻聯(lián)系你，并要求你提供個(gè)人信息或轉(zhuǎn)賬匯款，要保持警惕，并通過(guò)其他方式核實(shí)對(duì)方身份；

- 不隨意透露個(gè)人信息或資產(chǎn)情況。不要在網(wǎng)上公開(kāi)或分享過(guò)多的個(gè)人信息或資產(chǎn)情況，如姓名、電話(huà)、地址、出生日期、銀行卡號(hào)、驗(yàn)證碼等，以免被不法分子利用；

- 不貪圖小利或同情心。不要輕信陌生人或熟人給你介紹的投資理財(cái)項(xiàng)目、中獎(jiǎng)信息、緊急救助等，并要求你轉(zhuǎn)賬匯款。如果有疑問(wèn)或感覺(jué)異常，要及時(shí)報(bào)警求助；

- 不下載未知軟件或點(diǎn)擊可疑鏈接。不要隨意下載未知來(lái)源或非正規(guī)渠道的軟件或應(yīng)用程序，并要定期檢查手機(jī)、電腦是否中毒。不要輕易點(diǎn)擊來(lái)自陌生人或熟人發(fā)送的可疑鏈接，并要注意保護(hù)自己的社交賬號(hào)密碼；

- 不參與非法活動(dòng)或違規(guī)操作。不要為了賺取傭金或回報(bào)而參與非法活動(dòng)或違規(guī)操作，如代開(kāi)發(fā)票、代收貨款、代購(gòu)物品等，并要注意保護(hù)自己的銀行卡和支付賬戶(hù)。

總之，在AI技術(shù)飛速發(fā)展日益普及的今天，我們應(yīng)該充分利用其帶來(lái)的便利和效率，同時(shí)也要警惕其可能帶來(lái)的風(fēng)險(xiǎn)和危害。只有提高自身安全意識(shí)和防范能力，才能有效地避免成為AI詐騙的受害者。

嚴(yán)正聲明：本文為元宇宙簡(jiǎn)史原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載！內(nèi)容僅供參考交流，不構(gòu)成任何投資建議。任何讀者若據(jù)此進(jìn)行投資決策，風(fēng)險(xiǎn)自擔(dān)。