3月22日，恐怖分子襲擊了俄羅斯莫斯科的“克羅庫(kù)斯城”音樂(lè)廳（Crocus City Hall），共造成140多人死亡。此后，一段有關(guān)這次襲擊的宣傳視頻——據(jù)稱來(lái)自極端組織“伊斯蘭國(guó)（IS）”——開(kāi)始在網(wǎng)上流傳。

據(jù)《華盛頓郵報(bào)》5月17日?qǐng)?bào)道，恐怖分子的支持者精通技術(shù)，他們利用新的人工智能工具來(lái)傳播極端主義。追蹤恐怖分子和極端分子網(wǎng)絡(luò)活動(dòng)的公司SITE情報(bào)集團(tuán)（SITE  Intelligence Group）表示，極端組織“伊斯蘭國(guó)”（IS）支持者的AI生成媒體項(xiàng)目“新聞收獲（News Harvest）”已發(fā)布了6條視頻，獲得“病毒般”的擴(kuò)散效果，并在世界各地的支持者中招募新成員。

“伊斯蘭國(guó)”組織擅長(zhǎng)媒體運(yùn)作，可以制作好萊塢級(jí)別的招募視頻來(lái)吸引年輕人?，F(xiàn)在，人工智能視頻生成工具可以使該組織以更低的成本創(chuàng)建此類內(nèi)容。包括“基地”組織在內(nèi)的幾個(gè)伊斯蘭激進(jìn)組織已表示有興趣使用人工智能聊天機(jī)器人、圖像生成工具和語(yǔ)音克隆工具來(lái)快速創(chuàng)建虛假信息。

人工智能意味著游戲規(guī)則的改變

3月以來(lái)，“新聞收獲”幾乎每周都會(huì)發(fā)布有關(guān)極端組織“伊斯蘭國(guó)”在全球各地行動(dòng)的視頻。SITE情報(bào)集團(tuán)聯(lián)合創(chuàng)始人麗塔·卡茨（Rita Katz）表示，該節(jié)目的制作類似于電視臺(tái)的新聞廣播，標(biāo)志著AI已成為極端組織“伊斯蘭國(guó)”分支一種強(qiáng)大的宣傳工具。

“對(duì)于IS來(lái)說(shuō)，人工智能意味著游戲規(guī)則的改變?！笨ù恼f(shuō)，“這將是他們傳播血腥襲擊的快速方式，幾乎能到達(dá)世界的每個(gè)角落?！?/p>

在節(jié)目中，人工智能生成的新聞主播穿著迷彩服出現(xiàn)在屏幕上，新聞滾動(dòng)條和視頻片段顯示IS成員正執(zhí)行恐怖任務(wù)，主播們宣讀IS官方媒體的快訊。

3月15日，名為Al Kurdi 500的IS支持者在私人消息服務(wù)器上提出關(guān)于“采用人工智能宣傳的優(yōu)勢(shì)”的案例?！叭绻值軅冎谱饔嘘P(guān)每日新聞的視頻，作為閱讀文本新聞和查看圖像的替代方案，那就太好了，就像半島電視臺(tái)等新聞?lì)l道如何談?wù)撌录粯?。”這名支持者寫道，“技術(shù)已經(jīng)取得了很多發(fā)展，現(xiàn)在會(huì)更容易做到，特別是在使用人工智能的情況下……媒體與實(shí)體戰(zhàn)爭(zhēng)一樣重要，甚至更重要。因?yàn)樗鼘?duì)人們的影響非常大?！?/p>

該消息發(fā)出7天后，IS聲稱對(duì)莫斯科的音樂(lè)廳發(fā)動(dòng)了襲擊。隨后，名為Hisad的該組織支持者迅速動(dòng)員起來(lái)，制作了一段人工智能生成的視頻并進(jìn)行宣傳。3月26日，Hisad在私人信息平臺(tái)上發(fā)布了“新聞收獲”的第一集。

自莫斯科襲擊事件以來(lái)，“新聞收獲”已經(jīng)發(fā)布了6段節(jié)目，概述了IS分支機(jī)構(gòu)最近在全球各地的行動(dòng)，包括尼日爾、喀麥隆、伊拉克、敘利亞和尼日利亞。目前還不清楚他們正在使用什么人工智能技術(shù)，盡管帖子中的一些支持者鼓勵(lì)使用“好的”人工智能軟件。

招聘AI人才，發(fā)布聊天機(jī)器人使用指南

中東媒體研究所 （MEMRI） 執(zhí)行主任史蒂文·斯大林斯基（Steven Stalinsky）說(shuō)，這些視頻并非由IS官方部門制作，因此尚不清楚它們是否符合該組織的總體戰(zhàn)略。但他表示，因?yàn)樵摻M織一直在快速采用尖端技術(shù)，所以有可能創(chuàng)建人工智能媒體部門。

此外，親IS的媒體已經(jīng)在尋找掌握人工智能技能的人才，他們?cè)谡衅竼⑹轮幸螅菏煜ず?bào)制作、文章撰寫和視頻編輯，并精通Adobe Photoshop、Premiere和AI。

“基地”組織等其他激進(jìn)組織也在討論人工智能的使用。2月9日，一個(gè)相關(guān)組織宣布將開(kāi)始舉辦在線人工智能研討會(huì)。次日，它與另一個(gè)“基地”附屬組織合作發(fā)布了一份50頁(yè)的指南，標(biāo)題為《使用人工智能聊天機(jī)器人的不可思議的方式》，其中提供了ChatGPT的基本概述。

反恐新挑戰(zhàn)

反恐專家表示，雖然IS已經(jīng)被削弱，但人工智能可以讓其支持者在恐怖襲擊發(fā)生后的幾天內(nèi)迅速進(jìn)行宣傳，這些宣傳在網(wǎng)上停留的時(shí)間很長(zhǎng)，而此時(shí)招募新成員的幾率也很高。

華盛頓近東政策研究所高級(jí)研究員亞倫·澤林（Aaron Zelin）表示，人工智能可以為任何地方的人們提供接受宣傳、創(chuàng)建人工智能生成的媒體并參與極端主義組織的能力，從而有助于本土極端主義的發(fā)展?！叭绻阃鶋ι先幽敲炊嘁獯罄?，最終其中一塊會(huì)粘在墻上?！彼f(shuō)，“它可以為此類內(nèi)容的病毒式傳播提供更多途徑?！?/p>

斯大林斯基表示，運(yùn)營(yíng)社交平臺(tái)的科技公司對(duì)IS支持者所傳播的內(nèi)容監(jiān)管不力，這對(duì)監(jiān)管機(jī)構(gòu)和反恐工作來(lái)說(shuō)將是一個(gè)挑戰(zhàn)。對(duì)于這一點(diǎn)，聊天應(yīng)用Rocket.Chat的公關(guān)代表萊斯·馬查多羅查（Laís Machado Rocha）稱，該平臺(tái)是開(kāi)源的，不在其服務(wù)器上托管消息，因此無(wú)法刪除極端分子的消息。而Telegram和X沒(méi)有回復(fù)置評(píng)請(qǐng)求。