編者按：百年未有之大變局，全球風(fēng)險(xiǎn)急劇上升。各個(gè)國(guó)家和地區(qū)如何求生存，謀發(fā)展，搞競(jìng)合，爭(zhēng)未來？誰來指南找北？2021年，中國(guó)提出全球發(fā)展倡議，聚焦減貧、糧食安全、抗疫和疫苗、發(fā)展籌資、氣候變化和綠色發(fā)展、工業(yè)化、數(shù)字經(jīng)濟(jì)、互聯(lián)互通等八大領(lǐng)域國(guó)際合作，是對(duì)上述問題提出的“中國(guó)答案”。在八大領(lǐng)域內(nèi)，世界各國(guó)智庫(kù)各顯神通，仰觀俯察，深思熟慮，出謀劃策。北京大學(xué)區(qū)域與國(guó)別研究院特開辟全球智點(diǎn)·全球發(fā)展倡議卡片專欄，以極簡(jiǎn)方式提煉要點(diǎn)，為促進(jìn)全球發(fā)展倡議下各領(lǐng)域國(guó)際合作提供智力支持。同時(shí)，也歡迎讀者循例投稿，形成全球智點(diǎn)·全球發(fā)展倡議的爆炸式擴(kuò)散效應(yīng)。

標(biāo)簽：#人工智能/政治選舉

觀點(diǎn)：2024年印度尼西亞大選表明人工智能可能會(huì)破壞政治選舉的公正性，各國(guó)應(yīng)在信息供應(yīng)鏈的每一環(huán)節(jié)中規(guī)范人工智能生成的政治內(nèi)容，并制定打擊虛假信息的有效策略。

背景：印度尼西亞2024年大選凸顯人工智能對(duì)民主進(jìn)程日益增長(zhǎng)的影響力。

2010年，人工智能被初次應(yīng)用于競(jìng)選活動(dòng)，臉書等社交媒體平臺(tái)采用人工智能驅(qū)動(dòng)的算法來構(gòu)建用戶社群并精準(zhǔn)投放政治廣告。隨著第二代生成式人工智能技術(shù)的迅速發(fā)展，其在民主政治選舉中的應(yīng)用方式發(fā)生了重大變化。印度尼西亞2024年2月的選舉展現(xiàn)出人工智能改變選舉規(guī)則、選民行為及重塑選舉格局的潛力，引發(fā)了人們對(duì)未來選舉公正性和社會(huì)兩極分化的擔(dān)憂。

內(nèi)容：利用人工智能生成的高度個(gè)性化的政治內(nèi)容操縱選民心理和行為，深刻改變了印度尼西亞的政治選舉格局。具體而言：

1. 深度偽造視頻展現(xiàn)人工智能影響政治敘事的潛力。競(jìng)選期間，印度尼西亞兩位總統(tǒng)候選人的深度偽造視頻在網(wǎng)上傳播，分別為普拉博沃用阿拉伯語發(fā)表演講和納斯民主黨主席蘇里亞·帕洛斥責(zé)阿尼斯的視頻。研究發(fā)現(xiàn)18%的人相信視頻是真實(shí)的，揭示了人工智能傳播虛假信息、誤導(dǎo)公眾對(duì)政治事件認(rèn)知的可能性。

2. 人工智能通過創(chuàng)造漫畫圖像重塑候選人的政治形象。在此次競(jìng)選中，人工智能為普拉博沃量身設(shè)計(jì)了一個(gè)胖乎乎的卡通形象，將他原本威嚴(yán)且?guī)в锌謬樕实那败娛聦㈩I(lǐng)形象轉(zhuǎn)變?yōu)橐粋€(gè)可愛、極具親和力的Z世代偶像，從而幫助其獲得選民的喜愛和支持。

3. 人工智能賦能的網(wǎng)站和應(yīng)用程序可以增強(qiáng)候選人與選民之間的情感連結(jié)。在競(jìng)選期間，普拉博沃?jǐn)?shù)字團(tuán)隊(duì)開發(fā)了人工智能平臺(tái)和媒體應(yīng)用程序，支持者可以輕松生成自己與候選人的虛擬合影，拉近了雙方距離，營(yíng)造出一種親密感和歸屬感。然而實(shí)現(xiàn)該操作需要獲取用戶的個(gè)人信息，引發(fā)了對(duì)數(shù)據(jù)濫用和隱私保護(hù)問題的討論。

圖源：新加坡尤索夫·伊薩東南亞研究所（Fulcrum）

https://fulcrum.sg/election-integrity-in-the-age-of-artificial-intelligence-lessons-from-indonesia/

建議：需盡可能確保人工智能的公正性。

1. 強(qiáng)制要求對(duì)人工智能生成的政治內(nèi)容和廣告進(jìn)行明確標(biāo)注。此舉有利于加強(qiáng)對(duì)社交媒體公司的問責(zé)，可以有效增強(qiáng)透明度及公眾的辨識(shí)能力，讓選民能夠在準(zhǔn)確辨別和充分知情的基礎(chǔ)上做出明智的決策。

2. 制定相關(guān)法規(guī)，強(qiáng)化對(duì)信息從創(chuàng)建、傳播到接收這一全鏈條的監(jiān)管。其中，需要特別關(guān)注信息鏈上游虛假信息的傳播，并針對(duì)加速此類內(nèi)容擴(kuò)散的生成式人工智能技術(shù)制定嚴(yán)格的指導(dǎo)規(guī)范。

3. 研究人員亟需獲取更多來自社交媒體公司的數(shù)據(jù)和算法資源。這將幫助研究者更好了解虛假信息對(duì)選舉的影響，從而制定有效的打擊策略。

來源：Nuurrianti Jalli & Maria Monica Wihardja, 《人工智能時(shí)代的選舉誠(chéng)信：印度尼西亞的經(jīng)驗(yàn)教訓(xùn)》，新加坡尤索夫·伊薩東南亞研究所（Fulcrum），2024年6月25日，https://fulcrum.sg/election-integrity-in-the-age-of-artificial-intelligence-lessons-from-indonesia/

整理者：劉烜弟，北京大學(xué)區(qū)域與國(guó)別研究院全球智多星團(tuán)隊(duì)成員。