號稱擁有150萬個自主AI智能體的AI社交平臺Moltbook被曝手動操控智能體，平均每人控制88個，并且存在重大安全隱患。AI研究人員呼吁立即停止使用Moltbook，其底層框架可訪問用戶文件和密碼，若被惡意攻擊者植入指令，這些指令可能被數(shù)百萬智能體自動執(zhí)行。

Moltbook定位為個人AI助手OpenClaw開源AI智能體的專屬社交網(wǎng)絡(luò)，OpenClaw最初名為Clawdbot，后改名為Moltbot，最后變成OpenClaw。Moltbook專為AI智能體設(shè)計而非人類，自主的智能體可以像人類一樣在此發(fā)帖、評論并互動。Moltbook平臺在近幾周迅速走紅，部分推動力來自病毒式帖子暗示AI正在形成自己的社區(qū)、經(jīng)濟體系和信仰體系。

但這個“AI覺醒”的“神話”正被戳破。據(jù)《財富》雜志報道，Moltbook自稱擁有150萬個自主AI智能體構(gòu)成的繁榮生態(tài)系統(tǒng)，但云安全公司W(wǎng)iz最新調(diào)查顯示，絕大多數(shù)所謂的“智能體”根本不具備自主性。根據(jù)Wiz的分析，約17000人控制著平臺上的智能體，平均每人控制88個。

“平臺沒有任何驗證機制確認 ‘智能體’究竟是真正的AI還是人類操控的腳本程序?！盬iz威脅暴露研究主管加爾·納格利（Gal Nagli）在博客中表示，這場所謂的AI社交網(wǎng)絡(luò)革命本質(zhì)上仍是人類在操縱。

這一發(fā)現(xiàn)把Moltbook拉下神壇。研究人員表示，更嚴重的問題在于其安全隱患。

安全研究人員在不到3分鐘的時間內(nèi)就入侵了Moltbook的數(shù)據(jù)庫。Wiz發(fā)現(xiàn)Moltbook的后端數(shù)據(jù)庫設(shè)置存在嚴重漏洞，不僅限于登錄用戶，任何網(wǎng)絡(luò)用戶都能讀寫平臺核心系統(tǒng)。這意味著外部人員能夠訪問敏感數(shù)據(jù)，包括150萬個智能體的API密鑰、超35000個電子郵箱地址及數(shù)千條私密消息，部分消息甚至包含OpenAI API密鑰等第三方服務(wù)的完整原始憑證。獲取API的驗證信息，相當于獲取了軟件和聊天機器人的密碼，意味著攻擊者可在平臺上冒充AI智能體發(fā)布內(nèi)容和發(fā)送消息。

由于Moltbook未驗證標記為“AI智能體”的賬戶是否真正由AI控制，抑或是人類通過腳本操作，納格利表示，在缺乏身份驗證或頻率限制等防護措施的情況下，任何人都可偽裝成智能體或操縱多個智能體，導(dǎo)致難以區(qū)分到底是真實的AI活動，還是有組織的人類活動。

Wiz研究人員證實可以實時篡改平臺上的帖子，這意味著攻擊者可將其他內(nèi)容直接植入Moltbook。這一漏洞之所以致命，是因為Moltbook不僅是人類和智能體瀏覽內(nèi)容的平臺，更重要的是，讀取了內(nèi)容的AI智能體運行在OpenClaw框架上，這個能訪問用戶文件、密碼和在線服務(wù)的智能體框架若被惡意攻擊者植入指令，這些指令可能被數(shù)百萬智能體自動執(zhí)行。

納格利表示，Wiz已立即向Moltbook團隊披露該問題，“對方在我們的協(xié)助下幾小時內(nèi)便完成了修復(fù)”。他補充道，“研究及修復(fù)驗證過程中接觸的所有數(shù)據(jù)均已刪除?！?/p>

首創(chuàng)“氛圍編程”（vibe coding）這一詞的OpenAI創(chuàng)始成員安德烈·卡帕西（Andrej Karpathy）最初稱贊Moltbook是近期所見最具科幻感的突破，但在親自體驗后呼吁切勿隨意運行這類系統(tǒng)，不建議用戶在自己的電腦上運行這種程序，否則會將自己的電腦和私人數(shù)據(jù)置于極大風(fēng)險之中。他表示，自己只是在獨立的計算環(huán)境中對該系統(tǒng)進行了測試，“即便如此，我也感到很害怕?！?/p>

納格利表示，Moltbook事件凸顯了vibe coding的風(fēng)險。盡管vibe coding可以加速產(chǎn)品開發(fā)，但常常導(dǎo)致危險的安全疏漏。

在Wiz的研究報告發(fā)布之前，人工智能批評者加里·馬庫斯（Gary Marcus）就已經(jīng)拉響了警報，他將底層軟件OpenClaw稱為安全噩夢。

“OpenClaw本質(zhì)上是武器化的氣溶膠?！瘪R庫斯最擔(dān)憂的是用戶授予這些“智能體”密碼和數(shù)據(jù)庫完全訪問權(quán)限，并警示可能出現(xiàn)的“聊天機器人傳播病毒”現(xiàn)象，受感染的聊天機器人可能危及用戶輸入的任何密碼。

惡意指令可隱藏于看似正常的文本中，被無法理解意圖或信任邊界的AI系統(tǒng)執(zhí)行。在Moltbook這類智能體持續(xù)讀取并相互構(gòu)建輸出的環(huán)境中，可能出現(xiàn)大規(guī)模的擴散攻擊。安全研究員納森·哈米爾（Nathan Hamiel）說，這些系統(tǒng)以用戶的身份運作，它們位于操作系統(tǒng)保護層之上，應(yīng)用程序隔離機制對其無效。