Meta公司近日宣布，已開始在全球推廣其Meta AI助手工具，該工具可處理密碼重置、舉報可疑內容、解釋內容下架原因及申訴處理、管理隱私設置等任務。測試結果顯示，AI在內容審核方面的表現超越了人工審核員。

AI內容審核成效顯著

Meta表示："未來幾年，我們將在各個應用中部署更先進的AI系統(tǒng)，徹底改變內容執(zhí)法方法，更準確地發(fā)現和清除詐騙、非法內容等嚴重違規(guī)行為，讓用戶看到更少此類內容。"

早期實驗已取得令人鼓舞的結果。一項AI工具每天檢測并阻止了5000次試圖誘騙用戶泄露密碼的詐騙行為，而Meta的人工團隊無法檢測到這些詐騙。另一項AI技術幫助將用戶對虛假名人檔案的舉報數量減少了80%以上。其他測試則使成人性誘導內容的檢測率提高了一倍。

Meta稱其AI還能"通過注意到賬戶突然從新位置訪問、密碼被更改、檔案被編輯來防止賬戶被接管"。公司表示，這些變化"對審查賬戶的人來說看起來無害，但AI能夠識別為威脅"。

盡管如此，這一觀察結果顯得有些奇怪，因為許多企業(yè)安全產品都能檢測"不可能旅行"情況，比如單個用戶從倫敦登錄，一小時后從舊金山請求密碼重置，并將其標記為可能的攻擊。

AI技術在廣告審核方面也表現出色。Meta表示，AI能"通過注意到真實標識與異常低價格和可疑網址一起使用，檢測出冒充知名體育用品商店的虛假網站"。AI技術使包含詐騙和其他嚴重違規(guī)行為的廣告瀏覽量下降了7%，為用戶和品牌提供了更好的保護。

不過，雖然結果令人欣慰，但虛假廣告本來就是一個已知問題，而Meta對此往往漠不關心。

告別元宇宙轉向AI

Meta向AI進軍的同時，也宣布放棄元宇宙這一沉浸式在線社區(qū)愿景。周三，公司宣布關閉其元宇宙平臺Horizon Worlds。

這一決定意味著Meta Quest VR眼鏡用戶可消費的內容將大幅減少。公司后來收回了這一決定，承諾繼續(xù)提供一些沉浸式環(huán)境，但表示不會創(chuàng)建新環(huán)境。

Meta采用現在的名稱是為了反映創(chuàng)始人馬克·扎克伯格對元宇宙是下一個重大機遇的信念，公司在五年內為這一雄心投入了超過800億美元。在這期間，Facebook和Instagram的內容審核表現糟糕，兒童經常受到公司產品的傷害。

公司現在計劃開發(fā)被稱為"超級智能"的技術，并將再投入數百億美元來實現這一目標。

Q&A

Q1：Meta AI助手具體能做什么？

A：Meta AI助手可以處理多項用戶服務任務，包括密碼重置、舉報可疑內容、解釋內容下架原因及處理申訴、管理隱私設置等。它還能檢測詐騙行為、虛假檔案和違規(guī)內容，在內容審核方面表現超越人工審核員。

Q2：Meta的AI內容審核效果如何？

A：測試結果顯示效果顯著。AI工具每天能檢測并阻止5000次誘騙用戶泄露密碼的詐騙行為，將虛假名人檔案舉報減少80%以上，成人性誘導內容檢測率提高一倍，包含詐騙的廣告瀏覽量下降7%。

Q3：Meta為什么要從元宇宙轉向AI？

A：Meta在元宇宙投入超過800億美元但效果不佳，最終宣布關閉Horizon Worlds平臺。同時，AI技術在內容審核等方面表現出色，公司現在計劃開發(fā)"超級智能"技術，并將投入數百億美元。