機(jī)器學(xué)習(xí)的“黑箱”問題愈發(fā)引發(fā)學(xué)界的關(guān)注。

北京時(shí)間8月25日結(jié)束的美國斯坦福大學(xué)基礎(chǔ)模型研究中心(Center for Research on Foundation Models, 簡稱CRFM)研討會(huì)上，來自不同學(xué)科領(lǐng)域的知名研究者討論了“基礎(chǔ)模型”在種族/宗教歧視，社會(huì)不平等和信息安全等多種層面上可能帶來的威脅以及需要研究的問題。

近幾年，得益于多種AI模型的完善，人工智能開始能夠?qū)θ祟愐詾楹赖恼Z言能力進(jìn)行學(xué)習(xí)和模仿，于是根據(jù)描述進(jìn)行繪畫、幫程序員自動(dòng)補(bǔ)全修改代碼等等應(yīng)用開始成為現(xiàn)實(shí)，人工智能滲透入生活的方方面面。

這些強(qiáng)大的人工智能模型包括BERT（Bidirectional Encoder Representations from Transformers，一個(gè)預(yù)訓(xùn)練的語言表征模型）, GPT-3（Generative Pre-Training，生成式預(yù)訓(xùn)練），CLIP（Contrastive Language–Image Pre-training，對比語言-圖像預(yù)訓(xùn)練）, DALL-E（命名是藝術(shù)家薩爾瓦多·達(dá)利Salvador Dalí和皮克斯Pixar機(jī)器人WALL·E名稱的結(jié)合）等。

這些模型往往基于不同的技術(shù)模塊，但它們現(xiàn)在都有了一個(gè)共同的名字——“基礎(chǔ)模型”（foundation models）。基礎(chǔ)模型對當(dāng)下社會(huì)的影響越來越深遠(yuǎn)，然而人們對其如何發(fā)生作用、產(chǎn)生了哪些結(jié)果實(shí)際上缺乏清晰了解。

這也造成了所謂的“黑箱”問題：機(jī)器學(xué)習(xí)中會(huì)出現(xiàn)無法解釋、不夠安全可信可靠的情形?；谝陨峡剂浚固垢４髮W(xué)在8月18日宣布成立基礎(chǔ)模型研究中心（下簡稱CRFM），專職于基礎(chǔ)模型的研究。

基礎(chǔ)模型研究中心由不同領(lǐng)域的研究者組成（如哲學(xué)、社會(huì)學(xué)、計(jì)算機(jī)科學(xué)等），研究中心主任是知名人工智能研究者、斯坦福大學(xué)教授Percy Liang。CRFM隸屬于斯坦?！耙匀藶楸救斯ぶ悄苎芯吭骸保℉uman-centered AI Research，HAI），在其官網(wǎng)的主頁上，CRFM稱他們的使命是“在基礎(chǔ)模型的研究、開發(fā)和部署上”作出貢獻(xiàn)。

CRFM的官方主頁（https://crfm.stanford.edu/）

據(jù)斯坦福大學(xué)介紹，作為一個(gè)不同領(lǐng)域研究者共同存在的機(jī)構(gòu)，CRFM的研究將不僅僅局限于傳統(tǒng)的科學(xué)研究，HAI的聯(lián)席主任John Etchemendy表示“這個(gè)新的機(jī)構(gòu)的任務(wù)是貫徹‘以人為本’的理念，通過交叉領(lǐng)域的學(xué)術(shù)研究以促進(jìn)基礎(chǔ)模型在廣泛的人類關(guān)心的議題上產(chǎn)生影響”。（This new center embodies the spirit of HAI by fostering interdisciplinary scholarship on foundation models with a focus on the range of human-centered issues that these models entail.）

斯坦福大學(xué)基礎(chǔ)模型研究中心的這些學(xué)者們的最新力作是《基礎(chǔ)模型的機(jī)遇和風(fēng)險(xiǎn)》（On the Opportunities and Risks of Foundation Models）。這是一篇擁有超百名作者，長達(dá)兩百多頁的綜述。在這篇論文中，BERT, GPT-3, CLIP, Codex、DALL-E等強(qiáng)大的人工智能模型首次以一個(gè)共同的名字——“基礎(chǔ)模型”（foundation models）出現(xiàn)。

知名華人人工智能學(xué)者李飛飛、Percy Liang等均在論文的作者列表中。論文指出，基礎(chǔ)模型的出現(xiàn)雖然帶來了機(jī)遇，但也帶來了風(fēng)險(xiǎn)，提出了基礎(chǔ)模型中的現(xiàn)有挑戰(zhàn)、跨學(xué)科合作的必要性以及為什么行業(yè)內(nèi)應(yīng)該有嚴(yán)重的緊迫感?！盎A(chǔ)模型…是構(gòu)建 AI 系統(tǒng)的新興范式，可導(dǎo)致前所未有的同質(zhì)化水平：單一模型作為眾多下游應(yīng)用的基礎(chǔ)，帶來廣泛的同質(zhì)化的影響，” Percy Liang在一次采訪中說。

論文綜述了此類模型的各種能力（如語言、視覺、機(jī)器人、推理、人機(jī)交互以）及模型對其應(yīng)用（如法律、醫(yī)療保健、教育等方面）的社會(huì)影響，如不公平、濫用、影響環(huán)境、法律和道德等。論文中表示，“我們目前對基礎(chǔ)模型如何工作、何時(shí)失敗及由于它們的緊急特性而具有的能力缺乏清晰的了解”，“黑盒”特性也使這些強(qiáng)大的模型要想真正被用于造福人類依然有很多亟待解決的問題。

發(fā)布于Arxiv的綜述論文（https://arxiv.org/pdf/2108.07258.pdf）