在生成式AI（人工智能）時代，數(shù)據(jù)安全的出路可能會是“用魔法打敗魔法”，知識產(chǎn)權保護也可能要提前到token（字符串）層面。

4月26日，在2024中關村論壇上，人工智能企業(yè)與學者就AI大模型的數(shù)據(jù)安全問題進行了討論。

中關村論壇數(shù)據(jù)安全治理與發(fā)展論壇現(xiàn)場                                     澎湃新聞記者 秦盛 攝

“在生成式人工智能時代，我們在數(shù)據(jù)安全層面，面臨的是不斷組合和創(chuàng)造新的數(shù)據(jù)安全風險的問題，徹底解決這種風險需要算法和工具的支撐，而不是靠人，或者靠靜態(tài)的方法去做相對固定的檢測?！鼻迦A大學計算機科學與技術系教授、人工智能研究院基礎模型研究中心副主任黃民烈如是說道。

他認為，生成式人工智能可以通過訓練去組合，去生成新的內(nèi)容，這些內(nèi)容可能在過去的語料里根本沒出現(xiàn)過，但它依然是有害的。所以，即便把訓練數(shù)據(jù)處理得很干凈，在生成式人工智能時代依然會面臨有害內(nèi)容產(chǎn)生的情況。

要解決這些問題，需要進行算法研究，比如針對性對抗攻擊、自動紅隊，然后再加上安全和對齊手段，能夠把問題在線下時就自動進行修復。

奇安信集團副總裁劉前偉表示：“做行業(yè)大模型的廠商都很擔心語料會不會被竊取、有沒有漏洞導致這些很核心的數(shù)據(jù)資產(chǎn)會泄露。這是通用大模型里過去沒有特別關注的一點?！?/p>

劉前偉指出，在進行微調(diào)時，防篡改要求非常高，更需要安全，一旦標注錯誤，就會導致安全大模型判斷錯誤。

而對于通用模型的使用，幾乎所有人都會面臨一個問題，就是當我們?nèi)柎竽Ｐ蛦栴}時，會不會造成商業(yè)機密、個人信息的泄露?！安还苁鞘褂谜哌€是開發(fā)者，都要解決隱私安全、商業(yè)機密、甚至是國家安全的問題?，F(xiàn)在只能用AI對抗AI的方式才能解決內(nèi)容安全的問題，用過去傳統(tǒng)的流量過濾的方式是無法解決的，所以‘用魔法打敗魔法’可能是一個很大的出路?！眲⑶皞ケ硎尽?/p>

IBM數(shù)據(jù)與轉型咨詢主管合伙人張玉明表示，IBM Global的一份調(diào)查報告調(diào)研了全球100多個國家和地區(qū)的高管對人工智能的看法，94%的企業(yè)高管都認為在部署AI解決方案前要確保模型的安全，但只有24%的企業(yè)打算在未來6個月內(nèi)去引入一些網(wǎng)絡安全組件，這就說明大家的認知和實際行動之間還存在延遲。

劉前偉指出，當下面臨的另一個挑戰(zhàn)，是跨境數(shù)據(jù)流動問題。如果全球的數(shù)據(jù)都匯聚在一起，不管是行業(yè)還是通用模型，訓練效果一定會有很大改善。但是，數(shù)據(jù)跨境面臨很多挑戰(zhàn)，需要在多邊協(xié)議等方面做更多的事，更多去擁抱國際組織，讓國際的數(shù)據(jù)能夠雙向流通。

香港科技大學助理教授、香港生成式人工智能研發(fā)中心資深商業(yè)拓展經(jīng)理韓斯睿認為，現(xiàn)有的知識產(chǎn)權保護制度，其實在智力產(chǎn)品的生成物層面就已截斷，在生成式人工智能訓練的token級別如何確權、如何保護，并沒有共識。所以在數(shù)據(jù)脫離原本形態(tài)進入token新形態(tài)時如何進行確權保護，是法律和政策方面的一個癥結，如果這個癥結打通了，相信會極大地促進知識共享和流通發(fā)展。