什么是可信人工智能？為什么其在當下值得被討論？如何構建可信人工智能？下一代可信人工智能的機遇、挑戰(zhàn)與實現(xiàn)路徑分別是什么？

近日，在杭州舉行的2021全球人工智能技術大會可信AI專題論壇上以此為議題進行了討論。

對于可信人工智能的定義，科技部高技術研究發(fā)展中心研究員嵇智源在致辭中作了通俗解釋：可信AI，就是確保AI的公平性、可解釋性、健壯性和透明性，確保算法可被人信任。

要實現(xiàn)可信AI，同盾科技人工智能研究院院長、中科院醫(yī)學所首席教授李曉林認為，“數(shù)據(jù)安全、數(shù)據(jù)隱私保護等是必須解決的核心問題?！?/p>

美國加州大學伯克利分校教授宋曉冬對當下數(shù)據(jù)處理的困境做了詳細闡述：

一方面，匿名化處理無法保護用戶和數(shù)據(jù)隱私。宋曉冬以《紐約時報》的案例舉例，《紐約時報》能夠追蹤與前總統(tǒng)特朗普在一起的特工的位置，數(shù)據(jù)來自匿名的手機位置數(shù)據(jù)集。

另一方面，如何處理敏感數(shù)據(jù)以及被數(shù)據(jù)泄漏問題持續(xù)困擾著企業(yè)，同時，遵守新的隱私法規(guī)，變得越來越麻煩和昂貴，而且許多有價值的數(shù)據(jù)被鎖定，困在數(shù)據(jù)孤島中。

如何建立可靠的數(shù)據(jù)經(jīng)濟？宋曉東提出，“我們需要技術和非技術解決方案的結合，特別是我們需要有三個組件：技術解決方案，激勵模型和法律框架。”

在技術方面，宋曉東提出需要解決的兩個主要問題：一是保護使用中的數(shù)據(jù)，那么我們需要能夠無須復制原始數(shù)據(jù)就可以使用的數(shù)據(jù)。其次則需要在不泄漏敏感信息的前提下計算輸出。

“聯(lián)邦學習是一種方法，利用安全計算和差分隱私，使數(shù)據(jù)能夠保留在用戶的設備或者機器上，并使不同的實體能夠一起協(xié)作，訓練模型并以分布式計算，進行分析，最后形成分布式賬本。

我相信，十年后數(shù)據(jù)可信與共享將成為利用不同數(shù)據(jù)源的主要方式，實現(xiàn)數(shù)據(jù)確權，并使數(shù)據(jù)所有者受益，通過這些新形式的數(shù)據(jù)信任和數(shù)據(jù)共享將在10年內創(chuàng)造巨大的經(jīng)濟價值，”宋曉東認為。

同盾科技人工智能研究院院長、中科院醫(yī)學所首席教授李曉林在論壇現(xiàn)場具體闡述了建立在聯(lián)邦學習基礎上的“知識聯(lián)邦”?！奥?lián)邦學習”(Federated Learning)算法框架由谷歌公司提出，是其針對個人終端設備數(shù)據(jù)孤島和數(shù)據(jù)隱私的兩難問題提出的解決辦法。而AAAI Fellow楊強教授與微眾銀行隨后提出了基于“聯(lián)邦學習”(Federated Learning)的系統(tǒng)性的通用解決方案,可以解決個人(2C)和公司間(2B)聯(lián)合建模的問題。其目的是在滿足數(shù)據(jù)隱私、安全和監(jiān)管要求的前提下，設計一個機器學習框架，讓人工智能系統(tǒng)能夠更加高效、準確的共同使用各自的數(shù)據(jù)。

李曉林進一步提出“知識聯(lián)邦”，將認知和知識引入隱私計算范疇，包括信息層、模型層、認知層和知識層，目標是實現(xiàn)下一代可信、可解釋、可推理、可決策的人工智能。

知識聯(lián)邦通過將數(shù)據(jù)轉化成信息、模型、認知和知識，利用密碼學技術，滿足數(shù)據(jù)“可用不可見”，打破數(shù)據(jù)孤島；同時，為了保障聯(lián)邦生態(tài)構建過程可知、數(shù)據(jù)安全交換等核心問題，再通過安全的數(shù)據(jù)交換協(xié)議(Federated Learning EXchange，F(xiàn)LEX)來使用數(shù)據(jù)。他將FLEX.USE比喻為可信AI時代的HTTP.GET，合規(guī)安全使用數(shù)據(jù)而不改變數(shù)據(jù)的所有權。

李曉林在接受澎湃在內的媒體采訪時以一個例子作闡釋，在個人信用風險評估時，可能會需要個人的收入情況、消費能力、貸款情況以及其它信息，而這些信息可能分布在不同的機構中。如果我們想得到信用風險評估這個知識，就需要聯(lián)合相關機構參與任務，建立相應的任務聯(lián)盟。尤其是中小微企業(yè)，自由數(shù)據(jù)量少，需要借助外部數(shù)據(jù)才能開展業(yè)務，通過聯(lián)邦平臺建立小范圍的任務聯(lián)盟就可以有效解決這個難題。

具體來說，數(shù)據(jù)不出本地。在加密保護下，其只是在中間的梯度變化和一些決策樹的分杈點進行交換，保證了原始數(shù)據(jù)不出域，實現(xiàn)數(shù)據(jù)可用不可見。

李曉林表示，“我們觀察到人工智能各個階段的飛躍間隔大約30年。我們目前所處的時代AI已擁有強大的感知能力，以深度學習和強化學習為代表，AI獲得了及其廣泛的應用和社會影響力，我認為在下一代AI時代，知識和智能決策將成為核心，知識聯(lián)邦一定會扮演重要角色?！?/p>

中國科學院院士譚蔚泓則從智慧醫(yī)療的視角提出分子大腦，“分子大腦，即利用高分量的測量技術，結合多個識別疾病標志物的分子探針，對病人進行多到300個分子探針分子特征驗證比和定量測定，然后用人工智能幫助解析數(shù)據(jù)，把有益的信息從雜亂無章的大量的信息里面解析出來。這在上海交通大學的仁濟醫(yī)院已有落地。

譚蔚泓提出，分子大腦必將成為下一代的疾病精準診斷的變更性的技術，而這必須有數(shù)據(jù)隱私保護和可信AI的成熟技術作基礎。