AlphaGo戰(zhàn)勝李世石，人工智能之“聰明”讓世人刮目相看。聊天機器人“微軟小冰”除了能陪人聊天外，其創(chuàng)作的27首小詩刷新了人們的想象……不過，人工智能有“硬核技術”之外，也潛藏著風險和問題，比如另一款聊天機器人Tay，則是一個“不良少女”，上線24小時內，即出現(xiàn)一些偏激言論。

2月24日，北京大成（南京）律師事務所20周年法律服務創(chuàng)新論壇在南京舉行。澎湃新聞（www.xinlihui.cn）注意到，在論壇上，知名法學家、中南財經(jīng)政法大學教授吳漢東發(fā)表《人工智能時代的社會風險與法律問題》專題演講時，表達了對未來人工智能發(fā)展引發(fā)的一系列風險和問題的憂思。

“‘這是一個最好的時代’，正是由于人工智能技術的出現(xiàn)，并且廣泛運用于社會領域，人類可以說在萬物皆互聯(lián)的環(huán)境中，精準、精細地生產(chǎn)、生活和交往?！眳菨h東引用了英國作家狄更斯小說《雙城記》的開頭說。

吳漢東還表示，必須說“這也是一個最壞的時代”，這是因為人工智能技術既是人類社會的高技術，也毫無避免為這個社會帶來潛在的現(xiàn)實風險。未來的人工智能社會將會充滿著風險，人類的生命和健康、尊嚴和隱私，安全和自由都會遭遇到前所未有的挑戰(zhàn)。

他建議，人工智能所引發(fā)的法律、倫理和社會問題，必須要引入一個監(jiān)督的機制，對問題進行社會規(guī)范的調整，要進一步加強監(jiān)管。

人工智能時代“三大法律問題”

中國人工智能的發(fā)展，目前主要在機器學習、自然語言處理、圖像識別、人機交互等方面展開，可以說人工智能滲透到了社會的各個領域。吳漢東將人工智能存在風險的特點概括為“共生性、時代性、全球性”，他在演講中連拋了人工智能的“三大法律問題”。

第一，主體資格問題，智能機器人是人還是機器？2017年，沙特阿拉伯授予美國漢森機器人公司研發(fā)的女性機器人索菲亞公民資格，這雖是一個個別的法律事實，卻是已開啟的法律現(xiàn)象，還沒有成為一個法律共識和法律立法的趨向，但這是一個非?，F(xiàn)實的問題。

第二，隱私保護問題。人工智能時代是一個隱私保護問題最為嚴峻的時代，這是由于移動互聯(lián)網(wǎng)加上大數(shù)據(jù)，再加上機器計算，使得自然人的個人隱私無處逃遁。今天這個時代恐怕是一種個人隱私的“集體裸露”，在這種情況下，我們如何來保護個人的隱私？

第三，法律責任承擔問題。人工智能直接造成的損害誰來承擔？如果涉及到人工智能產(chǎn)品的缺陷，可以適用產(chǎn)品責任法，聯(lián)合國的建議是按照技術產(chǎn)品缺陷來追究其設計人、生產(chǎn)人、使用人的法律責任。但還有另外一種情況就是根據(jù)技術中立的原則，一項技術沒有上述缺陷，同時又不能歸于技術本身的情況下，如何來分配責任，這都是未來存在的一個法律難題。

“未來不排除機器人擁有人的主體地位”

沙特阿拉伯授予索菲亞身份證一事，引發(fā)法律界普遍熱議。討論集中于“機器人是不是人？應不應該具備人的屬性？”……圍繞人工智能的一系列法律問題，多名專家學者進行了圓桌主題研討。

南京大學法學院教授、中國法學會經(jīng)濟法學研究會副會長李友根表示，現(xiàn)在大部分學者認為，人工智能不能具備法律主體的資格和地位，是根據(jù)現(xiàn)在對法律主體標準的要求而認定的。但是，現(xiàn)在的法律主體認定的標準是基于我們已經(jīng)有的自然人、法人這種主體確定的。

根據(jù)李友根的敘述，當年確定法人是否具備法律主體資格的時候，有一種觀點認為不可以，這是因為主體是有血有肉的自然人，才是具備法律主體，但是后來將法人確定為法律擬制的主體。

因此，李友根認為，從歷史的角度總結人類法律歷史上法律主體的變遷，從中可以獲得一些借鑒。到人工智能真正普及發(fā)展以后，人們對法律主體的認定標準或許會發(fā)生變化，從而自動地把人工智能納為法律主體的一個部分。即使人工智能不是完全的法律主體，回顧歷史上可以發(fā)現(xiàn)，法律在處理不同的事物時，會有各種處理技術。

“當下我認為還是一個弱人工智能時代，智能機器人還不足以在自然人和法人之外，取得第三個私法主體的地位，提出這種結論為時尚早?！眳菨h東如是表示。

不過，吳漢東說，未來應該留有相對的制度空間，我們比較多地談到私法問題，比如人工智能獨立生成發(fā)明的專利法之問，這主要表現(xiàn)為，遺傳、基因編輯、人工神經(jīng)網(wǎng)絡、機器人科學家，很多發(fā)明是機器獨立完成的，那么能不能叫發(fā)明呢？現(xiàn)在的《專利法》是以人類發(fā)明者中心主義指導專利立法的，如果賦予它們獨立法人的地位，跟現(xiàn)行法的宗旨相沖突。

因此，吳漢東認為，法學工作者對人工智能的主體資格問題，應該未雨綢繆開展探索，并不排除未來機器人真的有可能取得相應的主體地位，“這是未來，而不是現(xiàn)在”。

無人駕駛交通事故，可用保險來解決法律問題

按照現(xiàn)有的法律框架，并沒有明晰機器人或者人工智能造成損害后，如何承擔侵權責任；那么，在人工智能的主體資格未被承認的前提下，一輛無人駕駛汽車發(fā)生交通事故，如何來劃分法律責任呢？

騰訊研究院法律研究中心、未來科技中心高級研究員曹建峰認為，目前，我國還沒有達到完全的自動駕駛，主要是駕駛員的輔助技術，車由人和系統(tǒng)一起控制。在這種情況下，就需要判斷交通事故的節(jié)點，如果人類駕駛員控制的，看其有無過錯，如果是系統(tǒng)控制的，系統(tǒng)其實作為一個汽車的產(chǎn)品，可以通過產(chǎn)品責任法要求銷售者和制造商承擔產(chǎn)品責任。

值得一提的是，由消費者證明產(chǎn)品的瑕疵非常困難，而自動駕駛用的人工智能算法，工程師也無法計算，出現(xiàn)事故之后，車輛制造商有可能推卸責任，維權陷入困境。針對這個問題，曹建峰說，英國使用了新的保險制度，去緩解自動駕駛對交通事故帶來的沖擊。

李友根則認為，可以比照現(xiàn)代法律體系加以借鑒。比如飼養(yǎng)的動物傷人了，跟完全人工智能的汽車撞人，是否可適用相應的法律，其中相關管理人員包括車主和設計者、生產(chǎn)公司等等。

李友根也贊同曹建峰所提引入保險制度加以解決的意見。李友根稱，侵權責任法如果主要是基于救濟受害者的話，合理的保險制度完全可以分擔這個問題?！艾F(xiàn)有的法律文明、制度設計有很多的經(jīng)驗。面對未來人工智能可能出現(xiàn)的挑戰(zhàn)，如果現(xiàn)在仍然解決不了，在真正人工智能的時代，仍然會有很多的制度設計解決這些問題，所以總體上我是比較樂觀的?！崩钣迅f。