你敢讓AI醫(yī)生給自己做手術(shù)嗎？你能接受AI法官給你判案嗎？當(dāng)自動(dòng)駕駛汽車出了事故，該怪誰(shuí)？隨著AI技術(shù)的迅猛發(fā)展，它的應(yīng)用越來越廣泛，但隨之而來的倫理問題也愈發(fā)凸顯。今天，我們就來聊聊AI背后那些值得深思的事。

如果AI比人類更優(yōu)秀……

與生命科學(xué)的迅猛發(fā)展一樣，以AI為首的信息科學(xué)的迅猛發(fā)展也向我們提出了各種各樣的倫理問題。

現(xiàn)在，可以瞬間完成高級(jí)信息處理的AI已經(jīng)廣泛應(yīng)用于社會(huì)的各個(gè)領(lǐng)域。例如，目前正在研發(fā)能夠從內(nèi)鏡、放射檢查等醫(yī)學(xué)影像中瞬間發(fā)現(xiàn)可能發(fā)生癌變部位的AI。學(xué)習(xí)了大量圖像數(shù)據(jù)的AI，甚至能毫不猶豫地指出人類醫(yī)生可能會(huì)忽略的小病變。目前，AI還局限于輔助人類醫(yī)生，但今后如果“AI醫(yī)生”能夠比人類醫(yī)生更準(zhǔn)確地進(jìn)行診斷，會(huì)發(fā)生什么事情呢？

在信息處理的速度、數(shù)量和準(zhǔn)確性等方面，AI遠(yuǎn)遠(yuǎn)超過了人類的能力。在這些能力至關(guān)重要的工作中，AI將逐漸取代人類。隨著AI技術(shù)的發(fā)展，AI可以從事的工作范圍將穩(wěn)步擴(kuò)展。

首先，會(huì)出現(xiàn)希望由“AI醫(yī)生”而不是人類醫(yī)生進(jìn)行診斷的患者。人們可能會(huì)對(duì)人類醫(yī)生的診斷結(jié)果持懷疑態(tài)度，醫(yī)生的部分工作可能會(huì)被AI取代。

不難想象，AI不僅能進(jìn)行診斷，還能實(shí)施手術(shù)。如今，腹腔鏡手術(shù)等是由人類醫(yī)生操控手術(shù)機(jī)器人進(jìn)行的，將來則可以由掌握了人類技術(shù)的AI實(shí)施。與診斷一樣，患者也會(huì)希望由行動(dòng)迅速且準(zhǔn)確的“AI醫(yī)生”來實(shí)施手術(shù)。

AI自身不能承擔(dān)責(zé)任

隨著AI在社會(huì)中的應(yīng)用日益廣泛，如果AI出了問題，應(yīng)該由誰(shuí)承擔(dān)責(zé)任？如果“AI醫(yī)生”誤診或手術(shù)失誤、自動(dòng)駕駛汽車出現(xiàn)交通事故，誰(shuí)應(yīng)該承擔(dān)責(zé)任？

說到底，AI只是計(jì)算機(jī)程序，因此，AI自身是無法承擔(dān)責(zé)任的。以汽車為例，如果因剎車等汽車本身的缺陷而發(fā)生事故，汽車制造商需要承擔(dān)責(zé)任。但如果是因司機(jī)操作失誤而導(dǎo)致事故，則司機(jī)（使用者）需要承擔(dān)責(zé)任。類似自動(dòng)駕駛汽車等配備了AI的產(chǎn)品能自主運(yùn)行，因此，使用者的參與會(huì)變少。到底應(yīng)該由AI制造者承擔(dān)責(zé)任，還是使用者也需承擔(dān)責(zé)任，眾說紛紜，爭(zhēng)論不斷。

AI可能會(huì)助長(zhǎng)差別和偏見

隨著AI的應(yīng)用日益廣泛，AI也被用來對(duì)人類進(jìn)行評(píng)價(jià)。例如，由AI代替人類對(duì)體操比賽等打分，或在企業(yè)招聘活動(dòng)和人事評(píng)價(jià)中使用AI等。但AI的判斷可能存在偏見，這已經(jīng)成為倫理問題。

AI是以學(xué)習(xí)的數(shù)據(jù)為基礎(chǔ)進(jìn)行各種判斷和處理的。如果學(xué)習(xí)的數(shù)據(jù)有偏差，就會(huì)形成反映這一偏差的AI。例如，開發(fā)體操打分AI時(shí)，會(huì)讓其學(xué)習(xí)過去的表演及評(píng)分。如果里面包含給特定種族或國(guó)家的運(yùn)動(dòng)員打高分等偏見（人類評(píng)委的偏見），學(xué)到這一點(diǎn)的AI可能也會(huì)繼承偏見。

招聘活動(dòng)及人事評(píng)價(jià)所用的AI也有可能出現(xiàn)同樣的問題。如果將來出現(xiàn)“AI法官”，可能會(huì)對(duì)特定性別、年齡、背景的人做出不利的判決。AI的偏見會(huì)破壞倫理上的公平，是應(yīng)該解決的問題，但AI的“內(nèi)部機(jī)制”非常復(fù)雜，因此能否從根本上解決這一問題，目前還不確定。

歐盟批準(zhǔn)世界上首部AI監(jiān)管法規(guī)

究竟在多大程度上允許AI進(jìn)入社會(huì)，亟待討論。偏見問題和學(xué)習(xí)數(shù)據(jù)中使用的個(gè)人信息（隱私）問題一直困擾著現(xiàn)在的AI。2024年3月，歐洲議會(huì)批準(zhǔn)了世界首部全面監(jiān)管AI的法案——《人工智能法案》，禁止將AI用于社會(huì)信用評(píng)價(jià)（社會(huì)評(píng)分）等用途，考試和招聘所用的AI需要使用適當(dāng)?shù)膶W(xué)習(xí)數(shù)據(jù)以避免產(chǎn)生偏見。

日本目前還沒有AI監(jiān)管法規(guī)，但內(nèi)閣政府在2019年出臺(tái)了“以人為中心的AI社會(huì)原則”（見下圖），列出了隨著AI不斷進(jìn)入社會(huì)，應(yīng)該注意的7個(gè)原則。例如，AI的使用不能侵犯憲法及國(guó)際法規(guī)所保障的基本人權(quán)，即“以人為中心的原則”。

 以人為中心的AI社會(huì)原則——為了讓社會(huì)接受并理性使用AI，應(yīng)該注意的七個(gè)原則 

一般來說，美國(guó)允許相對(duì)自由地進(jìn)行AI等新科學(xué)技術(shù)的研究，歐洲則非常謹(jǐn)慎。對(duì)于AI的開發(fā)與使用，我們是應(yīng)該進(jìn)行規(guī)范限制，還是在一定程度上允許自由研發(fā)？你是如何看待的？

允許AI殺人的致命性自主武器系統(tǒng)

歐盟批準(zhǔn)的《人工智能法案》中，以研究為目的或用于軍事、國(guó)防的AI，基本上不受監(jiān)管。沒有人類直接干預(yù)而自動(dòng)攻擊敵人的AI武器被稱為“致命性自主武器系統(tǒng)”（LAWS），如通過AI自動(dòng)識(shí)別并攻擊敵方士兵的無人機(jī)武器就屬于這一類。目前，針對(duì)這類武器的開發(fā)和使用，國(guó)際上尚未制定出統(tǒng)一的監(jiān)管規(guī)定。2023年12月，在聯(lián)合國(guó)大會(huì)上，一項(xiàng)呼吁應(yīng)盡快應(yīng)對(duì)LAWS問題的決議以多數(shù)贊成通過。

LAWS賦予了AI殺人的許可。使用LAWS時(shí)，也有人擔(dān)心，誤操作會(huì)造成平民受害擴(kuò)大，以及由于自己一方的士兵沒有犧牲而不會(huì)對(duì)殺人產(chǎn)生良心上的譴責(zé)，從而降低了戰(zhàn)爭(zhēng)的門檻。是否允許AI殺人，這是一個(gè)很大的倫理問題。

 理性思考什么是正確的 

就像20年前我們很難想象AI會(huì)發(fā)展到如今這樣的程度一樣，我們也很難想象20年后的AI將會(huì)取得怎樣的進(jìn)展。AI的發(fā)展速度如此迅速，以至于存在著倫理問題懸而未決的情況下，其應(yīng)用卻不斷擴(kuò)展的風(fēng)險(xiǎn)。雖然我們不能放棄追求使用AI所帶來的便利和好處，但不妨考慮一下：在這個(gè)過程中，是否潛藏著某些倫理上的問題？