?如果你是科技行業(yè)從業(yè)者，你需要知道如何給自己的產(chǎn)品加一條“安全帶”；

如果你是政策的制定者與管理者，你需要知道如何正確管理與監(jiān)管科技行業(yè)；

即便你是一個普通的技術(shù)使用者，你也需要知道這個世界正在發(fā)生什么，別全然為外界擺布。

這是微軟在全球運行的經(jīng)驗與思考，同時也是中國企業(yè)走出國門的借鑒與警醒，更是我們共同思考人類科技，更好駕馭未來的向?qū)А?/span>

5月15日，工信部通報2020年第一批侵害用戶權(quán)益行為的APP名單，工信部指出，依據(jù)相關(guān)法律法規(guī)，工信部近期組織第三方檢測機構(gòu)對手機應(yīng)用軟件進行檢查，對發(fā)現(xiàn)存在問題的企業(yè)進行督促整改。截至目前，尚有16款A(yù)PP未完成整改。

其中，知乎日報涉及私自收集個人信息的問題；當(dāng)當(dāng)涉及私自收集個人信息、超范圍收集個人信息、不給權(quán)限不讓用等三項問題。工信部要求，上述APP應(yīng)在5月25日前完成整改落實工作，逾期不整改的，將依法依規(guī)組織開展相關(guān)處置工作。

對此，大家紛紛表示支持工信部通報并整改侵權(quán)App這一行為，同時，大家也發(fā)現(xiàn)，其實目前大多數(shù)App都存在侵權(quán)行為。

面對科技帶給人類便捷的同時，它所涉及的安全隱私問題也逐漸暴露無疑，科技于人類來說，到底是工具？還是武器？

這是一個直面人類科技最緊迫的爭議性問題。 

我們該如何管理已經(jīng)無處不在的科技，以避免“科技作惡”？

在《工具，還是武器？直面人類科技最緊迫的爭議性問題》一書，或許你可以找到關(guān)于這個問題的解答，并產(chǎn)生更多深度的思考。

（這本書是微軟總裁布拉德·史密斯扛鼎之作，比爾·蓋茨、沈向洋親自作序，美國前國務(wù)卿等人聯(lián)袂推薦直面人類科技最緊迫的爭議性問題，避免“科技作惡”。）

面部和指紋一樣獨特

現(xiàn)在，一臺電腦已經(jīng)可以完成我們幾乎所有人從一出生就能做的事—識別人們的臉。

對我們大多數(shù)人來說，這在一開始是能夠認(rèn)出媽媽的能力。養(yǎng)育孩子的樂趣之一，就是在進入家門的時候看到蹣跚學(xué)步的孩子激動地向你撲來。

這種會一直持續(xù)到青少年時期的反應(yīng)有賴于人類天生的人臉識別能力。

雖然這是我們?nèi)粘Ｉ畹幕A(chǔ)，但我們幾乎從不停下來思考是什么使它成為可能。

事實證明，我們的臉和指紋一樣獨特。我們的面部特征包括瞳孔之間的距離、鼻子的大小、微笑的樣子和下巴的輪廓。

計算機可使用照片來繪制這些特征并將它們編織在一起，并以此為基礎(chǔ)建立一個數(shù)學(xué)方程，這些數(shù)學(xué)方程可以通過算法來訪問。

人們正在把這項技術(shù)應(yīng)用到世界各地，以便改善人們的生活。在某些情況下，這樣做是為了方便消費者。

澳大利亞國民銀行正在利用微軟的人臉識別技術(shù)開發(fā)一種服務(wù)，可以讓顧客走到ATM前，無須銀行卡即可安全取款。

這些ATM可以識別顧客的面孔，然后他們就可以輸入取款密碼并完成交易。

在其他場景中，這種技術(shù)可帶來更大的好處。在華盛頓特區(qū)，美國國家人類基因組研究所正在利用人臉識別技術(shù)幫助醫(yī)生診斷一種被稱為DiGeorge綜合征（DGS）或22q11.2缺失綜合征的疾病。

然而，和許多其他工具一樣，它也可以變成危險的武器。人臉識別很容易與更廣泛社會問題交織在一起，并提出了一個至關(guān)重要的問題：我們希望這種形式的人工智能在我們的社會中發(fā)揮什么作用？

2018年夏,弗吉尼亞州一位自稱“自由軟件修補者”的人在推特上發(fā)布了一系列關(guān)于微軟與美國移民與海關(guān)執(zhí)法局（ICE），簽訂合同的消息，這些消息源于當(dāng)年1月微軟在公司官方營銷博客上發(fā)布的一篇文章。

坦率地說，公司里的每個人都已經(jīng)忘記了那篇博文。不過，那篇文章表示，微軟向ICE提供的技術(shù)已經(jīng)通過了極高的安全門檻，將被ICE部署。

文章還表示，微軟公司對于能夠支持該部門的工作而深感自豪，并且還有一句話提到了ICE使用人臉識別技術(shù)的潛力。

2018年6月，特朗普政府決定在美國南部墨西哥邊境把非法入境者的孩子與家人分開，這迅速成為一個爆炸性問題。

公司幾個月前發(fā)表的一份營銷稿現(xiàn)在看來已大不相同，而人臉識別技術(shù)的用途看起來也完全不同。

人們擔(dān)心ICE和其他移民機關(guān)可能會把像人臉識別這樣的技術(shù)應(yīng)用到工作中。

這是否意味著，當(dāng)移民在城市街道上行走時，連接到云端的攝像機可以用來識別他們的身份？這是否意味著，鑒于這項技術(shù)的現(xiàn)狀，以及它可能產(chǎn)生偏差的風(fēng)險，它可能會錯誤辨識某個人并導(dǎo)致其被錯誤拘留？這只是許多問題中的兩個。

按照慣例，我們首先要弄清楚公司與ICE的合同到底包括了什么。

經(jīng)過深入調(diào)查，我們發(fā)現(xiàn)這份合同根本沒有被用在人臉識別上。謝天謝地，微軟也沒有參與任何在邊境線上將孩子與其家人分開的項目。

相反，這份合同其實是幫助ICE將其電子郵件、日歷、消息和文檔管理工作轉(zhuǎn)移到云端。這與我們在美國和世界各地與客戶（包括其他政府機構(gòu)）合作的項目類似。

盡管如此，這件事仍然產(chǎn)生了一個新的爭議。

請政府監(jiān)管

有些人正在極力鼓吹科技公司應(yīng)該采取主動行動，對于我們反對的政府政策，終止為政府機構(gòu)提供所有服務(wù)。

科技現(xiàn)已成為我們生活中一個關(guān)鍵的基礎(chǔ)設(shè)施，如果不能及時更新技術(shù)—或者更糟的是，簡單做出終止技術(shù)服務(wù)的決定—可能帶來各種意想不到的后果。

正如薩提亞在我們的內(nèi)部談話中多次指出的那樣，政府正在以電子郵件為工具幫助非法移民家庭團聚。如果我們把郵件系統(tǒng)關(guān)掉，誰知道會發(fā)生什么。

這讓我們得出結(jié)論，抵制美國政府機構(gòu)是錯誤的做法。但主張采取這種行動的人，包括我們自己的一些員工，提出了一些正確的問題。例如，人臉識別技術(shù)帶來的挑戰(zhàn)需要受到更多關(guān)注。

經(jīng)過深思熟慮，我們得出結(jié)論，這項新技術(shù)應(yīng)該受到新的法律法規(guī)約束。這是保護公眾隱私需求，化解偏見和歧視風(fēng)險，同時使創(chuàng)新得以繼續(xù)的唯一途徑。

這一點凸顯了在公共安全與人權(quán)由來已久的矛盾之間的艱難權(quán)衡。它還表明了許多有關(guān)人工智能的新型倫理道德決定的主觀性質(zhì)。

當(dāng)然，我們同樣擔(dān)心，正如那位團隊領(lǐng)導(dǎo)和其他人所指出的那樣，如果我們拒絕提供這項服務(wù)，可能會有其他公司乘虛而入。

在這種情況下，我們不僅會丟掉生意，還不得不在其他人幫助將技術(shù)用于我們所反對的有害目的時只能袖手旁觀。

不過，我們權(quán)衡了所有這些因素，最終得出結(jié)論，我們需要嘗試給這種新技術(shù)的發(fā)展奠定某種類型的道德基礎(chǔ)。這樣做的唯一辦法就是拒絕將其用于某些用途，并推動更廣泛的公眾討論。

這種原則性的方法在加州本地的一個警察部門聯(lián)系我們時經(jīng)受了考驗，他們表示，他們想為自己的所有車載和手持?jǐn)z像機配備一種能力，使其可以拍攝被攔下的人的照片，甚至包括例行檢查時被攔下的人，并查看他們是否與其他罪行的嫌疑人數(shù)據(jù)庫相匹配。

我們理解他們的邏輯，但向他們建議，由于人臉識別技術(shù)仍然不成熟，因而無法在這種情況下部署。

至少在2018年，如此使用這一技術(shù)將導(dǎo)致過多的錯誤匹配，并針對被錯誤識別的人發(fā)出警報，特別是如果他們是有色人群或女性，因為針對這兩類人群的錯誤率仍然較高。

我們拒絕了這項交易，并說服了警察部門放棄將人臉識別用于這一目的。

這些經(jīng)驗提供了一些啟發(fā)，幫助我們思考可以應(yīng)用于人臉識別的原則。

但我們擔(dān)心，如果我們走上這條倫理大道，但被那些根本沒有實施任何防范或限制措施的公司削弱，無論這些公司是在西雅圖的另一側(cè)，還是在太平洋的另一側(cè)，則我們的做法都不會產(chǎn)生什么實際影響。

與許多基于人工智能的技術(shù)一樣，人臉識別也會隨著大量的數(shù)據(jù)積累而改進。

這就使公司擁有動力盡可能多地進行早期交易，從而導(dǎo)致商業(yè)競爭的風(fēng)險，而科技公司將被迫在社會責(zé)任和市場成功之間做出選擇。

防止這種惡性競爭的唯一辦法是確立一個支持健康市場競爭的責(zé)任底線，而一個堅實的底線基礎(chǔ)要求我們確保這項技術(shù)以及開發(fā)和使用它的組織受到法治的約束。

我們從以往針對其他技術(shù)所實施的監(jiān)管中汲取了經(jīng)驗。在許多市場中，兼顧各方利益的平衡監(jiān)管方式為消費者和生產(chǎn)者雙方創(chuàng)造了更健康的動態(tài)關(guān)系。

在20世紀(jì)，汽車工業(yè)曾花了幾十年的時間來抵制監(jiān)管要求，但今天，人們廣泛認(rèn)識到，法律在確保強制安裝安全帶和氣囊，以及更高的燃油效率方面發(fā)揮了重要作用。同樣的情況也適用于航空安全以及食品和藥品管理。

當(dāng)然，談?wù)摫O(jiān)管的必要性是一回事，而界定什么樣的監(jiān)管最為合理則是另一回事。

2018年7月，我們公布了一個我們認(rèn)為需要考慮的問題清單，并就可能的答案征求人們的意見。

討論首先在員工和技術(shù)專家中展開，但很快擴展到全國和世界各地，包括美國公民自由聯(lián)盟這樣積極參與這個問題討論的公民自由組織。

我們不再像大多數(shù)科技公司那樣，堅守抵制政府干預(yù)的傳統(tǒng)。我們以前進行過那樣的抗?fàn)帯?/p>

相反，我們已經(jīng)認(rèn)可并支持我們心目中更積極但更平衡的監(jiān)管方式。這也是我們早在2005年就呼吁美國聯(lián)邦隱私保護立法的原因之一。

我們認(rèn)為，無論是對科技行業(yè)還是對社會，這種做法從普遍意義上來說都比完全依賴科技行業(yè)自行解決一切問題的做法要好得多。

行動之前：我們能做什么？

在更迅速地開始行動之余，深思熟慮并確保邁出正確的前幾步也很重要。在這一點上，我們相信我們擁有一系列想法來應(yīng)對人臉識別技術(shù)。

我在華盛頓特區(qū)的布魯金斯學(xué)會宣布了我們對新立法的主張，并公開發(fā)表了我們提案的更多細(xì)節(jié)。

然后，我們開始巡回推廣這一主張，在接下來的6個月里，我們在美國和世界其他8個國家的公共活動和立法聽證會上對它進行了推介。

我們認(rèn)為，立法可以解決三個關(guān)鍵問題，即偏見風(fēng)險、隱私和對民主自由的保護。

我們相信，一個運作良好的市場有助于更快地減少偏見。我們遇到的客戶都沒有興趣購買錯誤率高，并導(dǎo)致歧視的人臉識別服務(wù)。但如果客戶缺乏信息，市場就無法正常運轉(zhuǎn)。

為了幫助減少歧視風(fēng)險，我們認(rèn)為新的法律還應(yīng)該要求，部署了人臉識別的組織首先應(yīng)培訓(xùn)員工審查結(jié)果，然后再做出關(guān)鍵決策，而不是簡單地把決策權(quán)交給電腦。

除此以外，我們擔(dān)心，如果一個組織在部署人臉識別時并未按照該技術(shù)設(shè)計時預(yù)期的方式，發(fā)生偏差的風(fēng)險可能會加劇。訓(xùn)練有素的人員則有助于解決這個問題。

在某種程度上，一個更棘手的問題是，什么時候應(yīng)該允許執(zhí)法部門使用人臉識別技術(shù)針對特定個人進行持續(xù)的監(jiān)視。

民主始終取決于人們相互見面和交談，并在私下和公開場合討論自己觀點的能力。這有賴于人們能夠在沒有政府持續(xù)監(jiān)控的情況下自由行動。

人臉識別技術(shù)的許多政府用途是用于保護公共安全和促進更好的公眾服務(wù)，并不會引起上述擔(dān)心。

但是，如果將無處不在的攝像頭、巨大的計算能力和云端存儲結(jié)合起來，政府可以使用人臉識別技術(shù)來持續(xù)監(jiān)視特定的人。

它可以在任何時候做到這一點，甚至可以持續(xù)這樣做。而以這種方式使用這項技術(shù)則可能會導(dǎo)致規(guī)模空前的大規(guī)模監(jiān)視。

因此我們認(rèn)為，法律只有在下列情況下才可以允許執(zhí)法機構(gòu)使用人臉識別來對特定的人進行持續(xù)監(jiān)視，即執(zhí)法機構(gòu)已經(jīng)獲得了法庭命令（如對這種監(jiān)視的搜查令），或是在緊急情況下，如人類生命面臨迫在眉睫的危險。

這將為人臉識別服務(wù)創(chuàng)建規(guī)則，這些規(guī)則與美國目前通過手機生成的GPS位置跟蹤個人的規(guī)則類似。

正如美國最高法院在2018年做出的裁決，如果沒有搜查令，警方將不能要求顯示手機地點的手機記錄，因此無法獲得某人的實際行動軌跡。

正如我們所說：“我們的面孔是否應(yīng)該得到和手機同等的保護？在我們看來，答案當(dāng)然是響亮的‘是’。”

最后，顯而易見的是，人臉識別的監(jiān)管也應(yīng)該保護商業(yè)環(huán)境下的消費者隱私。

我們正迅速進入一個時代，在這個時代，每家商店都可以安裝攝像頭，通過實時人臉識別服務(wù)連接到云端。

從你走進購物中心的那一刻起，無論你走到哪里，都有可能不僅被拍照，而且被電腦識別。

購物中心的老板可以把這些信息分享給每一家商店。有了這些數(shù)據(jù)，店主可以了解你上次進店的時間以及你看了什么或買了什么，通過與其他商店共享這些數(shù)據(jù)，他們可以預(yù)測你下一步打算買什么。

我們的觀點并不是說新的法律應(yīng)該禁止所有這些技術(shù)。相反，我們是致力于幫助商店負(fù)責(zé)任地使用新技術(shù)改善購物體驗的公司之一。

我們相信許多消費者會歡迎由此帶來的客戶服務(wù)。但我們同樣認(rèn)為，人們有權(quán)知道什么時候使用了人臉識別，提出問題，并有真正的選擇。

人臉識別問題讓我們得以瞥見人工智能的其他倫理道德挑戰(zhàn)有可能發(fā)生怎樣的演變。

正如我們所做的那樣，我們可以先制定廣泛適用的原則，隨后在人工智能技術(shù)的具體應(yīng)用和特定場景中對這些原則進行測試。這種方法也適用于具有潛在爭議的人工智能應(yīng)用更可能出現(xiàn)之時。

更多的問題一定會出現(xiàn)。并且與人臉識別一樣，在遇到每個問題時，都需要針對該項技術(shù)可能應(yīng)用的方式分別開展大量細(xì)致的工作。

要解決許多這樣的問題，最終將需要新的監(jiān)管政策與科技公司主動的自我監(jiān)管相結(jié)合。

在面對許多這樣的問題時，不同國家和文化也會存在不同的觀點。我們需要發(fā)展一種更強的能力，使各國能夠更迅速、更協(xié)作地采取行動，在經(jīng)常性的基礎(chǔ)上應(yīng)對這些問題。這是我們能夠確保機器將永遠(yuǎn)由人控制的必由之路。

（本文整理自《工具，還是武器？直面人類科技最緊迫的爭議性問題》，中信出版集團出版，版權(quán)歸作者及本書所有，轉(zhuǎn)載請務(wù)必注明作者及作品出處。）

《工具，還是武器？直面人類科技最緊迫的爭議性問題》  布拉德·史密斯、卡羅爾·安·布朗 著

作者簡介 | 

布拉德·史密斯（Brad Smith），微軟總裁兼首席法務(wù)官。2015 年被任命為微軟總裁，在微軟工作 20 余年，帶領(lǐng)團隊在 56 個國家或地區(qū)開展工作。他在帶領(lǐng)公司解決涉及科技與社會交叉領(lǐng)域的關(guān)鍵問題上發(fā)揮了關(guān)鍵作用，包括網(wǎng)絡(luò)安全、隱私、人工智能、移民、公益和環(huán)境可持續(xù)性?！栋拇罄麃喗鹑谠u論》稱他為“科技行業(yè)最受尊敬的人物之一”，《紐約時報》稱他為“科技行業(yè)事實上的大使”。

卡羅爾·安·布朗（Carol Ann Browne），微軟傳播和公共關(guān)系部高級主管，與史密斯在世界范圍內(nèi)合作撰寫文章，制作視頻，并主導(dǎo)其他外部活動，共同運營“今日科技”系列博客。