本文澎湃新聞（www.xinlihui.cn）經(jīng)機(jī)器之心（微信公眾號(hào)：almosthuman2014）授權(quán)轉(zhuǎn)載，禁止二次轉(zhuǎn)載。

作者： Jeff Goodell

機(jī)器之心編譯出品 參與：柒柒、微胖、吳攀、孫閏松、Chen Xiaoqing、陳剛

本文系《滾石》雜志的人工智能報(bào)告的第二部分（該報(bào)告的第一部分： 人工智能系列報(bào)告（一）：挑戰(zhàn)與機(jī)遇并存的科技革命），如果在未來(lái)，我們?cè)O(shè)計(jì)的機(jī)器向人類挑戰(zhàn)、傷害人類、毀壞人類的深愛(ài)之物，甚至試圖終結(jié)人類，那么，這也是因?yàn)槲覀冏寵C(jī)器變成那樣。某種意義上說(shuō)，智能機(jī)器崛起的可怕之處不在于某天它們擁有自己的思維，而是某天，它們擁有我們?nèi)祟悺獛е祟惖娜秉c(diǎn)和復(fù)雜性——為它們?cè)O(shè)計(jì)和打造的思想?！哆B線》、《大西洋月刊》等權(quán)威媒體以及LeCun、 Nando de Freitas 等專家都在各自的社交媒體上推薦了這一系列文章。

這感覺(jué)真奇怪，坐在沒(méi)有司機(jī)的車?yán)镌诠韫妊灿巍Ｎ易诠雀枰惠v自動(dòng)駕駛汽車的后座上，這輛改裝過(guò)的雷克薩斯SUV的車頂和擋板上裝備著激光、雷達(dá)和低分辨率攝像機(jī)；它正在加利福尼亞山景城的街道上演練，這里離谷歌的總部不遠(yuǎn)。我在離這里大約五英里的地方長(zhǎng)大，我還記得自己騎著一輛Schwinn Sting-Ray自行車在這條街道上來(lái)去?，F(xiàn)在，我騎著的是算法，也可以說(shuō)——用計(jì)算機(jī)代碼寫的數(shù)學(xué)方程式控制著這輛雷克薩斯。這輛車感覺(jué)不到危險(xiǎn)，它也不像是人類司機(jī)駕駛的。它會(huì)在「停車讓行」標(biāo)志前完全停下來(lái)（加州沒(méi)人會(huì)這么做），在離送貨車很遠(yuǎn)的地方就開(kāi)始轉(zhuǎn)向，當(dāng)我們經(jīng)過(guò)停著的一排汽車時(shí)沒(méi)有明顯原因地剎車。

我不知道缺陷是否在我，而不是這輛車：它是不是對(duì)我不能看見(jiàn)的事物做出了反應(yīng)？這輛車可以探測(cè)一只貓的運(yùn)動(dòng)，或任何時(shí)候（雪天霧天另當(dāng)別論）任何方向上幾百碼之外一輛穿過(guò)街道的汽車?！杆热祟惪吹们宄枚唷！构雀枳詣?dòng)駕駛汽車項(xiàng)目首席軟件工程師Dmitri Dolgov自豪地說(shuō)。他正坐在駕駛座上，兩只手放在自己的膝蓋上。這是為了以防萬(wàn)一。

當(dāng)我們停在路口等待左轉(zhuǎn)彎時(shí)，我瞥了一眼乘客座上的筆記本電腦，它提供了汽車如何解釋周圍情況的實(shí)時(shí)狀態(tài)。在上面，我看到了一個(gè)充滿了五顏六色物體的柵格狀世界，這些物體代表著周圍的小車、卡車、自行車和行人，它們?cè)谝曨l游戲一樣的畫面中漂移。這輛車的每一個(gè)傳感器都提供了一個(gè)不同的視角——激光提供三維深度信息，相機(jī)鑒別道路標(biāo)志、轉(zhuǎn)向信號(hào)、顏色和燈光。后座上的計(jì)算機(jī)實(shí)時(shí)處理所有這些數(shù)據(jù)、測(cè)量迎面而來(lái)的車流的速度、判斷什么時(shí)候才合適左轉(zhuǎn)。等著車子做決定是一個(gè)很怪異的時(shí)刻。我敢拿生命打賭開(kāi)發(fā)算法的程序員在決定什么時(shí)候可以安全左轉(zhuǎn)時(shí)，前一晚并沒(méi)有與他的女朋友（或男朋友）吵過(guò)架，然后搞砸代碼。這臺(tái)雷克薩斯是一個(gè)潛在的殺手機(jī)器人。要是算法有缺陷，我就掛了。

但這并不是一部關(guān)于技術(shù)失控的糟糕電影。相反，這輛車等待著，直到車流中出現(xiàn)一個(gè)很大的間隙，然后它有點(diǎn)太突然地起步，開(kāi)始執(zhí)行左轉(zhuǎn)彎。我談了談車子的突然加速。

「是啊，它開(kāi)車還有一點(diǎn)像個(gè)青少年，」Dolgov說(shuō)：「我們正在努力解決?！?/p>

沒(méi)有技術(shù)象征著自動(dòng)駕駛汽車這樣的智能機(jī)器的進(jìn)步——和危險(xiǎn)。機(jī)器人可能幫助制造了你口袋里的手機(jī)，神經(jīng)網(wǎng)絡(luò)可能會(huì)幫你的假期照片寫上標(biāo)題，但自動(dòng)駕駛汽車有望改變一切，從你從一個(gè)地方到另一個(gè)地方的方式到城市該如何建造。它們能拯救生命，減少污染。它們將用坐在一個(gè)「大號(hào)iPhone」中漫游的浪漫取代開(kāi)放道路的浪漫。

但即將到來(lái)的自動(dòng)駕駛汽車也帶來(lái)了一些關(guān)于我們尚未解決的我們與技術(shù)關(guān)系的嚴(yán)峻問(wèn)題。我們?cè)敢鈱⑽覀兩畹亩嗌倏刂茩?quán)交給機(jī)器和建造運(yùn)行它們的企業(yè)？我們這樣做會(huì)給我們帶來(lái)多少風(fēng)險(xiǎn)？而且不只是自動(dòng)駕駛汽車時(shí)生命安全上的風(fēng)險(xiǎn)，而且隨著智能機(jī)器將金融決策變得越來(lái)越工程化和智能化，也將出現(xiàn)經(jīng)濟(jì)上的風(fēng)險(xiǎn)。有了自動(dòng)駕駛汽車，從Facebook到機(jī)器人戰(zhàn)爭(zhēng)，看不見(jiàn)的革命在每一種事物的背后發(fā)生著，入侵日常生活，促使我們對(duì)「技術(shù)精靈」產(chǎn)生一種新的認(rèn)識(shí)。

自動(dòng)駕駛汽車不僅是研究實(shí)驗(yàn)。現(xiàn)在，有的梅賽德斯汽車基本上可以自動(dòng)泊車和調(diào)整剎車以避免撞擊了。特斯拉最近發(fā)布了一個(gè)新功能Autopilot，可以讓汽車在高速路上行駛時(shí)保持在車道之間，允許近乎無(wú)手動(dòng)控制的駕駛，還能在走走停停的車流中和其它汽車保持一定的安全距離。至于全自動(dòng)駕駛，谷歌并不是推動(dòng)進(jìn)步的唯一一家：幾乎每一家主要汽車制造商都有開(kāi)發(fā)中的項(xiàng)目，其中包括豐田，該公司最近宣布將向?qū)Ｗ⒂谧詣?dòng)駕駛汽車技術(shù)研究的硅谷人工智能實(shí)驗(yàn)室投資10億美元。但更為激進(jìn)的進(jìn)入者是Uber，該公司挖了卡耐基梅隆大學(xué)機(jī)器人技術(shù)部門的墻角，聘走了40多位研究者和科學(xué)家。Uber聯(lián)合創(chuàng)始人Travis Kalanick毫不掩飾他的目標(biāo)就是通過(guò)無(wú)人駕駛出租車隊(duì)節(jié)省開(kāi)支。當(dāng)我詢問(wèn)谷歌自動(dòng)駕駛項(xiàng)目負(fù)責(zé)人Chris Urmson全自動(dòng)駕駛汽車離上路還有多長(zhǎng)時(shí)間時(shí)，他回答說(shuō)：「我的個(gè)人目標(biāo)是我12歲的兒子不再需要駕照?！?/p>

自動(dòng)駕駛汽車的到來(lái)得益于很多因素，包括機(jī)器學(xué)習(xí)的進(jìn)步讓汽車可以「看見(jiàn)」、廉價(jià)傳感器技術(shù)的擴(kuò)散，測(cè)繪技術(shù)的發(fā)展和特斯拉這樣的電動(dòng)汽車的成功。但最大的原因可能是我們現(xiàn)在所知的汽車是20世紀(jì)的發(fā)明，已經(jīng)不太適合二十一世紀(jì)的世界了；現(xiàn)在，從氣候變化到中產(chǎn)階級(jí)財(cái)富下降等問(wèn)題都在質(zhì)疑對(duì)轟鳴V-8汽車的需求——大型企業(yè)擅長(zhǎng)打造性感迷人的設(shè)備來(lái)銷售產(chǎn)品，然后吸取我們的個(gè)人數(shù)據(jù)。正如一位蘋果高管所說(shuō)（有傳言稱該公司正在探究是否進(jìn)入汽車行業(yè)）：自動(dòng)駕駛汽車是「終極移動(dòng)設(shè)備」。

在谷歌自動(dòng)駕駛汽車?yán)镉瘟艘蝗ι骄俺呛螅一氐搅俗獾默F(xiàn)代車?yán)?，而且我發(fā)現(xiàn)的第一件事就是絕大多數(shù)人類司機(jī)有多糟糕——頭也不回地開(kāi)出停車場(chǎng)，變道時(shí)隔斷行人的通路。我想，「谷歌汽車可不會(huì)這么干」。一項(xiàng)研究預(yù)計(jì)，到本世紀(jì)中，自動(dòng)駕駛汽車能夠減少多達(dá)90%的交通事故。 「我們確實(shí)需要記住『 自動(dòng)駕駛交通工具的應(yīng)用』有多重要。」Urmson說(shuō)道，「我們正在討論美國(guó)30000條『生命』——在全世界則是120萬(wàn)條生命。如果你思考一下進(jìn)展緩慢的機(jī)會(huì)成本，那將是十分嚇人的。」

除此外還有許多其他潛力好處。自動(dòng)駕駛汽車可能由電力驅(qū)動(dòng)，將會(huì)促進(jìn)研發(fā)更好的電池，減少污染并延緩氣候變化。它們很可能會(huì)變得更小、更輕、更簡(jiǎn)單——它們會(huì)更像是架在輪子上的一個(gè)吊艙而不是你父親凱迪拉克的樣子。不需要自己買一個(gè)，你可以只用租它，在需要的時(shí)候用iPhone召喚即可。

但是，這條開(kāi)放公路，從杰克·凱魯亞克到丹尼斯·霍伯都曾歡迎的路將要被關(guān)閉（一個(gè)機(jī)器人學(xué)家推測(cè)，像科羅拉多那樣的鄉(xiāng)下地區(qū)可能會(huì)成為『駕駛公園』，允許人們?cè)俅胃惺苷瓶胤较虮P的自由）。如果計(jì)算機(jī)犯了錯(cuò)誤，比如在雨夜里把車撞到了樹(shù)上，那么，將會(huì)付出人命的代價(jià)。通過(guò)指揮你的交通工具，駭客們會(huì)擁有刺客一般的權(quán)利。沒(méi)有安全的數(shù)據(jù)，你的車很可能會(huì)變成一個(gè)間諜，告訴上司你的每一步行動(dòng)。

自動(dòng)駕駛的未來(lái)依然不是很清晰。像谷歌和Uber一樣的公司正在開(kāi)發(fā)全自動(dòng)交通工具，甚至沒(méi)有方向盤——只需要一個(gè)設(shè)定目的地的程序，然后你就可以出發(fā)了。其他如特斯拉和Toyota一樣的公司正在采取漸進(jìn)的方式，并篤定汽車會(huì)承擔(dān)一部分枯燥的駕駛?cè)蝿?wù)，而把有樂(lè)趣（以及危險(xiǎn)）的那一部分控制權(quán)留給人類?！脯F(xiàn)在最清楚的一件事，」MIT教授David Mindell，講述智能機(jī)器革命史的《 Our Robots, Ourselves》作者說(shuō)道，「就是自動(dòng)駕駛汽車正在迅速地從實(shí)驗(yàn)室中進(jìn)入到真實(shí)世界當(dāng)中。」

Chris Urmson住在離谷歌辦公室不到兩英里的地方，通常他會(huì)騎自行車去工作。今年39歲，有點(diǎn)靦腆，一點(diǎn)也不像大學(xué)研究生，穿著顏色鮮明但并不時(shí)髦的夾克，開(kāi)著馬自達(dá)5，他喜歡小型貨車因?yàn)樵趽頂D的停車場(chǎng)里，他的兩個(gè)兒子可以從車的側(cè)滑門中輕易跳出來(lái)。

Urmson的辦公室，和整個(gè)谷歌自動(dòng)駕駛項(xiàng)目一樣，坐落于新X（前谷歌X）大廈，距離山景城的Googleplex大約兩英里。X是谷歌的秘密創(chuàng)新實(shí)驗(yàn)室，由科學(xué)家、企業(yè)家Astro Teller和谷歌聯(lián)合創(chuàng)建人Sergry Brin管理。根據(jù)Teller，X的目標(biāo)是為世界性難題提供「科幻般完美的解決方法」。這個(gè)建筑，在一家舊商廈旁邊，有著后工業(yè)時(shí)代感的屋脊，水泥地板，玻璃墻包圍的會(huì)議室以及一家提供當(dāng)?shù)赜袡C(jī)食品的餐廳（我拜訪的當(dāng)天，Brin正穿著運(yùn)動(dòng)短褲和卡洛馳鞋四處晃悠）。X是Google Glass、過(guò)度炒作的頭盔和Loon項(xiàng)目（為偏遠(yuǎn)地區(qū)用高海拔氣球提供網(wǎng)絡(luò)接口）的發(fā)源地。

自動(dòng)駕駛汽車是X的大明星，也是距離商業(yè)化最近的項(xiàng)目。在加州注冊(cè)的105個(gè)自動(dòng)駕駛汽車，有73個(gè)屬于谷歌。盡管谷歌并沒(méi)有發(fā)明自動(dòng)駕駛汽車，但是，它能宣稱已經(jīng)創(chuàng)造了自動(dòng)駕駛汽車產(chǎn)業(yè)——收購(gòu)創(chuàng)業(yè)公司、雇傭?qū)＜乙约伴_(kāi)發(fā)地圖和導(dǎo)航技術(shù)。不像蘋果公司，只是傳言正涉足設(shè)計(jì)和制造汽車，谷歌的意圖已經(jīng)很清楚，無(wú)意染指汽車制造。它希望控制內(nèi)部的軟件，讓軟件系統(tǒng)成為機(jī)器人跑車的操作系統(tǒng)。

Urmson對(duì)于自動(dòng)駕駛汽車的興趣始于2003年，那時(shí)卡耐基·梅隆開(kāi)始為來(lái)年的第一個(gè) DARPA Grand Challenge制造一輛汽車。DARPA是五角大樓的秘密研發(fā)部門，從互聯(lián)網(wǎng)到軍用飛機(jī)隱形技術(shù)等，它在這些技術(shù)研發(fā)中扮演著重要角色。DARPA希望激勵(lì)自動(dòng)駕駛工具技術(shù)有所突破，對(duì)于軍方來(lái)說(shuō)，這會(huì)很有用。15輛汽車參加了加州沙漠上150英里長(zhǎng)跑道的比賽，爭(zhēng)奪100萬(wàn)美元獎(jiǎng)金。最好的成績(jī)是7.32英里——而且那輛車被卡住還起火了。第二年，比賽不那么悲慘了：5輛車完成了132英里，但是花費(fèi)7個(gè)小時(shí)?？突っ仿〉钠嚝@得了第二和第三名。Urmson，也是團(tuán)隊(duì)的汽車技術(shù)主管，說(shuō)：「你可以看到這個(gè)科技是如何迅速發(fā)展的。」

谷歌在2009年開(kāi)始了它的自動(dòng)駕駛汽車項(xiàng)目，作為它的地圖和街景項(xiàng)目發(fā)展的一部分（一旦你有了地圖，那么離做好一輛自動(dòng)駕駛車輛也不是那么遙遠(yuǎn)了）。Urmson在那一年到來(lái)，在谷歌工程師Sebastian Thrun（后者后來(lái)離開(kāi)谷歌創(chuàng)立了Udacity，一家網(wǎng)絡(luò)教育創(chuàng)業(yè)公司）手下工作。最開(kāi)始，谷歌團(tuán)隊(duì)為豐田普銳斯的車頂裝上攝像機(jī)、感應(yīng)器和一個(gè)旋轉(zhuǎn)激光器。這是一個(gè)非常昂貴的改造，光是激光器就有75000美元，大約是普銳斯自身價(jià)格的三倍。Urmson和同事們花費(fèi)了幾年，嘗試不同的設(shè)計(jì)和技術(shù)。他們要解決一個(gè)最大問(wèn)題：如果人類還在車?yán)铮敲?，人類到底在汽車操作中扮演什么角色？換句話說(shuō)，他們是在開(kāi)發(fā)一個(gè)全自動(dòng)的駕駛工具，還是僅是一個(gè)幫助人類駕駛的智能工具呢？

該項(xiàng)目在2012年秋季來(lái)到了十字路口。根據(jù)Dolgov所說(shuō)，測(cè)試團(tuán)隊(duì)做了很多高速公路駕駛測(cè)試，在這期間他們把車輛設(shè)定成遇到不自信的情況就詢問(wèn)司機(jī)是否接管駕駛控制權(quán)。而他們發(fā)現(xiàn)結(jié)果并不令人滿意：「人們并沒(méi)有像我們所預(yù)期的那樣給予足夠多的注意，」Dolgov說(shuō)道，相反，他們?cè)诎l(fā)信息、聊天、打盹等等?！杆麄兪枪雀璧膯T工，我們訓(xùn)練過(guò)他們，也強(qiáng)調(diào)過(guò)他們一直保持注意力集中有多么重要，然而這就是人的天性，」他說(shuō)道?！溉绻囕v遇到了危險(xiǎn)情況，要求人類接管，結(jié)果人在睡覺(jué)，你會(huì)怎么辦？」

因此， Urmson 和他的團(tuán)隊(duì)認(rèn)為，充分的自主權(quán)才是自動(dòng)駕駛需要走的路。2013年，他們開(kāi)始研發(fā)一種沒(méi)有方向盤或腳踏的原型汽車——本質(zhì)上，就只有一個(gè)在輪子上的艙。這是個(gè)可愛(ài)的小型城市汽車，處于老式大眾甲殼蟲(chóng)和太空艙之間。前置柔軟的減震器來(lái)減輕撞擊影響（上帝保佑它別撞到任何一個(gè)行人），最高時(shí)速20英里/小時(shí)。Dolgov說(shuō)道：「某種程度上，它使這個(gè)系統(tǒng)更加簡(jiǎn)單，因?yàn)椋ㄋ牵┩耆艿娇刂??！?/p>

Urmson還表示，開(kāi)發(fā)能夠完全自動(dòng)駕駛的汽車還有其他的益處?！高@還將改變自動(dòng)駕駛技術(shù)的受益人群?！?。比如，盲人，或者生理殘疾的人。「讓這些人群能以我們（正常人）都視為理所當(dāng)然的方式在城市里行動(dòng)，這一機(jī)會(huì)看起來(lái)確實(shí)很重要。」他說(shuō)道?！付矣捎谶@項(xiàng)技術(shù)性價(jià)比很高，你會(huì)能夠以今天搭乘公交的費(fèi)用 提供個(gè)性化公共交通?！?/p>

Urmson沒(méi)有提到的一件事是全自動(dòng)汽車也會(huì)使谷歌受益。谷歌是個(gè)人數(shù)據(jù)的帝國(guó)，它能夠搜集、運(yùn)用這些數(shù)據(jù)，并將之以大量瘋狂賺錢的目的進(jìn)行售賣，包括賣廣告。它怎么會(huì)不想成為你信賴的公司，把你帶到任何你想去的地方——并在一路上售賣東西給你呢？

現(xiàn)在，Urmson 正聚焦于讓谷歌汽車「足夠偏執(zhí)（paranoid）」以應(yīng)對(duì)真實(shí)世界中發(fā)生在司機(jī)身上數(shù)十億異常情況。谷歌汽車每周大概行駛10,000英里，或者在山景城，或者在奧斯汀，或者在柯克蘭，以及華盛頓，這是這家公司最近剛開(kāi)始進(jìn)行的新街道駕駛項(xiàng)目所在地。汽車已經(jīng)行駛了超過(guò)100萬(wàn)英里，幾乎對(duì)日常駕駛了如指掌，但這對(duì)谷歌和其他人來(lái)說(shuō)仍然只是開(kāi)始?！脯F(xiàn)在，我們不得不去解決困難的部分，」Toyota自動(dòng)駕駛部的主管Gill Pratt表示。「我們不得不找出在[沒(méi)]有地圖時(shí)該做什么，當(dāng)路線和地圖不同時(shí)該做什么，當(dāng)發(fā)生未預(yù)計(jì)的情況時(shí)該做什么——比如追逐皮球的孩子沖到了車前，或者某人非常迅速的變更了路線。這些都是動(dòng)力學(xué)很難應(yīng)付的情況?！?/p>

為了看到汽車對(duì)這些異常情況做出的反應(yīng)，谷歌正在某條路上對(duì)它們進(jìn)行測(cè)試，在這里人們會(huì)從旁邊突然跳出來(lái)，向減震器上丟球。但問(wèn)題比只對(duì)球做出回應(yīng)要更復(fù)雜。在我們圍繞山景區(qū)行駛不久之后，我向Dolgov提出一個(gè)假設(shè)情形：「假設(shè)谷歌汽車沿一條雙向道路行駛，而有一輛自行車正好就在車旁邊。假如就在你準(zhǔn)備超過(guò)自行車時(shí)，另一條道上的一輛車突然變道沖向你正在行駛的道上，會(huì)發(fā)生什么？如果谷歌汽車不得不二選一，或者迎頭撞上汽車，或者向旁邊移動(dòng)，撞上自行車，汽車會(huì)怎么做？」

Dolgov斬釘截鐵的表示：「它不會(huì)撞上騎自行車的人。如果我們能夠給迎面沖來(lái)的車更多空間而且盡力讓它不要撞到我們，我們就會(huì)這樣做，并且會(huì)盡可能努力踩剎車以最小化影響。」這似乎像是正確的決定——但很容易就會(huì)想到這樣的場(chǎng)景，什么是正確的事情并不清楚。如果汽車不得不在與突然變道的車擦邊而過(guò)和在綠樹(shù)成蔭的林蔭道上開(kāi)車做出選擇的話——你真的愿意相信汽車的算法能夠做出正確決定？「某些選擇是有趣的哲學(xué)問(wèn)題，」他說(shuō)道。「因此，你不得不通過(guò)今天正在道路上發(fā)生的事情來(lái)看這個(gè)問(wèn)題，全世界范圍內(nèi)（在道路上行駛的）人類司機(jī)可能殺死了超過(guò)百萬(wàn)的人?！?/p>

這是真的——在大部分情況中，自動(dòng)駕駛汽車安全得多。他們不會(huì)喝酒，沒(méi)有路怒癥，也不會(huì)發(fā)信息。但技術(shù)不是，也不會(huì)永遠(yuǎn)毫無(wú)錯(cuò)誤。谷歌汽車在過(guò)去的幾年里涉及幾起車禍，但都并非過(guò)錯(cuò)方。但在上個(gè)月，谷歌第一次造成了一起小型車禍，變道時(shí)撞上了一輛公交（無(wú)人受傷）?！缸詣?dòng)駕駛汽車首次撞死了某人，會(huì)成為大新聞，」Nvidia的自動(dòng)駕駛汽車高級(jí)總監(jiān)Danny Shapiro說(shuō)道，Nvidia是一家制造用于自動(dòng)駕駛汽車的視頻處理芯片的公司。即使它們更安全，但把你的生命放心的交給機(jī)器——或者，更確切的說(shuō)，交給谷歌（或者蘋果、或者特斯拉）編寫的計(jì)算機(jī)代碼——仍然是個(gè)巨大的挑戰(zhàn)。誰(shuí)能確定控制汽車的算法里到底寫入了多少風(fēng)險(xiǎn)呢？在《Our Robots, Ourselves》中，Mindell想象了一場(chǎng)對(duì)話，說(shuō)道，更多風(fēng)險(xiǎn)（開(kāi)得更快），更少風(fēng)險(xiǎn)（開(kāi)得更慢）。但誰(shuí)能保證這樣的風(fēng)險(xiǎn)是準(zhǔn)確的？如果大眾能夠在排氣測(cè)試上欺騙大眾，為什么它不會(huì)在安全測(cè)試上欺騙大眾呢？

諸如這些問(wèn)題就是機(jī)器人先驅(qū)Rodney Brooks認(rèn)為人們夸大了谷歌對(duì)完全自動(dòng)駕駛汽車信賴的原因所在。并不是因?yàn)榧夹g(shù)沒(méi)有準(zhǔn)備好，而是因?yàn)檎f(shuō)到底，人們喜歡有個(gè)人在現(xiàn)場(chǎng)——特別是當(dāng)生命瀕臨危險(xiǎn)之時(shí)。Brooks指出了火車的歷史，火車有一個(gè)簡(jiǎn)單得多的控制問(wèn)題：「在機(jī)場(chǎng)年復(fù)一年地使用無(wú)人駕駛火車之后，人類才開(kāi)始適應(yīng)地鐵的無(wú)人駕駛?！顾€提到了2009年6月份的華盛頓地鐵事故，一輛計(jì)算機(jī)驅(qū)駛的火車撞上了另外一輛，造成了9人死亡，80多人受傷。事故之后，群眾要求人類重新控制火車。Brooks說(shuō)，「人類駕駛時(shí)，表現(xiàn)會(huì)下降。因?yàn)槿祟愃緳C(jī)并不善于在標(biāo)記處停下來(lái)，但是，人們說(shuō)，『不，你不得不在決策環(huán)節(jié)安排一個(gè)人。』」在第一輛計(jì)算機(jī)驅(qū)動(dòng)的火車重回軌道之前，研究和升級(jí)費(fèi)用為1800萬(wàn)美元。

Eric Horvitz是微軟研究院主要人工智能實(shí)驗(yàn)室（位于華盛頓州雷德蒙德）的總監(jiān)，他認(rèn)為，談這一切將如何展開(kāi)，還為時(shí)過(guò)早。但是，我相信不久，我們將看到至少有一個(gè)主要城市完全有一隊(duì)公共微型交通工具。他說(shuō)：「你能想象城市看起來(lái)會(huì)完全不同。你要到巴黎的城郊，卻不能駕駛私家車。不用擔(dān)心，城市完全被靈活的微型公共交通工具覆蓋。你只需指定想要的到達(dá)的地方，一輛小車微型車停下來(lái)，它會(huì)載你到目的地。于我而言，聽(tīng)起來(lái)很贊?！?/p>

如果有家能作為機(jī)器人正在如何顛覆美國(guó)制造業(yè)就業(yè)的典范，那一定是波音公司。據(jù)路透社消息，較之20世紀(jì)90年代，波音飛機(jī)制造量增加了20%，但工人少了1/3。僅在過(guò)去的一年中，它就用60噸重的機(jī)器人取代了數(shù)百位工人。波音稱，機(jī)器人工作速度是人的2倍，不合格率少了2/3。自動(dòng)化對(duì)公司工作力的影響是引人注目的。1998年，波音公司制造了564架飛機(jī)，平均每架飛機(jī)雇傭217人。到2015年，它制造了762架飛機(jī)，平均每架飛機(jī)需要109位工人。最近的白宮經(jīng)濟(jì)報(bào)告總結(jié)說(shuō)，在量級(jí)上，機(jī)器人的勞動(dòng)生產(chǎn)力與19世紀(jì)蒸汽機(jī)取得的生產(chǎn)力相似，也就不讓人驚訝了。

鮮有經(jīng)濟(jì)學(xué)家質(zhì)疑這一事實(shí)，智能機(jī)器不久將會(huì)在很多種工作中取代人類，從快餐服務(wù)業(yè)到貨車司機(jī)。2000年到2015年，大約500萬(wàn)制造業(yè)崗位消失了。一些是被輸送到國(guó)外，但許多是被日益增多的自動(dòng)化取代。

但是，機(jī)器人入侵的經(jīng)濟(jì)后果并非看起來(lái)那么簡(jiǎn)單。二十世紀(jì)七十年代，我長(zhǎng)在硅谷，親自見(jiàn)證了這一點(diǎn)。我朋友的父親在附近費(fèi)利蒙市的老通用工廠工作。在生產(chǎn)線上工作——曾被少量飛濺的金屬燙傷過(guò)胳膊——他能養(yǎng)家糊口。在20世紀(jì)70年代末的頂峰時(shí)期，這個(gè)基地雇傭了6800人。

不幸的是，他們生產(chǎn)的汽車太差了。20世界70年代至80年代期間，通用汽車可怕的可靠性可謂眾所周知。2010年，This American Life（TAL）一集中，密歇根大學(xué)的一位教授說(shuō)：「（對(duì)此的）描述之一就是，你能在費(fèi)利蒙市的通用基地購(gòu)買任何東西。如果你想要性，毒品或者酒精，想要賭博—就去那里...那個(gè)工廠里?！?/p>

不久之前，我參觀了這座老的通用工廠。如今它屬于特斯拉，而且已經(jīng)變成世界上最先進(jìn)的自動(dòng)化制造工廠之一。一邊有大量的原鋁進(jìn)入工廠，一邊生產(chǎn)出價(jià)值10萬(wàn)美金的電動(dòng)汽車。特斯拉的生產(chǎn)部副總裁Gilbert Passin說(shuō)：「我們正在這里建造未來(lái)?！?/p>

超過(guò)一千多臺(tái)機(jī)器人工作在特斯拉的生產(chǎn)線上。一些從頂部懸掛下來(lái)，一些沿地面快速運(yùn)送材料，還有一些類似Iceman的巨型機(jī)器人，高達(dá)15英尺，能像舉玩具一樣舉起1000多磅的特斯拉車身。盡管這里是世界上汽車制造自動(dòng)化程度最高的基地之一，特斯拉一周只生產(chǎn)1000臺(tái)汽車（通用曾一天生產(chǎn)過(guò)1000臺(tái)汽車）。但最令人驚訝的是：特斯拉雇傭了大約3000人。所以，特斯拉并不只是生產(chǎn)的高質(zhì)量汽車，它每臺(tái)汽車平均需要的工人也是通用汽車的3倍。從此看來(lái)，工廠的自動(dòng)化并沒(méi)取代人類的工作，而是創(chuàng)造了更多的工作。

這些工人做什么？一些生產(chǎn)線的工作對(duì)機(jī)器人而言太微妙或者復(fù)雜，比如表盤的安裝，需要人來(lái)做；一些工人需要控制機(jī)器人，安裝機(jī)器人工作需要的工具。Passin說(shuō)「這個(gè)基地內(nèi)，機(jī)器人和人協(xié)同工作，做各自擅長(zhǎng)的工作?！箵Q言之，這并非一個(gè)自動(dòng)化工廠，而是人機(jī)共同的舞臺(tái)。

如今，已經(jīng)無(wú)需懷疑智能機(jī)械的發(fā)展會(huì)對(duì)就業(yè)產(chǎn)生巨大的影響。一些消失的工作將會(huì)被在高科技領(lǐng)域創(chuàng)造的新職位所填充，一些就永遠(yuǎn)的消失了。2013年牛津大學(xué)的一份報(bào)告提醒說(shuō)，在接下來(lái)的20年中，現(xiàn)有職業(yè)中的一半都有著自動(dòng)化的危險(xiǎn)。最近的一份美國(guó)美林銀行報(bào)告的作者曾說(shuō)過(guò)：「我們正面臨著范式轉(zhuǎn)變，這將會(huì)改變我們生活工作的方式。近年來(lái)，科技顛覆創(chuàng)新的幅度已經(jīng)從直線性轉(zhuǎn)變成拋物線了?！?/p>

不難看出哪些工作是機(jī)器人的目標(biāo)：文員職位，流水線工作，翻轉(zhuǎn)漢堡。上個(gè)月，白宮的經(jīng)濟(jì)報(bào)告做出預(yù)測(cè)，如果一份工作的薪酬少于每小時(shí)20美元，就有83%的可能最終被自動(dòng)化技術(shù)淘汰。但是除此之外，很難預(yù)測(cè)影響力。藍(lán)領(lǐng)和受教育程度低工人當(dāng)中的失業(yè)和工資的停滯不前現(xiàn)象已經(jīng)改變了美國(guó)政治，也推動(dòng)了 Donald Trump 的崛起——日益增加的自動(dòng)化只會(huì)加速這一趨勢(shì)。

「有很多恐懼，」 Ken Goldberg 說(shuō)，他是加州大學(xué)伯克利大學(xué)的機(jī)器人專家，率先發(fā)起「人與機(jī)器人（People and Robots）」活動(dòng)，希望找到一條途徑加強(qiáng)人與機(jī)器人的合作?！傅牵行┦率菣C(jī)器人擅長(zhǎng)的，而有些事是人類擅長(zhǎng)的。所以，我們需要以二元論來(lái)思考它們，因?yàn)槟憧梢园l(fā)現(xiàn)機(jī)器人將幫助人們比以前做得更好。」

一個(gè)人機(jī)合作的例子是Goldberg正在致力于醫(yī)療機(jī)器人。他們努力了15年左右，但是直到現(xiàn)在，他們只不過(guò)做出了精致的機(jī)器人手臂，醫(yī)生通過(guò)攝像頭觀察，讓這些手臂以安全的方式進(jìn)行微創(chuàng)手術(shù)。盡管不久以后可能會(huì)有變化，但是目前沒(méi)有自主（ autonomy）。手術(shù)涉及大量單調(diào)乏味的子任務(wù)——比如，縫線?！改阏诮o星級(jí)外科醫(yī)生付費(fèi)，請(qǐng)他坐下縫線?！笹oldberg說(shuō)，「這不是在好好利用時(shí)間?！沽硪粋€(gè)乏味的任務(wù)叫做「清創(chuàng)」——挑除體內(nèi)的已死或癌變的組織?！冈谶@個(gè)任務(wù)上，我們認(rèn)為機(jī)器人可以做得很好?！顾f(shuō)，「我們可以用感應(yīng)器掃描，發(fā)現(xiàn)組織表皮下的腫瘤，然后切掉和移除它。這會(huì)讓外科醫(yī)生失業(yè)嗎？不會(huì)。我們正在談?wù)摰氖前l(fā)明工具，讓外科醫(yī)生做得更好，允許他們專注于更重要的任務(wù)，讓機(jī)器人去做乏味的工作?！?/p>

然而，經(jīng)濟(jì)改革對(duì)很多技術(shù)不熟練的工人來(lái)說(shuō)將是殘忍的。Thrun爭(zhēng)論道，應(yīng)對(duì)即將到來(lái)的社會(huì)大動(dòng)亂的最好方法，不是試圖妨礙科技發(fā)展，而是改善教育。去年秋天，他告訴《經(jīng)濟(jì)學(xué)人》，「我們?nèi)匀簧钤诎l(fā)端十九、二十世紀(jì)的教育體系?！顾木W(wǎng)絡(luò)學(xué)校，即Udacity，如今在全球有4百萬(wàn)注冊(cè)使用者，提供計(jì)算機(jī)相關(guān)領(lǐng)域的「微學(xué)位（nanodegrees)」?！肝覀冇龅竭@樣一種情況，精通技術(shù)的人與技術(shù)不熟練的人之間的差距正在加大?！顾f(shuō)，「我不得不教育每個(gè)人，這個(gè)任務(wù)是在真地盡力推遲人工智能最終會(huì)對(duì)我們產(chǎn)生的影響，因?yàn)槲艺嬲\(chéng)地相信大家應(yīng)該有這個(gè)機(jī)會(huì)。」

根據(jù)2014年NSA中心一篇新的、頗有影響力的論文，未來(lái)的戰(zhàn)爭(zhēng)將是「完全新式的作戰(zhàn)體系，無(wú)人操控的自動(dòng)化系統(tǒng)扮演中心角色。美國(guó)的國(guó)防領(lǐng)導(dǎo)人應(yīng)該馬上開(kāi)始為不遠(yuǎn)的將來(lái)，為機(jī)器人時(shí)代的戰(zhàn)爭(zhēng)做準(zhǔn)備?！瓜胂?-D打印機(jī)的大群小型武裝無(wú)人飛機(jī)，讓大城市天空暗下來(lái)；想想士兵們受到鋼鐵俠般體外骨骼的保護(hù)，并配備神經(jīng)植入物，從遠(yuǎn)程計(jì)算機(jī)注入目標(biāo)數(shù)據(jù)；想想沿岸水域有無(wú)人潛水艇出沒(méi)；再想想黃蜂大小無(wú)人機(jī)實(shí)施的攻擊。在這個(gè)新的戰(zhàn)爭(zhēng)年代，昂貴的冷戰(zhàn)時(shí)期的技術(shù)，比如戰(zhàn)斗轟炸機(jī)，將愈發(fā)無(wú)關(guān)緊要，世界上大型計(jì)算機(jī)的軍事等價(jià)物已經(jīng)轉(zhuǎn)移到筆記本電腦和iPad上。

軍事技術(shù)的演化似乎是由三個(gè)因素驅(qū)動(dòng)的。第一是風(fēng)險(xiǎn)減少。機(jī)器人能進(jìn)入士兵不能進(jìn)入的危險(xiǎn)環(huán)境，潛在保護(hù)了陸軍士兵的生命。在阿富汗和伊朗，有超過(guò)1,700個(gè)PackBots，這是玩具車尺寸的機(jī)器人，無(wú)線控制，并配備可以抓握以探測(cè)地雷的遠(yuǎn)程控制機(jī)器手臂，或者配備用于監(jiān)測(cè)的攝像頭。更新的（newer）軍事無(wú)人機(jī)，比如MQ-9 Reaper，已經(jīng)可以起飛、著陸和飛往目的地而不需人為干涉。風(fēng)險(xiǎn)減少也改變了戰(zhàn)爭(zhēng)的政治考量：既然機(jī)器人不會(huì)躺在棺材里回國(guó)，那么，智能機(jī)器的使用讓軍事領(lǐng)導(dǎo)人能夠從事否則會(huì)無(wú)法想象的困難任務(wù)。

第二個(gè)因素是金錢。美國(guó)每年的國(guó)防經(jīng)費(fèi)將近6千億美元，這個(gè)數(shù)目比排在它后面的10個(gè)國(guó)家的經(jīng)費(fèi)總和還要多。軍隊(duì)預(yù)計(jì)會(huì)將總共1.5萬(wàn)億美元的經(jīng)費(fèi)用于F-35戰(zhàn)斗機(jī)，這款戰(zhàn)斗機(jī)已經(jīng)有十五年的研發(fā)歷史了。在ISIS時(shí)代，這種花費(fèi)不僅很難被證明是正當(dāng)?shù)?，還可能愚蠢至極。F-35是無(wú)用的，不能抵抗成群的小型無(wú)人機(jī)或者購(gòu)物中心的自殺式恐怖襲擊。而且事實(shí)是，操作和維護(hù)人，花費(fèi)巨大。New America高級(jí)學(xué)者高級(jí)研究員，《Ghost Fleet 》（一本關(guān)于未來(lái)戰(zhàn)爭(zhēng)的小說(shuō)）的作者Peter Singer 說(shuō)，「大約三分之一的軍事費(fèi)用都花在人身上了?！棺罱晃幻绹?guó)陸軍將軍推測(cè)，接下來(lái)幾年，作戰(zhàn)旅將從4000人降至3000人，機(jī)器人補(bǔ)充不足。

第三個(gè)因素是對(duì)快速崛起的中國(guó)的恐懼（有人說(shuō)是妄想）。自從冷戰(zhàn)結(jié)束后，美國(guó)憑借精確制導(dǎo)導(dǎo)彈和其它勝過(guò)蘇聯(lián)的技術(shù)，享受到了超越競(jìng)爭(zhēng)對(duì)手的前所未有的優(yōu)越感。但是，中國(guó)似乎正在趕超，迅速增加國(guó)防經(jīng)費(fèi)。如果戰(zhàn)爭(zhēng)爆發(fā)，中國(guó)新式反艦導(dǎo)彈會(huì)讓在西太平洋運(yùn)轉(zhuǎn)的美國(guó)航空母艦陷入危險(xiǎn)。中國(guó)人也已經(jīng)加大在先進(jìn)武器裝備方面的投資，尤其是軍用無(wú)人飛機(jī)，中國(guó)正在制造這些設(shè)備并銷售給政局動(dòng)蕩的國(guó)家，如尼日利亞和伊拉克。

對(duì)軍隊(duì)而言，問(wèn)題是將智能機(jī)器部署在哪里，部署到什么范圍或程度。對(duì)一些工作而言，機(jī)器干預(yù)是件容易的事。美國(guó)軍隊(duì)歷史上第一位女性戰(zhàn)斗機(jī)飛行員 Mary Cummings ，如今在杜克大學(xué)管理一個(gè)機(jī)器人實(shí)驗(yàn)室，說(shuō)，「在軍事領(lǐng)域，過(guò)去，從航空母艦上起飛和著陸是一件很危險(xiǎn)的航空任務(wù)?！笴ummings的一些朋友在嘗試航空母艦著陸時(shí)，死于撞擊事故，她正致力于更深入的人-機(jī)合作，尤其是在充滿焦慮的情況下，這可能導(dǎo)致致命的錯(cuò)誤計(jì)算?！溉缃?，F(xiàn)-18的自動(dòng)駕駛儀能從航空母艦起飛和著陸了，比任何人做的要好得多。」她說(shuō)，「它安全多了?！乖诹硪粯O端情形中，人類已經(jīng)堅(jiān)定地留在決策環(huán)節(jié)中，盡管技術(shù)上不必如此。雖然無(wú)人機(jī)不久就會(huì)變得成熟，可以識(shí)別、瞄準(zhǔn)和殺死一個(gè)40,000英尺之外的人，所有無(wú)人機(jī)攻擊都需要作為「射殺指令鏈」一環(huán)的官員簽署，這一鏈條終止于總統(tǒng)。

很多為滿足軍事用途而正在研發(fā)中的智能機(jī)器，最好被理解為人類能力的延伸（視覺(jué)、聽(tīng)覺(jué)，在某些情況下，扣扳機(jī)的手指）。在美國(guó)軍方的支持下，卡耐基梅隆大學(xué)立項(xiàng)打造配有攝像頭的蛇形機(jī)器人，可以爬行接近敵方目標(biāo)。哈佛研究人員在DARPA的支持下，開(kāi)發(fā)出了「RoboBee」，翅展3公分，可以飛過(guò)開(kāi)著的窗戶，或?qū)嵤┌抵斜O(jiān)視。DARPA 也正在研究所謂的「吸血鬼無(wú)人機(jī)（vampire drones）」，由任務(wù)完成后可「升華」的材料制成，比如，升華為氣體。有些DARPA 正在研究的項(xiàng)目正是出自James Cameron的電影：據(jù)《The Pentagon's Brain》——講述DARPA歷史——一書作者Annie Jacobsen 透露，DARPA 15年來(lái)一直在研究一個(gè)稱之為「增強(qiáng)認(rèn)知（Augmented Cognition）」的項(xiàng)目?！竿ㄟ^(guò)『增強(qiáng)認(rèn)知』項(xiàng)目，DARPA 正在打造人類-機(jī)器生物混合體，我們可稱之為cyborgs，」James Cameron 在書中寫道。DARPA 科學(xué)家正在試驗(yàn)人類大腦神經(jīng)植入，可作為人腦與電腦進(jìn)行快速信息交流的途徑，挖掘這一可能性——無(wú)論多遠(yuǎn)——士兵無(wú)需操作桿，通過(guò)傳遞諸如被編碼成電脈沖的思維之類的東西，就可以控制戰(zhàn)場(chǎng)上的機(jī)器人。

不過(guò)，很有必要將DARPA 進(jìn)行的科幻小說(shuō)式的項(xiàng)目與真實(shí)世界的情況區(qū)分開(kāi)來(lái)。去年6月，我參加了DARPA 在洛杉磯附近舉行的 DARPA 機(jī)器人挑戰(zhàn)賽決賽。該比賽由美國(guó)國(guó)防部發(fā)起，冠軍可獲得200萬(wàn)美元獎(jiǎng)金，旨在激發(fā)用于災(zāi)難現(xiàn)場(chǎng)的機(jī)器人創(chuàng)新，如福島核電站事故，可在放射強(qiáng)度極高的發(fā)電廠里提供救援。

最有希望贏得決賽的是由卡內(nèi)基梅隆大學(xué)的一個(gè)團(tuán)隊(duì)打造的Chimp，一個(gè)重達(dá)443磅的機(jī)器人。Chimp 看起來(lái)很龐大：高5英尺，手臂負(fù)重300磅。「我們?cè)O(shè)計(jì)了一個(gè)不會(huì)跌倒的機(jī)器人，」Chimp 一位軟件工程師吹噓說(shuō)。

但是，在機(jī)器人世界，不是所有的事都按計(jì)劃行事。比賽迅速演變一出碾壓機(jī)器人的喜?。阂粋€(gè)跌倒的機(jī)器人，液壓液體像外星人血液一樣噴涌而出；還一個(gè)頭突然飛走。甚至強(qiáng)大的Chimp 嘗試開(kāi)門時(shí)，面朝地摔下。未來(lái)似乎仍很遙遠(yuǎn)。

談到機(jī)器人和戰(zhàn)爭(zhēng)，問(wèn)題的重點(diǎn)不在于技術(shù)，而在于哲學(xué)：能否賦予機(jī)器殺人的權(quán)利？將決定——以及權(quán)力——外包給機(jī)器的想法，是個(gè)很恐怖的主意。去年7月，康涅狄格州一個(gè)青少年將手槍固定在一臺(tái)簡(jiǎn)易無(wú)人機(jī)上，然后將視頻上傳到Y(jié)outube 上（該視頻點(diǎn)擊量超過(guò)350萬(wàn)），該做法引發(fā)熱議。想象一下，如果某人將iPhone 固定在一臺(tái)商店購(gòu)買的無(wú)人機(jī)上，然后配上半自動(dòng)武器，這將引起怎樣的恐慌，實(shí)際上，此人相當(dāng)于自制了一臺(tái)遠(yuǎn)程控制的謀殺式無(wú)人機(jī)。

當(dāng)然，簡(jiǎn)單的自主觸發(fā)武器不是什么新鮮事物：比如地雷，這就是愚蠢的自主武器的化身，因?yàn)闊o(wú)論是敵人還是一個(gè)三歲孩子，踩上去都會(huì)爆炸。20世紀(jì)90年代，美國(guó)活動(dòng)家Jody Williams 發(fā)起反對(duì)地雷的國(guó)際性運(yùn)動(dòng)，最終使得162個(gè)國(guó)家簽署條約禁止使用、開(kāi)發(fā)或儲(chǔ)存殺傷性地雷。Williams 也因此獲得諾貝爾和平獎(jiǎng)?，F(xiàn)在，她又在20位有諾貝爾頭銜人的幫助下，帶頭發(fā)起了一項(xiàng)稱為「Campaign to Stop Killer Robots」的行動(dòng)，他希望在自主武器成為現(xiàn)實(shí)之前徹底禁止?！肝艺J(rèn)為殺人機(jī)器人比核武器更恐怖，」去年，她在日內(nèi)瓦告訴NBC?！溉绻腥苏J(rèn)為將人類生死的決定權(quán)交給機(jī)器沒(méi)問(wèn)題，我想問(wèn)人性去哪了？」從2014年起，聯(lián)合國(guó)就一直在討論可能的國(guó)際準(zhǔn)則。

美國(guó)五角大樓要求「使用武器前進(jìn)行適當(dāng)?shù)娜祟惻袛??！沟?。何謂「適當(dāng)?shù)摹?？?shí)際上，某些完全自主的武器早已在建造中。美國(guó)即將部署具備自動(dòng)控制系統(tǒng)的遠(yuǎn)程導(dǎo)彈，可自動(dòng)尋找目標(biāo)。韓國(guó)已經(jīng)開(kāi)發(fā)出了自動(dòng)化槍塔，能在黑暗中超過(guò)一英里的距離自動(dòng)感知目標(biāo)，朝人類目標(biāo)開(kāi)火。

在加利福尼亞舉行的機(jī)器人競(jìng)賽中，我與佐治亞理工學(xué)院教授Ronald Arkin 交流，他寫了有關(guān)很多機(jī)器人倫理的文章?！肝也怀珜?dǎo)終結(jié)者式的武器，」Arkin 告訴我?！覆贿^(guò)，我也確實(shí)認(rèn)為這是個(gè)很復(fù)雜的議題?！笰rkin 指出，更智能的武器可減少平民傷亡。「因?yàn)樗鼈儧](méi)有情感，在危險(xiǎn)情況下不太會(huì)驚慌，」他說(shuō)，「也不會(huì)因?yàn)樾睦韺W(xué)家所說(shuō)的『戰(zhàn)爭(zhēng)迷霧（fog of war）』而做出錯(cuò)誤的決斷?！古e個(gè)例子：去年10月，美國(guó)一架AC-130 武裝直升機(jī)錯(cuò)誤地朝阿富汗昆杜茲（Kunduz）一家醫(yī)院開(kāi)火，造成至少42人死亡。駐阿美軍司令John F. Campbell 稱此事件為「原可避免的一場(chǎng)悲劇，主要因人為失誤造成?！棺灾鳠o(wú)人機(jī)會(huì)犯相似的錯(cuò)誤嗎？

「目前，我們放飛無(wú)人機(jī)去獵殺那些真正可怕的人，」計(jì)算機(jī)科學(xué)家和作者Jaron Lanier 說(shuō)?！傅?，系統(tǒng)也設(shè)定為可四處飛行，搜尋并進(jìn)行射殺?！巩?dāng)然，問(wèn)題在于，如果這些真正可怕的人獲得了無(wú)人機(jī)然后將我們作為獵殺目標(biāo)，會(huì)出現(xiàn)這種情況嗎？「呃，歷史經(jīng)驗(yàn)告訴我們，是的，這會(huì)發(fā)生，」他說(shuō)?！溉绻娴陌l(fā)生了，不要說(shuō)『?。∵@些邪惡的機(jī)器，』我們應(yīng)該說(shuō)『喔！工程師真的很不負(fù)責(zé)任，還很愚蠢，沒(méi)有全盤考慮。』我們不應(yīng)該談?wù)摚ㄐ皭旱模┤斯ぶ悄埽覀儜?yīng)該說(shuō)工程師有責(zé)任打造可持續(xù)的系統(tǒng)，而且這個(gè)系統(tǒng)不會(huì)調(diào)轉(zhuǎn)槍口。這才是討論的正確姿勢(shì)?！?/p>

有些研究人員認(rèn)為，我們或許能夠?qū)⒛撤N天然（未經(jīng)加工的）的道德代碼編入機(jī)器，但是，那需要一定的技術(shù)成熟和復(fù)雜度，對(duì)此，我們只能加以推測(cè)。然而，越來(lái)越多的自主武器也許不能避免。這不像核武器，需要舉國(guó)之力的投資才能獲得，這種新型技術(shù)由商業(yè)發(fā)展驅(qū)動(dòng)。「我向你保證，谷歌和亞馬遜的無(wú)人機(jī)監(jiān)控能力很快就會(huì)遠(yuǎn)超軍方，」Cummings說(shuō)?！杆鼈冇写蟮枚嗟臄?shù)據(jù)庫(kù)、更好的面部識(shí)別技術(shù)，更有能力制造和控制無(wú)人機(jī)。這些公司比CIA（美國(guó)中央情報(bào)局）知道地更多。當(dāng)政府開(kāi)始要求公司向他們提供最新的防御技術(shù)，將會(huì)發(fā)生什么？」

但是，Cummings 認(rèn)為，距離真正殺人機(jī)器人的到來(lái)還有很長(zhǎng)的路。在實(shí)驗(yàn)室幻想自主機(jī)器人和武器遠(yuǎn)比在現(xiàn)實(shí)世界部署簡(jiǎn)單。在加利福尼亞舉行的機(jī)器人競(jìng)賽結(jié)束后，我很快就想到了這點(diǎn)。我漫步回到了車庫(kù)，打造并操作機(jī)器人的團(tuán)隊(duì)正在那里消遣。這就像一個(gè)納斯卡（譯者注：納斯卡車賽是一項(xiàng)在美國(guó)流行的汽車賽事）車庫(kù)，有放置工具箱的凹槽和高科技的齒輪，團(tuán)隊(duì)成員正在喝啤酒。除了沒(méi)有車，機(jī)器人取而代之。最終，冠軍由韓國(guó)一個(gè)團(tuán)隊(duì)打造的小型機(jī)器人DRC-Hubo 摘得，也許是五角大樓有意地武裝毗鄰中國(guó)的盟友吧。

至于機(jī)器人自身，屬于它們的時(shí)刻已經(jīng)結(jié)束。它們被保護(hù)帶掛著，還不如一輛停著的汽車富有生氣。即使是強(qiáng)大的Chimp，大紅色的涂漆因戲劇性的摔倒而磨損，看起來(lái)微弱無(wú)力。同時(shí)，卡耐基梅隆大學(xué)的工程師和程序員圍在四周，或收拾工具，或盯著電腦屏幕。這是一個(gè)《綠野仙蹤》時(shí)刻（譯者注：源于《綠野仙蹤》，Doris（女主人公）看到了躲在帷幕后面的號(hào)稱操縱一切的 The Great Wizard of Oz的那一刻。），透過(guò)簾子猛然一瞥，當(dāng)你看到如Chimp 一樣強(qiáng)大的機(jī)器都是人類汗水和創(chuàng)造力的結(jié)晶，沒(méi)有幾十人數(shù)年的設(shè)計(jì)和制造，這機(jī)器人就不可能存在。這同樣也適用于谷歌無(wú)人駕駛汽車和CIA用來(lái)打擊巴基斯坦和也門基地組織的無(wú)人機(jī)。與面包機(jī)相比，它們是智能機(jī)器。但是，他們是人類想象力和工程學(xué)的成果。如果在未來(lái)，我們?cè)O(shè)計(jì)的機(jī)器向人類挑戰(zhàn)、傷害我們、毀壞我們深愛(ài)之物，甚至試圖終結(jié)人類，那么，這也是因?yàn)槲覀冏寵C(jī)器變成那樣。最終，智能機(jī)器崛起的可怕之處不在于某天它們擁有自己的思維，而是某天，它們擁有我們?nèi)祟悺獛е祟惖娜秉c(diǎn)和復(fù)雜性——為它們?cè)O(shè)計(jì)和打造的思想。