1月14日消息，據(jù)連線雜志報(bào)道，美國軍方正竭力在人工智能(AI)領(lǐng)域取得進(jìn)展。美國國防部的高級(jí)官員相信，AI將是確保美國在未來戰(zhàn)爭中取得勝利的關(guān)鍵。但國防部的內(nèi)部文件和對(duì)高級(jí)官員的采訪都表明，國防部因?yàn)楸灰患铱萍季揞^拋棄而陷入步履蹣跚的窘境。為擺脫這種困境，美國國防部開始了一場爭奪AI人才的大戰(zhàn)。
2018年6月份，谷歌宣布退出美國國防部備受爭議的Project Maven項(xiàng)目，Project Maven是美國軍方首次探索在戰(zhàn)爭中大規(guī)模使用AI的項(xiàng)目。該項(xiàng)目使用谷歌AI軟件提高視頻分析效率，幫助情報(bào)分析師從視頻片段中識(shí)別出軍事目標(biāo)。10月份，數(shù)千名谷歌員工簽署了一份請(qǐng)?jiān)笗粲豕窘K止在該項(xiàng)目上與美國軍方的合作。
據(jù)五名熟悉有關(guān)Project Maven內(nèi)部討論的消息人士透露，谷歌的撤出讓美國國防部內(nèi)部感到挫敗和沮喪，甚至是憤怒。
6月28日，分發(fā)給大約50名美國國防部官員的內(nèi)部備忘錄稱：“我們無意中卷入了一場關(guān)于戰(zhàn)略敘述的爭論。”這份備忘錄指出，美國國防部因谷歌的撤出措手不及，該機(jī)構(gòu)目前正面臨AI專家日益疏遠(yuǎn)它們的窘境，而這些人對(duì)軍方AI發(fā)展計(jì)劃至關(guān)重要。備忘錄中警告稱:“如果我們不能贏得關(guān)鍵人物的支持，我們就無法有效地與對(duì)手競爭。”
Project Maven項(xiàng)目2017年的成本只有7000萬美元左右，這是美國國防部當(dāng)年6000億美元海量預(yù)算中非常少的部分。但谷歌的聲明表明，該部門仍在努力應(yīng)對(duì)更大的公共關(guān)系和科學(xué)挑戰(zhàn)。到目前為止，谷歌的回應(yīng)是試圖為其AI研發(fā)工作塑造全新的公眾形象，并尋求組建由科技公司高管組成的顧問團(tuán)對(duì)國防部的AI政策進(jìn)行審查。
美國國防部感到焦慮的原因是顯而易見的：它希望未來能把AI集成到武器中，這一愿望已經(jīng)得到了數(shù)十億美元承諾的支持，以及數(shù)十億美元的技術(shù)研發(fā)資金支持。
AI最終會(huì)在戰(zhàn)爭中扮演什么樣的角色還不清楚。許多AI武器將不涉及機(jī)器算法的決策，但它們正在朝這方面努力。美國國防部去年8月的一份戰(zhàn)略文件提到:“支撐無人系統(tǒng)的技術(shù)將使開發(fā)和部署自主系統(tǒng)成為可能，這些系統(tǒng)可以獨(dú)立選擇目標(biāo)，并以致命武力發(fā)動(dòng)攻擊。”
美國國防部的官員們表示，開發(fā)AI不同于開發(fā)其他軍事技術(shù)。盡管軍方很容易就能從大型國防承包商那里獲得最前沿的戰(zhàn)斗機(jī)和炸彈，但AI和機(jī)器學(xué)習(xí)創(chuàng)新的核心卻屬于硅谷的非國防科技巨頭。官員們擔(dān)心，如果沒有他們的幫助，美國軍方可能會(huì)輸?shù)粢粓霾粩嗌?jí)的全球軍備競賽。在這場競賽中，AI將扮演越來越重要的角色。
現(xiàn)任美國國防部下屬的國防數(shù)字服務(wù)(DDS)負(fù)責(zé)人克里斯·林奇(Chris Lynch)在采訪中說：“如果決定不參與Project Maven，實(shí)際上也未參與討論AI或機(jī)器學(xué)習(xí)是否將被用于軍事行動(dòng)。”他說，AI正在走向戰(zhàn)爭，所以問題在于，哪些美國技術(shù)專家會(huì)去設(shè)計(jì)它?
林奇表示，AI技術(shù)太重要了，即使需要依靠不那么專業(yè)的專家，該機(jī)構(gòu)也會(huì)繼續(xù)推進(jìn)這方面的工作。但林奇補(bǔ)充說：“如果沒有行業(yè)內(nèi)最優(yōu)秀人才的幫助，我們就會(huì)雇傭那些能力不算最強(qiáng)的人，首先開發(fā)能力或許遠(yuǎn)不如我們預(yù)期的產(chǎn)品。”
谷歌不太可能很快轉(zhuǎn)變態(tài)度。在宣布該公司將不再尋求續(xù)簽Project Maven合同不到一個(gè)星期之后，谷歌發(fā)布了新的AI指導(dǎo)原則，特別說明該公司不會(huì)使用AI“用于幫助開發(fā)武器或其他用于直接傷害人類的產(chǎn)品”。自那以來，許多美國國防官員一直抱怨谷歌不愛國，并指責(zé)該公司仍在尋求與中國政府合作。中國是美國在AI技術(shù)領(lǐng)域的最大競爭對(duì)手。
據(jù)知情人士透露，Project Maven旨在簡化情報(bào)分析師的工作，方法是在無人機(jī)和其他平臺(tái)的視頻片段中標(biāo)注目標(biāo)類型，幫助分析師收集信息，并縮小對(duì)潛在目標(biāo)的關(guān)注范圍。但這些算法并沒有選擇目標(biāo)，也沒有下達(dá)攻擊指令。長期以來，那些擔(dān)心先進(jìn)計(jì)算技術(shù)與新形式致命暴力相結(jié)合的人，對(duì)這種算法總是有種膽戰(zhàn)心驚的感覺。
谷歌的許多人還是以令人擔(dān)憂的眼光看待這個(gè)項(xiàng)目。一位熟悉內(nèi)部討論的前谷歌員工表示:“他們立即想到了無人機(jī)，然后他們又想到了機(jī)器學(xué)習(xí)和自動(dòng)目標(biāo)識(shí)別，我認(rèn)為這個(gè)項(xiàng)目開發(fā)的AI很快就會(huì)升級(jí)，讓它們能夠進(jìn)行有針對(duì)性地殺戮，發(fā)動(dòng)有針對(duì)性的戰(zhàn)爭。”
谷歌只是美國國防部尋求招募的科技巨頭之一，其目的是將AI注入現(xiàn)代戰(zhàn)爭中。其他目標(biāo)還包括微軟和亞馬遜。據(jù)現(xiàn)任和前任美國國防部官員說，在谷歌2018年6月份宣布退出的消息后，十幾家大型防務(wù)公司接洽了國防部官員，提出愿意接手這一工作。但硅谷活動(dòng)人士也表示，軍方不能輕易忽視科技工作者的道德疑慮。
上述那位前谷歌員工表示:“那些對(duì)股東負(fù)責(zé)的人、那些希望獲得國防部價(jià)值數(shù)百萬美元合同的人，與那些不得不研發(fā)這些東西、但又覺得自己在道德上與這些東西格格不入的普通員工之間，存在一種分歧。”為了彌合這一鴻溝，緩和AI工程師的尖銳反對(duì)情緒，美國國防部迄今采取了兩項(xiàng)舉措。
第一項(xiàng)措施于6月底正式啟動(dòng)，目的是建立一個(gè)聯(lián)合AI中心，旨在監(jiān)督和管理軍方的所有AI工作。這個(gè)中心將由陸軍中將杰克·沙納漢(Jack Shanahan)負(fù)責(zé)，他的最后一項(xiàng)主要任務(wù)是執(zhí)行Project Maven。這是個(gè)政治上非常精明的決定，它的第一個(gè)重大舉措是找出一種利用AI幫助軍隊(duì)在自然災(zāi)害中組織搜索和救援的方法。
美國國防部AI戰(zhàn)略的首席設(shè)計(jì)師之一布倫丹·邁考德(Brendan McCord)表示：“我們的目標(biāo)是拯救生命，我們軍隊(duì)的根本作用和使命是維持和平。這是為了阻止戰(zhàn)爭和保護(hù)我們的國家。這是為了提高全球穩(wěn)定，也是為了最終保護(hù)啟蒙運(yùn)動(dòng)產(chǎn)生的一系列價(jià)值觀。”
第二項(xiàng)舉措是要求由一個(gè)由技術(shù)專家組成的咨詢小組——國防創(chuàng)新委員會(huì)，對(duì)AI道德進(jìn)行新的審查。該委員會(huì)成員包括前谷歌首席執(zhí)行官埃里克·施密特(Eric Schmidt)和職業(yè)社交網(wǎng)站LinkedIn聯(lián)合創(chuàng)始人里德·霍夫曼(Reid Hoffman)。
這個(gè)委員會(huì)旨在為軍方使用AI制定指導(dǎo)原則，目前由約書亞·馬爾庫塞(Joshua Marcuse)管理。馬爾庫塞曾擔(dān)任美國國防部長創(chuàng)新問題顧問，現(xiàn)在他是該委員會(huì)的執(zhí)行董事。該顧問團(tuán)將與AI專家舉行公開會(huì)議，為期約9個(gè)月，同時(shí)美國國防部內(nèi)部的一個(gè)小組也在討論類似問題。然后，防創(chuàng)新委員會(huì)將向國防部長詹姆斯·馬蒂斯(James Mattis)提出關(guān)于AI是否應(yīng)該被植入武器計(jì)劃的建議。馬爾庫塞在采訪中說:“這必須是真正意義上的審查，愿意對(duì)我們將要做的和不愿做的事情施加些限制，明確界限所在。”
為了確保這場辯論的公正性，馬爾庫塞表示，國防創(chuàng)新委員會(huì)正在尋找對(duì)軍方在AI領(lǐng)域中所扮演角色持批評(píng)態(tài)度的人士。他說：“他們有各種各樣的擔(dān)憂，包括有效性、合法性等問題，以及國防部將如何應(yīng)用這些技術(shù)，因?yàn)樵谀承┣闆r下，我們有合法權(quán)力侵犯人們的隱私，我們有法律權(quán)威實(shí)施暴力，我們有合法權(quán)力發(fā)動(dòng)戰(zhàn)爭。”
美國國防部的官員們表示，解決這些擔(dān)憂至關(guān)重要，因?yàn)槊绹诠芾鞟I人才方面與其他國家存在差異。馬爾庫塞說:“這些人必須選擇與我們合作，所以我們需要向他們提供有意義的、可核實(shí)的承諾，那就是他們有真正的機(jī)會(huì)與我們共同工作，讓他們能夠相信自己是好人，AI技術(shù)被用于好的方面。”
盡管馬爾庫塞愿意討論未來對(duì)AI采用的潛在限制，但他認(rèn)為國防創(chuàng)新委員會(huì)不會(huì)試圖改變美國國防部依賴AI自動(dòng)武器的政策。奧巴馬政府于2012年制定了這一政策。特朗普政府在2017年5月對(duì)其進(jìn)行了小幅度技術(shù)修改，但并未阻止軍方在任何武器系統(tǒng)中使用AI。
美國國防部多位官員表示，該機(jī)構(gòu)的政策要求指揮官對(duì)任何植入AI的武器系統(tǒng)擁有“適當(dāng)程度的人類判斷控制”，不過這一說法尚未得到進(jìn)一步解釋。然而，這項(xiàng)政策確實(shí)要求，在計(jì)算機(jī)被編程啟動(dòng)致命行動(dòng)之前，包含它的武器系統(tǒng)必須經(jīng)過美國國防部三位高級(jí)官員的特別審查。到目前為止，還沒有進(jìn)行過這類特別審查。
據(jù)一位熟悉細(xì)節(jié)的前國防部官員透露，2016年底，即奧巴馬政府任期即將結(jié)束之際，美國國防部重新審視了2012年的政策，并在一份機(jī)密報(bào)告中決定，不需要進(jìn)行重大改革。這位前官員說：“沒有任何東西被阻止，沒有人想要更新指令。”
盡管如此，特朗普政府在內(nèi)部討論過，讓軍方的武器工程師更清楚地知道，該政策并不禁止在武器系統(tǒng)中加入自主權(quán)。特朗普政府擔(dān)心軍方的武器工程師不愿將AI應(yīng)用到他們的設(shè)計(jì)中。硅谷對(duì)Project Maven的爭論至少暫時(shí)阻止了這種討論，促使美國國防部領(lǐng)導(dǎo)人首先努力贏得國防創(chuàng)新委員會(huì)的支持。
但無論如何，美國國防部打算將更多的AI集成到其武器中。馬爾庫塞說:“我們不會(huì)對(duì)一項(xiàng)可能徹底改變戰(zhàn)爭模式的新技術(shù)視而不見，這對(duì)美國民眾、對(duì)我們派往戰(zhàn)場的軍人以及依賴我們的盟友來說都不公平。”(小小)
