人工智能(AI)是一個(gè)迅速發(fā)展的技術(shù)領(lǐng)域，對(duì)國(guó)家安全具有潛在的重要意義。因此，美國(guó)國(guó)防部正在針對(duì)一系列軍事功能開發(fā)AI應(yīng)用。

目前，AI研究領(lǐng)域包括情報(bào)收集和分析、后勤保障、網(wǎng)絡(luò)空間作戰(zhàn)、指揮和控制以及各種軍用自主駕駛平臺(tái)等。AI技術(shù)對(duì)軍事采辦提出了獨(dú)特的挑戰(zhàn)，尤其是因?yàn)槠浒l(fā)展大多集中在商業(yè)領(lǐng)域，國(guó)防采辦流程(DAP)也需要進(jìn)行調(diào)整以適應(yīng)AI系統(tǒng)的采辦。另外，許多商用AI為軍方所用之前必須經(jīng)過(guò)重大修改。另外，AI市場(chǎng)上的國(guó)際競(jìng)爭(zhēng)對(duì)手，也對(duì)美國(guó)形成壓力。

目前的國(guó)際形勢(shì)中，中國(guó)正在使用AI來(lái)做出更快更明智的決策，并開發(fā)多種類型的自主軍用平臺(tái)。同時(shí)，俄羅斯也積開發(fā)軍用AI，尤其是開發(fā)注機(jī)器人技術(shù)。

從技術(shù)層面來(lái)說(shuō)，一方面，AI技術(shù)可以促進(jìn)自主操作，使軍事決策更加明智，也可能會(huì)增加軍事行動(dòng)的速度和規(guī)模。但是，另一方面，它也是不可預(yù)測(cè)的，尤其容易受到獨(dú)特形式的操縱，并且對(duì)人機(jī)交互提出了非常高的要求。大量專家一致認(rèn)為，即使AI產(chǎn)生不了革命性影響，但至少也會(huì)促進(jìn)整個(gè)軍事社會(huì)的進(jìn)化，同時(shí)也帶來(lái)了一些潛在的問(wèn)題。

-1-

人工智能在國(guó)防領(lǐng)域的應(yīng)用

人工智能在國(guó)防領(lǐng)域的應(yīng)用主要用于7個(gè)方面：情報(bào)、監(jiān)視和偵察，后勤，網(wǎng)絡(luò)空間行動(dòng)，信息操縱和深度偽造，指揮和控制，半自動(dòng)和自動(dòng)駕駛車輛，致命自主武器系統(tǒng)。

（1）情報(bào)、監(jiān)視和偵察。由于有大量可用數(shù)據(jù)集，因此人工智能在情報(bào)領(lǐng)域有很大的用處。情報(bào)界以及有大量相關(guān)的正在進(jìn)行中的人工智能項(xiàng)目了。就CIA（中央情報(bào)局）就有140個(gè)使用AI來(lái)完成圖像識(shí)別和預(yù)測(cè)分析任務(wù)的項(xiàng)目。

（2）后勤。人工智能在軍事后勤領(lǐng)域也有很大的應(yīng)用潛力。空軍已經(jīng)開始使用人工智能來(lái)進(jìn)行飛機(jī)維護(hù)預(yù)測(cè)。

（3）網(wǎng)絡(luò)空間行動(dòng)。人工智能也有望成為促進(jìn)軍事網(wǎng)絡(luò)空間行動(dòng)的關(guān)鍵技術(shù)。參議院軍事委員會(huì)、美國(guó)網(wǎng)絡(luò)司令部司令上將Michael Rogers早在2016年就認(rèn)為，在網(wǎng)絡(luò)空間領(lǐng)域只以來(lái)人類情報(bào)是一個(gè)失敗的戰(zhàn)略。隨后他澄清說(shuō)，應(yīng)當(dāng)應(yīng)用一定程度的人工智能或機(jī)器學(xué)習(xí)技術(shù)。DARPA 2016網(wǎng)絡(luò)挑戰(zhàn)賽也證明了AI賦能的網(wǎng)絡(luò)工具的潛在能力，比賽參與者開發(fā)了能夠自動(dòng)檢測(cè)、評(píng)估和分發(fā)補(bǔ)丁的AI算法。這些能力都可以在未來(lái)的網(wǎng)絡(luò)活動(dòng)中提供不同的優(yōu)勢(shì)。

（4）信息操縱和深度偽造。人工智能技術(shù)可以用來(lái)制造逼真的偽造圖片、音頻和視頻，這也就是今年大火的“deepfakes”（深度偽造）技術(shù)。惡意攻擊者可以用深度偽造技術(shù)來(lái)發(fā)起信息操縱活動(dòng)，攻擊每個(gè)，如生成虛假新聞報(bào)道、影響公共信息、侵蝕公共信任、損害名人名聲。為了應(yīng)對(duì)深度偽造技術(shù)，DARPA發(fā)起了媒體取證項(xiàng)目，以尋求自動(dòng)檢測(cè)修改、提供關(guān)于視覺(jué)媒體真實(shí)性信息的理由。

（5）指揮和控制。美國(guó)軍方正在利用AI在分析方面的能力應(yīng)用于指揮和控制。空軍就開發(fā)了一個(gè)用于多域指揮和控制的系統(tǒng)，未來(lái)人工智能還可能用于融合來(lái)自不同域的傳感器的數(shù)據(jù)來(lái)創(chuàng)建一個(gè)信息的單獨(dú)源。

（6）半自動(dòng)和自動(dòng)駕駛車輛。所有的美國(guó)軍事服務(wù)都在努力將人工智能融入到半自動(dòng)和自動(dòng)駕駛車輛中，包括戰(zhàn)斗機(jī)、無(wú)人機(jī)、地面車輛和海軍艦艇等。人工智能在這些領(lǐng)域的應(yīng)用與商業(yè)半自動(dòng)駕駛車輛類似，即使用人工智能技術(shù)來(lái)感知環(huán)境、識(shí)別物體、融合傳感器數(shù)據(jù)、規(guī)劃路徑、以及與其他車輛之間進(jìn)行通信。

（7）致命自主武器系統(tǒng)（LAWS）。LAWS是一種特殊的武器系統(tǒng)，使用傳感器和計(jì)算機(jī)算法來(lái)獨(dú)立地識(shí)別目標(biāo)和指揮武器系統(tǒng)在沒(méi)有人為干預(yù)的情況下打擊目標(biāo)。雖然這樣的系統(tǒng)目前還不存在，但軍事專家相信在未來(lái)通信降級(jí)或拒絕的特殊環(huán)境下，傳統(tǒng)武器系統(tǒng)無(wú)法工作的情況下LAWS會(huì)啟到很重要的作用。

-2-

軍事AI融合的挑戰(zhàn)

從冷戰(zhàn)開始，主要的國(guó)防相關(guān)技術(shù)在商用之前都是由政府主導(dǎo)的項(xiàng)目首先開發(fā)的，包括原子核技術(shù)、GPS和互聯(lián)網(wǎng)技術(shù)。DARPA的戰(zhàn)略計(jì)算計(jì)劃(Strategic Computing Initiative)從1983到1993年10年間共投入10億美元來(lái)開發(fā)人工智能在軍事應(yīng)用領(lǐng)域的探索，但進(jìn)展緩慢。目前，商業(yè)公司正在引領(lǐng)人工智能的發(fā)展，隨后國(guó)防部才采納這些工具并應(yīng)用于軍事領(lǐng)域。對(duì)如此具有戰(zhàn)略重要性的技術(shù)來(lái)說(shuō)，只有一小部分商業(yè)公司在開發(fā)是非常不同尋常的。除了投資領(lǐng)域的快速變化外，人工智能技術(shù)在軍事領(lǐng)域的應(yīng)用存在來(lái)自技術(shù)、過(guò)程、人員和文化方面的挑戰(zhàn)。

2.1 國(guó)際競(jìng)爭(zhēng)

隨著人工智能軍事應(yīng)用的規(guī)模和復(fù)雜程度不斷變大，國(guó)會(huì)和國(guó)防部許多官員都非常關(guān)注該領(lǐng)域的國(guó)際競(jìng)爭(zhēng)。參議員Ted Cruz在the dawn of AI聽證會(huì)的評(píng)論中表示，對(duì)美國(guó)來(lái)說(shuō)，放棄發(fā)展人工智能的領(lǐng)導(dǎo)地位（相當(dāng)于中國(guó)、俄羅斯等國(guó)家）不僅會(huì)使美國(guó)處于技術(shù)劣勢(shì)，還可能對(duì)國(guó)家安全產(chǎn)生嚴(yán)重影響。

2.2 人工智能的機(jī)遇和挑戰(zhàn)

（1）自治。許多自主系統(tǒng)都多少使用了人工智能技術(shù)。相關(guān)專家認(rèn)為軍事系統(tǒng)在一些特殊任務(wù)中替換人類會(huì)獲有很大的優(yōu)勢(shì)，如：長(zhǎng)時(shí)間的情報(bào)收集和分析，清除化學(xué)武器對(duì)環(huán)境污染帶來(lái)的破壞等。在這些任務(wù)中，自主系統(tǒng)可以減少相關(guān)風(fēng)險(xiǎn)，降低成本，為國(guó)防部使命提供一系列的價(jià)值，如下圖所示。

（2）速度和耐力。人工智能引入了在極限時(shí)間范圍內(nèi)作戰(zhàn)的方法，提供給系統(tǒng)在GHZ速度反應(yīng)的能力，具有動(dòng)態(tài)加速對(duì)抗速度的潛力。現(xiàn)在一般公認(rèn)的是，時(shí)間在戰(zhàn)爭(zhēng)中具有非常重要的優(yōu)勢(shì)，并且反過(guò)來(lái)會(huì)促進(jìn)軍事人工智能應(yīng)用的廣泛應(yīng)用。

（3）規(guī)模化。人工智能可以通過(guò)增強(qiáng)人類能力和使用更加廉價(jià)但性能更佳的軍事系統(tǒng)來(lái)形成群聚效應(yīng)。并且，人工智能系統(tǒng)可以增加單個(gè)服務(wù)單元的效率。有分析師稱，人工智能系統(tǒng)的使用可能使得軍事力量與人力規(guī)模和經(jīng)濟(jì)實(shí)力無(wú)關(guān)。

（4）信息優(yōu)勢(shì)。人工智能為數(shù)據(jù)量指數(shù)級(jí)增長(zhǎng)提供了一種有效的分析方法。據(jù)國(guó)防部數(shù)據(jù)，軍隊(duì)共擁有11000架無(wú)人機(jī)，每個(gè)無(wú)人機(jī)每天都記錄了相當(dāng)于三個(gè)NFL賽季的高清錄像。但國(guó)防部沒(méi)有足夠的人員或系統(tǒng)來(lái)處理這些數(shù)據(jù)以提取出有價(jià)值的情報(bào)。未來(lái)人工智能算法會(huì)生成自己的數(shù)據(jù)來(lái)進(jìn)一步分析，以完成類似提取非結(jié)構(gòu)化數(shù)據(jù)、金融數(shù)據(jù)、選舉結(jié)果到報(bào)告中的任務(wù)。

（5）預(yù)測(cè)性。人工智能算法可以產(chǎn)生一些出乎意外的結(jié)果。并確實(shí)有很多失敗的案例，前DARPA主任Arati Prabhakar表示，我們發(fā)現(xiàn)人工智能是一項(xiàng)非常有能力的技術(shù)，但同時(shí)也是非常有限的，而且出錯(cuò)的一些方式可能人類從來(lái)不會(huì)發(fā)生。如果人工智能系統(tǒng)發(fā)規(guī)模部署，那么系統(tǒng)失敗可能會(huì)引發(fā)明顯的風(fēng)險(xiǎn)。分析師稱人工智能系統(tǒng)識(shí)別的方式可能是相同的，可能會(huì)引發(fā)大規(guī)模的破壞效應(yīng)。

（6）可解釋性。目前，性能最好的人工智能算法都無(wú)法解釋其工作過(guò)程。DARPA和其他組織都在努力來(lái)對(duì)人工智能算法有更好的理解。可解釋性對(duì)軍事應(yīng)用來(lái)說(shuō)具有特殊的意義，因?yàn)槿斯ぶ悄芟到y(tǒng)推理的透明度會(huì)影響操作人員對(duì)系統(tǒng)和系統(tǒng)結(jié)果的信任度。可解釋性還會(huì)對(duì)軍事AI系統(tǒng)可驗(yàn)證和確認(rèn)的性能帶來(lái)影響。由于缺乏可解釋的輸出，AI系統(tǒng)在軍事測(cè)試時(shí)無(wú)法通過(guò)審計(jì)來(lái)確認(rèn)系統(tǒng)滿足了性能的標(biāo)準(zhǔn)。

（7）漏洞利用。人工智能系統(tǒng)可能會(huì)增加系統(tǒng)被利用的可能性。首先，AI系統(tǒng)的普及增加了可被黑的系統(tǒng)的數(shù)量。其次，AI系統(tǒng)存在被竊取的漏洞，而且?guī)缀醵际腔谲浖姆绞健Ｗ詈螅瑢?duì)手還可以精心引入圖像分類器和其他類型的錯(cuò)誤引發(fā)的漏洞。這些漏洞引發(fā)了我們對(duì)魯棒性數(shù)據(jù)安全、網(wǎng)絡(luò)安全、測(cè)試和評(píng)估過(guò)程的需求。

-3-

人工智能對(duì)戰(zhàn)場(chǎng)的影響

盡管人工智能還沒(méi)有以一種正式的形式進(jìn)入戰(zhàn)場(chǎng)，但專家們預(yù)測(cè)了人工智能會(huì)對(duì)未來(lái)戰(zhàn)爭(zhēng)帶來(lái)潛在影響。這種影響將是多方面的，包括商業(yè)投資率、國(guó)際競(jìng)爭(zhēng)力、促進(jìn)人工智能的能力、對(duì)AI應(yīng)用的軍事態(tài)度、AI特定戰(zhàn)爭(zhēng)概念的開發(fā)。

許多專家斷言人工智能軍事應(yīng)用是一種“必然”，認(rèn)為它必然會(huì)帶來(lái)重大影響。然而，2016年1月，時(shí)任聯(lián)席會(huì)議副主席保羅·塞爾瓦將軍指出國(guó)防部仍在評(píng)估人工智能的潛力。企業(yè)開發(fā)的人工智能技術(shù)提供了軍事作戰(zhàn)的乘數(shù)效應(yīng)嗎？如果是，那么可能需要改變我們的戰(zhàn)斗方式。如果不是，那么軍隊(duì)需要提高現(xiàn)有的能力以在對(duì)手面前取得一定的優(yōu)勢(shì)。目前國(guó)會(huì)也在考慮影響軍事AI應(yīng)用的一些場(chǎng)景并對(duì)其進(jìn)行分析和監(jiān)管。