【摘要】人工智能武器化是新一輪軍事變革的必然趨勢(shì)，近年來(lái)的局部戰(zhàn)爭(zhēng)沖突進(jìn)一步刺激相關(guān)國(guó)家推進(jìn)人工智能武器化戰(zhàn)略部署，搶占未來(lái)戰(zhàn)爭(zhēng)制高點(diǎn)。人工智能武器化的潛在風(fēng)險(xiǎn)不容忽視，將可能加劇軍備競(jìng)賽，打破戰(zhàn)略平衡；賦能作戰(zhàn)流程，加大沖突風(fēng)險(xiǎn)；提升問(wèn)責(zé)難度，增加附帶傷亡；降低擴(kuò)散門檻，導(dǎo)致誤用濫用。對(duì)此，應(yīng)加強(qiáng)國(guó)際間戰(zhàn)略溝通，確保各國(guó)在人工智能軍事應(yīng)用上的共識(shí)與協(xié)作；推進(jìn)法律法規(guī)建設(shè)的對(duì)話與協(xié)調(diào)，以形成統(tǒng)一規(guī)范的法律框架；加強(qiáng)人工智能倫理約束，確保技術(shù)發(fā)展符合道德標(biāo)準(zhǔn)；積極參與全球安全治理合作，共同維護(hù)國(guó)際社會(huì)的和平與穩(wěn)定。
【關(guān)鍵詞】人工智能 軍事應(yīng)用 安全風(fēng)險(xiǎn) 安全治理 【中圖分類號(hào)】F113 【文獻(xiàn)標(biāo)識(shí)碼】A
人工智能武器化，是將人工智能相關(guān)技術(shù)、平臺(tái)與服務(wù)應(yīng)用到軍事領(lǐng)域，使其成為賦能軍事行動(dòng)的重要驅(qū)動(dòng)力量，進(jìn)而提升軍事行動(dòng)的效率、精準(zhǔn)度和自主性。隨著人工智能技術(shù)在軍事領(lǐng)域的廣泛應(yīng)用，各主要大國(guó)和軍事強(qiáng)國(guó)紛紛加大戰(zhàn)略與資源投入，加快研發(fā)應(yīng)用步伐。近年來(lái)頻發(fā)的地區(qū)戰(zhàn)爭(zhēng)沖突也進(jìn)一步刺激了人工智能的戰(zhàn)場(chǎng)運(yùn)用，并深刻形塑戰(zhàn)爭(zhēng)形態(tài)以及軍事變革的未來(lái)走向。
不容忽視的是，人工智能作為一類快速發(fā)展中的技術(shù)，其本身由于內(nèi)在技術(shù)的不成熟、場(chǎng)景匹配的不準(zhǔn)確、支持條件的不完備，可能存在潛在風(fēng)險(xiǎn)，而由于人為的誤用、濫用甚至惡意使用，也容易給軍事領(lǐng)域乃至國(guó)際安全領(lǐng)域帶來(lái)多種風(fēng)險(xiǎn)挑戰(zhàn)。認(rèn)真貫徹落實(shí)習(xí)近平總書記提出的全球安全倡議，必須直面世界范圍內(nèi)人工智能武器化的發(fā)展趨勢(shì)，深入分析人工智能武器化應(yīng)用可能帶來(lái)的安全風(fēng)險(xiǎn)，并思考科學(xué)可行的治理思路與舉措。
當(dāng)前人工智能武器化的發(fā)展趨勢(shì)
近年來(lái)，人工智能在軍事領(lǐng)域的應(yīng)用，正在從根本上重塑未來(lái)戰(zhàn)爭(zhēng)形態(tài)、改變未來(lái)作戰(zhàn)體系，影響軍事變革的未來(lái)走向。主要軍事大國(guó)已將人工智能視為改變未來(lái)戰(zhàn)爭(zhēng)規(guī)則的顛覆性關(guān)鍵技術(shù)，紛紛挹注大量資源，推進(jìn)人工智能武器的研發(fā)與應(yīng)用。
? 人工智能武器化是軍事變革的必然趨勢(shì)。
隨著科學(xué)技術(shù)的飛速發(fā)展，軍事變革的必要性與緊迫性愈發(fā)凸顯。人工智能通過(guò)模擬人類的思維過(guò)程，延展人類的腦力與體力，可實(shí)現(xiàn)信息快速處理、分析和決策，可研發(fā)日益復(fù)雜的無(wú)人化武器系統(tǒng)平臺(tái)，從而為軍事行動(dòng)提供前所未有的智能化支持。
一是為軍事情報(bào)偵察與分析提供智能支持。傳統(tǒng)的情報(bào)偵察方式受到人力和時(shí)間等多重因素制約，難以有效應(yīng)對(duì)大規(guī)模、高速度和高復(fù)雜度的情報(bào)處理需求。人工智能技術(shù)的引入，為情報(bào)偵察領(lǐng)域帶來(lái)革新和突破。在軍事基礎(chǔ)設(shè)施中，應(yīng)用人工智能技術(shù)，可構(gòu)建智能監(jiān)測(cè)系統(tǒng)，提供高精度實(shí)時(shí)的情報(bào)感知服務(wù)。在情報(bào)偵察領(lǐng)域，人工智能技術(shù)具備對(duì)多個(gè)“信息流”進(jìn)行實(shí)時(shí)處理的能力，從而極大地提高分析效率。①通過(guò)使用深度學(xué)習(xí)等技術(shù)工具，還可以“透過(guò)現(xiàn)象看本質(zhì)”，挖掘出各類碎片化情報(bào)信息中的深層脈絡(luò)與因果聯(lián)系，將海量碎片化數(shù)據(jù)快速轉(zhuǎn)變?yōu)榭梢岳玫那閳?bào)，從而提升情報(bào)分析的質(zhì)效。
二是為作戰(zhàn)指揮與決策提供數(shù)據(jù)支持。人工智能在戰(zhàn)場(chǎng)態(tài)勢(shì)感知方面為作戰(zhàn)指揮和軍事決策提供有力支持。②其優(yōu)勢(shì)在于能夠進(jìn)行數(shù)據(jù)挖掘、數(shù)據(jù)融合以及預(yù)測(cè)分析等關(guān)鍵任務(wù)。在信息化智能化戰(zhàn)爭(zhēng)中，戰(zhàn)場(chǎng)環(huán)境瞬息萬(wàn)變，情報(bào)信息量龐大，要求決策響應(yīng)迅速且準(zhǔn)確。因此，先進(jìn)的計(jì)算機(jī)系統(tǒng)就成為協(xié)助指揮人員管理情報(bào)數(shù)據(jù)、進(jìn)行敵情判斷、提出作戰(zhàn)方案建議以及擬制計(jì)劃與命令的重要工具。以美軍為例，美國(guó)雷神技術(shù)公司（Raytheon Technologies Corporation）研制的ISTAR（情報(bào)、監(jiān)視、目標(biāo)識(shí)別和跟蹤）系統(tǒng)，涵蓋了情報(bào)采集、監(jiān)視、目標(biāo)識(shí)別及跟蹤功能，可匯聚來(lái)自衛(wèi)星、艦船、飛機(jī)及地面站等多元信息源的數(shù)據(jù)，并對(duì)其進(jìn)行深度分析與處理。這不僅顯著提高了指揮官獲取信息的速度，而且可借助智能分析系統(tǒng)提供數(shù)據(jù)支持，使決策更加快速、高效和精準(zhǔn)。
三是為無(wú)人作戰(zhàn)系統(tǒng)提供重要支撐。無(wú)人作戰(zhàn)系統(tǒng)是一種無(wú)需人類直接操縱，便可獨(dú)立完成軍事任務(wù)的新型武器裝備系統(tǒng)，主要包括智能化無(wú)人作戰(zhàn)平臺(tái)、智能化彈藥和智能化作戰(zhàn)指揮控制系統(tǒng)等組成部分，具備顯著的自主性和智能化特征。無(wú)人作戰(zhàn)系統(tǒng)，作為引領(lǐng)未來(lái)戰(zhàn)爭(zhēng)形態(tài)變革的技術(shù)裝備，已成為國(guó)家間軍事競(jìng)爭(zhēng)的重要籌碼。該系統(tǒng)通過(guò)運(yùn)用自主導(dǎo)航、目標(biāo)識(shí)別、路徑規(guī)劃等關(guān)鍵技術(shù)，實(shí)現(xiàn)了不同戰(zhàn)場(chǎng)環(huán)境及作戰(zhàn)空間的適應(yīng)能力。借助深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等先進(jìn)算法，無(wú)人作戰(zhàn)系統(tǒng)能夠獨(dú)立完成導(dǎo)航任務(wù)，并實(shí)現(xiàn)精準(zhǔn)打擊目標(biāo)。這種系統(tǒng)的設(shè)計(jì)理念是“平臺(tái)無(wú)人，系統(tǒng)有人”，其本質(zhì)是對(duì)有人作戰(zhàn)系統(tǒng)的智能化延伸。例如，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）研發(fā)的“MQM-57獵鷹者”無(wú)人機(jī)，就采用了先進(jìn)的人工智能技術(shù)，具備高度自主的目標(biāo)識(shí)別和追蹤功能。
四是為軍事后勤與裝備保障提供技術(shù)支持。在信息化戰(zhàn)爭(zhēng)的背景下，戰(zhàn)爭(zhēng)進(jìn)程加快、機(jī)動(dòng)性提升、作戰(zhàn)消耗顯著增加。傳統(tǒng)的“超量預(yù)儲(chǔ)”保障模式已無(wú)法適應(yīng)現(xiàn)代戰(zhàn)場(chǎng)快速變化的需求，因此，對(duì)作戰(zhàn)部隊(duì)進(jìn)行適時(shí)、適地、適需、適量的快速精確后裝保障提出了更高的要求。人工智能作為一種具有溢出帶動(dòng)和交叉融合特性的技術(shù)，與物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等前沿技術(shù)相互融合，使得人工智能知識(shí)群、技術(shù)群和產(chǎn)業(yè)群全面滲透到軍事后裝領(lǐng)域，顯著提升了后勤裝備保障能力。
? 主要國(guó)家紛紛布局人工智能軍事應(yīng)用。
為增強(qiáng)在人工智能領(lǐng)域的全球競(jìng)爭(zhēng)力，美國(guó)、俄羅斯、日本等主要大國(guó)加緊對(duì)人工智能軍事應(yīng)用的戰(zhàn)略布局。首先，通過(guò)更新和調(diào)整人工智能領(lǐng)域的頂層戰(zhàn)略規(guī)劃，為未來(lái)的發(fā)展提供明確指導(dǎo)；其次，針對(duì)未來(lái)戰(zhàn)爭(zhēng)需求，加快人工智能技術(shù)與軍事領(lǐng)域的深度融合，推動(dòng)裝備系統(tǒng)的智能化、自主化和無(wú)人化發(fā)展；此外，積極創(chuàng)新作戰(zhàn)概念，以驅(qū)動(dòng)作戰(zhàn)力量創(chuàng)新，進(jìn)而提升作戰(zhàn)效能和競(jìng)爭(zhēng)優(yōu)勢(shì)。
一是制定戰(zhàn)略規(guī)劃?；诩夹g(shù)霸權(quán)追求軍事霸權(quán)、政治霸權(quán)、經(jīng)濟(jì)霸權(quán)的戰(zhàn)略偏執(zhí)，美國(guó)正加快自身軍事智能化進(jìn)程。2023年11月，美國(guó)國(guó)防部發(fā)布《數(shù)據(jù)、分析與人工智能采用戰(zhàn)略》，旨在擴(kuò)展整個(gè)國(guó)防部體系的先進(jìn)能力，以獲得持久的軍事決策優(yōu)勢(shì)。俄軍頒布被稱為“3.0版本”的《2024年至2033年俄羅斯武器裝備發(fā)展綱要》，旨在為未來(lái)10年武器裝備發(fā)展提供指導(dǎo)，綱要強(qiáng)調(diào)繼續(xù)推進(jìn)核武器和常規(guī)武器建設(shè)，并重點(diǎn)研究人工智能和機(jī)器人技術(shù)、高超音速武器和其他基于新物理原理的打擊兵器。
二是研發(fā)先進(jìn)裝備系統(tǒng)。美軍自2005年開始每隔幾年都會(huì)發(fā)布一版“無(wú)人系統(tǒng)路線圖”，以展望并設(shè)計(jì)空中、地面、水面/水下等各領(lǐng)域無(wú)人系統(tǒng)平臺(tái)，貫通研發(fā)—生產(chǎn)—測(cè)試—訓(xùn)練—作戰(zhàn)—保障等無(wú)人化武器裝備發(fā)展鏈路。目前，世界上已有70多個(gè)國(guó)家可以研發(fā)無(wú)人化系統(tǒng)平臺(tái)，各種類型的無(wú)人機(jī)、無(wú)人車、無(wú)人船（艇）、無(wú)人潛航器如雨后春筍般不斷出現(xiàn)。2024年7月15日，美軍參聯(lián)會(huì)前主席馬克·米利接受《美國(guó)防務(wù)新聞》采訪時(shí)稱，到2039年，三分之一的美軍部隊(duì)將由機(jī)器人組成。俄軍研發(fā)的平臺(tái)-M作戰(zhàn)機(jī)器人、“柳葉刀”自殺式無(wú)人機(jī)和S70“獵人”重型無(wú)人機(jī)等，已投入實(shí)戰(zhàn)檢驗(yàn)。
三是創(chuàng)新未來(lái)作戰(zhàn)概念。作戰(zhàn)概念是對(duì)未來(lái)戰(zhàn)爭(zhēng)樣式與作戰(zhàn)方式進(jìn)行的前瞻性研究，往往可牽引新的作戰(zhàn)力量編組及武器裝備跨越發(fā)展。美軍近年來(lái)先后提出“分布式殺傷”“多域戰(zhàn)”“馬賽克戰(zhàn)”等作戰(zhàn)概念，試圖引領(lǐng)軍事變革的發(fā)展方向。以“馬賽克戰(zhàn)”為例，該作戰(zhàn)概念將各種傳感器、通信網(wǎng)絡(luò)、指揮控制系統(tǒng)、武器平臺(tái)等視為“馬賽克碎片”，這些“碎片”單元在人工智能技術(shù)賦能支持下，通過(guò)網(wǎng)絡(luò)信息系統(tǒng)可動(dòng)態(tài)鏈接、自主規(guī)劃、協(xié)同組合，從而形成一個(gè)按需集成、極具彈性、靈活機(jī)動(dòng)的殺傷網(wǎng)。2022年3月，美國(guó)國(guó)防部發(fā)布《聯(lián)合全域指揮控制（JADC2）戰(zhàn)略實(shí)施計(jì)劃》，該計(jì)劃旨在將多域作戰(zhàn)向全域作戰(zhàn)概念拓展，將各軍種傳感器連接到一個(gè)統(tǒng)一“物聯(lián)網(wǎng)”中，利用人工智能算法幫助改善作戰(zhàn)指揮決策。③
? 戰(zhàn)爭(zhēng)沖突刺激人工智能武器化進(jìn)程。
近年來(lái)，利比亞沖突、納卡沖突、烏克蘭危機(jī)、哈以沖突等局部沖突不斷，進(jìn)一步刺激了人工智能武器化的發(fā)展進(jìn)程。
在利比亞沖突中，交戰(zhàn)雙方采用多種型號(hào)無(wú)人機(jī)執(zhí)行偵察和作戰(zhàn)任務(wù)。據(jù)聯(lián)合國(guó)利比亞問(wèn)題專家小組發(fā)布的報(bào)告指出，土耳其制造的“卡古-2”（Kargu-2）無(wú)人機(jī)2020年在利比亞執(zhí)行了“追捕并遠(yuǎn)程交戰(zhàn)”行動(dòng)，可自主攻擊撤退中的敵方士兵。這一事件標(biāo)志著致命性自主武器系統(tǒng)在實(shí)戰(zhàn)中的首次運(yùn)用。如美國(guó)學(xué)者扎卡里·卡倫伯恩所述，若有人在此類自主攻擊中不幸喪生，這極有可能是歷史上首個(gè)已知的人工智能自主武器被用于殺戮的例子。在2020年納卡沖突中，阿塞拜疆運(yùn)用土耳其生產(chǎn)的“旗手”TB2無(wú)人機(jī)編隊(duì)和以色列生產(chǎn)的“哈洛普”無(wú)人機(jī)成功突破了亞美尼亞防空系統(tǒng)，掌握了戰(zhàn)場(chǎng)制空權(quán)和主動(dòng)權(quán)。④ 阿塞拜疆軍隊(duì)無(wú)人機(jī)作戰(zhàn)的顯著成效，在很大程度上源于亞美尼亞軍隊(duì)的“輕敵”心態(tài)，對(duì)無(wú)人機(jī)在現(xiàn)代戰(zhàn)爭(zhēng)中的重要性和威脅性認(rèn)識(shí)不足。其次，從進(jìn)攻策略的角度來(lái)看，阿塞拜疆軍隊(duì)在無(wú)人機(jī)戰(zhàn)法上進(jìn)行了大膽的創(chuàng)新。他們靈活運(yùn)用察打一體無(wú)人機(jī)和巡飛彈等先進(jìn)裝備，不僅提升了作戰(zhàn)效率，也大大增強(qiáng)了戰(zhàn)斗的突然性和致命性。⑤
在2022年爆發(fā)的烏克蘭危機(jī)中，俄羅斯和烏克蘭都廣泛使用軍用級(jí)和商用無(wú)人機(jī)執(zhí)行偵察監(jiān)視、火炮瞄準(zhǔn)和打擊任務(wù)。烏克蘭軍隊(duì)通過(guò)使用“旗手”TB2無(wú)人機(jī)以及美國(guó)援助的“彈簧刀”系列自殺式無(wú)人機(jī)，實(shí)施精確打擊和高效殺傷，成為令世界矚目的“戰(zhàn)場(chǎng)殺手”。在哈以沖突中，以色列軍方被指控使用名為“薰衣草”（Lavender）的人工智能系統(tǒng)來(lái)識(shí)別并鎖定加沙境內(nèi)的轟炸目標(biāo)，曾將多達(dá)3.7萬(wàn)名加沙巴勒斯坦人標(biāo)記為“武裝分子”嫌疑對(duì)象，并將其認(rèn)定為可直接“暗殺”的目標(biāo)，以軍行動(dòng)引發(fā)了國(guó)際社會(huì)廣泛關(guān)注和譴責(zé)。⑥
人工智能武器化帶來(lái)的安全風(fēng)險(xiǎn)
從自動(dòng)化指揮系統(tǒng)到智能無(wú)人作戰(zhàn)平臺(tái)，再到網(wǎng)絡(luò)防御中的智能決策系統(tǒng)，人工智能技術(shù)在軍事領(lǐng)域的應(yīng)用正變得愈發(fā)普遍，已成為現(xiàn)代戰(zhàn)爭(zhēng)不可或缺的一部分。然而，人工智能武器化的趨勢(shì)下，其誤用、濫用甚至惡意使用，也將給國(guó)際安全帶來(lái)不可忽視的風(fēng)險(xiǎn)挑戰(zhàn)。
? 加劇軍備競(jìng)賽，打破戰(zhàn)略平衡。
在信息化智能化時(shí)代，人工智能所具有的顛覆性潛力讓軍事大國(guó)都難以抗拒，紛紛聚焦人工智能軍事能力的開發(fā)和運(yùn)用，唯恐在這一領(lǐng)域落后而喪失戰(zhàn)略機(jī)遇。深化人工智能軍事應(yīng)用，則能夠以更低成本、更高效率的方式獲得“非對(duì)稱優(yōu)勢(shì)”。
一是各國(guó)紛紛搶抓“先行者優(yōu)勢(shì)”。當(dāng)一個(gè)國(guó)家在智能武器系統(tǒng)開發(fā)領(lǐng)域取得技術(shù)領(lǐng)先地位時(shí)，意味著該國(guó)具備更高級(jí)的人工智能和相關(guān)應(yīng)用能力，使其在武器系統(tǒng)開發(fā)、控制和應(yīng)急響應(yīng)等方面具有先發(fā)優(yōu)勢(shì)。這種優(yōu)勢(shì)包括更高的自主性、智能化程度和自適應(yīng)能力，從而增加了該國(guó)的軍事實(shí)力和戰(zhàn)略競(jìng)爭(zhēng)優(yōu)勢(shì)。與此同時(shí)，先行者的軍事優(yōu)勢(shì)可能會(huì)成為競(jìng)爭(zhēng)對(duì)手的安全威脅，導(dǎo)致各國(guó)在先進(jìn)技術(shù)的軍事應(yīng)用上呈現(xiàn)出你爭(zhēng)我趕的態(tài)勢(shì)。⑦ 2023年8月，美國(guó)國(guó)防部副部長(zhǎng)凱瑟琳·?？怂剐剂?ldquo;復(fù)制者計(jì)劃”（Replicator initiative），該倡議力求在不到兩年的時(shí)間內(nèi)在印太地區(qū)部署數(shù)千個(gè)“自主武器系統(tǒng)”。⑧
二是各國(guó)人工智能軍備建設(shè)的不透明性可能加劇軍備競(jìng)賽。這主要有兩個(gè)方面的原因：一是人工智能技術(shù)是一種可用于設(shè)計(jì)多種應(yīng)用的“使能技術(shù)”，這意味著人工智能軍事應(yīng)用具體情況核查難度較高，難以像核武器可以通過(guò)對(duì)鈾、離心機(jī)以及武器和運(yùn)載系統(tǒng)的監(jiān)測(cè)來(lái)判斷一個(gè)國(guó)家是否在進(jìn)行核武器的開發(fā)或部署。半自主、完全自主武器系統(tǒng)之間的差別主要是由于計(jì)算機(jī)軟件算法不同導(dǎo)致的，很難通過(guò)物理核查手段來(lái)對(duì)各國(guó)的條約執(zhí)行情況進(jìn)行核查。二是各國(guó)為了保持己方的戰(zhàn)略優(yōu)勢(shì)，往往對(duì)先進(jìn)技術(shù)的軍事應(yīng)用相關(guān)細(xì)節(jié)采取保密措施，從而使對(duì)手無(wú)法探知其戰(zhàn)略意圖。在當(dāng)前國(guó)際環(huán)境中，這種不透明性不僅僅加劇了軍備競(jìng)賽，更為未來(lái)沖突升級(jí)埋下了伏筆。
三是各國(guó)戰(zhàn)略意圖的不確定性也會(huì)加劇軍備競(jìng)賽。人工智能對(duì)于戰(zhàn)略穩(wěn)定、核威懾和戰(zhàn)爭(zhēng)升級(jí)的影響，很大程度上取決于他國(guó)對(duì)于其能力的感知，而非其實(shí)質(zhì)能力。正如美國(guó)學(xué)者托馬斯·謝林指出，國(guó)際關(guān)系常常具有風(fēng)險(xiǎn)競(jìng)爭(zhēng)的特征，更多的是對(duì)勇氣而不是武力的考驗(yàn)，主要對(duì)手之間的關(guān)系是由哪一方最終愿意投入更大的力量，或者使之看起來(lái)即將投入更大的力量來(lái)決定的。⑨ 一個(gè)行為體對(duì)于他者能力的感知，無(wú)論真假，都會(huì)在很大程度上影響軍備競(jìng)賽進(jìn)程。如果一個(gè)國(guó)家大力發(fā)展智能武器系統(tǒng)，競(jìng)爭(zhēng)對(duì)手在不確定對(duì)方意圖的情況下，會(huì)對(duì)競(jìng)爭(zhēng)對(duì)手的軍備能力及發(fā)展軍備的意圖產(chǎn)生猜忌，往往采取對(duì)等措施，即通過(guò)發(fā)展軍備來(lái)滿足自身安全需求。正是這種意圖的模糊性刺激了技術(shù)積累，加劇武器部署的不穩(wěn)定性，最終導(dǎo)致惡性循環(huán)。
? 賦能作戰(zhàn)流程，加大沖突風(fēng)險(xiǎn)。
在大數(shù)據(jù)和人工智能技術(shù)賦能下，傳統(tǒng)作戰(zhàn)流程將實(shí)現(xiàn)智能化再造，即由“態(tài)勢(shì)感知—指揮決策—攻防協(xié)同—綜合保障”向“全域態(tài)勢(shì)智能認(rèn)知—人機(jī)一體混合決策—有人/無(wú)人自主協(xié)同—主動(dòng)按需精準(zhǔn)保障”轉(zhuǎn)變。然而，作戰(zhàn)流程的智能化再造雖然提高了作戰(zhàn)的效率和精確性，但也提升了沖突和誤判的風(fēng)險(xiǎn)。
一是以“機(jī)器速度”爆發(fā)的戰(zhàn)爭(zhēng)將增加倉(cāng)促行動(dòng)的風(fēng)險(xiǎn)。人工智能武器系統(tǒng)在精確度和反應(yīng)速度上表現(xiàn)出強(qiáng)大的能力，使得未來(lái)戰(zhàn)爭(zhēng)將以“機(jī)器速度”爆發(fā)。⑩ 但戰(zhàn)爭(zhēng)速度過(guò)快也將升高沖突風(fēng)險(xiǎn)。在導(dǎo)彈防御、自主武器系統(tǒng)和網(wǎng)絡(luò)空間等重視自主性以及反應(yīng)速度的領(lǐng)域，更快的反應(yīng)速度將帶來(lái)巨大的戰(zhàn)略優(yōu)勢(shì)，同時(shí)也極大地壓縮了防御方對(duì)軍事行動(dòng)作出反應(yīng)的時(shí)間窗口，導(dǎo)致作戰(zhàn)指揮員和決策者置身于巨大的“時(shí)間壓力”之下，加劇了“倉(cāng)促行動(dòng)”的風(fēng)險(xiǎn)，并增加了危機(jī)意外升級(jí)的可能性。
二是依賴系統(tǒng)自主性可能增加壓力下的誤判幾率。美國(guó)國(guó)防部認(rèn)為，“高度自主化的人工智能系統(tǒng)，能夠根據(jù)任務(wù)參數(shù)的動(dòng)態(tài)變化，自主選擇并執(zhí)行相應(yīng)操作，高效實(shí)現(xiàn)人類預(yù)設(shè)的目標(biāo)。自主性的增加不僅大幅減少了對(duì)人力的依賴，提高了整體操作效率，更被國(guó)防規(guī)劃者視為保持戰(zhàn)術(shù)領(lǐng)先、確保戰(zhàn)場(chǎng)優(yōu)勢(shì)的關(guān)鍵要素。”? 然而，由于人類指揮官無(wú)法作出足夠快的反應(yīng)，可能逐漸將控制權(quán)下放給自主系統(tǒng)，增加誤判幾率。2003年3月，美國(guó)“愛(ài)國(guó)者”導(dǎo)彈系統(tǒng)曾錯(cuò)誤地將友軍的“龍卷風(fēng)”戰(zhàn)斗機(jī)標(biāo)記為反輻射導(dǎo)彈，指揮人員在只有幾秒鐘反應(yīng)時(shí)間的壓力狀態(tài)下，選擇發(fā)射導(dǎo)彈，造成了兩名飛行員的死亡。?
三是削弱了危機(jī)終止機(jī)制的有效性。冷戰(zhàn)時(shí)期，美蘇主導(dǎo)構(gòu)建了一系列限制性措施來(lái)遏制危機(jī)的升級(jí)，避免其演化為大規(guī)模的核戰(zhàn)爭(zhēng)。在這些措施中，人類扮演著至關(guān)重要的“監(jiān)督者”角色，在可能出現(xiàn)風(fēng)險(xiǎn)失控時(shí)，能夠在充足的時(shí)間內(nèi)啟動(dòng)終止措施，避免大規(guī)模人道主義災(zāi)難發(fā)生。但是，隨著人工智能系統(tǒng)運(yùn)算能力的提升及其與機(jī)器學(xué)習(xí)的深度融合，作戰(zhàn)響應(yīng)變得更為迅捷、精確和具有破壞性，人類對(duì)于危機(jī)的終止干預(yù)機(jī)制將可能被削弱。
? 戰(zhàn)爭(zhēng)問(wèn)責(zé)困難，增加附帶傷亡。
人工智能武器系統(tǒng)使得戰(zhàn)爭(zhēng)責(zé)任更難界定。在傳統(tǒng)作戰(zhàn)模式下，由人類控制武器系統(tǒng)，一旦造成失誤或危機(jī)，人類操作員或者操作系統(tǒng)的研發(fā)者將承擔(dān)相應(yīng)的責(zé)任。人工智能技術(shù)本身弱化了人類的能動(dòng)性和控制能力，致使技術(shù)性行為的責(zé)任歸屬變得模糊不清。
一是人工智能“黑箱”問(wèn)題。盡管人工智能在處理和分析數(shù)據(jù)方面有著顯著優(yōu)勢(shì)，但是其內(nèi)部運(yùn)行規(guī)律和因果邏輯卻常常難以被人類理解和解釋，這使得程序員難以對(duì)錯(cuò)誤算法進(jìn)行糾偏除誤，這一問(wèn)題常常被稱為算法模型的“黑箱”。一旦人工智能武器系統(tǒng)產(chǎn)生安全危害，“算法黑箱”可能成為相關(guān)責(zé)任方推卸責(zé)任的合理化借口，追責(zé)者只能面臨泛化的卸責(zé)與推諉，并將責(zé)任矛頭指向人工智能武器系統(tǒng)。在實(shí)踐中，如果無(wú)法理解并解釋人工智能的決策過(guò)程，可能會(huì)引發(fā)一系列的問(wèn)題，如決策失誤、信任危機(jī)、信息濫用等。
二是軍事行動(dòng)中人機(jī)責(zé)任劃分問(wèn)題。當(dāng)人工智能系統(tǒng)出現(xiàn)故障或者決策失誤時(shí)，是否應(yīng)將其視為一種獨(dú)立的實(shí)體來(lái)承擔(dān)責(zé)任？或者，是否應(yīng)該將其視為一種工具，由人類操作者承擔(dān)全部或部分責(zé)任？這種責(zé)任劃分的復(fù)雜性不僅在于技術(shù)層面，更在于倫理和法律層面。一方面，人工智能系統(tǒng)雖然能夠自主決策，但其決策過(guò)程仍然受到人類預(yù)設(shè)的程序和算法限制，因此其責(zé)任不能完全獨(dú)立于人類。另一方面，人工智能系統(tǒng)在某些情況下可能會(huì)超越人類的預(yù)設(shè)范圍，作出獨(dú)立的決策，此時(shí)其責(zé)任又該如何界定，也成為軍控領(lǐng)域的難題。
三是人與人工智能武器系統(tǒng)的決策權(quán)分配問(wèn)題。按照機(jī)器自主權(quán)限的不同，人工智能系統(tǒng)能夠以半自主、有監(jiān)督式自主以及完全自主三種決策與控制方式執(zhí)行任務(wù)。在半自主系統(tǒng)中，行動(dòng)的決策權(quán)由人類掌控；在有監(jiān)督式自主行動(dòng)中，人類實(shí)施監(jiān)督并在必要時(shí)干預(yù)；在完全自主行動(dòng)中，人類不參與行動(dòng)過(guò)程。隨著人工智能軍事應(yīng)用程度的逐漸加深，人在作戰(zhàn)系統(tǒng)中的角色正經(jīng)歷由傳統(tǒng)的“人在回路內(nèi)”模式逐步向“人在回路上”轉(zhuǎn)變，人類從系統(tǒng)內(nèi)部的直接操控者演化為系統(tǒng)外部的監(jiān)督者。然而，這一轉(zhuǎn)變也引發(fā)了新的問(wèn)題。如何確保人工智能武器系統(tǒng)在獨(dú)立運(yùn)作時(shí)仍能遵循人類倫理和價(jià)值觀，這是當(dāng)前人工智能武器研發(fā)領(lǐng)域面臨的重大挑戰(zhàn)。
? 降低擴(kuò)散門檻，導(dǎo)致誤用濫用。
傳統(tǒng)的戰(zhàn)略競(jìng)爭(zhēng)通常涉及大規(guī)模的武器系統(tǒng)研發(fā)和采購(gòu)，需要大量資金和技術(shù)支持。人工智能技術(shù)成熟擴(kuò)散后，具有易獲取且價(jià)格低廉等優(yōu)勢(shì)，即便是中小國(guó)家也可能具備開發(fā)先進(jìn)智能武器系統(tǒng)的能力。當(dāng)前，軍用人工智能領(lǐng)域的戰(zhàn)略競(jìng)爭(zhēng)主要集中在美俄等軍事大國(guó)之間。但長(zhǎng)遠(yuǎn)來(lái)看，人工智能技術(shù)的擴(kuò)散將擴(kuò)大戰(zhàn)略競(jìng)爭(zhēng)的范圍，對(duì)現(xiàn)有的戰(zhàn)略平衡構(gòu)成破壞性威脅。一旦掌握人工智能技術(shù)的較小規(guī)模國(guó)家擁有相對(duì)較強(qiáng)的競(jìng)爭(zhēng)力，這些國(guó)家在面臨大國(guó)威脅時(shí)發(fā)起對(duì)抗的意愿可能就會(huì)增強(qiáng)。
一是人工智能有助于發(fā)展一些輕便靈巧的作戰(zhàn)手段，從而鼓勵(lì)一些中小國(guó)家或者非國(guó)家行為體利用其開展小型的、機(jī)會(huì)主義的軍事冒險(xiǎn)，以更低廉的成本和更豐富的途徑來(lái)達(dá)到其戰(zhàn)略目地。二是人工智能的快速發(fā)展使得網(wǎng)絡(luò)戰(zhàn)、電子戰(zhàn)等新型戰(zhàn)爭(zhēng)形態(tài)日益凸顯。在競(jìng)爭(zhēng)激烈的戰(zhàn)場(chǎng)環(huán)境中，惡意的第三方行為體可以通過(guò)操縱信息來(lái)影響軍事規(guī)劃和戰(zhàn)略威懾，導(dǎo)致局勢(shì)升級(jí)。在2022年爆發(fā)的烏克蘭危機(jī)中，就有眾多網(wǎng)絡(luò)虛假信息傳播混淆視聽(tīng)。三是人工智能技術(shù)的廣泛應(yīng)用還降低了戰(zhàn)略透明度。傳統(tǒng)的軍事戰(zhàn)略往往依賴于大量的情報(bào)收集、分析和預(yù)測(cè)，而在人工智能技術(shù)的輔助下，作戰(zhàn)計(jì)劃和決策過(guò)程變得更加復(fù)雜和難以預(yù)測(cè)。這種不透明性可能導(dǎo)致誤解和誤判，從而增加了沖突升級(jí)的風(fēng)險(xiǎn)。
人工智能武器化安全風(fēng)險(xiǎn)的治理路徑
為確保人工智能安全發(fā)展，避免其武器化帶來(lái)的潛在危害，應(yīng)加強(qiáng)國(guó)際間的治理戰(zhàn)略溝通，尋求各國(guó)在人工智能軍事應(yīng)用方面的共識(shí)與協(xié)作；推進(jìn)法律法規(guī)對(duì)話協(xié)調(diào)，以形成統(tǒng)一規(guī)范的法律框架；加強(qiáng)人工智能倫理的約束，確保技術(shù)發(fā)展符合道德標(biāo)準(zhǔn)；積極參與全球安全治理合作，共同維護(hù)國(guó)際社會(huì)的和平與穩(wěn)定。
? 高度重視國(guó)際層面戰(zhàn)略溝通。
人工智能治理是一個(gè)全球性問(wèn)題，需要各國(guó)通力合作，共同解決。在國(guó)際舞臺(tái)上，各國(guó)利益交融與利益沖突并存，因此，通過(guò)有效的溝通渠道來(lái)處理全球性問(wèn)題成為維護(hù)世界和平與發(fā)展的關(guān)鍵。
一方面，要準(zhǔn)確把握人工智能國(guó)際治理挑戰(zhàn)。既要把握各國(guó)對(duì)人工智能武器化發(fā)展的共識(shí)，也要密切關(guān)注各國(guó)在人工智能武器化應(yīng)用安全治理方面的政策差異，通過(guò)協(xié)商合作，使相關(guān)倡議與聯(lián)合國(guó)議程相協(xié)調(diào)，從而有效防止人工智能在軍事上的濫用，推動(dòng)人工智能用于和平目的。
另一方面，推動(dòng)各國(guó)政府通過(guò)官方或半官方對(duì)話，達(dá)成相關(guān)協(xié)議，建立戰(zhàn)略互信。相較于政府層面的“1軌對(duì)話”，“1.5軌對(duì)話”指的是政府官員與民間人士共同參與的對(duì)話，而“2軌對(duì)話”則是由學(xué)者、退休官員等進(jìn)行的民間非官方形式的對(duì)話。這兩種對(duì)話形式具有更高的靈活性，是政府間官方對(duì)話的重要補(bǔ)充和輔助手段。通過(guò)多樣化的對(duì)話交流方式，官方和民間人士可以廣泛磋商軍備控制的可能實(shí)現(xiàn)路徑，分享經(jīng)驗(yàn)和專業(yè)知識(shí)，以避免軍備競(jìng)賽的升級(jí)和緊張局勢(shì)的惡化。這些對(duì)話機(jī)制將為各國(guó)提供持續(xù)的溝通與合作平臺(tái)，有助于增進(jìn)相互理解、加強(qiáng)戰(zhàn)略互信，共同應(yīng)對(duì)人工智能軍事化應(yīng)用帶來(lái)的挑戰(zhàn)。
? 科學(xué)制定人工智能法律和倫理規(guī)約。
人工智能技術(shù)本身并無(wú)對(duì)錯(cuò)善惡之分，但對(duì)于人工智能的設(shè)計(jì)、研發(fā)、制造、使用、運(yùn)行以及維護(hù)確有善惡意圖之別。人工智能武器化引發(fā)了廣泛的倫理關(guān)注。國(guó)際法框架下，自主武器系統(tǒng)是否能夠在復(fù)雜戰(zhàn)場(chǎng)上精準(zhǔn)區(qū)分戰(zhàn)斗人員與平民？此外，若人工智能武器系統(tǒng)導(dǎo)致非預(yù)期的傷害，其責(zé)任歸屬如何界定？將關(guān)乎生死的決策權(quán)交付于機(jī)器，這一做法是否符合道德倫理標(biāo)準(zhǔn)？這些擔(dān)憂凸顯了加強(qiáng)人工智能倫理約束的必要性。
一方面，要堅(jiān)持倫理先行，從技術(shù)源頭上融入“智能向善”的理念。在人工智能軍事系統(tǒng)的設(shè)計(jì)過(guò)程中，將以人為本、智能向善等價(jià)值觀內(nèi)嵌于系統(tǒng)中。其目的是從源頭上杜絕人工智能可能引發(fā)的濫殺濫傷行為，控制其過(guò)度殺傷力，防范意外毀傷的發(fā)生，從而將人工智能武器系統(tǒng)所帶來(lái)的毀傷程度限制在盡可能小的范圍內(nèi)。目前，國(guó)內(nèi)外已有近百家機(jī)構(gòu)或政府部門發(fā)布各類人工智能倫理原則文件，學(xué)術(shù)界和產(chǎn)業(yè)界亦就人工智能基本倫理原則達(dá)成共識(shí)。2022年，中國(guó)向聯(lián)合國(guó)遞交的《關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》為全球人工智能倫理監(jiān)管的發(fā)展提供了重要參考。文件明確強(qiáng)調(diào)，應(yīng)通過(guò)制度建設(shè)、風(fēng)險(xiǎn)管控、協(xié)同共治等多方面的措施來(lái)推進(jìn)人工智能倫理監(jiān)管。
另一方面，要完善相關(guān)法律法規(guī)，明確人工智能主體的權(quán)責(zé)邊界。制定嚴(yán)格的技術(shù)審核標(biāo)準(zhǔn)，確保人工智能系統(tǒng)的安全性和可靠性。在人工智能系統(tǒng)上線前進(jìn)行全面的測(cè)試，確保其不會(huì)對(duì)人類生活和社會(huì)秩序造成負(fù)面影響。明確開發(fā)者、使用者、維護(hù)者等各方在人工智能系統(tǒng)全生命周期中的法律責(zé)任，以及建立相應(yīng)的追責(zé)機(jī)制。
? 務(wù)實(shí)參與人工智能安全治理國(guó)際合作。
人工智能軍事應(yīng)用所帶來(lái)的戰(zhàn)略風(fēng)險(xiǎn)，更加凸顯出國(guó)際安全務(wù)實(shí)合作的重要性。建議重點(diǎn)從三個(gè)方面著手：
一是推動(dòng)制定人工智能在軍事領(lǐng)域的運(yùn)用準(zhǔn)則。制定人工智能軍事應(yīng)用的行為準(zhǔn)則，是各國(guó)規(guī)范人工智能軍事應(yīng)用的重要責(zé)任，也是推動(dòng)國(guó)際共識(shí)和遵守國(guó)際法規(guī)的必要舉措。中國(guó)政府2021年向聯(lián)合國(guó)《特定常規(guī)武器公約》大會(huì)提交了《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，2023年發(fā)布《全球人工智能治理倡議》，這些都為完善規(guī)范人工智能軍事應(yīng)用的行為準(zhǔn)則提供了建設(shè)性參考。
二是建立適用的監(jiān)管框架。人工智能軍民兩用性使其涉及眾多利益攸關(guān)方，一些非國(guó)家行為體如非政府組織、技術(shù)社群、科技企業(yè)在人工智能全球治理進(jìn)程中的作用將更加突出，成為人工智能軍事應(yīng)用監(jiān)管框架建設(shè)的重要力量。各國(guó)可采取的技術(shù)監(jiān)管措施包括：明確人工智能技術(shù)的使用范圍、責(zé)任主體和違規(guī)處罰措施；加強(qiáng)技術(shù)研發(fā)，提高技術(shù)的安全性和可控性；建立監(jiān)管機(jī)制，對(duì)技術(shù)的研發(fā)和應(yīng)用進(jìn)行全程監(jiān)管，及時(shí)發(fā)現(xiàn)和解決問(wèn)題。
三是共同研發(fā)人工智能安全防范技術(shù)和解決方案。鼓勵(lì)將政府間和軍隊(duì)間的雙邊或多邊談判納入軍用人工智能應(yīng)用的對(duì)話選項(xiàng)，就軍用人工智能安全防范技術(shù)、操作規(guī)程及實(shí)踐經(jīng)驗(yàn)廣泛交流，推動(dòng)相關(guān)風(fēng)險(xiǎn)管理技術(shù)標(biāo)準(zhǔn)和使用規(guī)范的分享借鑒，為人工智能軍事化背景下的國(guó)際安全互信機(jī)制不斷注入新的穩(wěn)定因素。
（作者為國(guó)防科技大學(xué)國(guó)防科技戰(zhàn)略研究智庫(kù)主任、研究員，博導(dǎo)；國(guó)防科技大學(xué)外國(guó)語(yǔ)學(xué)院碩士研究生劉胡君對(duì)本文亦有貢獻(xiàn)）
【注釋】
①Katz B. Analytic edge: Leveraging emerging technologies to transform intelligence analysis [R]. Washington D.C.: Center for Strategic and International Studies, 2020.
②Paul McLeary. Pentagon’s Big AI Program, Maven, Already Hunts Data in Middle East, Africa[N]. Breaking Defense, May 1, 2018.
③唐新華：《美國(guó)綜合威懾戰(zhàn)略中的技術(shù)互操作性》，《太平洋學(xué)報(bào)》， 2022年第12期，第15-25頁(yè)。
④Robyn Dixon. Azerbaijan’s Drones Owned the Battlefield in Nagorno-Karabakh—and Showed Future of Warfare[N]. The Washington Post, November 11, 2020.
⑤朱啟超、陳曦、龍坤：《無(wú)人機(jī)作戰(zhàn)與納卡沖突》，《中國(guó)國(guó)際戰(zhàn)略評(píng)論》，2020年第2期，第167-183頁(yè)。
⑥The Verge Report: Israel used AI to identify bombing targets in Gaza [EB/OL].[2024-04-05]. https://www.theverge.com/2024/4/4/24120352/israel-lavender-artificial-intelligence-gaza-ai#:~:text.
⑦羅易煊、李彬：《軍用人工智能競(jìng)爭(zhēng)中的先行者優(yōu)勢(shì)》，《國(guó)際政治科學(xué)》， 2022第3期，第1-33頁(yè)。
⑧U.S. Department of Defense. Deputy Secretary of Defense Kathleen Hicks Keynote Address: The Urgency to Innovate (As Delivered) [EB/OL]. [2023-08-28]. https://www.defense.gov/News/Speeches/Speech/Article/3507156/deputy-secretary-of-defense-kathleen-hicks-keynote-address-the-urgency-to-innov/.
⑨[美]托馬斯·謝林著，毛瑞鵬譯：《軍備及其影響》，上海：上海人民出版社，2017年，第81頁(yè)。
⑩Rautenbach P. Keeping Humans in the Loop is Not Enough to Make AI Safe for Nuclear Weapons[EB/OL], https://thebulletin.org/2023/02/keeping-humans-in-the-loop-is-not-enough-to-make-ai-safe-for-nuclear-weapons/,2023-02-16/2024-01-09.
?Mayer M. The new killer drones: understanding the strategic implications of next-generation unmanned combat aerial vehicles[J], International Affairs, 2015,91(04):771.
?[美]保羅·沙瑞爾著，朱啟超、王姝、龍坤譯：《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》，北京：世界知識(shí)出版社，2019年，第153-156頁(yè)。
責(zé)編/谷漩 美編/王夢(mèng)雅
聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個(gè)人轉(zhuǎn)載請(qǐng)回復(fù)本微信號(hào)獲得授權(quán)，轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來(lái)源及作者，否則追究法律責(zé)任。
