2021年4月28日，新美國安全中心（CNAS）網(wǎng)站發(fā)布報告，題為《Principles for the Combat Employment of Weapon Systems with Autonomous Functionalities》，作者是國防高級顧問和國防與國家安全杰出高級研究員羅伯特O.沃克。
報告指出，所提出的這7項新原則集中于在武裝沖突中負責(zé)任地使用自主功能，因而可以保留人類對使用武力的判斷和責(zé)任，并有助于最大程度地降低系統(tǒng)失控或意外交戰(zhàn)的可能性，尤其是避免以非戰(zhàn)斗人員為交戰(zhàn)目標。美國軍方最終開發(fā)、測試和部署了一些武器系統(tǒng)，這些系統(tǒng)在所有與交戰(zhàn)相關(guān)的功能范圍內(nèi)將自主行動結(jié)合起來。
實例證明，美國軍方用自主功能來綜合武器系統(tǒng)已有80年了。自主武器系統(tǒng)分為3類：靜態(tài)搜索武器、有限搜索武器和人類監(jiān)督的自主武器系統(tǒng)。對于半自主武器，人類選擇目標或特定目標組，然后激活該武器。就自主武器而言，人類激活該武器，然后武器選擇目標并與之交戰(zhàn)。武器開發(fā)的下一個進步，將是引入改進的人工智能賦能的自主功能。80年的作戰(zhàn)經(jīng)驗表明，如果使用得當(dāng)，自主功能與人機協(xié)作相結(jié)合可以繼續(xù)改善戰(zhàn)場上對武力的區(qū)別性使用。在可行且有價值的情況下，系統(tǒng)設(shè)計可以在一系列自主處理的中間步驟中納入人類觀察和引導(dǎo)點。
通過努力建立其使用規(guī)范，美國國防部在具有自主功能的武器方面展示領(lǐng)導(dǎo)力的時機已經(jīng)成熟。美國還應(yīng)努力證明自己致力于以符合任務(wù)目標的方式使用武器，同時遵守戰(zhàn)爭法、政策、適用條約、武器系統(tǒng)安全規(guī)則、倫理準則和交戰(zhàn)規(guī)則。
引言
關(guān)于致命性自主武器系統(tǒng)（LAWS）的國際辯論已進行了將近10年。2012年，美國國防部發(fā)布了關(guān)于具有自主功能的武器系統(tǒng)的正式政策指南，各國自2014年以來就開始通過《聯(lián)合國特定常規(guī)武器》（CCW）公約來共同討論LAWS。缺乏一致認可的LAWS定義，阻礙了CCW的討論。但是，CCW締約國于2019年一致認為，在武器系統(tǒng)的使用和必須保留的武力使用上存在“人類責(zé)任”。因此，現(xiàn)在的討論往往集中在確保遵守國際人道主義法和滿足倫理關(guān)切所需的人類參與類型和程度上。
一些學(xué)者認為，這些討論應(yīng)著眼于“軍事環(huán)境下自主性的發(fā)展目標、共識和基于功能的理解”（著重強調(diào)）。本報告的前提是，實現(xiàn)這種理解的最佳方法是：制定武裝沖突中使用具有自主功能的武器系統(tǒng)的一些普遍接受的原則并對其進行辯論并取得一致。這在戰(zhàn)爭自主性方面引起的法律、倫理和道德問題最為尖銳，應(yīng)該引起最多的關(guān)注。
本報告為這些討論提供了起點。報告提出的7項原則旨在補充和構(gòu)建現(xiàn)有的國防部指南，包括國防部指令（DoDD）3000.09、《武器系統(tǒng)自主性》和國防部的《人工智能原則》。它們還與2019年“禁止或限制使用某些可被認為具有過分傷害力或濫殺濫傷作用的常規(guī)武器公約”會議上CCW所采納的11項指導(dǎo)原則保持一致。這7個新原則集中關(guān)注在武裝沖突中負責(zé)任地使用自主功能的方式，這些方式可以保留人類對使用武力的判斷和責(zé)任，并有助于最大程度地降低系統(tǒng)失控或意外交戰(zhàn)的可能性，尤其是避免以非戰(zhàn)斗人員為交戰(zhàn)目標。
本報告分為四個部分。第一部分詳細介紹了具有自主功能的美國武器系統(tǒng)的歷史。目的是使讀者了解歷史上這些武器的使用方式，為何自主功能如此有用以及國防部為何保留使用這些武器的權(quán)利。第二部分說明了現(xiàn)在為什么通過添加人工智能來改進具有自主功能的武器，這是一項重要的發(fā)展，目的是在使用武力時使武器更具區(qū)別性。第三部分解釋了為何國防部應(yīng)考慮發(fā)布一套新的原則，這些原則針對具有自主功能的武器系統(tǒng)的作戰(zhàn)使用。最后一節(jié)概述了供考慮的7項擬議原則：
（1）使用任何具有自主功能的武器系統(tǒng)，都必須在負責(zé)任的人工指揮與控制鏈的監(jiān)督指導(dǎo)下進行；
（2）在決定發(fā)動一系列可能因使用武力（即殺傷鏈等）而導(dǎo)致人員傷亡行動（包括自主行動）時，都應(yīng)基于人的意圖和判斷力；
（3）在任何情況下，由人來決定使用武器的責(zé)任都不能移交給機器，人類有履行戰(zhàn)爭法的義務(wù)；
（4）為有效確定對特定目標的攻擊是否合法，任何授權(quán)使用、指導(dǎo)使用或操作具有自主功能的武器系統(tǒng)的人都必須充分了解該系統(tǒng)的預(yù)期性能和能力、使用原則、預(yù)期目標、使用環(huán)境及使用條件；
（5）一旦人類啟動了一系列旨在利用致命性力量來結(jié)束沖突的行動時，那么具有自主功能的武器系統(tǒng)便可以自行完成該行動，而無需進一步的人為監(jiān)督；
（6）只要武器系統(tǒng)選擇和打擊目標與人為決定發(fā)動合法攻擊直接相關(guān)，便符合“由人決定使用致命武力”的標準；
（7）指揮官如果有證據(jù)證明具有自主功能的武器系統(tǒng)可能以有悖于預(yù)期性能、戰(zhàn)爭法、政策、適用條約、倫理規(guī)范以及交戰(zhàn)規(guī)則的方式使用，則必須采取適當(dāng)行動。
結(jié)論
具有自主功能的武器系統(tǒng)已在戰(zhàn)斗中安全可靠地使用了80年。它們今后還將繼續(xù)使用。的確，在這些武器系統(tǒng)中增加人工智能賦能的應(yīng)用程序，有望在使用武力時使其更具區(qū)別性并減少意外交戰(zhàn)，這一目標完全符合國際人道主義法。
但是，反對者擔(dān)心這些武器的使用會在武裝沖突中導(dǎo)致有問題的倫理、道德和法律后果。美國應(yīng)站在先進測試、評估、確認和驗證（TEVV）規(guī)程和法律評審的最前沿，以證明具有自主功能的武器將按預(yù)期發(fā)揮作用。美國還應(yīng)努力證明自己致力于以符合任務(wù)目標的方式使用武器，同時遵守戰(zhàn)爭法、政策、適用條約、武器系統(tǒng)安全規(guī)則、倫理準則和交戰(zhàn)規(guī)則。做到這一點的一種方法是針對具有自主功能的武器系統(tǒng)的戰(zhàn)斗使用采納若干原則，并在采辦過程、培訓(xùn)、教育和野戰(zhàn)演習(xí)時使之制度化。上述7項原則旨在推動這一努力，并為采用國際規(guī)范奠定基礎(chǔ)。
?