一週的會議換來一句「開始討論選項」。日內瓦沒有產生任何規則,只把期限寫進了文件。
United Nations 的一週:結論是開始討論選項
11 月 20 日結束的那一週,各國代表在 Geneva 開會,主題是如何規範被稱為 killer robots 的自主武器。會議結論是同意「開始討論各種選項」。The Verge 引用 NPR 的報導,形容這是幾乎沒有成果的一週。
沒有條約,沒有約束性文本,也沒有執行機制。唯一確定的是討論會繼續。
United Nations 會場外,ICRC 要求一年內有約束力規則
會前,紅十字國際委員會先把話說重。它是日內瓦公約的守護者,主張各國應在一年內草擬出具有法律約束力的規則。
這個呼籲有兩個高知名度背書,分別是聯合國秘書長與教宗良十四世,兩者都把這件事定調成道德問題。The Verge 的報導把兩者並列,也讓「一年」這個期限有了道德重量。
autonomous weapons 的兩年窗口:從制定規則變成提出規則
最後的折衷落在時間。各國給自己兩年,用來提出規範,而不是在一年內完成有約束力的規則。內容與執行方式的談判,預料會拖過這個窗口。
更關鍵的是 optional 這個字。協議保留部分規範可以只是自願性質的空間,期限與鬆緊於是同時存在於同一份文件裡。
自願原則的後果不難預見。沒有違約懲罰的規則,等於把是否遵守交給各國自行判斷,對已經在戰場上使用這類系統的國家幾乎沒有成本,對受害的一方也沒有救濟管道。
United Nations 會談裡,誰擋了什麼
第一天就卡住。俄羅斯對議程提出異議,議事因此延後。美國主張用五年時間討論不具約束力、可選的指導原則,等於把時間拉得比 ICRC 要求的一年長五倍。NPR 的報導把俄羅斯、以色列與美國列為主要阻擋者。
三個國家的手法不同。俄羅斯擋程序,美國提替代方案,以色列被點名。共識制的弱點在這裡暴露得很清楚,只要一方不急,所有人都得等,而等待的成本由最急的一方承擔。
killer robots 的規則為什麼要寫成文字
半自主武器與無人機已在烏克蘭、加薩與蘇丹造成大量平民死亡。這是人道團體要求盡快立規的現實依據。
法律上最薄的一層,是人與開火之間的距離,也是責任歸屬最容易斷掉的地方。由人決定開火,責任歸屬清楚。由系統挑選目標,責任就開始模糊,而 AI regulation 的爭論在這裡有了具體形狀,不再是抽象的原則聲明。
人類控制這個詞在談判裡可以指很多不同的事,差別藏在細節。有人在迴路裡,意思是系統必須等人按下同意;有人在迴路上,意思是人可以中止,但不必逐次批准。兩種寫法在條約裡的約束力差別很大,談判卡在文字上,不是卡在善意上。
autonomous weapons 的定義本身就吵不完
自主武器不是一個界線清楚的分類。防禦系統可能需要人員授權才啟動,徘徊彈藥則自己挑目標,兩者都被放進同一個詞裡。
定義不清楚,管制就難寫,哪些系統要納入、哪些留給既有國際人道法處理,各代表團的答案不一樣,而每一種答案都會改到本國廠商的出口許可。文本難產的原因就在這裡,不是不想管,是連管什麼都還沒對齊。
這個分歧也有產業面。分類一旦寫進條約,出口許可、零組件清單與軟體更新都會跟著改,影響的是整條供應鏈,而不只是軍方。
兩年的授權通常意味著成立工作組、排定會期、產出主席文本。每一步都可以被拖延,也都可以被加速,取決於最有動力的那幾個國家願意投入多少外交資本。
Geneva 的兩年授權是路,不是成果
AFP 的報導給了另一種讀法。僵局之中,各國至少開了一條通往協議的路。兩年的授權不是終點,而是讓想簽約的國家有一個可以組織起來的期限。
對台灣讀者,這件事的距離比想像中近。台北不是聯合國會員,日內瓦的程序對台灣沒有直接約束力。但無人機與其零件的出口管制,會沿著供應鏈傳導到這裡的廠商與買家。規則怎麼寫,遲早反映在報價與交期上。這一點,供應鏈裡的人比外交官更有感。
接下來看三件事。兩年授權會不會把人類控制寫成強制要求?可選的措辭會不會在起草過程中被刪掉,還是整段保留?在戰場上使用這些系統的國家,最後會不會簽字?這三個問題目前都沒有現成答案,但它們比「持續對話」這四個字更能說明接下來兩年會發生什麼。






