15:33pm
如果一套AI系統自行侵入中國核武指揮網路，北京要怎麼判斷那究竟是機器失控，還是美國政府下令攻擊？反過來，如果中國自主AI對美國重要軍事設施發動網攻，華盛頓又有多少時間確認真相？美中安全專家正在把這些過去只存在於科幻小說的問題，正式搬進軍控討論。
由美國布魯金斯學會與清華大學戰略與安全研究中心自2019年起召集的美中AI與國家安全對話，近期提出一套新的安全建議：AI不得自行決定使用核武器、不得自主攻擊對方核指揮與控制系統；具有重大後果的軍事網路攻擊必須保留人類控制，美中還應建立專門處理自主AI事故的危機熱線。
這些建議目前並不是美中政府簽署的正式協議，而是參與長期雙邊安全對話的專家提出的政策方案。但時間點正落在川普與習近平預定9月24日於華盛頓會面之前，美中政府層級也準備討論AI議題，使「AI軍控」第一次真正逼近兩個核武大國的外交議程。
最危險的不是AI攻擊 而是人類不知道誰下的命令
AI進入軍事系統後，最棘手的問題之一就是「歸因」。
布魯金斯學會資深研究員席森（Melanie Sisson）指出，人類應保有對另一國核指揮、控制與通訊系統，以及戰略重要基礎設施發動AI網路攻擊的唯一決定權。
原因在於自主AI可能故障、超出原始指令，甚至遭第三方入侵。如果AI自行發動攻擊，被攻擊的一方卻誤以為是對手政府正式下令，兩個核武國家可能只剩幾分鐘決定是否反擊。
復旦大學副教授蔣天驕則提出更明確的紅線：禁止AI獨立決定使用核武器，也禁止AI自主攻擊核指揮系統；能源、金融與醫療等關鍵基礎設施也應受到特別保護。
他還主張，美中必須共同定義什麼叫「有意義的人類控制」，否則兩國即使都宣稱最後由人類決策，實際上給機器的自主權仍可能完全不同。
從晶片戰一路打到戰略穩定 AI開始碰到核武邏輯
美中AI競爭過去主要集中在先進晶片、GPU出口管制、模型能力、資料中心與人才，但最新討論已經進入傳統軍控領域：如何防止事故被誤判成攻擊、哪些決策絕不能交給機器，以及兩個核武國家如何在AI突然出現異常行為時保持溝通。
中國國家安全部部長陳一新近期也公開表示，AI正在「根本性改變軍事鬥爭形態」，已經從戰場上的輔助工具轉向關鍵角色。
問題在於，美中同時又是全球最激烈的AI競爭對手。
美方擔心任何限制都可能讓中國取得技術優勢；北京則指控美國利用晶片出口與科技限制維持AI壟斷。川普政府AI顧問薩克斯（David Sacks）更公開質疑，美中不像冷戰時代的核武軍控，可以透過衛星或武器數量查核承諾是否履行，AI模型藏在資料中心裡，外界很難確認另一方到底有沒有遵守約定。
因此，9月24日即使川習會真的談到AI，也不代表美中能立即簽出一套AI軍控條約。但核指揮權、人類最後決策權、危機熱線等概念已經被提出，顯示美中AI競爭開始面對一個和核武時代極為相似的難題：雙方都想比對方更強，卻又必須避免自己的競爭把兩國一起推進無法控制的軍事誤判。
（圖片來源：AI生成）
2026.10.12
