川習會進入最後倒數！AI治理躍上美中元首議程　兩國一邊競逐霸權、一邊得談「AI失控怎麼辦」

川普與習近平預定9月24日在華府會面，人工智慧第一次在這次峰會倒數階段，與關稅、台灣、稀土、伊朗一起被列入美中高層必須處理的重要議題。兩國一方面把AI視為經濟、軍事與科技競爭的核心，另一方面，美中安全專家已開始提出類似核武軍控的AI安全紅線：AI不能自行干預核武指揮系統，重大軍事網路攻擊必須保留人類控制，甚至應建立專門處理AI事故的美中熱線。 

美國財政部長貝森特已表示，週末與中國副總理何立峰會面時，AI將進入討論；兩國元首會談前，美中AI競爭也從「誰的模型比較強、誰拿得到更多晶片」，逐漸進入「如果自主AI誤判軍事行動怎麼辦」的新階段。 

最危險的不是聊天機器人　而是AI碰到核武與軍事網攻

美中安全專家提出的情境非常具體：如果一套AI系統誤闖對方核指揮網路，或自動發動軍事網路攻擊，華府或北京可能只剩幾分鐘判斷究竟是對方政府下令攻擊，還是一套自主系統失控。

由美國布魯金斯學會與清華大學戰略與安全研究中心長期推動的美中AI與國家安全對話，近期因此提出三項核心方向：核武指揮系統設定AI禁區；具有重大後果的網路軍事行動保留實質人類控制；建立專門處理自主AI異常事件的雙邊危機溝通機制。 

但這些仍是專家建議，美中兩國政府目前都沒有正式接受這套方案。中國已把AI納入外交部軍控體系，並在聯合國場合主張軍事AI必須維持人類控制；美國的AI國安政策則分散在白宮國安會、國務院、五角大廈等不同機構。 

嘴上談共同風險　手上仍在搶晶片、模型與算力

AI安全合作最大的障礙，是兩國同時正在進行激烈的AI競爭。

美國持續限制最先進AI晶片與半導體設備輸往中國，也研究限制中國企業透過海外資料中心取得高階GPU算力；華府今年又指控6家中國企業利用「蒸餾」技術不當複製美國AI產品，中國則否認相關指控。 

北京則認為，美國以AI安全及國家安全為理由限制中國科技發展，本質上仍是維持美國科技優勢。中國AI模型與美國最前沿系統的能力差距近年快速縮小，使任何可能限制模型能力或算力發展的雙邊規則，都會碰到「誰因此取得競爭優勢」的問題。

因此，9月24日川習會即使真的談到AI，也未必立即形成具約束力協議。現階段更可能先從危機溝通、軍事AI人類控制及共同風險認知開始。美中在AI領域已經進入一個矛盾的新階段：雙方都不願意在科技競賽中慢下來，卻也開始意識到，一旦自主AI碰到核武與軍事系統，任何一次錯誤都可能讓兩個核武國家沒有足夠時間弄清楚到底發生了什麼。

（圖片來源：AI生成）