美中第一次建立AI「事故熱線」！兩個月後深圳再談失控代理人、網攻與重大AI安全風險

美國與中國的人工智慧競爭，第一次出現一條專門處理「AI出事了怎麼辦」的正式溝通管道。美國財政部長貝森特9月21日表示，他與中國國務院副總理何立峰結束紐約會談後，雙方同意建立制度化AI對話，其中包括一條處理重大AI安全事故的「incident line」，高階官員約兩個月後還將在中國深圳再次會面，進一步討論失控AI代理人、非國家行為者利用AI發動網攻等風險。

這項安排的政治意義，在於美中第一次把AI安全從晶片出口管制、模型競爭與科技制裁，拉進兩國政府之間的危機溝通機制。貝森特接受CNBC訪問時說，雙方希望開始討論一套共同協議，確認哪些情況屬於兩國都必須警戒的重大AI危險。

失控AI代理人、非國家網攻都列入討論

貝森特直接點出兩類風險：一是「uncontrollable agents」，也就是AI代理人脫離原本設定的控制；另一類則是非國家行為者與網路非國家行為者利用AI發動攻擊。雙方下一步要談的，就是發生這類事件時，什麼程度必須通知另一方，以及政府之間如何建立聯絡與處理程序。

貝森特也把責任直接指向AI開發公司。他主張，AI實驗室不能在代理人失控後把責任推給模型，開發者必須對自己創造的系統負責；必要時，企業可以自行放慢開發速度。

美中目前仍是全球最主要的兩個AI競爭國家，美國掌握NVIDIA等高階AI晶片與大型模型公司，中國則持續發展華為昇騰晶片、DeepSeek等本土AI體系。過去雙方AI議題最常出現在出口限制與科技競爭，如今開始建立事故溝通機制，顯示兩國已經把「避免AI風險失控」視為另一個必須處理的問題。

川習會前先建立AI對話

這場會談就在川普與習近平9月24日白宮峰會前舉行。美中同時討論目前將於11月10日到期的關稅休戰，但貝森特表示，雙方並未在紐約會談中確定延長期限。

AI安全反而先出現具體進展。兩國已同意建立正式AI對話與事故聯絡管道，深圳下一輪會議將進一步處理共同風險與通報程序。

這也讓9月24日川習會多出一個值得觀察的新題目：美中能否把AI「事故熱線」進一步寫成兩國領導人層級的正式成果。

（圖片來源：AI生成）