OpenAI與Anthropic主管赴聯合國安理會示警：AI能力愈強，全球安全規範不能再等

聯合國安理會9月23日召開「人工智慧與國際安全」會議，邀請OpenAI執行長奧特曼、Anthropic執行長阿莫代伊，以及人工智慧研究者班吉歐等人說明風險。奧特曼親自到場，阿莫代伊透過視訊發言。兩家公司都認為，AI能力與自主性快速提高，各國需要共同的測試、事故通報及監督標準；這些仍屬會中提出的主張，安理會尚未因此通過全球新規範。

奧特曼要求人類保有控制權

奧特曼指出，當AI系統能自行完成更多任務，甚至參與開發下一代系統時，技術進展可能快過政府及社會理解風險的速度。他主張建立可供各國比較的能力測試、安全評估與事故通報制度，讓監管機構知道系統具備什麼能力、出了什麼問題，以及是否仍能由人介入控制。他同時提醒，規範不應只讓現有大型公司受益。

Anthropic提出跨國通報與查驗

阿莫代伊把風險分成兩類：惡意使用AI，例如協助研製生物武器；以及能力增強後，開發者失去控制。他提出建立跨國評估與查驗制度、共同測試高風險能力，並針對影響全球安全的AI事故設立通知機制。他表示，Anthropic會在必要時放慢新技術發布速度，以完成安全檢驗；這是公司在會上的承諾，後續仍須觀察如何執行。

企業主管與研究者在同一場會議提出警訊，凸顯AI安全已進入國際安全討論；各國對模型開放方式、監管權限及資訊分享仍可能有不同立場。接下來能否形成可查驗的共同標準，比單次警告更具實際意義。

（圖片來源：AI生成）