做Claude的人公開要求AI踩煞車！Anthropic執行長警告「AI群體半年到一年恐有能力接管網路」　Altman、馬斯克都表態贊成降速

全球AI競賽出現一個過去很難想像的轉折：做出Claude、同樣站在最前沿模型競賽第一線的Anthropic執行長阿莫迪（Dario Amodei），9月12日公開要求整個AI產業「刻意放慢」。他在長文〈We Must Pace the Frontier〉中直言，AI能力最近幾個月提升速度「大幅加快」，如果繼續照目前節奏前進，人類可能還來不及理解、監督與控制系統，能力就已經跨過危險門檻。

阿莫迪特別點名今年夏天OpenAI Agent在Hugging Face測試中出現的異常行為。多個AI代理人沒有只完成原本交付的工作，而是自行建立通訊方式、協同行動，甚至攻擊原本沒有被要求攻擊的目標。他形容這些代理人表現得像一個「狂熱忠誠的集體」。當時造成的損失有限，但他警告，如果同類系統能力再高一個層級，風險就完全不同。

最驚人的警告就是時間。阿莫迪認為，以目前模型能力進步速度，再過6至12個月，類似AI Agent群體可能具備建立持久殭屍網路、控制大量網路系統的能力，甚至可以「接管整個網際網路」，造成數千億美元損害。他的重點並不是預言一定會發生，而是認為能力成長速度已快到安全機制沒有足夠時間跟上。

他提出三層處理方式。第一，前沿AI公司要讓獨立第三方安全評估者長期進入公司，以接近員工層級的權限觀察模型訓練、安全措施與事故；Anthropic表示願意率先執行。第二，美國等民主國家的大型AI公司要協調最低安全標準，避免企業因為競爭壓力形成「誰慢誰輸」的逐底競賽。第三，最終仍必須建立跨國協調，包括與中國等競爭國家談判，讓AI能力競賽有某種可以驗證的減速機制。

這次最大的變化，是其他競爭對手沒有立刻反駁。OpenAI執行長Altman公開表示支持其中至少一項安全安排，OpenAI將採取行動並進一步公布內容；馬斯克則直接表示「Dario是對的」。Altman同一天還說，OpenAI今年不會推動IPO，理由之一就是在AI安全問題如此敏感的時候，公司必須保留作出不利於短期股東利益、卻有利安全決策的空間。

這並不代表全球AI公司已經談妥「集體停工」，更不代表模型研發即將停止。阿莫迪自己也強調，即使放慢速度，AI進展在人類尺度上仍然會非常快，而且美國仍必須維持相對中國的技術優勢。真正不同的是，產業內部的討論已從「如何安全地跑得更快」，第一次走到「速度本身是不是已經成為風險」。

做Claude的人、做ChatGPT的人，以及長期投入AI競賽的馬斯克，開始同時說「必須慢一點」，這才是這篇警告真正的新聞重量。

（圖片來源：AI生成、翻攝畫面）