
全球AI產業突然出現一條前所未見的分界線:不是誰的模型比較強,而是AI到底應不應該刻意放慢。
Anthropic執行長阿莫迪(Dario Amodei)率先要求前沿AI實驗室協調降低模型能力進步速度後,OpenAI執行長阿特曼(Sam Altman)與xAI創辦人馬斯克(Elon Musk)先後表態支持;Meta執行長祖克柏(Mark Zuckerberg)9月15日卻公開唱反調。他認為,AI公司本身已經受到市場競爭與法律責任約束,有足夠誘因把產品做好、把安全問題處理好,不需要各家公司共同承諾降低研發速度。
這場爭論源自阿莫迪9月12日提出的三階段方案。他主張,AI能力進步的速度已經超過人類理解與治理的速度,因此前沿模型公司應接受具有「接近員工權限」的獨立安全評估者,主要AI公司共同制定安全標準,最後再進一步形成國際合作機制。
阿莫迪寫得非常直接:「我們必須放慢提升AI模型能力的速度。」他的理由包括AI開始具備改善自身能力的跡象,以及近期模型被用於武器開發、網路攻擊、監控與詐騙等案例。阿特曼隨後支持讓獨立評估者深入公司模型,馬斯克也公開表示認同。
祖克柏的答案卻完全不同。他認為,如果AI公司推出危險產品,市場、客戶及法律責任自然會迫使企業修正;在全球AI競爭已經展開的情況下,要求所有領先公司一起降低研發速度,本身也可能帶來新的競爭問題。於是,美國AI產業內部第一次形成清楚的兩派:Anthropic、OpenAI、xAI要求協調安全節奏;Meta則主張繼續競爭、個別負責。
爭論到了歐洲,又多了一層國家利益。歐盟執委會主席范德賴恩表態支持與前沿AI實驗室討論共同安全機制;但法國政府的立場更警戒:如果全球突然要求AI「慢下來」,最大的受益者很可能正是已經擁有最強模型、最大算力與最多資本的美國企業,因為它們可以把目前的領先優勢直接凍結。
這也是「AI安全」第一次如此明顯撞上產業競爭。對Anthropic而言,放慢是為了避免能力超越控制;對Meta而言,競爭本身就是促使企業安全的重要力量;對部分歐洲政策人物而言,問題則變成:當歐洲還在追趕美國時,誰有資格宣布比賽現在開始減速?
更大的背景是資本市場已經開始計算代價。阿莫迪、阿特曼等人發出警告後,全球AI與半導體類股一度明顯下跌,市場擔心如果前沿模型真的刻意降低升級速度,資料中心、GPU、電力與AI基礎建設的龐大投資是否需要重新估值。OpenAI甚至已經確認2026年不會IPO,阿特曼把AI安全風險列為重要理由之一。
所以現在真正的問題已經不是「AI危不危險」。全球科技業正在面對更難回答的一題:如果大家都承認AI可能有重大風險,誰先踩煞車?如果只有一部分公司或國家踩,留下來繼續加速的人會不會反而取得更大優勢?
(圖片來源:AI生成)










