川普與六大科技業者簽AI安全協議！Google、OpenAI、輝達承諾接受外部稽核

美國總統川普9月29日在白宮與科技業領袖會面後，公布一份人工智慧安全協議，由Google、Meta、OpenAI、Anthropic、輝達及馬斯克旗下xAI代表共同簽署。協議要求業者建立內部監控、接受第三方稽核，並由董事會監督安全報告。川普將這項自願承諾形容為具有「道德約束力」，主張科技公司應自行管理AI風險。

從內部監控到董事會　協議設四層安全機制

川普在社群平台公布的一頁文件，列出四層控管安排。企業須在模型訓練與實際使用期間監測風險，設置內部團隊確認監控有效，再交由獨立外部機構評估，最後由董事會的獨立委員會接收並審查報告。

監測範圍包括網路安全、生物安全及化學威脅，文件特別要求防止模型以非預期方式入侵或存取技術系統。參與公司也承諾定期開會，研議共同標準與安全實務。

皮查伊談企業控管　祖克柏承諾多層稽核

Google執行長皮查伊在會後表示，企業原本就有財務等領域的控制制度，現在要將這些管理經驗運用在先進AI開發。Meta執行長祖克柏則說，承諾內容涵蓋內部風險審查、外部稽核，以及董事會對相關報告的獨立檢視。兩人的說法都將安全責任放在企業內部制度及外部查核上。

協議保留日後將相關措施寫入法律或規則的可能性。眾議院議長強生表示，國會會持續評估與討論；目前公布的安排仍以業者自願執行為基礎。

業界對風險仍有不同聲音

Anthropic執行長阿莫迪在會後表示，AI存在實際風險，處理風險的機制仍在討論。輝達執行長黃仁勳則認為，創新、技術與安全可以並行，業者提升AI能力時，也能發展更強的安全技術。

這場會議前，美國參議員康特威爾與16名同僚已致函川普，要求美中討論先進AI的開發、測試與使用標準，將網路攻擊、生物武器等風險納入國際合作。川普9月29日則再度強調美國在AI競爭中的領先地位，反對以限制發展方式處理安全問題。

（圖片來源：AI生成、翻攝畫面）