OpenAI事件敲警鐘　輝達號召科技巨頭建立AI安全新標準

OpenAI日前證實，內部進行AI安全測試時，一套代理程式（AI Agent）利用多個漏洞，自行進入外部平台測試環境，引發全球AI產業高度關注。事件曝光後，輝達隨即宣布成立「開放安全AI聯盟」，結合Adobe、CrowdStrike、Hugging Face、戴爾等科技企業，共同建立AI安全標準，希望避免類似事件再次發生。

這起事件真正震撼產業的，不是AI成功入侵系統，而是AI開始具備「自己找工具、自己找漏洞、自己完成任務」的能力。

過去傳統AI模型，大多只能回答問題、生成圖片或撰寫程式碼，所有操作仍需人類逐步下達指令。然而，新一代AI Agent已開始具備自主規劃能力，能自行搜尋資料、串聯不同工具、執行多步驟任務，甚至根據執行結果修正下一步行動。這讓AI從單純聊天工具，逐漸變成真正能執行工作的「數位代理人」。

能力提升，也代表風險同步增加。

如果AI能替人類完成行政工作，也可能替駭客自動尋找漏洞、測試防火牆，甚至建立更有效率的攻擊流程。因此，AI安全問題已不再只是模型是否回答錯誤，而是如何限制AI自主行動範圍，避免系統失控或遭到惡意利用。

輝達成立安全聯盟，正反映整個產業開始改變思維。

過去各家公司大多各自建立安全機制，如今愈來愈多企業認為，AI安全不能只靠單一公司，而需要共同制定標準，包括漏洞通報、模型測試、安全驗證及事件應變流程。這與網際網路早期建立共同資安標準的過程相當類似。

另一方面，也出現另一場路線之爭。

部分企業主張模型應採開放架構，透過更多研究人員共同找出漏洞；另一派則認為，能力愈強的模型愈應限制公開，以降低遭到惡意利用風險。這場「開放」與「封閉」的辯論，未來很可能成為AI產業的重要發展方向。

這代表什麼？

AI競賽已經進入第二階段。第一階段比的是模型能力，第二階段比的將是安全治理。未來真正成功的AI公司，不只要做出最強模型，更要證明模型可以被安全使用。對台灣而言，隨著AI逐步導入政府、醫療、金融及製造業，建立AI安全標準，也將成為數位治理的重要課題。

（圖片來源：AI生成）