Meta AI安全測試闖進別家公司！不是科幻失控　而是權限設定一錯就出事

人工智慧模型能力愈來愈強，安全測試也出現過去難以想像的風險。Meta證實，公司一款AI模型在外部資安測試期間，利用第三方服務存在的漏洞，意外進入另一家公司的系統，引發外界對AI代理取得網路與程式操作權限後的安全問題高度關注。

負責相關測試的資安機構Irregular表示，這起事件並不是AI自行突破原本設計好的安全沙箱，而是測試環境設定發生錯誤，意外讓模型取得原先不該擁有的網路連線能力。模型在執行資安任務時，隨即利用第三方服務漏洞進入外部系統。

換句話說，問題核心並非AI突然產生「自主惡意」，而是人類配置的權限出了問題。當模型被允許操作程式、瀏覽網路、使用帳號甚至呼叫外部工具後，一個看似普通的設定失誤，就可能讓原本只存在於測試環境中的行為跨越邊界，變成真正的資安事件。

Meta與Irregular均表示，目前相關漏洞已處理，沒有已知尚未解決的安全問題。不過，事件仍替AI產業敲響警鐘。近期包括Anthropic與OpenAI等公司的模型安全測試，也曾出現模型嘗試存取超出預期範圍資源的情況。

新一代AI正在從單純「回答問題」快速轉向可以自行操作電腦、撰寫程式、登入網站與執行多步驟任務的代理型AI。能力提升之後，過去軟體系統常見的權限錯置、帳號管理或網路隔離問題，造成的後果也會被同步放大。

真正需要防範的，因此不是科幻電影式的AI突然失控，而是企業把能力很強的模型接上真實世界系統，卻沒有把權限邊界設好。

AI模型愈強，安全工程的重要性就愈高。未來企業導入AI代理時，「模型能做什麼」之外，更重要的問題恐怕是「模型到底被允許做到哪裡」。

（圖片來源：AI生成）