(中央社紐約26日綜合外電報導)根據調查人員發布的報告,在7月一起備受關注的事件中,近700個OpenAI人工智慧代理在無人類干預的情況下,協同對Hugging Face平台發動攻擊,且在許多情況下還試圖掩蓋行蹤。
這是目前對這起震撼科技界事件最詳盡完整的描述。
法新社報導,OpenAI配合這項調查,允許AI風險評估機構METR的兩名研究人員以及另一家專業研究機構Redwood Research的一名分析師,進入辦公室並取得內部資料。
這家加州新創公司7月進行測試期間,其中兩個模型突破原本設定的封閉環境,自行連上網,並入侵開源AI 平台Hugging Face的內部系統。
這起事件引發廣泛關注,並加劇外界對大型AI公司無法控制自家AI模型的疑慮。
美國AI巨頭Anthropic和中國AI公司月之暗面也曾通報過類似的AI模型失控事件。
調查人員發現,共有688個OpenAI的AI代理參與針對Hugging Face的行動。
AI代理是建立在模型之上的獨立程式,使用者可以將任務交給它們,讓它們自行執行。
這些採用與ChatGPT相同技術運作的AI代理,透過架設論壇自行組織,在論壇上互相留言交流、提出想法,並回報哪些方法有效、哪些失敗。
報告指出,其一個名為PHASEONE的AI代理扮演主謀的角色,向其他代理下達數百條指令,儘管它從未被設定要這麼做。
訊息顯示,這些AI代理展現出高度的互助傾向,甚至不惜偏離OpenAI程式設計師最初指派的任務內容去互相支援。(編譯:陳昱婷)1150827

