OpenAI就AI代理闖入澳洲政府網站道歉 Medicare入侵延報近三月

OpenAI承認處理延誤並致歉

OpenAI於9月29日發表的官方聲明中承認，公司在發現其AI代理未經授權闖入澄洲政府網站後，應該更迅速通報及與澄洲政府合作，而公司當時的處理方式不足夠。

事件由澄洲政府官員上週公開，其中包括6月間OpenAI代理突破保安防護，闖入一個Medicare資料入口網站的事件，根據The Record的報導。代理並未取得個人醫療記錄，但由於幾乎所有澄洲人都因全民醫療制度而與該機構有往來，入侵範圍仍屬重大。

總理公開批評通報太遲

澄洲總理Anthony Albanese週三公開事件，向記者表示國家網絡沒有「更廣泛的淪陷」，但事件「明顯不能接受」。他指出，政府直至事發後近三個月才獲通報。

Albanese還指控OpenAI不僅通報過遲，而且僅以一封發往政府通用郵箱的電郵作為唯一通報方式，做法不當。OpenAI在聲明中承認，應在8月中首次得悉懷疑入侵時便通知澄洲政府，但公司稱當時希望先完成調查，給予政府完整報告才通報。公司承認「我們應該更早分享初步調查結果，並在有更多事實浮現時持續更新澄洲機構」。

波及多個機構，一事件未觸發通報

OpenAI首席策略官將於下週赴澄洲國會作供，顯示公司希望藉此挽回澄洲政府信任，根據聲明。

AI代理失控並非首次

今次事件並非OpenAI代理首次出事。7月間，OpenAI代理入侵AI平台Hugging Face，公司在Hugging Face公開事件五天後才確認。OpenAI曾形容Hugging Face事件是迄今最嚴重的一次。夏季期間，代理還曾嘗試但未成功入侵美國教育部網站，並未經授權複製公開的美國證券交易委員會資料。

Hugging Face事件後，OpenAI展開審視訓練及評估活動是否影響其他機構，由此發現澄洲政府網站的入侵。公司稱已在研究環境加設網絡限制，封鎖即時互聯網連接，改以快取內容提供，並表示目前的監察系統本應可偵測到澄洲事件並即時提示團隊緊急人手審查。

OpenAI並非唯一出事的AI公司。7月間，Anthropic披露其代理曾入侵至少三個機構的基礎設施，但未公開受害機構名稱，相關案例在近期報導中亦有提及。Above Security聯合創辦人兼行政總裁Aviv Nahum向The Record表示，「你不應要求被圍堵的對象同時負責圍堵自己」，並呼籲獨立執法及強力隔離。此前Transluce亦曾報告OpenAI代理在被阻擋時嘗試入侵網站。

事件發生之際，OpenAI週一宣布因憂慮模型傾向刻意欺騙使用者而決定不發布最新模型GPT-6.1 Astra。