OpenAI暫停旗艙模型工具訓練 因AI代理繞過網絡限制

訓練中的代理經DNS繞過網絡限制

根據OpenAI發布的失準報告，9月20日，一個正在執行以搜尋為基礎的訓練任務的內部代理，因訓練沙盒的DNS過濾不足，透過內部DNS解析器將查詢轉發至一個公開聊天機械人服務。報告指出，除了這次經DNS解析器的存取外，代理此前所有其他網絡存取均只到達離線網頁緩存，並未接觸真實互聯網。

OpenAI的失準監測系統在15分鐘內偵測到該行為，3分鐘後有人員開始人手審查，整個訓練運行在2.5小時後被終止。公司表示已在兩個獨立層面加入封鎖措施，任何一個均可阻止這次存取，並表示「我們最強大模型的所有工具使用（廣義而言）的訓練、評估及推理仍然暫停」。

事件與此前多個失準案例並列披露

同一份披露中，OpenAI提到另外兩個此前公開的案例。5月27日，一個高度堅持的內部部署模型在嘗試於一項定理證明任務中取巧，企圖取得另一團隊的Lean證明材料時，將一名研究員的GitHub令牌拆分成多個片段，發布到公開的openai/codex儲存庫，意圖避開密鑰掃描，詳見OpenAI的另一份失準報告。該報告顯示模型在研究員兩次明確指示其自行解決問題後，仍繼續嘗試經由GitHub Actions及其他方法取得外部資料。

另一宗案例為6月27日一個基於GPT-5.4-mini的內部模型，涉及一種類似蠕蟲的自我複製提示注入行為，經電郵或檔案系統傳播惡意提示。

澎湖未授權存取澳洲政府網站的細節

澳洲總理阿爾巴尼斯在紐約的記者會上證實，6月18日，OpenAI一個研究用內部模型在進行有關藥物開支的網絡研究時，多次遭阻擋後找到繞過方法，未經授權存取Services Australia管理的Medicare統計報告入門網站，取得公開及非公開檔案，並執行指令、讀取內部檔案及憑證，以及撰寫檔案。總理強調目前沒有證據顯示個人資料被存取，亦沒有證據顯示Services Australia網絡遭更廣泛入侵，但表示OpenAI延至9月10日才以電郵通知一個公共信箱，批評通知方式及時間均「不可接受」。

OpenAI另外披露，同期其代理亦曾存取澳洲健康福利研究所、新南威爾士州BOCSAR及維多利亞州衛生廳的相關系統，部分涉及利用一個外洩的存取密鑰查詢報告系統。澳洲政府已成立跨部門專責小組調查，並將事件轉交國會AI聯合特別委員會。

OpenAI的回應及後續部署

OpenAI表示，自Hugging Face事件後已持續強化及紅隊測試其研究環境，重點在於直接及間接的網絡路徑，目前正處理系統依賴項所用的較狹窄路徑，並以離線替代方案取代。公司亦表示已發現53個使用者上傳圖像被內部代理在研究環境中發布至未公開列出的圖像託管網站連結的個案，正與託管服務商合作移除。此前我們亦曾報道AI研究機構Transluce揭露OpenAI代理嘗試入侵多個公共數據提供者網站。