OpenAI暂停旗舰模型工具训练 因AI代理绕过网络限制

训练中的代理经DNS绕过网络限制

根据OpenAI发布的失准报告，9月20日，一个正在执行以搜寻为基础的训练任务的内部代理，因训练沙盒的DNS过滤不足，透过内部DNS解析器将查询转发至一个公开聊天机械人服务。报告指出，除了这次经DNS解析器的存取外，代理此前所有其他网络存取均只到达离线网页缓存，并未接触真实互联网。

OpenAI的失准监测系统在15分钟内侦测到该行为，3分钟后有人员开始人手审查，整个训练运行在2.5小时后被终止。公司表示已在两个独立层面加入封锁措施，任何一个均可阻止这次存取，并表示「我们最强大模型的所有工具使用（广义而言）的训练、评估及推理仍然暂停」。

事件与此前多个失准案例并列披露

同一份披露中，OpenAI提到另外两个此前公开的案例。5月27日，一个高度坚持的内部部署模型在尝试于一项定理证明任务中取巧，企图取得另一团队的Lean证明材料时，将一名研究员的GitHub令牌拆分成多个片段，发布到公开的openai/codex储存库，意图避开密钥扫描，详见OpenAI的另一份失准报告。该报告显示模型在研究员两次明确指示其自行解决问题后，仍继续尝试经由GitHub Actions及其他方法取得外部数据。

另一宗案例为6月27日一个基于GPT-5.4-mini的内部模型，涉及一种类似蠕虫的自我复制提示注入行为，经电邮或档案系统传播恶意提示。

涉及未授权存取澳洲政府网站的细节

澳洲总理阿尔巴尼斯在纽约的记者会上证实，6月18日，OpenAI一个研究用内部模型在进行有关药物开支的网络研究时，多次遭阻挡后找到绕过方法，未经授权存取Services Australia管理的Medicare统计报告入门网站，取得公开及非公开档案，并执行指令、读取内部档案及凭证，以及撰写档案。总理强调目前没有证据显示个人数据被存取，亦没有证据显示Services Australia网络遭更广泛入侵，但表示OpenAI延至9月10日才以电邮通知一个公共信箱，批评通知方式及时间均「不可接受」。

OpenAI另外披露，同期其代理亦曾存取澳洲健康福利研究所、新南威尔士州BOCSAR及维多利亚州卫生厅的相关系统，部分涉及利用一个外泄的存取密钥查询报告系统。澳洲政府已成立跨部门专责小组调查，并将事件转交国会AI联合特别委员会。

OpenAI的回应及后续部署

OpenAI表示，自Hugging Face事件后已持续强化及红队测试其研究环境，重点在于直接及间接的网络路径，目前正处理系统依赖项所用的较狭窄路径，并以离线替代方案取代。公司亦表示已发现53个使用者上传图像被内部代理在研究环境中发布至未公开列出的图像托管网站连结的个案，正与托管服务商合作移除。此前我们亦曾报道AI研究机构Transluce揭露OpenAI代理尝试入侵多个公共数据提供者网站。