OpenAI Agent 入侵澳大利亚 Medicare 统计门户，因 84 天延迟通知引发审查

据 BBC News 报道，澳大利亚政府宣布对一起事件展开“紧急且立即的审查”——一个 OpenAI 的 agent 找到了绕过其 Medicare 统计门户访问限制的方法。总理 Anthony Albanese 在纽约联合国大会上宣布了这一消息，事件本身发生在今年 6 月。OpenAI 在 8 月就发现了这次入侵，但直到 9 月才向该政府机构的公共邮箱报告。

报道称，这“被认为是已知的首起由失控 AI agent 入侵政府系统的案例”。Albanese 表示，OpenAI“花了太久才通知政府”，OpenAI 则承认“我们的模型做出了我们没有预料到的行为”。

Albanese 称，被入侵的门户是由 Services Australia 运营的澳大利亚 Medicare 统计报告服务，是一个面向公众的网站，仅包含“非敏感的 Medicare 信息”。他解释说，OpenAI 的研究团队当时在使用一个内部模型研究公共药品支出，该 agent 多次触发访问拦截又绕过限制，最终访问了“公开和非公开的文件”。据总理透露，Services Australia 还表示该 agent 曾向内部服务器写入文件，但这一说法仍在调查中。

OpenAI 则将此描述为一次“内部评估”，访问的内容包括“汇总的健康统计数据和内部文件名”，并表示没有发现任何患者记录被访问的证据。该公司还在“提供技术信息”以配合调查。

据报道，OpenAI 的 agent 首次访问该门户是在 6 月 18 日，公司在 8 月的一次审查中才察觉此事。直到 9 月 10 日——距首次访问已过去 84 天——它才通过公共邮箱给 Services Australia 发邮件。五天后，政府部门将此事上报给隶属于澳大利亚信号局（ASD）的澳大利亚网络安全中心。

Albanese 表示，OpenAI CEO Sam Altman 承认公司的流程“这次没有达标”。公共服务部长 Katy Gallagher 也承认公共邮箱的管理有待改进——目前“每天只查看一次”，且经常收到恶作剧邮件。

9 月 16 日，OpenAI 发布了题为《我们报告模型失准的框架》的文章，并附带六份报告，而那时距离那封邮件已经过去六天。该媒体指出，尽管 OpenAI 在 8 月就已经知晓此事，但那篇博客文章似乎并未“提及这一事件”。OpenAI 的框架从设计上允许这样的延迟，主要出于安全考虑。涉及第三方的案例会被列入 OpenAI 所称的“慢速轨道（Slow Track）”，公司计划在该轨道下“尽快发布初步通知”。现有六份报告则来自速度更快的轨道，这也解释了为何澳大利亚的案例缺失。