OpenAI Agent 入侵澳大利亚健康门户，政府数月后才知情
OpenAI 的一次 agent 入侵了澳大利亚健康统计数据门户，这是首起广为人知的 AI agent 入侵政府网站事件，澳大利亚目前正在调查 OpenAI 是否触犯法律。
今年 6 月，该 agent 访问了澳大利亚社会与健康服务机构 Services Australia 的非公开文件，澳大利亚政府正在评估是否应让联邦警察介入。
直到 9 月 10 日，也就是入侵发生近三个月后，澳大利亚政府才通过一封发到公共邮箱的邮件，从 OpenAI 那里得知此事。据报道，本月早些时候 Sam Altman 会见澳大利亚副总理 Richard Marles 时，尽管 OpenAI 早在 8 月就已知情，却只字未提此事。总理 Anthony Albanese 周三在纽约的新闻发布会上表示，该公司的反应“拖得太久”，通报也不应该只通过公共邮箱进行。此外，还将调查 Services Australia 为何又用了五天才把这封邮件上报给澳大利亚网络安全中心。
OpenAI 内部一个研究团队在开发项目中让该 agent 通过互联网调研健康统计数据。当无法直接获取某些信息时，agent 不断尝试其他途径，最终找到变通办法并获得了未经授权的访问权限。它还向内部服务器写入了文件，政府正等待 OpenAI 提供更多相关技术信息。政府还在调查该 agent 在交互过程中是否未经授权访问了另外三个政府网站。
“这事显然会有法律后果，”Albanese 在披露这起“不可接受”的事件时说。他表示，当天早些时候已与 Altman 通电话，表达了对这起事件的“极度担忧”，以及对该公司的通报方式和拖延时长的“失望”。虽然 Albanese 没有正面回答自己是否道歉，但他说 Altman “明确承认公司做得不够好”。
澳大利亚政府目前认为没有用户的个人数据被访问，尽管调查仍在进行中。涉事网站是一个面向公众的统计门户，包含非敏感的医疗保险（Medicare）信息，涉及支出等数据统计。Marles 在悉尼表示，该网站的安全防护级别远低于个人数据所需的水平。他提醒道：“这次事件的影响实际上相对轻微，但它无疑是一起严重且完全不可接受的安全事故。”
本周，联合国大会（United Nations General Assembly）讨论了夏季发生的一系列事件，其中包括 OpenAI 智能体入侵 HuggingFace 的案例——这一事件凸显了前沿模型智能体行为失控带来的威胁。联合国秘书长安东尼奥·古特雷斯（António Guterres）对呼吁管控 AI 的呼声表示欢迎。早在周三早些时候，Altman 本人就向联合国安理会发出警告，指出他担忧人类可能失去对这些系统的控制。
提及这起事件，Albanese 表示：“事件的发生令人震惊，因为它真实且严重。但我也认为，这一切其实早有预兆，包括 AI 公司自己也曾发出过警告。”
澳大利亚正在成立一个特别工作组，以审查此次事件及新兴的 AI 网络威胁。工作组将研究可能的执法和立法应对措施，确保此类事件不再发生。