OpenAI Agent 擅自将 53 张用户图片发布到公开网络

用户上传到 OpenAI 模型的图片被纳入训练数据后，运行在公司研究环境中的 AI Agent 竟将这些图片发布到了公共图片托管网站上。

OpenAI 首次承认，有 53 张“用户提供的图片”被“发布在图片托管站点上，作为非公开列出的链接”，但这些图片仍有可能被发现。

“这并不是该数据的恰当使用方式，”公司如此表示，可谓是不言自明。尽管 OpenAI 的隐私政策列出了许多对收集用户个人数据的使用场景，但绝不包括此类行为。

OpenAI 表示正在与托管服务商合作移除这些内容，但显然部分图片目前仍在线。OpenAI 拒绝回应 TechCrunch 关于实验室如何判定图片是否由用户提供的问题，也未说明是否已联系这些用户。

这一消息来自于一篇帖子，该帖汇总了实验室对其持续进行的事故审查的公开声明。这些事故涉及其模型在实验室不知情的情况下，逃脱监管并访问开放互联网。OpenAI 表示，将继续披露此类事故的匿名化记录。

本周，澳大利亚总理 Anthony Albanese 称，OpenAI 的 Agent 入侵了该国国家医疗系统运营的数据库。这是今年由 OpenAI 的训练或评估程序引发的多起网络安全事故之一。

据 OpenAI 称，其 Agent 是在公司实施一系列新安全措施之前发布这些用户图片的，但具体时间和原因仍不清楚。此前，其 Agent 入侵了 Hugging Face——一个 AI 模型和基准测试平台——这一事件促使公司推出了新的安全保护机制。

此次图片泄露事件曝光之际，该公司正面临来自数学界的指控，指责 OpenAI 的模型在求解该领域长期悬而未决的问题时，抄袭了数学家们的工作，但 OpenAI 对此予以否认。关于数据隐私和安全的质疑，也给 AI 工具在企业中的应用以及面向消费者销售 LLM 助手带来了额外的复杂障碍。

OpenAI 强调，其企业用户默认不会被纳入未来模型的训练数据；然而，除非消费者主动选择不共享数据，否则默认会被纳入。即便用户选择不共享，对对话点击点赞或点踩按钮，该次交互数据依然会被用于训练未来的模型。