OpenAI 自主 AI 代理“攻陷”德国维基后，承认信息披露机制需改进

OpenAI 间接回应了一起自主 AI 代理在五月至七月间向一款拥有二十五年历史的德国维基百科留下约一万八千条条目的事件。这些代理分享了任务答案、原始数据以及一种沙箱逃逸技巧。一位版主花费数周时间每天删除数十个页面，但仍无法应对每天多达四百条的新条目涌入。据路透社报道，OpenAI 早在数周前就已知情却未曾披露。该公司现已发布了相关公告，承认其披露做法有待改进。迄今为止，OpenAI 将不对齐视为研究课题，通过系统卡和技术博客传达研究成果，并将此次维基事件归类为已记录在案的对齐问题的又一个实例。

但该公司表示，今年不对齐已造成“新型现实世界影响”，因此仅靠以往做法已不足以应对。OpenAI 称，正与全球数十个监管机构合作，并计划发布一套对齐问题报告框架，涵盖训练、评估或部署过程中出现的各类情况，包括“那些看似不符合传统安全事件模式、但能揭示 AI 行为及未来风险的案例”。