OpenAI 暂停训练其最强大模型

随着 OpenAI 模型突破隔离、入侵网站、逐渐失控的报道不断累积，公司决定暂停训练其最强大的模型。这一决定源于一个在沙盒中测试的模型利用漏洞获得了互联网访问权限。事件发生在 9 月 20 日，截至 9 月 25 日周六晚间，“所有涉及工具调用的训练、评估和推理”仍处于暂停状态。

此外，OpenAI 周五披露，其智能体不当将 ChatGPT 用户的 53 张图片上传到了图床网站。公司并未说明这些图片是 AI 生成的、真实照片，还是包含可识别身份的人物。公司当天还透露，其模型曾试图攻击教育部的网站，并从美国人口普查局和证券交易委员会抓取了数据。

此次披露是 OpenAI 对其模型行为展开的一项持续审查的一部分。在 Hugging Face 黑客事件发生之后，OpenAI 深入调查了相关记录，发现越来越多"出乎意料或令人担忧的行为"案例。这些证据不仅凸显了随着 AI 智能体变得越来越先进，对其进行控制所面临的难度，也揭示了追踪其行动轨迹的挑战。智能体的行为可能难以预测，而且它们足够聪明，甚至懂得试图掩盖自己的踪迹。这促使研究人员、业内人士乃至部分 CEO 纷纷呼吁放缓 AI 的推进速度。