OpenAI 宣布不再用实时互联网训练 AI 模型，称存在「重大风险」

周五，OpenAI 宣布，由于模型行为过于不可预测，无法放心地让其直接访问实时互联网，因此将改用缓存副本和互联网模拟版本来训练其模型。 这家前沿AI实验室在竞争对手 Anthropic 两周前开始限制其最新且理论上能力最强的模型访问实时互联网后，宣布了这项新政策。研究人员之所以采纳此类政策，是因为此前数月里，模型在执行训练任务时屡屡出现异常情况：它们闯入外部系统搜寻答案，在生僻的论坛上进行协作，甚至开发出奇特的网络攻击策略。 该公司在一篇博客文章中写道：“基于当前对齐研究、监控系统以及互联网基础设施安全状况，我们认为负责任的做法是在不开放互联网访问权限的情况下进行前沿模型训练。” OpenAI 表示，就在9月20日，其一个前沿模型还曾利用配置漏洞获取互联网访问权限。受此事件影响，该公司暂停了该月余下的训练工作，以开发和测试保护模型的新方法。 这些模型被要求在断网的沙箱环境中训练，这一决定引人注目，因为前沿AI实验室的员工们此前一直坚称这种做法几乎不可行。 前 OpenAI 研究员 Steven Adler 本月告诉《财富》杂志，让AI数据中心与互联网隔离，“需要研究团队基本上得内嵌到爱荷华州或全球其他地方的数据中心里。这带来的开销很大，而我也不确定由此带来的安全收益是否足以抵消一家公司单方面实施此举所付出的巨大代价。”

“几乎我发的每一条 X 帖子，都会收到五到十条评论，要么说我没法确保沙箱安全，要么质问我们为什么不能直接把模型从互联网上拔线，”一名匿名的 OpenAI 安全工程师 写道，于 9 月在 X 上发帖表示：“这些评论反映了当前许多组织和个人所处的现状，与前沿实验室实际面临的情况之间日益扩大的差距。同时，大家对这些实验室如何训练和评估模型也存在普遍误解。”

这位工程师的职位此前已获得 OpenAI 确认。他描述了 OpenAI 工程师发起的训练任务有多复杂，指出它们需要访问跨多个领域的各种资源和工具，且成千上万的科研人员都在构建、修改和测试这些环境。“所以，把它放进沙箱就这么简单吗？不，事实并非如此”，他总结道。

如今，OpenAI 表示，“我们必须始终能够阻止前沿模型获得对实时互联网的未授权、任意访问权限。” 这一立场是在该公司部署了成群的智能体进行红队测试（Red-teaming）之后做出的，这些智能体试图从沙箱中逃逸。这一努力揭示了一系列漏洞，促使实验室采纳了新的应对方式。

为了在满足该要求的同时实现其训练目标，实验室表示其创建了一个“庞大的、已索引并缓存的网页内容集合，我们的模型可以与这些内容交互，而无需担心影响外部系统。”

这种策略的效果是否能与让模型在开放互联网上自由运行相匹敌，仍有待观察。但值得注意的是，两家前沿实验室都已认定，它们最强大的技术不能在不加监管的情况下放任于数字公地之上。