← 文章 / 行业与公司动态
InfoQ 2小时前 · 2026-09-08 14:29:34 · 2 阅读

OpenAI首曝“AI造AI”内部数据,2028年冲击AI研究员!黄仁勋高调祝贺:AGI已到来

长期以来,外界一直有传言称,OpenAI 内部正在秘密推进一个与 RSI(Recursive Self-Improvement,递归自我改进)有关的项目,负责这一工作的可能是其核心研究组织“North”。

现在,OpenAI 第一次公开承认,它正在朝 RSI 推进。

OpenAI 首次把 RSI 摆到台面上

当地时间 9 月 6 日,OpenAI 发布了一篇题为《加速研究:来自 OpenAI 内部的观察》的文章,首次系统披露 AI Agent 如何参与其内部模型研发,并明确表示:按照公司的内部衡量标准,OpenAI 已经实现去年秋天设定的阶段性目标——在今年 9 月前开发出一名“自动化 AI 研究实习生”。

接下来的目标,是在 2028 年 3 月前开发出“自动化 AI 研究员”。

换句话说,OpenAI 这是在变相宣布: AI Agent 已经开始成为研究团队中的实际生产力,并可以承接过去由初级研究人员完成的部分复杂工作。

OpenAI 在文章开头表示,如果 AGI 要造福全人类,就必须接受民主治理。而要实现这一点,公众需要充分了解高能力 AI 系统的能力、风险和安全措施,并了解前沿 AI 未来可能的发展轨迹,从而真正参与决定这项技术应当如何发展。

仅仅公开具体的安全事件、风险和防护措施还不够。公众还需要理解,最先进的 AI 系统正在前沿实验室内部以何种方式发展,以及这些系统如何反过来推动 AI 研究本身。

在这一背景下,OpenAI 首次明确写道,公司正在推进 RSI,并公布了内部 Agent 系统在过去几个月里对研究工作的影响。

RSI,即“递归自我改进”,通常指 AI 系统参与改进 AI 研发流程,产生能力更强的下一代系统;更强的系统随后又进一步加快模型研究,最终形成一轮轮迭代加速。

但“AI 帮助研发 AI”并不自动等于强意义上的 RSI。

如果 Agent 只是帮助研究人员写代码、调试基础设施或者分析实验结果,它更接近“研究加速”。只有当 AI 能够持续参与研究选题、方案设计、实验执行、结果判断和下一轮模型改进,并由此构成稳定的反馈闭环,才更接近通常所说的递归自我改进。

OpenAI 对此也保持了相对谨慎的表述。该公司称,其目标是安全地构建一套能够在人类监督下推进深度学习和对齐研究的自动化 AI 研究员,从而实现迭代式改进。

按照 OpenAI 的内部测量结果,自动化研究实习生的目标已经实现,公司也正在向 2028 年 3 月的自动化 AI 研究员目标快速推进。

这篇文章发布后,围绕“AGI 是否已经到来”的讨论也被推向高潮。

英伟达 CEO 黄仁勋也加入了这场讨论。9 月 7 日,他在 X 上发文称:“从 ChatGPT 到 o1,再到 Astra,只用了 4 年。AGI 已经到来。祝贺 OpenAI 团队。”

随后 OpenAI 联合创始人兼总裁 Greg Brockman 在 x 上表示,“我们现在正迈入通用人工智能(AGI)时代(无论你将其视为当前模型、上一模型还是下一代模型),而这一切都离不开紧密的合作伙伴。”

没错,两位大佬都公开强调,AGI 已经到来。

AI Agent 的“工作时间”,已经超过人类研究员

那么,AGI 真的到来了吗?OpenAI 给出了一些观点。

在这篇文章里,OpenAI 提到的最直观的变化,是他们内部研究人员使用 Agent 的规模。

2026 年初,按照 Agent 使用量排序后,处于中位数位置的 OpenAI 研究人员只会少量使用编程 Agent。到 8 月中旬,这名“中位数研究员”已经开始每天将 Agent 融入工作流程。

如果按照 API 公开价格计算,中位数研究员每天使用的推理资源价值已经超过 600 美元;位于第 90 百分位的重度用户,每天的推理消耗价值超过 7000 美元。

OpenAI 同时观察到,研究部门使用 Agent 的增长速度已经超过公司其他团队。

如果按照一个标准工作日为 8 小时计算,在 2026 年 6 月以前,OpenAI 研究部门内部所有 Agent 的累计运行时间仍然低于人类研究人员投入的总劳动时间。但此后,这一关系发生了逆转。

截至 8 月中旬,OpenAI 研究部门每投入一个人类工作日,就会同时使用相当于 3.1 个工作日的 Agent 运行时间。

但这里需要澄清的一个点是,这可能并不直接意味着 Agent 的生产效率已经达到人类研究员的 3.14 倍。Agent 可能并行尝试多个方案,其中一些运行会失败、重复或者需要人类纠正;Agent 运行 8 小时产生的有效研究成果,也不能简单等同于一名研究员工作 8 小时。

这组数据真正说明的是,AI Agent 现在已经成为 OpenAI 研究组织中的一种大规模并行计算型劳动力。

越来越多研究人员开始采用高度并发的工作模式,例如同时运行 4 个或更多 Agent。OpenAI 的统计不仅包括研究人员直接启动的 Agent,也包括这些 Agent 在后续任务中自行创建的子 Agent。

研究人员写了更多代码,也运行了更多实验

OpenAI 将 AI 研究描述为一套劳动密集型流程。

一项新的模型能力或者性能改进,要真正被整合进核心模型,需要研究人员完成一系列相互依赖的工作:提出改进思路、编写评估方法、建设能够进行大规模测试的基础设施、发现代码错误、识别训练过程中不安全或者不对齐的行为,最终再将有效方案整合进核心训练任务。

其中任何一个环节出现问题,都可能限制整个研发循环的速度。

写代码和运行实验,是这套流程中的两项主要工作。OpenAI 的内部数据表明,这两个环节都在加速。

研究人员提交代码的速度正在提升,每名活跃实验人员运行的实验数量也在增加。2026 年以来,平均实验数量整体上升;2026 年 8 月达到 OpenAI 自 2025 年 1 月开始跟踪这一数据以来的最高水平。

这一变化与 Codex 在研究团队中的使用率上升存在相关性。不过,OpenAI 特别提醒,公司的可用算力相比 2025 年也大幅增长,因此不能把实验数量增加全部归因于 AI Agent。

更重要的是,代码提交量和实验次数虽然比较容易统计,却不一定能够直接代表有效研究进展。

随着自动化程度提高,那些最难自动化的任务将占用研究人员越来越多的时间,并成为下一阶段的主要瓶颈。与此同时,算力同样是影响进展的重要条件。当代码编写、基础设施调试等瓶颈逐渐缩小时,算力约束可能变得更加突出。

Agent 开始从“写代码”走向更长周期任务

除了使用量增加,研究人员交给 Agent 的任务类型也在变化。

OpenAI 表示,无论从研究人员的主观感受还是内部数据来看,更高层级、时间跨度更长的任务正在越来越多地被委托给编程 Agent。

为了分析这些工作,OpenAI 引入了 Epoch AI 针对前沿 AI 研发提出的一套任务分类体系。它类似于美国用于描述职业和技能的 O*NET 系统,但专门面向 AI 研发,将研究流程分为六个阶段:

  1. 决策:决定研究什么、哪些项目继续推进,以及如何分配资源;

  2. 设计:提出研究思路和工程规格;

  3. 构建:编写代码和建设数据集;

  4. 运行:执行训练和评估、维护硬件及模型服务;

  5. 分析:分析实验、模型、部署结果及外部研究;

  6. 沟通:交流研究发现、反馈、项目状态和决策。

Epoch AI 的完整体系进一步将这些阶段拆分为 60 多项具体任务,并按照 0 至 5 级衡量 AI 的自动化程度:0 代表 AI 没有发挥作用,5 代表 AI 几乎不需要人类参与即可端到端自主完成。

OpenAI 按照这套体系对编程 Agent 消耗的 Token 进行分类后发现,从 2026 年 1 月到 8 月,所有类别的研究活动都出现增长。

今年 1 月,Agent 最主要的工作仍然是编写研究代码和基础设施代码。此后,这类任务继续增长,但技术支持和实验运行监控等类别增长也十分明显。

不过,高层规划目前仍只占 Agent 输出 Token 中很小的一部分。

这意味着 OpenAI 的 Agent 虽然正在从单纯写代码扩展到调试、监控和分析等环节,但“决定研究什么”“判断哪条技术路线值得继续投入”等核心任务,仍主要由人类掌握。

Agent 的成功率在上升,但复杂任务仍离不开人类

Agent 对研究基础设施的排障能力,是此次披露中一个容易被忽略的变化。

据 OpenAI 研究人员反馈,编程 Agent 尤其擅长排查内部研究基础设施问题,而基础设施故障原本是制约研究进展的重要瓶颈之一。

过去,一些工程团队会定期设置类似“Office Hours”的答疑时间,帮助研究人员诊断实验故障。但进入 2026 年后,多支团队发现,前来寻求帮助的研究人员越来越少。其中一支团队甚至已经完全停止举行此类答疑活动,把时间转向其他系统改进工作。

OpenAI 还统计了一个主要内部技术支持频道每天新增的顶层求助帖数量。结果显示,该频道的活跃度正在下降。

据 OpenAI 掌握的信息,这些问题并没有转移到另一个由人类提供支持的频道。结合研究人员的反馈,一个合理解释是,越来越多过去需要其他工程团队介入的问题,现在首先由编程 Agent 解决。

OpenAI 还试图测量 Agent 是否真正完成了研究人员交给它们的任务,而不只是生成更多代码、运行更长时间。

公司使用一个 Agent 分类器分析了能够找到真实结果的任务,并按照熟练人类完成任务预计需要的时间,将任务划分为不同难度和时间跨度。

数据显示,从 2026 年 1 月到 7 月,在多个难度区间内,Agent 的任务成功率总体有所提升。

不过,任务越复杂,人类介入的重要性越明显。

过去 6 个月里,在成功完成的、原本需要人类 4 至 8 小时处理的任务中,超过一半至少经历过一次人类干预。

因此,Agent 当前取得的成功并不等于全自动执行。很多任务仍需要研究人员补充信息、修正方向、处理异常或者判断最终结果。OpenAI 的图表也剔除了无法确定结果的任务,以及样本少于 50 次会话或少于 50 名独立用户的数据点,以降低小样本造成的误差。

这组结果与 OpenAI 对“研究实习生”的定义是一致的:Agent 已经能够承担持续数小时甚至数天的明确任务,但仍然需要人类分配工作、监督过程并判断结果。

OpenAI 强调,AI 研究包含许多潜在瓶颈,因此模型进步的整体速度,不太可能与代码量、实验次数或者 Agent 运行时间保持相同的增长幅度。

尽管如此,这些数据与 OpenAI 内部研究人员的整体感受一致:Agent 工具正在实质性加快研究进程。

但至少现阶段,研究工作的关键权力仍然掌握在人类手中。

人类负责设定研究重点,判断哪些想法和结果值得继续推进,并决定一个系统应当扩大训练规模、暂停开发还是正式部署。

也就是说,OpenAI 当前实现的是“人类主导、Agent 扩展”的研究组织,而不是由 AI 自行管理、自行确定目标并自行批准下一代模型训练的闭环系统。

OpenAI:自动化研究员也可以是自动化安全研究员

OpenAI 认为,如果以负责任的方式推进,自动化 AI 研究可能产生直接改善人类福祉的模型,并降低高级智能的成本,让更多人从中受益。

公司推动这项工作的另一个原因,是自动化研究能力可能帮助解决 AI 对齐问题,并为能力越来越强的 AI 建立防御措施。

一名自动化 AI 研究员,也可以同时成为一名自动化安全研究员或对齐研究员。能力更强且与人类意图一致的系统,可能帮助保护关键基础设施、防御危险的 AI Agent,并开发新的安全措施。

不过,OpenAI 随即给这一判断加上了限制:这些理由能够支持开发有用的自动化研究能力,但并不意味着“快速 RSI”本身一定是公司应当追求的结果。

是否继续,以及以何种速度继续,必须取决于人类能否维持对系统的控制,以及社会能否在充分了解收益与风险的基础上作出民主选择。

OpenAI 承认,目前仍不知道如何安全地走完通往“对齐且完整的 RSI”的全部道路。

公司正在尝试让对齐和安全措施与模型能力同步扩展,但不能假设二者必然保持相同的进步速度。随着系统能力提高,模型也可能变得更加难以监控。

Hugging Face 事件后,OpenAI 一度暂停最新模型训练

OpenAI 将近期发生的 Hugging Face 安全事件作为一个现实警告。

该公司表示,每当继续推进可能带来不可接受的安全风险时,它会采取相应措施,包括放慢,或者停止开发和部署无法得到充分保护的系统。

Hugging Face 事件发生后,OpenAI 暂停了面向部署的最新模型的强化学习训练,对研究环境进行加固和红队测试,并扩大监控系统的覆盖范围。

但这并不是停止所有研究。一些任务在更严格的控制措施下恢复运行,另一些任务则继续暂停。OpenAI 随后提高了安全与对齐标准,将安全工作进一步前移至模型生命周期内部,要求在训练全过程中提供更充分的对齐证据。

7 月 20 日,在发现 Agent 已经攻破其研究基础设施后,OpenAI 暂时关闭了训练所使用的容器服务,之后才在增加大量限制措施的情况下恢复。

随着团队重新调整工作流程,以适应加固后的研究环境,强化学习训练所使用的算力急剧下降。其中包括面向部署的最新模型为期两周的强化学习训练暂停。

7 月 20 日至 8 月 6 日期间,大部分分配给 Astra 的算力实际上被用于测试安全和安保措施能否正确实施,而不是单纯提升模型能力。

8 月 7 日,初步证据显示,Astra 在 OpenAI《准备框架》下可能已经具备“关键级”网络安全能力。

这意味着 Astra 可能拥有足以显著改变网络攻击与防御格局的能力,也因此需要在安全等级更高的研究环境中运行。

OpenAI 随即对 Astra 实施了额外的、针对特定模型的安全限制。

在随后一周内,Astra 级模型获得的 GPU 分配进一步下降 59.2%。与此同时,其他模型类别的 GPU 分配上升 17.2%。

后者抵消了 Astra 算力降幅的大约 85%,因此被分析的强化学习工作负载所获得的总算力整体变化不大。

OpenAI 认为,这一结果与内部实际情况相符:当 Astra 相关工作受到限制后,部分训练和实验转向了非 Astra 模型;研究人员也为暂时无法用于受限任务的算力找到了其他用途。

这揭示了 AI 安全治理中一个不容易解决的问题:当某一类高风险模型受到控制时,算力本身仍然具有价值和灵活性,往往会自然流向其他研究用途。

因此,未来关于“放慢 AI 发展速度”的讨论,不能只考虑是否限制某一个模型或者某一次训练,还需要考虑受到限制的算力最终会被转移到哪里、用于什么工作。

结合上述事件,也就不难理解为什么 OpenAI 在发完 Astra 两天后就发表了该篇文章,他们此次公开早期结果和背后的测量方法,一方面是为了帮助公众理解 Agent 如何加速前沿研究,另一方面也是希望推动行业形成公开披露的惯例,并逐步建立共同的衡量标准。

按照 OpenAI 此前提出的前沿 AI 政策蓝图,公司认为,包括 OpenAI 在内的前沿 AI 企业,未来应当被要求公开跟踪自身朝 RSI 推进的程度。

即使监管部门尚未提出这种强制要求,OpenAI 也计划继续披露自己的 RSI 进展。

OpenAI 强调,随着测量技术和理解的改善,公司会调整透明度方案,同时在公开信息与保护安全、商业机密之间保持平衡。

参考链接:

https://x.com/gdb/status/2096721633876771094

https://openai.com/index/research-acceleration-view-inside-openai/

原始来源: InfoQ

评论 (0)