谷歌称自我改进的 AI 仍遥不可及

谷歌工程师 Hayden Belfield 指出，尽管大量自动化工作已在展开，但具备自我改进能力的 AI 仍遥不可及。

Belfield 表示，Google DeepMind 尚未观察到由 AI 自身驱动的可量化的 AI 研究加速。这并不意味着重大自动化尚未发生：如今 AI 已编写超过 75% 的生产代码。但 Belfield 指出，约 88% 的代码变更仍需人工监督或审查，且所有变更在提交前都需经过人工复核。完全委托给 AI 处理的代码变更占比从 7.5% 上升至 11.9%。

任务越复杂、耗时越长，AI 独自处理的可能性就越低。在 1,389 次内部 Argon 智能体运行中，随着复杂度增加，无人工干预的成功率大幅下降。Belfield 称，人类在创造性研究、新颖实验设计、诊断细微的训练不稳定性以及长期规划方面仍不可或缺。对十二位 DeepMind 资深研究员的调研证实了这一规律：在定义明确且可验证的任务中自动化程度最高，而在开放式科学构思中最低。

在 DeepMind 内部基准测试 RE-Bench（包含 74 个现实 ML 工程任务）中，Argon 仅能解决其中约半数。这一比例虽远高于 Gemini 3.7 Flash 的 27%，但距离全自动化所需的近乎完美的表现仍有差距。

谷歌自身能力指数显示 AI 研究无加速迹象

为系统跟踪进展，该团队构建了涵盖 123 个模型和 92 个基准测试的通用能力指数（GCI）。Gemini 模型的能力正以每月约 0.1 GCI 分点的稳定速度增长，增速未见显著变化。团队认为，Gemini 4 Argon 略微高于趋势线，是源于算力与组织投入的增加，而非 AI 驱动的加速。

该团队目前将 AI 驱动的研究自动化带来的风险评估为低，但正在搭建相应的测量基础设施，以便持续追踪可能出现的加速迹象。

Belfield 的发现与近期研究结论一致，不过领域内并非人人都认同这一观点。包括 Geoffrey Hinton、Yoshua Bengio 以及 OpenAI 的 Jakub Pachocki 在内，20 多位 AI 研究者最近在一篇论文中警告可能出现"智能爆炸"。他们认为，AI 系统可能在几年内实现全部 AI 研发的自动化，把原本需要多年取得的进展压缩到短短几个月内完成。