“苦涩的教训”提出者 Richard Sutton 给 LLM 扩展派泼冷水

要点

• 图灵奖得主、《苦涩的教训》作者 Richard Sutton 在新文章中指出，仅靠算力堆砌无法实现智能。AI 科学需要巧妙的新方法，而且“远未完成”。
• Sutton 此前就批评过单纯扩展大语言模型的局限，称合成数据是一个“大错误”，并呼吁构建拥有世界模型、能从自身经验中持续学习的智能体。
• 他认为，真实世界无限复杂，把人类专业知识当作瓶颈会阻碍真正的扩展。

“苦涩的教训”的提出者，给 LLM 扩展派也上了一课“苦涩的教训”。其他研究者也表示认同。

图灵奖得主 Richard Sutton 在最近的一篇文章中表示，仅靠堆算力无法实现智能。AI 科学需要巧妙的新方法，而且“远未完成”。这篇文章在 X 上的 AI 社区引发了广泛讨论，可见 Sutton 说到点子上了。

在他 2019 年那篇著名的《苦涩的教训》中，Sutton 认为能随算力扩展的通用方法终将胜过精心设计的人工方案。真正重要的是那些能随算力一同成长、而非依赖人类先入假设的思路。

Sutton 的立场并非新提出。在此前的表态中，他就批评过单纯扩展大语言模型的局限。他认为合成数据是一个“大错误”，因为真实世界无限复杂，任何对它的模拟都只是“管中窥豹”。把人类专业知识当作瓶颈，会阻碍真正的扩展。

他呼吁发展带有世界模型的智能体，让其能从自身经验中持续学习。Sutton 认为，现实世界的复杂度远超互联网文本所能捕捉的范围，而当前的语言模型在训练结束后便停止了学习。因此，我们需要一种在保留旧知识的前提下实现持续学习的机制。

LLM 备受审视

AI 研究员 Jerry Tworek 同样离开了包括 OpenAI 在内的几家主要 AI 公司，投身于探索新的 AI 路径。他将 Sutton 的最新言论置于具体背景中解读。Tworek 写道，“苦涩的教训”依然成立，但投入模型训练的算力越多，算法的重要性就越凸显。

有些算法具备扩展性，有些则走入死胡同，而扩展性的许多维度至今仍是未开垦的处女地。Transformer 扩展性的暂时成功，加上对“苦涩的教训”的误读，“诱使了一整代科学家走入歧途”。

AI 研究员 Jayden Teoh 提供了另一个视角。他表示，反复目睹“苦涩的教训”阻碍了学术研究，许多有前景的理念仅因偏离其核心精神便被摒弃。Teoh 认为，这并不是 Sutton 的错，而是人们对原话的误读。

Teoh 还指出，回过头来看，那些看似不符合“苦涩的教训”的理念，往往被更简洁、更通用的方法所取代。但他强调，这并不意味着那些理念是错的；它们恰恰是当时推动进步的关键。他呼吁研究界不要因为新出现的方法就立刻否定此前的工作。“一个理念不一定非要永久具备扩展性，才能对 AI 进步做出重要贡献，” Teoh 写道。

Sutton 呼吁新方法的声音与 Tworek 对盲目扩展 Transformer 的批评之间的张力，正体现在层出不穷的初创公司中。在最新的《前沿雷达》第 5 期中，我们追踪了 45 家押注于这些技术空白的 AI 新实验室。

Tworek 自己也在经营其中一家实验室 Core Automation，探索超越预训练和强化学习的其他学习算法。这些创始人的共同点在于：他们都相信会有更强大的 AI，但怀疑仅凭现在这套方法走不到那一步，Sutton 的 Oak Lab 也是如此。

仍有人押注 LLM 扩展

行业里的知名领袖看法则截然不同。OpenAI CEO Sam Altman 认为 LLM 的扩展远未到头，还批评 LLM 怀疑论者过于笃定扩展"做不到"什么，拖累了整整一代研究者。

他的证据是 OpenAI 最近有一个模型证伪了一条数学猜想，而数学家们此前久攻不下。他认为 world models 在机器人等领域确有价值，但数据显示进一步扩展 LLM 才是正道。

Anthropic CEO Dario Amodei 的观点类似，称扩展的进步是一道没有尽头的彩虹。不过作为两家整个技术路线都建立在这场押注上的 AI 公司的 CEO，Amodei 和 Altman 显然立场有所偏向。