对莫拉维克悖论的事实核查

检验莫拉维克悖论的事实

这句名言既不正确，也无实用价值

Arvind Narayanan2026年1月29日1721024分享

我开设了一个 YouTube 频道，旨在以常规技术视角分析 AI 的发展动态。本文基于我最近的一期视频，视频中我对莫拉维克悖论进行了深度剖析。这是一种被反复引用的观点，即对人类来说困难的任务对 AI 来说容易，反之亦然。

我的发现如下：

• 莫拉维克悖论从未接受过经验证的实证测试。（许多 AI 研究者，包括我熟悉并尊重的先驱，都将其作为既定事实反复提及，但这并不意味着我会无条件采信他们的说法！）

• 它实际上描述的是 AI 社区认为值得投入研究的方向。它无法预测哪些问题对 AI 而言容易，哪些困难。

• 该理论附带一个演化论解释，我认为这站不住脚。（AI 研究者在没有神经科学或演化生物学相关背景的情况下，习惯性地对大脑进行主观臆测。）

• 这种基于莫拉维克悖论的思维方式，既引发了恐慌（担心超级智能推理即将到来），又带来了虚假的安心感（如在机器人领域）。

• 为了适应 AI 的进步，我们不需要预测能力突破。由于新能力的普及需要漫长时间，这为我们提供了充足的反应窗口——尽管我们常常虚度光阴，最终陷入恐慌！

在这里观看完整论证，或阅读下文。

---

每周都有关于 AI 进展的新说法。我们该如何预判下一步会发生什么？AI 能预测犯罪吗？能写出获奖小说吗？能入侵关键基础设施吗？我们最终是否能在家里拥有能叠衣服、装洗碗机的机器人？

AI 的进步会给你的工作带来什么影响？又会如何改变社会结构？面对这些不确定性，实在让人焦虑。要是能预测哪些新的 AI 能力即将出现、哪些在可见的未来依然难以攻克，那该多好。 回顾历史，AI 研究者对 AI 能力发展的预测一向不太靠谱。我们其实一直没有一套原则，能说清哪些任务对 AI 来说容易、哪些困难。 不过，倒是有这么一条——莫拉维克悖论（Moravec's paradox）。它指的是一个观察结果：让计算机做人类觉得难的事（比如数学和逻辑）很容易，而让它们做人类觉得容易的事（比如看懂世界或走路）却很难。 这个说法出自 Hans Moravec 1988 年的著作《Mind Children》。他是一位机器人研究者，过去是，现在也是。他写道： 让计算机在智力测验或下跳棋上达到成人水平相对容易，但要赋予它们一岁幼儿在感知和行动上的能力，却困难重重，甚至不可能。 在人工智能早期，研究者聚焦于国际象棋等推理任务，因为当时认为这是最难的问题，也是人类独一无二的能力所在。但有趣的是，如果你想造一台能击败人类特级大师的机器人，决定走哪一步棋其实是简单的部分，真正困难的是机械臂在棋盘上完成这些动作。这一点如今已是常识，所以莫拉维克悖论听起来相当有道理。 如果莫拉维克悖论成立，那 implications 会非常惊人：想知道下一个被自动化的 AI 能力是什么，只需看它对人类有多难就行。于是，科学研究会在叠衣服之前被自动化，诸如此类。 但问题在于——莫拉维克悖论从来没有被认真核实过。尽管那些播放量数十万的视频和 TED 演讲都把它当成事实反复传播，当我深入挖掘这个所谓悖论背后的证据时，却发现了一些令人意外的东西。

本文探讨为何关于该悖论的理论与证据都站不住脚。接着，我会解释为何对 AI 难易任务的简单预测误导了 AI 研究者和科技领袖，一方面引发过度恐慌，另一方面又给人虚假的安慰（这本身也是一个悖论）。最后，我将回答一个核心问题：如果我们不能依赖莫拉维克悖论，应该如何为 AI 的进步及其影响做准备？

订阅以获取从常规技术视角分析 AI 发展的文章。

Subscribe

支撑该悖论的证据并不可靠

我们如何验证莫拉维克悖论？可以抽样选取一系列任务，分别评估它们对人类和 AI 的难度，然后绘制图表。如果结果呈现类似下图的趋势，该悖论便得到证实。

但问题在于：我们应该选择哪组任务进行分析？当 AI 研究者声称莫拉维克悖论成立时，他们实际上已将关注范围局限于 AI 研究圈认为“有趣”的问题。

同时对人性和 AI 都容易的任务有无穷多，但它们在学术界毫无趣味可言。例如：判断图像亮度、玩井字棋？成千上万这类任务被程序员日常解决并编码进 AI 系统，人们对此通常也不会大惊小怪。

此外，还存在大量人类难以完成、且据目前所知 AI 同样难以完成的任务，比如识别潜在金曲、预测股价、破解尚未破译的古代文字，甚至建造戴森球。这些问题难到几乎没有实质进展，其中一些还吸引了不少劣质研究，结果往往很快被证伪。因此，这些问题也不太常成为讨论焦点。

事实上，计算机科学家已证明有数千个问题属于“NP 完全”范畴，这意味着我们有充分的数学理由相信它们对 AI 将永远困难，因此严肃的 AI 研究者通常不会去研究这些问题，而是转而攻克它们的近似解。

图表中的另外两个象限则截然不同。左上角是那些人类容易做、AI 目前却难以掌握的任务，例如踢足球，这对 AI 研究者极具吸引力。因为我们知道 AI 完全可以学会这些技能，只是尚未做到，所以它们是检验 AI 进步的绝佳指标。

右下角则是人类困难、AI 容易的问题，比如网络搜索，同样值得关注。这类能力能极大提升人类生产力。尽管在某些层面上它们“很简单”，但业界仍投入大量资源，致力于让网络搜索等工具尽可能高效、快速、低成本地运行。因此，针对这类任务的研究也是推动 AI 进步的重要引擎。

简单来说，当你审视所有可能任务构成的整体空间时，如果因为觉得不有趣而基本忽略了 2x2 矩阵中的两个象限，那么剩下部分自然会呈现出两个坐标轴之间的强负相关。

一个站不住脚的进化论论证

需要说明的是，AI 研究者青睐 Moravec 悖论，并不是因为它有实证依据，而是因为它附带一个听起来很有说服力的故事。Moravec 在他的书中给出了这样的解释：

人类大脑中庞大且高度进化的感觉和运动区域，编码了十亿年来关于世界本质以及如何在其中生存的经验。我认为，我们所说的推理这个刻意的过程，只是人类思维最表层的一层薄纱，它之所以有效，完全依赖于这套更古老、更强大、却通常是无意识的感觉运动知识。在感知和运动领域，我们人人都是天才的奥运选手，好到能让困难的事情看起来轻而易举。而抽象思维则是一项新技能，可能只有不到十万年的历史。我们还没有掌握它。它本身并没有那么难，只是我们做起来时显得很难。

接着，Moravec 称赞了 1970 年代诸如 STRIPS 这样的推理系统——他说“推理对 AI 来说很容易”时，脑子里想的就是这类东西。这些纯符号系统能解决的问题，不过是把积木按某种方式叠放在一起。

不过，自 STRIPS 等推理程序鼎盛时期过去半个世纪以来，AI 研究者已经汲取了大量经验。如今回头看，这些早期系统显得有些古旧。我们学到的教训是：符号推理仅在全封闭、规则完备且领域极窄的场景（如国际象棋）中效果良好。一旦将其应用于现实世界问题，其表现便会变得脆弱，极易偏离轨道。

过去几十年间，许多推理系统也遭遇了失败，例如 IBM 的 Watson。它们在特定演示中表现出色，但一旦脱离预设的训练场景，应用到现实环境中，便会失效。

如今，人们普遍认为，在开放式场景中进行推理需要常识知识。然而，按照莫拉维克悖论追随者的观点，常识恰恰是那些“对人类容易、对 AI 却很难”的领域之一。换言之，AI 推理其实并不简单。

事实也确实如此。要在法律或科学研究等开放式领域中，实现能替代人类专业知识的 AI 推理，至今仍是未解之谜。

如果我推测莫拉维克的进化论观点错在哪里，我认为原因在于：从进化角度看，推理或许是新生的，但它建立在动物大脑历经数亿年习得的能力之上。这一点莫拉维克也承认。但或许并不存在一种名为“抽象”推理的独立技能，它可以脱离上述基础设施而被单独习得。

简单化的模型如何误导了 AI 研究者和科技领袖

不幸的是，由于 AI 领域普遍存在“推理是一种独立的、对计算机而言很容易掌握的技能”这种误解，许多人深信 AI 即将在科学研究、企业运营甚至政府治理等领域超越人类。以我的经验来看，许多研究者倾向于将 AI 在国际象棋等封闭领域取得的成功，推广到上述开放式领域。

因此，AI 领军者承诺，向数据中心投入数万亿资金将带来治愈癌症及其他各种下游收益，却从未停下来思考这些投入如何转化为预期的产出。这也导致他们支持一些极端的政策，例如以牺牲人类科学家为代价投资 AI 科学研究，并警告政策制定者为白领阶层的大规模失业做准备。这还引发了人们的担忧：政客、首席执行官或将军等领导者将很快别无选择，只能将重要决策委托给 AI，因为 AI 在推理方面将超越人类。

也许如此……或者这全是个神话。甚至可能根本不存在一项名为“推理”的通用技能。

也许推理的局限实际上在于缺乏验证者。也就是说，与棋类推理不同，AI 无法在法律推理上变得那么强，因为 AI 无法编写数百万份法律文书并立即获得关于哪些是好、哪些是坏的准确反馈，就像 AI 在棋类中那样获取反馈。

也许这 partly 归因于现实世界知识的局限。也就是说，由于受限于世界上可用的医疗知识，AI 无法迅速在医疗推理上超越人类。

换言之，对人类推理构成限制的因素，同样也对 AI 的推理构成限制。从这个角度看，答案与生物学无关。

我许多文章的核心理念是：超人类 AI 推理是一个神话。当然，你不必接受这一点。但当你听到这些关于即将出现的超智能的预测时，理解 AI 领域许多人持有的底层心智模型是很有帮助的。而且，知道我们有五六十年的证据表明某项技能（如推理）对 AI 来说是容易还是困难，很大程度上取决于你谈论的是封闭领域还是开放领域，这绝对是有用的。

现在让我们看看硬币的另一面。由于莫拉维克悖论，某些 AI 能力被预测是困难的。最常见的例子是机器人技术。

正如人们说我们不必担心推理突破带来的失业和安全影响一样，他们也会说我们不必担心机器人技术突破带来的失业和安全风险。这是一个难题，因此进步不会在一夜之间发生。

可惜，这种安慰是靠不住的。我之前关于推理的看法可能是错的，明天也许就有突破。同样，这些机器人领域研究者的判断也可能是错的，突破也可能明天就到来。

事实上，AI 还有一个曾经的“难题”，过去常被用来解释 Moravec 悖论，那就是计算机视觉。现在没人再提它了，因为 2012 到 2013 年前后确实出现了突破：得益于深度学习，AI 在物体识别等任务上的表现大幅跃升。之所以拖了那么久，是因为突破需要用到 GPU，而把 GPU 用于 AI 的想法大约在那个时期才出现。

深度学习背后的科学思想其实在 1980 年代就已基本确立——早于 Moravec 出版他的著作——只是他当时还不知道。

结论：如果不是 Moravec 悖论，那该信什么？

Moravec 悖论这类经验法则之所以诱人，是有原因的：我们假设一旦 AI 能力出现突破，就会迅速产生失业等社会影响，所以必须未雨绸缪。

但事实并非如此。即便是突破性技术，从成功商业化到大规模落地也需要很长时间。而且突破性技术可能尤其落地缓慢，因为配套基础设施根本还没跟上。有一个著名的案例研究，讲的是电力为何花了 40 年才在工厂中取代蒸汽动力。

拿自动驾驶汽车来说，Waymo 早在 15 年多以前就开始在公共道路上测试了。

这项技术终有一天会成熟，并带来利与弊——这一点本没有什么好怀疑的。政策制定者本应早做准备，研究如何补偿那些可能利益受损的劳动者。

实际情况是，人们现在才渐渐意识到，这些汽车和货车已经驶上街头，并开始推动诸如禁止此类车辆的政