未来留给我们的挑战有哪些？
未来留给我们的挑战有哪些？
我在 ICML 2026 的主旨演讲
Arvind Narayanan2026 年 7 月 13 日3392858分享上周，我有幸在首尔举办的国际机器学习大会（ICML）上发表题为《未来留给我们的挑战有哪些？》的主旨演讲。我主要探讨了随着 AI 能力不断提升，我们该如何适应这一广泛存在的焦虑情绪。演讲反响热烈，因此我已将带有轻度编辑转录稿的幻灯片放在这里。您也可以直接在本页下方查看，不过在线版本包含动画效果和可点击链接，整体体验更佳。
更新【2026 年 8 月】：ICML 已发布该演讲的视频。
我提出了三个论点。首先，"AI 作为常规技术”（AI as Normal Technology）框架是理解 AI 影响的有效且正确的视角，除非未来出现如递归自我改进（recursive self-improvement）之类的不连续性变革。其次，尽管我们应严肃对待递归自我改进，但实验室里达成的任何单一里程碑，都不至于突然导致所有人失业。最后，未来的工作将截然不同，需要大量的适应性调整。我分享了对此的看法，并以人类与 AI“协同超智能”（co-superintelligence）的愿景作为结语。
当下，AI 领域既令人兴奋，也让从业者们充满焦虑。我想正面谈谈这种焦虑：AI 将能胜任越来越多我们今天在做的工作，面对这样的未来，我们该如何准备？
我在普林斯顿大学带领一个团队，致力于推进 AI agent 评估的科学。我们试图超越“看，基准测试成绩又涨了”这类常见说法——大众往往误以为这些成绩意味着 agent 马上就要抢走我们所有的工作。
也许真会如此。但在研究中，我们试图弄清除能力之外还有哪些因素影响 AI 在真实场景中的落地，并把这种理解融入评估之中。
我更广为人知的成果，是与 Sayash Kapoor 合写的文章 AI as Normal Technology。它提供了一种思考 AI 中期前景的视角：我们该如何适应 AI，又该如何让 AI 适配社会和经济的需求。
我们一直在写文章讨论律师甚至记者该如何适应变化。但颇具讽刺意味的是，关于如何适应的考验，首先冲击的是我们自己。无论是软件工程还是 AI 研究本身，这些领域的 AI 能力无疑都在飞速提升。
我们如何应对当下这一刻，其意义远超本社区。全世界都在注视着。如果我们只是顺从接受，任由 AI 在未来接管大量工作，而不是划定清晰界限，我认为这必将引发比以往更强烈的针对 AI 的政治反弹。因此，这个问题不仅关乎我们，更关乎整个世界。
自 AI 诞生之初，就存在两种相互竞争的话语体系。过去，这种区分停留在学术和哲学层面，但如今已演变为迫切的实践问题。我们必须各自明确立场——属于哪一派，或在这个光谱上的哪个位置。因为选择支持其中一种信念，将在实际后果上产生巨大差异。
如果你觉得这项技术在几年内就能取代我们目前所做的一切工作，那么最理性的做法可能就是在技能变得无关紧要之前，尽快积累财富。硅谷的许多人已经选择了这条路。你或许听说过“永久底层阶级”这个概念。
反之，如果你像我一样，相信这项技术将极大地拓展我们的潜力，那么现在正是构建技能的绝佳时机。特别是那些能与 AI 形成互补的技能，以及围绕它建立的各种能力，如行动力、审美和判断力。
如果你选择了第一条路，而最终 AI 被证明是增强技术而非替代技术，那么我认为，在未来几年里，你可能错过了历史上构建这些“超能力”技能的黄金时期。这正是为什么我们需要共同思考这个问题，即使我们最终可能不会得出相同的结论。
AI as Normal Technology（AI 作为常规技术）是我今天演讲的理论框架。当我们说 AI 是常规技术时，并不是指它像锤子或牙刷那样普通，而是指它已融入日常，成为一种不起眼的技术。
我们在文章中明确承认，这是一项具有工业革命级别变革意义的技术。我们并非 AI 怀疑论者。
这不是一个口号，而是一个框架——一种解释 AI 能力如何影响经济和社会的因果模型。这是一篇 15,000 字的长文，我们正在将其整理成书。我特意提及这一点，是因为人们常因听到“常规”一词就自以为了解其含义，但这往往会导致误解。
首先，我会论证这个框架是正确且有用的，可以帮助我们思考 AI 带来的影响——除非未来出现某种不连续的跃变（比如递归自我改进），让未来的影响与过去截然不同。
其次，我会谈谈为什么虽然我们应该认真对待递归自我改进，但我并不因此特别焦虑。
第三，最后我想说明：我并不是说未来的工作会和现在一模一样。很多适应和调整是不可避免的。所以我想初步探讨一下，我们的角色将如何变化，以及我们该如何最好地适应这些变化。
电这类过去强大的技术已被充分研究，我们已经有一套很好的框架，可以理解技术进步如何转化为经济影响。
发明：发现电磁学原理、交流电与直流电的区别等。
创新：人们并不直接使用“电”。我们使用的是电器。这些电器需要被发明出来，因此这是一种下游创新——这是该框架的第二阶段。
扩散：指人们逐步采纳创新的渐进过程。
在文章中，我们将此框架应用于 AI，并扩展为四部分框架。
下面以软件工程为例，说明基本图景。
方法/能力：模型正在快速改进。
产品/应用：我们不直接使用 LLM。它们之所以对我们的工作产生如此大的影响，是因为 coding agent。这些产品将潜在能力转化为对工作者有用且可用的东西。
早期采用：起初，人们主要尝试 vibe coding，但现在我们知道这并不是开发生产级软件的最佳方式——因此，我们现在有了更精密的 agentic engineering 方法。
适应：（或结构性转型）——第四阶段，也是最慢的阶段。我今天演讲的主要内容将围绕这一点展开。我认为这一阶段需要数十年时间。即使在软件工程这样一个较早采用 coding agent 的领域，这一阶段也尚未真正开始。
我们尚不清楚适应期会呈现何种面貌——目前只能靠推测。请允许我畅想片刻。未来，如果编程智能体确实能够构建千万行级别的代码库，且其中几乎不存漏洞或安全隐患，那么，我们再去开发一款服务于数十亿人的单一软件就毫无意义了。更合理的路径是，软件将针对每个人的需求进行定制，或针对不同团队进行适配——这就是我所说的“极端个性化”。
这不仅是技术层面的变革，更是行业格局的重塑。举例来说：我们真的还需要软件公司吗？软件开发的重心也许会大规模地向内迁移，直接由使用软件的企业和团队自行完成。再次强调，这只是推测，但核心在于：真正让我们释放 AI 在软件工程乃至其他领域全部潜能的，恰恰是这种组织形态与人类认知的转变。这个过程极其缓慢，往往需要几十年。这也是本文的核心观点之一。回顾过去的技术史，此类转变总是漫长的。
在电力普及之前，工厂的样子正如左图所示：一台巨型蒸汽机提供动力，再通过机械齿轮和皮带将动力传遍整个车间。因此，当电力出现时，工厂主们尝试直接用发电机替换蒸汽锅炉，认为效率会大幅提升。但这种“即插即用”的替换思路最终并未奏效。如今，我们在谈论 AI 智能体时，依然常听到这个词——人们期待它们像电力替换蒸汽机那样，无缝取代人类劳动力。但电力的历史已经证明，这条路走不通。
真正管用的做法，花了 40 年才摸索出来：承认电力是一种完全不同的技术。它便于输送，可以把能源送到任何需要的地方。于是工厂可以围绕流水线的逻辑重新规划整个布局。这就要求改变工人的培训、招聘和辞退方式，催生新的劳动法规等等。要真正收获电力在工厂里带来的红利，就需要这种组织层面的调整。
我们的观点是，AI 也将经历类似的过程。再过几十年，工作方式会被彻底重构。没人知道那会是什么样子，而这正是摆在所有人面前的挑战。这也不只是 AI 公司的任务，就像当年电力公司也不会去替工厂思考该如何重组一样。在我们看来，这是 AI 产生经济影响的四个阶段中最慢的一环。今天，这一进程其实还没有真正开始。
为什么各行各业的人“本可以用 AI 做的事”和“实际用 AI 做的事”之间存在巨大差距？一个原因可能是人们接受新技术比较慢，这确实是这个框架的一部分。
但我们也想问：那些在部署 AI 时收效甚微的人，是否了解一些 AI 在实际应用中的局限——而这是 AI 行业自己没看到的？在“能力”与“落地”的关系上，我们不妨多一分谦逊。
关于 AI 最大的担忧是什么？ 既然人们提及的首要顾虑是可靠性，我们想通过实验来验证，排除能力因素后，可靠性是否构成了阻碍 AI 代理实际应用的障碍。 我们考察了 10 到 12 个可靠性指标，并将它们归纳为四个维度。 **一致性**：假设某个 AI 代理的准确率为 70%，这意味着什么？是它只处理 70% 的任务，但在处理这些任务时每次都成功？这对部署非常有利，因为可以在该子集任务上进行部署。还是说对于任意一个给定任务，它都有 30% 的概率不可预测地失败？从部署角度看，后者几乎毫无用处。或许令人惊讶的是，我们调研的所有代理基准测试都没有区分这两种情况，两者都表现为 70% 的准确率。 **鲁棒性**：我们考察了鲁棒性：当环境发生轻微变化时会发生什么？ **校准**：代理能否回顾其操作记录并判断任务是否执行正确？ **操作安全性**：当它失败时，这种情况是否可以恢复，还是像删除生产数据库那样造成不可逆的后果？ 对于人类工作者，当我们认为某人具备胜任工作的能力时，指的是上述所有这些方面，而不仅仅是准确率。但事实表明，我们之前仅以准确率来衡量 AI 代理。
我们使用两项互补的基准测试，测量了近 24 个月内发布的三家前沿 AI 公司模型的能力与可靠性。
在这段时间里，准确性或能力实现了大幅增长（见左图）。
但可靠性（见右图）仅提升了 5 到 10 个百分点。
这带来了一系列启示，这里重点强调一点。目前，行业并未将自动化 Agent 与协作 Agent 区别对待。如果你以无头（headless）模式运行 Agent，它就变成了自动化 Agent。这种看法并不妥当，因为对自动化 Agent 至关重要的可靠性等特性，反而可能阻碍协作 Agent 发挥作用——比如你用它来提升创意写作。对于这类 Agent，你不希望它表现得像每次都做同一件事的机器人。你希望它富有创造力，探索不同的可能性，甚至具备不可预测性。
无论是 Scaffold（框架/脚手架）还是模型的 post-training（后训练），都应根据目标是驱动协作 Agent 还是自动化 Agent而有所不同。
我希望可靠性会持续提升，自动化也会随着时间推移变得更容易。但就目前而言，我认为协作型 agent 仍会成功得多。不少公司匆忙用 agent 自动化业务流程，现在已经意识到其中的局限、成本，甚至法律风险——比如 agent 把生产数据删了。
眼下，agent 的以下三个属性最多只能同时满足两个：通用性（基于语言模型、可以接受指令去做不同任务的 agent，而非像传统软件那样为特定任务定制）；部署在高风险场景；以及自动化。
这也是为什么我认为，目前 AI 更多是一种协作技术，而不是把劳动者取而代之的技术。
我们以软件工程为例。这是个很好的先行指标，因为 coding agent 的普及速度特别快。
你可能会想：好吧，我们没法完全用自动化取代软件工程。但如果 agent 让软件工程师的效率提高了十倍，那我们是不是只需要十分之一的工程师了？这难道不是一个显而易见的结果吗？
然而，数据完全反驳了这种观点。我们在后续文章中对此进行了分析。在我们查看的每个案例中，公司当时都面临财务压力，而将裁员归咎于 AI 显然更容易被接受。
既然这样，为什么 AI 至今没有取代软件工程师？我们其实很早就知道——早在 2019 年的一篇论文就指出了——编写代码并非真正的瓶颈。
在过去一年里，随着软件工程师开始使用 coding agent，并逐渐意识到这些工具似乎并没有减少他们的工作量，许多博客文章纷纷重新发现了一个事实：编写代码并不是瓶颈。这里列举了一些例子。
那么，真正的瓶颈究竟是什么？
这套框架就是我们对上述问题的回答。
决策层：理解客户需求、制定规格说明、进行规划等。这部分工作并未因 AI 而变得压缩。
执行层：实际的编码与调试。这部分正在被压缩，但原本它只占整体工作量的三分之一左右。
交付层：深入理解代码，对发布内容负责；执行与客户系统的集成、维护、测试等。这部分同样没有被压缩。
事实上，随着 AI 压缩中间的执行层，首尾两层的比重反而在扩大——这一点我稍后会再详细展开。
我认为这种情况在软件工程中已经出现，未来也会扩展到众多职业领域。我们可以把知识工作者比作起重机或叉车操作员：机器极大地放大了人类完成体力劳动的潜力——它承担了所有沉重工作，但人始终掌握控制权。我认为认知型工作正在经历同样的过程：机器将越来越多地承担认知负荷，但人仍保留控制的主导权。
整个工作被重新定义为围绕机器展开——操作机器、理解机器、控制机器，而不是亲自去做那些认知性的工作。
这一切看似剧变，但某种意义上，它只是软件工程领域一再重演的历史的延续。从机器代码时代开始，我们经历了一波又一波的技术浪潮，每一波都带来接近一个数量级的生产力提升。而软件工程师的需求非但没有减少，在这段技术不断攀升的历程中，软件工程的就业规模反而增长了约一万倍——原因很简单：需要编写的代码总量增长了不知多少个数量级。
经济学家一再发现这个规律。你可能听过 Jevons 悖论，我更喜欢叫它“劳动总量谬误”。
ATM 机的出现，让银行在经济上可行地开设了大量区域性分行。而这些分行仍需要人工柜员来处理 ATM 无法办理的业务。于是悖论出现了：柜员的就业反而增长了。
十年前，Geoff Hinton 曾做出著名预测：五年内放射科医生将基本消失。但事实证明，放射学领域就业人数不降反增。这并非因为放射科医生拒绝使用 AI，相反，他们正在积极拥抱这项技术。就业增长的一个原因是：当某项任务的执行速度更快、成本更低时，市场需求反而会随之扩大。
我们撰写了一篇论文，探讨律师应如何适应这一变化。文中涉及诸多方面，但一个核心观点很明确：AI 让提起诉讼变得更加容易，这意味着律师的工作量会增加。如果我们不喜欢生活在诉讼频繁的社会里，可能会对这一点感到不满；但就律师就业而言，这是好消息。
翻译行业是一个更极端的例子，甚至让我感到惊讶。近十年前，AI 的翻译水平就几乎接近人类。然而，人类译员的就业状况基本保持稳定，预计未来十年也不会发生明显变化。原因有很多，其中之一是：可翻译的内容数量和可翻译的语言种类几乎没有上限。
订阅以获取基于证据的 AI 影响分析
Subscribe
我认为，迄今为止，我们的框架与现有证据高度一致。现在来谈谈一种可能性：我所说的一切都会变得无关紧要，因为某种“起飞”或“奇点”即将实现，到那一刻，我们就无事可做了。
许多公司，包括这两家，都声称正在竞相实现递归自我改进（recursive self-improvement）。这些是严肃的公司——我对此非常重视。
假设在未来某个月，递归自我改进得以实现。后果会是什么？幻灯片展示的是 AI 社区的常见观点。请注意，AGI 是一个众所周知的模糊术语。定义主要分两派：一种认为 AGI 将在多个认知维度上接近人类，另一种则认为它应具备执行一系列具有经济价值任务的能力。
我的观点是：这种把 AGI 和 ASI 视为递归自我改进（RSI）近乎必然结果的看法，有点可笑。这其实是四个不同的进步维度，任何一个维度都不必然推出其他维度。 细节我会在后面几页展开，这里先给一个小直觉。人们常把超级智能和“治愈癌症及其他疾病”联系在一起。但我们都知道，研发医疗手段的难点在于临床试验——往往需要数千名受试者和 10 到 15 年时间。这说明超级智能面临的瓶颈是外部性的，不是在实验室里靠纯计算过程就能解决的。所以，像很多评论者那样认为递归自我改进会自动带来超级智能，这条因果链上显然缺了环节。
下面详细讨论这四个维度，先从递归自我改进（Recursive Self-Improvement，RSI）说起。
假设某家公司声称实现了 RSI——他们构建了一个能自行研发下一代的 AI 系统。这究竟意味着什么？
一种理解是，LLM 输出了大量关于优化架构、数据流水线或其他环节的想法，系统自动测试并保留其中有效的改进。这不过是美化过的超参数搜索。AutoML 这类系统早已存在，我查了一下，Schmidhuber 很早之前也发表过相关论文。我们不会把这种能力称为超级智能。这是光谱的一极。
这与另一极端截然不同：在那种情形下，公司真正取代了人类 AI 研究者的创造力和智慧——不仅是个别研究员，也不仅是公司内部的研究者，而是全球数十万从业者构成的整个社区，他们的所有创新都在推动 AI 系统进步。因此，当人们谈论 RSI 时，他们指代的其实是光谱上的哪一端，往往并不清晰。
我做出这一预测的原因很简单：当前 AI 在可验证任务上的表现远优于不可验证任务。速度、效率等部分性能维度是可验证的，近期的 RSI 可能显著提升这些方面。
然而，创造力作为智能的一个维度，堪称「无法验证任务」的典型代表。
我们甚至不清楚该如何测试 AI 的创造力。从认知科学和神经科学的角度来看，我们对人类创造力的理解还不够深入，无法设计出一套清晰的测试标准。
以 AI 创造力为例，我们可以更深入地探讨实现类人 AI 所面临的障碍。
播客主播 Dwarkesh Patel 曾有一句俏皮话，很好地说明了 AI 创造力是如何落后于人类创造力的。虽然在 Erdos 问题等狭窄领域可能存在少数反例，但请回想一下那些著名的「尤里卡时刻」——在看似毫不相关的领域或问题之间发现令人惊奇的联系，这正是人类在科学发明与创造上取得伟大成就的标志。相比之下，LLM 离达到这种水平还相去甚远。
为了弄清原因，我花了大量时间深入研读认知科学文献。恕不展开细节，但我发现有两套文献从略有不同的视角审视这一问题，且二者之间似乎缺乏有效对话，我尚不完全理解其中的原因。基于我目前的阅读，我想提出关于 AI 创造力的几个假设。
表征质量对认知来说极其根本。想想深度学习——它在感知背后的表征质量上带来了多大的飞跃。所以我认为，在感知方面，AI 的表征质量基本上已经追平了人类；但在人类用于创造和推理的表征方面，它还没追上。
François Chollet 特别谈到过一点：支撑人类创造力的表征似乎表现出一种极端的组合性——一切都由少数几个「意义原子」构建而成。人类工作记忆和信息处理的许多表面上的局限，实际上反而是优势，因为它们迫使我们创造出这些极其高效的表征。
由于 LLM 在某些维度上远胜人类——比如记住和检索那些可能激发创造力的已有模式——那些试图比较人类与 LLM 创造力的研究，无法真正揭示人类这些关键的局限。
此外，人类在创造性地思考问题时还能做一件很美妙的事：实时改进与该问题相关的表征——你也可以称之为在推理时改进。这让我们可以「睡一觉再想」，让表征在夜间得到优化，第二天回来时解决那个具体问题的效率大大提高。我相信我们都体验过这种感觉。但这是今天的 AI 系统做不到的。
我曾天真地认为持续学习领域的人们会对此投入大量关注，但当我开始查阅相关文献时，我发现情况并非如此。持续学习主要聚焦于防止灾难性遗忘，而非随时间推移不断改善。此外，该领域的研究更多针对事实、技能等，而非底层表征的质量。
综合以上所有内容，并考虑到创造力只是实现类人 AI 面临的诸多障碍之一，我认为要走的道路还很长。话虽如此，我想在此表达一些谦逊。这些目前都只是假设，我认为我们需要实证来验证。
提到实证测量，我们有一个正在进行的项目，旨在测试 AI 进行类人 AI 研究的能力。
我们给 AI 智能体提供数千美元的预算和一个机器学习研究问题——该问题研究者已经做过并写了论文，但尚未在 arXiv 上公开。这种设置结合了两个优点：它给了我们一个由深入研究该问题数月的人类评委组成的团队，因此他们能够评判 AI 的输出；同时，由于他们的思路尚未在线公开，这阻止了 AI 作弊或数据污染。
其他人已经做过许多自动研究实验，但我们试图以不同的方式运作——特别是挑选一些较为开放的问题，这样我们才能真正测试 AI 智能体运用判断力和创造力的能力。我们很快会发布详细的发现。
这一工作建立在所谓开放世界评估的基础之上。我们已完成一次开放世界评估，让智能体开发应用并上传至 Apple App Store。该任务不涉及递归自我提升，但测试了其他能力。我们已组建一支优秀团队，成员来自多所大学、少数几家企业，以及英国 AI 安全研究所。
顺便一提，我们正在招聘研究员负责未来的开放世界评估。如有意向，请访问我们的网站。
现在来看第四个维度中的第三个。
有人说 AGI 已经到来。这其实可以视作一种解读，我个人也持此观点。
这似乎与我第一部分对快速经济冲击的怀疑态度相矛盾，但其实不仅一致，甚至可以说就是第一部分观点的重述。我在第一部分的核心论点是：障碍在下游，因此模型进步不会迅速改变经济。但恰恰因为障碍在下游，即使模型不再进步，这些障碍也会被逐步解决。是的，这可能需要几十年，但我们终将抵达终点。
障碍有很多：可靠性（前面已经讨论过）；把 AI 模型集成到各种现有系统中；医学、法律等各专业领域的隐性知识需要提供给模型；还有监管——当前的监管往往直接禁止在生产中使用现有 AI 系统，很多情况下这种监管有充分的理由，但要想推动落地应用，监管也需要相应调整。
关键在于，这些问题都不是实验室里能解决的，也不是靠下周二发布的下一个模型就能搞定的。它们只能在数十年的渐进式落地中被逐步解决。
从地缘政治或战略的角度看，有人主张冲刺 AGI 竞赛，认为就像曼哈顿计划一样，率先达到某个能力里程碑的国家就能收获经济红利。我对此强烈反对。
并不存在某个能力里程碑能一举释放所有这些经济潜力。经济潜力本来就在那里，真正取决于的是我们在下游采取的一系列行动。它不是由能力决定的。
好，最后讲讲这些维度中的最后一个：超级智能。
之前我举过临床试验的例子。再举个别的：你觉得我们会不会拥有一种超级智能，能精确预测一年后的天气？非线性动力系统中的混沌理论表明，这在数学上基本是不可能的。我们的观点是，出乎意料地多任务都类似天气预报，存在固有的极限，而我们已经基本触及了这些极限。
即便对于那些尚未触及极限的任务，认为会出现一种取代人类的 AI 超级智能，这种想法也是根本性误读了人类智能。我主张，在绝大多数任务中，限制我们表现的并非生物局限，而是学习程度和工具。
想象一位古人穿越到我们的世界，相比他，我们就是超级智能。原因并非我们的生物结构更优越，而是他无法享受我们经历过的所有学习成果，以及我们在从事各项事务时所能使用的工具，尤其是数字工具。
AI 便是这样一种工具。在我们的框架中，这意味着 AI 的进步实际上是在提升人类智能，而不仅仅是 AI 本身的智能。因此，我们面临着一场竞赛：一方是“AI 增强型人类”的表现，另一方则是独立行动的 AI 系统的表现。我认为，我们可以确保成为未来的超智能体并赢得这场竞赛，而不是任由 AI 系统独立行动，从而威胁我们的未来与掌控权。
许多人对此持悲观态度。他们举出思想实验，比如未来 AI 拥有并运营公司。他们的观点是，如果 AI 系统未实现对齐，就可能发生灾难——AI 可能变成回形针最大化器或做出其他毁灭性举动。我们的观点截然不同。如果你想象的未来是 AI 实际拥有和运营公司、雇佣和解雇员工，那已经是反乌托邦了。无论该 AI 是否对齐，其对人类尊严、民主治理等的后果都已是灾难性的。
因此，如果你的安全观点是将其视为不可避免的未来，并仅希望依靠“对齐”来解决这个问题——原谅我直言不讳——在我看来，你这是在反对安全，而非支持安全。我认为，要确保我们不负责任地以这种方式部署 AI 系统，需要付出大量艰苦的努力。但我相信我们可以做到。这也是我职业生涯中花费大量时间咨询政策制定者的原因。我们将需要政策和政治，过程会很艰难，但让我们不要在战斗开始之前放弃。
举个例子：RSI（递归自我改进）在实验室里可以实现，但它不会立刻让所有人失业。另一方面，具有经济变革意义的 AI 迟早会到来，但那不是因为下一个模型发布，而是未来几十年里逐步发生的结果。
回到这次演讲的标题：AI 公司在实验室里做出的某个决定，不可能就让所有人都失业，这种世界并不存在。是的，确实有值得担心的风险，是的，很多东西都会改变。但 AI 如何落地部署，主动权在我们手里，而且这个过程会持续几十年。再说一次，这并非板上钉钉，但这是我想为之努力的未来，也是我持谨慎乐观态度的原因。
接下来用最后十五分钟聊聊硬币的另一面。我确实认为很多事情会发生改变。都有哪些呢？
技术技能通常对应可验证的任务，而 AI 在这些任务上会持续进步。
二十多年前，编程岗位与软件工程师岗位的劳动力需求差异就开始显现。编程岗位狭窄地围绕编码和调试等纯技术技能构建；而软件工程师岗位则需负责我之前提到的“决策-执行-交付”三层结构的全流程——弄清楚究竟该构建什么、理解客户需求等。这要求从业者具备领域知识、判断力以及更多综合能力。
我预测，随着时间的推移，这一趋势将在越来越多领域发生。
我观察到一个反复出现的模式：投入的精力正从构建系统转移到评估系统。如前所述，我领导着一个负责 AI Agent 评估的团队。LLM 和 Agent 是通用型的，每当其能力提升，就会在法律、新闻等特定场景中催生新的评估需求，而这些工作难以规模化。
