Anthropic CEO Dario Amodei 提出 AI 发展减速计划
我们越来越多地看到 AI 研究者发出严厉的警告，强调人工智能的危险性。就连 OpenAI CEO Sam Altman 也表示，或许是时候该给 AI 发展“减速”了。但这具体该怎么做？
在一篇新博客中，Anthropic CEO Dario Amodei 不仅附和了“让前沿发展放缓”的呼吁，还详述了三类具体的应对策略。他表示 Anthropic 将“单方面承诺”实行其中一项，Altman 则回应称 OpenAI 也会跟进。
本周，围绕 AI 安全与对齐的辩论再次升温。起因是研究员 Jacob Coxon 宣布将从 Anthropic 辞职。他担心头部 AI 公司正在“拿我们的命去赌”，而开发这些技术的人“却真心认为，它们会在本十年结束时让我们全部丧命”。这一说法也被 Anthropic 的其他人引用。
Amodei 的文章并未直接提及 Coxon 的辞职或他的担忧，但该 CEO 写道，有两件事让他相信是时候对 AI 发展采取更谨慎的态度了：一是 OpenAI 与 HuggingFace 的数据泄露事件，二是最近几个月“AI 能力进步飞速”，尤其是其“构建下一代 AI 的能力不断增强”。
“我们必须放慢提升 AI 模型能力的步伐，”Amodei 写道，“即便如此，进展依然会显得很快，我们必须明智地利用争取到的时间。”
其他 AI 高管对 Amodei 的文章反应积极。Altman 发帖表示：“我同意 Dario 的观点，我们需要让前沿发展减速。这正是近几周 OpenAI 内部讨论的核心话题。”SpaceX CEO Elon Musk 也发帖称：“Dario 说得对。”
阿莫迪提议的第一步是引入来自 METR 等第三方机构的“嵌入式评估者”。这些评估者负责核实 AI 公司是否真正履行了节奏控制与安全承诺，并确保安全事故得到及时上报。（此前，OpenAI 因未报告其 AI 智能体接管德国维基论坛的事件而遭到批评。）
阿莫迪将这些评估者比作派驻银行内部工作的监管员，并指出邀请他们入驻是“Anthropic 单方面做出的承诺（同时呼吁政府要求其他前沿 AI 公司效仿）”。这意味着公司需向评估者提供员工徽章、办公工位和笔记本电脑，并给予“接近内部风险团队”的访问权限，仅在法律或合同另有规定时除外。
奥特曼也表示这是一个“好主意”，并称 OpenAI 将采取相同措施：“我们很快就会分享更多细节。”
接着，阿莫迪呼吁“位于民主国家的头部 AI 公司”协同制定“共同的安全标准，并对缺乏约束的 AI 进展速度设定上限”。
这种协调看似不太可能实现，因为据报道，这些公司担心联合暂停行动会招致反垄断审查。阿莫迪在帖子中也暗示了这一担忧，他写道：“出于反垄断考虑，美国政府介入调解或至少为这些讨论提供便利是很有帮助的——他们无需直接参与，但需要针对特定类型的安全对话颁发有限的豁免权。”
Amodei 也承认，“中国 AI 霸权”的威胁常被拿来作为反对放缓发展的理由。但他表示，如果美国政府和企业采取措施，比如拒绝向中国公司出售高性能芯片或半导体制造设备，以及打击模型蒸馏，就足以“拖慢中国的进展，让美国在未来 3–5 年内大幅拉开领先优势”。
最后，Amodei 呼吁“全球协作”，即美国及其盟友“在可能的范围内尝试与威权政府进行协调”。他说这意味着“与中国合作”，并承认能达成的成果“非常有限”，但仍认为存在达成共识的机会——哪怕只是“禁止某些狭窄且明显危险的 AI 用途，比如用 AI 研发生物武器，或允许用户这样做”。
鉴于 Amodei 过去一直愿意承认 AI 的潜在危险，加上 Anthropic 对某些监管形式持相对开放的态度，一些 AI 拥护者已经批评他是个“末日论者”，认为他的言论助长了当前的 AI 反弹。对此，Amodei 表示自己一直在提供“平衡”的视角，并认为这波反弹“本质上是一场信任危机”——人们已经对科技公司、科技行业乃至政府失去了信任。
业内批评者对这些末日式警告同样持怀疑态度，认为它们是在转移视线，掩盖这项技术已经造成的实际危害。
例如，记者 Brian Merchant 写道，他尚未看到“一份可信的、逐步详尽说明 AI 如何从自我递归改进最终演变为消灭地球上所有人类的文档”；他还指出，类似于 Amodei 的提议“最终很可能只会服务于 Anthropic 和 OpenAI；这就是监管俘获现实运作的方式”。
在其新发布的文章中，Amodei 写道，他仍然“相信 AI 能够极大地提升人类生活质量”。
“我实现这些利益的渴望并未减弱，”他说道。“但只有以正确的方式构建这项技术，这些利益才能实现——而且，只要我们善加利用由此争取到的时间，就以非同寻常的审慎态度确保其正确性，将是值得的。”
本文已更新，纳入了 Sam Altman 和 Elon Musk 的评论。