巨头 AI 放缓共识：是安全契约还是卡特尔？

当 OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei、Google DeepMind 联合创始人 Demis Hassabis 以及 SpaceX 负责人 Elon Musk 在周末初步达成放缓 AI 开发的共识时，怀疑者立刻嗅到了别有用心的味道。这些 AI 巨头宣称目标是“控制前沿节奏”，至少部分接受了一项提案，内容涉及引入第三方审计、监管国内实验室，以及达成全球性的放缓协议。但批评者认为，他们不过是想挡住潜在竞争者、打压开源运动、逃避真正的法律约束——有人甚至直呼这是一场“卡特尔”。

不过据多位业内消息人士透露，真相要复杂得多。这份三步走提案出自 Amodei 的一篇文章，其中呼吁的变革正是 AI 安全倡导者长期以来的主张。它固然可能沦为监管的替代品，但在特朗普执政下，实质性的监管本来就难以出台。然而专家指出，在这个重要性只会有增无减的议题上，AI 领袖们并不是最合适的领军者。

“整个行业需要新的旗手，”纽约大学兼职教授、前国土安全部新兴技术政策总监 Nick Reese 说。“我们一直把 Dario Amodei、Sam Altman 和 Elon Musk 这类人视为离问题最近、每天与之打交道、因而最懂行的专家。但事实是，对于我们的技术究竟要走向何方，从来没有人给出过切实可行的愿景。”

“整个行业需要新的旗手。”

过去几个月，对 AI 进展的担忧持续升温，导火索主要是接连曝光的消息：成群结队的智能体（agents）在 Anthropic 和 OpenAI 这两大前沿实验室的眼皮底下实施恶意攻击。两家公司发布的相关报告火上浇油，Anthropic 研究员 Jacob Coxon 的辞职更是推波助澜——他发了一封公开信解释自己的选择。“构建 AI 的人真心相信，它可能在本十年结束前毁灭全人类，”他写道，并指出 OpenAI 和 Anthropic 都没有“负责任地行事”，反而“径直冲向自我改进的超级智能，拿我们的生命做赌注”。