Sam Altman：高级 AI 终将逃脱沙箱，唯有 Alignment 能拯救我们

OpenAI CEO Sam Altman 认为高级 AI 不可能被永久关起来。他这样描述 AI 背后有商业策略考量，但他对这些模型能力的警告仍值得重视。

Altman 在最近一次访谈中解释说，用来隔离 AI 系统的沙箱（sandbox）只能起一时之效。一旦模型足够聪明，连它是怎么逃出来的都无从追查。

他说，在那之后监控还能管一阵子。但最终唯一有效的办法是对齐（alignment）——也就是 AI 必须自发地内化人类价值观并据此行事。Altman 表示，"对齐失败的潜在代价已经大幅上升"，不过对齐目前仍是处于早期阶段的研究难题，远未解决。

Altman 还警告，AI 模型已经能发现人类黑客从未想过的硬件级安全漏洞。他说，逐个修补漏洞已经不够了，整个互联网的安全架构都需要重建，用 AI 驱动的防御来对抗 AI 驱动的攻击。他认为本地运行的开源模型同样有风险，并指出即便有"全球范围的 agent 监控，也会有一些你希望没人做过的事情发生"。

Altman 的警告也符合自身商业利益

批评者会指出，Altman 大谈不可控的 AI，其实对他自己的公司有利。把自己的 AI 描述成强大到无法约束，可能是为了提前规避责任问题。如果连研发出这个 AI 的公司都"控制不了"它，那么当出了问题时，再要求公司承担责任就难多了。

OpenAI 确实面临不小的压力。FTC 已就 失控的 AI agent 引发的一系列网络安全事件，对 OpenAI、Anthropic 及其他 AI 实验室 展开正式调查。该机构希望让 AI 开发者为其 agent 的行为承担法律责任。

Nvidia CEO Jensen Huang 对 Altman 提出了质疑，他将 AI 安全视为一个可解决的工程问题。不过，Huang 对自己的这一论点似乎也有些不确信。他在最近的采访中 表示：「[…] 我们都需要寄希望于它只是个工程问题。如果它不是个工程问题，那它就是无解的。」