前 DeepMind 公关人员爆料：该实验室曾禁止公开讨论 AI 灭绝风险

意料之外，但依然发人深省。 Vishal Maini 曾于 2018 年至 2022 年间在 Deepmind 的沟通与政策团队任职，他指出：“组织内任何层级的人员均被禁止对外讨论人类灭绝的可能性。”研究人员曾受训将这些风险斥为杞人忧天，将其比作“《终结者》之类的电影”，转而大谈医疗或气候领域的积极应用。

内部团队深知 AI 对齐问题 尚未解决，且“投身该问题研究的人远远不足”。在长达数月的内部抵制后，Deepmind 放松了这一禁令。基调积极的安全内容随后获准发布，其中包括一篇 博客文章，用温和的语言包装了灭绝风险。Maini 表示，内部认知与对外口径之间的差距正在缩小，“因为现有的证据如今已更难被驳斥或忽视”。

他的这番叙述恰逢越来越多的 AI 安全研究人员开始 公开发声，警示那些可能助长危险行为的安全防护薄弱模型，以及可能脱离人类控制的先进系统。其中不乏 Deepmind 自家的研究人员。