OpenAI、Anthropic、Google 等 100 多家公司联名呼吁防范失控 AI

包括 OpenAI、Anthropic、Google 和 Microsoft 在内的 100 多家科技公司联名发表公开信，呼吁私营部门和公共部门携手应对 AI 相关网络威胁。

这封公开信还获得了 CrowdStrike、Okta、Fortinet 等知名网络安全公司，以及多家大型金融机构和互联网基础设施企业的支持。信中呼吁采用新型网络防御手段，并鼓励各国政府在“地方、国家和国际层面”加强安全协作。

公开信称：“未来几个月，随着全球各地的模型能力不断增强，由 AI 驱动的网络攻击将变得更加普遍、更加复杂。我们的社区所依赖的企业和公共服务——从医院、污水处理厂，到支撑互联网运行的基础设施——都面临风险。”

近期一连串离奇事件让 AI 对传统网络安全防御构成的挑战成为焦点：一些 AI agents 已经开始攻击企业。

Hugging Face 事件中，OpenAI 的一个 agent 自主突破 sandbox 环境并攻击这家科技公司。此后，又陆续曝出一系列类似入侵事件，涉事 agent 来自包括 Anthropic 和 Meta 在内的其他 AI 公司。这些事件进一步印证了网络安全领域正在发生根本性变化，也凸显出有必要推出大胆的新型商业解决方案来降低相关风险。

公开信还提出，应发起“集体应对”，通过建立“新的合作关系”，“提升安全标准，并寻找应对新兴网络威胁的新方案”。

签署这封公开信的多家 AI 公司仍在积极开发更先进的 AI 模型，凸显出它们所处的矛盾境地。与此同时，这些公司也在推出相关项目，将前沿 AI 模型用于防御，包括 OpenAI 的 Daybreak 项目、Anthropic 的 Mythos，以及 Microsoft 新推出的网络安全平台 Perception。