英伟达牵头成立AI安全联盟仅一周，已成立工作组并提交提案

成立仅一周的开放安全人工智能联盟（OSAA），这个由英伟达牵头、已壮大至超过120家公司的行业组织，已经成立了一个名字可爱的“共享AI发现交换”工作组，简称SAFE。该工作组已提交提案供公开评议，联盟成员Linux基金会正在负责管理这些提案。

这些提案是在成员们齐聚本周于拉斯维加斯举行的网络安全界盛会——黑帽大会期间制定的。

目前的指导方针并不算石破天惊。提案涵盖的领域包括：如何保密报告AI网络安全事件、通知受影响方，然后进行无责分析，以便各方从中吸取教训。

与此同时，OSAA的成员们也在贡献并整理各自可能有用的开源技术片段。按照这类行业组织的惯例，这些成果最终可能会汇聚成一套开源方案，帮助企业保护其AI代理，或防御恶意AI攻击者——例如那个渗透了Hugging Face的OpenAI模型（Hugging Face也是该联盟成员）。

举例来说，英伟达已表示提供一整套开源模型，以及一个名为Garak的开源大语言模型漏洞扫描器；Okta正在研发代理身份技术；红帽致力于代理治理；亚马逊贡献了开源代理构建工具Strands Agents和授权语言Cedar。类似的例子还有很多。

目前该联盟已囊括Adobe、贝莱德、思科、英特尔、微软和Visa等众多知名企业，但也有一些显眼的缺席者，比如Anthropic、OpenAI和谷歌。

有趣的是，OpenAI 和谷歌都签署了最初那封催生该组织的公开信。这封上周发布的信函敦促白宫支持而非打压开源 AI 项目。该信由英伟达牵头，已有超过 200 家科技公司签署。

虽然Anthropic 至今对这封信和行业组织冷眼相待并不意外，但 OpenAI 和谷歌都已发布了自己的开放权重模型。谷歌通常也被视为开源的大力支持者。随着该组织声势渐起，我们拭目以待它们是否会加入。

与此同时，该组织正以 AI 速度运转。距离特朗普政府考虑禁止中国开放权重模型的消息传出，引发行业震动并催生那封公开信，才过去短短几周。

无论中国开放权重模型在美国最终命运如何，这个重量级组织的快速行动对美国开源 AI 生态而言似乎是件好事。生态中的一些参与者，比如美国开放权重 AI 实验室 Arcee 的联合创始人兼首席技术官就表示，这最终是应对中国 AI 实验室对美构成任何威胁（无论真实还是想象）的最佳方式。

“开放性或许是实现 AI 安全与保障的最重要路径之一，”该行业组织在信中写道。看来它们已准备好立即将努力和技术付诸行动。