加州州长纽森推动AI紧急停止开关立法

加州州长加文·纽森（民主党）正推动该州在 AI 监管领域发挥领先作用，包括强制前沿模型配备“紧急停止开关”的可能性。本周五，他签署了一项新的行政命令。

该命令指示州政府召集专家小组，要求在两个月内就如何加强州法律中的 AI 安全措施提出建议。纽森希望该小组考虑州方是否要求 AI 公司嵌入独立验证机构进行定期现场审计，使其透明度报告和风险评估符合独立审计标准，创建可定期验证有效性的“紧急停止开关”，并确保公司被强制将诸如 OpenAI 攻击 Hugging Face 此类“失控事件”作为关键安全事故上报。命令还指示相关州政府机构加快实施他近期签署的两项法律的落地工作，旨在建立独立验证者评估 AI 安全性的框架，并设立州级 AI 审计员注册库。

随着前 Anthropic 研究员 Jacob Coxon 发布警告称 AI 在十年内“可能导致全人类死亡”的概率超过 10%，国会近期已掀起一波法案讨论热潮。然而，鉴于众议院休会至十一月，且即将到来的中期选举使参议院通过重大立法的可能性也极低，华盛顿方面对于实质性法案短期内通过的希望并不乐观。与此同时，唐纳德·特朗普总统坚称：“AI 唯一需要的控制或‘护栏’就是一位强大且聪明（高智商！）的总统，而美国在这方面绰绰有余！”

纽森正呼吁国会和特朗普“审查并采纳该州的框架”。

纽森的行政命令大概率不会是加州在这一议题上的最后动作。周三，他在接受 Politico 采访时表示，可能召加州议员召开关于 AI 的特别立法会议，同时也不排除采取行政行动。他明确希望把这份行政命令作为联邦层面的范本，呼吁国会和特朗普“审查并采纳加州的框架，或者把这项全美领先的监管作为底线而非上限，以保障所有美国人的利益和安全。”

“联邦政府在建立任何有意义的 AI 监管和问责机制上的彻底失败，应该让每一个美国人感到警觉，尤其是当 AI 公司的 CEO 们自己都在呼吁监管的时候，”纽森在一份声明中表示。“我们不会坐等——我们会加紧推进切实而负责任的 AI 监管工作，趁一切还来得及。我们会审慎行事，但节奏必须紧迫；形势太严峻，容不得再等待或拖延。”