AI 风险需要政府进行异常干预吗？

AI 风险需要政府采取超常规干预吗？

别跳过 AI 治理的艰巨工作

Sayash Kapoor 和 Arvind Narayanan2026 年 5 月 21 日85819 分享

在最近的一篇文章中，Derek Thompson 回应了我们的《AI as Normal Technology》（AINT，作为常规技术的 AI）。他认同我们关于 AI 对劳动力市场影响缓慢的判断，依据是：目前 GDP 增长平平，失业率低于 5%，就连那些看似容易被自动化取代的岗位，就业和工资也在上涨。他的结论是，到目前为止，宏观经济图景与我们预期中的“常规”通用技术并无二致。

但在 AI 风险问题上，他的态度悲观得多。他列举了网络安全和生物安全方面的风险案例，并对 AI 在许多新领域迅速变得危险表示担忧。他认为，AI 的涌现能力使它与此前的技术有本质区别，而这种区别足以证明政府采取“超常规”应对措施的合理性，包括限制企业可以发布什么。1

在这篇文章中，我们阐述了针对新技术采取非常规政府干预措施的弊端，并探讨了无需此类干预即可提升韧性的建议。同时，我们也分析了政府迄今为止为何不愿投资韧性建设。简言之，韧性要求我们更好地运用“常规”的政策制定流程。然而，联邦政府的僵化，以及相对于全社会而言，为干预 AI 公司寻找理由变得过于容易，使得非常规干预看似诱人，尽管其存在诸多局限。

接下来会发生什么？政策制定者要么齐心协力，大力投资以提升韧性；要么被迫采取非常规行动（例如在 AI 扩散控制方面），而这些行动往往成本更高且效果更差。

回顾 AINT 的论点及 Thompson 的一致与分歧之处

包括 Thompson 在内的许多人发现，“AI 作为常规技术”（AI as Normal Technology, AINT）是一个理解 AI 经济影响的有用框架，但他们并不完全信服我们关于安全性的观点。在 AINT 文章中，我们就劳动力市场的缓慢冲击以及抵御滥用风险的韧性提出了不同的论据。

劳动力市场论点的核心在于扩散速度：从一项新的 AI 能力转化为实际经济影响，中间存在诸多“限速”环节，包括构建产品、改造组织工作流以及应对监管要求。这一视角有助于解释为何那些关于快速且大规模失业的预测（例如 Amodei 所宣称的白领阶层即将遭受重创的说法）很难成真，也有助于识别可能阻碍 AI 有益应用的扩散瓶颈。

但我们关于 AI 滥用风险 的论点则取决于攻防平衡：即对于特定能力，是攻击者还是防御者受益更多，以及我们在面对滥用风险时建立 韧性 的能力。值得注意的是，攻击者无需经历缓慢的组织采纳流程即可造成伤害。我们主张通过建设社会韧性来干预滥用风险，并列举了一系列应实施的措施以降低 AI 风险。

对此，Thompson 的观点与我们不同。他反感的理由之一是，所有通用技术都会带来新模式难以预见的新型风险。但他认为，即便在通用技术的历史进程中，AI 也显得格外“异常”，因为其风险具有突发性，甚至 AI 开发者自身也一无所知。正是基于此，他支持政府将 AI 视为异常技术，认为这“迫使政府制定非常规监管政策，以产品或服务过于危险为由，禁止私营公司销售。”

Thompson 并未精确定义何谓“非常规政府行动”，他所设想的具体干预措施也略显模糊。既然我们要论证反对此类干预，便需先明确该术语的含义。我们认为，非常规干预是一个光谱，由适用于任何强大技术（而非仅 AI）的三大因素定义。

首先，非常规干预往往是预防性的。它基于预期中的危害而非已经发生或证实的危害来限制活动。这并不是说预防毫无必要，而是说正当性理由必须更充分，因为我们在缺乏明确证据证明危害会发生（或会按我们预想的方式发生）的情况下限制活动。即便如此，如果存在既能应对风险又限制更少的可行替代方案（比如投资增强韧性），那么这种干预就越发显得非常规。

其次，非常规干预限制的往往并非那些直接造成危害的主体。政府限制 AI 公司能发布什么，承担代价的不是造成危害的恶意行为者，而是那些开发工具的公司——这些工具原则上可能被滥用。这一点对两用技术尤其突出：由于这类工具有广泛的有益用途，限制公司往往意味着为了让少数坏人无法作恶，而切断了大众获取有益应用的途径。

第三，非常规干预绕过了正常的治理程序，转而依赖紧急状态声明或行政命令等单方面权力，而被绕过的治理程序本是为了确保对自由的限制接受民主问责。

一项干预不必同时满足这三条标准才算非常规，但符合的因素越多，为其辩护的门槛就应该越高。

非常规政府行动的代价极其高昂

我们承认 AI 存在滥用风险。但监管“异常”技术的历史经验表明，非常规政府干预的代价往往极其沉重。执行核不扩散机制需要国际原子能机构（IAEA）、《不扩散核武器条约》、数十年的外交斡旋、持续的资金投入，甚至军事对峙。这些干预的代价巨大，但至少具有一定可执行性，因为核武器依赖浓缩铀这一物理瓶颈，而突破这一瓶颈确实困难重重。

AI 与核武器不同。首先，AI 不存在等效的“物理”瓶颈。构建 AI 系统的核心技术是公开的。对手（尤其是国家行为体）只需数月即可匹配前沿能力。任何针对 AI 的不扩散机制都将面临不断被侵蚀的命运。

面对这一挑战，政府如何维持不扩散？某些拟议的干预措施，例如传闻中要求 AI 公司在部署前进行自愿评估的行政命令，在“非常规干预”的强度上相对较低。若实施得当，这类措施可以让防御方获得更多时间准备应对新能力，从而倾斜攻防平衡。

美国还实施了针对芯片的出口管制。我们认为这属于适度干预：各国例行限制敏感物资出口以保持创新领先，至于管制边界划在哪里，人们存在合理分歧。但在防止危险能力广泛普及方面，出口管制的效力远不及想象。由于开源权重模型和前沿实验室广泛的 API 访问服务，前沿能力与公开可获能力之间的差距至多只有几个月，而非数年。

如果核不扩散能争取到的缓冲期仅有几个月，那么当这些能力不可避免地向公众普及时，当务之急就应该是投资韧性建设，做好充分准备，正如我们下文将要讨论的那样。另一方面，如果政府试图以维持不扩散作为阻止先进 AI 能力被滥用的手段，其干预措施势必会变得愈发严苛。

要真正落实不扩散政策，政府可能需要限制对开放权重模型甚至有能力模型的 API 访问。这需要建立一套许可制度，赋予政府对模型发布及开放权重模型使用进行持续监管的权力。我们可能很快会进入这样一种状态：政府开始控制哪些 AI 研究和产品可以公开发布。事实上，我们已经看到了一些令人担忧的例子，例如 Anthropic 被标记为供应链风险，以及近期关于AI 公司许可要求的传闻。

为了避免落入这种棘轮效应，提议采取非常干预措施的人应明确划定界限。他们是否支持限制开放权重模型？是否支持对每次新模型发布实施审批，或限制从事前沿 AI 研发的研究人员跨国流动？如果支持者无法明确界定其诉求的边界，那么随着能力不断进阶，要求政府扩大单边行动权限的呼声将会持续升级也就不足为奇了。2

对于核武器而言，一旦不扩散体系建立，便无需每隔几年重建一次。但 AI 并非最后一个具有强大双重用途的数字技术。新兴技术也会引发类似问题，并可能要求同等甚至升级的应对。因此，用于监管 AI 的“异常技术”框架，看起来将不再像是对特定风险的精准回应，而更像是一种对政府管控公民和企业所能构建、发布及研究的权力的永久性扩张。

这样的争论我们并不陌生。每一项新技术都会引发同一个问题：为了减少危害，应该对自由施加怎样的限制。而历史告诉我们，不应动辄就诉诸超常规的政府干预。

互联网让人们对制造炸弹的方法触手可及。1995 年俄克拉荷马城爆炸案发生后，已故参议员 Feinstein 提交了一份法案，其初稿本会把在互联网上传播任何涉及炸弹材料或制作流程的信息定为犯罪。（该法案最终通过时范围已收窄，只追究那些明知自己的说明会协助犯罪的人。）

联邦政府还曾试图限制加密软件的使用，理由是这会让罪犯在执法部门视线之外通信。政府实施了出口管制，并提议在加密中设置后门，以便随时查看私人通信内容。它甚至依据《武器出口管制法》对一名发布了加密软件的程序员发起了刑事调查。

这些限制最终通过司法判决与行政行动的联合推动而被撤销。加密技术随后成为数字安全的基础，支撑起了电子商务、网上银行等众多应用。

然而在历史上，我们也曾因新技术而接受政府权力的扩张。烈性炸药问世后频发的恐怖袭击，加速了 FBI 监控体系的扩张。

核心问题在于：应对 AI 风险是否确实需要如此高强度的政府干预？一种无需政府强力介入的应对路径，是提升系统的韧性。

韧性是应对 AI 风险中被低估的防御手段

韧性指系统抵御伤害并自适应恢复的能力。我们在 AINT 文章中曾将其列为主要防御措施之一（参见原文）。与限制企业发布内容等强力政府干预不同，提升韧性不会给 AI 公司带来额外成本。它的重点在于增强我们应对和从 AI 风险中恢复的能力，无论风险何时何地发生。回顾过往技术带来的伤害，增强系统韧性一直是降低损害的关键所在。

以网络安全为例。互联网催生了全新的攻击形态，例如通过网络传播、造成数十亿美元损失的蠕虫病毒。面对这些风险，我们并未选择限制计算机或互联网的使用，而是通过漏洞赏金计划激励人们向开发者上报安全缺陷，进而推动浏览器和操作系统完善、自动化测试应用以及补丁实践优化。无论风险源自何处，这些举措都增强了网络基础设施的韧性。 自动化漏洞检测工具是另一类催生新型攻击的技术。像模糊测试工具（fuzzer）和符号执行引擎这类工具，在漏洞检测上早已展现出“超越人类”的能力，能以人类无法企及的规模发现漏洞。然而，它们却长期作为开源项目免费可用。由于防御方同样能获取这些工具，它们逐渐演变为核心防御手段，主要资金也来自网络防御生态。事实上，防御方在利用这些工具时还具备结构性优势，例如对测试系统拥有更深入的访问权限，这也反过来促成了更完善的系统防护。

这说明，我们从无辅助的漏洞检测过渡到远超人类的检测能力，并不需要政府采取什么非常规干预。我们承认 LLM 确实提升了漏洞检测水平，但它们建立在数十年的工具积累之上，而这些工具早已远非任何人类单打独斗可比。既然我们已经消化了向这类工具的过渡，那么值得追问的是：语言模型带来的额外能力，是否真的需要非常规干预？

当然，这些过渡并非一帆风顺、毫无代价。曾有一段时间，攻守平衡被彻底打破。恶意软件的病毒式传播及其带来的不对称优势是前所未有的。15 岁的少年就能发动 破坏力惊人 的网络攻击，搞垮顶级电商网站和搜索引擎。可以想见，如果当时政府出面加强网络安全，个人和企业在那个时期蒙受的损失或许会小一些。

AI 被用于网络攻击，可能再次打破攻防平衡。我们认为，AI 的过渡期默认不会一帆风顺。许多当前防护薄弱的系统——包括学校、医院、电网以及小型政府机构——将面临真实的风险。Anthropic 的 Project Glasswing 和 OpenAI 的网络安全资助计划固然重要，但单靠它们远远不够。限制先进 AI 系统的访问权限在短期内或许有帮助，但在开源模型仅落后最强闭源模型几个月的当下，它绝非万能解药。 应对 AI 带来的网络风险，需要投入资源建设韧性与防御能力。这意味着不仅要为科技公司提供AI 辅助的红队测试，还要覆盖学校、医院、电网、中小企业以及缺乏防御能力的政府系统。我们还应激励专业安全专家发现并报告漏洞（无论是否借助 AI），例如通过扩大漏洞赏金范围，覆盖科技公司产品以外的更多领域。这些工作不会自动发生，需要主动的投资与规划。 好消息是，跨多个行业的应对工作已经启动。虽然这需要大量投入，但仍远少于强制执行严格扩散管制体系的成本。坏消息是，政府要做的事情还很多，才能让过渡真正平稳无痛。

同样的分析也适用于生物安全。AI 或许能降低某些信息壁垒，但生物袭击仍依赖许多下游环节：获取材料、接触专用设备以及运用隐性知识。我们当下就可以在这些下游环节介入，以增强社会对生物袭击的韧性，而无需对 AI 研发施加严格管控。具体措施包括：加强对合成生物学订单的筛查、利用 AI 评估新化合物的风险、追踪危险材料的获取情况，以及开展进攻性红队测试（例如邀请可信专家尝试利用 AI 制造危险化合物）来发现这些防御措施中的漏洞。无论生物风险是否源自 AI，这些措施都有助益。

如果韧性提升如此有益，为何我们尚未将其列为优先事项？

关键在于，提升韧性并不需要政府的非常规强力干预，它只要求我们在“常规”的政策制定与执行流程上更加得力。

问题在于，我们在常规政策制定方面表现不佳。我们猜测，韧性方案看似缺乏吸引力，可能是因为其需要多中心治理（Polycentric Governance），即众多决策者需和谐协作。考虑到美国的国家能力已因数十年来不断积累的否决点和日益蔓延的程序主义而步履维艰，这种治理模式更难推行。因此，行政部门的单方面行动往往被视为制定和执行 AI 政策的唯一出路。

与防扩散策略相比，投资韧性需要更广泛的主体参与行动和投入。若要使韧性生效，政府不仅需要立法和拨款，还需跨部门协作、建立早期预警系统，并作为资源中心为下游行动者提供支持，快速传递信息以助其巩固防御。美国联邦政府在这些任务上的胜任能力，显然并非其长项。

所以，回顾政府在韧性建设上的表现，政策回应乏善可陈，也就不足为奇了。事实上，即便在对 AI 持“常规”与“非常规”观点的两方之间存在一些共识领域，比如透明度要求、审计、以及安全研究的免责保护，联邦层面的具体行动至今仍未落地。（也有一些尝试，比如最近有议员致信敦促联邦政府加强网络风险方面的协调。但目前这只是一封建议信，后续是否会有实际行动，还不得而知。）

正是在这样的背景下，防扩散之类的非常规政府手段在应对 AI 风险上显得颇具吸引力。这类手段在道德上令人满足，因为负担主要落在制造风险的公司头上；执行上也相对可行，因为只需行政部门单方面行动，比如动用《国防生产法》。核心问题在于：靠这些手段能否取得更好的结果，还是我们更应该投入精力去改进“常规”的治理流程？

我们理解前一条路径的动机，但我们更倾向于后者。把政策理顺很难，但很重要——不仅是为了这一轮 AI 政策和滥用风险，也是为了未来所有应对技术危害的干预措施，更是为了让民主机制整体上能有效运转。

反过来说，如果我们抵御 AI 风险的主要手段只有防扩散，那么只要出现一项让模型训练成本大幅降低的技术突破，就可能足以打破稳定——尤其是在我们没有同时投入韧性建设的世界里。等到大坝最终溃堤时，损害只会更加惨重。

致谢。 感谢凯蒂·格伦-巴斯（Katy Glenn-Bass）对文章草稿提出的反馈，以及 Shira Minsk 提供的编辑支持。本文同时发布在Knight First Amendment Institute网站上。

1

汤普森写道：“我理解将 AI 视为一种‘正常’技术并允许 Nvidia 向中国出口高性能芯片的计划。我也理解将 AI 视为一种‘非正常’技术、迫使政府出台异常严格的法规，以阻止私营企业因产品或服务过于危险而拒绝销售的计划”（强调部分为我们添加）。他进一步得出结论，认为 AI 确实是非正常的，暗示支持进行特殊的政府干预。我们的文章正是对这一结论的回应。

2

汤普森的文章表达了对 AI 企业施加限制的支持，但关于这些限制在实际中具体形态，仍显得含糊不清。关于需要哪些干预措施及其负面影响的分析，是基于我们对该主题本身的思考，而非针对他具体的提案。

85819Share