Anthropic与OpenAI拟引入嵌入式安全评估者：独立性存疑

就在本周末，Anthropic CEO Dario Amodei 发表了一篇长文，提出了一个一年前绝不可能被 AI 行业接受的提议：在所有前沿 AI 公司内部嵌入第三方评估者，赋予它们报告安全事件、评估 AI 模型是否真正对齐，并向世界公开无保留调查结果的权力。

Amodei 表示，Anthropic 将承诺给予 METR 和 Redwood Research 等独立评估者前所未有的系统访问权限。OpenAI CEO Sam Altman 表示，OpenAI 也将采取相同做法，这可能预示着行业与外部研究团体的合作方式将发生深刻变革。

几位接受 TechCrunch 采访的第三方评估者普遍欢迎这一提议，但指出具体细节仍需敲定，最好能有立法支持。否则，他们无法确定自己究竟是作为真正独立的监管者，还是沦为按 AI 公司条款行事的供应商。

随着模型越来越擅长识别自己正在接受评估，这种深度访问权限变得愈发重要。如果模型在测试期间表现得规规矩矩，却隐藏着有问题行为，风险就会增大。研究人员指出，仅检测成品模型容易漏掉这些行为线索，但调查整个训练过程中的表现则可能发现真相。

Apollo Research 研究主管 Alexander Meinke 告诉 TechCrunch：“AI 公司应该能回答关于其训练过程的一些基本问题，比如：AI 在训练过程中是否曾主动破坏自己的对齐训练？答案必须是明确的‘否’。目前我们完全依赖 AI 公司自行仔细检查，然后如实向公众报告。但近期事件表明，默认情况下它们既不会仔细检查，也不会如实报告。作为嵌入式评估者，我们才能真正进行核查。”

过去，AI 公司通常在模型发布前夕才请外部评审机构对最终成品进行测试。如今，接受 TechCrunch 采访的几位评估者提出了新的做法：不只让他们接触最终模型，还要开放训练过程中各个阶段的中间版本，即“checkpoint”。Far.AI CEO Adam Gleave 表示，评估者可以通过对比这些 checkpoint，判断问题行为是何时出现的，检查奖励模型某些行为的训练后环境，并查看评估记录和日志，核实公司对模型表现的说法是否属实。

Anthropic 和 OpenAI 是否以及何时会开放这类权限，目前尚不清楚。面对 TechCrunch 的多次追问，两家公司都没有透露将与哪些评估者合作、何时引入、引入多少，也没说明评估者能访问哪些系统和信息、哪些内容可以对外公开。

这种“打开引擎盖”式的深入审查之所以重要，是因为在安全测试中表现好的模型未必真的安全——它们可能只是专门学会了如何通过测试。Steidley 举了一个“关机抵抗基准”（shutdown resistance benchmark）的例子，用于衡量 AI 在某些情况下是否会抗拒被关闭。

“如果 AI 专门针对这个基准做过训练，那这个测试就没什么意义了。”Steidley 说。他还拿大众“排放门”丑闻作类比：当年的汽车被编程为能识别排放测试，从而在检测条件下表现异常。

Gleave 指出，有意义的权限不止限于模型本身，评估者还应有权访谈员工，核实公司有关安全实践的文档和公开描述是否与内部实际情况相符。

Amodei 确实提出过一套相当完整的方案，可能满足评估者认为必要的访问权限，其中包括“有权发布关于风险等级、事故、实践以及所获（或未获）访问权限的关键发现，且不受 Anthropic 的编辑控制”。

但评估者们表示，这套机制能否奏效，关键在于 AI 公司是否真的愿意交出对流程的控制权。以往独立评估的经验表明，这种让步并非易事——第三方往往会在访问权限、时间安排、保密要求和公开发言尺度等方面与公司产生摩擦。

Gleave透露，Far.AI不得不拒绝多家前沿开发机构的合作邀请，因为对方试图过度干预评估流程，威胁到公司的独立性。他表示，评估人员的待遇通常与外包人员无异，受限于严格的保密协议（NDA）和合约条款，这些条款赋予开发商对最终可发布内容的高度控制权。

时间限制

另一个问题是，审查者是否能获得足够的时间和权限来完成既定任务。在调查Hugging Face事件时，OpenAI仅给了METR和Redwood约一周的现场调查时间。这两家机构随后都表示，由于调查范围和时间有限，他们无法得出确切的结论。

GPT-6 Astra的预发布测试中出现了类似情况。OpenAI曾将这款模型宣传为其迄今最符合对齐标准的模型。根据Apollo Research在模型卡片中的贡献，该公司仅获得三天时间来测试Astra，这使其难以得出可靠结论。

“Apollo认为，鉴于模型对评估的高度意识以及有限的评估窗口，此处较低的不当行为发生率并不能为模型的对齐或失配提供实质性证据，”该机构在其评估报告中写道。

这一历史记录让评估者面临一个基本问题：为什么这次会不一样？

“当然，Dario和Sam可能确实改变了想法，并愿意对此保持透明，”Gleave说道。“但这些公司的知识产权对他们价值巨大，我认为他们默认会对可共享的信息非常谨慎。”

多位接受 TechCrunch 采访的研究人员呼吁建立一套透明的框架，让各方共同公开认可。Palisades Research 战略负责人 John Steidley 指出，该框架的一部分应明确企业可以信赖的审计机构标准，防止企业通过寻找资质不足或对最危险风险不感兴趣的评估机构来回避问题。

Safer AI 执行总监 Henry Papadatos 表示，即便有了公开框架，问题在于自愿性措施始终取决于企业的善意。

Papadatos 告诉 TechCrunch：“理想情况下，我们需要强有力的监管法规来强制实施……这样，即使企业明天遭遇重大公关危机，也无法改变主意。”他指出，这也有助于推动所有企业遵守规则，而不仅仅是那些最愿意配合的企业。

并非所有人都已签署承诺。目前，Meta、SpaceXAI 和 Google DeepMind 尚未承诺嵌入第三方评估员，尽管 DeepMind CEO Demis Hassabis 提议建立一个独立的行业标准机构来测试前沿模型。此外，Google、OpenAI 和 Anthropic 数周来一直在私下讨论 AI 安全计划。

围绕第三方评估员的概念，相关法律法规已在陆续成形。去年签署成法的加州 SB 53 法案要求大型前沿 AI 开发者发布安全框架并报告关键安全事故。本月签署的新法 SB 813 为州认可的、具备 AI 风险评估专业知识的“独立验证机构”建立了框架。

在欧洲，欧盟 AI 法案要求前沿开发者进行并记录模型评估及对抗性测试，并报告严重事故。欧盟 AI 办公室还可以进行自己的评估并任命独立专家。

目前，法律规定并未像 Amodei 提议的那样广泛，主要仍由前沿实验室自行决定接受多少独立审查。Papadatos 认为，自愿自我监管总比什么都没有强，但归根结底，企业不能一方面要求掌控自身安全规则的权力，另一方面又要求公众信任它们正在遵守这些规则。

Papadatos 说：“你不能两头都占——对外不承担任何问责，然后又说‘我自己定一套灵活的规则就行’。”