← 文章 / AI技术
DeepMind 博客 10天前 · 2026-11-13 00:12:50 · 10 阅读

推出AlphaProof Code:实现复杂软件深层验证的突破

Google DeepMind 的研究人员构建了一套新的智能体框架,对 Signal 加密协议的实际代码进行了形式化验证——这一直被视为安全领域的重大难题。

今天,我们宣布攻克了软件安全领域一个长期被视作巨大挑战的里程碑:Google DeepMind 的研究人员引导 AI 智能体,从数学上证明了 Signal 协议底层真实代码的关键安全属性。Signal 协议是保护 Signal、Google Messages 等应用中数十亿条私人对话的技术。

这一突破性成果来自 AlphaProof Code——一个前所未有的深度形式化验证智能体框架,将人类专家经验与 AI 智能体相结合。形式化验证(即用数学方法证明代码正确无误地运行)是安全保证的最高标准,但实现起来难度大、耗费人力。

这项工作首次让 AI 对一个广泛部署的密码学协议进行了这种深度的形式化验证。同时也是这类广泛部署的协议实现首次被形式化验证——无论是否借助 AI,此前从未有人做到。

我们如何验证 Signal

AlphaProof Code 是一个多 LLM 智能体框架,它像研究团队一样分工协作:由人类专家与 AI 共同决定证明什么,再由一组 AI 智能体完成证明。

首先,研究人员与多个模型协作,将 Signal 的安全目标转化为形式化的数学规范,并由人类专家逐条审核。随后,由 Gemini Carbon 驱动的智能体完成证明工作,生成了超过六百万行 Lean 代码——这是一种通过数学方式证明代码正确性的语言。

接着,智能体对证明进行审计,标出需要人类复核的部分——仅占代码库的百分之一,大幅节省了时间。由于其余部分由 Lean 自动检查,专家们可以把精力集中在最需要人类判断的地方。

密码学协议是几乎所有数字通信的基础,从网上银行到网页浏览都离不开它,一个漏洞就可能让数百万人同时暴露在风险之下。正因如此,专家们数十年来一直在对这类协议进行形式化分析。

但大多数协议验证停留在设计层面。我们的智能体走得更远,证明了编译后的代码满足了关键的安全属性——例如,即使设备暂时被攻破,消息在前后依然保持加密保护——一直验证到设备上实际运行的精确代码。由于真实世界中的漏洞往往藏在设计与实现之间的缝隙里,跨越这一鸿沟使得这些证明变得极其复杂。

即便面对如此高的复杂度,我们的验证过程仅用了四周——而这类任务过去往往需要专家团队耗费数年——证明了 Signal 的核心加密代码确实交付了我们专家所指定的安全保护。

为了确认 AlphaProof Code 能够区分正确代码和存在缺陷的代码,我们在 Signal 代码的一个隔离版本中重新引入了两个已修复过的真实 bug。在这两种情况下,系统都生成了机器验证过的证明,表明存在缺陷的版本是不安全的。

一个工作流程图,展示了三步系统验证过程:1) 规格说明,起草并批准 Lean 规格;2) 代码,编译后的机器代码在 Lean 处理器模型上运行;3) 证明,证明者团队生成由守门人验证的证明。一个示意图,展示了使用 Lean 的三步形式化验证工作流程(规格说明、代码和证明),其中规格说明和编译后的代码由不受信任的证明者团队处理,并由受信任的守门人验证,以生成经过验证的定理和证明。

在 AlphaProof Code 中,AI 智能体帮助用户编写规格说明,然后自主证明实现满足该规格说明。每个证明都由 Lean 进行检查,以验证智能体的工作。

尽管先前的形式化验证只关注代码的较小部分,但 Google DeepMind 的方法实现了显著扩展。使用 AI 智能体将运行中的代码转化为有效的 Lean 定理是一项重大突破。随着 AI 驱动的安全威胁日益增长,对 Signal 协议实现进行严格验证,让我们对代码的隐私保证拥有更大的信心。

Ehren Kret,Signal 首席技术官

以往的形式化验证工作由于规模限制,只能覆盖较小的范围,而这次的新方法实现了大幅扩展。传统上,要验证生产代码严格符合其密码学设计,需要投入大量人力。现在,AI agent 能够自动把实际代码转化为有效的 Lean 定理,这是一个重大突破。随着 AI 驱动的安全威胁不断增长,借助自动化定理证明对 Signal 核心协议进行严格验证,让我们对代码能够兑现隐私承诺更有信心。

安全的未来

攻克这一长期难题表明,AI 能够为企业、政府和关键基础设施带来顶级的安全保障,助力抵御 agent 驱动的网络威胁。

对 Signal 核心密码学的验证,为保护其他关键系统奠定了基础——从医疗设备固件到电网软件。

要推广这些技术,还需要持续的研究。与 CodeMender 这类自动化防御 agent 相结合,形式化验证有望应对现代网络威胁的速度和规模,让软件的安全性拥有数学证明。

我们正在开源形式化验证工件,供社区使用。技术论文如下。

阅读技术论文
原始来源: DeepMind 博客

评论 (0)