← 文章 / AI技术
Latent Space 1天前 · 2026-11-21 05:25:18 · 3 阅读

对抗 AI slop 的新武器:形式化验证

2026 年 AI 行业的年度关键词是“slop”——指大语言模型输出的低质量内容。如今大量代码由 AI 生成,如何避免 slop 已经成为软件工程师的日常课题。那该怎么办?一种方法是使用形式化验证(formal verification)系统,借助数学证明和逻辑来验证软硬件的正确性。

随着 AI 解数学题的能力越来越强,不少 AI 公司开始提供形式化验证系统,包括 Harmonic、Theorem、Axiom Math,以及新入局的 &Truth(读作 “and truth”)。本文将介绍这些公司所采用的几种方法。

形式化验证如今在软件和 AI 中的应用

为了更好地了解形式化验证系统的现状,我们采访了该领域的领军人物之一、&Truth 联合创始人兼联席 CEO Clark Barrett。他同时也是斯坦福大学计算机科学 Corbel 研究型教授,并参与开发了形式化验证中广泛使用的自动推理引擎 cvc5。

简单来说,cvc5 是一个 SMT(可满足性模理论)“求解器”,Barrett 表示这类工具在亚马逊等公司已被广泛使用。比如,cvc5 被用于亚马逊 agentic 开发环境 Kiro 中的规格分析和测试生成。

“看到我的工具从实验室里的一个想法,变成如今在亚马逊生产管线上每天被调用数十亿次,这种感觉挺奇妙的,”Barrett 告诉我们。

来自 Clark Barrett 参与合著的一篇 2022 年关于 cvc5 的论文。

AI 编程 agent 公司在谈“验证”自己的工作时,通常指的是让 agent 跑测试、自我审查输出,或者用另一个 AI 模型来判断结果。于是我问 Barrett,这些做法离真正的验证还差多远?

“核心区别其实就一点:你怎么知道工作完成了,”他回答道。“测试、打补丁、扫描——用这些现有工具,效果已经很不错了,能发现大量问题并报告出来。但你永远无法确定:问题是全找完了,还是还有一条藏在角落里,恰好是我的工具查不出来的?”

&Atlas,&Truth 的首款工具,它是一张“全球开源代码地图,从 C 语言代码起步”。

Lean 在形式化验证中的作用

&Truth 构建在 Lean 之上——一个开源的编程语言和证明助手。该公司将 AI 与自动推理技术相结合,构建出可供 Lean 校验的证明。

Lean 是前沿模型用来攻克各类极难数学问题的语言。比如就在本周,GPT-6.2 Astra 产出了“Smoktunowicz Gap 定理的首个 Lean 证明”。Vals 还提到,Anthropic 也用 Lean 形式化了费马大定理,这个项目有 1300 万行代码。

数学界最新的重磅消息是:Anthropic 数学家 Levent Alpöge 声称,并把证明以 Lean 形式发布出来。

Lean 代码示例;来自 Lean 项目官网

Truth 正在 Lean 框架之上打造所谓的“验证机器”,目标是让机器能读懂“任何语言写的代码,证明它是否满足明确定义的需求,从而让人类无需逐行理解代码也能信任它”。

“Lean 做的事情就是检查你有没有犯错,”Barrett 解释道,“你可以把它当成一个非常高深的数学检查器。”

赞助方此处广告位招租触达构建下一代产品的 AI 工程师。

Latent Space 的读者正是落地 agent、模型和基础设施的从业者。有意赞助请咨询。

business@latent.space →

这对模型训练也有意义。Axiom Math 用形式化验证为数学推理系统的训练提供正确性反馈,借助证明尝试来改进未来的模型。

在<6 月接受 Latent Space 的采访>中,Axiom CEO Carina Hong 指出,形式化验证以及 Lean 所带来的能力,并不只是一种防御手段。

“对我们来说,形式化验证,或者说经过验证的 AI,不只是处理或清除那些低质量内容、幻觉和错误,而是要放大卓越,迈向超级智能。”

播放视频

在 YouTube 上打开视频 ↗

Axiom 开发了生成 Lean 证明的 AI 系统 AxiomProver,以及用于探索、验证和操作这些证明的工具包 AXLE。

Harmonic 的 Aristotle 是一款“自动定理证明器”,在其产品中大量使用 Lean。该公司在官网上表示:“在 Aristotle 内部,AI 负责写证明,Lean 逐步检查,因此任何结论都不依赖于 AI 是否正确。”

Harmonic 的工作流程

网络安全与 LLM 规模化的形式化验证

如今人们对网络安全的警惕程度空前高涨——有人认为这正是 AGI 到来前的时代特征——形式化验证系统因此显得比以往任何时候都更加必要。Barrett 也确认,网络安全是 &Truth 的核心方向之一。

“我们技术的一个强大应用场景,就是扫描世界上所有的 C 代码——无论是开源还是闭源——确保其内存安全。如果发现不安全的地方,我们能明确指出:这段代码有问题,你需要修复它才能保证安全。”

安全同样是 &Truth 的竞争对手之一 Theorem 的关注重点。Theorem 在其官网上写道:“在对手不断壮大的时代,验证是唯一可靠的防御手段。”

Theorem 的证明效率评测:“在我们的证明效率评测中,按模型发布日期统计每小时验证的机器代码 KB 数,附 95% 置信区间。”

Theorem 还与 Anthropic 就这一话题展开合作,成果是一篇题为“LLM 正让形式化软件验证在大规模场景下变得可行”的博客文章。

这篇文章中一个令人振奋的观察是:形式化验证虽然目前很费 token,但正在变得越来越省。在 36 个小型验证任务上,Anthropic 报告称 Opus 5.5 达到 50% 的解决率,且所用 token 比 Opus 5 少约 40%。随着更多模型“基于长验证任务训练”,这一趋势预计将持续下去。

Theorem 和 Anthropic 将“LLM 规模化的形式化验证”视为一种有前景的方案,能在以往不切实际的规模上提供安全保证。

Anthropic 图示:“从代码到机器可验证的保证”;此例中使用的是 Rocq 而非 Lean。

面向开发者的“veri-coding”体验

最后,形式化验证如何融入开发者的工作流?&Truth 在官网上表示,开发者将从 vibe-coding 走向“veri-coding”——也就是把验证层纳入日常工作流程之中。

Barrett 说:“如果你的验证机器连接着 agent,你仍然可以说‘嘿,帮我构建这个。’可能需要花点功夫和 agent 明确你要构建的东西的具体规格。但之后 agent 就能在底层与形式化验证工具协作,最终你会发现几乎没什么区别——只是你的代码第一次就能跑通。”

也就是说,开发者会花更多时间在编写规格和评审上,而不是写代码或审查代码。

验证所有结果

就在我快写完这篇文章的时候,看到了 Cognition 开发者关系负责人 Nader Dabit 的这条推文:

无论"outcome engineering"(结果工程)这个说法能否流行,他确实抓住了当下编程的动向:当你只需要告诉 agent 团队你想要什么,它们就会直接构建出来时,你(人类开发者)需要一种方法来检验 agent 交付成果的正确性。

如果 &Truth、Harmonic、Theorem 和 Axiom Math 这类公司能如愿以偿,形式化验证将日益成为检验这些结果的实用手段。

感谢阅读

保持领先一步。

新鲜观点、原创报道和深度对话,直达你的邮箱。

订阅 Latent Space接下来 · 伦敦AI Engineer Europe 20272027年2月17–19日 · 伦敦 ExCeL 展馆

欧洲旗舰级 AI 技术大会回归,为期三天,汇聚全球顶尖的 AI 实验室、平台和工具,面向欧洲的开发者。

购买门票

最受欢迎

近30天有史以来
  1. 1Claude Mods:把 Harness 从里到外翻个底朝天
  2. 2斯坦福如何教授 AI 原生工程 — Mihail Eric, Monaco
  3. 3Jev 革命:工程师们正在用 System One 模型构建什么
  4. 4AI 野心:ArtCraft 克隆了 Photoshop,如今想“重建一切”
  5. 5Anthropic 如何用 Claude 交付 Claude:大脑与双手分离
  1. 12025 年 AI 工程师阅读清单
  2. 2品味就是你的护城河 —— 对话 Figma 的 Dylan Field
  3. 3AI 工程师的崛起
  4. 4o1 不是聊天模型(这正是重点所在)
  5. 5GPT-5 上手体验:欢迎来到石器时代
赞助在此展示你的赞助广告触达正在构建未来的 AI 工程师。

阅读 Latent Space 的正是那些在交付 agent、模型和基础设施的人。了解如何赞助这个位置。

business@latent.space →

继续探索

文章归档

在归档 →中查看更多文章与访谈

Latent Space

由 AI 工程师打造,为 AI 工程师服务。原创深度分析、播客和每日 AI 新闻简报。

订阅

探索

文章AI 新闻播客YouTube文章归档Wiki

社区

社区 AI 新闻Latent Space 社区AI Engineer 大会订阅 newsletter成为付费会员关于我们

收听与关注

Apple PodcastsSpotifyYouTubeX / TwitterRSS feeds播客 RSS© 2026 Latent Space来现场见我们状态页隐私政策服务条款×The AI Engineer 出版物

推动 AI 前进的对话。

认识正在构建它的人,深入了解幕后故事。

订阅通讯 ↓Mark ZuckerbergMetaSatya NadellaMicrosoftCat WuAnthropicBoris ChernyAnthropicDiogo AlmeidaTypeSafeJeff DeanGoogleGeorge Hotztiny corpNoam BrownOpenAIKatelyn LesseAnthropicDylan PatelSemiAnalysisGreg BrockmanOpenAIThariq ShihiparAnthropicMarc Andreessena16z浏览全部对话 ↗嘉宾及所属机构信息以录制时为准。←→

加入 Latent Space

使用 Google 登录,或通过邮箱订阅 newsletter。

选择你的 newsletter全部 newsletterLatent Space每周 2–3 期AI 工程洞察与对话。浏览往期 ↗Greg BrockmanOpenAIThariq ShihiparAnthropicMarc Andreessena16z×来自本期对话

OpenAI 的 AGI 之路

与 Greg Brockman 对谈 OpenAI 通往 AGI 的路径,以及我们对 GPT-5、Codex 和 agentic coding 趋势的分析。

阅读全文 ↗观看节目 ↗×来自本期对话

Claude Code 的新时代

Thariq Shihipar 谈 Claude Code 的下一个阶段:prompt、harness、插件与 agent——以及跟上前沿需要什么。

阅读全文 ↗观看节目 ↗×来自本期对话

为什么这次不一样

Marc Andreessen 谈浏览器的未来、Pi 与 OpenClaw,以及这波 AI 为何感觉截然不同。

阅读全文 ↗观看节目 ↗AI for Science每月 2–3 期AI 如何改变科学发现。浏览往期 ↗Mark Zuckerberg & Priscilla ChanBiohub · CZIAnima AnandkumarCaltechJohn PlattGoogle×来自本期对话

AI 能治愈所有疾病吗?

Priscilla Chan 和 Mark Zuckerberg 谈 Biohub 的前沿 AI 与虚拟生物学计划,以及治愈或预防疾病的愿景。

阅读全文 ↗观看节目 ↗×来自本期对话

物理学的 foundation model

Anima Anandkumar 谈物理世界建模——从天气到聚变反应堆——以及为什么物理学需要的不只是语言模型。

阅读全文 ↗观看节目 ↗×来自对谈

AI 科学家

John Platt 谈科学自动化、应对气候变化,以及新一代人如何在 AI 时代贡献力量。

阅读全文 ↗观看节目 ↗AINews每个工作日每日必读的 AI 精华资讯。浏览示例 ↗阅读示例 ↗MCP Apps阅读示例 ↗AI Combinator阅读示例 ↗Kimi K2.5×来自简报

Apps 登陆 Claude

Anthropic 通过开放的 MCP 标准,为 Claude 带来可交互应用,打造更丰富的 AI 界面。

阅读本期 ↗×来自简报

Sam Altman 的 AI Combinator

Sam Altman 的 town hall 揭示了 AI 时代创业的新玩法。

阅读本期 ↗×来自简报

Kimi K2.5 抬高开源模型门槛

Moonshot 的多模态模型带来颇具竞争力的编程能力、原生图像和视频理解,以及并行 agents。

阅读本期 ↗

正在加载 Google 登录…

或通过邮箱订阅邮箱地址免费订阅

免费订阅,随时可更改偏好或退订。

探索 Latent Space Pro →每个工作日的完整 AINews 邮件,支持我们的创作。选择你的订阅全部订阅Latent Space每周 2–3 期AI 工程洞察与对谈。浏览示例 ↗Greg BrockmanOpenAIThariq ShihiparAnthropicMarc Andreessena16z×来自对谈

OpenAI 的 AGI 之路

与 Greg Brockman 畅聊 OpenAI 通向 AGI 的路径,并附上我们对 GPT-5、Codex 以及 agentic coding 浪潮的解读。

阅读文章 ↗观看节目 ↗×对话精选

Claude Code 的下一个时代

Thariq Shihipar 谈 Claude Code 的下一个时代:提示词、harness、插件与 agent,以及跟上前沿需要付出什么。

阅读文章 ↗观看节目 ↗×对话精选

为什么这次不一样

Marc Andreessen 谈浏览器的未来、Pi 与 OpenClaw,以及这一波 AI 为何感觉不同。

阅读文章 ↗观看节目 ↗AI for Science每月两到三期AI 如何改变科学发现。浏览示例 ↗Mark Zuckerberg & Priscilla ChanBiohub · CZIAnima AnandkumarCaltechJohn PlattGoogle×对话精选

AI 能帮助治愈所有疾病吗?

Priscilla Chan 和 Mark Zuckerberg 谈 Biohub 在前沿 AI 与虚拟生物学上的规划,以及治愈或预防疾病的愿景。

阅读文章 ↗观看节目 ↗×对话精选

物理学的基座模型

Anima Anandkumar 谈物理世界建模——从天气到聚变反应堆——以及为什么物理学需要的远不止语言模型。

阅读文章 ↗观看节目 ↗×对话精选

AI 科学家

John Platt 谈科学自动化、应对气候变化,以及下一代如何在 AI 时代做出贡献。

阅读全文 ↗观看节目 ↗AINews每个工作日每日必读的 AI 要闻。浏览示例 ↗阅读示例 ↗MCP Apps阅读示例 ↗AI Combinator阅读示例 ↗Kimi K2.5×来自简报

应用进入 Claude

Anthropic 通过开放的 MCP 标准,将交互式应用引入 Claude,打造更丰富的 AI 界面。

阅读本期 ↗×来自简报

Sam Altman 的 AI Combinator

从 Sam Altman 的 Town Hall 看 AI 时代的创业之道。

阅读本期 ↗×来自简报

Kimi K2.5 抬高开源模型门槛

Moonshot 的多模态模型带来了极具竞争力的编程能力、原生图像与视频理解,以及并行 Agent。

阅读本期 ↗

取消全部勾选,即可创建不带新闻邮件的账户。

完成邮件偏好设置订阅新闻邮件退出登录登录以管理偏好使用其他邮箱帮助我们顺利送达你的收件箱。

我们最近更换了邮件服务商。请检查收件箱、垃圾邮件或推广邮件文件夹中的 Latent Space。如果被归入垃圾邮件,请标记为“非垃圾邮件”并移回收件箱,这样以后的邮件才能送达。

继续探索

浏览我们推荐的技术类新闻邮件,或进一步了解 Latent Space 会员。两者均可选。

发现新闻邮件查看付费方案继续阅读

新闻邮件为可选项。账户数据使用说明。

请启用 JavaScript 以登录或订阅。你也可以继续阅读文章。

原始来源: Latent Space

评论 (0)