← 文章 / AI技术
Latent Space 4小时前 · 2026-09-27 23:30:47 · 1 阅读

生物安全是一场AI军备竞赛——专访Radical Numerics CEO Eric Nguyen

OpenAI 到 Hugging Face 的这次攻击引发了大家的疑问:“我们还该担心什么?”Anthropic 的过滤器标记出了两个领域:网络安全和生物学。自然的追问是:那么生物安全呢?

Clem Delangue 认为,应对网络战争的防御能力必须保持开放,且要跟上前沿模型在攻击能力上的进展

clem 🤗@ClementDelangueSo proud of our security team! They caught, contained & publicly disclosed an attack unlike anything we've seen before, and did it at record speed. Also massively grateful to @Zai_org: they shared GLM5.2 as open weights (for free!) with the world and it became a key part of our…Adrien Carreira @XciD_Hardest IR of my career: one narrow objective, endless parallel paths, machine speed. One takeaway, we fought back with open models, in the open. AI security won’t be solved by one company in secret. Open source puts these tools in every defender’s hands12:54 PM · Jul 22, 2026 · 505K Views
177 Replies · 683 Reposts · 4.88K Likes

Radical Numerics 联合创始人 Eric Nguyen 与我们坐下来谈了谈,解释了为什么同一批在提升生物能力的模型,也能确保防御方不落后。

从零开始构建病毒

在斯坦福大学期间,Eric 推动基因组语言模型(Genomic Language Models, GLMs)时,很长一段时间都没能得到重视。生物学家们不相信这条路行得通,认为无法验证模型输出,也没看到比现有手段更有价值的应用。但他坚持推进,最终协助主导了 Evo 的开发,并为 Arc Institute 的 Evo 2 做出贡献。后来,Arc/Stanford 的另一个团队利用这些模型生成了完整的噬菌体基因组,并将其合成为具有功能的病毒!

长上下文解锁生物智能

早期的 ChatGPT 只会写写诗和邮件,而 Evo、Evo-2 这类早期的 DNA 语言模型已经能从零构建一个基因组。不过 DNA 和自然语言有个很大区别:它的字母表极小(只有 ACTG 四个字符),但序列非常长:

  • 人类基因平均 6 万个字符

  • 最长的可达 230 万

  • 整个人类基因组约 30 亿。

大约 3 年前,长上下文模型的技术突破(注:striped hyena)让这一切成为可能,比前沿实验室打造百万级上下文模型还要早。

改编自 Wikipedia: Genome Size

如今,Eric 和其他 AI x Bio 领域的重量级人物1共同创立了 Radical Numerics,致力于构建并扩展 GLM,来解决从 DNA 生成到更广泛的各类生物学问题。

用 DNA 思考

他们的 GLM 在 RNA 和蛋白质上的表现已经相当不错,因为 DNA 序列中存在明确的标记,可以识别执行多种功能的基因(即 RNA 序列)以及编码蛋白质的特定基因。这意味着这些模型在尚未尝试训练其他模态(如 3D 蛋白质结构、表观遗传学和自然语言)之前,就已经能泛化到多种“语言”上了。

如果一个模型用 DNA 语言来思考,它是否也能理解环境在不同基因组上留下的印记?也许模型已经学会了不同序列之间的功能关系,并能够基于此对新序列进行外推?

因此,我们希望展示的是:如果我们按分数顺序逐步向模型展示质量逐渐提升的 RNA 序列,先展示低分的,然后逐步向上推进,模型能否自行延续这一轨迹?在最后一步中,它是否能自我优化到得分最高的水平?这就是我们的实验目标。我们使用了一个庞大的适体(aptamer)数据集,预留了一部分表现最好的样本,只向模型展示分数较低的,但按排名排序:先展示低分 RNA 适体,然后逐步提高分数,最后让模型继续这种模式。结果证明,它确实能够复现那些我们尚未展示的高分结果。

就这样:思维链,用 DNA 语言思考!

军备竞赛

正如长上下文推理、思维链和多模态感知解锁了自然语言 LLM 的高级推理能力一样,GLM 中这些能力正在赋能日益复杂的“生物智能”,同时也带来了更大的危险。

据 Eric 所言,防御方目前在对抗中处于下风,但 Radical Numerics 主张要更大力度地推进技术前沿!

我就不剧透细节了。在本期节目中,我们将深入讨论:

  • 生物安全作为军备竞赛——防御方如何跟上节奏

  • 基因组作为环境在 DNA 上留下的印记

  • 真正走向多模态

  • 当你用 DNA 语言“思考”时,思维链如何运作

1

Eric Nguyen:联合创始人兼 CEO,拥有斯坦福大学生物工程与 AI 博士学位。他曾参与开发 Evo 和 Evo 2 等大规模基因组语言模型。
Michael Poli:首席 AI 科学家,拥有斯坦福大学博士学位,曾是 Liquid AI 的创始科学家之一。
Stefano Massaroli:总裁,曾师从 Yoshua Bengio 从事博士后研究,也是 Liquid AI 的创始团队成员。
阿明·W·托马斯(Armin W. Thomas):首席技术官,斯坦福大学前博士后,曾与克里斯·雷(Chris Ré)合作,此前任职于 Liquid AI。

原始来源: Latent Space

评论 (0)