AI生物武器阴影成为生物科技界的警钟
过去几周间，多家头部 AI 公司的高管发出警告，指出他们正在研发的这项技术本身就具有危险性。上周末，Anthropic CEO Dario Amodei 提出，AI 蕴含重大风险，其进展节奏应当放缓。OpenAI CEO Sam Altman 在 X 上回应：“我同意 Dario 的观点，我们需要为前沿发展踩刹车。”
这些言论出现在 AI 研究员 Jacob Coxon 宣布离职的几天后。他指责 Anthropic 和他曾任职的 OpenAI 均未以负责任的态度行事。“那些构建 AI 的人真心相信，到本十年末，它可能会让我们全人类灭亡，”他在 X 上写道。Anthropic 的另一名员工 Evan Hubinger 公开表示认同。“我们确实真心相信 AI 可能让全人类毁灭！”他在 X 上回应，“我个人认为，十年内发生这种情况的概率超过 10%。”
他们担忧 AI 终结全人类的方式之一，就是它可能在某种生物武器的设计、制造和释放过程中提供帮助。让我们更仔细地探讨其中的原因。
生物武器可能是一种毒性极高、能根据基因特征针对性攻击人类的病毒，也可能是一种能摧毁农作物、引发粮食危机的真菌，甚至是一种无味无嗅的毒素，可以悄无声息地混入某地区的供水系统而难以察觉。
令人担忧的是，AI 工具可能被用来生成上述这类病原体。2022 年，Collaborations Pharmaceuticals 的研究人员发现，利用他们开发的 AI“分子生成器”来寻找人类疾病潜在药物，其结果竟能如此轻松地生成危险分子。不到六小时，该模型就生成了 40,000 个具有成为化学战剂潜力的分子，其中一些分子的毒性甚至超过了已知的神经毒剂。“我们不希望过于危言耸听，但这应作为对我们‘AI 药物发现’领域同行的一次警醒，”作者当时撰文指出。
对斯坦福大学医学及生物伦理学教授 David Magnus 而言，这一切无异于敲响警钟——尽管自 1990 年代末以来，他就一直在评估医疗科学与生物技术被滥用的风险。“当时真的让我很害怕，”他说，“从那时起，事态一直在不断恶化。”
如今，AI 机器人能够回答涵盖科学各个领域的各类问题。德国汉堡大学的生物安全研究员 Dunja Sabra 表示，任何人都可以使用基于“这颗星球上几乎每位曾存在过的科学家”的知识与经验训练出来的大型语言模型。这些模型甚至可以提供实验操作的指导说明和视频培训。
再叠加生物技术领域的进步——基因编辑和合成生物学工具的获取门槛大幅降低（“DIY 生物学”运动已经让许多人能在家里搭建实验室）——这就构成了一种潜在的危险局面。“只要有人下定决心，迟早会成功，”Sabra 说。
目前已有一些防护措施。想要构建新型基因组的人，通常 必须向那些会筛查可疑订单的公司订购 DNA 片段。负责任的科研者会对潜在有风险的研究进行多轮分析，包括“红队”测试——由独立科学家寻找可能被滥用的途径，以及“蓝队”测试——由其他研究人员提出可能的缓解措施。同时，AI 公司也在调整其工具，试图阻止它们提供可能被滥用的科学信息。但所有这些防护都不是万无一失的。
在上周发布的一份报告中，Anthropic 承认，有人曾试图利用其模型探索如何提高基孔肯雅病毒的传播性、制造对人类更危险的禽流感变体，以及构建一个“毒液毒素肽图谱”等。
Magnus 说：“我们始终处在反复博弈之中——我们要构建更好的监测和筛查工具，但 AI 特别擅长绕过这些防线。”他表示，我们恐怕得借助 AI 来寻找限制 AI 使用的方法。
需要说明的是，科学界对风险程度的看法并不一致。在最近的一次媒体吹风会上，帝国理工学院的一些生物学家认为，目前的 AI 工具还不足以独立开发生物武器，测试新病原体仍需要困难且耗时的人工工作。也有人认为现有的防护措施已经足够。
帝国理工学院传染病教授 Wendy Barclay 则指出，就目前而言，大流行的最大风险并非来自生物武器，而是来自已经在传播的病原体。比如 H5N1——这种禽流感病毒已导致数以百万计的鸟类死亡，并在美国奶牛群中广泛传播；上个月，犹他州一家养殖场的人工养殖水貂中也检出了该病毒。
而 Sabra 更愿意往前看五到十年。她说，各国应当加强医疗体系、为已知毒素准备解毒剂并储备药品：“我们必须做好准备。”
MIT 生物学家 Kevin Esvelt 曾发明让某种遗传特性在 entire 种群中快速传播的技术，也发明了限制该技术的方法。他在周三的一条 X 帖子中呼应了这些担忧，称一个大语言模型“披露了一种我此前从未意识到可能存在的新型生物武器”。
他补充道：“拜托，看在上帝的份上，为了孩子们，为了人类的未来，或者为了你们认为神圣的一切，在这件事上，请我们谨慎一些。”
本文首次刊载于《体检》栏目，这是MIT Technology Review 的每周生物技术简报。如果你想每周四在收件箱中收到该简报，并抢先阅读此类文章，请在此注册。