恐惧的传染

恐惧的传染（via）Bryan Cantrill 回应了前 Anthropic 员工 Jacob Coxon 的推文，该推文证实许多 Anthropic 研究员认为人工智能“可能在十年内让我们全部死亡”。

Bryan 分享了自己年轻时犯下的错误如何在非技术同行中引发不必要恐慌的经历，并警告不要重蹈覆辙：

这些惊悚的言论大胆地冲击着人们的心理防线。鉴于人工智能显而易见的重要性，这类言论涌入主流视野并不令人意外，人们自然会追问：它究竟会怎样发生？答案往往依赖于对未来的空泛外推；例如，Jacob Coxon 提到了“攻击关键基础设施”和“灭世级生物武器”，但未作进一步说明。但 Coxon 既不是关键基础设施专家，也不是生物武器专家，更不用说对灭世级场景的研究了。[...]

话虽如此，我们不期望公众能理解大语言模型、关键基础设施、生物武器或灭绝生物学等领域——解释这些的负担应由提出声明的人承担。几十年前我（羞愧地）学到的教训是：领域专家因其专业性而隐含着公众的信任——我们绝不能滥用这种信任。我们有义务审慎地做出声明——在发出警报时尤甚。

Bryan 在近期的一期 Oxide and Friends 中谈到了他对生物武器担忧的怀疑，我也有幸参与该期节目。你可以从该期51分44秒处开始收听他更多的观点。这里是57分04秒处的内容：

我真心认为我们需要谨慎，因为在编造这些……恐惧很容易支配我们的情绪。它甚至能衍生出生物武器。比如，怎么做到的？拜托让一位生物学家或熟悉生物武器的人来评论一下吧。［］生物武器这个话题总让我如鲠在喉，因为它留下的想象空间太大，我们往往是靠恐惧去填补的。