AI 最尖锐的批评者 Timnit Gebru：末日论调是转移视线的烟幕弹
在 WIRED，我们一直试图理清本周人工智能行业发生的两起事件：首先，围绕一个百万美元数学难题的激烈争论，焦点在于 OpenAI 是否暗中挪用了其他研究人员的工作，从而抢先解决了该问题。一天后，一位曾在 OpenAI 工作过的 Anthropic 研究人员公开辞职，理由是担忧这两家公司在 AI 安全方面的处理方式。Anthropic 的另一名技术人员回应称，公司里的人“真的严肃地认为 AI 能杀死全人类！我个人认为在接下来十年内这一概率超过 10%。”（请注意那个感叹号。）
互联网随即爆发了一场辩论：这些担忧究竟是合理且紧迫的、被完全夸大的、一种监管俘获策略，还是制造这些技术的 AI 实验室在自我抬高？或者兼而有之。
著名科技与 AI 研究员 Timnit Gebru 的态度尤为激烈。她在 X 和 Bluesky 上发帖，剖析了她认为导致我们陷入这种荒诞局面的相互交织的理念与意识形态。此前，Gebru 最为人知的是她备受关注的离开谷歌事件。她于 2018 年入职，负责评估该公司快速推进的 AI 工具中的偏见。她与同事提交了一篇关于概率型大语言模型潜在危险的论文，但被谷歌拒绝。Gebru 在公司的日子也没剩下多少。她写了一本关于这段经历的书，题为《深度遗忘：AI 的崛起与科技理想主义者的激进化》（预计明年年初出版）。
Gebru 对上周发生的 AI 相关事件有许多看法。尽管她的工作本质上植根于 AI 安全领域，但她拒绝使用“安全与对齐”这样的短语，并认为那些警告我们即将面临末日的人们，实际上是在试图转移公众对科技行业可能持续造成的实际危害的注意力。
LAUREN GOODE：你认为所有针对“数学之争”的关注，说明了当前 AI 的什么状况？
TIMNIT GEBRU：首先我想问，他们为什么如此重金投入解决数学问题？为什么专挑某些学科？不知怎么的，编程、国际象棋、数学这类科目被抬到了一个高度，仿佛解决了它们，就等于解决了智能。这样他们就可以宣称“我们搞定了”。
OpenAI 想让你相信的故事是：这个 AI 完成了不可思议的壮举，超级聪明。所以他们才选了数学，这个悬赏百万美元的公开难题。但如果整个过程按照数学界的惯例来——先审核这项成果的重要性和新颖性、确认贡献者是谁，等尘埃落定再下结论——我们对 OpenAI 是否准确描述了这一突破，就会有更清晰的判断。
有个叫《莱顿宣言》的东西我觉得写得很好，它警告了数学界被企业这样利用会带来什么后果。政策制定者会开始依赖新闻稿和大众媒体，而不是去和数学家本人对话。如今，从企业宣称 AI 突破到 Bernie Sanders 提出法案，中间隔的时间实在太短了，这不是好事。
眼下一切都是为了 IPO 而杀红了眼。按理说，研究人员应该是相互合作的。我在 Google 的时候，我们和 Microsoft、Amazon 的研究人员都有合作，这种事很常见。而现在，因为 IPO 近在眼前，研究人员都在拼命抢那些自认为在解决的问题。
你怎么看那位 Anthropic 工程师的辞职？他声称这些公司在草率行事、拿我们的生命做赌注。一方面，你似乎也认为这些公司不计后果；另一方面，你又明确表示“AI 将终结人类文明”这种争论毫无意义。
我整个职业生涯都在从不同角度重复同一个观点。2021 年我们写那篇“随机鹦鹉”论文就是这个原因。当时 OpenAI 声称 GPT-2 强大到不能公开，被炒作得沸沸扬扬。而我们想说的是：你们问错了问题。
我在书中写道：“一座桥会自己决定倒塌吗？”整条“天哪，我们的模型失控了”的逻辑链……当桥梁坍塌时，你不会去分析这座桥是否有道德、是否有意识，或者它为何“决定”倒塌。你会问：是谁把桥建得如此薄弱？建造前必须获取许可，必须通过测试。当你开始追问桥梁“自我坍塌”的原因时，你已经偏离了正题。
与此同时，真正具有生存威胁的是 AI 驱动自主武器和杀人机器，而这些武器正在实际战争中投入使用。气候危机是真实存在的，且可能因科技公司的开发活动而加剧。老板们正利用 AI 作为借口来裁撤那些“碍事”的员工。在我看来，这种“机器之神”的叙事就是为了转移我们对上述现实问题的注意力。这个行业现在是一个邪教混合体，充斥着真正的信徒，就像那些宣称末日将至的传教士一样。奇点已经喊了几十年了。
请一步步向我推演，如果“AI 灭绝”是真实的，它究竟会发生什么。我想到 这条帖子，有人说：难道一台愤怒的 GPU 会突然出现在我家门口吗？
我确实难以想象那样的场景。但那些情景大多是这样描述：你让机器去优化某个任务，然后机器自己发现实现该目标的方式是杀死地球上所有人。AI 会对你洗脑，让你不敢拔插头吗？我也不知道！其他人说，好吧，AI 可以感染你的设备。是的——但我们已经有恶意软件了，所以……
那洪水和火灾呢？全球供应链的重大中断呢？还有真实的威胁在迫近，比如人们有能力制造和使用化学武器。［注：就在我们交谈后不久，Anthropic 披露称，其已拦截了多名科学家企图制造生物武器的潜在恶意行为。］
还有另一个方面：你拥有太多特权，以至于无法想象其他事物对你造成的伤害。如果你并不担心警察暴力、洪水或战争——这些真正能要你命的东西——那么你就可以整天盯着“机器之神”不放。
人们从四五十年代就开始谈论人工智能，为什么我们现在还要花这么多时间讨论它？我有时会玩一个游戏：把我研究中收集到的关于人工智能的名言念给别人听，然后问他们这话出自哪十年。有时人们能猜对，但很多时候猜不对，因为听起来都一个样。