谷歌DeepMind研究员离职，称近期构建超级智能AI“本质上不负责任”

这已经算不上新闻了，又一位 Google 研究员因 AI 风险离职。任职于 Google DeepMind 新西兰团队的技术专家 Robert O'Callahan 表示，AI 的"当前变化速度实在太快了。"他曾从事芯片设计工具的研发，帮助让 AI 更便宜、更快速，但他说自己已无法再为这份贡献找到正当理由。

O'Callahan 认为超级智能 AI 带来的风险"真实存在但尚不确定"，并指出"在近期追求 ASI 本质上就是不负责任的。"他还警告了认知能力退化、AI 引发的精神问题与孤独感、权力集中、经济动荡以及网络安全风险和问责缺失。他敢打赌，AI 带来的危害终将超过其益处。据他所说，许多 DeepMind 同事和他有同样的担忧，但很少公开表态。他现在想做"明确有益于人类"的工作。

他转发了 Eliezer Yudkowsky 和 Nate Soares 合著的《If Anyone Builds It》，但并不认同书中"超级智能 AI 必然带来灾难"的论断。这两位作者与有效利他主义关系密切——这是一个颇具争议的运动，因主张以慈善替代再分配而备受批评。Axios 报道称，一份白宫备忘录将该运动定性为邪教式的边缘团体，并把 Anthropic CEO Dario Amodei 点名为 AI"末日论"的代表人物。