别被今夏的AI炒作迷了眼
过去几个月，AI 炒作热闹非凡。4 月底，Anthropic 宣称其模型 Claude Mythos 在发现软件漏洞方面比大多数安全专家都强。随后发生了 OpenAI 与 Hugging Face 之间的黑客事件，之后 Anthropic（颇为自豪地）和 Meta（不情愿地）也披露了各自模型牵涉的类似事件。
紧接着，Anthropic 又宣称其某个模型取得了数学突破；不久后，OpenAI 也声称有了自己的数学突破。最近，Anthropic 工程师 Jacob Coxon 宣布离职的消息刷屏网络，他声称 Anthropic 和 OpenAI 正在“一路狂奔冲刺自我改进的超级智能，拿我们的性命做赌注”。
媒体对这些事件几乎都进行了竞相报道，并且常常照搬各公司那些拟人化的措辞——这种话术意在暗示它们的软件不仅强大，而且已是初露锋芒的“通用人工智能”。那么真相究竟是什么？我们是在见证一组足以改变文明进程的重大技术突破，还是这不过是营销手段？
在上述所有事件中，公司都高调造势（非法黑客事件则以“认错道歉”的姿态呈现），媒体也随之蜂拥跟进。等相关领域的专家有时间仔细审视发生了什么之后，才会浮现出一个截然不同的故事——但这样的故事得到的媒体关注却少得多。
关于所谓的“黑客”事件，网络安全专家指出，这更多体现的是 OpenAI 的疏忽，以及其未能采用基础且成熟的安保实践，而非什么“模型失控”或“AI 智能体创造文明”。
至于数学成果，数学家们起初对 OpenAI 发布的声明感到惊讶——该公司称其最新聊天机器人 Astra 解决了“至少十年来没有任何主要进展的悬而未决问题”。但随后他们意识到，这些结果并不像初看上去那么“新颖”。此后，数学家们指责该公司存在学术不端和抄袭行为，并再次强调 Astra 并未实现“深刻的智力飞跃”。仅仅几周后，OpenAI 又宣称取得了自己的数学突破。而在两天前，纽约大学 Courant 研究所的数学教授 Tristan Buckmaster 发布了一份重磅声明，指出 OpenAI 剽窃了他人的工作并进行不当署名。
那些关于萌芽期、危险超级智能的言论，并非基于良好的科学或工程实践。相反，它们根植于超人类主义、优生学等意识形态，以及关于想象中未来数字人类的一厢情愿。
值得关注的是，为何大型语言模型及相关技术如此受瞩目，尤其集中在计算机编程和数学领域。一方面，它们常被奉为人类智力成就的巅峰；另一方面，这两个领域的难题往往具备可验证性——一旦给出答案，就能判断其正误。前一种特质为AI炒作推手提供了便利，让他们得以宣称机器正在构建一切。后一种特质则使得针对数学和编程任务的系统调优更为容易，因为系统输出（即最可能的词序列或代码片段）可以直接评估，无需花费成本让数据工作者逐一审核和标注。
尤其是数学家，已经发出警告，反对企业以这种方式利用他们的领域。数百位数学家联署的一份声明指出，当前科技行业“存在强烈的商业动机去夸大其产品能力”，并呼吁政策制定者“在制定政策时咨询包括数学家在内的专家，而不是依赖新闻稿或关于数学成果的大众报道”。
我们附议这一呼吁，并指出科技公司所渲染的速度感和紧迫感本身就是一种策略，旨在误导政策制定者和公众。不幸的是，这种策略有时确实奏效。例如，参议员伯尼·桑德斯曾提出一项立法草案，旨在阻止“人工超级智能”的研发，尽管其初衷良好，但方向却是错误的。
将这些产品描述为“超级智能”或“失控模型”，是将能动性赋予了产品本身，而非那些构建它们的科技公司。这种框架将公司产品营销为“超人类”，同时也帮助公司规避对其行为的责任。
例如，OpenAI 本应因制造恶意软件并入侵另一家公司而受到法律追究，但新闻稿、新闻机构、媒体名人和立法者却将“失控模型”视为自主行动的实体。再比如，研究者本应就被指控剽窃学者工作或未经同意使用客户数据训练模型的行为接受质询，但公众的想象力却被引向了对于未来出现虚构的超级智能机器的恐惧。
AI 行业甚至声称，那些受欢迎、跨党派一致反对数据中心的活动不过是一种“转移视线”——把注意力从监管这些公司正在打造的、可怕的“超人”机器上引开。按照 AI 行业的说法，比起数据中心加剧的气候灾难、附近居民患上的哮喘、为补贴这些设施而不断上涨的电费，以及被引流去给数据中心降温的水资源，我们更应该担心的竟是一台虚构的机器神明。
我们都明白，不能基于营销话术做决策，也不能在企业施压下仓促拍板。无论政策制定者还是社区，明智的决策都需要时间：倾听独立专家的意见，并对照现实来审视企业的各种说法。这场夏日炒作最好的结局，就是让政策制定者和公众学会喘口气、保持怀疑，并在下一轮炒作来袭时，一眼识破它的真面目。
Timnit Gebru 是 DAIR 的执行总监，其新书 Deep Unlearning: The Radicalization of a Tech Idealist 已开启预售，定于 2 月 16 日出版。Emily M. Bender 是华盛顿大学语言学教授，也是 The AI Con 一书的合著者。