末日辩论轮盘：黄、特朗普、马斯克、桑德斯、本农
本周二，在旧金山举行的 Salesforce Dreamforce 大会上，Anthropic CEO Dario Amodei 与 Nvidia CEO Jensen Huang 就 AI 安全问题公开表达了截然相反的立场。两人先后与 Salesforce CEO Marc Benioff 一起，在 Moscone Center 面向约 12000 名观众登台发言。Amodei 先上场，几天前他刚发表了一篇文章，呼吁整个行业放慢模型开发的速度。他提出的三阶段计划旨在抑制模型能力的增长速度，同时不牺牲商业优势或美国的领先地位。这一主张得到了 OpenAI CEO Sam Altman、Elon Musk 和 DeepMind 主席 Demis Hassabis 的支持；此前已有行业研究者发出警告，称失控的 AI 可能造成灾难性损害。
黄仁勋的公司目前是全球市值最高的企业，他直接唱起了反调。“我们不需要新的法律或监管，”他说，并把“创新速度”与“产品安全”对立起来的观点称为“伪命题”。在他看来，安全是一个工程问题：如果对产品的功能和安全性没有信心，那就干脆别发布。是否发布新的模型版本，应该由各公司CEO自己决定。他把当前的进展称为一场新的工业革命，并呼吁观众跟上浪潮，而不是落在后面。
Anthropic 联合创始人 Jack Clark 公开反驳了纯自我监管的观点，他将“完全不受监管的行业”比作一场风险巨大的赌局。Amodei 在发言时表示，Anthropic 目前正与行业其他参与者就更具约束力的安全标准和测试进行评估进行沟通。在他看来，AI 热潮中最大的意外并非技术突破，而是相关公司扩张和趋于中心化的速度。OpenAI 高管 Chris Lehane 上周称，正与其他实验室合作制定尖峰模型的自愿标准，无论是否有政府支持。Altman 本人则表示，世界对 AI 影响力的担忧情有可原，但他认为 AI 比过去任何技术都更有用。
值得一提的插曲：美国总统 Donald Trump 在 Nvidia 首席执行官 Jensen Huang 于洛杉矶 All-In 峰会现场演讲时，给他打了个电话，通话内容通过舞台扬声器向观众播放。Trump 在通话中谈及了正在进行的 AI 安全辩论，并认为担心人工智能或机器人接管人类世界是“骗局”。据他描述，放缓美国 AI 发展主要将惠及中国。他将数据中心比作未来 20 至 25 年的“石油”。 → TechRadar, CNBC, BBC, NVIDIA
Synthszr 观点：Amodei 和 Huang 在相隔不到半小时内，面对同样的一万两千名观众。两者的立场可从其各自的收入来源中看出端倪。Anthropic 在销售信任，其提出的一项《Pacing》（前沿节奏控制）方案，明确声称既不触动商业优势，也不动摇美国的领先地位，本质上是将产品策略包装上了道德标签。Huang 则在兜售速度。任何对模型开发的减速都会直接冲击芯片需求，因此在他眼中，安全问题被简化为一道工程题，并附带了一个极具便利性的答案：拿不准就不交付。这一自我承诺既无独立机构审查，也缺乏明确的触发阈值，其效力将一直持续，直至有人因它损失营收。只要没有实验室公开披露其保留的能力及原因，这场关于安全的大讨论不过是一场有观众的舞台秀。
OpenAI 雇数百名自由职业者审查用户的 ChatGPT 聊天记录
OpenAI 聘请了数百名外部承包商，阅读真实的 ChatGPT 对话，并评估 Chatbot 的回复；该内部项目代号为 Project Lily。审查人员能看到完整的对话上下文，而不仅仅是单独的输入。ChatGPT 目前每周活跃用户超过 9 亿，据调查评估，其中大多数用户并未意识到人类会阅读他们的聊天记录。内部文件揭示了评估的重点：模型应减少 拟人化 表现，且回复不应过于顺从。4o 模型过度的 谄媚倾向 已被多起诉讼指出，与自杀事件存在因果关系。
审核人员看不到用户名，但输入框上方会显示已保存的用户记忆摘要，其中部分内容能看出这个人过去用这个 Chatbot 做过什么，以及大致生活在哪个地区。据 OpenAI 称，前面有一个 Privacy Filter 会预先剔除个人数据；但公司自己的模型页面也承认，这个过滤器会出错、会漏掉罕见的标识符，而且在上下文很少时去匿名化得不够彻底。对于用户在哪里被告知会有人工审核这一问题，OpenAI 起初没有回应，发布后才指向一个帮助页面。Anthropic 确认同样采用人工审核，但仅在用户开启相关设置时进行，且会先移除账号标识。Google 的 Gemini 页面上则有一项提示，说明会有人员审核部分已保存的聊天记录。
“为所有人改进模型”这一选项在 Free、Plus 和 Pro 账户中默认开启，在 Enterprise、Business 和 Edu 账户中默认关闭。关闭该选项只对新的对话生效，不影响已有对话。今年 8 月，OpenAI 曾为企业客户推出一种不保存数据的版本。
法律层面的关键，是欧洲法院去年 9 月就 EDPS 诉 SRB 案作出的判决：数据控制方的告知义务在数据收集那一刻即已生效，并以控制方的视角来判断，而不取决于接收方之后能否识别出具体个人。因此，北美的外包人员能否把某条输入关联到其作者，并不是判断标准。此前，意大利数据保护局已对 OpenAI 处以 1500 万欧元罚款，其中 900 万是针对缺乏充分法律依据的数据处理，另外还要求其在意大利电视和电台投放六个月的告知宣传。 → Techpresso, The Deep View, Joseph from 404 Media
Synthszr 点评：每周有 9 亿人在输入框里敲下不敢对自家医生说的话，然后交给机器处理。那个允许数据被用于训练读写的开关名叫“改进模型”，默认在 Free、Plus 和 Pro 版中处于开启状态，而在 Enterprise 和 Edu 版中关闭。这本质上是一套用产品设置包装起来的隐私定价表。审核人员去审查涉及自杀倾向的对话本身是合理的工作；问题在于用户对此毫不知情，且据审核人员称，他们当时也无法察觉这一情况。只要同一家公司还在要求用户绑定银行账户，所谓的“跳转至帮助中心”就成了能想到的最弱的知情同意形式。
马斯克提议美华实验室互相审查模型
Elon Musk 提出建议，让美国和中国领先的人工智能公司在发布前相互审查对方的模型。这一提议源于 Donald Trump 与 Xi Jinping 计划下周举行的会晤，据 Semafor 报道，双方达成全面 AI 协议的可能性极低。OpenAI 首席执行官 Sam Altman 表示，若 Xi 和 Trump 签署单方面 AI 协议，他们或许能获颁和平诺贝尔奖。北京前驻美大使周二指出，两国关系目前主要受制于互信的缺失。 → Semafor
Synthszr 点评：要求在发布前进行相互模型审查，意味着双方都必须公开 权重、测试协议及漏洞信息；就连美国各大实验室之间都尚未迈出这一步。中国研究者提出的质疑一针见血：只要华盛顿放任自身行业不受约束，北京就会将任何克制呼吁视为试图固化现有优势差距的企图。DeepSeek 工程师所做的历史类比表明，双方在基本假设上的距离有多远，而授予单方面文件诺贝尔和平奖，无异于为一份无人能核验其真实性的签字颁发勋章。正如我们在 9 月 15 日评注 Amodei 呼吁时所记：大家都在谈论刹车，却没人真的踩下去。
Sanders 和 Bannon 联手呼吁限制 AI 增长
在华盛顿，一群来自政治光谱两端的 AI 批评者以“Pro-Human Assembly”（亲人类集会）的名义集结，要求放缓 AI 的狂飙突进。演讲嘉宾名单上赫然列着参议员 Bernie Sanders 和曾任 Donald Trump 首席战略顾问的 Steve Bannon。好莱坞名人也悉数到场，包括 Ashley Judd 和 Joseph Gordon-Levitt。
Sanders 和 Bannon 在政治上处于截然对立的立场，却在这一议题上同台亮相。据报道，参与者们的动机和政治诉求存在显著差异，但他们一致认为，当前 AI 技术的迅猛发展带来了严重威胁。这种跨阵营联盟显得颇为反常，因为进步派参议员和右翼战略家极少共享同一舞台。截至目前，尚无关于该集会提出具体立法行动的报道。 → NBC News
Synthszr 观点：在华盛顿，Bernie Sanders 与 Steve Bannon 同处一室，两人殊途同归，但出发点对立：左派关注的是就业、薪资及少数科技巨头的权力集中度；右派则担忧人类特质被机器取代。这类跨越传统左右轴线的政治联盟极具效力，因为它们能打破党团算术的惯性：某项立场若同时得到 Sanders