末日辩论：特朗普与习近平不愿踩刹车

中国国家主席习近平在新德里举行的第 18 届 BRICS 峰会上宣布，中国将牵头为成员国建设开源 AI 社区。这一宣布是习近平在峰会闭幕时提出的五点合作倡议的一部分，涉及技术、制造和贸易等领域。根据中国外交部发布的声明，中国将支持大规模 语言模型 开发与应用方面的合作，举办 AI 专业研讨会和培训课程，并构建开放生态系统。

具体而言，除开源社区外，习近平还提出了面向数字生态的 BRICS 云平台、数字技能培训、技术交流与产业对接等举措，此外还包括组建 BRICS 工程教育联盟以及面向科技创新的青年交流计划。在美中 AI 竞争日益激烈的背景下，这一宣布被普遍解读为北京试图将自己定位为该集团的核心技术合作伙伴。

中国已与约 30 个国家共同成立了世界 AI 合作组织，依托开放模型打造低成本的国际 AI 生态，这与 OpenAI、Anthropic 等采用封闭系统的美国厂商形成鲜明对比。对于当下关于 AI 安全的争论，习近平未作表态——尽管就在同一周，一位曾任职于 OpenAI 和 Anthropic 的研究人员公开表示，业内许多人认为十年内出现生存性风险是有可能的。

BRICS 于 2009 年作为制衡西方主导地位的组织成立，最初由巴西、俄罗斯、印度、中国和南非组成；如今，埃及、埃塞俄比亚、印度尼西亚、伊朗、沙特阿拉伯和阿拉伯联合酋长国也已加入。据峰会数据，这 11 个经济体的人口约占全球总人口的 49.5%，国内生产总值（GDP）约占全球总额的 40%。习近平呼吁该集团利用与新兴市场和全球南方的联系，确保供应链安全，并构建一个大型一体化市场。下一届 BRICS 峰会将在中国举行。 → 《经济时报》（The Economic Times）、Newser、CNBC

AI 评论观点：这份五点计划读起来像是发展援助的官方文案：培训、工程师联盟、青年交流。这正是向那些既没有自建数据中心（Rechenzentren）也没有巨额模型训练（Modelltraining）预算的国家设定标准的方式。开放权重（Gewichte）是载体：这对北京的相对成本很低，却能将雅加达、亚的斯亚贝巴和圣保罗的一整代开发者绑定在中国的工具链（Werkzeugketten）、框架（Frameworks）和云接口（Schnittstellen）上。美国供应商在同样的市场销售带有价格标签的 API 访问（API-Zugänge），而中国免费提供基础能力并维系关系。世界人工智能合作组织（World AI Cooperation Organisation）目前的 30 个成员国是需要关注的指标：如果两年后这个数字达到 60，那么在全球南方形成标准模型（Standardmodell）的问题就已经有了答案，而华盛顿甚至还没来得及提出任何方案。

特朗普无视警告，意在赢得对华 AI 竞赛

周日，美国总统唐纳德·特朗普（Donald Trump）称，科技巨头们关于失控AI的警告过于夸大。他在参观爱尔兰都恩贝克（Doonbeg）的高尔夫度假村时告诉记者，“负面力量”声称了一些不会发生的事。特朗普表示：“我们在人工智能领域领先于中国，我们是世界上最先进的国家，我希望保持这种地位。因为谁赢得人工智能，谁就赢得一切。”他认为采取安全措施是可能的，但未指明“负面力量”具体指谁。

与此同时，众议院议长迈克·约翰逊（Mike Johnson）也在《CNN》的《国情咨文》节目中反对暂停（Moratorium）计划。他声称，国会仓促通过紧急立法会输掉与中国竞争的比赛，科技巨头应该主动担起安全AI的领导角色。

这场辩论的导火索，是Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）周六发表的标题为“We Must Pace the Frontier”的文章。他在文章中主张减缓AI模型能力增强的速度，并警告称存在失控风险以及被滥用进行网络攻击和生物恐怖主义的可能。阿莫迪建议加强国际合作，将外部审核员嵌入实验室，建立事故报告制度，并对中国实施更严格的出口限制；Anthropic表示，他们计划单方面执行这些措施。埃隆·马斯克（Elon Musk）、OpenAI首席执行官萨姆·奥特曼（Sam Altman）和谷歌DeepMind的德米斯·哈萨比斯（Demis Hassabis）也持相同立场。奥特曼告诉《财富》（Fortune）杂志，出于安全考虑，他将OpenAI的IPO推迟到最早2027年，公司内部甚至讨论过暂停测试。

David Sacks，总统科学顾问委员会联合主席，在 X 上简短回应“继续推进”。他表示看不出实验室内部在观察什么，支持他们负责任地采取行动的决定。同时，他敦促企业负责人不要假装需要他人许可，也不应将动机描绘为纯粹的利他主义：若由其产品引发的网络攻击造成损失，将面临巨额的**产品责任**。

《华尔街日报》编辑部将四位企业负责人同时发起的倡议定义为具有经济和政治意义的时刻，其目标仍不明确。他们警告，政治阶层可能借此机会获取对技术的控制权。Anthropic 经济顾问委员会成员、经济学家 Tyler Cowen 认为，这只是一次短暂的表面停顿，随后将加速发展。此前，Anthropic 研究员 Jacob Coxon 辞职，指责该公司在 Alignment（对齐）方面努力不足，并指控 OpenAI 和 Anthropic 在拿所有人的生命开玩笑；他的帖子浏览量超过 1.69 亿次。Anthropic 研究员 Evan Hubinger 估计，未来十年内由 AI 引发世界末日的概率超过 10%。参议员 Bernie Sanders 宣布，将致力于减缓发展并禁止 Superintelligenz（超级智能）。 → 《华尔街日报》、NPR、《自由新闻报》

综合快讯：在自家杜恩贝格（Doonbeg）高尔夫球场的两次挥杆间隙，一位美国总统对本十年最具影响力的技术议题发表看法，其论证深度止步于“负面势力”这一笼统表述。约翰逊在 CNN 抛出的公式终结了辩论本身：只要归因于中国，一切讨论即刻停止。本周末唯一言之有物的表态来自萨克斯，他将责任重新定位到本应归属之处——实验室的产品责任。而真正主导节奏的是企业自身：阿莫迪（Amodei）通过一篇Essay设定议程，奥特曼（Altman）将 IPO 时间推迟到最早2027年，华盛顿则在24小时内通过新闻发布会和访谈节目作出回应。在此过程中，监管并未实质落地，调节机制也未真正启动。白宫扮演的角色，更像是站在边线旁不断呼喊“没那么糟”的观众。

阿莫迪称中国是限制 AI 发展速度提议中最棘手的难题

Anthropic 首席执行官达里奥·阿莫迪周日在 CBS《早安星期日》节目中表示，若中国不配合，他的 AI 开发速度限制提议将难以实施，这已成为该方案面临的最大难题。阿莫迪周六发布 Essay，呼吁 AI 公司放缓前沿模型的迭代速度，他将其称为“前沿节制”（Pacing the Frontier）。采访中，他坦言抢先发展的激励和由此带来的军事优势如此巨大，以至于他不确定全球统一的速度限制是否可行。这篇 Essay 的发布紧随 Anthropic 研究员雅各布·科克森（Jacob Coxon）辞职之后，后者上周表示，Anthropic 和 OpenAI 正在“玩弄我们的生命”。据 CNBC 报道，山姆·奥特曼（Sam Altman）、德米斯·哈萨比斯（Demis Hassabis）和埃隆·马斯克（Elon Musk）均支持阿莫迪的主张，奥特曼同时表示，OpenAI 今年上市的可能性不大。 → CNBC

Synthszr 观点：Amodei 描述的是教科书式的囚徒困境，而且他心里清楚：克制只有在双方都能核实对方也在克制时才有意义。但恰恰缺少这种核查机制——因为一次训练不像核弹头或离心机那样会留下可被外部清点的痕迹。目前唯一现实的可计量指标只有芯片出货量和数据中心的电力消耗，但无论是 Amodei 的文章还是习在金砖国家峰会上提出的基于共识的治理框架，都没人拿出过相应的核查协议。

Sergey Brin 在没有正式职务的情况下，从一间茶水间主导着 Google Gemini 的方向

据 Business Insider 报道，Sergey Brin 对 Gemini 开发的影响力显著上升，但他在 Google 新的 AI 领导架构中并没有任何正式职位。该报道援引了八位在职及前员工的说法，他们形容 Brin 是一位实际发挥作用的操盘手，能够为关键项目调动资源、缩短层层审批流程。他的办公地点是二楼一间茶水间，具体见