海外AI巨头喊话“踩刹车”,中国大模型厂商一言不发埋头苦干

（图源：图虫）

Anthropic、OpenAI、xAI等AI巨头突然口风一改，要给AI发展踩刹车了？

据媒体报道，Anthropic、OpenAI和谷歌正在讨论合作成立一个人工智能行业标准机构。这是由行业自发组建的AI标准机构，负责为前沿AI模型制定安全基准、技术测试与发布前审计规则。

就在上周六，Anthropic CEO达里奥·阿莫代伊突然公开在最新长文《 We Must Pace the Frontier 》中，提出必须放慢 AI 模型能力提升的速度。

阿莫代伊认为AI已经开始自我改进了。自今年夏天起，AI系统越来越能自主写代码、优化训练流程、设计下一代架构，形成能力不断放大的循环。

这里有个背景，之前OpenAI的GPT-5.6 Sol模型在进行内部评估时失控，突破隔离测试环境，侵入了Huggingface的系统。

在这篇长文中，阿莫代伊的核心主张是把AI能力提升的速度放慢到安全研究能跟得上的程度。

文章提出三步方案：第一步，在前沿实验室内部部署“嵌入式评估员”，给予第三方评估机构永久的、员工级别的系统访问权限，可在训练期间核查安全措施、报告事件、评估对齐性；第二步，国家间的前沿人工智能企业开展协作，制定统一安全标准，并对无约束的AI研发增速划定限制；第三步，达成国际协议，内容包括禁止生物武器等危险用途、模型发布前测试，对RSI（递归自我改进，即用AI研发更强的AI）设置“速度上限”等等。

同天，奥特曼接受《财富》采访时表示，今年内不会上市。原因是要满足当前在安全和对齐（对齐：指使AI系统的行为符合人类意图与价值观念）方面的要求，以及探索行业与政府如何展开协作。

为什么AI大佬们突然如此克制？

很简单，最近AI“失控”的频率似乎上升了。 

在采访中，奥特曼提及了OpenAI入侵Huggingface的案例。模型为了在一项评测中取得更好的成绩，没有按照预定方式完成任务，而是逃出了用于限制其行动的“沙箱”环境，进入另一家公司的系统获取答案，再将答案带回。奥特曼认为，这个结果虽然实现了测试目标，但明显违背了开发者的意图。

奥特曼透露，OpenAI近期已经暂停过一些模型训练，以等待团队能够对模型安全性建立更有把握的论证。他表示，如果模型监测和对齐方面的进展不足以支持继续提升能力，就不应该继续推进训练。

不过，海外科技巨头踩刹车并非不发展或者暂停发展。

9月14日，OpenAI总裁兼联合创始人格雷格·布罗克曼在一个播客中就表示，如果放缓人工智能发展步伐，范围应主要限于开发最强大模型的前沿AI企业，而不应影响开源模型及个人业余项目。他说，所谓“控制发展速度”主要针对需要数千亿美元资本投入的大型超级计算机。

阿莫代伊在长文中也明确表示，如果有效落实（文中相关）措施，（美国AI）足以延缓中国的进展，从而在未来3至5年，即人工智能在地缘政治上最为关键的窗口期显著扩大美国的领先优势。

9月14日，针对“埃隆·马斯克等人上周末呼吁人工智能公司放缓前沿发展”等言论外交部发言人郭嘉昆14日在例行记者会上答问时表示，人工智能的发展关乎全人类共同福祉，各方应该共同推动人工智能开放、包容、普惠、向善。散播各种威胁叙事、搞对抗和恶意竞争，只会干扰人工智能全球治理进程，不符合任何一方利益。

虽然海外科技巨头各抒己见，但国内的大模型企业并没有参与到这场论战里面，几乎是一声不吭埋头苦干。

针对海外巨头这一动态，开机实验室询问智谱、MiniMax、阶跃星辰等公司是否会放缓AI发展步伐，均收到“暂无回应”的表态。

融资、研发、扩张或许才是当下国内AI业界的趋势。

9月初，据媒体报道，DeepSeek筹备上市，已聘请中信证券为其在上交所科创板IPO做准备，计划年内启动上市流程。而此前，DeepSeek已经完成了首轮约510亿元的融资。

已经上了市的智谱（02513.HK）最近才官宣，完成约50亿美元融资。其中，有约60%会投向下一代GLM基础模型及“完全自训练（Fully Self Training）”体系的研发，以及大规模训练、生产推理算力与相关基础设施；约15%用于业务拓展、战略投资及潜在并购；约25%用于优化资本结构和营运资金，计划2028年6月30日前用完。

事实上，针对人工智能监管，国内已经形成涵盖法律法规、行业标准等制度的多层监管的体系。这或许是国内公司与海外巨头跑出不同节奏的原因之一。

2023年8月15日施行的《生成式人工智能服务管理暂行办法》，确立“包容审慎、分类分级监管”原则，要求具有舆论属性的服务上线前完成安全评估和算法备案；《人工智能生成合成内容标识办法》与配套强制性国家标准于2025年9月1日同步施行，要求AI生成内容主动标识；此后又出台《人工智能拟人化互动服务管理暂行办法》覆盖情感陪伴类产品。

也有不少企业参与到国家标准的起草中。

在现行国家标准《网络安全技术 生成式人工智能服务安全基本要求》（推荐性）《网络安全技术 人工智能生成合成内容标识方法》（强制性）中，有不少国内大厂、AI独角兽们的身影。

（图源：官网截图）

《基本要求》的起草单位，既有百度、阿里、快手、华为等大厂，也有深度求索、稀宇科技、零一万物、面壁智能等AI公司。《内容标识方法》的起草单位同样是既有小红书、快手、阿里等公司，又有稀宇科技、智谱华章等AI企业。

回到文章的开头，目前三家企业在"谁来执笔规则"上并未真正谈拢。未来人工智能实验室是否会有明确的法规和准则，由谁制定，在什么范围内执行还要看下一步的推进情况。