AI 安全争议升温，三位先驱力挺开放路线

当"Pacing the Frontier"这类项目寄希望于大型实验室来保障 AI 研究安全的同时，开源模型却成了行业的一大痛点。由于可以自由分发且几乎无法控制使用方式，开源权重模型难以被有效管控，以至于一些实验室对其深感恐惧。

然而在上周拉斯维加斯举办的 Ai4 大会上，三位全球最受敬重的 AI 研究者——诺贝尔奖得主 Geoffrey Hinton、World Labs 创始人兼 CEO 李飞飞，以及 Coursera 联合创始人吴恩达——就此问题公开发声。尽管在具体策略上存在分歧，但三人都强烈主张 AI 应保持开放。

这三位演讲者的核心关切在于，不应让少数几家大型 AI 公司掌控发展节奏。当少数公司掌控某项技术的入口时，就像苹果和谷歌把持移动操作系统一样，创新可能放缓，而平台掌控者还能左右其上构建的内容。

吴恩达表示，他担心 AI 领域出现类似格局。"我不希望出现看门人，"吴恩达说，"那会限制我们所有人接触 AI 的方式。"

企业有动机维护自身的竞争优势，包括通过影响行业规则来实现这一点。这可能造成一种局面：只有规模最大、资金最雄厚的企业才有资源构建最先进的 AI 系统。

吴恩达的解决方案是维持多元供给，让模型和企业相互竞争，而非让少数玩家主导整个领域。"如果要给出一种方案，那就是推动开放，"吴恩达说，"因为 AI 是一项了不起的技术，我希望它能掌握在每个人手中。"

但并非所有人都认同开源权重模型有助于维持这种格局。Hinton 尤其区分了开源软件（公开底层代码供检视和修改）与开源权重模型（向公众发布已训练 AI 模型的参数）之间的差别。

“开源当然好。你把代码展示给人们，很多人看到代码行后会指出'这里有 bug'。开放权重则不同——你训练一个大模型，然后把权重公开出去。这完全是两码事，”Hinton 表示。“我曾反对开放权重，因为这样一来，别人就能轻松拿到这些训练成本极高的基础模型，花更少的钱把它们改造成做坏事（比如网络攻击）的工具。”

不过 Hinton 也承认，无论他有何顾虑，开放权重模型已经成了 AI 领域不可逆的现实。“我觉得这场仗已经打输了。开放权重模型已经出现了，曾经横亘在大众和这些大模型之间的训练成本壁垒已经消失。来不及了。”

然而，接受现实并不意味着忽视风险。Hinton 的立场很明确：AI 会持续进步，他总体上认为这是好事——它将提升生产力、改善教育和医疗水平。他说：“担心 AI 可能带来的负面影响，担心比我们更聪明的智能体会做什么——我认为这种担心完全合理。把任何持这种观点的人扣上'散布恐惧'的帽子，才是真正的不公平，”Hinton 补充道。

吴恩达则持不同看法。他认为问题不在于开放模型是否有风险，而在于谁掌握访问权、谁将赢得市场——模型成本更低的一方就拥有优势。他警告说，如果中国的开放权重模型在亚洲、非洲或广大发展中国家得到广泛采用，它们可能会影响数十亿人对民主、自由、人权等理念的认知。

“我希望我们能做到的一件事是，鼓励美国的竞争力和开源 AI 发展。事实上，AI 是巨大的软实力来源。看看中国的模型在非洲取得的巨大成果就知道了，”吴恩达说。“但我担心的是，由于美国国内各种游说和'散布恐惧'的声音，美国的开源 AI 越来越难以与来自中国的开放权重模型竞争。我担心的是，如果中国找到了本质上更具成本效益的 AI 构建方式，那么成本更低的技术就会获得根本性的市场推广优势。”

李对这种框架提出了反对意见。她说："把这件事归结为'完全开放'还是'完全封闭'的两极对立是非常危险的。在复杂的软件系统以及科学系统中，情况要微妙得多。"

李以核物理学为例：科学论文公开发表，但铀受到管控，而实验室工作则介于两者之间。她解释说，这其中的启示在于，开放并不一定是非此即彼的选择。生态系统的不同层次可以采用不同程度的开放。

她还强调了公共机构与私营机构之间的合作，例如人类基因组计划。她说，由此产生的知识成为了一个可供他人构建的平台，让制药公司能够获利，让科学家能够推进研究，也让整个社会从中受益。

"所以我认为我们应该把 AI 视为这样的基础设施，"李说，"我们需要在不同层面保持一定的开放性，包括科学发现、教育、全球伙伴关系，同时也需要为创业者提供有利可图的商业模式。但我们也会接受闭源系统。这种争论，尤其是在'我们只能容忍其中一种'这样笼统的层面上，是一个伪命题。我们需要进入更细致的层面来讨论。"

但所有人都认同，一定程度的监管对于让 AI 走上正轨是必要的。"我们想要做的是朝着对人类有益的方向发展 AI，而监管将帮助我们实现这一目标，"辛顿说。"你不能把 AI 该如何发展交给埃隆·马斯克和扎克伯格这样的人来决定。"