Mistral 发布 1 万亿参数新模型 Large 4,欲同时赶超闭源与开源对手
开源与闭源 AI 之间的竞赛已经打响,欧洲依然没有出局。本周二,法国 AI 实验室 Mistral AI 发布了 Mistral Large 4(ML4),这是一款新的大型多模态模型,目标是同时赶超美国和中国的对手——正如法国总统马克龙所说,走“AI 的第三条道路”。
在闭源模型随时可能被切断使用、开源模型又大多来自中国的背景下,Mistral 把 ML4 定位成两者的替代方案。ML4 外号 Le Chonk,因为它的参数量高达 1 万亿,规模绝对不小;但目前还不是开放权重模型。暂时它只能通过一个带安全防护的公开接口访问,不过 Mistral 计划在安全测试完成后三周内开放权重。
Mistral 科学副总裁 Pierre Stock 告诉 TechCrunch:“在此之前,我们会与可信的合作伙伴和政府协作,确保开源权重能用于防御,而不是用来发动恶意攻击。”
近几个月来,安全方面的担忧不断升温,尤其是在 Mistral 的核心用户群体——企业和机构之间。不过 Stock 也表示,开放权重的模型反而更容易接受审计。
另一个不为人知的重要细节是,ML4 完全是在 Mistral 自己的算力上训练的,只用了 4000 块 Nvidia GPU。Stock 说:“这比我们的中国竞争对手少了两三倍,比闭源对手更是少得多。”
基准测试结果尚未公布,但 Stock 表示,Mistral 希望 ML4 能成为开放权重模型中的佼佼者,尤其是中国以外的模型。得益于聚焦式的训练,它还有望在对客户至关重要的特定领域,以及多模态能力能够创造价值的场景中,超越闭源模型。
据 Stock 介绍,ML4 的优化应用场景涵盖网络安全、金融,乃至芯片设计。而芯片设计恰是 Mistral 两位核心投资方——荷兰巨头 ASML(其 C 轮融资的领投方)以及三星电子(上个月以 210 亿欧元估值,约合 243.9 亿美元,领投其 D 轮)——的主业所在。
当时,该公司曾试图阐明,其托管中国模型的举措并不意味着公司转型为单纯的推理服务提供商。有了 Le Chonk 的支撑,Mistral 坚信自己依然有资格被视为一家前沿 AI 实验室。