一次设计,规模化落地:Meta 打造模板驱动的 ML 生态
- 随着 ML 生态中的生产模型规模不断膨胀,瓶颈已不再是发明改进模型的新技术,而是如何在一个碎片化的模型空间中可靠高效地把这些技术推广开来,让所有模型都能受益。
- Meta 打造了一套模板驱动的方法,把模型设计标准化为一小组可复用、可组合的构建模块,让模型迭代从逐个模型的孤立问题变成了一个共享的系统问题。
- 过去两年里,这套方法将单个模型的工程时间缩短了 92%,交付了 5000 多种“技术-模型”组合,在中性服务容量下平均提升离线模型质量 0.63%,并带来了 0.86% 的累计在线收益,覆盖了 70% 的模型(按数量计)。
- Design Once, Deploy at Scale: Template-Driven ML Development for Large Model Ecosystems
Meta 的广告排序系统每天处理数十亿请求,涵盖多样的产品和优化目标,背后由大量生产模型支撑。在这样的规模下,提升用户相关性和广告主价值的主要挑战,已经从发明新技术转向了如何把技术推广到各个模型。每一个高价值想法都需要触达所有适用的模型,而逐个模型去适配的方式,根本跟不上整个模型集群的扩张速度。
碎片化问题在大型 ML 系统中会迅速放大。一项新架构在某个模型上落地了,但要推广到生态的每个角落可能需要数年。一次平台迁移在一族模型上顺利推进,却在大量长尾的特殊配置上出问题。一条调优经验改善了某个模型,但因为底层配置差异太大,对下一个模型几乎毫无参考价值。久而久之,技术推广反而比技术创新本身更难。
Meta 的广告排序生态恰恰就撞上了这个问题。随着生产模型数量和广告优化目标的多样性不断增长,架构、特征、训练配置、服务约束以及平台特有逻辑的多样性也在同步膨胀。这种多样性给了团队灵活性,但也带来了三个系统性问题:新想法大范围落地的工程成本居高不下;边界情况激增导致可靠性成本攀升;以及评估一项改动对整个生态的影响时几乎无从预测。
更深层的问题在于,碎片化让工程本身陷入一条不利的发展曲线:每个新想法都要在每个模型上逐一评估和适配,工作量随模型数量线性增长。早期尚可应付,但一旦模型规模变大,就会成为严重瓶颈。
碎片化还削弱了自动化能力。AutoML 和优化系统在结构化的空间里才能发挥最大效力,而当每个模型形态各异时,那些潜力最大的技术只能覆盖到一部分模型。
我们的对策不是在这团复杂度之上再叠加一层自动化,而是从源头入手,先降低复杂度本身。为此我们引入了标准模型模板(Standard Model Templates,SMT),把模型设计标准化为一套精选的可复用模板。

模板驱动的基石
模板是一套带有明确设计取向、保持精简的模型配置,由共享组件构成,包括架构选择、特征逻辑、训练设置和线上服务配置等。我们不再把每个生产模型都当作近乎独立的设计来维护,而是将相似的模型归拢到少数标准模板之下。模型特有的逻辑在必要时仍然保留,但公共部分会被显式地抽象出来并共享。
实践中,我们用一小组模板覆盖了不同模型规模下的主要排序和召回模式。这些模板封装了可复用的组件,涉及特征选择、特征交叉、模型并行、训练配置以及面向硬件优化的服务部署。
这从根本上改变了我们的工作方式:新想法不必再在每个模型上逐一验证,只需在一小批代表性模板上评估,再推广到使用这些模板的模型组。换言之,我们从逐模型迭代转向了模板级迭代。
这带来了三大优势。
- 降低传播复杂度:共享模板让一套实现可以服务多个下游模型,从而降低大规模推广新技术的成本。
- 提升可靠性:模型的独特配置越少,就越有条件建立更强的验证机制、更好的防护措施和更通用的调试流程。训练不稳定、服务回退这类问题也更容易排查,因为它们发生在共享的模板结构内,而不是一个无边界的配置空间里。
- 提升可预测性:当一组模型共用同一模板时,代表性模型上的表现对整组模型就更有参考价值。这让生态层面的规划更脚踏实地,少靠假设。
随着时间推移,这套模板驱动的方式已不只是标准化工作,而是成为了更广泛的 ML 开发体系的基石。

SMT:从标准化到可规模化的技术迁移
转向 SMT 带来了一个更具野心的能力——把整个生态当作一个统一的整体来优化。我们不再逐个管理一堆独立的模型,而是把整个模型版图当作共享的创新平台。
我们不再逐项传播单个技术,而是通过共享模板层,把经过验证的完整模型设计从强源模型迁移到目标模型家族。这一点很关键,因为很多收益来自架构选择、规模决策和训练策略之间的相互作用,而不是孤立应用的某个组件。
过去两年里,这套方法把单个模型的工程耗时降低了 92%,在我们庞大且多样的模型集群中交付了 5000 多种“技术-模型”组合,同时在同等服务容量下让离线模型质量平均提升 0.63%,累计带来 0.86% 的线上收益。更重要的是,它挑战了一个常见假设:多样化的优化目标必须依赖高度差异化的模型设计。很多时候,一个精心设计的共享模板,其泛化能力远超预期。 我们还发现,模型结构标准化之后,扩展决策也变得更容易复用。不必为每个模型单独摸索成本与性能的权衡,而是可以在模板层面总结规律,再广泛推广。由此我们建立了基于 scaling law 的优化流程,让资源分配更有依据,而非拍脑袋决定。多模型优化
我们用多模型优化让模板迭代更加严谨。这一流程会在一组代表性模型上评估候选技术,并搜索能在提升整体性能的同时限制性能回退的配置。 一种技术如果平均收益可观但经常导致部分模型回退,就很难在大规模模型集群中推广。对于生产级落地来说,稳定性和峰值收益同样重要。多模型优化在判断一项技术是否可以合入时,会同时考虑整体性能和回退率。 优化完成后,候选技术还要在留出的模型上验证,确认收益能否迁移到代表性集合之外。通过验证的技术会被整合进下一版模板。过去两年里,我们通过这套流程上线了 80 项新的 ML 技术。 最终效果是持续复利的:每个采用成熟模板的模型,都直接继承一路积累下来的通用改进,而不必从孤立的基线重新起步。SMT 为什么对 Agentic ML 系统很重要
智能体建模(Agentic model building)通常设想由一个端到端的 Agent 自由探索庞大的设计空间,调用各种工具、训练流水线和评估结果。但实践中会遇到一个老问题:搜索空间过于松散。缺乏强先验约束时,Agent 会把大量精力浪费在低价值的探索上,从本可避免的失败中恢复,或提出难以解释、更难落地的改动。
SMT 正好解决了这个问题:它把已被验证有效的设计模式固化下来,为 Agent 提供了结构化的起点、有边界的搜索空间和质量下限。我们不必把建模当作自由搜索,而是可以将其拆解成一个个专门的子问题。
在 Meta,SMT 也是我们多 Agent 建模体系的基础:模板负责提供结构,Agent 负责自适应探索和自动化。在模板层面,Agent 可以参与模板本身的构建、评估和改进——基于成熟技术提出优化方案,在代表性模型上发起实验,诊断失败原因,并进行多轮迭代,从而支撑起模板开发所需的多日循环。Agent 还能承担更复杂的任务,比如把模型迁移到新的硬件平台。用这种方式验证过的技术,能够自动惠及该模板下的所有模型,而计算成本远低于逐个模型单独适配。我们在另一篇文章 Meta 如何用 AI Agent 将 ML 技术规模化应用到广告排序模型 中有更详细的介绍。
SMT 的经验教训与未来方向
在大型 ML 生态中,如何将创新技术推广开来改进模型,往往是最主要的规模化挑战。SMT 之所以有效,是因为底层系统越结构化,自动化就越强大。模板驱动的开发方式不仅让生态更易于人工维护,也让优化系统、规模化流程和 Agent 能够更高效地进行推理决策。
但标准化只有在足够“有主见”时才能奏效——既要砍掉不必要的多样性,又要保留真正重要的有限灵活性。如果一个模板系统试图兼容所有历史上的边缘情况,最终只会重新制造出它本想解决的碎片化问题。
接下来还有更多工作要做:扩大覆盖范围、完善模板覆盖、强化基于 scaling law 的优化,并迈向完全端到端的 agentic 工作流——包括 agentic 模板构建、模型生成、在线评估,以及基于线上信号的持续优化。我们还需要让这些工作流更可靠、更可解释。
但核心理念经受住了考验。如果你想让 ML 创新在一个庞大的生态系统中规模化落地,就必须为创新标准化落地的接口。换句话说,一次设计、规模化部署不只是提升效率的手段,它是一种架构选择,决定了整个大型 ML 生态能否更快地学习迭代。
阅读论文
“Design Once, Deploy at Scale: Template-Driven ML Development for Large Model Ecosystems。”
致谢
Aayush Aggarwal, Saurabh Aggarwal, Anuj Bindal, Nakul Camasamudram, Shouyuan Chen, Wenlin Chen, Kevin De Angeli, Jason Flaks, Luc Kien Hang, Rupinder Khandpur, Santanu Kolay, Nhat Le, Swamy Muddu, Sandeep Pandey, Dhiraj Parashar, Akshay Pardeshi, Jingzheng Qin, Shah Rahman, Shiblee Sadik, Munaf Sahaf, Vibha Sinha, Saied Tahaghoghi, Terry Tang, Alireza Vahdatpour, Fangjing Wu, Haoyu Wu, Wendan Yan, and Chang Yang.