← 文章 / AI技术
Meta 工程博客 3天前 · 2026-11-19 02:18:51 · 4 阅读

Meta 如何用 AI Agent 将 ML 创新规模化推广到广告排序模型

  • 这是一个能够自主生成假设、设计实验,并在广告排序模型上验证新机器学习技术的系统。
  • 现在,我们分享如何高效地把排序模型改进(如架构创新和训练优化)推广到庞大且多样的广告排序模型集群中。
  • 本文将介绍我们称之为“技术传播”的流程,以及如何用 AI agent 来优化这一过程。
  • 自 2026 年 3 月 agent 开始主导执行以来,据估计 AI agent 已承接超过 60% 的技术传播工作。与此前人工完成同样的工作相比,初步结果显示工程效率提升 3 倍,部分组合的训练算力中位数降低 4 倍,预计到年底可节省超过 4500 万美元的算力成本。

Meta 的广告推荐系统由大量不同的广告排序模型驱动,它们分别服务不同的产品场景和广告主目标,各自拥有独立的架构、训练数据和服务约束。

在这个模型组合中,ML 研究人员和工程师通过我们称之为“技术”的创新持续推动最先进水平的发展。凡是能让排序模型变得更好的东西都是技术,比如 Wukong 因式分解层、Interformer 交互网络等架构创新,更丰富的数据表示,训练优化,以及训练和推理的效率改进。

然而,由于每个模型都有自己的架构、数据和训练及服务约束,在某个模型上验证成功的技术几乎无法直接复制到下一个模型上。与此同时,速度也很关键,因为 ML 技术是有“保质期”的——今天带来收益的创新,可能在一两个模型迭代周期内就被取代。验证成功的技术越快覆盖整个模型集群,在下一代技术到来之前创造的价值就越大。

那么,我们如何在尽量少的工程投入和算力消耗下,把技术尽快推广到多样的模型集群中?

规模化技术传播

随着已验证的技术不断积累,要把它们推广到庞大且多样的模型集群中,就会产生组合爆炸式的技术-模型组合空间,工程资源和算力也随之成为显著瓶颈。

常规做法是让领域专家工程师手动完成技术适配:研究某项技术与特定模型架构的交互方式,做泛化处理,再针对该模型的约束进行调优。这种方式效果最好,至今仍用于营收最高的核心模型,但无法覆盖所有模型——每次适配都非常耗费精力,且要求工程师同时精通技术本身和目标模型。于是适配吞吐量受限于工程资源,而可适配的机会却在快速膨胀。

第二个制约因素是算力。每次适配尝试都需要一次训练,而算力预算有限,问题就不只是选哪些技术来试,还要考虑如何在庞大的配置组合空间中导航,避免把预算浪费在大量收益不佳的尝试上。

两个制约因素指向同一个需求:要快速把技术推广到大量多样的模型上,推广过程必须标准化、自动化,并且能够自主做出判断。

我们的切入点是标准化模型设计并自动化推广:通过模板驱动的方式,把模型组织成少量可复用、可组合的构建模块。任何技术在模板层面验证通过后,就会自动推广到基于该模板构建的所有模型。过去两年,借助标准化和自动化,我们在庞大多样的模型集群上落地了 5000+ 个技术-模型组合,同时将单模型的工程耗时降低了 92%。更多细节可参阅我们的文章 Standard Model Templates (SMT)。

标准化和自动化解决了确定性的步骤,但要让技术高效、成功地推广,仍需要大量判断:哪种技术值得推广到哪个模型、超参数搜索的范围该多大、为什么某个模型没有收益、如何发现并修复故障等等。这些决策仍然消耗大量人力,导致我们无法进一步扩展规模,也无法做到让所有已验证的技术在几周内覆盖到所有适用的模型。

这正是 AI agent 发挥作用的地方。

用 AI agent 扩展技术推广

我们的技术推广系统围绕三大能力构建:

  • 发现(Discovery):实时追踪哪些技术已验证成功,并评估其迁移到其他模型的潜在效果,从而生成一份按预期影响排序的技术-模型候选清单。
  • 泛化(Generalization):让已验证的技术适配到原本并非针对它设计的模型。对于基于共享模板构建的模型,一项技术只需针对每个模板泛化一次,即可覆盖该模板下的所有模型;超出模板范围的部分,则需要逐个模型单独适配——这也是技术推理最深入的地方。
  • 落地(Adoption):把验证过的适配方案变成真正上线的模型,而且可以批量进行:启动实验、管理持续多天的异步训练、监控收敛情况、诊断并恢复故障,最终产出可以合入的方案。

如今,AI agent 为上述所有能力赋能:它们承担了大量依赖判断的非确定性决策,为系统注入了深度智能。它们将基于 LLM 的推理与专业的 ML 工具相结合,完成诸如决定尝试哪些适配方案、诊断故障原因并自动修复、高效探索超参数搜索空间,以及管理数百个并发任务的算力分配等工作。这些 agent 共享一个统一的知识库,其中积累了历史训练记录、模型架构和技术应用结果,因此它们能在已有认知的基础上继续推进,而不是每次从零开始。

Agent 如何加速发现

发现环节要回答两个问题:有哪些已被验证有效的技术?它们对模型矩阵中的各个模型适用程度如何?此前这两个问题都由领域专家来回答,逐个模型逐一评估。他们要跟踪整个组织的研究进展和成果,找出值得推广的技术,再凭借自身领域知识判断其适用性。

Agent 不像领域专家那样受限于个人知识和工程带宽。它们不依赖某个专家的所知,而是基于共享知识库工作,而且能一次性对整个模型矩阵进行评估,而不是逐个模型推进。它们系统性地识别有哪些已验证的技术、估算这些技术在模型矩阵中的可迁移性,并产出按预期收益排序的技术清单。工程师只需审查 Agent 的评估结果,然后做出决策即可。

Agent 如何让通用化在计算上更高效

通用化,指的是把在某个模型上验证有效的技术重新实现,使其能应用于架构、特征表示、训练数据和推理约束各不相同的其他模型。核心思路通常可以迁移,但具体实现几乎从来不能直接照搬。所需的定制化程度取决于技术和目标模型:小到重新调超参数,或调整特征以适配目标模型已有的输入、调整架构规模以符合其推理预算,大到彻底重构该技术。至于某个模型需要什么样的改动、改到什么程度,则要靠经验判断。

根据模型是由标准化模板构建还是单独定制,通用化分为两种模式,Agent 对两者都能提供支持:

  • 模板级通用化:对于基于标准化模板构建的模型,Agent 会协助构建、评估和改进模板本身。它们基于已验证的技术提出模板优化假设,在代表性模型集合上启动实验,评估结果、诊断失败原因,并多轮迭代,帮助管理模板开发所需的数天级流程。在模板层面验证一次技术,所需算力只是逐个模型单独适配的一小部分。
  • 定制化泛化:对于营收贡献最大的模型,我们仍会为每个模型单独定制技术方案。在技术首次应用于少数几个模型时,agent 会在与 ML 工程师协作的过程中逐步学习。工程师做出各种适配决策——调整配置、调优超参数、排查故障——agent 会记录每一次改动及其结果,沉淀哪些做法有效、哪些无效,以及哪些决策是该模型特有的、哪些可以通用。有了这些积累,agent 便能为其余模型提出并测试适配方案,工程师只需审核和引导,而不必逐个亲自操作。

agent 会基于数百万次历史训练记录以及目标模型自身的特性,从最可能奏效的配置入手,利用每轮训练结果逐步缩小下一轮的超参数搜索范围,并判断哪些实验值得继续、哪些应该提前终止。最终,在部分技术与模型的组合上,训练算力消耗中位数降低了 4 倍。

agent 如何加速技术落地

在落地阶段,agent 将泛化后的技术逐个应用到各个模型上:发起实验、管理持续数天的异步训练任务、微调每个模型、监控收敛情况、从故障中恢复,并汇总经过验证的方案。

微调方式取决于技术是如何引入的。对于逐个应用的技术,agent 会帮助寻找该模型最优的技术组合配置。对于基于共享模板构建的模型,自动研究循环会在模板基础上继续搜索,为每个模型单独调优,以获得共享配置无法带来的额外收益。

一旦出现故障——无论是基础设施问题、训练发散还是数据管道错误——集成的调试与恢复机制都会诊断根因,并采取针对性的修复或重试。

同时运行数百个这样的工作流,就带来了一个问题:哪些任务该优先,哪些运行值得继续、哪些该提前叫停。如何在固定的算力预算下实现价值最大化,本质上是一个全局优化问题,也是我们目前重点投入的方向。Agent 会监控并发的训练任务,按营收重要性、技术潜力和截止时间紧迫程度排序,并从停滞或低价值的运行中回收算力,让 GPU 始终用于价值最高的工作,而不是闲置,或者排在低优先级实验后面排队。 过去,工程师必须盯着每一次运行,手动排查每个故障并重启,这限制了每个工程师只能同时管理少数几个模型。现在他们只需在关键决策点进行把关——审批计划、设定优先级,效率提升了 3 倍(每位工程师能处理的“技术-模型”适配数量达到原来的 3 倍),从验证技术到模型上线的时间也大幅压缩。

如何评估 Agent 驱动的技术推广

由 Agent 推广的技术,其评估标准与工程师推广的技术完全一致。技术必须先在离线指标上证明能提升预测性能,比如归一化熵(NE),同时不能在训练成本、推理成本等关键护栏指标上出现回退。此外,还必须在在线 A/B 测试中取得统计显著的收益,才能正式上线。

但只靠最后的一次评估,无法及时引导一个跨阶段、持续数天工作的 Agent。每个阶段产出的产物不同,因此需要各自独立的指标。以下就是我们验证 Agent 工作的方式。

发现阶段:我们用精确率(precision)和召回率(recall)来衡量 Agent 选出的“技术-模型”候选组合的质量。对某项技术而言,精确率指所选模型中该技术最终能上线的比例,召回率指该技术所有可行模型中被 Agent 覆盖到的比例。这一阶段召回率更重要,因为错过一个模型就再也没有第二次机会;精确率则起到护栏作用,避免把算力浪费在注定无效的技术上。

泛化能力:我们会评估智能体在众多模型上推广技术的能力,确保每项技术在最初验证过的模型之外也能带来收益。流程上,先在缩小版模型上测试每项推广的技术,以便在控制算力开销的同时对「技术-模型」组合进行大范围筛选。通过筛选的技术再在一组有代表性的全尺寸模型上评估,必须提升 NE 且满足所有护栏指标,才能进入采纳阶段。

采纳:在这个阶段,我们继续用同样的预测性能和护栏指标来验证正确性。但采纳也是运维负担最重的阶段,实验动辄运行数天,因此我们还会评估智能体的生产力。最关键的两个指标是:完成一个实验所需的人工干预次数,反映每个实验仍占用多少工程时间;以及智能体能够自主诊断并解决问题的问题占比。

在整个推广过程中,人类始终是关键决策方——审查关键决策、确认判断取舍,并最终批准上线内容。

让智能体驱动的推广成为 Meta 的标准流程

鉴于早期成果喜人,我们正在把智能体驱动的工作流推广为模型集群中技术传播的主要方式。

目前,一项已验证的技术落地到所有适用模型可能需要一年以上。我们的目标是把这个时间缩短到三个月。这意味着智能体驱动的工作流需要将端到端吞吐量提升 5 倍,让技术传播跟上创新的速度,而不是滞后于创新。

为此,我们将持续投入提升智能体本身的智能水平,通过自进化学习来改进泛化质量、容量效率和执行能力——智能体基于积累的历史结果不断优化自身策略,而不是只依赖人工提供的启发式规则。

模型间的技术传播只是一个更大愿景的一部分。我们正在将排序 AI 领域端到端模型开发全生命周期的每个环节都智能体化,从探索和假设生成,到传播、实验和生产上线。这些智能体构成了整个系统的扩展层,确保每一项经过验证的创新都能在模型集群中充分发挥其价值。

致谢

Babak Behsaz、Anuj Bindal、Wenlin Chen、Jae-Woo Choi、Kapil Dontula、Jason Flaks、Ali Gowani、Umut Gunduz、Varun Jalan、Annapurna Kala、Anika Karpurapu、Santanu Kolay、Sundeep Mallela、JP Owed、Rudresh Rajnikant Panchal、Sandeep Pandey、Dhiraj Parashar、Ray Qin、Shah Rahman、Munaf Sahaf、Alex Sandrovskii、Matt Steiner、Vivienne Sung、Ritwik Tewari、Alireza Vahdatpour、Jacky Wang、Hitesh Yalamanchili、Fan Yang、Shuting Zhao、Wenhan Zhao 和 Peng Zhong。

分享本文:

原始来源: Meta 工程博客

评论 (0)