← 文章 / AI技术
GitHub Blog 4小时前 · 2026-09-05 08:12:25 · 10 阅读

Project HydraFusion:通过多模型编排实现前沿级智能

为开发者在每个任务场景下提供最合适的模型,一直是我们的目标。今年早些时候,我们推出了 Auto model selection,让它审查你的任务并自动匹配最合适的模型,让这件事变得更简单。 今天,我们推出 Project HydraFusion——一个研究预览版,通过运行时编排提供前沿水准的智能。它会制定完整的执行计划,从多家供应商的模型中挑选组合来起草、批评和修订,或在必要时级联到更强的模型来完成任务。 HydraFusion 在我们整体战略中扮演关键角色,即实现本地、云端和复合模型之间的自动化语义路由。对开发者而言,这些复杂度都藏在幕后:你只需像选择其他模型一样选择 HydraFusion,它会为每个任务自动选择在性能、成本和延迟之间取得平衡的工作流。 HydraFusion 把工作流选择当作一个优化问题来处理。它利用推理、代码生成、调试和工具调用等能力信号,选出在达到质量标准的前提下最高效的执行模式。 目前,对每个请求,HydraFusion 会从三种执行模式中选择其一:
  • Single。由一个选定的模型直接完成任务。
  • Cascade。先由一个高性价比模型起草方案,再由质量门判断是接受它,还是升级到更强的模型。
  • Critique。一个模型起草结果,另一个来自不同模型家族的独立只读“评论者”进行审查(采用与 Rubber Duck 相同的审查模式),然后由起草模型修订一次。
图 1. HydraFusion 架构
这三种模式对应不同的质量与成本权衡。Single 在单个模型就能直接解决任务时保持速度和效率。Cascade 让高性价比模型先行尝试,同时在候选方案未通过验收门时保留通往更强推理的路径。Critique 则引入独立视角,适用于审查比再盲目尝试一次更有价值的任务。

在三个智能体编程基准测试中的离线评估显示,HydraFusion 始终展现出前沿水平的质量,同时大幅降低了预估成本。在 TerminalBench 2.1 上,相比 Claude Opus 5,它在预估成本降低 67% 的情况下,将验证任务质量提升了 4.9 个百分点。

让我们深入探讨其方法、结果和基准测试。

自适应多模型编排

开发者目前已经会手动协调模型:为一个任务选择一个模型,让另一个模型审查工作,或将难题升级到更强大的模型。HydraFusion 将这一熟悉的流程带入了运行时。你只需选择一次 HydraFusion,即可专注于任务本身,而它会在幕后管理模型和工作流。

关键在于选择性。一些编码任务可以直接解决,而另一些则从审查、修订或升级中受益。HydraFusion 评估每个请求,并选择满足其需求的最简单工作流,仅在模型调用很可能改善结果时才使用额外调用。这种自适应方法在不同模型之间平衡了质量、成本和延迟。

随着模型前沿的不断推进,HydraFusion 也随之进化。当新模型在 GitHub Copilot 中可用时,我们可以评估并将其纳入其模型池,让其优势在最适合的任务中发挥作用。

构建 HydraFusion

将自适应多模型编排转化为一个可靠的编码体验,需要对手执行、审查、成本和仓库状态进行精细控制。HydraFusion 围绕五个运行原则构建:

  • 完整核算。 汇总每条工作流环节(包括草稿、批评、修订、升级、重试和回退)的成本和使用情况。
  • 受限执行。 为每个环节设置明确的超时和取消行为,使执行和成本保持在既定限制内。
  • 隔离审查。 审查步骤在无工具隔离环境中运行,而求解步骤则使用共享工作空间和常规权限感知智能体循环。这使得模型能够独立评估工作,而不会修改仓库。
  • 安全应用。 当工作流被取消或通过验证失败时,不应用任何补丁,防止不完整的更改进入仓库。
  • 经过验证的路由。 在执行开始前,验证工作流定义、模型绑定、降级行为及模型可用性。

这些原则共同让多模型编排能够切实应用于仓库级任务。在内部,运行时记录每一环节的调用角色、结果、成本、延迟及诊断信息,便于事后审查工作流。在外部,开发者收到的是一条连贯的响应和一份权限感知变更集。

基准测试结果

我们在三项智能体编码基准测试——TerminalBench 2.1、DeepSWE 以及基于真实 GitHub Copilot 会话的内部基准 CheckpointBench——上评估了固定的 HydraFusion 策略,并以 Claude Opus 5 和 GPT-5.6 Sol 作为对比基线。各策略使用相同的任务输入、工具、执行限制、定价假设、评分条件以及对缺失结果的处理方式。评估指标包括已验证任务质量(即被确认正确回答的任务占比)和完整估算工作流成本。成本核算涵盖每次调用的环节,包括起草、评审、修订、升级、重试及降级。下表展示了表现最优的 HydraFusion 配置。

基准测试较 Opus 5 成本降幅较 Opus 5 质量变化
TerminalBench 2.1低 67%+4.9 分
DeepSWE低 36%-1.5 分
CheckpointBench低 65%-0.1 分
表 1. HydraFusion 在三项智能体基准测试中的质量与成本表现,以 Opus 5 为参照。

这些受控离线结果仅针对所评估的基准版本、工作流配置、模型池及定价假设有效,所有模型均在相同的中度推理水平下进行评估。通过此项研究预览,我们将验证这些结果能否迁移至实际开发者工作负载,并据此进一步优化 HydraFusion,提升其在生产环境中的质量、延迟、可靠性、缓存效率、成本及安全性。

TerminalBench 2.1

TerminalBench 2.1 在终端环境中对编码智能体的复杂多步任务进行评估。

图 2 对比了 HydraFusion 与 Opus 5 在已验证任务质量和预估工作流成本方面的表现。

DeepSWE

DeepSWE 评估的是有挑战性的仓库级软件工程任务,需要在大型代码库中导航、理解跨文件依赖并产出端到端的修复。在该基准上,HydraFusion 的成绩与 Opus 5 相差仅 1.5 个百分点,同时成本降低 36%,在复杂的真实工程任务上展现出颇具吸引力的质量-成本权衡。

CheckpointBench

CheckpointBench 是一个内部多轮基准,精选自真实的 GitHub Copilot 智能体编码会话。每段对话都锚定到特定的公开仓库和不可变 commit,保证每个会话都可复现。该基准在语言、任务类型和难度上保持均衡,并经过质量清洗,构成一个贴近生产环境智能体会话的逼真评测集。在该基准上,HydraFusion 与 Opus 5 相差仅 0.1 个百分点,成本降低 65%。

早期内部测试的结果也印证了这一点。

到目前为止,[HydraFusion] 的推理和任务解决能力与 Opus 持平甚至更好。

微软首席软件工程师

爬山法调优 HydraFusion

HydraFusion 的路由策略源于开发者在真实编码任务中使用 GitHub Copilot 的方式。为了让这些工作流可复现,我们从真实的 Copilot 编码会话轨迹中精选构建了 CheckpointBench。我们在 CheckpointBench、DeepSWE 和 TerminalBench 2.1 上反复迭代 HydraFusion,针对整体评测集进行优化,而非只针对某个单一基准。

HydraFusion 的分能力得分为比较候选路由策略提供了一致的依据。我们没有手动调整阈值,而是使用 beam search 构建最优决策策略。每个候选策略都在冻结的基线上从质量、成本和失败模式三个维度进行测量,从而确保改进是在稳定的基础上评估的。

TerminalBench 2.1 提供了最完整的迭代运行序列,能够最清晰地呈现这一持续改进的过程。该过程并非线性发展:8 月 11 日至 8 月 25 日期间,评测框架的两次运行故障导致部分数据无效。这些异常已被从性能趋势中剔除并修正,随后 HydraFusion 配置继续取得进展。截至 8 月 25 日,HydraFusion 在记录序列中达到了最强运行状态。

这一发展历程展示了策略如何通过反复实验逐步优化。TerminalBench 2.1 是开发阶段使用的多个基准之一。由于该基准相对饱和,我们需要更广泛的验证,因此三基准评测同时涵盖了 DeepSWE 更具挑战性的仓库级任务。研究预览版将这一学习循环延伸到了真实开发者工作负载。

试用研究预览版

在本预览版中,建议从首轮、单提示词编程任务入手。接下来我们将重点提升长对话迭代场景下的多轮表现。

本次预览旨在了解哪些任务能从组合式工作流中受益,以及编排机制在实际中如何影响延迟和成本。为获得最佳体验,请使用内容充实、范围明确的编程任务,并通过单个提示词交由 Copilot 以自动模式完成。请通过 Copilot CLI 中的 /feedback 命令或GitHub 社区讨论分享您的发现,包括其优势、不足以及您期望的后续改进方向。

HydraFusion 仍是一项活跃的研究项目。随着我们从预览中积累经验,相关结果、模型、工作流、可用状态、命名及产品行为均可能发生变化。我们认为,编程 Agent 的下一个实质性突破将来自前沿智能与运行时编排的结合。HydraFusion 正是我们对此理念的首次实践:从选择最优模型,转向动态构建针对每个任务的最佳求解路径。

致谢

衷心感谢 GitHub 和 Microsoft 跨团队的研究人员、工程师、产品经理和设计师,他们精心策划了训练数据、搭建了训练流水线、构建了评估套件、优化了客户端体验以及完善了服务架构。我们要特别感谢 GitHub Copilot CLI、Copilot API 和 VS Code 团队,正是他们克服了重重挑战,才将这项研究预览版带给我们的客户。

团队成员

Aashna Garg,Code AI 首席应用科学家

Shengyu Fu,Code AI 合作伙伴应用科学经理

Carlos Castro,GitHub Copilot 合作伙伴架构师

Siddharth Singha Roy,Code AI 研究员 II

Andy Salerno,GitHub Copilot 首席软件工程师

原始来源: GitHub Blog

评论 (0)