Project HydraFusion:通过多模型编排实现前沿级智能
- Single。由一个选定的模型直接完成任务。
- Cascade。先由一个高性价比模型起草方案,再由质量门判断是接受它,还是升级到更强的模型。
- Critique。一个模型起草结果,另一个来自不同模型家族的独立只读“评论者”进行审查(采用与 Rubber Duck 相同的审查模式),然后由起草模型修订一次。

在三个智能体编程基准测试中的离线评估显示,HydraFusion 始终展现出前沿水平的质量,同时大幅降低了预估成本。在 TerminalBench 2.1 上,相比 Claude Opus 5,它在预估成本降低 67% 的情况下,将验证任务质量提升了 4.9 个百分点。
让我们深入探讨其方法、结果和基准测试。
自适应多模型编排
开发者目前已经会手动协调模型:为一个任务选择一个模型,让另一个模型审查工作,或将难题升级到更强大的模型。HydraFusion 将这一熟悉的流程带入了运行时。你只需选择一次 HydraFusion,即可专注于任务本身,而它会在幕后管理模型和工作流。
关键在于选择性。一些编码任务可以直接解决,而另一些则从审查、修订或升级中受益。HydraFusion 评估每个请求,并选择满足其需求的最简单工作流,仅在模型调用很可能改善结果时才使用额外调用。这种自适应方法在不同模型之间平衡了质量、成本和延迟。
随着模型前沿的不断推进,HydraFusion 也随之进化。当新模型在 GitHub Copilot 中可用时,我们可以评估并将其纳入其模型池,让其优势在最适合的任务中发挥作用。
构建 HydraFusion
将自适应多模型编排转化为一个可靠的编码体验,需要对手执行、审查、成本和仓库状态进行精细控制。HydraFusion 围绕五个运行原则构建:
- 完整核算。 汇总每条工作流环节(包括草稿、批评、修订、升级、重试和回退)的成本和使用情况。
- 受限执行。 为每个环节设置明确的超时和取消行为,使执行和成本保持在既定限制内。
- 隔离审查。 审查步骤在无工具隔离环境中运行,而求解步骤则使用共享工作空间和常规权限感知智能体循环。这使得模型能够独立评估工作,而不会修改仓库。
- 安全应用。 当工作流被取消或通过验证失败时,不应用任何补丁,防止不完整的更改进入仓库。
- 经过验证的路由。 在执行开始前,验证工作流定义、模型绑定、降级行为及模型可用性。
这些原则共同让多模型编排能够切实应用于仓库级任务。在内部,运行时记录每一环节的调用角色、结果、成本、延迟及诊断信息,便于事后审查工作流。在外部,开发者收到的是一条连贯的响应和一份权限感知变更集。
基准测试结果
我们在三项智能体编码基准测试——TerminalBench 2.1、DeepSWE 以及基于真实 GitHub Copilot 会话的内部基准 CheckpointBench——上评估了固定的 HydraFusion 策略,并以 Claude Opus 5 和 GPT-5.6 Sol 作为对比基线。各策略使用相同的任务输入、工具、执行限制、定价假设、评分条件以及对缺失结果的处理方式。评估指标包括已验证任务质量(即被确认正确回答的任务占比)和完整估算工作流成本。成本核算涵盖每次调用的环节,包括起草、评审、修订、升级、重试及降级。下表展示了表现最优的 HydraFusion 配置。
| 基准测试 | 较 Opus 5 成本降幅 | 较 Opus 5 质量变化 |
|---|---|---|
| TerminalBench 2.1 | 低 67% | +4.9 分 |
| DeepSWE | 低 36% | -1.5 分 |
| CheckpointBench | 低 65% | -0.1 分 |
这些受控离线结果仅针对所评估的基准版本、工作流配置、模型池及定价假设有效,所有模型均在相同的中度推理水平下进行评估。通过此项研究预览,我们将验证这些结果能否迁移至实际开发者工作负载,并据此进一步优化 HydraFusion,提升其在生产环境中的质量、延迟、可靠性、缓存效率、成本及安全性。
TerminalBench 2.1
TerminalBench 2.1 在终端环境中对编码智能体的复杂多步任务进行评估。
图 2 对比了 HydraFusion 与 Opus 5 在已验证任务质量和预估工作流成本方面的表现。
DeepSWE
DeepSWE 评估的是有挑战性的仓库级软件工程任务,需要在大型代码库中导航、理解跨文件依赖并产出端到端的修复。在该基准上,HydraFusion 的成绩与 Opus 5 相差仅 1.5 个百分点,同时成本降低 36%,在复杂的真实工程任务上展现出颇具吸引力的质量-成本权衡。
CheckpointBench
CheckpointBench 是一个内部多轮基准,精选自真实的 GitHub Copilot 智能体编码会话。每段对话都锚定到特定的公开仓库和不可变 commit,保证每个会话都可复现。该基准在语言、任务类型和难度上保持均衡,并经过质量清洗,构成一个贴近生产环境智能体会话的逼真评测集。在该基准上,HydraFusion 与 Opus 5 相差仅 0.1 个百分点,成本降低 65%。
早期内部测试的结果也印证了这一点。
到目前为止,[HydraFusion] 的推理和任务解决能力与 Opus 持平甚至更好。
微软首席软件工程师
爬山法调优 HydraFusion
HydraFusion 的路由策略源于开发者在真实编码任务中使用 GitHub Copilot 的方式。为了让这些工作流可复现,我们从真实的 Copilot 编码会话轨迹中精选构建了 CheckpointBench。我们在 CheckpointBench、DeepSWE 和 TerminalBench 2.1 上反复迭代 HydraFusion,针对整体评测集进行优化,而非只针对某个单一基准。
HydraFusion 的分能力得分为比较候选路由策略提供了一致的依据。我们没有手动调整阈值,而是使用 beam search 构建最优决策策略。每个候选策略都在冻结的基线上从质量、成本和失败模式三个维度进行测量,从而确保改进是在稳定的基础上评估的。
TerminalBench 2.1 提供了最完整的迭代运行序列,能够最清晰地呈现这一持续改进的过程。该过程并非线性发展:8 月 11 日至 8 月 25 日期间,评测框架的两次运行故障导致部分数据无效。这些异常已被从性能趋势中剔除并修正,随后 HydraFusion 配置继续取得进展。截至 8 月 25 日,HydraFusion 在记录序列中达到了最强运行状态。
这一发展历程展示了策略如何通过反复实验逐步优化。TerminalBench 2.1 是开发阶段使用的多个基准之一。由于该基准相对饱和,我们需要更广泛的验证,因此三基准评测同时涵盖了 DeepSWE 更具挑战性的仓库级任务。研究预览版将这一学习循环延伸到了真实开发者工作负载。
试用研究预览版
在本预览版中,建议从首轮、单提示词编程任务入手。接下来我们将重点提升长对话迭代场景下的多轮表现。
本次预览旨在了解哪些任务能从组合式工作流中受益,以及编排机制在实际中如何影响延迟和成本。为获得最佳体验,请使用内容充实、范围明确的编程任务,并通过单个提示词交由 Copilot 以自动模式完成。请通过 Copilot CLI 中的 /feedback 命令或GitHub 社区讨论分享您的发现,包括其优势、不足以及您期望的后续改进方向。
HydraFusion 仍是一项活跃的研究项目。随着我们从预览中积累经验,相关结果、模型、工作流、可用状态、命名及产品行为均可能发生变化。我们认为,编程 Agent 的下一个实质性突破将来自前沿智能与运行时编排的结合。HydraFusion 正是我们对此理念的首次实践:从选择最优模型,转向动态构建针对每个任务的最佳求解路径。
致谢
衷心感谢 GitHub 和 Microsoft 跨团队的研究人员、工程师、产品经理和设计师,他们精心策划了训练数据、搭建了训练流水线、构建了评估套件、优化了客户端体验以及完善了服务架构。我们要特别感谢 GitHub Copilot CLI、Copilot API 和 VS Code 团队,正是他们克服了重重挑战,才将这项研究预览版带给我们的客户。
团队成员
Aashna Garg,Code AI 首席应用科学家
Shengyu Fu,Code AI 合作伙伴应用科学经理
Carlos Castro,GitHub Copilot 合作伙伴架构师
Siddharth Singha Roy,Code AI 研究员 II
Andy Salerno,GitHub Copilot 首席软件工程师