The Batch 3小时前 · 2026-10-17 01:54:15 · 7 阅读

Claude Haiku 5.5、Mistral Large 4 及 Mac/Windows 本地模型：从验证任务到判断任务的 AI 演进

各位朋友：

大家往往低估了一个事实：大语言模型在可验证任务与需要判断的不可验证任务之间的表现差距，远比想象中要大。可验证任务，比如写代码或解数学题，都有标准答案，可以自动校验。而判断类任务——例如如何回复客户投诉、如何组织 AI 项目的数据收集、该增加什么产品功能、或如何制定商业策略——并不存在绝对正确、无歧义的标准答案，但答案之间确实有高下之分。

目前，我们针对可验证任务训练 AI 系统已有更成熟的技术，因此在这类任务上的进步速度远超判断类任务。在大语言模型领域，RL（强化学习）是推进发展的重要引擎。我们可以搭建 RL gym（强化学习训练环境或仿真环境），让模型尝试不同的任务解决方法；随后自动判断哪些方法更有效（通过奖励函数衡量），并调整模型参数，使其更倾向于采用成功的路径。

在监督学习任务中，可验证任务同样更容易提升性能。无论是通过自动打标还是人工标注，我们都能为可验证任务获取明确无误的标签；但对于判断类任务，为特定输出定义合适的标签要难得多。

此外，学习理论表明，对于那些能达到 0% 错误率的“可实现任务”（realizable tasks），机器学习算法的学习速度，快于最优错误率（即 Bayes error）不为零的任务。

An engineer thinks of nonverifiable tasks he might solve while a robot happily tackles verifiable ones with math symbols

诚然，对大语言模型应用监督微调（SFT）能帮助其学会处理不可验证任务，且该方向也在持续取得进展，但数据收集难度大，且增量提升的过程更为缓慢。智能分布具有不均衡性，不过我们确实掌握了一套提升 AI 判断能力的方案：收集特定领域的训练数据并进行训练，费心设计能反映目标的奖励函数等等。对于那些该方案价值显著的应用场景，企业愿意投入资源以加速这一进程。

人类社会长期存在一个习惯：通过观察 AI 在部分任务上的表现，就过度推断其整体能力。我们曾在 AI 击败国际象棋世界冠军（深蓝）、赢得《Jeopardy》问答赛（沃森）以及精通围棋（AlphaGo）时看到过这一点。这些时刻都曾引发人们对 AI 能立即应用于其他任务的期待，但结果往往过于乐观。此外，相比不可验证的任务，我们更容易评估可验证任务的性能（因为创建测试集更简单），这营造出一种比实际进步更乐观的印象。

需要说明的是，AI 领域确实有许多值得乐观的地方，包括在可验证任务和判断类任务上的进展！但可验证任务的巨大进步，加上对 AGI 和 RSI 的炒作，正导致人们过度泛化 AI 在执行判断类任务上的能力。从长远来看，我依然看好 AI 未来也能出色地完成此类任务，但前方仍有大量工作要做。

对 AI 工程师而言，一个有趣的挑战在于：随着可验证任务逐渐自动化，人类处理判断类任务的需求依然重要——这类任务通常需要从海量原始数据中提取背景信息，并识别出对决策产生关键影响的要素。正如我此前所述，预计在许多任务上，人类将长期保持相对于 LLM 的上下文优势。

继续构建！

Andrew

来自 DEEPLEARNING.AI 的消息

在快速变化的领域，赋予团队值得信赖的技能。我们分析了超过 10,000 个职位，以找出哪些 AI 工程技能最为关键。DeepLearning.AI for Business 为您的整个团队提供了一条获取这些技能的结构性路径。了解其运作方式

新闻

Claude 完善其模型家族

Anthropic 家速度最快、价格最低的模型 Claude Haiku 迎来了期待已久的更新。与此同时，新版 Claude Sonnet 在独立基准测试榜单上的成绩已接近 Claude Opus 5.5，但前提是启用某个推理档位——而这个档位的单任务 token 消耗比所有受测模型都高。

最新动态：Claude Haiku 5.5 取代了一年前的 Claude Haiku 4.5。独立测试显示其表现明显提升，尽管价格不便宜。两周前，Anthropic 还发布了 Claude Sonnet 5.5，据称最适合常规编程和办公任务，比如修 bug、生成文档、幻灯片和表格。它取代 Claude Sonnet 5，每 token 价格保持不变。

输入/输出：输入文本和图像（上限 100 万 token），输出文本（上限 12.8 万 token；Claude Haiku 5.5 每秒 237 token，Claude Sonnet 5.5 每秒 127.5 token）
功能：自适应思考，提供五档推理级别（low、medium、high、xhigh、max；API 默认为 high，Claude Code 和 Anthropic 应用默认为 medium）、工具调用、计算机操作
知识截止日期：2026 年 6 月
性能：发布时，Claude Haiku 5.5 在 Artificial Analysis 智能指数中得分 43，在现有模型中排第 13。Claude Sonnet 5.5 则在发布时登顶 Artificial Analysis 编程智能体指数（68），并在 Artificial Analysis 智能指数（56）和 Vals AI 的 Vals 指数（67.04%）中位居第二
可用性/价格：Claude.ai（网页、iOS、Android）和 Claude Code 提供免费和付费方案；Claude Haiku 5.5 经 API 定价为每百万输入/缓存/输出 token 0.10/0.01/0.50 美元（超过 10 万 token 时所有价格为 5 倍）；Claude Sonnet 5.5 经 API 定价为每百万输入/缓存/输出 token 2/0.10/10 美元；批量请求享五折优惠
权重/许可：专有
未披露：参数量、架构、训练数据和方法

工作原理：除了推理控制和安全防护措施外，Anthropic 几乎没有透露 Claude Haiku 5.5 和 Sonnet 5.5 的构建细节。

Anthropic 使用公共网络数据、公开及私有数据集、合成数据，以及来自反馈、bug 报告和授权用户的训练数据混合训练模型。训练完成后，该公司基于其制定的宪法对模型进行微调，以使其对齐相关价值观。
自适应思考功能默认开启，模型会自行判断是否需要推理以及推理时长后再作出响应。API 开发者可通过名为 effort 的参数设定推理级别，该参数控制所有输出 token，包括推理过程、响应文本和工具调用。在较低级别下，模型对简单问题更少推理甚至不推理，并减少工具调用。
分类器负责筛查涉及网络安全、生物学、武器及前沿 AI 模型开发等风险的请求。针对网络安全领域，系统通过三项组件决定是否阻断对话：探测模型内部激活状态、在 Claude Sonnet 5.5 上运行的轻量级分类器，以及一个专门用于分类请求的语言模型。Anthropic 提醒用户，相较于 Claude Sonnet 5，应预期遇到更多的拒绝响应。涉及生物学和武器的阻断措施没有备用回退机制。
Anthropic 表示，Claude Sonnet 5.5 是首个内置分类器且直接阻断提取推理尝试的 Sonnet 模型，此类阻断不会回退到其他模型，旨在增加蒸馏（训练模型模仿另一模型输出）的难度。其返回的推理阻断仅在生成该阻断的账户内生效，且若对话前序部分发生变更，API 可拒绝执行这些阻断。

性能表现：在最大推理强度下，Claude Haiku 5.5 的性能优于 DeepSeek V4.1 Flash 及其他所有“快速”模型，但落后于顶级模型。最新版 Haiku 也是 Artificial Analysis 测试中每秒 token 数最高的模型。在最大推理强度下，Claude Sonnet 5.5 在两家独立测试方的三个排行榜上位列第一或第二。但在所有推理强度设置下，总有一款模型能以更低的单任务成本达到或超越 Sonnet 在 Artificial Analysis 上的得分。

Claude Haiku 5.5（得分 43）在 Artificial Analysis 的Intelligence Index中排名第 13。该指数涵盖数学、科学、编码和推理等 10 项测试，其成绩领先于所有“快速”模型。将 Claude Sonnet 5.5 设置为最高推理强度（得分 56）可排名第二。Sonnet 5.5 的表现落后于设置为最高推理强度的 Claude Opus 5.5，但与设置为 xhigh 推理强度的 Opus 5.5 持平。然而，为此付出的代价是，Claude Sonnet 5.5 每个任务平均生成约 193,000 个输出 token，比 Opus 多 60%，也是 Artificial Analysis 实测中生成量最高的模型。三款 Claude 5.5 模型（Opus、Sonnet 和 Haiku）在该指标上包揽前三名，其中 Opus 和 Sonnet 分别位列每任务成本的第一和第二。
在 Artificial Analysis 的Coding Agent Index上，该指数通过三个编码基准测试模型与运行环境的组合表现，设置为最高推理强度并在 Claude Code 中运行的 Claude Sonnet 5.5 排名第一（得分 68），领先于在 Claude Code 中运行的 Claude Opus 5.5 以及在 Antigravity 中运行的 Gemini 4 Argon。
在 Vals AI 的Vals Index中，该指数包含八项金融、编码、法律和税务基准测试，并按各板块在美国国内生产总值中的占比加权。设置为最高推理强度的 Claude Sonnet 5.5 排名第二（准确率 67.04%），仅次于设置为高推理强度的 Gemini 4 Argon（准确率 68.9%），略高于设置为最高推理强度的 Claude Opus 5.5（准确率 66.97%）。
这两款模型速度虽快，但延迟也高。Claude Haiku 5.5 每秒生成 237 个 token，但平均需要 337 秒才能生成首个回答 token。设置为最高推理强度的 Claude Sonnet 5.5 每秒生成 127 个 token，而设置为最高推理强度的 Claude Opus 5.5 为 97 个，GPT-6.1 Sol 设置为最高推理强度则为 58.3 个；但 Sonnet 的平均首字延迟高达 430 秒。

幕后详情： Anthropic 于 10 月 7 日发布 Claude Haiku 5.5，9 月 28 日发布 Claude Sonnet 5.5，9 月 22 日发布 Claude Opus 5.5。发布初期，Opus 5.5 在 Artificial Analysis 和 Vals AI 的综合指数中领先。尽管后来发布了 Gemini 4 Argon 以及 Muse Wonder 和 Muse Wonder Full，Claude Opus 5.5 和 Sonnet 5.5 仍然是衡量综合智能的独立基准指数中的顶级模型。

为什么重要：仅看每 token 单价，开发者并不知道一项任务到底要花多少钱。在 Artificial Analysis 的 Intelligence Index 测试中，Claude Sonnet 5.5 在不同推理等级下的单任务成本相差超过 18 倍；在最高档下，它每个任务的花费甚至高于开到最高推理档的 Claude Opus 5.5。在 Vals AI 的测试中，这一成本约为 Opus 的三分之二。Anthropic 也承认，Sonnet 相对 Opus 的成本优势主要体现在较低的推理档位上。Claude Haiku 5.5 同样可以作为推理模型使用，但它的成本优势更多体现在摘要、分类这类较简单的任务上。开发者应当在自己实际的任务上，按不同推理档位测量各模型的成本，同时结合准确率和完成时间来评估——因为各项指标的波动都很大。

我们的看法：更高的推理档位不仅会改变模型思考的时间，还可能改变 agent 的实际行为，而且这种变化并不总是好事。在 FrontierCode 这个测试 agent 的代码改动能否无需人工修改即可合并的基准上，Anthropic 表示 Claude Sonnet 5.5 在最高档的表现反而低于 xhigh 档（46.2% 对 52.1%）。建议在你的任务上试试不同的 effort 档位，找出最优设置。

柱状图显示 Mistral Large 4 以 50 分领先，突出其网络安全能力。

Mistral 的主权吸引力

Mistral 最新发布的模型是该公司迄今最大、能力最强的模型，也是欧洲公司发布过的最强大模型。它在第三方基准上的表现与 GPT-6 Luna 相当。虽然不敌更便宜的中国开源权重模型，但优于所有美国的开源模型。在查找并修复一类软件漏洞方面，它的成绩领先所有模型。

最新动态：Mistral 宣布开放 Mistral Large 4（绰号“le Chonk”）的 API 预览访问。Mistral 表示将在本月底发布模型权重。与此同时，部分精选企业、合作伙伴和政府机构可以使用一个包含有限安全防护和额外网络安全能力的版本。

输入/输出：输入文本和图像（最高 100 万 token），输出文本
架构：专家混合（Mixture of experts），总参数量 1.05 万亿，每 token 激活 520 亿；视觉编码器参数量 16 亿
功能：推理能力（可通过 API 选择关闭或开启高强度推理）、函数调用、工具使用、区域化推理
性能：在 Artificial Analysis 的智能指数中，是中美以外评分最高的模型（38 分）；在 Artificial Analysis 的 CyberGym-E2E-AA 测试（一项旨在发现并修复内存安全漏洞的测试）中，位列公开可用模型第一（得分 82%）
可用性/价格：通过 Mistral Studio API 提供公开预览，每百万输入/缓存/输出 token 的价格分别为 1.36/0.14/4.18 美元，发布后两周内半价，批量请求半价
权重/许可证：尚未发布，权重许可证尚未公布
未披露信息：知识截止时间、输出限制、架构细节、具体训练数据和方法

工作原理：Mistral 很少提及 Mistral Large 4 的架构细节，并表示将在模型权重可用时分享更多信息。该公司称，模型从零开始预训练，随后使用监督学习进行微调，再采用强化学习（RL）。

Mistral 在其自建数据中心的 3,800 块 GPU 上训练了该模型。训练数据包括公开可用的网络数据、授权数据集，以及 Mistral 产品中参与数据共享选项的用户输入和输出。数据集覆盖 160 多种语言，包括欧盟所有官方语言。
单次 RL 运行混合了多种不同类型的任务，如单轮聊天、科学问题、安全性、事实准确性和长时工具使用。任务在共享资源的环境中运行，包括代码沙箱、网络搜索和 API。根据任务不同，奖励来源包括单元测试、奖励模型、语言模型裁判，或不执行代码即可检查代码的测试。
生成模型 API 预览版本的 RL 运行仍在进行中。目前，模型的许多副本并行尝试任务，且后训练阶段会定期同步更新模型，而不是等待一轮尝试结束后再更新。

性能： Mistral Large 4 预览版在 Artificial Analysis 备受推崇的智能指数上，得分超越了中国和美国以外地区构建的所有其他模型。它略逊于少数来自中国公司的其他开放权重模型，但领先于所有美国研发的开放模型。该模型预览版在网络安全任务中表现最为出色。

在智能指数上（这是数学、科学、编码和推理等 10 项评估的加权平均值），设定为推理模式的 Mistral Large 4（38分，$1.13/任务）与 GPT-6 Luna（38分，$0.07）持平，但落后于三款更便宜的开放权重模型：MiMo-V2.6-Pro（46分，$0.13）、GLM-5.3-Flash（42分，$0.25）以及设定为最大推理模式的 DeepSeek V4.1 Flash（39分，$0.27）。
在 Artificial Analysis 的网络指数（Cyber Index，衡量模型在代码库中发现和修复安全漏洞的能力）上，设定为推理模式的 Mistral Large 4（50%，$2.79/任务）与设定为推理模式的 GLM-5.3-Flash（50%，$0.32）持平。在公开可用的模型中，它仅落后于设定为 xhigh 推理模式的 Grok 4.7（56%，$11.67）和设定为推理模式的 MiMo-V2.6-Pro（56%，$0.18）。GPT-6 Sol 的 Daybreak Blue 版本仅在 OpenAI 选定的组织中可用，其设定为最大推理模式时位居榜首，成功率为 69%，每任务成本为 $1.77。
在网络指数的一个组件测试 CyberGym-E2E-AA（涉及流行开源 C 和 C++ 项目中内存安全漏洞的任务）中，Mistral Large 4 解决了 82% 的任务，在公开可用的模型中得分最高，仅次于设定为最大推理模式的 GPT-6 Sol Daybreak Blue（93%）。

背景：Mistral 的旗舰模型在闭源与开源权重之间反复摇摆，与顶级专有模型的竞争力也时强时弱。该公司于 2024 年初推出了专有模型 Mistral Large。2024 年 7 月又发布了 Mistral Large 2，权重仅授权用于研究和非商业用途；当时它的表现可与 OpenAI 的 GPT-4 和 Anthropic 的 Claude Sonnet 3 一较高下。2025 年 12 月，Mistral 以宽松的 Apache 2.0 许可证发布了 Mistral Large 3，同时还推出了更小的 Ministral 3 系列，这些小模型是通过对大模型反复剪枝和蒸馏得到的。

为何重要：在主流基准测试中，最强的开源权重模型都来自中国公司。美国和欧洲的开发者正努力追赶：在美国，Nvidia、Reflection AI、Thinking Machines Lab 等公司已取得进展，而 Mistral 依然是欧洲的领头羊。这些公司都在向那些希望更好掌控 AI 的机构推销自己的模型——无论是通过进一步的后训练，还是让客户更有信心地确保无论地缘政治如何变化都能继续使用这些模型。从韩国到沙特阿拉伯再到墨西哥，世界各地的公司和政府都不愿在智能资源的获取上依赖美国或中国任何一方。正如 Mistral CEO Arthur Mensch 今年早些时候所说：“如果把智能比作电力，那么你要确保的就是自己获取智能的渠道不会被掐断。”

我们的思考：如果你需要 AI 主权——某些行业和国家确实需要——最好的方式就是在自己的硬件上运行开源权重模型。模型由谁开发（美国、欧洲、中国还是其他地方）并不重要，只要你的数据和模型权重完全在自己掌控之中就行。

专为本地 AI 打造的计算机

开发者越来越看好本地模型在经济效益和安全性上的优势，视其为云端的替代或补充方案。来自 Apple、Microsoft 和 Nvidia 的专业设备正试图分食 AI 市场，这些机器能在本地运行更大、更强大的开源模型。

新动态： Apple 推出的新款 Mac mini 和 Mac Studio 桌面电脑，让开发者和 AI 研究人员能以更快的速度运行和微调本地模型，为特定任务提供了云计算之外的选择。Nvidia 的DGX Spark 系列和 Microsoft 的Surface Ultra 笔记本瞄准类似市场：满足那些希望在本地机器上构建 AI 应用、且对性能有一定要求，但又希望拥有用户友好体验的客户。

工作原理：通过避开按量付费的云算力或每月 LLM 订阅费，本地部署方案长期来看能为开发者省钱，尤其是那些运行 7×24 小时智能体的场景。但真正有实力的硬件价格不菲：一台顶配 Mac Studio（配备 256GB 内存、80 核 GPU 和 16TB 存储）售价高达 18,299 美元。对于本地智能体需求相对基础的用户，Mac mini 的起步价为 899 美元。

开发者和爱好者历来使用本地机器运行（有时也训练）较小的 AI 模型。他们常利旧那些原本为游戏、视频渲染或加密货币挖矿设计的高性能 GPU 机器。这些设备正逐渐被专为本地 AI 定制的计算机所取代。另一部分人则自行组装电脑，搭配服务器级的 GPU 和内存。

性能：

比较

表示

Nvidia 表示，其 RTA Spark N1 芯片的 AI 性能可与 RTX 5070 级别的 GPU 相媲美。它在 FP4 精度（本地 AI 模型常用的量化方式）下可提供 1 petaflop（即 1000 teraflops）的算力。
总体而言，Apple 的 CPU 性能更强，但 Nvidia 的 GPU 更胜一筹。此外，Nvidia 芯片还让开发或微调自有模型的用户能够使用 Nvidia 的 CUDA 软件，这套软件可帮助 AI 模型在任何 Nvidia GPU 上运行。

背景解读：与云端相比，使用本地 AI 推理的专业用户仍然是个小众市场，但规模已经大到足以催生针对这一群体的电脑产品，并覆盖各个价位段。自开源个人代理兴起以来，Mac 台式机一直卖得很火，早在二月就有媒体报道称，24GB 以上内存的 Mac 需要等待数周才能到手。Nvidia 的 DGX Spark 笔记本和台式机正是瞄准了 Windows 用户市场。对 Nvidia 而言，进入桌面芯片市场意味着既能继续向消费级和企业级市场销售产品，也能进一步模糊两者之间的界限。对 Apple 而言，这是在 AI 浪潮中获利的一条另辟蹊径——不必自己训练和托管模型，而是发挥其在高端消费硬件制造方面的优势。

重要性：除了成本之外，本地运行的 AI 模型相比云端模型还有诸多优势：可定制性更强、隐私更有保障、数据主权在自己手中、延迟可能更低，而且无需联网也能运行。也有观点认为云端模型和本地模型是互补的：用更强大的专有模型解决高层次的难题，再把机械性的工作交给低成本的本地模型处理。

我们的看法：我们在 2023 年就曾指出，强劲的商业利益会推动边缘设备上的 AI 应用。并非每个应用都需要前沿模型，尤其是当任务经过针对微调的中等规模模型就能胜任时。如今本地 AI 最大的吸引力在于隐私和数据主权——随着 AI 模型处理的敏感任务越来越多，这一点正变得愈发重要。选择越多，对大家越有利。

Diagram showing data processing steps: historical data, covariates extraction, training, and causal estimation.

数据混合，告别盲目尝试

构建微调数据集时，想要找到能产出高性能模型的主题领域组合，往往得经历昂贵的试错。这是因为微调后的表现不仅取决于领域搭配，还受每个样本质量的影响。因果推断方法旨在将这两类影响分离开来。

新进展：清华大学、蚂蚁集团和中国人民大学的研究人员（第一作者为 Zinan Tang 和 Yukun Zhang）构建了 CausalMix，一种方法用于决定从不同领域抽取训练样本的比例，且无需考虑样本质量。

核心洞察： 数据集可从数据混合度（不同领域样本的占比）和数据质量（样本在难度、推理复杂度及构成上的差异）两个维度进行分析。数据混合度与数据质量存在相关性，在特定数据集中识别这种相关性能区分二者对模型性能的独立影响。给定一个数据集和固定的训练预算，要衡量其数据混合度的边际收益，即该混合度对微调模型性能的影响，可以从模型整体性能中减去数据质量的影响。最优的数据混合度是带来最大边际收益的那一种。

工作原理： 作者从 Tulu 3 数据集中构建了 512 个子集，每个子集包含 10 万条示例。各子集中指令遵循、编码、数学、知识及安全类示例的比例各不相同。此外，作者利用 OpenDataArena-Tool 计算的数据难度、推理复杂度和书写清晰度，来衡量数据质量。他们在每个子集上分别对独立的 Qwen2.5-0.5B 模型进行微调，并记录各微调模型在 10 个基准测试上的表现。随后，他们训练了三个决策树集成模型：一个用于估算 Qwen2.5-0.5B 表现中归因于数据质量的部分，一个用于估算数据混合中与对应数据质量相关部分的比例，另一个则用于表征数据混合对微调性能的影响。

给定子集的数据质量指标，LightGBM 被训练用于估算微调后的 Qwen2.5.0.5B 模型表现中归因于数据质量的部分。作者将该输出从 Qwen2.5-0.5B 的整体表现中减去，从而得出归因于数据混合的边缘增益。
作者将数据混合带来的微调性能边缘增益近似为两个因子的乘积：(i) 数据混合中不与数据质量相关部分的占比，以及 (ii) 表征数据混合效应的变量。
为了估算 (i)，他们训练了第二个 LightGBM 模型。具体而言，在给定数据质量指标的情况下，第二个 LightGBM 学习估算数据混合中与数据质量相关部分的占比。作者将该输出从实际数据混合中减去，以找出数据混合中不与数据质量相关的部分。
为了估算 (ii)，他们训练了 CausalForestDML 模型。在给定子集数据质量指标的情况下，该模型旨在最小化边缘增益与（更新后的混合占比和模型估算的变量之积）之间的差异。
在推理阶段，作者执行了以下操作：(i) 随机采样 100,000 种混合方案，(ii) 估算每种方案对应的边缘增益，(iii) 计算排名前十的混合方案，以及 (iv) 对这些方案取平均以生成最终的数据混合。

结果：作者将他们的方法与多种基线做了对比，包括按相同比例在各领域间分配数据，以及 Data Mixing Optimization（DMO）——一种通过最小化损失自动选择微调数据配比的方法。在 80 万个样本上微调后，CausalMix 在用于选择配比的 10 项基准测试上全部超越了所测试的竞争方法。

微调 Qwen2.5-0.5B 时，CausalMix 平均得分 32.81%，DMO 为 32.04%。
换成更大的 Qwen2.5-7B 后，CausalMix 平均得分 62.28%，DMO 为 60.35%。而且这个配比并没有在 7B 规模上重新跑那 512 次试验，是直接沿用下来的。
为了验证方法能否迁移到其他数据集和模型，作者把该方法应用到 Qwen3-4B 以及 AM-Thinking-v1-Distilled-Code&Math 的代码和数学题上，并在另外四项基准上测试。CausalMix 平均得分 66.66%，超越了包括 DMO（平均 63.47%）在内的竞争方法。

但是：这个方法在其他数据集上的泛化能力还不明确。在 Tulu 3 的留出子集上，CausalMix 经常落后于竞争方法。比如，用留出集中的 80 万个样本微调 Qwen2.5-0.5B 时，DMO（平均 26.49%）超过了 CausalMix（平均 25.04%）。

为什么重要：该方法为优化数据配比提供了一套理性方案，而不是反复试错，并且能保证好的配比在数据和模型规模扩大后依然有效。这意味着可以先用较小的数据集和模型找到最优配比，然后在扩大规模时保持同样比例，也不用担心性能受损。

我们的看法：任何一条训练样本对模型表现的影响都取决于其他样本。比如，某个样本可能一开始太难，得先从另一个样本学到东西才能消化。数据配比的影响正体现了这一点：模型执行指令的能力，可能取决于它从一道数学题中学到的推理能力，反之亦然。

原始来源： The Batch