进阶 ray.io 2026-11-20 06:00:47 · 4 阅读

第9章 Ray Tune:超参数调优

Ray Tune:超参数调优

Tune 是一个用于实验执行和超参数调优的 Python 库,支持任意规模的场景。你可以对 PyTorch、XGBoost、TensorFlow 和 Keras 等主流机器学习框架进行调优,支持 Population Based Training (PBT) 和 HyperBand/ASHA 等先进算法。Tune 还集成了多种额外的超参数优化工具,包括 Ax、BayesOpt、BOHB、Nevergrad 和 Optuna。 点击以下选项卡查看各机器学习框架的代码示例:

快速入门 运行此示例前,请安装依赖:pip install "ray[tune]"。 在这个快速入门示例中,我们最小化一个简单的目标函数 $f(x) = a2 + b$。$a$ 越接近零且 $b$ 越小,$f(x)$ 的总值就越小。我们将为 $a$ 和 $b$ 定义一个搜索空间,让 Ray Tune 在其中探索最优值。 from ray import tune

def objective(config): # ① score = config["a"] 2 + config["b"] return {"score": score}

search_space = { # ② "a": tune.grid_search([0.001, 0.01, 0.1, 1.0]), "b": tune.choice([1, 2, 3]), }

tuner = tune.Tuner(objective, param_space=search_space) # ③

results = tuner.fit() print(results.get_best_result(metric="score", mode="min").config)

① 定义目标函数。 ② 定义搜索空间。 ③ 启动 Tune 运行并打印最佳结果。

Keras+Hyperopt 若要用 Hyperopt 调优 Keras 模型,需将模型封装在目标函数中,通过 config 访问超参数。以下示例仅调优模型第一层的激活参数,但实际上你可以调优任意参数。定义搜索空间后,只需初始化 HyperOPTSearch 对象并将其传入运行即可。务必告知 Ray Tune 需要优化的指标,以及是最大化还是最小化该指标。 from ray import tune from ray.tune.search.hyperopt import HyperOptSearch import keras

def objective(config): # ① model = keras.models.Sequential() model.add(keras.layers.Dense(784, activation=config["activation"])) model.add(keras.layers.Dense(10, activation="softmax"))

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"]) # model.fit(...) # loss, accuracy = model.evaluate(...) return {"accuracy": accuracy}

search_space = {"activation": tune.choice(["relu", "tanh"])} # ② algo = HyperOptSearch()

tuner = tune.Tuner( # ③ objective, tune_config=tune.TuneConfig( metric="accuracy", mode="max", search_alg=algo, ), param_space=search_space, ) results = tuner.fit()

① 将 Keras 模型封装在目标函数中。 ② 定义搜索空间并初始化搜索算法。 ③ 启动 Tune 运行以最大化准确率。

PyTorch+Optuna 若要用 Optuna 调优 PyTorch 模型,同样需将模型封装在目标函数中,通过 config 访问超参数。以下示例仅调优优化器的 momentum 和学习率 (lr),但你可以调优其他任意模型参数。定义搜索空间后,只需初始化 OptunaSearch 对象并传入运行即可。务必告知 Ray Tune 优化指标及其方向(最大化或最小化)。本示例在 5 次迭代后停止调优,你也可以轻松定义其他停止规则。 import torch from ray import tune from ray.tune.search.optuna import OptunaSearch

def objective(config): # ① train_loader, test_loader = load_data() # 加载数据 model = ConvNet().to("cpu") # 创建 PyTorch 卷积网络 optimizer = torch.optim.SGD( # 调优优化器 model.parameters(), lr=config["lr"], momentum=config["momentum"] )

while True: train_epoch(model, optimizer, train_loader) # 训练模型 acc = test(model, test_loader) # 计算测试准确率 tune.report({"mean_accuracy": acc}) # 向 Tune 报告

search_space = {"lr": tune.loguniform(1e-4, 1e-2), "momentum": tune.uniform(0.1, 0.9)} algo = OptunaSearch() # ②

tuner = tune.Tuner( # ③ objective, tune_config=tune.TuneConfig( metric="mean_accuracy", mode="max", search_alg=algo, ), run_config=tune.RunConfig( stop={"training_iteration": 5}, ), param_space=search_space, ) results = tuner.fit() print("Best config is:", results.get_best_result().config)

① 将 PyTorch 模型封装在目标函数中。 ② 定义搜索空间并初始化搜索算法。 ③ 启动 Tune 运行以最大化平均准确率,并在 5 次迭代后停止。

使用 Tune,你可以在不到 10 行代码内启动多节点分布式超参数扫描。此外,你还可以借助 Ray Serve,在同一基础设施上将模型从训练迁移到推理服务。

入门

在我们的入门教程中,你将学习如何有效地使用 Tune 调优 PyTorch 模型。

开始使用 Tune

核心概念

理解 Ray Tune 的核心概念。学习 tune runs、搜索算法、调度器及其他功能。

Tune 的核心概念

用户指南

我们的指南将向你介绍 Tune 的关键功能,如分布式训练或早停机制。

学习如何使用 Tune

示例

在示例中,你可以找到使用 scikit-learn、Keras、TensorFlow、PyTorch 和 mlflow 等框架的实际教程,以及最新搜索算法的集成示例。

Ray Tune 示例

Ray Tune 常见问题

在我们的详细 FAQ 中找到常见问题的答案。

Ray Tune 常见问题

Ray Tune API

获取有关 Ray Tune API 的深入信息,包括搜索空间、算法和训练配置的详细说明。

阅读 API 参考

为何选择 Tune? 市面上有许多其他超参数优化库。如果你是 Tune 的新手,可能会好奇“Tune 有何不同?”

前沿优化算法 作为用户,你关注超参数优化很可能是为了快速提升模型性能。 Tune 支持利用多种前沿优化算法,通过提前终止劣质运行、选择更优参数进行评估,甚至在训练过程中动态调整超参数以优化调度,从而降低调优成本。

一流的开发者生产力 许多超参数优化框架的主要痛点在于需要重构代码以适配框架。使用 Tune,你只需添加少量代码片段即可优化模型。 此外,Tune 去除了训练工作流中的样板代码,支持多种实验结果存储选项(NFS、云存储),并将结果记录到 MLflow 和 TensorBoard 等工具中,同时具备高度可定制性。

开箱即用的多 GPU 与分布式训练 超参数调优以耗时著称,因此并行化该过程通常必不可少。大多数其他调优框架要求你自行实现多进程框架或构建分布式系统以加速调优。 然而,Tune 允许你在多个 GPU 和多个节点间透明地并行化。Tune 甚至提供无缝的容错和云支持,允许你使用廉价的抢占式实例将超参数搜索规模扩大 100 倍,同时将成本降低多达 10 倍。

来自其他超参数优化工具? 你可能已经在使用现有的超参数调优工具,如 HyperOpt 或贝叶斯优化。 在这种情况下,Tune 实际上可以增强你现有的工作流。Tune 的搜索算法与多种流行的超参数调优库集成(参见示例),让你能够无缝扩展优化过程——而不牺牲性能。

使用 Tune 的项目 以下是一些利用 Tune 的流行开源仓库和研究项目。欢迎提交 Pull Request 添加(或请求移除)列表中项目。

Softlearning:Softlearning 是一个用于训练连续域最大熵策略的强化学习框架。包含 Soft Actor-Critic 算法的官方实现。 Flambe:一个加速研究及其通往生产路径的 ML 框架。参见 flambe.ai。 Population Based Augmentation:Population Based Augmentation (PBA) 是一种快速高效地学习数据增强函数以用于神经网络训练的算法。PBA 在 CIFAR 上以千分之一的算力达到了最先进水平。 Kakao 的 Fast AutoAugment:Fast AutoAugment(已被 NeurIPS 2019 接收)使用基于密度匹配的更高效搜索策略学习增强策略。 Allentune:来自 AllenAI 的 AllenNLP 超参数搜索。 machinable:一个用于机器学习研究的模块化配置系统。参见 machinable.org。 NeuroCard:NeuroCard(已被 VLDB 2021 接收)是一个用于多表连接查询的神经基数估计器。它使用最先进的深度密度模型来学习关系数据库表之间的相关性。

了解更多 Ray Tune 你可以在这里找到关于 Ray Tune 的博文和演讲:

[博客] Tune:任意规模快速超参数调优的 Python 库 [博客] 使用 Ray Tune 进行前沿超参数调优 [幻灯片] 在 RISECamp 2019 上的演讲 [视频] 在 RISECamp 2018 上的演讲 [视频] 现代超参数优化指南 (PyData LA 2019) (幻灯片)

引用 Tune 如果 Tune 对你的学术研究有帮助,我们鼓励你引用我们的论文。这是一个 bibtex 示例: @article{liaw2018tune, title={Tune: A Research Platform for Distributed Model Selection and Training}, author={Liaw, Richard and Liang, Eric and Nishihara, Robert and Moritz, Philipp and Gonzalez, Joseph E and Stoica, Ion}, journal={arXiv preprint arXiv:1807.05118}, year={2018} }

评论 (0)