第11章 Ray 生态系统
第 11 章:Ray 生态系统 #
本页面按字母顺序列出了那些与 Ray 集成以支持分布式执行的库。将你自己的集成添加到该列表非常简单:只需提交一个 Pull Request 并附上几行说明文字,详细信息见下方的下拉菜单。
添加你的集成 若要添加集成,需在本文件中新增一条条目,并使用与其他示例相同的 grid-item-card 指令。
AIBrix 是一个云原生 LLM 推理基础设施平台,提供了一套组件,用于基于 Ray 的混合编排来部署、扩展和优化大语言模型服务。
AIBrix 集成
AReaL 是蚂蚁集团开发的一套面向 LLM 智能体的异步强化学习系统。它通过 Ray 集群上的高效分布式后训练,实现了生成与训练的解耦。
AReaL 集成
Cosmos Curate 是 NVIDIA 推出的 GPU 加速视频和图像数据策展工具包。它利用 Ray 进行多节点、多 GPU 的分布式处理,提供可扩展的流水线,用于过滤、去重和质量评分。
Cosmos Curate 集成
Daft 是一个高性能多模态数据引擎,为结构化表格、图像、音频、视频和嵌入等各种模态提供简单可靠的数据处理。它基于 Python 和 Rust 构建,面向现代 AI 工作流,支持从本地到分布式集群的无缝扩展,能够在大规模场景下实现高效的批量推理、文档处理和多模态 ETL 流水线。
Daft 集成
Data-Juicer 是一个一站式多模态数据处理系统,旨在提升数据质量,使其对基础模型而言更优质、更丰富且更易消化。它与 Ray 集成,支持在超过 100 个多模态算子下对大规模数据集进行分布式处理,并支持 TB 级别数据集的去重。
Data-Juicer 集成
DeltaCAT 是一个由 Ray 驱动的便携式多模态数据湖仓,支持 PB 级数据的压实、去重以及符合 ACID 合规性的增量表处理。
DeltaCAT 集成
只需修改一行代码,即可扩展你的 pandas 工作流。Modin 透明地分配数据和计算任务,使你无需改变习惯,继续像安装 Modin 之前那样使用 pandas API 即可。
Modin 集成
NeMo Curator 是 NVIDIA 推出的可扩展数据策展工具包,用于为大型语言模型训练准备高质量数据集。它利用 Ray 进行大规模分布式数据处理,包括去重、过滤和质量分类。
NeMo Curator 集成
NeMo-RL 是 NVIDIA 推出的面向大语言模型的可扩展后训练工具包。它基于 Ray 构建,提供 RLHF 和对齐训练,支持对训练和推理工作负载进行分布式编排。
NeMo-RL 集成
OpenRLHF 是一个易用且可扩展的 RLHF 训练框架。它利用 Ray 在多个 GPU 和节点上编排训练与生成过程,支持分布式 PPO、DPO、拒绝采样以及其他对齐方法。
OpenRLHF 集成
RayDP(即“Ray 上的 Spark”)使你能够在 Ray 程序中轻松使用 Spark。你可以使用 Spark 读取输入数据,通过 SQL、Spark DataFrame 或 Pandas(通过 Koalas)API 处理数据,利用 Spark MLLib 提取和转换特征,并使用 RayDP Estimator API 对预处理后的数据集进行分布式训练。
RayDP 集成
ROLL 是阿里巴巴开发的大语言模型强化学习扩展库。它基于 Ray 构建,提供高效的分布式强化学习训练,并支持灵活的资源调度和异构任务管理。
ROLL 集成
SkyRL 是 UC Berkeley 推出的面向 LLM 智能体的模块化强化学习库。它利用 Ray 进行分布式 rollout 和训练,实现通过多轮环境交互的训练过程。
SkyRL 集成
SLIME 是清华大学推出的大语言模型后训练框架。它基于 Ray 和 Megatron-LM 的服务导向架构,提供 RL 扩展能力,支持分布式训练编排。
SLIME 集成
Syftr 是 DataRobot 推出的开源智能体工作流优化器。它使用 Ray 和 Ray Tune,针对提示词、模型和工具选择,对智能体 AI 工作流进行可扩展的多目标优化。
Syftr 集成
verl 是字节跳动推出的灵活且高效的大语言模型强化学习训练库。它提供原生 Ray 混合控制器,支持可扩展的 RLHF 训练,并对 rollout、训练和奖励计算进行分布式编排。
verl 集成
vLLM 是面向大语言模型的高吞吐量、内存高效的推理与服务引擎。它利用 Ray 实现跨多个 GPU 和节点的分布式张量并行和流水线并行。
vLLM 集成