进阶 ray.io 2026-11-20 06:00:46 · 12 阅读

第1章 规模化机器学习与 AI 计算

Ray 是全球最强 AI 平台的核心引擎。它能为任意规模的分布式工作负载精确调度任意加速器上的基础设施。用 100 美元额度试用 Ray学习 Ray加入 Ray SlackThe AI Compute Engine以无与伦比的规模进行 AI 开发,
性能,与效率。试用 Ray,$100 额度学 Ray加入 Ray SlackRay 的优势AI 挑战AI 正以小时为单位变得更复杂,复杂的数据模态、新模型、新框架和新加速器每天不断涌现。缺乏有效的基础设施,团队将面临漫长的上线周期、资源利用不足和成本飙升。为获得真正的投资回报率并突破“AI 复杂性壁垒”,团队需要一台引擎来支撑任意工作负载——涵盖 AI、机器学习和生成式 AI。介绍AI 计算引擎要突破 AI 复杂性壁垒,你需要一个 AI 计算引擎:Ray。Ray 能够:支持任意 AI 或 ML 工作负载支持任意数据类型和模型架构使用异构 GPU 和 CPU,并实现细粒度、独立扩展充分利用每一块加速器从笔记本电脑扩展到数千块 GPU任意 AI 工作负载的计算引擎Ray 原生支持 Python,由开发者为开发者打造。并行 Python 代码Ray 原生支持 Python。可扩展并分发任意 Python 代码,适用于模拟、回测等场景。了解更多多模态数据处理处理包括图像、视频、音频在内的结构化与非结构化数据。了解更多模型训练运行分布式训练,包括生成式 AI 基础模型、时间序列模型以及 XGBoost 等传统 AI/ML 模型,只需一行代码即可规模化执行。没错——它兼容你选择的主流框架。了解更多模型服务部署模型和业务逻辑,而非实例。Ray Serve 提供独立扩展和分数资源,让你最大化利用已部署的模型。支持任意 ML 模型——从 LLM 到 Stable Diffusion,再到目标检测模型等。了解更多批量推理利用异构计算资源简化离线批量推理工作流。在同一管道中混合使用 CPU 和 GPU,提高利用率,彻底填满 GPU 资源,降低开销。了解更多强化学习运行业界一流的强化学习工作流。Ray RLlib 支持生产级、高并发的分布式 RL 工作负载,同时为广泛的企业级应用保持统一且简单的 API。了解更多生成式 AI使用 Ray 构建端到端的生成式 AI 工作流。Ray 支持多模态模型、RAG 应用等。了解更多LLM 推理使用 Ray 部署大语言模型(LLM)并实现无缝扩展。Ray 支持任意加速器、任意模型的灵活性,结合无缝扩展能力,专为 LLM 推理(在线和批量)而生。了解更多LLM 微调源自 ChatGPT 背后的框架,轻松实现大语言模型的规模化微调。了解更多Ray 的核心概念Ray 是 AI 计算引擎,旨在驱动你的 AI 平台并优化任意规模的工作负载。核心扩展 Python 代码Ray Core 提供少量核心原语(即任务、Actor、对象),用于构建和扩展分布式 Python 应用。了解更多Ray 库端到端 AI 解决方案通过 Ray 的高阶 ML 库,无缝扩展任意 AI 工作负载——包括数据处理、训练和服务。了解更多生态系统与工具完整的 ML 生态系统在 Ray 上运行端到端的 AI 和 ML 工作流。使用易用的工具部署 Ray 集群,调试和优化应用,并与常用工具和框架集成,构建 AI 应用。了解更多Anyscale 就是 Ray——完美化立即体验 Anyscale。预约演示任意规模的实际效果看看行业领先者如何利用 Ray 加速 AI 运营并解锁变革性成果。10-100x更多模型训练数据。1M+CPU 核心用于在线模型服务。300B+基础模型训练参数量。82%更低的数据处理成本(年节省 1200 万美元)30x从 Spark 切换到 Ray 进行 GPU 批量推理,成本降低30x4xGPU 利用率提升 4 倍,成本降低 7 倍10x每月训练的模型数量增加 10 倍12x迭代速度加快 12 倍,交付 100+ 个生产级模型开源与面向未来凭借日益壮大的开源社区支持,Ray 为当今的 AI 领导者赋能,并为明日的 AI 创新持续演进。40k+GitHub 仓库下载量34.8k社区星标数1000+贡献者“任何能用函数和类描述的东西——也就是你写的几乎所有应用程序——都可以用 Ray 进行分布式处理。”Patrick Ames首席工程师“在我看来,[Ray] 纯粹是魔法。”Thierry Steenberghs首席软件工程师获取专家帮助获取来自 Ray 创造者的实战培训和专家支持。Anyscale 是一个专为 Ray 构建的全托管 AI 平台,由其背后的核心团队打造。获得 Ray 的所有优势以及更多功能,包括企业级治理、高级开发者工具和专家支持。联系我们了解如何与 Anyscale 团队合作开发、调试和优化你的 Ray 用例。注册立即开始Anyscale 是运行 Ray 的最佳平台。加速你的 Ray 之旅,借助 Ray 和 Anyscale 将你的团队转型为 AI 团队。用 Anyscale 推进你的 AI 平台准备好真正投资 AI 吗?看看为什么全球最聪明的 AI/ML 平台领导者都选择 Anyscale。预约演示Ray Slack 社区加入讨论,与同行的 AI 从业者建立联系。加入 Ray Slack在 Anyscale 上试用 Ray从唯一的完全托管、一体化平台开始——由 Ray 背后的核心团队打造。免费试用

评论 (0)