Ray 在 Kubernetes

简介

本章，我们会覆盖如何在 Kubernetes 集群上执行你的分布式 Ray 程序。

推荐的方式是使用 KubeRay Operator 。 该控制器提供了一个 Kubernetes 原生方式来管理 Ray clusters。 每个 Ray 集群由一个头节点 pod 以及一批 work 节点 pod 组成。 可选的自动缩放支持允许 KubeRay Operator 根据 Ray 工作负载的要求调整 Ray 集群的大小，并根据需要添加和删除 Ray pod。 KubeRay 支持异构计算节点（包括 GPU）以及在同一 Kubernetes 集群中运行具有不同 Ray 版本的多个 Ray 集群。

KubeRay 引入了三种不同的 Kubernetes 自定义资源 (CRDs)： RayCluster, RayJob, and RayService. 这些 CRD 可帮助用户有效管理针对各种用例定制 Ray 集群。

查看 入门 来学习 KubeRay 基础，跟随入门指引在 Kubernetes 上通过 KubeRay 来运行你的第一个 Ray 应用。

• RayCluster 入门

• RayJob 入门

• RayService 入门

了解更多

Ray 文档提供了开始在 Kubernetes 上运行 Ray 工作负载所需的所有信息。

Getting Started

了解如何启动 Ray 集群并在 Kubernetes 上部署 Ray 应用程序。

在 Kubernetes 上使用 Ray

User Guides

了解在 Kubernetes 上配置 Ray 集群的最佳实践。

阅读用户手册

Examples

尝试 Kubernetes 上的 Ray 工作负载示例。

尝试示例工作负载

Ecosystem

将 KubeRay 与第三方 Kubernetes 生态系统工具集成。

生态指引

Benchmarks

检查 KubeRay 基准测试结果。

基准结果

Troubleshooting

参阅 KubeRay 故障排除指南。

问题引导

关于 KubeRay

Ray 的 Kubernetes 支持发布在 KubeRay GitHub 仓库，在 Ray project 板块。KubeRay 被多家公司用来运行 Ray 生产部署。

• 查看 KubeRay GitHub repo 跟踪进度、报告错误、提出新功能或为项目做出贡献。