KubeRay vous permet de déployer, de mettre à l'échelle et de gérer des clusters Ray sur ACK pour les charges de travail d'IA distribuées.
Le framework de calcul Ray comprend trois couches : les bibliothèques Ray AI, Ray Core et les clusters Ray.
Présentation de KubeRay
KubeRay est un opérateur Kubernetes open source dédié au déploiement et à la gestion des applications Ray. Il expose trois ressources personnalisées (RayCluster, RayJob et RayService) via une API Kubernetes déclarative.
Container Service for Kubernetes (ACK) offre une gestion des conteneurs de niveau entreprise, conforme aux certifications Kubernetes. Utilisez KubeRay pour déployer des clusters Ray dans ACK.
Ray sur ACK s'intègre aux services Alibaba Cloud suivants :
| Service Alibaba Cloud | Fonctionnalité |
|---|---|
| Simple Log Service | Gestion des journaux |
| Managed Service for Prometheus | Observabilité |
| Tair (Redis OSS-Compatible) | Disponibilité améliorée |
| Ray autoscaler + ACK autoscaler | Mise à l'échelle des ressources à la demande |
Consultez la rubrique Installer Kuberay-Operator.
Kuberay-Operator
Installez KubeRay depuis la page Add-ons de la console ACK. ACK propose Kuberay-Operator, basé sur l'opérateur open source KubeRay, qui active les fonctionnalités ACK suivantes :
Planification
Quotas élastiques
Planification des ressources basée sur les priorités
Intégration avec Simple Log Service, Managed Service for Prometheus et Object Storage Service (OSS)
Après l'installation, ACK gère Kuberay-Operator et crée les ressources personnalisées RayCluster, RayJob et RayService sur le plan de données.
Ressources personnalisées
RayCluster
Une ressource RayCluster crée un cluster Ray composé d'un pod principal (head) et de pods de travail (worker) sur un cluster ACK. Consultez la documentation relative à la configuration de RayCluster.
RayJob
Une ressource RayJob (en mode K8sJobMode) gère un cluster Ray et un job par lot Kubernetes. Le cluster Ray fournit les ressources de calcul, tandis que le job par lot exécute ray job submit pour soumettre un job Ray. Consultez la documentation relative à la configuration de RayJob.
RayService
Une ressource RayService gère un cluster Ray et des applications Ray Serve. Le cluster Ray fournit les ressources de calcul, et Ray Serve assure le déploiement des modèles et l'inférence.
Responsabilités partagées pour Ray sur ACK
Lorsque vous exécutez des charges de travail Ray dans des clusters ACK avec KubeRay, vous et Alibaba Cloud partagez la responsabilité de la sécurité et de la gestion de l'environnement.
Responsabilités d'Alibaba Cloud
ACK gère et sécurise Kuberay-Operator :
Garantit la conformité des images Kuberay-Operator aux normes de renforcement de la sécurité.
Assure la stabilité et la disponibilité de Kuberay-Operator.
Maintient les versions de Kuberay-Operator.
Gère les ressources personnalisées RayCluster, RayJob et RayService.
Responsabilités du client
Vous êtes responsable de la sécurité et de la configuration des applications Ray déployées avec RayCluster, RayJob et RayService.
Suivez les bonnes pratiques pour la protection des clusters Ray.
Mettez à jour et maintenez les images de conteneur pour les pods principaux et de travail Ray.
Mettez à jour et maintenez les versions de Ray pour les pods principaux et de travail.
Configurez les besoins en ressources pour les clusters Ray, notamment le CPU, le GPU et la mémoire.
Surveillez l'état et la disponibilité des applications Ray.
Consultez la rubrique Modèle de responsabilité partagée.