Exécution de tâches d'entraînement TensorFlow autonomes
Exécutez des tâches d'entraînement TensorFlow autonomes dans les clusters Container Service for Kubernetes (ACK). ACK offre des capacités de gestion des ressources pour déployer et exécuter rapidement ces tâches. Cette rubrique explique comment créer des tâches d'entraînement, configurer les ressources et lancer leur exécution. Suivez ces instructions pour prendre en main facilement l'entraînement TensorFlow autonome. Pour plus d'informations, consultez la section Utilisation d'Arena pour soumettre des tâches d'entraînement TensorFlow autonomes dans un cluster Kubernetes.
Exécution de tâches d'entraînement TensorFlow distribuées
Exécutez des tâches d'entraînement TensorFlow distribuées dans les clusters ACK. Tirez parti du calcul parallèle offert par ACK sur plusieurs nœuds pour accélérer et optimiser l'entraînement distribué. Cette rubrique présente les termes fondamentaux liés à l'entraînement distribué de modèles, puis détaille la configuration du cluster et l'exécution des tâches dans les clusters ACK. Consultez cette rubrique pour optimiser les performances de l'entraînement TensorFlow distribué. Pour plus d'informations, reportez-vous à la section Utilisation d'Arena pour soumettre des tâches d'entraînement TensorFlow distribuées dans un cluster Kubernetes.
Soumission de tâches d'entraînement PyTorch autonomes avec Arena
Arena est un outil conçu pour simplifier la soumission des tâches d'apprentissage automatique (ML). Utilisez Arena pour soumettre des tâches d'entraînement PyTorch autonomes sur Kubernetes. Cette rubrique décrit l'installation et la configuration d'Arena, ainsi que la procédure de soumission des tâches d'entraînement PyTorch autonomes. Des commandes simples suffisent pour soumettre et gérer ces tâches, ce qui améliore l'efficacité de l'entraînement. Pour plus d'informations, consultez la section Utilisation d'Arena pour soumettre des tâches d'entraînement PyTorch autonomes.
Soumission de tâches d'entraînement PyTorch distribuées avec Arena
Utilisez Arena pour soumettre des tâches d'entraînement PyTorch distribuées sur Kubernetes. Cette rubrique explique comment soumettre une tâche d'entraînement PyTorch distribuée s'exécutant sur plusieurs nœuds au sein d'un cluster Kubernetes. Modifiez les paramètres de la tâche pour mettre en œuvre un entraînement parallèle des modèles dans un environnement distribué. Vous améliorerez ainsi l'efficacité de l'entraînement et pourrez augmenter la taille des modèles. Pour plus d'informations, reportez-vous à la section Utilisation d'Arena pour soumettre des tâches d'entraînement PyTorch distribuées.
Entraînement élastique de modèles
ACK prend en charge l'entraînement élastique de modèles grâce à des ressources de calcul extensibles. Ajustez dynamiquement la quantité de ressources de calcul allouée à vos tâches d'entraînement en fonction de la charge réelle. Cette rubrique présente les avantages de l'entraînement élastique : mise à l'échelle à la demande, amélioration de l'utilisation des ressources et optimisation des coûts. Configurez des politiques d'entraînement élastique pour gérer et exploiter les ressources de calcul avec souplesse et efficacité. Pour plus d'informations, consultez la section Entraînement élastique de modèles sur Kubernetes.
Exécution de tâches d'entraînement distribuées DeepSpeed
DeepSpeed est un framework utilisé pour optimiser les tâches d'apprentissage profond. Exécutez des tâches d'entraînement distribuées DeepSpeed sur Kubernetes. Cette rubrique présente les fonctionnalités principales de DeepSpeed, notamment l'entraînement en précision mixte automatique, le partitionnement de modèles et les optimiseurs de modèles, puis explique comment utiliser DeepSpeed pour soumettre des tâches d'entraînement distribuées dans un cluster ACK. Servez-vous de cette rubrique pour améliorer l'efficacité de l'entraînement des modèles et entraîner des modèles à grande échelle. Pour plus d'informations, reportez-vous à la section Entraînement distribué DeepSpeed.
Résumé
Entraînement TensorFlow autonome : fournit des directives pour l'exécution de tâches d'entraînement TensorFlow autonomes sur Kubernetes.
Entraînement TensorFlow distribué : fournit des directives pour l'exécution de tâches d'entraînement TensorFlow distribuées sur Kubernetes.
Arena : fournit des directives pour l'utilisation d'Arena afin de soumettre des tâches d'entraînement PyTorch autonomes et distribuées. Arena simplifie le déploiement et la gestion des tâches d'entraînement.
Entraînement élastique de modèles : fournit des directives pour activer l'entraînement élastique de modèles en s'appuyant sur les capacités de mise à l'échelle de Kubernetes, afin d'améliorer l'utilisation des ressources et de réduire les coûts.
Entraînement distribué DeepSpeed : fournit des directives pour l'utilisation de DeepSpeed afin d'optimiser l'entraînement distribué et d'entraîner des modèles à grande échelle.
Les fonctionnalités et outils présentés ci-dessus offrent une prise en charge complète pour l'exécution efficace des tâches ML et d'apprentissage profond sur Kubernetes. Ils vous aident à améliorer l'efficacité de l'entraînement, à optimiser l'utilisation des ressources et à réduire les coûts opérationnels.