Points forts de la solution

Isolation efficace de la mémoire GPU

Maximisez l’utilisation du GPU et évitez les conflits de mémoire en segmentant la mémoire et les ressources de calcul d’un GPU, puis en les gérant sous forme de conteneurs multiples grâce à la technologie d’isolation GPU virtuelle du noyau hôte d’Alibaba Cloud.

Partage et ordonnancement flexibles des ressources GPU

Allouez la mémoire et les ressources de calcul des GPU aux tâches d’IA à l’aide de stratégies d’ordonnancement adaptées à différents scénarios métier, afin de maximiser l’utilisation des GPU tout en maintenant des performances élevées pour les conteneurs.

Mise à l’échelle automatique GPU personnalisable

Améliorez la disponibilité des ressources GPU et garantissez la stabilité des tâches d’IA grâce à la mise à l’échelle automatique des GPU. Définissez des métriques GPU clés telles que le taux d’utilisation et l’utilisation de la mémoire pour déclencher l’augmentation ou la réduction du nombre d’instances GPU.

Surveillance GPU visuelle en temps réel

Assurez le bon fonctionnement des instances GPU et équilibrez la répartition des ressources en vous appuyant sur la visualisation en temps réel des indicateurs GPU clés, tels que l'allocation et l'utilisation de la mémoire et la température des GPU, depuis les tableaux de bord de clusters et de nœuds dans Prometheus