Réservation de capacité GPU-HPN

Une réservation de capacité GPU-HPN pour un cluster ACS réserve des ressources de calcul GPU compatibles avec le réseau haute performance (HPN). En associant une réservation de capacité GPU-HPN à un nœud virtuel, vous pouvez utiliser une planification basée sur l'affinité pour les charges de travail des conteneurs GPU afin d'optimiser l'utilisation des ressources.

Informations générales

ACS génère le nœud virtuel par défaut en fonction des vSwitchIds définis dans le ConfigMap acs-profile. Ce nœud ne consomme aucune ressource de calcul.

Les réservations de capacité GPU-HPN sont disponibles uniquement par abonnement. Une fois activées, les ressources sont garanties pour toute la durée de l'abonnement. Si vous réservez plusieurs instances, vous pouvez les associer simultanément à plusieurs clusters. Les nœuds réservés prennent en charge des Pods de quantités et de spécifications variées. Par exemple, dans les scénarios nécessitant un HPN pour la communication GPU distribuée, tels que l'entraînement ou le fine-tuning de grands modèles, les Pods consomment une réservation de capacité GPU-HPN en fonction du nombre entier de GPUs spécifiés dans le Pod, sans contrainte sur la taille du CPU ou de la mémoire.

Facturation et limites

La facturation des réservations de capacité suit votre plan d'abonnement.

La facturation débute dès la création réussie de la réservation et l'activation de son statut.

La facturation s'arrête à l'expiration de la réservation, lorsque les ressources sont automatiquement libérées.

Important

Pour activer la réservation de capacité GPU-HPN, soumettez un ticket.
Un cluster ACS permet d'appliquer une réservation uniquement pour compenser les coûts du même type de ressource GPU. Si vous achetez une réservation pour un modèle de GPU donné, vous ne pouvez pas l'appliquer à un autre modèle. Dans ce cas, ACS vous facture au tarif standard pour le type de GPU réellement utilisé.
Seuls les Pods dont le type de calcul est défini sur GPU haute performance (gpu-hpn) peuvent utiliser les nœuds d'une réservation de capacité GPU-HPN.

Créer une réservation de capacité GPU-HPN

Connectez-vous à la console ACS. Dans le volet de navigation de gauche, sélectionnez Capacity Reservations.

Sur la page Capacity Reservations, cliquez sur Create GPU-HPN resource reservation et configurez les paramètres suivants.

Paramètre

Description

Region

Sélectionnez la région pour la réservation de capacité.

Zone

Sélectionnez la zone pour la réservation de capacité.

Type

Actuellement, seule l'option instance est prise en charge.

Category

Actuellement, seul le GPU est pris en charge.

HPN zone

Sélectionnez la zone HPN pour la réservation de capacité.

Instance type

Les options disponibles varient selon l'affichage de la console.

Subscription duration

1 mois, 1 an ou 3 ans.

Down payment ratio (%)

Aucun acompte n'est requis (0 %). Vous pouvez utiliser les ressources immédiatement après l'achat.

Discount

Les remises varient selon la durée de l'abonnement. Un abonnement d'un mois n'offre aucune remise. Un abonnement d'un an bénéficie d'une remise de prépaiement de 12 mois. Un abonnement de trois ans bénéficie d'une remise de prépaiement de 36 mois.

Billing cycle

Monthly.

Number of installments

Cela dépend de la durée de l'abonnement. Par exemple, un abonnement d'un mois est payé en 1 versement, et un abonnement d'un an est payé en 12 versements.

Quantity

Le nombre d'instances à réserver.

Après avoir configuré les paramètres, cliquez sur Buy Now. Sur la page de confirmation de commande, cliquez sur Proceed to Payment. Sur la page de paiement, cliquez sur Subscribe pour finaliser l'achat.

Associer un cluster

Connectez-vous à la console ACS. Dans le volet de navigation de gauche, sélectionnez Capacity Reservations.
Sur la page Capacity Reservations, repérez la réservation à associer et cliquez sur Associate Cluster sous son statut.

Important
Vous pouvez associer des réservations uniquement à un cluster ACS, un cluster ACK Managed, un cluster ACK One Registered ou un cluster ACK One Distributed Workflow Argo. Les autres types de clusters ne sont pas pris en charge.
Dans la boîte de dialogue Resource Association, sélectionnez ou saisissez l'ID du cluster et spécifiez le nombre d'instances. Ensuite, cliquez sur OK.

Important
Dans la boîte de dialogue Resource Association, la liste déroulante des clusters affiche uniquement les ID des clusters ACS et des clusters ACK Managed. Pour un cluster ACK One Registered ou un cluster ACK One Distributed Workflow Argo, vous devez saisir manuellement l'ID du cluster.

Consulter les ressources allouées

Une réservation de capacité GPU-HPN est représentée par un nœud Kubernetes dans le cluster. Utilisez kubectl pour afficher les ressources allouées sur le nœud.

Exécutez la commande suivante pour afficher les nœuds GPU-HPN par étiquette :

kubectl get node -l alibabacloud.com/node-type=reserved

Sortie attendue :

NAME                                      STATUS   ROLES   AGE   VERSION
cn-wulanchabu-c.cr-rkccqmu0xz8rea1*****   Ready    agent   20m   v1.28.3-aliyun

Exécutez la commande suivante pour interroger les ressources allouées à partir de la réservation de capacité GPU-HPN. Remplacez le nom du nœud dans la commande par le nom réel du nœud GPU-HPN obtenu à l'étape précédente.

kubectl describe node cn-wulanchabu-c.cr-rkccqmu0xz8rea1***** | grep Allocated -A 10

Sortie attendue :

Allocated resources:
  (Total limits may be over 100 percent, i.e., overcommitted.)
  Resource              Requests    Limits
  --------              --------    ------
  cpu                   16 (8%)     16 (8%)
  memory                128Gi (7%)  128Gi (7%)
  ephemeral-storage     30Gi (0%)   30Gi (0%)
  nvidia.com/gpu        1           1
Events:                 <none>

Les lignes 5 à 8 indiquent respectivement les quantités allouées et l'utilisation pour le CPU, la mémoire, le stockage éphémère et les GPUs.