Elastic GPU Service:Auto-installing the Tesla driver on GPU instances

Méthodes d'installation du pilote

Choisissez une méthode d'installation automatique du pilote Tesla en fonction des exigences de performance de votre charge de travail.

Installer un pilote avec une image publique

Certaines Public Image Linux prennent en charge l'option Auto-install GPU Driver. Si vous sélectionnez une image publique et cochez l'option Auto-install GPU Driver, le pilote Tesla s'installe automatiquement après la création de l'instance GPU.

1. Accédez à la page d'achat d'instance.

2. Cliquez sur l'onglet Custom Launch.

3. Configurez la méthode de facturation, la région, le réseau, la zone, le type d'instance et l'image selon vos besoins.

   Pour plus d'informations sur les autres paramètres de configuration, consultez la rubrique Description des paramètres. Le tableau suivant présente les types d'instances, les images et les versions de pilotes compatibles avec l'installation automatique du pilote lors de la création d'une instance GPU.

   Remarque

   Le pilote NVIDIA Tesla gère le GPU physique. Utilisé avec les bibliothèques CUDA et cuDNN, il permet une utilisation efficace du GPU. Ces bibliothèques sont installées en même temps que le pilote. Pour les nouveaux systèmes, nous recommandons d'utiliser les versions les plus récentes du pilote Tesla, de CUDA et de cuDNN.

   Types d'instances pris en charge	Versions d'images publiques	Version du pilote Tesla	Version CUDA	Version cuDNN
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5 et gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i et ebmgn6e ebmgn7ix et ebmgn7ex gn8is, ebmgn8is, gn8ia, ebmgn8ia, gn8v et ebmgn8v ebmgn9g et ebmgn9ge	Alibaba Cloud Linux 3/4 Ubuntu 24.04 et 22,04 Remarque Les instances ebmgn9g et ebmgn9ge ne prennent pas en charge Ubuntu 22,04.	580.126.09	13.0.2	9.19.1.2
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5 et gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i et ebmgn6e ebmgn7ix et ebmgn7ex gn8is, ebmgn8is, gn8ia, ebmgn8ia, gn8v et ebmgn8v	Alibaba Cloud Linux 3 Ubuntu 24.04, 22,04 et 20,04	580.126.09	12.8.1	9.19.1.2
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5 et gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i et ebmgn6e gn8is, ebmgn8is, gn8v, ebmgn8v et gn8ia	Alibaba Cloud Linux 3 Ubuntu 24.04, 22,04 et 20,04 Remarque Les instances ebmgn8v, ebmgn7e ne prennent pas en charge les images Ubuntu 20,04.	570.195.03	12.8.1	9.8.0.87
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5 et gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i et ebmgn6e gn8is, ebmgn8is, gn8v, ebmgn8v et gn8ia	Alibaba Cloud Linux 3 Ubuntu 22,04, 20,04 et 18,04 Remarque Les instances ebmgn8v, ebmgn7e ne prennent pas en charge les images Ubuntu 18,04.	570.195.03	12.4.1	9.2.0.82
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5 et gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i et ebmgn6e gn8is, ebmgn8is et gn8ia	Alibaba Cloud Linux 2 et Alibaba Cloud Linux 3 Ubuntu 20,04 et 18,04 CentOS 8.x et 7.x Remarque L'instance ebmgn7e ne prend pas en charge les images Ubuntu 18,04.	535.216.03	12.1.1	8.9.7.29
   gn7i, gn7e, gn7s, gn6v, gn6i, gn6e, gn5 et gn5i ebmgn7, ebmgn7i, ebmgn7e, ebmgn6v, ebmgn6i et ebmgn6e	Alibaba Cloud Linux 2 et Alibaba Cloud Linux 3 Ubuntu 20,04, 18,04 et 16,04 CentOS 8.x et 7.x Debian 10.10 Remarque L'instance ebmgn7e ne prend pas en charge les images Ubuntu 18,04 ou 20,04.	470.256.02	11.4.1	8.2.4
   gn7, gn7i, gn7e, gn6v, gn6i, gn6e, gn5 et gn5i ebmgn7, ebmgn7i, ebmgn7e, ebmgn6v, ebmgn6i et ebmgn6e	Alibaba Cloud Linux 2 Ubuntu 20,04, 18,04 et 16,04 CentOS 8.x et 7.x	460.91.03	11.2.2	8.1.1
   gn7, gn7e, gn6v, gn6i, gn6e, gn5 et gn5i ebmgn7, ebmgn7e, ebmgn6v, ebmgn6i et ebmgn6e	Alibaba Cloud Linux 2 Ubuntu 20,04, 18,04 et 16,04 CentOS 8.x et 7.x	460.91.03	11.0.2	8.1.1 8.0.4
   gn6v, gn6i, gn6e, gn5 et gn5i ebmgn6v, ebmgn6i et ebmgn6e	Alibaba Cloud Linux 2 Ubuntu 18,04 et 16,04 CentOS 8.x et 7.x	460.91.03	10.2.89	8.1.1 8.0.4 7.6.5
   gn6v, gn6i, gn6e, gn5 et gn5i ebmgn6v, ebmgn6i et ebmgn6e	Ubuntu 18,04 et 16,04 CentOS 7.x	450.80.02 440.64.00	10.1.168	8.0.4 7.6.5 7.5.0
   gn6v, gn6i, gn6e, gn5 et gn5i ebmgn6v, ebmgn6i et ebmgn6e	Ubuntu 18,04 et 16,04 CentOS 7.x	450.80.02 440.64.00	10.0.130	7.6.5 7.5.0 7.4.2 7.3.1

   Important

   • Lors du changement de système d'exploitation, utilisez une image publique prenant en charge l'installation automatique du pilote Tesla. Si vous choisissez une image non prise en charge, désactivez d'abord cette fonctionnalité. Pour plus d'informations, consultez la rubrique Comment désactiver l'installation automatique du pilote Tesla lors du changement de système d'exploitation ?.

   • Si vous installez PyTorch 2.1.2 en exécutant la commande pip3 install torch, installez CUDA 12.1. Dans le cas contraire, une erreur peut survenir lors de l'utilisation de PyTorch. Pour plus d'informations, consultez la rubrique L'erreur « undefined symbol: __nvJitLinkAddData_12_1, version libnvJitLink.so.12 » survient lors de l'utilisation de PyTorch.

   Par exemple, pour configurer une instance gn7i, dans la section Image, cliquez sur l'onglet Public Image. Sélectionnez un système d'exploitation Linux et une version, par exemple Alibaba Cloud Linux 3.2104 LTS 64 bits. Cochez ensuite Auto-install GPU Driver et choisissez les versions de CUDA, du pilote et de cuDNN. Après la création de l'instance, le pilote NVIDIA Tesla s'installe automatiquement.

   Une fois l'instance créée ou démarrée, les informations suivantes concernant le pilote Tesla s'appliquent :

   L'installation automatique dure entre 10 et 20 minutes, selon la bande passante du réseau interne de l'instance et le nombre de vCPU. Connectez-vous à l'instance pour suivre la progression de l'installation. Une fois l'installation terminée, consultez le journal d'installation dans le fichier /root/auto_install/auto_install.log.

   État de l'installation	Affichage
   Installation en cours	Une barre de progression s'affiche.
   Installation réussie	Le message ALL INSTALL OK s'affiche.
   Échec de l'installation	Le message INSTALL FAIL s'affiche.

   Important

   Pendant l'installation, le GPU n'est pas disponible. N'effectuez aucune opération sur l'instance. Si vous installez d'autres logiciels liés au GPU, l'installation automatique risque d'échouer et l'instance pourrait devenir indisponible.

4. Suivez les instructions à l'écran pour finaliser le paiement.

Installer un pilote avec un script d'installation

Lors de la création d'une instance GPU, si vous ne sélectionnez pas l'option Auto-install GPU Driver dans la section Image, saisissez un script d'installation dans la section User Data pour installer le pilote NVIDIA Tesla.

Paramétrage du script

Lorsque vous utilisez un script d'installation, modifiez les paramètres suivants en fonction de vos besoins métier.

DRIVER_VERSION="580.126.09"
CUDA_VERSION="13.0.2"
CUDNN_VERSION="9.19.1.2"

Procédure

1. Accédez à la page d'achat d'instance.

2. Cliquez sur l'onglet Custom Launch.

3. Configurez la méthode de facturation, la région, le réseau, la zone, le type d'instance, l'image et les User Data selon vos besoins.

   Pour plus d'informations sur les autres paramètres de configuration, consultez la rubrique Description des paramètres.

4. Dans la section Advanced Options (Optional), collez le script préparé dans la zone de texte User Data.

   Vous pouvez préparer votre propre script d'installation. Pour plus d'informations sur les paramètres du script d'installation, consultez la section Paramétrage du script.

   Ce script utilise le package d'installation .run pour installer le pilote Tesla et d'autres modules. Le code suivant fournit un exemple de script :

   #!/bin/sh
   
   # Specify the versions to install.
   DRIVER_VERSION="580.126.09"
   CUDA_VERSION="13.0.2"
   CUDNN_VERSION="9.19.1.2"
   IS_INSTALL_eRDMA="FALSE"
   IS_INSTALL_RDMA="FALSE"
   INSTALL_DIR="/root/auto_install"
   
   # Use the .run file to install the driver and CUDA.
   auto_install_script="auto_install_v4.0.sh"
   
   script_download_url=$(curl http://100.100.100.200/latest/meta-data/source-address | head -1)"/opsx/ecs/linux/binary/script/${auto_install_script}"
   echo $script_download_url
   
   rm -rf $INSTALL_DIR
   mkdir -p $INSTALL_DIR
   cd $INSTALL_DIR && wget -t 10 --timeout=10 $script_download_url && bash ${INSTALL_DIR}/${auto_install_script} $DRIVER_VERSION $CUDA_VERSION $CUDNN_VERSION $IS_INSTALL_RDMA $IS_INSTALL_eRDMA

5. Suivez les instructions à l'écran pour finaliser le paiement.

   Remarque

   • Si vous appelez l'opération API RunInstances pour créer une instance GPU, utilisez uniquement le paramètre User Data pour transmettre le script d'installation du pilote NVIDIA Tesla. Pour plus d'informations, consultez la rubrique RunInstances.

   • Si vous n'avez pas installé automatiquement le pilote lors de la création de l'instance, procédez à une installation manuelle ultérieure. Connectez-vous à l'instance via SSH, collez le contenu du script dans un nouveau fichier et exécutez ce fichier en tant que script shell. Pour savoir comment se connecter à une instance, consultez la rubrique Méthodes de connexion.

Documents associés

Si vous n'avez pas installé automatiquement le pilote Tesla lors de la création d'une instance optimisée pour le calcul accéléré par GPU, installez-le manuellement.

• Installer manuellement le pilote Tesla sur une instance Linux optimisée pour le calcul accéléré par GPU

• Installer manuellement le pilote Tesla sur une instance Windows optimisée pour le calcul accéléré par GPU