Elastic GPU Service:GPU インスタンスへの Tesla ドライバーの自動インストール

ドライバーのインストール方法

ワークロードのパフォーマンス要件に基づいて、Tesla ドライバーの自動インストール方法を選択してください。

パブリックイメージを使用したドライバーのインストール

特定の Linux オペレーティングシステムの パブリックイメージ では、GPU ドライバーの自動インストール オプションがサポートされています。パブリックイメージを選択し、さらに GPU ドライバーの自動インストール オプションを選択した場合、GPU インスタンスの作成後に Tesla ドライバーが自動的にインストールされます。

1. インスタンス購入ページに移動します。

2. カスタム購入 タブをクリックします。

3. 必要に応じて、課金方法、リージョン、ネットワーク、ゾーン、インスタンスタイプ、イメージを設定します。

   その他の設定パラメーターの詳細については、「パラメーターの説明」をご参照ください。次の表は、GPU インスタンス作成時にドライバーの自動インストールをサポートするインスタンスタイプ、イメージ、およびドライバーのバージョンを示しています。

   説明

   NVIDIA Tesla ドライバーは物理 GPU を実行します。CUDA および cuDNN ライブラリと併用することで、効率的な GPU 使用率を実現します。これらのライブラリはドライバーと一緒にインストールされます。新しいシステムでは、Tesla ドライバー、CUDA、および cuDNN の最新バージョンを使用することを推奨します。

   サポートされるインスタンスタイプ	パブリックイメージのバージョン	Tesla ドライバーのバージョン	CUDA のバージョン	cuDNN のバージョン
   gn7e、gn7s、gn7i、gn6v、gn6i、gn6e、gn5、gn5i ebmgn7e、ebmgn7i、ebmgn6v、ebmgn6i、ebmgn6e ebmgn7ix、ebmgn7ex gn8is、ebmgn8is、gn8ia、ebmgn8ia、gn8v、ebmgn8v ebmgn9g、ebmgn9ge	Alibaba Cloud Linux 3 Ubuntu 24.04、22.04 説明 ebmgn9g および ebmgn9ge は Ubuntu 22.04 をサポートしていません。	580.126.09	13.0.2	9.19.1.2
   gn7e、gn7s、gn7i、gn6v、gn6i、gn6e、gn5、gn5i ebmgn7e、ebmgn7i、ebmgn6v、ebmgn6i、ebmgn6e ebmgn7ix、ebmgn7ex gn8is、ebmgn8is、gn8ia、ebmgn8ia、gn8v、ebmgn8v	Alibaba Cloud Linux 3 Ubuntu 24.04、22.04、20.04	580.126.09	12.8.1	9.19.1.2
   gn7e、gn7s、gn7i、gn6v、gn6i、gn6e、gn5、gn5i ebmgn7e、ebmgn7i、ebmgn6v、ebmgn6i、ebmgn6e gn8is、ebmgn8is、gn8v、ebmgn8v、gn8ia	Alibaba Cloud Linux 3 Ubuntu 24.04、22.04、20.04 説明 ebmgn8v、ebmgn7e、 は Ubuntu 20.04 イメージをサポートしていません。	570.195.03	12.8.1	9.8.0.87
   gn7e、gn7s、gn7i、gn6v、gn6i、gn6e、gn5、gn5i ebmgn7e、ebmgn7i、ebmgn6v、ebmgn6i、ebmgn6e gn8is、ebmgn8is、gn8v、ebmgn8v、gn8ia	Alibaba Cloud Linux 3 Ubuntu 22.04、20.04、18.04 説明 ebmgn8v、ebmgn7e、 は Ubuntu 18.04 イメージをサポートしていません。	570.195.03	12.4.1	9.2.0.82
   gn7e、gn7s、gn7i、gn6v、gn6i、gn6e、gn5、gn5i ebmgn7e、ebmgn7i、ebmgn6v、ebmgn6i、ebmgn6e gn8is、ebmgn8is、gn8ia	Alibaba Cloud Linux 2、Alibaba Cloud Linux 3 Ubuntu 20.04、18.04 CentOS 8.x、7.x 説明 ebmgn7e は Ubuntu 18.04 イメージをサポートしていません。	535.216.03	12.1.1	8.9.7.29
   gn7i、gn7e、gn7s、gn6v、gn6i、gn6e、gn5、gn5i ebmgn7、ebmgn7i、ebmgn7e、ebmgn6v、ebmgn6i、ebmgn6e	Alibaba Cloud Linux 2、Alibaba Cloud Linux 3 Ubuntu 20.04、18.04、16.04 CentOS 8.x、7.x Debian 10.10 説明 ebmgn7e は Ubuntu 18.04 または 20.04 イメージをサポートしていません。	470.256.02	11.4.1	8.2.4
   gn7、gn7i、gn7e、gn6v、gn6i、gn6e、gn5、gn5i ebmgn7、ebmgn7i、ebmgn7e、ebmgn6v、ebmgn6i、ebmgn6e	Alibaba Cloud Linux 2 Ubuntu 20.04、18.04、16.04 CentOS 8.x、7.x	460.91.03	11.2.2	8.1.1
   gn7、gn7e、gn6v、gn6i、gn6e、gn5、gn5i ebmgn7、ebmgn7e、ebmgn6v、ebmgn6i、ebmgn6e	Alibaba Cloud Linux 2 Ubuntu 20.04、18.04、16.04 CentOS 8.x、7.x	460.91.03	11.0.2	8.1.1 8.0.4
   gn6v、gn6i、gn6e、gn5、gn5i ebmgn6v、ebmgn6i、ebmgn6e	Alibaba Cloud Linux 2 Ubuntu 18.04、16.04 CentOS 8.x、7.x	460.91.03	10.2.89	8.1.1 8.0.4 7.6.5
   gn6v、gn6i、gn6e、gn5、gn5i ebmgn6v、ebmgn6i、ebmgn6e	Ubuntu 18.04、16.04 CentOS 7.x	450.80.02 440.64.00	10.1.168	8.0.4 7.6.5 7.5.0
   gn6v、gn6i、gn6e、gn5、gn5i ebmgn6v、ebmgn6i、ebmgn6e	Ubuntu 18.04、16.04 CentOS 7.x	450.80.02 440.64.00	10.0.130	7.6.5 7.5.0 7.4.2 7.3.1

   重要

   • オペレーティングシステムを変更する際は、Tesla ドライバーの自動インストールをサポートするパブリックイメージを使用してください。サポートされていないイメージを選択した場合は、まずこの機能を無効にする必要があります。詳細については、「オペレーティングシステムを変更する際に Tesla ドライバーの自動インストールを無効にする方法」をご参照ください。

   • pip3 install torch コマンドを実行して PyTorch 2.1.2 をインストールする場合、CUDA 12.1 をインストールする必要があります。そうしないと、PyTorch の使用時にエラーが発生する可能性があります。詳細については、「PyTorch を使用すると「undefined symbol: __nvJitLinkAddData_12_1, version libnvJitLink.so.12」エラーが発生する」をご参照ください。

   たとえば、gn7i インスタンスを設定するには、イメージ セクションで、公開イメージ タブをクリックします。 Alibaba Cloud Linux 3.2104 LTS 64 ビットなどの Linux オペレーティングシステムとバージョンを選択します。 次に、GPU ドライバーの自動インストール を選択し、CUDA、ドライバー、cuDNN のバージョンを選択します。 インスタンスが作成されると、NVIDIA Tesla ドライバーが自動的にインストールされます。

   インスタンスが作成または起動された後、Tesla ドライバーに関する以下の情報が適用されます：

   自動インストールには、インスタンスの内部ネットワーク帯域幅と vCPU の数に応じて 10 分から 20 分かかります。インスタンスに接続して、インストールの進行状況をモニターできます。インストールが完了すると、/root/auto_install/auto_install.log ファイルでインストールログを確認できます。

   インストールの状態	表示
   インストール中	プログレスバーが表示されます。
   インストール成功	メッセージ ALL INSTALL OK が表示されます。
   インストール失敗	メッセージ INSTALL FAIL が表示されます。

   重要

   インストール中、GPU は使用できません。インスタンスでいかなる操作も行わないでください。他の GPU 関連ソフトウェアをインストールすると、自動インストールが失敗し、インスタンスが使用できなくなる可能性があります。

4. 画面の指示に従って支払いを完了します。

インストールスクリプトを使用したドライバーのインストール

GPU インスタンスを作成するとき、イメージセクションで GPU ドライバーの自動インストール オプションを選択しない場合は、[ユーザーデータ] セクションにインストールスクリプトを入力して、NVIDIA Tesla ドライバーをインストールできます。

スクリプトのパラメーター設定

インストールスクリプトを使用する場合、ビジネス要件に基づいて以下のパラメーターを変更する必要があります。

DRIVER_VERSION="550.127.08"
CUDA_VERSION="12.4.1"
CUDNN_VERSION="9.2.0.82"

操作手順

1. インスタンス購入ページに移動します。

2. カスタム購入 タブをクリックします。

3. 必要に応じて、課金方法、リージョン、ネットワーク、ゾーン、インスタンスタイプ、イメージ、およびユーザーデータを設定します。

   その他の設定パラメーターの詳細については、「パラメーターの説明」をご参照ください。

4. [詳細オプション (任意)] セクションで、準備したスクリプトを [ユーザーデータ] テキストボックスに貼り付けます。

   インストールスクリプトはご自身で準備できます。インストールスクリプトのパラメーターの詳細については、「スクリプトのパラメーター設定」をご参照ください。

   このスクリプトは .run インストールパッケージを使用して、Tesla ドライバーおよびその他のモジュールをインストールします。以下のコードはサンプルスクリプトです：

   #!/bin/sh
   
   # Specify the versions to install.
   DRIVER_VERSION="550.127.08"
   CUDA_VERSION="12.4.1"
   CUDNN_VERSION="9.2.0.82"
   IS_INSTALL_eRDMA="FALSE"
   IS_INSTALL_RDMA="FALSE"
   INSTALL_DIR="/root/auto_install"
   
   # Use the .run file to install the driver and CUDA.
   auto_install_script="auto_install_v4.0.sh"
   
   script_download_url=$(curl http://100.100.100.200/latest/meta-data/source-address | head -1)"/opsx/ecs/linux/binary/script/${auto_install_script}"
   echo $script_download_url
   
   rm -rf $INSTALL_DIR
   mkdir -p $INSTALL_DIR
   cd $INSTALL_DIR && wget -t 10 --timeout=10 $script_download_url && bash ${INSTALL_DIR}/${auto_install_script} $DRIVER_VERSION $CUDA_VERSION $CUDNN_VERSION $IS_INSTALL_RDMA $IS_INSTALL_eRDMA

5. 画面の指示に従って支払いを完了します。

   説明

   • RunInstances API オペレーションを呼び出して GPU インスタンスを作成する場合、UserData パラメーターのみを使用してインストールスクリプトを渡し、NVIDIA Tesla ドライバーをインストールできます。詳細については、「RunInstances」をご参照ください。

   • インスタンス作成時にドライバーを自動的にインストールしなかった場合は、後で手動でインストールできます。SSH 経由でインスタンスに接続し、スクリプトの内容を新しいファイルに貼り付け、シェルスクリプトとして実行します。インスタンスへの接続方法については、「接続方法」をご参照ください。

関連ドキュメント

GPU コンピューティング最適化インスタンスの作成時に Tesla ドライバーを自動的にインストールしなかった場合は、手動でインストールする必要があります。

• GPU コンピューティング最適化 Linux インスタンスへの Tesla ドライバーの手動インストール

• GPU コンピューティング最適化 Windows インスタンスへの Tesla ドライバーの手動インストール