GPU インスタンスで科学計算や大規模並列処理などのワークロードを実行するには、CUDA の開発およびランタイム環境をインストールする必要があります。CUDA は、NVIDIA GPU のコンピューティング能力を最大限に活用し、パフォーマンスを向上させ、ワークロードを高速化する GPU アクセラレーションプログラムの開発に役立つツールとライブラリの完全なセットを提供します。このトピックでは、CUDA を手動でインストールする方法について説明します。
背景情報
CUDA (Compute Unified Device Architecture) は、NVIDIA が開発した汎用並列コンピューティングアーキテクチャです。グラフィックス処理装置 (GPU) の処理能力を活用して、複雑な計算問題を解決します。これには、CUDA 命令セットアーキテクチャ (ISA) と GPU 内の並列コンピューティングエンジンが含まれます。C、C++、Fortran と共に CUDA を使用して、CUDA 対応プロセッサで実行される高性能プログラムを開発できます。CUDA は、Java や Python などのさまざまな言語のインターフェイスも提供します。
前提条件
-
GPU インスタンスが作成済みであること。詳細については、「GPU インスタンスの作成」をご参照ください。
-
GPU インスタンスのドライバーバージョンが、インストールする CUDA のバージョンと互換性があることを確認してください。詳細については、「CUDA Toolkit と対応するドライバーのバージョン」をご参照ください。
操作手順
CUDA は Windows と Linux の両方のオペレーティングシステムをサポートしています。このトピックでは、CUDA Toolkit 12.1.1 を例として、Linux および Windows を実行する GPU インスタンスに CUDA をインストールする方法を説明します。
Linux
-
CUDA インストールパッケージの取得
-
CUDA Toolkit Archive ページに移動します。
-
ご利用のドライバーに対応する CUDA バージョンを選択します。
このトピックでは、CUDA Toolkit 12.1.1 を例として使用します。
NVIDIA Developer 公式の CUDA Toolkit Archive ページで、対象のバージョン (例:CUDA Toolkit 12.1.1 (April 2023)) を見つけ、対応するダウンロードリンクをクリックします。
-
CUDA インストールパッケージのダウンロード URL を取得します。
-
オペレーティングシステム、アーキテクチャ、バージョンなどの必須パラメーターを選択します。
パラメーター
値の例
オペレーティングシステム
Linux
アーキテクチャ
x86_64
ディストリビューション
Ubuntu
バージョン
20.04
インストーラータイプ
runfile (ローカル)
-
ページからベースインストーラーのコマンドをコピーします。
$ wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run $ sudo sh cuda_12.1.1_530.30.02_linux.run
-
-
-
CUDA パッケージのインストール
-
次のいずれかの方法で GPU インスタンスに接続します。
接続方法
手順
ワークベンチ
VNC
-
wgetコマンドを使用し、ステップ 1 のダウンロードアドレスを貼り付けて、CUDA インストールパッケージをダウンロードします。wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run重要ダウンロードには 5〜10 分かかる場合があります。
-
次のコマンドを実行して、CUDA パッケージをインストールします。
説明-
GPU コンピューティング最適化インスタンスの場合、Tesla ドライバーを手動でインストールするか、バンドルされているドライバーをインストールできます。
-
GPU 仮想化インスタンスの場合、CUDA のインストール中にバンドルされているドライバーをインストールすることはできません。NVIDIA GRID ドライバーを手動でインストールする必要があります。詳細については、「NVIDIA GRID ドライバーのインストール」をご参照ください。
-
対話型インストール
sudo chmod +x cuda_12.1.1_530.30.02_linux.runsudo ./cuda_12.1.1_530.30.02_linux.runプロンプトで accept と入力した後、シナリオに応じてバンドルされているドライバーをインストールするかどうかを選択します。
-
既存のドライバーがインストールされている GPU コンピューティング最適化インスタンスをお持ちの場合、次の例のように Enter キーを押して [Driver] オプションの選択を解除します。その後、[Install] を選択して続行します。
重要[Driver] オプションの選択を解除しない場合、バンドルされているドライバーがインスタンス上の既存のドライバーを上書きします。
CUDA Installer - [ ] Driver [ ] 530.30.02 + [X] CUDA Toolkit 12.1 [X] CUDA Demo Suite 12.1 [X] CUDA Documentation 12.1 - [ ] Kernel Objects [ ] nvidia-fs Options Install Up/Down: Move | Left/Right: Expand | 'Enter': Select | 'A': Advanced options -
GPU コンピューティング最適化インスタンスをお持ちで、バンドルされているドライバーを使用したい場合は、まずそのドライバーがインスタンスの GPU モデルと互換性があることを確認してください。詳細については、「Tesla ドライバーのダウンロード (Linux)」をご参照ください。ドライバーに互換性がある場合は、デフォルトの選択 ([Driver] オプションが選択されている状態) を維持し、[Install] を選択して続行します。
-
GPU 仮想化インスタンスには、NVIDIA GRID ドライバーが必要です。まず、互換性のあるドライバーがすでにインストールされているかを確認してください。詳細については、「NVIDIA GRID ドライバーのインストール」をご参照ください。インストールされていない場合は、続行する前にドライバーをインストールしてください。CUDA のインストール中に、Enter キーを押して [Driver] オプションの選択を解除し、[Install] を選択して続行します。
-
-
サイレントインストール
sudo chmod +x cuda_12.1.1_530.30.02_linux.runsudo ./cuda_12.1.1_530.30.02_linux.run --toolkit --samples --silent重要サイレントインストールを使用する場合、バンドルされているドライバーは自動的にインストールされません。ご利用の GPU インスタンスに必要なドライバーを手動でインストールする必要があります。
-
-
(オプション) GPU インスタンスの再起動
reboot -
CUDA 環境変数の設定
echo 'export PATH=/usr/local/cuda/bin:$PATH' | sudo tee /etc/profile.d/cuda.shsource /etc/profile
-
-
CUDA インストールの確認
-
nvcc -Vコマンドを実行して、CUDA が正しくインストールされているかを確認します。root@iZxxxZ:~# nvcc -V nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2023 NVIDIA Corporation Built on Mon Apr__3_17:16:06_PDT_2023 Cuda compilation tools, release 12.1, V12.1.105 Build cuda_12.1.r12.1/compiler.32688072_0 -
CUDA サンプルをテストしてインストールを確認します。
cd /usr/local/cuda-12.1/extras/demo_suite./deviceQuery出力が
Result=PASSの場合、CUDA のインストールは成功です。deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 12.1, CUDA Runtime Version = 12.1, NumDevs = 1, Device0 = Tesla T4 Result = PASS
-
Windows
-
Windows を実行している GPU コンピューティング最適化インスタンスにログインします。
次のいずれかの方法で GPU インスタンスに接続します。
接続方法
手順
ワークベンチ
VNC
-
インストールする CUDA バージョンを選択します。
-
CUDA Toolkit Archive ページに移動します。
-
ご利用のドライバーに対応する CUDA バージョンを選択します。
まず、CUDA パッケージにバンドルされているドライバーがインスタンスの GPU モデルと互換性があることを確認してください。詳細については、「Tesla ドライバーのダウンロード (Windows)」をご参照ください。このトピックでは、CUDA Toolkit 12.1.1 を例として使用します。
-
オペレーティングシステム、アーキテクチャ、バージョンなどの必須パラメーターを選択します。
パラメーター
値の例
オペレーティングシステム
Windows
アーキテクチャ
x86_64
バージョン
Server 2022
インストーラータイプ
exe (ローカル)
-
[Download] をクリックして、対応する CUDA パッケージをダウンロードします。
ダウンロードされたファイル
cuda_12.1.1_531.14_windows.exeは約 3.2 GB です。
-
-
CUDA パッケージのインストール
ダウンロードが完了したら、パッケージが含まれているフォルダを開きます。実行可能ファイルをダブルクリックし、画面の指示に従ってインストールします。
NVIDIA インストーラーが終了しました というダイアログボックスが表示されたら、インストールは完了です。
関連ドキュメント
-
GPU インスタンスを作成した後、コンピューティングアクセラレーションとグラフィックスレンダリングを有効にするために、Tesla ドライバーまたは NVIDIA GRID ドライバーを手動でインストールする必要がある場合があります。詳細については、「Tesla ドライバーのインストール」または「NVIDIA GRID ドライバーのインストール」をご参照ください。
-
インスタンス作成時に Tesla ドライバーと CUDA ツールを自動的にインストールしたい場合は、「Tesla ドライバーの設定」をご参照ください。