Elastic GPU Service:コンテナイメージの起動時のエラー: docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]]

問題の説明

Elastic GPU Service インスタンスに Docker をインストールした後、docker run --gpus all [Image Name] コマンドを実行してコンテナを起動すると、次のエラーが発生します。

原因

NVIDIA Container Toolkit を使用すると、Docker は GPU リソースにアクセスできます。このエラーは、NVIDIA Container Toolkit が Elastic GPU Service インスタンスにインストールされていないために発生します。ツールキットがないと、Docker は GPU デバイスを選択できません。

解決策

1. 次のコマンドを実行して、NVIDIA GPU ドライバーが GPU インスタンスにインストールされていることを確認します。

   説明

   GPU インスタンスには、プリインストール済みのドライバーはありません。必要なドライバーをインストールする必要があります。NVIDIA GPU ドライバーがインストールされていない場合、Docker は GPU デバイスにアクセスできません。

   nvidia-smi

   出力にドライバーのバージョンが表示される場合、NVIDIA GPU ドライバーはインストールされています。表示されない場合は、「Tesla ドライバーのインストール」または「GRID ドライバーのインストール」をご参照ください。

   

2. 次のコマンドを実行して、Docker が GPU インスタンスにインストールされていることを確認します。

   sudo docker -v

   出力に Docker のバージョンが表示される場合、Docker はインストールされています。表示されない場合は、「Docker と Docker Compose のインストールと使用」をご参照ください。

   

3. 次のコマンドを実行して、NVIDIA Container Toolkit をインストールします。

   このステップでは、CentOS、Alibaba Cloud Linux、および Ubuntu の例を示します。他のオペレーティングシステムのインストールコマンドについては、「NVIDIA Container Toolkit のインストール」をご参照ください。

   • Alibaba Cloud Linux 3/CentOS 8

     # リポジトリを設定します。
     curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
       sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo
     
     # ツールキットをインストールします。
     sudo yum install -y nvidia-container-toolkit
     
     # Docker サービスを再起動します。
     sudo systemctl restart docker

     インストールに失敗した場合は、次のメソッドをお試しください。

     sudo dnf config-manager --add-repo=https://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/cuda-rhel8.repo
     sudo yum install -y nvidia-container-toolkit

   • Ubuntu

     # リポジトリを設定します。
     curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
       && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
         sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
         sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
     
     sudo apt-get update
     
     # ツールキットをインストールします。
     sudo apt-get install -y nvidia-container-toolkit
     
     # Docker サービスを再起動します。
     sudo systemctl restart docker

     インストールに失敗した場合は、次のメソッドをお試しください。

     distribution=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')
     wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/3bf863cc.pub
     sudo apt-key add 3bf863cc.pub
     echo "deb https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64 /" | sudo tee /etc/apt/sources.list.d/cuda.list
     sudo apt-get update
     sudo apt-get install -y nvidia-container-toolkit

4. 次のコマンドを実行して、NVIDIA Container Toolkit がインストールされていることを確認します。

   • CentOS/Alibaba Cloud Linux

     sudo rpm -qa | grep nvidia-container-toolkit

   • Ubuntu

     sudo dpkg -l | grep nvidia-container-toolkit

   出力に NVIDIA Container Toolkit のバージョンが表示される場合、ツールキットは正しくインストールされています。

   

5. docker run --gpus all [Image Name] を実行して、問題が解決したことを確認します。