Elastic GPU Service:Instal driver Tesla secara manual pada instans GPU (Linux)

(Opsional) Aktifkan Persistence Mode menggunakan NVIDIA Persistence Daemon.

Setelah driver Tesla terinstal, Persistence Mode dinonaktifkan (off) secara default. Driver Tesla beroperasi lebih stabil ketika Persistence Mode diaktifkan. Untuk memastikan stabilitas layanan, kami merekomendasikan Anda mengaktifkan Persistence Mode menggunakan NVIDIA Persistence Daemon. Untuk informasi lebih lanjut, lihat Persistence Daemon.

1. Jalankan perintah berikut untuk memulai NVIDIA Persistence Daemon.

   sudo nvidia-persistenced --user username 
   # Ganti username dengan username Anda.

2. Jalankan perintah berikut untuk memeriksa status Persistence Mode.

   nvidia-smi

   Pesan yang dikembalikan menunjukkan bahwa Persistence-M berada dalam keadaan aktif (on).

   [ecs-usexxx2q9sgg1tZ ~]$ sudo nvidia-persistenced --user ecs-user
   [ecs-usexxx2q9sgg1tZ ~]$ nvidia-smi
   Tue Sep 10 14:02:16 2024
   +-------------------------------+----------------------+----------------------+
   | NVIDIA-SMI 470.161.03   Driver Version: 470.161.03   CUDA Version: 11.4     |
   |-------------------------------+----------------------+----------------------+
   | GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
   | Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
   |                               |                      |               MIG M. |
   |===============================+======================+======================|
   |   0  NVIDIA A10          On   | 00000000:00:07.0 Off |                    0 |
   |  0%   33C    P8     8W / 150W |      0MiB / 22731MiB |      0%      Default |
   |                               |                      |                  N/A |
   +-------------------------------+----------------------+----------------------+
   +-----------------------------------------------------------------------------+
   | Processes:                                                                  |
   |  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
   |        ID   ID                                                   Usage      |
   |=============================================================================|
   |  No running processes found                                                 |
   +-----------------------------------------------------------------------------+

(Opsional) Konfigurasikan Persistence Mode agar aktif saat sistem reboot.

Jika sistem direboot, keadaan aktif (on) dari Persistence Mode akan hilang. Anda dapat melakukan langkah-langkah berikut untuk mengaktifkan kembali Persistence Mode.

Paket instalasi driver Tesla menginstal skrip instalasi NVIDIA, seperti skrip contoh dan skrip installer, ke /usr/share/doc/NVIDIA_GLX-1.0/samples/nvidia-persistenced-init.tar.bz2.

1. Jalankan perintah berikut untuk mengekstrak dan menginstal skrip NVIDIA.

   cd  /usr/share/doc/NVIDIA_GLX-1.0/samples/
   sudo tar xf nvidia-persistenced-init.tar.bz2
   cd  nvidia-persistenced-init
   sudo sh install.sh

2. Jalankan perintah berikut untuk memeriksa apakah NVIDIA Persistence Daemon sedang berjalan.

   sudo systemctl status nvidia-persistenced

   Jika output menyerupai berikut, NVIDIA Persistence Daemon sedang berjalan.

   [ecs-user@xxx nvidia-persistenced-init]$ sudo systemctl status nvidia-persistenced
   ● nvidia-persistenced.service - NVIDIA Persistence Daemon
      Loaded: loaded (/usr/lib/systemd/system/nvidia-persistenced.service; enabled; vendor preset: disabled)
      Active: active (running) since Tue 2024-09-10 14:13:20 CST; 40s ago
     Process: 13882 ExecStart=/usr/bin/nvidia-persistenced --user nvidia-persistenced (code=exited, status=0/SUCCESS)
    Main PID: 13883 (nvidia-persiste)
       Tasks: 1 (limit: 383833)
      Memory: 196.0K
      CGroup: /system.slice/nvidia-persistenced.service
              └─13883 /usr/bin/nvidia-persistenced --user nvidia-persistenced
   Sep 10 14:13:19 iZbp13orbqqx6m2q9sgg1tZ systemd[1]: Starting NVIDIA Persistence Daemon...
   Sep 10 14:13:19 iZbp13orbqqx6m2q9sgg1tZ nvidia-persistenced[13883]: Started (13883)
   Sep 10 14:13:20 iZbp13orbqqx6m2q9sgg1tZ systemd[1]: Started NVIDIA Persistence Daemon.

   Catatan

   Anda dapat menyesuaikan skrip instalasi NVIDIA Persistence Daemon untuk sistem operasi Anda agar berfungsi dengan benar.

3. Jalankan perintah berikut untuk memverifikasi bahwa Persistence Mode diatur ke on.

   nvidia-smi

4. (Opsional) Jalankan perintah berikut untuk menghentikan NVIDIA Persistence Daemon.

   Anda dapat menonaktifkan NVIDIA Persistence Daemon jika tidak lagi diperlukan.

   sudo systemctl stop nvidia-persistenced
   sudo systemctl disable nvidia-persistenced

(Opsional) Aktifkan Persistence Mode menggunakan NVIDIA Persistence Daemon.

Setelah driver Tesla terinstal, Persistence Mode dinonaktifkan (off) secara default. Driver Tesla beroperasi lebih stabil ketika Persistence Mode diaktifkan. Untuk memastikan stabilitas layanan, kami merekomendasikan Anda mengaktifkan Persistence Mode menggunakan NVIDIA Persistence Daemon. Untuk informasi lebih lanjut, lihat Persistence Daemon.

1. Jalankan perintah berikut untuk memulai NVIDIA Persistence Daemon.

   sudo nvidia-persistenced --user username 
   # Ganti username dengan username Anda.

2. Jalankan perintah berikut untuk memeriksa status Persistence Mode.

   nvidia-smi

   Pesan yang dikembalikan menunjukkan bahwa Persistence-M berada dalam keadaan aktif (on).

   [ecs-usexxx2q9sgg1tZ ~]$ sudo nvidia-persistenced --user ecs-user
   [ecs-usexxx2q9sgg1tZ ~]$ nvidia-smi
   Tue Sep 10 14:02:16 2024
   +-------------------------------+----------------------+----------------------+
   | NVIDIA-SMI 470.161.03   Driver Version: 470.161.03   CUDA Version: 11.4     |
   |-------------------------------+----------------------+----------------------+
   | GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
   | Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
   |                               |                      |               MIG M. |
   |===============================+======================+======================|
   |   0  NVIDIA A10          On   | 00000000:00:07.0 Off |                    0 |
   |  0%   33C    P8     8W / 150W |      0MiB / 22731MiB |      0%      Default |
   |                               |                      |                  N/A |
   +-------------------------------+----------------------+----------------------+
   +-----------------------------------------------------------------------------+
   | Processes:                                                                  |
   |  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
   |        ID   ID                                                   Usage      |
   |=============================================================================|
   |  No running processes found                                                 |
   +-----------------------------------------------------------------------------+

(Opsional) Konfigurasikan Persistence Mode agar aktif saat sistem reboot.

Jika sistem direboot, keadaan aktif (on) dari Persistence Mode akan hilang. Anda dapat melakukan langkah-langkah berikut untuk mengaktifkan kembali Persistence Mode.

Paket instalasi driver Tesla menginstal skrip instalasi NVIDIA, seperti skrip contoh dan skrip installer, ke /usr/share/doc/NVIDIA_GLX-1.0/samples/nvidia-persistenced-init.tar.bz2.

1. Jalankan perintah berikut untuk mengekstrak dan menginstal skrip NVIDIA.

   cd  /usr/share/doc/NVIDIA_GLX-1.0/samples/
   sudo tar xf nvidia-persistenced-init.tar.bz2
   cd  nvidia-persistenced-init
   sudo sh install.sh

2. Jalankan perintah berikut untuk memeriksa apakah NVIDIA Persistence Daemon sedang berjalan.

   sudo systemctl status nvidia-persistenced

   Jika output menyerupai berikut, NVIDIA Persistence Daemon sedang berjalan.

   [ecs-user@xxx nvidia-persistenced-init]$ sudo systemctl status nvidia-persistenced
   ● nvidia-persistenced.service - NVIDIA Persistence Daemon
      Loaded: loaded (/usr/lib/systemd/system/nvidia-persistenced.service; enabled; vendor preset: disabled)
      Active: active (running) since Tue 2024-09-10 14:13:20 CST; 40s ago
     Process: 13882 ExecStart=/usr/bin/nvidia-persistenced --user nvidia-persistenced (code=exited, status=0/SUCCESS)
    Main PID: 13883 (nvidia-persiste)
       Tasks: 1 (limit: 383833)
      Memory: 196.0K
      CGroup: /system.slice/nvidia-persistenced.service
              └─13883 /usr/bin/nvidia-persistenced --user nvidia-persistenced
   Sep 10 14:13:19 iZbp13orbqqx6m2q9sgg1tZ systemd[1]: Starting NVIDIA Persistence Daemon...
   Sep 10 14:13:19 iZbp13orbqqx6m2q9sgg1tZ nvidia-persistenced[13883]: Started (13883)
   Sep 10 14:13:20 iZbp13orbqqx6m2q9sgg1tZ systemd[1]: Started NVIDIA Persistence Daemon.

   Catatan

   Anda dapat menyesuaikan skrip instalasi NVIDIA Persistence Daemon untuk sistem operasi Anda agar berfungsi dengan benar.

3. Jalankan perintah berikut untuk memverifikasi bahwa Persistence Mode diatur ke on.

   nvidia-smi

4. (Opsional) Jalankan perintah berikut untuk menghentikan NVIDIA Persistence Daemon.

   Anda dapat menonaktifkan NVIDIA Persistence Daemon jika tidak lagi diperlukan.

   sudo systemctl stop nvidia-persistenced
   sudo systemctl disable nvidia-persistenced

(Wajib dalam kondisi tertentu) Jika instans Anda termasuk dalam keluarga instans ebmgn8v, ebmgn7, atau ebmgn7e, instal layanan nvidia-fabricmanager yang sesuai dengan versi driver Anda.

1. Instal layanan nvidia-fabricmanager.

   Anda dapat menginstal layanan nvidia-fabricmanager dari kode sumber atau paket instalasi. Contoh perintah berikut ditujukan untuk sistem operasi Ubuntu 16.04, Ubuntu 18.04, Ubuntu 20.04, Ubuntu 22.04, atau Ubuntu 24.04. Dalam perintah tersebut, ganti driver_version dengan versi driver yang Anda unduh di Langkah 1: Unduh driver NVIDIA Tesla.

   Penting

   • Pada Ubuntu 22.04, layanan nvidia-fabricmanager memerlukan versi driver Tesla yang lebih baru dari 515.48.07. Contoh berikut untuk Ubuntu 22.04 menggunakan versi driver 535.154.05.

   • Pada Ubuntu 24.04, layanan nvidia-fabricmanager memerlukan versi driver Tesla yang lebih baru dari 550.90.07. Contoh berikut untuk Ubuntu 24.04 menggunakan versi driver 570.133.20.

   • Source code

     Ubuntu 16.04, Ubuntu 18.04, atau Ubuntu 20.04

     driver_version=460.91.03
     driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
     distribution=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')
     sudo wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/cuda-$distribution.pin
     sudo mv cuda-$distribution.pin /etc/apt/preferences.d/cuda-repository-pin-600
     sudo wget -qO - https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/3bf863cc.pub | sudo apt-key add -
     sudo echo "deb https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64 /" | tee /etc/apt/sources.list.d/cuda.list
     sudo apt-get update
     sudo apt-get -y install nvidia-fabricmanager-${driver_version_main}=${driver_version}-*

     Ubuntu 22.04

     driver_version=535.154.05
     driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
     distribution=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')
     sudo wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/cuda-$distribution.pin
     sudo mv cuda-$distribution.pin /etc/apt/preferences.d/cuda-repository-pin-600
     sudo wget -qO - https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/3bf863cc.pub | sudo apt-key add -
     sudo echo "deb https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64 /" | tee /etc/apt/sources.list.d/cuda.list
     sudo apt-get update
     sudo apt-get -y install nvidia-fabricmanager-${driver_version_main}=${driver_version}-*

     Ubuntu 24.04

     driver_version=570.133.20
     driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
     distribution=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')
     sudo wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/cuda-$distribution.pin
     sudo mv cuda-$distribution.pin /etc/apt/preferences.d/cuda-repository-pin-600
     sudo wget -qO - https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/3bf863cc.pub | sudo apt-key add -
     sudo echo "deb https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64 /" | tee /etc/apt/sources.list.d/cuda.list
     sudo apt-get update
     sudo apt-get -y install nvidia-fabricmanager-${driver_version_main}=${driver_version}-*

   • Installation package

     • Ubuntu 16.04

       driver_version=460.91.03
       driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
       sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
       sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

     • Ubuntu 18.04

       driver_version=460.91.03
       driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
       sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
       sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

     • Ubuntu 20.04

       driver_version=460.91.03
       driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
       sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
       sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

     • Ubuntu 22.04

       driver_version=535.154.05 
       driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
       sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
       sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

     • Ubuntu 24.04

       driver_version=570.133.20 
       driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
       sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
       sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

2. Jalankan perintah berikut untuk memulai layanan nvidia-fabricmanager.

   sudo systemctl enable nvidia-fabricmanager
   sudo systemctl start nvidia-fabricmanager

3. Jalankan perintah berikut untuk memeriksa status layanan nvidia-fabricmanager.

   systemctl status nvidia-fabricmanager

   Jika output berikut dikembalikan, layanan nvidia-fabricmanager sedang berjalan.

   nvidia-fabricmanager.service - NVIDIA fabric manager service
      Loaded: loaded (/lib/systemd/system/nvidia-fabricmanager.service; enabled; vendor preset: enabled)
      Active: active (running) since Mon 2021-09-13 19:14:45 CST; 1 weeks 1 days ago
     Process: 1928 ExecStart=/usr/bin/nv-fabricmanager -c /usr/share/nvidia/nvswitch/fabricmanager.cfg (code=exited, status=0/SUCCESS)
    Main PID: 2140 (nv-fabricmanage)
       Tasks: 18 (limit: 19660)
      CGroup: /system.slice/nvidia-fabricmanager.service
              └─2140 /usr/bin/nv-fabricmanager -c /usr/share/nvidia/nvswitch/fabricmanager.cfg
   Sep 13 19:14:26 xxx systemd[1]: Starting NVIDIA fabric manager service...
   Sep 13 19:14:45 xxx nv-fabricmanager[2140]: Successfully configured all the available GPUs and NVSwitches.
   Sep 13 19:14:45 xxx systemd[1]: Started NVIDIA fabric manager service.

   Catatan

   Versi paket nvidia-fabricmanager harus sesuai dengan versi driver Tesla agar GPU berfungsi dengan benar. Pada Ubuntu, jika Anda menginstal layanan nvidia-fabricmanager menggunakan paket instalasi, layanan apt-daily dapat secara otomatis memperbarui paket nvidia-fabricmanager. Hal ini dapat menyebabkan ketidaksesuaian versi dengan driver Tesla, sehingga layanan nvidia-fabricmanager gagal dimulai dan GPU menjadi tidak dapat digunakan. Untuk mengatasi masalah ini, lihat GPU tidak berfungsi sebagaimana mestinya karena versi nvidia-fabricmanager berbeda dari versi driver Tesla.