Elastic GPU Service:Instal CUDA

Dapatkan paket instalasi CUDA.

1. Buka halaman CUDA Toolkit Archive.

2. Pilih versi CUDA yang sesuai dengan driver Anda.

   Topik ini menggunakan CUDA Toolkit 12.1.1 sebagai contoh.

   Pada halaman resmi NVIDIA Developer CUDA Toolkit Archive, temukan versi target Anda, misalnya CUDA Toolkit 12.1.1 (April 2023), lalu klik tautan unduh yang sesuai.

3. Dapatkan URL unduh untuk paket instalasi CUDA.

   1. Pilih parameter yang diperlukan, seperti sistem operasi, arsitektur, dan versi.

      Parameter	Contoh nilai
      Operating system	Linux
      Architecture	x86_64
      Distribution	Ubuntu
      Version	20.04
      Installer type	runfile (local)

   2. Salin perintah installer dasar dari halaman tersebut.

      $ wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run
      $ sudo sh cuda_12.1.1_530.30.02_linux.run

Instal paket CUDA.

1. Sambungkan ke instans yang dipercepat GPU menggunakan salah satu metode berikut.

   Connection method	Instructions
   Workbench	Log on to a Linux instance by using Workbench
   VNC	Connect to an instance by using VNC

2. Gunakan perintah wget dan tempel alamat unduh dari Langkah 1 untuk mengunduh paket instalasi CUDA.

   wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run

   Penting

   Pengunduhan mungkin memerlukan waktu 5 hingga 10 menit.

3. Jalankan perintah berikut untuk menginstal paket CUDA.

   Catatan

   • Untuk instans komputasi yang dioptimalkan dengan percepatan GPU, Anda dapat menginstal driver Tesla secara manual atau menginstal driver yang dibundel.

   • Untuk instans yang dipercepat vGPU, Anda tidak dapat menginstal driver yang dibundel selama instalasi CUDA. Anda harus menginstal driver NVIDIA GRID secara manual. Untuk informasi lebih lanjut, lihat Install an NVIDIA GRID driver.

   • Instalasi interaktif

     sudo chmod +x cuda_12.1.1_530.30.02_linux.run

     sudo ./cuda_12.1.1_530.30.02_linux.run

     Setelah Anda memasukkan accept pada prompt, pilih apakah akan menginstal driver yang dibundel berdasarkan skenario Anda:

     • Jika Anda memiliki instans komputasi yang dioptimalkan dengan percepatan GPU yang sudah memiliki driver, tekan tombol Enter untuk menghapus centang opsi Driver seperti pada contoh berikut. Lalu, pilih Install untuk melanjutkan.

       Penting

       Jika Anda tidak menghapus centang opsi Driver, driver yang dibundel akan menimpa driver yang ada pada instans.

       CUDA Installer
       - [ ] Driver
           [ ] 530.30.02
       + [X] CUDA Toolkit 12.1
         [X] CUDA Demo Suite 12.1
         [X] CUDA Documentation 12.1
       - [ ] Kernel Objects
           [ ] nvidia-fs
         Options
         Install
       Up/Down: Move | Left/Right: Expand | 'Enter': Select | 'A': Advanced options

     • Jika Anda memiliki instans komputasi yang dioptimalkan dengan percepatan GPU dan ingin menggunakan driver yang dibundel, pertama-tama verifikasi kompatibilitasnya dengan model GPU instans Anda. Untuk informasi lebih lanjut, lihat Download a Tesla driver (Linux). Jika driver tersebut kompatibel, pertahankan pilihan default (opsi Driver dipilih), lalu pilih Install untuk melanjutkan.

     • Untuk instans yang dipercepat vGPU, diperlukan driver NVIDIA GRID. Pertama, periksa apakah driver yang kompatibel sudah terinstal. Untuk informasi lebih lanjut, lihat Install an NVIDIA GRID driver. Jika belum, instal driver tersebut sebelum melanjutkan. Selama instalasi CUDA, hapus centang opsi Driver dengan menekan tombol Enter, lalu pilih Install untuk melanjutkan.

   • Instalasi senyap

     sudo chmod +x cuda_12.1.1_530.30.02_linux.run

     sudo ./cuda_12.1.1_530.30.02_linux.run --toolkit --samples --silent

     Penting

     Jika Anda menggunakan instalasi senyap, driver yang dibundel tidak akan diinstal secara otomatis. Anda harus menginstal driver yang diperlukan untuk instans yang dipercepat GPU secara manual.

4. (Opsional) Mulai ulang instans yang dipercepat GPU:

   reboot

5. Konfigurasikan variabel lingkungan CUDA:

   echo 'export PATH=/usr/local/cuda/bin:$PATH' | sudo tee /etc/profile.d/cuda.sh

   source /etc/profile

Verifikasi instalasi CUDA.

1. Jalankan perintah nvcc -V untuk memeriksa apakah CUDA telah terinstal dengan benar.

   root@iZxxxZ:~# nvcc -V
   nvcc: NVIDIA (R) Cuda compiler driver
   Copyright (c) 2005-2023 NVIDIA Corporation
   Built on Mon Apr__3_17:16:06_PDT_2023
   Cuda compilation tools, release 12.1, V12.1.105
   Build cuda_12.1.r12.1/compiler.32688072_0

2. Uji CUDA Samples untuk memverifikasi instalasi:

   cd /usr/local/cuda-12.1/extras/demo_suite

   ./deviceQuery

   Jika output-nya adalah Result=PASS, instalasi CUDA berhasil.

   deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 12.1, CUDA Runtime Version = 12.1, NumDevs = 1, Device0 = Tesla T4
   Result = PASS

Login ke instans komputasi yang dioptimalkan dengan percepatan GPU yang menjalankan Windows.

Sambungkan ke instans yang dipercepat GPU menggunakan salah satu metode berikut:

Pilih versi CUDA yang akan diinstal.

1. Buka halaman CUDA Toolkit Archive.

2. Pilih versi CUDA yang sesuai dengan driver Anda.

   Pertama, verifikasi bahwa driver yang dibundel dalam paket CUDA kompatibel dengan model GPU instans Anda. Untuk informasi lebih lanjut, lihat Download a Tesla driver (Windows). Topik ini menggunakan CUDA Toolkit 12.1.1 sebagai contoh.

3. Pilih parameter yang diperlukan, seperti sistem operasi, arsitektur, dan versi.

   Parameter	Contoh nilai
   Operating system	Windows
   Architecture	x86_64
   Version	Server 2022
   Installer type	exe (local)

4. Klik Download untuk mengunduh paket CUDA yang sesuai.

   File yang diunduh, cuda_12.1.1_531.14_windows.exe, berukuran sekitar 3,2 GB.

Instal paket CUDA.

Setelah pengunduhan selesai, buka folder yang berisi paket tersebut. Klik ganda file yang dapat dieksekusi dan ikuti petunjuk di layar untuk menginstalnya.

Jika kotak dialog NVIDIA Installer has finished muncul, instalasi telah selesai.