:Instal atau muat driver Tesla secara otomatis saat membuat instans GPU-accelerated

Metode instalasi driver

Pilih metode instalasi otomatis driver NVIDIA Tesla berdasarkan kebutuhan performa beban kerja komputasi umum atau akselerasi grafis Anda.

Instalasi otomatis dengan public image

Public Images untuk sistem operasi Linux tertentu menyediakan opsi Install GPU Driver. Jika Anda memilih public image dan mengaktifkan opsi Install GPU Driver, driver Tesla akan diinstal secara otomatis setelah instans GPU-accelerated dibuat.

1. Buka halaman pembelian Instans.

2. Pilih tab Custom Launch.

3. Konfigurasikan pengaturan seperti Billing Method, Region, Network, Zone, Instance Type, dan Image sesuai kebutuhan.

   Untuk detail pengaturan lainnya, lihat Item konfigurasi. Tabel berikut menunjukkan tipe instans yang kompatibel, versi Image, dan versi driver yang mendukung instalasi otomatis driver Tesla.

   Catatan

   Driver NVIDIA Tesla mengoperasikan GPU fisik. Dipasangkan dengan pustaka CUDA dan cuDNN, driver ini memungkinkan komputasi GPU berkinerja tinggi. Pustaka CUDA dan cuDNN diinstal bersamaan dengan driver NVIDIA Tesla. Untuk sistem baru, kami merekomendasikan penggunaan versi terbaru driver Tesla, CUDA, dan cuDNN.

   Tipe instans yang didukung	Versi Public Image yang didukung	Versi driver NVIDIA Tesla	Versi CUDA	Versi cuDNN
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5, gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i, ebmgn6e ebmgn7ix, ebmgn7ex gn8is, ebmgn8is, gn8ia, ebmgn8ia, gn8v, ebmgn8v ebmgn9g, ebmgn9ge	Alibaba Cloud Linux 3 Ubuntu 24.04, 22.04 Catatan ebmgn9g dan ebmgn9ge tidak mendukung Ubuntu 22.04.	580.126.09	13.0.2	9.19.1.2
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5, gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i, ebmgn6e ebmgn7ix, ebmgn7ex gn8is, ebmgn8is, gn8ia, ebmgn8ia, gn8v, ebmgn8v	Alibaba Cloud Linux 3 Ubuntu 24.04, 22.04, 20.04	580.126.09	12.8.1	9.19.1.2
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5, gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i, ebmgn6e gn8is, ebmgn8is, gn8v, ebmgn8v, gn8ia	Alibaba Cloud Linux 3 Ubuntu 24.04, 22.04, 20.04 Catatan ebmgn8v, ebmgn7e, tidak mendukung Ubuntu 20.04.	570.195.03	12.8.1	9.8.0.87
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5, gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i, ebmgn6e gn8is, ebmgn8is, gn8v, ebmgn8v, gn8ia	Alibaba Cloud Linux 3 Ubuntu 22.04, 20.04, 18.04 Catatan ebmgn8v, ebmgn7e, tidak mendukung Ubuntu 18.04.	570.195.03	12.4.1	9.2.0.82
   gn7e, gn7s, gn7i, gn6v, gn6i, gn6e, gn5, gn5i ebmgn7e, ebmgn7i, ebmgn6v, ebmgn6i, ebmgn6e gn8is, ebmgn8is, gn8ia	Alibaba Cloud Linux 2, Alibaba Cloud Linux 3 Ubuntu 20.04, 18.04 CentOS 8.x, 7.x Catatan ebmgn7e tidak mendukung Ubuntu 18.04.	535.216.03	12.1.1	8.9.7.29
   gn7i, gn7e, gn7s, gn6v, gn6i, gn6e, gn5, gn5i ebmgn7, ebmgn7i, ebmgn7e, ebmgn6v, ebmgn6i, ebmgn6e	Alibaba Cloud Linux 2, Alibaba Cloud Linux 3 Ubuntu 20.04, 18.04, 16.04 CentOS 8.x, 7.x Debian 10.10 Catatan ebmgn7e tidak mendukung gambar Ubuntu 18.04 atau 20.04.	470.256.02	11.4.1	8.2.4
   gn7, gn7i, gn7e, gn6v, gn6i, gn6e, gn5, gn5i ebmgn7, ebmgn7i, ebmgn7e, ebmgn6v, ebmgn6i, ebmgn6e	Alibaba Cloud Linux 2 Ubuntu 20.04, 18.04, 16.04 CentOS 8.x, 7.x	460.91.03	11.2.2	8.1.1
   gn7, gn7e, gn6v, gn6i, gn6e, gn5, gn5i ebmgn7, ebmgn7e, ebmgn6v, ebmgn6i, ebmgn6e	Alibaba Cloud Linux 2 Ubuntu 20.04, 18.04, 16.04 CentOS 8.x, 7.x	460.91.03	11.0.2	8.1.1 8.0.4
   gn6v, gn6i, gn6e, gn5, gn5i ebmgn6v, ebmgn6i, ebmgn6e	Alibaba Cloud Linux 2 Ubuntu 18.04, 16.04 CentOS 8.x, 7.x	460.91.03	10.2.89	8.1.1 8.0.4 7.6.5
   gn6v, gn6i, gn6e, gn5, gn5i ebmgn6v, ebmgn6i, ebmgn6e	Ubuntu 18.04, 16.04 CentOS 7.x	450.80.02 440.64.00	10.1.168	8.0.4 7.6.5 7.5.0
   gn6v, gn6i, gn6e, gn5, gn5i ebmgn6v, ebmgn6i, ebmgn6e	Ubuntu 18.04, 16.04 CentOS 7.x	450.80.02 440.64.00	10.0.130	7.6.5 7.5.0 7.4.2 7.3.1

   Penting

   • Jika Anda perlu mengubah Operating System setelah instans dibuat, pastikan Anda menggunakan Public Image yang mendukung instalasi otomatis driver Tesla. Jika Anda memilih Public Image yang tidak mendukung fitur ini, Anda harus menonaktifkannya terlebih dahulu. Untuk informasi lebih lanjut, lihat Bagaimana cara menonaktifkan instalasi otomatis driver Tesla saat mengganti sistem operasi?.

   • Jika Anda menginstal PyTorch 2.1.2 menggunakan pip3 install torch, Anda harus menginstal CUDA 12.1. Jika tidak, terjadi error saat menggunakan PyTorch. Untuk informasi lebih lanjut, lihat Error "undefined symbol: __nvJitLinkAddData_12_1, version libnvJitLink.so.12" terjadi saat menggunakan PyTorch.

   Sebagai contoh, untuk instans gn7i, pada bagian Image, di tab Public Image, pilih Operating System Linux dan versinya, misalnya Alibaba Cloud Linux 3.2104 LTS 64-bit. Centang kotak Auto-install GPU Driver, lalu pilih versi CUDA, driver, dan cuDNN. Driver NVIDIA Tesla akan diinstal secara otomatis setelah instans dibuat.

   

   Setelah instans dibuat atau dijalankan, hal berikut berlaku untuk driver Tesla:

   Instalasi otomatis memerlukan waktu sekitar 10 hingga 20 menit. Waktu aktual bervariasi tergantung pada lebar pita jaringan internal dan jumlah vCPU instans. Anda dapat terhubung ke instans untuk memantau progres instalasi. Setelah instalasi selesai, file log tersedia di /root/auto_install/auto_install.log. Tabel berikut menjelaskan status yang ditampilkan selama instalasi.

   Status instalasi	Informasi yang ditampilkan
   Menginstal	Sebuah progress bar ditampilkan.
   Instalasi berhasil	Pesan ALL INSTALL OK ditampilkan.
   Instalasi gagal	Pesan INSTALL FAIL ditampilkan.

   Penting

   GPU tidak tersedia selama proses instalasi. Jangan melakukan operasi apa pun pada instans. Jika perangkat lunak terkait GPU lain diinstal secara bersamaan, instalasi otomatis mungkin gagal dan membuat instans tidak tersedia.

4. Ikuti petunjuk di halaman untuk menyelesaikan pembayaran.

Instalasi dengan skrip user data

Saat membuat instans GPU-accelerated, jika Anda tidak memilih opsi Auto-install GPU Driver di bagian Image, Anda dapat memasukkan skrip instalasi di bidang User Data untuk menginstal driver NVIDIA Tesla.

Parameter skrip

Saat menggunakan skrip instalasi otomatis, Anda harus menyesuaikan parameter berikut dengan kasus penggunaan Anda.

DRIVER_VERSION="550.127.08"
CUDA_VERSION="12.4.1"
CUDNN_VERSION="9.2.0.82"

Prosedur

1. Buka halaman pembelian Instans.

2. Pilih tab Custom Launch.

3. Konfigurasikan pengaturan seperti Billing Method, Region, Network, Zone, Instance Type, Image, dan User Data sesuai kebutuhan.

   Untuk informasi lebih lanjut tentang pengaturan lainnya, lihat Item konfigurasi.

4. Di bagian Advanced Settings (Optional), masukkan skrip yang telah Anda siapkan di bidang User Data.

   Anda dapat menyiapkan skrip instalasi otomatis sendiri. Untuk informasi lebih lanjut tentang parameter skrip, lihat Pengaturan parameter skrip.

   Skrip ini menggunakan paket .run untuk menginstal driver Tesla dan modul lainnya. Berikut contoh skripnya:

   #!/bin/sh
   
   #Please input version to install
   DRIVER_VERSION="550.127.08"
   CUDA_VERSION="12.4.1"
   CUDNN_VERSION="9.2.0.82"
   IS_INSTALL_eRDMA="FALSE"
   IS_INSTALL_RDMA="FALSE"
   INSTALL_DIR="/root/auto_install"
   
   #using .run to install driver and cuda
   auto_install_script="auto_install_v4.0.sh"
   
   script_download_url=$(curl http://100.100.100.200/latest/meta-data/source-address | head -1)"/opsx/ecs/linux/binary/script/${auto_install_script}"
   echo $script_download_url
   
   rm -rf $INSTALL_DIR
   mkdir -p $INSTALL_DIR
   cd $INSTALL_DIR && wget -t 10 --timeout=10 $script_download_url && bash ${INSTALL_DIR}/${auto_install_script} $DRIVER_VERSION $CUDA_VERSION $CUDNN_VERSION $IS_INSTALL_RDMA $IS_INSTALL_eRDMA

   

5. Ikuti petunjuk di halaman untuk menyelesaikan pembayaran.

   Catatan

   • Jika Anda memanggil operasi API RunInstances untuk membuat instans GPU-accelerated, Anda hanya dapat menginstal driver NVIDIA Tesla dengan meneruskan skrip instalasi dalam parameter UserData. Untuk informasi lebih lanjut, lihat RunInstances.

   • Jika Anda tidak menginstal driver NVIDIA Tesla secara otomatis saat pembuatan instans, Anda dapat menginstalnya secara manual setelahnya dengan menjalankan skrip tersebut. Hubungkan ke instans melalui SSH, buat file, salin konten skrip ke dalam file tersebut, lalu eksekusi sebagai skrip shell. Untuk informasi lebih lanjut tentang cara menghubungkan ke instans, lihat Metode koneksi.

Dokumentasi terkait

Jika Anda tidak menginstal atau memuat driver Tesla secara otomatis saat membuat GPU-accelerated compute-optimized instance, Anda harus menginstal driver tersebut secara manual setelahnya. Untuk informasi lebih lanjut, lihat topik berikut:

• Instal driver Tesla secara manual pada instans Linux GPU-accelerated compute-optimized

• Instal driver Tesla secara manual pada instans Windows GPU-accelerated compute-optimized