Saat menginstal driver NVIDIA pada node, pastikan versi drivernya didukung oleh ACK.
CUDA
CUDA adalah platform komputasi paralel dan model pemrograman yang diperkenalkan oleh NVIDIA pada tahun 2007. CUDA memanfaatkan graphics processing unit (GPU) untuk mempercepat performa komputasi secara signifikan.
Gambar berikut menunjukkan arsitektur CUDA. Perbedaan antara Driver API dan Runtime API dalam tumpukan perangkat lunak CUDA adalah sebagai berikut:
Driver API: Menawarkan fitur yang lebih lengkap tetapi penggunaannya lebih kompleks.
Runtime API: Membungkus beberapa fungsi Driver API dan menyembunyikan operasi inisialisasi tertentu, sehingga lebih mudah digunakan.
Paket NVIDIA Driver menyediakan CUDA Driver API, sedangkan paket CUDA Toolkit menyediakan CUDA Library dan CUDA Runtime.

Kompatibilitas versi driver dan kluster
Tabel berikut mencantumkan versi driver GPU NVIDIA yang didukung oleh setiap versi kluster ACK.
Untuk kluster ACK Lingjun dan node Lingjun dalam kluster ACK managed Pro, driver GPU telah dibundel ke dalam citra OS. Anda tidak dapat menggunakan label node untuk menginstal versi driver GPU tertentu. Pembatasan ini juga berlaku untuk kelompok node edge dalam kluster ACK Edge.
Versi driver 510 dan yang lebih baru kadang-kadang menyebabkan error XID 119 atau XID 120. Jika masalah ini terjadi, lihat Cara mengatasi kegagalan kartu GPU akibat error XID 119 atau XID 120?.
Versi driver 550 menyelesaikan masalah seperti error XID 119, 120, dan 31 yang sering muncul serta kernel panic pada aplikasi tertentu. Kami merekomendasikan peningkatan node GPU yang ada ke versi driver 550.
ACK secara berkala memperbarui versi driver default. Akibatnya, node GPU yang baru diskalakan dalam kluster Anda mungkin menggunakan versi driver yang berbeda. Untuk mencegah hal ini, kami merekomendasikan agar Anda menentukan versi driver untuk kelompok node Anda. Untuk informasi selengkapnya, lihat Menyesuaikan versi driver GPU untuk node dengan menentukan nomor versi.
Saat membuat kelompok node, jika versi driver yang ditentukan tidak tercantum dalam Kompatibilitas versi driver dan kernel OS, ACK akan secara otomatis menginstal versi driver default. Jika Anda menentukan versi driver yang tidak kompatibel dengan sistem operasi terbaru, penambahan node mungkin gagal. Dalam kasus ini, pilihlah versi driver terbaru yang didukung.
Setelah Anda meningkatkan versi kernel OS, driver GPU yang terinstal pada node mungkin menjadi tidak tersedia. Untuk mengatasi hal ini, hapus node dari kelompok node lalu tambahkan kembali, atau tingkatkan driver GPU secara manual pada node.
Saat menggunakan add-on pemantauan dengan driver seri 570 atau yang lebih baru, pastikan versi ack-arms-prometheus adalah 1.1.33 atau lebih baru dan versi ack-gpu-exporter adalah 2.3.0 atau lebih baru.
-
Jika Anda menyesuaikan versi driver GPU untuk kelompok node dengan menentukan nomor versi atau menggunakan URL OSS, sistem operasi dan driver mungkin menjadi tidak kompatibel setelah citra OS diperbarui. Lihat Versi driver NVIDIA yang didukung di ACK untuk memilih driver yang kompatibel.
Untuk family instans
gn9t, jangan gunakan versi driver sebelum 570.153.02. Versi yang lebih lama dapat menyebabkan perangkat GPU sering terputus. Gejalanya meliputi:Menjalankan perintah
nvidia-smimenampilkan jumlah GPU lebih sedikit daripada yang terpasang secara fisik, atau menghasilkan outputNo devices were found.Menjalankan perintah
lspci | grep -i nvidiamasih mendeteksi perangkat tersebut, tetapi status perangkat menunjukkan[rev b0].
Versi kluster | Versi driver default | Dukungan driver kustom | Versi driver yang didukung |
1.28 dan yang lebih baru | 535.161.07 570.169 (untuk tipe instans ecs.gn9t dan ecs.ebmgn9t) | Ya |
Versi driver berikut tidak kompatibel dengan sistem operasi terbaru.
|
1.26 | Ya | ||
1.24 | Ya | ||
1.22 | Ya | ||
1.20 | Ya |
| |
1.18.8 | 418.181.07 | Ya | |
1.16.9 | 418.181.07 | Ya | |
1.16.6 | 418.87.01 | Tidak | |
1.14.8 | 418.181.07 | Ya |
Kompatibilitas driver dan GPU
Kompatibilitas versi driver dan kernel OS
Untuk pemetaan antara versi kernel dan ID citra, lihat tabel pemetaan versi kernel dan ID citra.
Versi driver | Alibaba Cloud Linux 2 | Alibaba Cloud Linux 3 | CentOS 7 | Ubuntu 22.04 |
580.126.09 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang tidak didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
570.195.03 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang tidak didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
570.169 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang tidak didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
570.133.20 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang tidak didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
550.163.01 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
550.144.03 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
550.90.07 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
550.54.15 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
550.54.14 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
535.247.01 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
535.230.02 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
535.161.07 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
535.129.03 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-17.3.al8.x86_64] Rentang yang tidak didukung: [5.10.134-18.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
535.98 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-17.3.al8.x86_64] Rentang yang tidak didukung: [5.10.134-18.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
535.54.03 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-17.3.al8.x86_64] Rentang yang tidak didukung: [5.10.134-18.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
525.147.05 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-17.3.al8.x86_64] Rentang yang tidak didukung: [5.10.134-18.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
525.105.17 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-17.3.al8.x86_64] Rentang yang tidak didukung: [5.10.134-18.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
515.105.01 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-17.3.al8.x86_64] Rentang yang tidak didukung: [5.10.134-18.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
515.86.01 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-17.3.al8.x86_64] Rentang yang tidak didukung: [5.10.134-18.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
510.108.03 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-17.3.al8.x86_64] Rentang yang tidak didukung: [5.10.134-18.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
510.54 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
510.47.03 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
470.256.02 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, ∞) |
470.161.03 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-17.3.al8.x86_64] Rentang yang tidak didukung: [5.10.134-18.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
470.103.01 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
470.82.01 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
470.57.02 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
460.106.00 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang didukung: [5.15.0-40-generic, 5.15.0-101-generic] Rentang yang tidak didukung: [5.15.0-106-generic, ∞) |
460.91.03 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
460.73.01 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
460.32.03 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
450.119.04 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
450.102.04 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang didukung: [5.10.23-5.al8.x86_64, 5.10.134-14.al8.x86_64] Rentang yang tidak didukung: [5.10.134-15.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
450.80.02 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang tidak didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
440.33.01 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang tidak didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
418.181.07 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang tidak didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
418.113 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang tidak didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
418.87.01 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, ∞) | Rentang yang tidak didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
410.93 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, 4.19.91-18.al7.x86_64] Rentang yang tidak didukung: [4.19.91-19.1.al7.x86_64, ∞) | Rentang yang tidak didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, 3.10.0-957.21.3.el7.x86_64] Rentang yang tidak didukung: [3.10.0-1062.9.1.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
410.79 | Rentang yang didukung: [4.19.81-17.1.al7.x86_64, 4.19.91-18.al7.x86_64] Rentang yang tidak didukung: [4.19.91-19.1.al7.x86_64, ∞) | Rentang yang tidak didukung: [5.10.23-5.al8.x86_64, ∞) | Rentang yang didukung: [3.10.0-862.14.4.el7.x86_64, 3.10.0-957.21.3.el7.x86_64] Rentang yang tidak didukung: [3.10.0-1062.9.1.el7.x86_64, ∞) | Rentang yang tidak didukung: [5.15.0-40-generic, ∞) |
Kompatibilitas driver dan CUDA Toolkit
Pilih versi driver NVIDIA yang kompatibel dengan versi CUDA Toolkit yang digunakan oleh aplikasi Anda. Untuk matriks kompatibilitas CUDA Toolkit dan driver, lihat Catatan Rilis CUDA Toolkit.
Memeriksa versi CUDA Driver API
Jika driver NVIDIA terinstal pada node, jalankan perintah nvidia-smi untuk melihat versi driver dan versi CUDA Driver API. Pada output berikut, versi driver adalah 550.144.03, dan versi CUDA 12.6 menunjukkan bahwa driver tersebut mendukung CUDA Runtime API hingga versi 12.6.
Mon Mar 24 08:51:55 2025
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 550.144.03 Driver Version: 550.144.03 CUDA Version: 12.6 |
|-----------------------------------------+------------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+========================+======================|
| 0 Tesla P4 On | 00000000:00:07.0 Off | 0 |
| N/A 33C P8 7W / 75W | 0MiB / 7680MiB | 0% Default |
| | | N/A |
+-----------------------------------------+------------------------+----------------------+
+-----------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=========================================================================================|
| No running processes found |
+-----------------------------------------------------------------------------------------+Versi Runtime API
NVIDIA menyediakan citra dasar CUDA resmi dengan CUDA Toolkit yang telah dipra-instal. Bangun citra kontainer aplikasi Anda di atas citra dasar yang memiliki versi toolkit yang dibutuhkan oleh aplikasi Anda.
Saat Anda menggunakan GPU dalam kontainer, citra dasar CUDA dari citra Docker aplikasi menentukan versi CUDA runtime API-nya. Sebagai contoh, jika citra Docker aplikasi Anda dibuat berdasarkan citra dasar CUDA NVIDIA/CUDA:12.2.0-base-Ubuntu20.04, maka aplikasi tersebut menggunakan CUDA runtime API versi 12.2.0.