GPU sharing dan scheduling di kluster Container Service for Kubernetes (ACK) memerlukan cGPU pada setiap node GPU. Tingkatkan versi cGPU pada node agar tetap kompatibel dengan driver NVIDIA, kernel, dan keluarga instans node tersebut.
Prasyarat
cGPU telah diinstal pada node yang ingin Anda tingkatkan.
kubectl telah diinstal dan dikonfigurasi untuk mengakses kluster.
Versi cGPU yang ingin Anda instal kompatibel dengan node tersebut. Untuk detailnya, lihat kompatibilitas versi cGPU.
Langkah 1: Tingkatkan add-on cGPU
Add-on yang perlu ditingkatkan bergantung pada tipe kluster. Tingkatkan add-on yang berlaku untuk kluster Anda.
Tipe kluster | Metode peningkatan add-on |
| Tingkatkan add-on ack-ai-installer. Untuk petunjuknya, lihat Tingkatkan komponen GPU sharing. |
ACK dedicated cluster | Tingkatkan add-on ack-cgpu di Konsol ACK, seperti yang dijelaskan dalam prosedur berikut. |
Untuk meningkatkan add-on ack-cgpu di kluster ACK dedicated
-
Masuk ke Konsol ACK. Di panel navigasi kiri, klik Clusters.
-
Di halaman Clusters, klik nama kluster Anda. Di panel navigasi kiri, klik .
Di halaman Helm, temukan add-on ack-cgpu lalu klik Update. Pilih Versi yang diperlukan, lalu klik OK.
Langkah 2: Tingkatkan cGPU pada node yang ada
Setelah Anda meningkatkan add-on, tingkatkan node GPU yang ada agar menjalankan versi cGPU baru. Perhatikan poin-poin berikut sebelum meningkatkan node:
Beban kerja GPU — Hentikan semua beban kerja GPU pada node selama proses peningkatan.
Urutan rollout — Tingkatkan satu node terlebih dahulu. Setelah Anda memverifikasi bahwa beban kerja GPU berjalan sesuai harapan, tingkatkan sisa node GPU secara bertahap.
Metode 1: Hapus dan tambahkan kembali node
Metode 1 akan mereset disk sistem node. Jika disk sistem node berisi data, cadangkan data tersebut sebelum menghapus node.
Hapus node dan tambahkan kembali
-
Masuk ke Konsol ACK. Di panel navigasi kiri, klik Clusters.
-
Di halaman Clusters, klik nama kluster Anda. Di panel navigasi kiri, klik .
Di halaman Nodes, pilih node cGPU yang ingin Anda tingkatkan lalu klik Batch Remove. Di kotak dialog Remove Node, pilih Drain Node.
Tambahkan kembali node yang telah dihapus ke kelompok node asalnya. Untuk petunjuknya, lihat Tambahkan node yang ada.
PentingTambahkan node dalam mode otomatis. Mode manual tidak mereset node.
Verifikasi versi cGPU
Jalankan perintah berikut untuk memeriksa status Pod cgpu-installer pada node yang telah ditambahkan kembali.
kubectl get po -l name=cgpu-installer -n kube-system -o wideContoh output:
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES cgpu-installer-***** 1/1 Running 0 4d2h 192.168.XXX.XX1 cn-beijing.192.168.XXX.XX1 <none> <none> cgpu-installer-**2 1/1 Running 0 4d2h 192.168.XXX.XX2 cn-beijing.192.168.XXX.XX2 <none> <none> cgpu-installer-**3 1/1 Running 0 4d2h 192.168.XXX.XX3 cn-beijing.192.168.XXX.XX3 <none> <none>Jalankan perintah berikut untuk mengakses Pod cgpu-installer. Ganti
cgpu-installer-xxxxxdengan nama Pod pada output sebelumnya.kubectl exec -ti cgpu-installer-xxxxx -n kube-system -- bashJalankan perintah berikut untuk memeriksa versi cGPU saat ini.
nsenter -t 1 -i -p -n -u -m -- cat /proc/cgpu_km/versionContoh output:
1.5.16CatatanUntuk informasi tentang versi cGPU terbaru, lihat ack-ai-installer.
Kompatibilitas versi cGPU
Versi cGPU harus kompatibel dengan driver NVIDIA, keluarga instans, nvidia-container-toolkit, dan versi kernel node tersebut. Periksa versi cGPU yang ingin Anda instal terhadap masing-masing tabel berikut.
Kompatibilitas driver NVIDIA
versi cGPU | Driver NVIDIA yang kompatibel |
1.5.20, 1.5.19, 1.5.18, 1.5.17, 1.5.16, 1.5.15, 1.5.13, 1.5.12, 1.5.11, 1.5.10, 1.5.9, 1.5.8, 1.5.7 | Didukung: seri 460; seri 470; seri 510; seri 515; seri 525; seri 535; seri 550; seri 560; seri 565; seri 570; seri 575. |
1.5.6, 1.5.5, 1.5.3, 1.5.2, 1.0.10, 1.0.9, 1.0.8, 1.0.7, 1.0.6, 1.0.5 | Didukung: seri 460; seri 470 <= 470.161.03; seri 510 <= 510.108.03; seri 515 <= 515.86.01; seri 525 <= 525.89.03. Tidak didukung: seri 535; seri 550; seri 560; seri 565; seri 570; seri 575. |
1.0.3, 0.8.17, 0.8.13 | Didukung: seri 460; seri 470 <= 470.161.03. Tidak didukung: seri 510; seri 515; seri 525; seri 535; seri 550; seri 560; seri 565; seri 570; seri 575. |
Kompatibilitas keluarga instans
Tabel berikut mencantumkan kompatibilitas berdasarkan keluarga instans, bukan berdasarkan tipe instans individual.
versi cGPU | Keluarga instans yang kompatibel |
1.5.20, 1.5.19 | Didukung: gn6i / gn6e / gn6v / gn6t / ebmgn6i / ebmgn6t / ebmgn6e; gn7i / gn7 / gn7e / ebmgn7i / ebmgn7e; gn8t / ebmgn8t; gn8is / gn8v / ebmgn8is / ebmgn8v; gn8ia / ebmgn8ia; ebmgn9t. |
1.5.18, 1.5.17, 1.5.16, 1.5.15, 1.5.13, 1.5.12, 1.5.11, 1.5.10, 1.5.9 | Didukung: gn6i / gn6e / gn6v / gn6t / ebmgn6i / ebmgn6t / ebmgn6e; gn7i / gn7 / gn7e / ebmgn7i / ebmgn7e; gn8t / ebmgn8t; gn8is / gn8v / ebmgn8is / ebmgn8v; gn8ia / ebmgn8ia. Tidak didukung: ebmgn9t. |
1.5.8, 1.5.7 | Didukung: gn6i / gn6e / gn6v / gn6t / ebmgn6i / ebmgn6t / ebmgn6e; gn7i / gn7 / gn7e / ebmgn7i / ebmgn7e; gn8t / ebmgn8t; gn8is / gn8v / ebmgn8is / ebmgn8v. Tidak didukung: gn8ia / ebmgn8ia; ebmgn9t. |
1.5.6, 1.5.5, 1.5.3, 1.5.2, 1.0.10, 1.0.9, 1.0.8, 1.0.7, 1.0.6, 1.0.5, 1.0.3 | Didukung: gn6i / gn6e / gn6v / gn6t / ebmgn6i / ebmgn6t / ebmgn6e; gn7i / gn7 / gn7e / ebmgn7i / ebmgn7e. Tidak didukung: gn8t / ebmgn8t; gn8is / gn8v / ebmgn8is / ebmgn8v; gn8ia / ebmgn8ia; ebmgn9t. |
0.8.17, 0.8.13 | Didukung: gn6i / gn6e / gn6v / gn6t / ebmgn6i / ebmgn6t / ebmgn6e. Tidak didukung: gn7i / gn7 / gn7e / ebmgn7i / ebmgn7e; gn8t / ebmgn8t; gn8is / gn8v / ebmgn8is / ebmgn8v; gn8ia / ebmgn8ia; ebmgn9t. |
Kompatibilitas nvidia-container-toolkit
versi cGPU | Versi nvidia-container-toolkit yang kompatibel |
1.5.20, 1.5.19, 1.5.18, 1.5.17, 1.5.16, 1.5.15, 1.5.13, 1.5.12, 1.5.11, 1.5.10, 1.5.9, 1.5.8, 1.5.7, 1.5.6, 1.5.5, 1.5.3, 1.5.2, 1.0.10 | Didukung: <= 1.10; 1.11 hingga 1.17. |
1.0.9, 1.0.8, 1.0.7, 1.0.6, 1.0.5, 1.0.3, 0.8.17, 0.8.13 | Didukung: <= 1.10. Tidak didukung: 1.11 hingga 1.17. |
Kompatibilitas versi kernel
versi cGPU | Versi kernel yang kompatibel |
1.5.20, 1.5.19, 1.5.18, 1.5.17, 1.5.16, 1.5.15, 1.5.13, 1.5.12, 1.5.11, 1.5.10, 1.5.9 | Didukung: kernel 3.x; kernel 4.x; kernel 5.x <= 5.15. |
1.5.8 | Didukung: kernel 3.x; kernel 4.x; kernel 5.x <= 5.10. |
1.5.7, 1.5.6, 1.5.5, 1.5.3, 1.5.2, 1.0.10, 1.0.9, 1.0.8, 1.0.7, 1.0.6, 1.0.5, 1.0.3 | Didukung: kernel 3.x; kernel 4.x; kernel 5.x <= 5.1. |
0.8.17 | Didukung: kernel 3.x; kernel 4.x; kernel 5.x <= 5.0. |
0.8.13, 0.8.12, 0.8.10 | Didukung: kernel 3.x; kernel 4.x. Tidak didukung: kernel 5.x. |