ack-ai-installer: Pengantar dan log perubahan - Container Service for Kubernetes

ack-ai-installer adalah kumpulan add-on Device Plugin yang meningkatkan penjadwalan GPU di ACK Managed Cluster Pro Edition dan ACK Edge Cluster Pro Edition. Komponen ini bekerja dengan ACK Scheduler—penjadwal terpadu yang dibangun di atas ekstensi Kubernetes Scheduling Framework—untuk mengaktifkan penjadwalan GPU bersama (shared GPU scheduling) dan penjadwalan yang memperhatikan topologi GPU (GPU topology-aware scheduling). Topik ini menjelaskan add-on tersebut, catatan penggunaan, serta log perubahan.

Ikhtisar

ack-ai-installer terdiri atas sub-komponen berikut. Masing-masing memperluas kemampuan penjadwalan GPU melampaui penjadwalan eksklusif GPU di ACK Managed Cluster Pro Edition dan ACK Edge Cluster Pro Edition dengan ACK Scheduler.

gpushare-device-plugin

gpushare-device-plugin bekerja dengan ACK Scheduler untuk mengaktifkan penjadwalan GPU bersama dengan isolasi berbagi. Beberapa aplikasi atau proses dapat berbagi satu GPU, sehingga meningkatkan pemanfaatan sumber daya kluster.

cgpu-installer

cgpu-installer memperluas penjadwalan GPU bersama dengan mengintegrasikan cGPU, teknologi berbagi kontainer GPU milik Alibaba Cloud. Komponen ini menambahkan:

Isolasi memori GPU: Mengisolasi memori GPU antar aplikasi dan proses untuk mencegah gangguan tugas.
Isolasi daya komputasi GPU: Kebijakan alokasi tingkat granular—rata-rata, preemption, dan bobot—mendistribusikan daya komputasi ke berbagai kontainer.

Lihat Kelola komponen berbagi GPU untuk metode instalasi dan Alokasikan daya komputasi menggunakan penjadwalan GPU bersama untuk kasus penggunaan.

gputopo-device-plugin

gputopo-device-plugin mengaktifkan penjadwalan yang memperhatikan topologi GPU dengan memilih kombinasi GPU pada suatu node yang memberikan kecepatan pelatihan optimal.

Lihat Penjadwalan yang memperhatikan topologi GPU untuk langkah instalasi dan kasus penggunaan.

Catatan penggunaan

Instal ack-ai-installer hanya di ACK Managed Cluster Pro Edition dan ACK Edge Cluster Pro Edition dari halaman Cloud-native AI Suite di Konsol.
Kluster managed ACK Lingjun telah dilengkapi ack-ai-installer yang pra-instal.
Versi ack-ai-installer sebelum 1.12.0 mendukung versi kluster 1.18.8 dan yang lebih baru.
Versi ack-ai-installer 1.12.0 dan yang lebih baru memerlukan versi kluster 1.20 dan yang lebih baru.

Log perubahan

Agustus 2026

Version	Changes	Last modified	Impact
1.13.6	Mendukung konfigurasi `updateStrategy`.	30 Agustus 2026	Peningkatan ini tidak memengaruhi layanan yang ada.
1.13.5	Memperbarui cGPU ke versi 1.5.23: Mendukung kernel Alinux 4 6.6.102-6.2. Mendukung `max_inst` yang dapat dikustomisasi.	29 Agustus 2026	Peningkatan ini tidak memengaruhi layanan yang ada.
1.13.4	Memperbaiki alokasi perangkat yang tidak teratur oleh `gputopo-device-plugin`.	1 Agustus 2026	Peningkatan ini tidak memengaruhi layanan yang ada.

April 2026

Version

Changes

Last modified

Impact

1.13.3

Memperbarui cGPU ke versi 1.5.22:

Mendukung tipe instans ecs.ebmgn9g*.

27 April 2026

Peningkatan ini tidak memengaruhi layanan yang ada.

Maret 2026

Version	Changes	Last modified	Impact
1.13.1	cGPU: Mendukung Ubuntu 24.04 dengan kernel 6.x. Mendukung skenario NVSwitch multi-kartu dan penjadwalan kontainer cGPU dengan MPS Daemon. Memperbaiki tampilan penggunaan memori GPU yang salah untuk kontainer multi-kartu. Mendukung tipe instans `ecs.gn8ga` dan `ecs.ebmgn8ga`. gpushare-device-plugin: Memberikan laporan topologi NUMA node. Memperbaiki nilai memori GPU yang ditentukan secara tidak akurat dalam skenario MPS. Menyesuaikan direktori kerja menjadi `/var/run/nvidia-gpu/nvidia-mps` untuk skenario MPS. Memperbaiki restart device plugin yang disebabkan oleh timeout pemeriksaan kelangsungan hidup dalam skenario MPS.	16 Maret 2026	Peningkatan ini tidak memengaruhi layanan yang ada.

Oktober 2025

Version	Changes	Last modified	Impact
1.13.0	gpushare-device-plugin: Menanyakan Pod dalam status `pending` dari kubelet untuk mengurangi beban API server.	29 Oktober 2025	Peningkatan ini tidak memengaruhi layanan yang ada.

Agustus 2025

Version

Changes

Last modified

Impact

1.12.8

Pembaruan cGPU 1.5.20:

Memperbaiki konflik ID instans cGPU yang jarang terjadi selama startup Pod secara konkuren.

04 Agustus 2025

Peningkatan ini tidak memengaruhi layanan yang ada.

Juli 2025

Version

Changes

Last modified

Impact

1.12.7

cGPU diperbarui ke versi 1.5.19.
gpushare-device-plugin: Memperbaiki kegagalan retry startup ketika panggilan NVML gagal.

17 Juli 2025

Peningkatan ini tidak memengaruhi layanan yang ada.

1.12.6

Pembaruan cGPU 1.5.19:

Mendukung citra OS Alibaba Cloud Linux 3 yang dioptimalkan untuk kontainer.
Mendukung modifikasi alokasi daya komputasi menggunakan time slice (policy5).
Memperbaiki kegagalan pembuatan Pod multi-kartu dalam cgroup v2.
ebmgn9t mendukung alokasi daya komputasi (Policy 0–4).

16 Juli 2025

Peningkatan ini tidak memengaruhi layanan yang ada.

Juni 2025

Version	Changes	Last modified	Impact
1.12.5	cGPU diperbarui ke versi 1.5.18. Memperbaiki kegagalan startup Pod GPU pertama pada node cGPU dalam beberapa skenario.	23 Juni 2025	Peningkatan ini tidak memengaruhi layanan yang ada.
1.12.4	cGPU diperbarui ke versi 1.5.17 dan mendukung vLLM 0.6.6 serta versi sebelumnya. cgpu-installer dapat diinstal pada CentOS 7 dan Alibaba Cloud Linux 2.	19 Juni 2025	Peningkatan ini tidak memengaruhi layanan yang ada.

Mei 2025

Version	Changes	Last modified	Impact
1.12.3	cGPU diperbarui ke versi 1.5.16. Menambahkan fitur retry ke cgpu-installer.	14 Mei 2025	Peningkatan ini tidak memengaruhi layanan yang ada.

Maret 2025

Version	Changes	Last modified	Impact
1.12.2	cGPU diperbarui ke versi 1.5.15. Menambahkan afinitas node ke cgpu-installer untuk mencegah penjadwalan pada node Lingjun.	17 Maret 2025	Peningkatan ini tidak memengaruhi layanan yang ada.

Februari 2025

Version	Changes	Last modified	Impact
1.12.1	cGPU diperbarui ke versi 1.5.15. Menambahkan fitur pemeriksaan kesehatan untuk resource node ke gpushare-device-plugin.	18 Februari 2025	Peningkatan ini tidak memengaruhi layanan yang ada.

Januari 2025

Version	Changes	Last modified	Impact
1.12.0	Merilis cGPU 1.5.15, yang mendukung instalasi cGPU dalam bentuk kontainer. Mengurangi hak istimewa kontainer `cgpu-installer`. Menambahkan pemeriksaan awal sebelum instalasi cGPU. Jika pemeriksaan awal gagal, event Kubernetes `CGPUInstallFailed` dilaporkan. Mulai versi ini, ack-ai-installer hanya mendukung versi kluster 1.20 dan yang lebih baru.	03 Januari 2025	Peningkatan ini tidak memengaruhi layanan yang ada.

November 2024

Version	Changes	Last modified	Impact
1.11.1	Merilis cGPU 1.5.13. Memperbaiki crash kernel yang jarang terjadi akibat proses kontainer sisa.	19 November 2024	Peningkatan ini tidak memengaruhi layanan yang ada.
1.10.1	Merilis cGPU 1.5.12. Memperbaiki kegagalan isolasi memori GPU untuk beberapa API CUDA pada versi driver baru seperti 535.	07 November 2024	Peningkatan ini tidak memengaruhi layanan yang ada.

September 2024

Version	Changes	Last modified	Impact
1.9.16	cGPU diperbarui ke versi 1.5.11. Memindahkan instalasi cGPU ke init container.	26 September 2024	Peningkatan ini tidak memengaruhi layanan yang ada.
1.9.15	Merilis cGPU 1.5.11. Memperbaiki masalah terkait decoding.	19 September 2024	Peningkatan ini tidak memengaruhi layanan yang ada.

Agustus 2024

Version	Changes	Last modified	Impact
1.9.14	Memperbaiki masalah terkait MPS Daemon. Merilis cGPU 1.5.10. Menambahkan policy 6 untuk membagi daya komputasi dan memori GPU secara proporsional.	21 Agustus 2024	Peningkatan ini tidak memengaruhi layanan yang ada.
1.9.14	Merilis cGPU 1.5.9. Menambahkan policy 6 untuk membagi daya komputasi dan memori GPU secara proporsional.	13 Agustus 2024	Peningkatan ini tidak memengaruhi layanan yang ada.

Mei 2024

Version	Changes	Last modified	Impact
1.9.11	Merilis cGPU 1.5.7. Mendukung GPU seri L dan driver GPU versi 550 serta yang lebih baru.	14 Mei 2024	Peningkatan ini tidak memengaruhi layanan yang ada.
1.9.10	Merilis cGPU 1.5.7. Memperbaiki perintah `cgpu policy set` yang tidak valid.	09 Mei 2024	Peningkatan ini tidak memengaruhi layanan yang ada.

Januari 2024

Version	Changes	Last modified	Impact
1.8.8	Merilis cGPU 1.5.6. Kebijakan baru Server Lisensi cGPU dirilis.	04 Januari 2024	Peningkatan ini tidak memengaruhi layanan yang ada.

Desember 2023

Version	Changes	Last modified	Impact
1.8.7	cGPU diperbarui ke versi 1.5.5. Mendukung penjadwalan GPU bersama untuk MPS.	20 Desember 2023	Peningkatan ini tidak memengaruhi layanan yang ada.

November 2023

Version	Changes	Last modified	Impact
1.8.5	Merilis cGPU 1.5.5. Memperbaiki panic kernel yang dipicu oleh `cgpu-procfs`.	23 November 2023	Peningkatan ini tidak memengaruhi layanan yang ada.

Agustus 2023

Version	Changes	Last modified	Impact
1.8.2	cGPU diperbarui ke versi 1.5.3. Mendukung partisi multi-instans GPU (MIG) dinamis. Memperbaiki restart berulang device-plugin-recover.	29 Agustus 2023	Peningkatan ini tidak memengaruhi layanan yang ada.

Juli 2023

Version	Changes	Last modified	Impact
1.7.7	Merilis cGPU 1.5.3. Memperbaiki tautan simbolik yang salah untuk nvidia-container-toolkit dan nvidia-container-runtime-hook. Memperbaiki ketidakcocokan dengan versi driver yang lebih baru, seperti 470.182.03, 515.105.01, dan 525.105.17.	04 Juli 2023	Peningkatan ini tidak memengaruhi layanan yang ada.

April 2023

Version	Changes	Last modified	Impact
1.7.6	Merilis cGPU 1.5.2. Memperbaiki izin cgroup systemd yang salah. Menambahkan dukungan untuk versi driver yang lebih baru dari 5XX di cGPU. Menambahkan dukungan untuk nvidia-container-runtime 1.10 dan yang lebih baru di cGPU. Memperbaiki dukungan cGPU 1.5.1 pada containerd.	26 April 2023	Peningkatan ini tidak memengaruhi layanan yang ada.
1.7.5	Merilis cGPU 1.5.2.	18 April 2023	Peningkatan ini tidak memengaruhi layanan yang ada.