Container Service for Kubernetes (ACK) kümesinde GPU paylaşımı ve zamanlaması, her bir GPU düğümünde cGPU gerektirir. GPU paylaşımının ve zamanlamanın düğümün NVIDIA sürücüsü, çekirdeği ve örnek ailesiyle uyumlu kalmasını sağlamak için düğümdeki cGPU sürümünü yükseltin.
Önkoşullar
Yükseltmek istediğiniz düğümde cGPU yüklüdür.
kubectl yüklenmiştir ve kümeye erişecek şekilde yapılandırılmıştır.
Yüklemek istediğiniz cGPU sürümü düğümle uyumludur. Ayrıntılar için bkz. cGPU sürüm uyumluluğu.
1. Adım: cGPU eklentisini yükseltin
Yükseltilecek eklenti, küme türüne bağlıdır. Kümenize uygun olan eklentiyi yükseltin.
Küme türü | Eklenti yükseltme yöntemi |
| ack-ai-installer eklentisini yükseltin. Talimatlar için bkz. GPU paylaşım bileşenini yükseltme. |
ACK dedicated cluster | Aşağıdaki yordamda açıklandığı gibi ACK konsolunda ack-cgpu eklentisini yükseltin. |
ACK dedicated cluster'da ack-cgpu eklentisini yükseltmek için
ACK konsolu üzerinde oturum açın. Sol gezinme bölmesinde Clusters öğesini tıklayın.
Clusters sayfasında kümenizin adını tıklayın. Sol gezinme bölmesinde öğesini tıklayın.
Helm sayfasında ack-cgpu eklentisini bulun ve Update öğesini tıklayın. Gerekli Version değerini seçin ve OK öğesini tıklayın.
2. Adım: Mevcut düğümlerde cGPU'yu yükseltin
Eklentiyi yükselttikten sonra, yeni cGPU sürümünü çalıştırmaları için mevcut GPU düğümlerini yükseltin. Bir düğümü yükseltmeden önce aşağıdaki noktaları dikkate alın:
GPU iş yükleri — Yükseltme süresi boyunca düğümdeki tüm GPU iş yüklerini durdurun.
Dağıtım sırası — Önce bir düğümü yükseltin. GPU iş yüklerinin beklendiği gibi çalıştığını doğruladıktan sonra kalan GPU düğümlerini toplu işler halinde yükseltin.
Yöntem 1: Düğümü kaldırıp yeniden ekleme
Yöntem 1, düğümün sistem diskini sıfırlar. Düğümün sistem diskinda veri varsa düğümü kaldırmadan önce verileri yedekleyin.
Düğümü kaldırın ve yeniden ekleyin
ACK konsolu üzerinde oturum açın. Sol gezinme bölmesinde Clusters öğesini tıklayın.
Clusters sayfasında kümenizin adını tıklayın. Sol gezinme bölmesinde öğesini tıklayın.
Nodes sayfasında yükseltmek istediğiniz cGPU düğümünü seçin ve Batch Remove öğesini tıklayın. Remove Node iletişim kutusunda Drain Node seçeneğini belirleyin.
-
Kaldırılan düğümü orijinal düğüm havuzuna yeniden ekleyin. Talimatlar için bkz. Mevcut düğümleri ekleme.
ÖnemliDüğümü otomatik modda ekleyin. Manuel mod düğümü sıfırlamaz.
cGPU sürümünü doğrulayın
-
Yeniden eklediğiniz düğümdeki cgpu-installer Pod'unun durumunu kontrol etmek için aşağıdaki komutu çalıştırın.
kubectl get po -l name=cgpu-installer -n kube-system -o wideÖrnek çıktı:
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES cgpu-installer-***** 1/1 Running 0 4d2h 192.168.XXX.XX1 cn-beijing.192.168.XXX.XX1 <none> <none> cgpu-installer-**2 1/1 Running 0 4d2h 192.168.XXX.XX2 cn-beijing.192.168.XXX.XX2 <none> <none> cgpu-installer-**3 1/1 Running 0 4d2h 192.168.XXX.XX3 cn-beijing.192.168.XXX.XX3 <none> <none> -
cgpu-installer Pod'una erişmek için aşağıdaki komutu çalıştırın.
cgpu-installer-xxxxxifadesini önceki çıktıda yer alan Pod adı ile değiştirin.kubectl exec -ti cgpu-installer-xxxxx -n kube-system -- bash -
Geçerli cGPU sürümünü kontrol etmek için aşağıdaki komutu çalıştırın.
nsenter -t 1 -i -p -n -u -m -- cat /proc/cgpu_km/versionÖrnek çıktı:
1.5.16NotEn son cGPU sürümü hakkında bilgi için bkz. ack-ai-installer.
cGPU sürüm uyumluluğu
Bir cGPU sürümü, düğümün NVIDIA sürücüsü, örnek ailesi, nvidia-container-toolkit ve çekirdek sürümüyle uyumlu olmalıdır. Yüklemek istediğiniz cGPU sürümünü aşağıdaki tabloların her birine göre kontrol edin.
NVIDIA sürücü uyumluluğu
|
|
|
|
|
|
|
|
|
|
|
|
Örnek ailesi uyumluluğu
Aşağıdaki tablo, tek tek örnek türleri yerine örnek ailesine göre uyumluluğu listeler.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
nvidia-container-toolkit uyumluluğu
|
|
|
|
|
|
|
|
|
Çekirdek sürümü uyumluluğu
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|