Container Service for Kubernetes：Implementasikan skalabilitas elastis cepat di beberapa zona

Permasalahan

Saat kelompok node dikonfigurasi dengan vSwitch dari beberapa zona dalam satu grup penskalaan, Cluster Autoscaler tidak dapat menentukan zona spesifik mana yang membutuhkan node baru. Akibatnya, instans yang diperluas kapasitasnya mungkin terkonsentrasi di satu zona alih-alih didistribusikan secara merata, sehingga menggagalkan tujuan penerapan multi-zona.

Solusi

ACK mengatasi permasalahan ini dengan komponen ack-autoscaling-placeholder, yang menggunakan redundansi sumber daya untuk mengubah penskalaan elastis multi-zona menjadi penskalaan terarah pada kelompok node konkuren. Untuk informasi selengkapnya, lihat Gunakan ack-autoscaling-placeholder untuk menskalakan pod dalam hitungan detik. Mekanisme ini bekerja dalam tiga tahap:

1. Buat satu kelompok node per zona dengan label zona. Setiap kelompok node diberi label yang mengidentifikasi zona tempat kelompok tersebut berada.

2. Terapkan pod placeholder menggunakan nodeSelector. Komponen ack-autoscaling-placeholder menjadwalkan satu pod placeholder ke setiap zona berdasarkan label zona tersebut. Pod placeholder ini menggunakan PriorityClass dengan bobot lebih rendah daripada pod aplikasi.

3. Pod aplikasi menggantikan (preempt) pod placeholder. Saat pod aplikasi berada dalam status Pending, mereka menggantikan pod placeholder berprioritas lebih rendah pada node yang ada. Pod placeholder yang tergantikan kemudian menjadi Pending. Karena penjadwalan pod placeholder menggunakan nodeSelector (bukan antiAffinity), Cluster Autoscaler dapat mengidentifikasi zona pasti yang dibutuhkan oleh setiap pod placeholder yang tertunda dan memicu penskalaan terarah ke kelompok node yang sesuai secara konkuren.

Alur penskalaan

Gambar berikut menunjukkan cara kerja penskalaan simultan di dua zona dengan arsitektur ini.

1. Komponen ack-autoscaling-placeholder membuat satu pod placeholder di setiap zona. Pod placeholder memiliki prioritas penjadwalan lebih rendah daripada pod aplikasi sesungguhnya.

2. Saat pod aplikasi memasuki status Pending, mereka dengan cepat menggantikan pod placeholder dan diterapkan pada node yang ada di setiap zona. Pod placeholder yang tergantikan kemudian memasuki status Pending.

3. Karena pod placeholder dijadwalkan menggunakan nodeSelector, Cluster Autoscaler dapat memperluas kapasitas ke zona yang sesuai secara konkuren.

Terapkan komponen

1. Di panel navigasi sebelah kiri Konsol ACK, pilih Marketplace > Marketplace.

2. Temukan dan klik ack-autoscaling-placeholder. Di halaman ack-autoscaling-placeholder, klik Deploy.

3. Pilih kluster dari daftar drop-down Cluster dan namespace dari daftar drop-down Namespace, lalu klik Next. Pilih versi chart dari daftar drop-down Chart Version, konfigurasikan parameters, lalu klik OK. Setelah komponen diterapkan, pilih Applications > Helm di panel navigasi sebelah kiri. Anda dapat memastikan bahwa aplikasi berada dalam status Deployed.

Perbarui rilis Helm dengan Penyebaran placeholder

1. Di panel navigasi sebelah kiri halaman detail, pilih Applications > Helm.

2. Pada halaman Helm, klik Update di kolom Actions untuk ack-autoscaling-placeholder-default.

3. Di panel Update Release, perbarui file YAML berdasarkan contoh berikut, lalu klik OK. Terapkan satu placeholder untuk setiap zona dan definisikan satu Penyebaran placeholder untuk setiap zona. Contoh ini membuat Penyebaran placeholder di Zona I, K, dan H. Setiap entri dalam daftar deployments mengikuti struktur yang sama. Entri pertama di bawah ini diberi anotasi lengkap; entri berikutnya hanya berbeda pada nilai name dan nodeSelector. Tabel berikut merangkum bidang yang harus Anda ubah untuk setiap zona: Setelah pembaruan berhasil, Penyebaran placeholder dibuat untuk setiap zona.

   Field	Zona I	Zona K	Zona H
   name	ack-place-holder-I	ack-place-holder-K	ack-place-holder-H
   nodeSelector	{"avaliable_zone":i}	{"avaliable_zone":k}	{"avaliable_zone":h}

      deployments:
      # --- Placeholder Zona I ---
      - affinity: {}
        annotations: {}
        containers:
        - image: registry-vpc.cn-beijing.aliyuncs.com/acs/pause:3.1
          imagePullPolicy: IfNotPresent
          name: placeholder
          resources:
            requests:
              cpu: 3500m     # Permintaan CPU untuk setiap pod placeholder.
              memory: 6      # Permintaan memori untuk setiap pod placeholder.
        imagePullSecrets: {}
        labels: {}
        name: ack-place-holder-I             # Nama Penyebaran. Gunakan akhiran unik untuk setiap zona.
        nodeSelector: {"avaliable_zone":i}   # Harus sesuai dengan kunci dan nilai label node dari Langkah 1.
        replicaCount: 10                     # Jumlah pod placeholder per zona.
        tolerations: []
   
      # --- Placeholder Zona K (struktur sama, zona berbeda) ---
      - affinity: {}
        annotations: {}
        containers:
        - image: registry-vpc.cn-beijing.aliyuncs.com/acs/pause:3.1
          imagePullPolicy: IfNotPresent
          name: placeholder
          resources:
            requests:
              cpu: 3500m
              memory: 6
        imagePullSecrets: {}
        labels: {}
        name: ack-place-holder-K
        nodeSelector: {"avaliable_zone":k}
        replicaCount: 10
        tolerations: []
   
      # --- Placeholder Zona H (struktur sama, zona berbeda) ---
      - affinity: {}
        annotations: {}
        containers:
        - image: registry-vpc.cn-beijing.aliyuncs.com/acs/pause:3.1
          imagePullPolicy: IfNotPresent
          name: placeholder
          resources:
            requests:
              cpu: 3500m
              memory: 6
        imagePullSecrets: {}
        labels: {}
        name: ack-place-holder-H
        nodeSelector: {"avaliable_zone":h}
        replicaCount: 10
        tolerations: []
   
      fullnameOverride: ""
      nameOverride: ""
      podSecurityContext: {}
      priorityClassDefault:
        enabled: true
        name: default-priority-class
        value: -1

   

Verifikasi: Pilih Applications > Helm dan pastikan ack-autoscaling-placeholder-default menampilkan status Deployed dengan konfigurasi yang telah diperbarui.

Opsi A: PriorityClass Bernama

1. Buat file bernama priorityClass.yaml dan salin konten berikut ke dalam file tersebut:

      apiVersion: scheduling.k8s.io/v1
      kind: PriorityClass
      metadata:
        name: high-priority
      value: 1000000              # Nilai prioritas. Harus lebih tinggi daripada nilai prioritas default (-1) pod placeholder yang dibuat di Langkah 2.
      globalDefault: false
      description: "Priority class ini hanya boleh digunakan untuk pod layanan XYZ."

Opsi B: PriorityClass Global

Jika Anda tidak memerlukan PriorityClass terpisah untuk setiap pod, Anda dapat mengonfigurasi PriorityClass global sebagai default. Setelah diterapkan, pod tanpa PriorityClass yang ditentukan secara otomatis mengadopsi nilai prioritas ini, dan preemption berlaku secara otomatis.

   apiVersion: scheduling.k8s.io/v1
   kind: PriorityClass
   metadata:
     name: global-high-priority
   value: 1                              # Nilai prioritas. Harus lebih tinggi daripada nilai prioritas default (-1) pod placeholder yang dibuat di Langkah 2.
   globalDefault: true
   description: "Priority class ini hanya boleh digunakan untuk pod layanan XYZ."

Terapkan PriorityClass

1. Buat PriorityClass tersebut. Output yang diharapkan:

      kubectl apply -f priorityClass.yaml

      priorityclass.scheduling.k8s.io/high-priority created

Verifikasi: Jalankan kubectl get priorityclass dan pastikan high-priority (atau global-high-priority) muncul dalam daftar dengan nilai prioritas yang benar.