Container Service for Kubernetes:Menggunakan Horizontal Pod Autoscaling (HPA)

Sebelum memulai

Untuk menggunakan HPA secara efektif, kami menyarankan Anda membaca dokumentasi resmi Kubernetes tentang Horizontal Pod Autoscaling guna memahami prinsip dasar, algoritma, serta perilaku penskalaan yang dapat dikonfigurasi.

Selain itu, kluster Alibaba Cloud Container Service for Kubernetes (ACK) menyediakan berbagai solusi workload scaling (elastisitas lapisan penjadwalan) dan node scaling (elastisitas lapisan resource). Sebelum melanjutkan, baca Auto scaling untuk memahami kasus penggunaan dan batasan masing-masing solusi.

Prasyarat

• Anda telah membuat ACK managed cluster atau ACK dedicated cluster. Untuk informasi lebih lanjut, lihat Create a Kubernetes cluster.

• Jika Anda menggunakan perintah kubectl untuk menerapkan HPA, Anda harus terhubung ke kluster Kubernetes dengan kubectl. Untuk informasi lebih lanjut, lihat Obtain the KubeConfig of a cluster and use kubectl to connect to the cluster.

Buat aplikasi HPA di console

ACK terintegrasi dengan HPA, memungkinkan Anda membuat aplikasi yang mendukung HPA langsung dari console. Anda dapat mengaktifkan HPA saat membuat aplikasi baru atau pada aplikasi yang sudah ada. Kami menyarankan hanya membuat satu HPA per workload.

Buat aplikasi HPA menggunakan kubectl

Anda juga dapat menggunakan template orkestrasi untuk membuat HPA secara manual dan mengikatnya ke Deployment target. Kami menyarankan hanya membuat satu HPA per workload. Contoh ini menunjukkan cara menerapkan aplikasi Nginx yang mendukung HPA.

1. Buat file bernama nginx.yml dan salin konten berikut ke dalamnya.

   Penting

   Untuk menerapkan HPA, Anda harus menetapkan resource request untuk Pod. Jika tidak, HPA tidak dapat berjalan. Anda dapat menggunakan fitur resource profiling untuk menganalisis data penggunaan resource historis dan mendapatkan rekomendasi untuk mengonfigurasi Requests dan Limits kontainer. Untuk informasi lebih lanjut, lihat Resource profiling.

   Template YAML

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx  
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 # Ganti dengan <image_name:tags> aktual Anda.
           ports:
           - containerPort: 80
           resources:
             requests:         # Anda harus menetapkan requests. Jika tidak, HPA tidak dapat menghitung metrik, dan statusnya akan menjadi 'unknown'.
               cpu: 500m

2. Jalankan perintah berikut untuk membuat aplikasi Nginx.

   kubectl apply -f nginx.yml

3. Buat file bernama hpa.yml dan salin konten berikut ke dalamnya untuk membuat HPA.

   Gunakan scaleTargetRef untuk menentukan objek target untuk HPA. Dalam contoh ini, HPA diikat ke Deployment bernama nginx dan memicu operasi penskalaan ketika rata-rata pemanfaatan CPU kontainer di semua Pod mencapai 50%.

   Kubernetes 1.24 dan versi lebih baru

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Jumlah minimum replika untuk Deployment. Harus bilangan bulat yang lebih besar dari atau sama dengan 1.
     maxReplicas: 10  # Jumlah maksimum replika untuk Deployment. Harus lebih besar dari minReplicas.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50 # Target rata-rata pemanfaatan resource, yaitu rasio antara penggunaan resource rata-rata terhadap jumlah resource yang diminta.
                  

   Kubernetes sebelum 1.24

   apiVersion: autoscaling/v2beta2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Harus bilangan bulat yang lebih besar dari atau sama dengan 1.
     maxReplicas: 10  # Harus lebih besar dari jumlah replika minimum.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
                  

   Jika Anda perlu menentukan metrik CPU dan memori sekaligus, Anda dapat menentukan kedua jenis resource cpu dan memory di bidang metrics alih-alih membuat dua HPA. Ketika HPA mendeteksi bahwa salah satu metrik mencapai ambang batas penskalaan, HPA akan melakukan operasi penskalaan.

   metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
     - type: Resource
       resource:
         name: memory
         target:
           type: Utilization
           averageUtilization: 50

4. Jalankan perintah berikut untuk membuat HPA.

   kubectl apply -f hpa.yml

   Pada tahap ini, jalankan perintah kubectl describe hpa <HPA name>. Dalam contoh ini, nama HPA adalah nginx-hpa. Output yang diharapkan adalah pesan peringatan berikut, yang menunjukkan bahwa HPA masih dalam proses penerapan. Anda dapat menjalankan perintah kubectl get hpa untuk memeriksa status HPA.

   Warning  FailedGetResourceMetric       2m (x6 over 4m)  horizontal-pod-autoscaler  missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5897-mqzs7
   
   Warning  FailedComputeMetricsReplicas  2m (x6 over 4m)  horizontal-pod-autoscaler  failed to get cpu utilization: missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5

5. Setelah HPA dibuat dan Pod memenuhi kondisi penskalaan (dalam contoh ini, pemanfaatan CPU Pod Nginx melebihi 50%), jalankan kembali perintah kubectl describe hpa <HPA-name> untuk melihat status penskalaan horizontal.

   Output berikut menunjukkan bahwa HPA berjalan dengan benar.

   Type    Reason             Age   From                       Message
     ----    ------             ----  ----                       -------
     Normal  SuccessfulRescale  5m6s  horizontal-pod-autoscaler  New size: 1; reason: All metrics below target

Operasi terkait

Jika perilaku penskalaan default tidak memenuhi kebutuhan bisnis Anda, Anda dapat menggunakan bidang behavior untuk mengonfigurasi perilaku skala-turun (scaleDown) dan skala-naik (scaleUp) dengan granularitas lebih tinggi. Untuk informasi lebih lanjut, lihat Configurable scaling behavior.

Skenario khas untuk behavior mencakup, namun tidak terbatas pada:

• Skalakan keluar secara cepat selama lonjakan traffic mendadak.

• Skalakan keluar secara cepat tetapi skalakan masuk secara perlahan untuk workload dengan fluktuasi sering.

• Nonaktifkan skala-masuk untuk aplikasi yang sensitif terhadap status.

• Dalam skenario dengan keterbatasan resource atau sensitif terhadap biaya, jendela stabilisasi stabilizationWindowSeconds membatasi laju skala-keluar untuk mengurangi penyesuaian sering akibat fluktuasi sementara.

Untuk deskripsi dan contoh konfigurasi behavior, lihat Tune HPA scaling sensitivity.

FAQ

• Mengapa kolom current pada metrik HPA menampilkan unknown?

• Troubleshooting kegagalan penskalaan HPA

• Mengapa HPA membuat pod tambahan selama rolling update?

• Mengapa HPA tidak menskalakan meskipun ambang batas telah tercapai?

• Bagaimana cara mengonfigurasi interval pengumpulan metrik HPA?

• Apakah CronHPA kompatibel dengan HPA? Bagaimana cara kerjanya?

• Bagaimana mencegah HPA melakukan over-scaling akibat lonjakan resource awal?

• Mengapa HPA melakukan penskalaan meskipun nilai metrik di bawah ambang batas dalam log audit?

• Dapatkah HPA mengontrol urutan skala-masuk pod?

• Apa arti satuan untuk metrik pemanfaatan HPA?

• Apa yang harus saya lakukan jika kolom target menampilkan unknown setelah menjalankan kubectl get hpa?

• Bagaimana cara menemukan metrik yang didukung oleh HPA?

• Autoscaling dengan format log Nginx Ingress kustom

• Bagaimana cara mendapatkan URL permintaan data Prometheus?

• Mengambil metrik sls_ingress_qps menggunakan CLI

• Bagaimana cara mengelola VPA yang dipasang dengan kubectl dari console?

• Gagal menarik image alibaba-cloud-metrics-adapter

Dokumentasi terkait

Operasi terkait lainnya

• Untuk menerapkan Horizontal Pod Autoscaling berdasarkan metrik dari komponen Alibaba Cloud menggunakan Kubernetes External Metrics, lihat Horizontal Pod Autoscaling based on Nginx Ingress metrics.

• Untuk mengonversi metrik dari Managed Service for Prometheus menjadi metrik yang kompatibel dengan HPA, lihat Horizontal Pod autoscaling based on metrics from Managed Service for Prometheus.

• Untuk troubleshooting HPA, lihat Node auto scaling FAQ.

• Jika Anda perlu mengoordinasikan CronHPA dan HPA, lihat Use CronHPA with HPA.

Solusi workload scaling lainnya

• Jika aplikasi Anda memiliki pola penggunaan resource periodik dan Anda perlu menskalakan pod berdasarkan jadwal, lihat Use CronHPA for scheduled horizontal scaling.

• Jika penggunaan resource aplikasi Anda mengalami perubahan siklus yang sulit ditentukan menggunakan aturan, Anda dapat menggunakan AHPA untuk secara otomatis mengidentifikasi pola workload berdasarkan metrik historis dan melakukan auto scaling Pod. Untuk informasi lebih lanjut, lihat Auto Scaling Prediction (AHPA).

• Untuk menetapkan batas resource pod secara otomatis berdasarkan penggunaan resource-nya, lihat Use Vertical Pod Autoscaler (VPA).

• Untuk membuat kebijakan penskalaan fleksibel berdasarkan event dari antrian pesan, jadwal, atau metrik kustom, lihat Event-driven autoscaling.

Solusi gabungan

Anda dapat menggunakan HPA bersama fitur node auto scaling untuk secara otomatis menskalakan node kluster ketika resource tidak mencukupi. Untuk informasi lebih lanjut, lihat Enable node auto scaling.