Container Service for Kubernetes：Gunakan Horizontal Pod Autoscaling (HPA)

Sebelum memulai

Sebelum menggunakan fitur HPA, disarankan membaca dokumentasi resmi Kubernetes tentang Horizontal Pod Autoscaling untuk memahami prinsip dasar, detail algoritma, serta perilaku penskalaan yang dapat dikonfigurasi.

Kluster ACK menyediakan berbagai solusi workload scaling (elastisitas lapisan penjadwalan) dan node scaling (elastisitas lapisan sumber daya). Sebelum melanjutkan, baca Auto Scaling untuk memahami kasus penggunaan dan keterbatasan masing-masing solusi.

Prasyarat

• Sebuah ACK managed cluster atau ACK dedicated cluster telah dibuat. Untuk informasi selengkapnya, lihat Create a cluster.

• Jika ingin menggunakan perintah kubectl untuk menerapkan HPA, Anda harus menghubungkan klien kubectl ke kluster Kubernetes Anda. Untuk informasi selengkapnya, lihat Get cluster KubeConfig and use kubectl to connect to a cluster.

Buat aplikasi HPA di konsol

Container Service for Kubernetes (ACK) terintegrasi dengan HPA, sehingga memungkinkan Anda membuat aplikasi HPA melalui konsol ACK. Anda dapat mengaktifkan HPA saat membuat aplikasi baru atau pada aplikasi yang sudah ada. Disarankan hanya membuat satu HPA untuk setiap workload.

Buat aplikasi HPA menggunakan kubectl

Anda juga dapat membuat HPA secara manual dari template orkestrasi dan mengikatnya ke objek deployment yang ingin Anda skalakan. Kemudian, gunakan perintah kubectl untuk mengonfigurasi penskalaan kontainer otomatis. Disarankan hanya membuat satu HPA untuk setiap workload. Langkah-langkah berikut menggunakan aplikasi Nginx yang mendukung HPA sebagai contoh.

1. Buat file bernama nginx.yml dan salin konten berikut ke dalamnya.

   Penting

   Saat menerapkan HPA, Anda harus menetapkan sumber daya request untuk pod. Jika tidak, HPA tidak dapat berjalan. Anda dapat menggunakan fitur resource profile untuk menganalisis data historis penggunaan sumber daya dan mendapatkan rekomendasi konfigurasi request dan limit kontainer. Untuk informasi selengkapnya, lihat Resource profiles.

   Expand to view the YAML example

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx  
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 # Ganti dengan <image_name:tags> aktual Anda.
           ports:
           - containerPort: 80
           resources:
             requests:         # Anda harus menetapkan requests. Jika tidak, HPA tidak dapat melakukan perhitungan dan metrik akan ditampilkan sebagai unknown.
               cpu: 500m

2. Jalankan perintah berikut untuk membuat aplikasi Nginx.

   kubectl apply -f nginx.yml

3. Buat file bernama hpa.yml dan salin konten berikut ke dalamnya untuk membuat HPA.

   Gunakan scaleTargetRef untuk menentukan objek yang akan diikat oleh HPA. Dalam contoh ini, HPA diikat ke deployment bernama nginx. Event penskalaan dipicu ketika rata-rata penggunaan CPU semua kontainer di semua pod mencapai 50%.

   1.24 dan versi lebih baru

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Jumlah minimum replika untuk deployment. Nilainya harus berupa bilangan bulat lebih besar atau sama dengan 1.
     maxReplicas: 10  # Jumlah maksimum replika untuk deployment. Nilainya harus lebih besar dari minReplicas.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50 # Target rata-rata utilisasi sumber daya. Ini adalah rasio antara rata-rata penggunaan sumber daya terhadap jumlah yang diminta.
                  

   Versi sebelum 1.24

   apiVersion: autoscaling/v2beta2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Nilainya harus berupa bilangan bulat lebih besar atau sama dengan 1.
     maxReplicas: 10  # Nilainya harus lebih besar dari jumlah replika minimum.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
                  

   Jika Anda ingin menentukan metrik CPU dan memori sekaligus, Anda dapat menentukan kedua jenis sumber daya cpu dan memory di bidang metrics alih-alih membuat dua HPA. HPA akan melakukan operasi penskalaan ketika mendeteksi bahwa salah satu metrik telah mencapai ambang batas penskalaannya.

   metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
     - type: Resource
       resource:
         name: memory
         target:
           type: Utilization
           averageUtilization: 50

4. Jalankan perintah berikut untuk membuat HPA.

   kubectl apply -f hpa.yml

   Pada titik ini, jalankan perintah kubectl describe hpa <HPA_name>. Dalam contoh ini, nama HPA adalah nginx-hpa. Pesan peringatan berikut diharapkan muncul dalam output. Pesan ini menunjukkan bahwa HPA masih dalam proses deployment. Anda dapat menjalankan perintah kubectl get hpa untuk memeriksa status HPA.

   Warning  FailedGetResourceMetric       2m (x6 over 4m)  horizontal-pod-autoscaler  missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5897-mqzs7
   
   Warning  FailedComputeMetricsReplicas  2m (x6 over 4m)  horizontal-pod-autoscaler  failed to get cpu utilization: missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5

5. Tunggu hingga HPA selesai dibuat dan pod memenuhi kondisi penskalaan. Dalam contoh ini, kondisi penskalaan adalah penggunaan CPU pod Nginx melebihi 50%. Lalu, jalankan kembali perintah kubectl describe hpa <HPA_name> untuk melihat status skalabilitas horizontal.

   Output berikut menunjukkan bahwa HPA berjalan sesuai harapan.

   Type    Reason             Age   From                       Message
     ----    ------             ----  ----                       -------
     Normal  SuccessfulRescale  5m6s  horizontal-pod-autoscaler  New size: 1; reason: All metrics below target

Operasi terkait

Jika perilaku penskalaan default tidak memenuhi kebutuhan bisnis Anda, Anda dapat menggunakan bidang behavior untuk mengonfigurasi perilaku skala turun (scaleDown) dan skala keluar (scaleUp) secara lebih granular. Untuk informasi selengkapnya, lihat Configurable scaling behavior.

Skenario khas yang didukung oleh bidang behavior meliputi, namun tidak terbatas pada, hal-hal berikut:

• Memperluas kapasitas secara cepat selama lonjakan traffic.

• Menerapkan skala keluar cepat dan skala masuk lambat untuk skenario dengan fluktuasi beban yang sering.

• Menonaktifkan skala masuk untuk aplikasi yang sensitif terhadap status.

• Dalam skenario dengan keterbatasan sumber daya atau sensitif biaya, Anda dapat menggunakan jendela stabilisasi stabilizationWindowSeconds untuk membatasi kecepatan skala keluar. Hal ini mengurangi penyesuaian berulang yang disebabkan oleh fluktuasi sementara.

Untuk informasi selengkapnya tentang konfigurasi behavior dan contohnya, lihat Adjust the scaling sensitivity of HPA.

FAQ

• Apa yang harus saya lakukan jika "unknown" ditampilkan di kolom current pada metrik HPA?

• Apa yang harus saya lakukan jika HPA tidak dapat mengumpulkan metrik dan gagal melakukan penskalaan?

• Apa yang harus saya lakukan jika HPA menambahkan pod berlebih selama pembaruan bergulir (rolling update)?

• Apa yang harus saya lakukan jika HPA tidak menskalakan pod meskipun ambang batas penskalaan telah tercapai?

• Bagaimana cara mengonfigurasi interval pengumpulan metrik HPA?

• Dapatkah CronHPA dan HPA berinteraksi tanpa konflik? Bagaimana cara mengaktifkan interaksi antara CronHPA dan HPA?

• Bagaimana cara memperbaiki masalah penambahan pod berlebih oleh HPA saat penggunaan CPU atau memori meningkat pesat?

• Apa yang harus saya lakukan jika HPA memperluas kapasitas aplikasi sedangkan nilai metrik dalam log audit lebih rendah dari ambang batas?

• Dapatkah HPA menentukan urutan pod yang diskalakan masuk?

• Apa arti dari satuan metrik utilisasi yang dikumpulkan oleh HPA?

• Apa yang harus saya lakukan jika "unknown" ditampilkan di kolom TARGETS setelah menjalankan perintah kubectl get hpa?

• Bagaimana cara menemukan metrik yang didukung oleh HPA?

• Bagaimana cara mengonfigurasi autoscaling horizontal setelah saya menyesuaikan format log NGINX Ingress?

Referensi

Dokumen terkait lainnya

• Untuk mempelajari cara menerapkan HPA berdasarkan metrik komponen Alibaba Cloud menggunakan dukungan metrik eksternal di Kubernetes, lihat Horizontal pod autoscaling based on Alibaba Cloud component metrics.

• Untuk mempelajari cara mengonversi metrik Prometheus menjadi metrik yang dapat digunakan oleh HPA untuk horizontal pod autoscaling, lihat Horizontal pod autoscaling based on Alibaba Cloud Prometheus metrics.

• Untuk informasi tentang cara memecahkan masalah autoscaling, lihat Node autoscaling FAQ.

• Untuk mengoordinasikan CronHPA dan HPA, lihat Coordinate CronHPA and HPA.

Solusi workload scaling lainnya

• Jika penggunaan sumber daya aplikasi Anda berubah secara periodik dan Anda perlu menskalakan pod berdasarkan jadwal, mirip dengan kebijakan Crontab, lihat Use CronHPA for scheduled horizontal pod scaling.

• Jika penggunaan sumber daya aplikasi Anda berubah secara periodik yang sulit didefinisikan dengan aturan, Anda dapat menggunakan AHPA untuk secara otomatis mengidentifikasi siklus bisnis dari metrik historis dan menskalakan pod sesuai kebutuhan. Untuk informasi selengkapnya, lihat Predictive autoscaling (AHPA).

• Untuk secara otomatis menetapkan batas sumber daya untuk pod berdasarkan penggunaan sumber dayanya dan memastikan pod memiliki sumber daya komputasi yang cukup, lihat Use Vertical Pod Autoscaling (VPA).

• Untuk secara fleksibel menyesuaikan kebijakan penskalaan pod berdasarkan event Kubernetes seperti antrian pesan, kebijakan terjadwal, dan metrik kustom, lihat Event-driven autoscaling.

Solusi gabungan

Anda dapat menggunakan HPA bersama fitur node autoscaling untuk secara otomatis menskalakan node saat sumber daya kluster tidak mencukupi. Untuk informasi selengkapnya, lihat Enable node autoscaling.