Container Service for Kubernetes：Gunakan Horizontal Pod Autoscaling (HPA)

Sebelum memulai

Untuk membantu Anda menggunakan fitur HPA secara optimal, baca dokumen resmi Kubernetes Horizontal Pod Autoscaling guna memahami prinsip dasar, detail algoritma, serta perilaku penskalaan yang dapat dikonfigurasi.

Selain itu, kluster ACK menyediakan berbagai solusi workload scaling (elastisitas lapisan penjadwalan) dan node scaling (elastisitas lapisan sumber daya). Sebelum melanjutkan, baca Auto Scaling untuk memahami kasus penggunaan dan keterbatasan masing-masing solusi.

Prasyarat

• Anda telah membuat Kluster ACK yang dikelola atau Cluster khusus ACK. Untuk informasi selengkapnya, lihat Create a cluster.

• Jika berencana menggunakan perintah kubectl untuk mengimplementasikan HPA, hubungkan ke kluster Kubernetes Anda menggunakan kubectl. Untuk informasi selengkapnya, lihat Connect to an ACK cluster using kubectl.

Buat aplikasi HPA di Konsol

Container Service for Kubernetes (ACK) terintegrasi dengan HPA, sehingga memungkinkan Anda membuat kebijakan HPA di Konsol ACK. Anda dapat membuat kebijakan HPA saat membuat aplikasi atau mengaktifkan HPA untuk aplikasi yang sudah ada. Kami menyarankan agar Anda hanya membuat satu kebijakan HPA untuk setiap workload.

Buat aplikasi HPA menggunakan kubectl

Anda juga dapat membuat HPA secara manual dari template orkestrasi dan menyambungkannya ke objek Deployment yang ingin Anda skalakan. Kemudian, gunakan perintah kubectl untuk mengonfigurasi autoscaling untuk aplikasi tersebut. Kami menyarankan agar Anda hanya membuat satu HPA untuk setiap workload. Contoh berikut menunjukkan cara menerapkan aplikasi Nginx yang mendukung HPA.

1. Buat file bernama nginx.yml dan salin konten berikut ke dalamnya.

   Penting

   Saat mengimplementasikan HPA, Anda harus menetapkan sumber daya request untuk pod. Jika tidak, HPA tidak dapat berjalan. Anda dapat menggunakan fitur resource profile untuk menganalisis data historis penggunaan sumber daya dan mendapatkan rekomendasi konfigurasi permintaan (requests) dan batas (limits) kontainer. Untuk informasi selengkapnya, lihat Resource profile.

   Expand to view the YAML example

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx  
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 # Ganti dengan <image_name:tags> yang sebenarnya.
           ports:
           - containerPort: 80
           resources:
             requests:         # Anda harus menetapkan requests. Jika tidak, HPA tidak dapat melakukan perhitungan dan metrik akan ditampilkan sebagai unknown.
               cpu: 500m

2. Jalankan perintah berikut untuk membuat aplikasi Nginx.

   kubectl apply -f nginx.yml

3. Buat file bernama hpa.yml dan salin konten berikut ke dalamnya untuk membuat HPA.

   Gunakan scaleTargetRef untuk menentukan objek yang akan disambungkan ke HPA. Dalam contoh ini, HPA disambungkan ke Deployment bernama nginx. Operasi penskalaan dipicu ketika rata-rata penggunaan CPU semua kontainer di semua pod mencapai 50%.

   1.24 dan versi lebih baru

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Jumlah minimum replika yang dapat dicapai oleh deployment saat melakukan skala-masuk. Harus berupa bilangan bulat yang lebih besar dari atau sama dengan 1.
     maxReplicas: 10  # Jumlah maksimum replika yang dapat dicapai oleh deployment saat melakukan skala keluar. Harus lebih besar dari minReplicas.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50 # Target rata-rata pemanfaatan sumber daya. Ini adalah rasio antara rata-rata penggunaan sumber daya terhadap jumlah sumber daya yang diminta.
                  

   Versi 1.24 dan sebelumnya

   apiVersion: autoscaling/v2beta2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Harus berupa bilangan bulat yang lebih besar dari atau sama dengan 1.
     maxReplicas: 10  # Harus lebih besar dari jumlah minimum replika.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
                  

   Untuk menentukan metrik CPU dan memori sekaligus, tentukan kedua jenis sumber daya cpu dan memory dalam bidang metrics alih-alih membuat dua HPA. Ketika HPA mendeteksi bahwa salah satu metrik mencapai ambang batasnya, operasi penskalaan akan dipicu.

   metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
     - type: Resource
       resource:
         name: memory
         target:
           type: Utilization
           averageUtilization: 50

4. Jalankan perintah berikut untuk membuat HPA.

   kubectl apply -f hpa.yml

   Pada titik ini, jalankan kubectl describe hpa <HPA_name>. Dalam contoh ini, nama HPA adalah nginx-hpa. Pesan peringatan yang diharapkan menunjukkan bahwa HPA masih dalam proses penerapan. Anda dapat menjalankan perintah kubectl get hpa untuk memeriksa status HPA.

   Warning  FailedGetResourceMetric       2m (x6 over 4m)  horizontal-pod-autoscaler  missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5897-mqzs7
   
   Warning  FailedComputeMetricsReplicas  2m (x6 over 4m)  horizontal-pod-autoscaler  failed to get cpu utilization: missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5

5. Tunggu hingga HPA selesai dibuat dan pod memenuhi kondisi penskalaan. Dalam contoh ini, kondisi terpenuhi ketika penggunaan CPU pod Nginx melebihi 50%. Kemudian, jalankan perintah kubectl describe hpa <HPA_name> lagi untuk memeriksa status skalabilitas horizontal.

   Output yang diharapkan menunjukkan bahwa HPA berjalan sesuai harapan.

   Type    Reason             Age   From                       Message
     ----    ------             ----  ----                       -------
     Normal  SuccessfulRescale  5m6s  horizontal-pod-autoscaler  New size: 1; reason: All metrics below target

Operasi terkait

Jika perilaku penskalaan default tidak memenuhi kebutuhan bisnis Anda, Anda dapat menggunakan bidang behavior untuk mengonfigurasi perilaku skala-masuk (scaleDown) dan skala keluar (scaleUp) dengan granularitas lebih tinggi. Untuk informasi selengkapnya, lihat Configurable scaling behavior.

Skenario khas yang didukung oleh konfigurasi behavior meliputi, namun tidak terbatas pada:

• Mencapai skala keluar cepat selama lonjakan traffic mendadak.

• Menerapkan skala keluar cepat dan skala-masuk lambat dalam skenario dengan fluktuasi beban yang sering.

• Menonaktifkan skala-masuk untuk aplikasi yang sensitif terhadap status.

• Dalam skenario dengan sumber daya terbatas atau sensitif biaya, menggunakan jendela stabilisasi stabilizationWindowSeconds untuk membatasi kecepatan skala keluar dan mengurangi penyesuaian berulang akibat fluktuasi sementara.

Untuk informasi selengkapnya mengenai konfigurasi behavior dan contoh konfigurasinya, lihat Adjust the scaling sensitivity of HPA.

FAQ

• Apa yang harus saya lakukan jika unknown ditampilkan di kolom current pada metrik HPA?

• Apa yang harus saya lakukan jika HPA tidak dapat mengumpulkan metrik dan gagal melakukan penskalaan?

• Apa yang harus saya lakukan jika HPA menambahkan pod berlebih selama pembaruan bergilir (rolling update)?

• Apa yang harus saya lakukan jika HPA tidak menskalakan pod meskipun ambang batas penskalaan telah tercapai?

• Bagaimana cara mengonfigurasi interval pengumpulan metrik HPA?

• Apakah CronHPA dan HPA dapat berinteraksi tanpa konflik? Bagaimana cara mengaktifkan interaksi antara CronHPA dan HPA?

• Bagaimana cara memperbaiki masalah penambahan pod berlebih oleh HPA saat penggunaan CPU atau memori meningkat pesat?

• Apa yang harus saya lakukan jika HPA melakukan skala keluar aplikasi sedangkan nilai metrik dalam log audit lebih rendah dari ambang batas?

• Dapatkah HPA mengontrol urutan pod yang diskalakan masuk?

• Apa arti satuan metrik pemanfaatan yang dikumpulkan oleh HPA?

• Apa yang harus saya lakukan jika unknown ditampilkan di kolom TARGETS setelah menjalankan perintah kubectl get hpa?

• Bagaimana cara menemukan metrik yang didukung oleh HPA?

• Bagaimana cara mengonfigurasi autoscaling horizontal setelah saya menyesuaikan format log NGINX Ingress?

• Bagaimana cara mendapatkan URL permintaan data Prometheus?

• Bagaimana cara mengkueri metrik sls_ingress_qps dari command line?

• Bagaimana cara menggunakan konsol untuk mengelola VPA yang diinstal menggunakan kubectl?

• Gagal menarik citra alibaba-cloud-metrics-adapter

Referensi

Dokumen terkait lainnya

• Untuk mempelajari cara menggunakan metrik dari komponen Alibaba Cloud guna mengimplementasikan HPA dengan fitur External Metrics di Kubernetes, lihat Horizontally scale pods with Alibaba Cloud metrics.

• Untuk informasi selengkapnya tentang cara mengonversi metrik Prometheus menjadi metrik yang kompatibel dengan HPA guna mengimplementasikan HPA, lihat Horizontal pod autoscaling based on Prometheus metrics.

• Jika Anda mengalami masalah saat menggunakan HPA, lihat Node autoscaling FAQ untuk informasi troubleshooting.

• Untuk mengoordinasikan CronHPA dan HPA, lihat Coordinate CronHPA and HPA.

Solusi workload scaling lainnya

• Jika penggunaan sumber daya aplikasi Anda berubah secara periodik dan Anda perlu menskalakan pod berdasarkan kebijakan mirip Crontab, lihat Use CronHPA for scheduled horizontal scaling.

• Jika penggunaan sumber daya aplikasi Anda berubah secara periodik tetapi sulit didefinisikan dengan aturan, Anda dapat menggunakan Advanced Horizontal Pod Autoscaling (AHPA). AHPA secara otomatis mengidentifikasi siklus bisnis berdasarkan metrik historis untuk menskalakan pod. Untuk informasi selengkapnya, lihat Predictive scaling (AHPA).

• Untuk secara otomatis menetapkan batas sumber daya untuk pod berdasarkan penggunaan sumber dayanya agar pod menerima sumber daya komputasi yang cukup, lihat Use Vertical Pod Autoscaling (VPA).

• Untuk secara fleksibel menyesuaikan kebijakan penskalaan pod berdasarkan event Kubernetes seperti antrian pesan, kebijakan terjadwal, dan metrik kustom, lihat Event-driven autoscaling.

Solusi gabungan

Anda dapat menggunakan HPA bersama fitur node autoscaling untuk secara otomatis menskalakan node ketika sumber daya node kluster tidak mencukupi. Untuk informasi selengkapnya, lihat Enable node autoscaling.