Container Service for Kubernetes:Skalakan pod berdasarkan metrik Nginx Ingress

Prasyarat

Sebelum memulai, pastikan Anda telah memiliki:

• Kluster ACK dengan kubectl yang telah dikonfigurasi

• Kontroler Ingress dengan pengumpulan log SLS yang diaktifkan (diaktifkan secara default saat Anda membuat kluster)

• Izin untuk menginstal Helm chart dan membuat resource HPA

Cara kerja

Komponen ack-alibaba-cloud-metrics-adapter menjembatani layanan pemantauan Alibaba Cloud dan External Metrics API Kubernetes. Setelah diinstal, HPA dapat mengkueri metrik Ingress SLS—seperti sls_ingress_qps dan sls_ingress_latency_p9999—dan menyesuaikan jumlah replika Deployment Anda sesuai kebutuhan.

Langkah 1: Instal ack-alibaba-cloud-metrics-adapter

Komponen ack-alibaba-cloud-metrics-adapter memungkinkan Kubernetes mengambil data pemantauan dari layanan Alibaba Cloud—termasuk ECS, SLB, dan RDS—melalui External Metrics API.

1. Masuk ke Container Service Management Console. Di panel navigasi, klik Clusters.

2. Klik nama kluster Anda. Di panel navigasi kiri, pilih Applications > Helm.

3. Di halaman Helm, klik Create. Lengkapi konfigurasi Basic Information, pilih ack-alibaba-cloud-metrics-adapter, lalu klik Next.

4. Di halaman Parameter Settings, pilih Chart Version dan klik OK.

Langkah 3: Buat Ingress

1. Di panel navigasi kiri halaman manajemen kluster, pilih Network > Ingress. Di halaman Ingress, klik Create Ingress.

2. Isi kolom yang diperlukan lalu klik OK. Konsol akan mengarahkan Anda ke halaman Ingress.

3. Di kolom Name, klik nama Ingress untuk melihat aturan routing-nya. Untuk detail selengkapnya, lihat Manage Ingress.

Langkah 4: Konfigurasi HPA

HPA mendukung dua metrik Ingress SLS dengan semantik penskalaan yang berbeda:

1. Buat file ingress-hpa.yaml dengan konten berikut:

   Parameter	Wajib	Deskripsi
   sls.ingress.route	Ya	Format: <namespace>-<svc>-<port>. Contoh: default-nginx-80
   sls.logstore	Ya	Logstore di Simple Log Service. Default: nginx-ingress
   sls.project	Ya	Project di Simple Log Service. Default: k8s-log-<cluster-id>
   sls.internal.endpoint	Tidak	Apakah mengakses SLS melalui jaringan internal. Default: true. Atur ke false untuk menggunakan jaringan publik.

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: ingress-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx-deployment-basic
     minReplicas: 2
     maxReplicas: 10
     metrics:
       - type: External
         external:
           metric:
             name: sls_ingress_qps
             selector:
               matchLabels:
                 sls.project: "<your-sls-project>"      # Default: k8s-log-<cluster-id>
                 sls.logstore: "nginx-ingress"           # Logstore SLS default untuk log Nginx Ingress
                 sls.ingress.route: "default-nginx-80"  # Format: <namespace>-<svc>-<port>
           target:
             type: AverageValue
             averageValue: 10   # Lakukan scale up ketika QPS rata-rata per pod melebihi 10
       - type: External
         external:
           metric:
             name: sls_ingress_latency_p9999
             selector:
               matchLabels:
                 sls.project: "<your-sls-project>"
                 sls.logstore: "nginx-ingress"
                 sls.ingress.route: "default-nginx-80"
                 # sls.internal.endpoint: "true"         # true = jaringan internal (default); false = jaringan publik
           target:
             type: Value
             value: 10   # Lakukan scale up ketika latensi persentil ke-99,99 melebihi 10 ms

   Tabel berikut menjelaskan parameter yang digunakan dalam konfigurasi HPA.

2. Terapkan konfigurasi tersebut:

   kubectl apply -f ingress-hpa.yaml

Verifikasi penskalaan

Jalankan uji beban selama 5 menit terhadap domain Ingress Anda untuk memicu scale-up:

# Kirim 10 permintaan konkuren selama 300 detik
ab -t 300 -c 10 <domain-name-configured-for-the-ingress>

Pantau status HPA secara real time:

kubectl get hpa ingress-hpa --watch

Output yang diharapkan saat scale-up berhasil (REPLICAS mencapai MAXPODS):

NAME            REFERENCE                              TARGETS           MINPODS   MAXPODS   REPLICAS   AGE
ingress-hpa     Deployment/nginx-deployment-basic      21/10 (avg)       2         10        10         7m49s

Saat lalu lintas turun di bawah ambang batas, nilai REPLICAS akan kembali ke nilai minimum.

Troubleshooting

Mulai troubleshooting dengan menjalankan kubectl describe hpa ingress-hpa dan periksa bidang Conditions. Gunakan kolom Type dan Status untuk mengidentifikasi masalah, lalu ikuti langkah-langkah berikut.

Kolom `target` menampilkan `unknown`

1. Jalankan kubectl describe hpa <hpa-name> dan periksa bidang Conditions:

   • Jika AbleToScale bernilai False: pastikan Deployment dalam kondisi sehat.

   • Jika ScalingActive bernilai False: lanjutkan ke langkah berikutnya.

2. Jalankan perintah berikut untuk memeriksa apakah External Metrics API tersedia:

   kubectl get --raw "/apis/external.metrics.k8s.io/v1beta1/"

   Jika responsnya adalah Error from server (NotFound), periksa status startup alibaba-cloud-metrics-adapter. Jika adapter berjalan normal dan metrik HPA terkait Ingress, deploy komponen SLS terlebih dahulu. Untuk detail selengkapnya, lihat Collect and analyze Nginx Ingress access logs.

3. Verifikasi format sls.ingress.route. Nilainya harus berupa <namespace>-<svc>-<port>, dengan ketentuan:

   • namespace: namespace tempat Ingress berada

   • svc: nama Service yang terkait dengan Ingress

   • port: nama port dari Service tersebut

Gagal menarik gambar ack-alibaba-cloud-metrics-adapter (versi 1.3.7)

Saat melakukan upgrade ke versi 1.3.7, Anda mungkin melihat:

Failed to pull image "registry-<region-id>-vpc.ack.aliyuncs.com/acs/alibaba-cloud-metrics-adapter-amd64:v0.2.9-ba634de-aliyun".

Hal ini terjadi karena komponen tidak mendukung pembaruan langsung. Untuk mengatasinya:

1. Cadangkan konfigurasi komponen saat ini.

2. Uninstal versi lama.

3. Instal versi terbaru menggunakan konfigurasi cadangan tersebut.

FAQ

kubectl get --raw "/apis/external.metrics.k8s.io/v1beta1/namespaces/*/sls_ingress_qps?labelSelector=sls.project={{SLS_Project}},sls.logstore=nginx-ingress"

Langkah selanjutnya

• Penyesuaian otomatis pod horizontal berdasarkan metrik Prometheus Alibaba Cloud

• Penyesuaian otomatis pod horizontal multi-aplikasi berdasarkan metrik traffic Nginx Ingress