Container Service for Kubernetes:Penyesuaian Otomatis Pod Horizontal Berdasarkan Metrik Komponen Nginx Ingress

Topik ini memandu Anda melalui langkah-langkah berikut untuk mengonfigurasi penyesuaian otomatis pod horizontal (HPA) menggunakan metrik QPS Ingress dari Simple Log Service (SLS). Contoh ini menerapkan Deployment bernama nginx, sebuah Service, dan sebuah Ingress.

Langkah 1: Terapkan komponen ack-alibaba-cloud-metrics-adapter

Komponen ack-alibaba-cloud-metrics-adapter memungkinkan Kubernetes mengambil data pemantauan dari layanan Alibaba Cloud—termasuk ECS, SLB, dan RDS—melalui API External Metrics, sehingga meningkatkan kemampuan pemantauan dan autoscaling kluster.

1. Masuk ke Container Service Management Console . Di panel navigasi kiri, klik Clusters.

2. Pada halaman Clusters, klik nama kluster Anda. Di panel navigasi kiri, pilih Applications > Helm.

3. Pada halaman Helm, klik Create. Lengkapi konfigurasi Basic Information. Pilih ack-alibaba-cloud-metrics-adapter dan klik Next.

4. Pada halaman Parameter Settings, pilih Chart Version dan klik OK.

Langkah 2: Buat aplikasi dan layanan

1. Buat file bernama nginx-test.yaml.

   Expand to view the YAML example

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx-deployment-basic
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 
           ports:
           - containerPort: 80
   ---
   apiVersion: v1
   kind: Service
   metadata:
     name: nginx
     namespace: default
   spec:
     ports:
       - port: 80
         protocol: TCP
         targetPort: 80
     selector:
       app: nginx
     type: ClusterIP

2. Jalankan perintah berikut untuk membuat Deployment dan Service-nya.

   kubectl apply -f nginx-test.yaml

Langkah 3: Buat entri rute

1. Di panel navigasi kiri halaman manajemen kluster, pilih Network > Ingress. Pada halaman Ingress, klik Create Ingress di pojok kiri atas.

2. Isi kolom yang diperlukan pada panel Create dan klik OK. Setelah pembuatan selesai, sistem akan mengarahkan Anda secara otomatis ke halaman Ingress.

3. Pada kolom Name, klik nama Ingress yang telah Anda buat untuk melihat aturan routing-nya. Untuk informasi selengkapnya, lihat Manage Ingress.

Langkah 4: Konfigurasi HPA

Anda dapat mengonfigurasi dua metrik Project SLS untuk penskalaan dalam HPA: sls_ingress_qps dan sls_ingress_latency_p9999.

• sls_ingress_qps: Gunakan AverageValue. Nilai QPS dibagi dengan jumlah pod sebelum dibandingkan.

• sls_ingress_latency_p9999: Gunakan Value. Nilai mentah digunakan tanpa pembagian.

1. Buat file bernama ingress-hpa.yaml dan tempel konten berikut ke dalamnya.

   Expand to view the YAML example

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: ingress-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx-deployment-basic
     minReplicas: 2
     maxReplicas: 10
     metrics:
       - type: External
         external:
           metric:
             name: sls_ingress_qps
             selector:
               matchLabels:
                 sls.project: "***" # Ganti *** dengan nama project SLS aktual Anda.
                 sls.logstore: "nginx-ingress"
                 sls.ingress.route: "default-nginx-80"
           target:
             type: AverageValue
             averageValue: 10
       - type: External
         external:
           metric:
             name: sls_ingress_latency_p9999
             selector:
               matchLabels:
                 # Project log Ingress default adalah k8s-log-clusterId
                 sls.project: "***" 
                 # Logstore Ingress default adalah nginx-ingress
                 sls.logstore: "nginx-ingress"
                 # Format: namespace-svc-port
                 sls.ingress.route: "default-nginx-80"
                 # Titik akhir VPC SLS. Default adalah true.
                 # sls.internal.endpoint:true
           target:
             type: Value
             # Jika sls_ingress_latency_p9999 > 10 ms, HPA menambah jumlah pod di nginx-deployment-basic.
             value: 10

   Tabel berikut menjelaskan parameter yang digunakan dalam konfigurasi HPA.

   Nama Parameter	Wajib	Deskripsi
   sls.ingress.route	Ya	Format: <namespace>-<svc>-<port>. <namespace> adalah namespace tempat Ingress berada. <svc> adalah nama Service yang terkait dengan Ingress. <port> adalah nama port dari Service tersebut. Contoh: default-nginx-80.
   sls.logstore	Ya	Nama Logstore di Simple Log Service. Secara default, sls.logstore adalah nginx-ingress.
   sls.project	Ya	Nama Project di Simple Log Service. Secara default, sls.project adalah k8s-log-<cluster-id>.
   sls.internal.endpoint	Tidak	Tentukan apakah akses ke Simple Log Service dilakukan melalui jaringan internal atau jaringan publik. Nilai default adalah true. true: Akses SLS melalui jaringan internal. false: Akses SLS melalui jaringan publik.

2. Jalankan perintah berikut untuk membuat HPA.

   kubectl apply -f ingress-hpa.yaml

Langkah 5: Verifikasi hasil

1. Setelah mengonfigurasi HPA, jalankan perintah berikut untuk melakukan uji stres.

   ab -t 300 -c 10 <nama-domain-yang-dikonfigurasi-untuk-ingress> # Gunakan Apache Benchmark untuk mengirim 10 permintaan konkuren ke layanan yang diekspos oleh Ingress selama 300 detik.

2. Verifikasi status penskalaan.

   Jalankan perintah berikut untuk memeriksa status.

   kubectl get hpa ingress-hpa

   Output yang diharapkan:

   NAME            REFERENCE                              TARGETS           MINPODS    MAXPODS    REPLICAS   AGE
   ingress-hpa     Deployment/nginx-deployment-basic      21/10 (avg)       2          10         10         7m49s

   Jika nilai REPLICAS sama dengan nilai MAXPODS, penskalaan berhasil.

FAQ

kubectl get --raw  /apis/external.metrics.k8s.io/v1beta1/namespaces/*/sls_ingress_qps?labelSelector=sls.project={{SLS_Project}},sls.logstore=nginx-ingress

Error from server: {
    "httpCode": 400,
    "errorCode": "ParameterInvalid",
    "errorMessage": "key (slb_pool_name) is not config as key value config,if symbol : is  in your log,please wrap : with quotation mark \"",
    "requestID": "xxxxxxx"
}

{
  "kind": "ExternalMetricValueList",
  "apiVersion": "external.metrics.k8s.io/v1beta1",
  "metadata": {},
  "items": [
    {
      "metricName": "sls_ingress_qps",
      "timestamp": "2025-02-26T16:45:00Z", 
      "value": "50",   # Nilai QPS
      "metricLabels": {
        "sls.project": "your-sls-project-name",
        "sls.logstore": "nginx-ingress"
      }
    }
  ]
}

Referensi

• Penyesuaian Otomatis Pod Horizontal Berdasarkan Metrik Prometheus Alibaba Cloud

• Penyesuaian Otomatis Pod Horizontal Multi-aplikasi Berdasarkan Metrik Traffic Nginx Ingress