Container Service for Kubernetes：Implementasikan penyesuaian otomatis pod horizontal berdasarkan metrik komponen Alibaba Cloud

Topik ini menunjukkan cara mengonfigurasi Horizontal Pod Autoscaler (HPA) dengan membuat deployment, layanan, dan Ingress bernama Nginx, sehingga memungkinkan penerapan penyesuaian otomatis pod horizontal berdasarkan metrik QPS Ingress dari Simple Log Service (SLS).

Langkah 1: Deploy komponen ack-alibaba-cloud-metrics-adapter

Komponen ack-alibaba-cloud-metrics-adapter memungkinkan Kubernetes memperoleh data pemantauan untuk produk Alibaba Cloud, seperti Elastic Compute Service (ECS), Server Load Balancer (SLB), dan ApsaraDB RDS (RDS), melalui External Metrics API, sehingga meningkatkan kemampuan pemantauan dan auto scaling kluster Anda.

1. Masuk ke ACK console. Di panel navigasi kiri, klik Clusters.

2. Pada halaman Clusters, klik nama kluster target. Di panel navigasi kiri, pilih Applications > Helm.

3. Pada halaman Helm, klik Create. Konfigurasikan parameter Basic Information, pilih ack-alibaba-cloud-metrics-adapter, lalu klik Next.

Langkah 2: Buat aplikasi dan layanan

1. Buat file bernama nginx-test.yaml.

   View YAML example

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx-deployment-basic
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 
           ports:
           - containerPort: 80
   ---
   apiVersion: v1
   kind: Service
   metadata:
     name: nginx
     namespace: default
   spec:
     ports:
       - port: 80
         protocol: TCP
         targetPort: 80
     selector:
       app: nginx
     type: ClusterIP

2. Jalankan perintah berikut untuk membuat deployment aplikasi dan layanan yang sesuai.

   kubectl apply -f nginx-test.yaml

Langkah 3: Buat Ingress

1. Di panel navigasi kiri halaman manajemen kluster, pilih Network > Ingresses. Di pojok kiri atas halaman Ingresses, klik Create Ingress.

2. Pada panel Create, masukkan informasi yang diperlukan, lalu klik OK. Setelah Ingress dibuat, Anda akan diarahkan ke halaman Ingresses.

3. Di kolom Name, klik nama Ingress untuk melihat informasi aturan routing-nya. Untuk informasi selengkapnya tentang Ingress, lihat Ingress management.

Langkah 4: Konfigurasi HPA

Anda dapat mengonfigurasi dua metrik dari proyek SLS dalam HPA untuk penskalaan, yaitu sls_ingress_qps dan sls_ingress_latency_p9999.

• sls_ingress_qps: Atur ke AverageValue. Artinya, QPS dibagi dengan jumlah pod sebelum dievaluasi.

• sls_ingress_latency_p9999: Atur ke Value. Artinya, nilai tersebut tidak dibagi dengan jumlah pod.

1. Buat file bernama ingress-hpa.yaml dan salin konten berikut ke dalamnya.

   View YAML example

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: ingress-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx-deployment-basic
     minReplicas: 2
     maxReplicas: 10
     metrics:
       - type: External
         external:
           metric:
             name: sls_ingress_qps
             selector:
               matchLabels:
                 sls.project: "***" # Ganti nilai sls.project dengan nilai aktual.
                 sls.logstore: "nginx-ingress"
                 sls.ingress.route: "default-nginx-80"
           target:
             type: AverageValue
             averageValue: 10
       - type: External
         external:
           metric:
             name: sls_ingress_latency_p9999
             selector:
               matchLabels:
                 # Proyek log Ingress default adalah k8s-log-clusterId.
                 sls.project: "***" 
                 # Logstore Ingress default adalah nginx-ingress.
                 sls.logstore: "nginx-ingress"
                 # namespace-svc-port
                 sls.ingress.route: "default-nginx-80"
                 # Titik akhir VPC SLS. Nilai default adalah true.
                 # sls.internal.endpoint:true
           target:
             type: Value
             # Jika sls_ingress_latency_p9999>10ms, HPA secara otomatis menambah jumlah pod untuk nginx-deployment-basic.
             value: 10

   Konfigurasi Horizontal Pod Autoscaler (HPA) mencakup parameter berikut.

   Nama Parameter	Wajib	Deskripsi
   sls.ingress.route	Ya	Format parameternya adalah <namespace>-<svc>-<port>. <namespace> adalah namespace tempat Ingress berada. <svc> adalah nama layanan yang sesuai dengan Ingress. <port> adalah nama port layanan yang sesuai dengan Ingress. Contoh: default-nginx-80.
   sls.logstore	Ya	Nama Logstore di Simple Log Service. Di kluster, nilai default sls.logstore adalah nginx-ingress.
   sls.project	Ya	Nama proyek di Simple Log Service. Di kluster, nilai default sls.project adalah k8s-log-Cluster ID.
   sls.internal.endpoint	Tidak	Menentukan apakah akses ke Simple Log Service dilakukan melalui jaringan pribadi atau Internet. Nilai default adalah true. true: Akses SLS melalui jaringan pribadi. false: Akses SLS melalui Internet.

2. Jalankan perintah berikut untuk membuat HPA.

   kubectl apply -f ingress-hpa.yaml

Langkah 5: Verifikasi hasil

1. Setelah mengonfigurasi HPA, jalankan perintah berikut untuk melakukan uji stres.

   ab -t 300 -c 10 <domain_name_configured_for_ingress> # Gunakan Apache Benchmark untuk melakukan uji stres pada layanan yang diekspos oleh Ingress. Atur konkurensi ke 10 dan durasi ke 300 detik.

2. Verifikasi status penskalaan.

   1. Di panel navigasi kiri konsol, klik Clusters. Pada halaman Clusters, temukan kluster target, lalu pilih More > Manage Cluster via CloudShell di kolom Actions.

   2. Jalankan perintah berikut untuk memeriksa status penskalaan.

      kubectl get hpa ingress-hpa

      Output yang diharapkan:

      NAME            REFERENCE                              TARGETS           MINPODS    MAXPODS    REPLICAS   AGE
      ingress-hpa     Depolyment/nginx-deployment-basic      21/10 (avg)       2          10         10          7m49s

      Penskalaan berhasil jika nilai REPLICAS sama dengan nilai MAXPODS.

FAQ

kubectl get --raw  /apis/external.metrics.k8s.io/v1beta1/namespaces/*/sls_ingress_qps?labelSelector=sls.project={{SLS_Project}},sls.logstore=nginx-ingress

Error from server: {
    "httpCode": 400,
    "errorCode": "ParameterInvalid",
    "errorMessage": "key (slb_pool_name) is not config as key value config,if symbol : is  in your log,please wrap : with quotation mark \"",
    "requestID": "xxxxxxx"
}

{
  "kind": "ExternalMetricValueList",
  "apiVersion": "external.metrics.k8s.io/v1beta1",
  "metadata": {},
  "items": [
    {
      "metricName": "sls_ingress_qps",
      "timestamp": "2025-02-26T16:45:00Z", 
      "value": "50",   # Nilai QPS
      "metricLabels": {
        "sls.project": "your-sls-project-name",
        "sls.logstore": "nginx-ingress"
      }
    }
  ]
}

Referensi

• Implementasikan penyesuaian otomatis pod horizontal berdasarkan metrik Prometheus Alibaba Cloud

• Implementasikan penyesuaian otomatis pod horizontal untuk beberapa aplikasi berdasarkan metrik traffic Nginx Ingress