Alibaba Cloud Service Mesh:Gunakan metrik ASM untuk menskalakan workload secara otomatis

Langkah 1: Aktifkan pengumpulan metrik Prometheus

Aktifkan ASM untuk mengekspor metrik ke instans Prometheus Anda. Untuk instruksi detail, lihat Kumpulkan metrik pemantauan di Managed Service for Prometheus.

Langkah 2: Deploy adapter metrik kustom

Instal kube-metrics-adapter, yang mendaftarkan dirinya sebagai penyedia untuk External Metrics API dan menerjemahkan permintaan metrik HPA menjadi kueri Prometheus.

1. Instal adapter dengan Helm. Ganti http://prometheus.istio-system.svc:9090 dengan URL server Prometheus Anda jika berjalan di namespace berbeda atau menggunakan nama layanan berbeda.

      helm -n kube-system install asm-custom-metrics ./kube-metrics-adapter \
        --set prometheus.url=http://prometheus.istio-system.svc:9090

2. Verifikasi instalasi.

   1. Konfirmasi bahwa API autoscaling/v2 tersedia.

         kubectl api-versions | grep "autoscaling/v2"

      Output yang diharapkan:

         autoscaling/v2

   2. Periksa apakah pod adapter sedang berjalan.

         kubectl get po -n kube-system | grep metrics-adapter

      Output yang diharapkan:

         asm-custom-metrics-kube-metrics-adapter-85c6d5d865-2****   1/1     Running   0   19s

   3. Konfirmasi bahwa endpoint External Metrics API telah terdaftar.

         kubectl get --raw "/apis/external.metrics.k8s.io/v1beta1" | jq .

      Output yang diharapkan:

         {
           "kind": "APIResourceList",
           "apiVersion": "v1",
           "groupVersion": "external.metrics.k8s.io/v1beta1",
           "resources": [
             {
               "name": "prometheus-query",
               "singularName": "",
               "namespaced": true,
               "kind": "ExternalMetricValueList",
               "verbs": [
                 "get"
               ]
             }
           ]
         }

      Array resources kosong karena belum ada HPA yang mendaftarkan kueri metrik. Array ini akan terisi setelah Anda men-deploy HPA di Langkah 4.

Langkah 3: Deploy aplikasi contoh

Langkah 4: Konfigurasikan HPA dengan metrik ASM

Definisikan HPA yang menskalakan Deployment podinfo berdasarkan laju permintaan. Konfigurasi ini menghubungkan tiga komponen:

Contoh ini menggunakan versi API HPA autoscaling/v2, yang memerlukan Kubernetes 1.23 atau lebih baru. Versi v2beta2 telah dihapus di Kubernetes 1.26.

1. Buat file bernama hpa.yaml dengan konten berikut.

   Penjelasan field utama:

   Field	Deskripsi
   metric-config.external.prometheus-query.prometheus/processed-requests-per-second	Anotasi yang menyematkan kueri PromQL. Akhiran (processed-requests-per-second) adalah nama yang ditentukan pengguna yang menghubungkan anotasi dengan pemilih metrik HPA.
   metrics[].external.metric.name	Harus prometheus-query — pengenal tetap yang dikenali oleh kube-metrics-adapter.
   metrics[].external.metric.selector.matchLabels.query-name	Harus sesuai dengan akhiran kunci anotasi (processed-requests-per-second).
   target.averageValue	Ambang batas per pod. HPA membagi hasil total kueri dengan jumlah replika saat ini dan membandingkannya dengan nilai ini.

      apiVersion: autoscaling/v2
      kind: HorizontalPodAutoscaler
      metadata:
        name: podinfo
        namespace: test
        annotations:
          # Format anotasi: metric-config.external.prometheus-query.prometheus/<query-name>
          # <query-name> harus sesuai dengan label query-name di spec.metrics di bawah.
          # Nilainya adalah kueri PromQL yang dikirim kube-metrics-adapter ke Prometheus.
          metric-config.external.prometheus-query.prometheus/processed-requests-per-second: |
            sum(
                rate(
                    istio_requests_total{
                      destination_workload="podinfo",
                      destination_workload_namespace="test",
                      reporter="destination"
                    }[1m]
                )
            )
      spec:
        maxReplicas: 10
        minReplicas: 1
        scaleTargetRef:
          apiVersion: apps/v1
          kind: Deployment
          name: podinfo
        metrics:
          - type: External          # Gunakan External karena metrik Prometheus bukan objek Kubernetes
            external:
              metric:
                name: prometheus-query                  # Nama metrik tetap untuk kube-metrics-adapter
                selector:
                  matchLabels:
                    query-name: processed-requests-per-second  # Harus sesuai dengan kunci anotasi di atas
              target:
                type: AverageValue
                averageValue: "10"   # Lakukan skala keluar ketika laju permintaan rata-rata melebihi 10 req/s per pod

2. Terapkan HPA.

      kubectl apply -f hpa.yaml

3. Verifikasi bahwa External Metrics API sekarang mencantumkan metrik yang terdaftar. Output yang diharapkan: Resource prometheus-query mengonfirmasi bahwa HPA telah mendaftarkan metriknya ke adapter.

      kubectl get --raw "/apis/external.metrics.k8s.io/v1beta1" | jq .

      {
        "kind": "APIResourceList",
        "apiVersion": "v1",
        "groupVersion": "external.metrics.k8s.io/v1beta1",
        "resources": [
          {
            "name": "prometheus-query",
            "singularName": "",
            "namespaced": true,
            "kind": "ExternalMetricValueList",
            "verbs": [
              "get"
            ]
          }
        ]
      }

Verifikasi skalabilitas otomatis

1. Hasilkan beban berkelanjutan dari pod load tester. Ini mengirim 50 permintaan per detik (10 pekerja konkuren dengan 5 QPS masing-masing) selama 5 menit.

      # Dapatkan nama pod load tester (lewati ini jika $loadtester sudah diatur dari Langkah 3)
      export loadtester=$(kubectl -n test get pod -l "app=loadtester" \
        -o jsonpath='{.items[0].metadata.name}')
   
      kubectl -n test exec -it ${loadtester} -c loadtester -- \
        hey -z 5m -c 10 -q 5 http://podinfo.test:9898

2. Pantau HPA di terminal terpisah. Output yang diharapkan (setelah sekitar satu menit):

   Catatan

   HPA menyinkronkan metrik setiap 30 detik. Keputusan penskalaan hanya berlaku jika tidak ada peristiwa penskalaan dalam 3–5 menit sebelumnya. Jeda ini mencegah keputusan penskalaan yang cepat dan bertentangan serta memberi waktu bagi Cluster Autoscaler untuk menyediakan node baru jika diperlukan.

      watch kubectl -n test get hpa/podinfo

      NAME      REFERENCE            TARGETS          MINPODS   MAXPODS   REPLICAS   AGE
      podinfo   Deployment/podinfo   8308m/10 (avg)   1         10        6          124m

3. Amati skala turun setelah pengujian beban selesai. Ketika pengujian beban berakhir, laju permintaan turun menjadi nol. HPA secara bertahap melakukan skala turun Deployment hingga jumlah replika kembali ke 1.