Container Service for Kubernetes：Penyesuaian Otomatis Pod Horizontal berdasarkan metrik Prometheus Alibaba Cloud

Prasyarat

• Komponen pemantauan Prometheus telah diterapkan. Untuk informasi selengkapnya, lihat Hubungkan ke dan konfigurasikan Layanan Prometheus.

• Komponen ack-alibaba-cloud-metrics-adapter telah diterapkan. Untuk informasi selengkapnya, lihat Terapkan komponen ack-alibaba-cloud-metrics-adapter.

  Catatan

  Masuk ke Konsol Container Service for Kubernetes (ACK). Pada halaman Marketplace > App Marketplace, terapkan komponen ack-alibaba-cloud-metrics-adapter.

Fitur

Secara default, HPA hanya mendukung penskalaan otomatis berdasarkan CPU dan memori, yang mungkin tidak memenuhi kebutuhan O&M harian. Layanan Prometheus terintegrasi penuh dengan ekosistem Prometheus open source, mendukung pemantauan berbagai komponen, menyediakan banyak dasbor siap pakai, serta menawarkan layanan Prometheus yang sepenuhnya dikelola. Proses ini melibatkan tiga langkah utama:

1. Ekspos metrik pemantauan menggunakan Layanan Prometheus di kluster ACK.

2. Konversi metrik pemantauan Prometheus menjadi metrik agregasi Kubernetes yang dapat digunakan HPA menggunakan komponen ack-alibaba-cloud-metrics-adapter. Untuk informasi selengkapnya, lihat Penskalaan otomatis berdasarkan beberapa metrik dan metrik kustom.

3. Konfigurasikan dan terapkan HPA untuk melakukan penskalaan elastis berdasarkan metrik dari langkah sebelumnya.

   Metrik dibagi menjadi dua jenis berdasarkan skenario:

   • Custom Metric: Melakukan penskalaan berdasarkan metrik yang terkait dengan objek target Kubernetes, seperti pod. Contohnya adalah metrik dari dimensi pod itu sendiri. Untuk informasi selengkapnya, lihat autoscaling-on-multiple-metrics-and-custom-metrics.

   • External Metric: Melakukan penskalaan berdasarkan metrik yang tidak terkait dengan objek target Kubernetes, seperti pod. Misalnya, Anda dapat menskalakan pod suatu workload berdasarkan metrik permintaan per detik (QPS) bisnis secara keseluruhan. Untuk informasi selengkapnya, lihat autoscaling-on-metrics-not-related-to-kubernetes-objects.

Bagian berikut menjelaskan cara mengonfigurasi ack-alibaba-cloud-metrics-adapter untuk mengonversi metrik Layanan Prometheus menjadi metrik yang kompatibel dengan HPA dan mengaktifkan penskalaan otomatis berdasarkan metrik tersebut.

Langkah 1: Peroleh data pemantauan Prometheus

Contoh 1: Gunakan metrik pemantauan kontainer default di ACK

Anda dapat menggunakan metrik default dari Layanan Prometheus, yang diinstal secara default di ACK, untuk penskalaan elastis HPA. Metrik yang didukung mencakup metrik pemantauan kontainer cAdvisor, metrik pemantauan infrastruktur Node-Exporter, metrik GPU-Exporter, dan semua metrik lain yang telah Anda hubungkan ke Layanan Prometheus. Untuk melihat metrik yang terhubung ke Layanan Prometheus, lakukan langkah-langkah berikut:

1. Masuk ke Konsol ACK. Di panel navigasi kiri, klik Clusters.

2. Pada halaman Clusters, temukan kluster yang diinginkan dan klik namanya. Di panel navigasi kiri, pilih Operations > Prometheus Monitoring.

3. Di pojok kanan atas, klik Go to Prometheus Service.

4. Di panel navigasi kiri konsol Layanan Prometheus, klik Settings untuk melihat semua metrik yang terhubung ke Layanan Prometheus.

Contoh 2: Gunakan metrik Prometheus yang dilaporkan oleh pod

Terapkan aplikasi uji dan ekspos metriknya menggunakan metode standar Prometheus. Untuk informasi selengkapnya, lihat metric_type. Bagian berikut menjelaskan cara menerapkan aplikasi sample-app dan mengekspos metrik http_requests_total untuk melacak jumlah permintaan.

1. Terapkan workload aplikasi.

   1. Masuk ke Konsol ACK. Di panel navigasi kiri, klik Clusters.

   2. Pada halaman Clusters, klik nama kluster target. Di panel navigasi kiri, klik Workloads > Deployments.

   3. Di sisi kanan halaman Stateless, klik Create From YAML. Pada halaman Create yang terbuka, untuk Sample Template, pilih Custom, masukkan YAML berikut, lalu klik Create.

      Expand to view YAML details

      apiVersion: apps/v1
      kind: Deployment
      metadata:
        name: sample-app
        labels:
          app: sample-app
      spec:
        replicas: 1
        selector:
          matchLabels:
            app: sample-app
        template:
          metadata:
            labels:
              app: sample-app
          spec:
            containers:
            - image: registry-cn-hangzhou.ack.aliyuncs.com/acs/autoscale-demo:v0.1.2-dfbc5fd-aliyun
              name: metrics-provider
              ports:
              - name: http
                containerPort: 8080
      ---
      apiVersion: v1
      kind: Service
      metadata:
        name: sample-app
        namespace: default
        labels:
          app: sample-app
      spec:
        ports:
          - port: 8080
            name: http
            protocol: TCP
            targetPort: 8080
        selector:
          app: sample-app
        type: ClusterIP

2. Tambahkan ServiceMonitor

   1. Masuk ke Konsol ARMS.

   2. Di panel navigasi kiri, klik Provisioning. Pada tab Provisioned, di bawah tab Container Environment, pilih wilayah tempat kluster berada, lalu klik nama lingkungan yang sesuai. Nama lingkungan sama dengan nama kluster.

   3. Pada halaman lingkungan kontainer, klik tab Metric Collection. Di panel navigasi kiri halaman saat ini, klik ServiceMonitor. Pada halaman ServiceMonitor, klik Add. Pada panel Add ServiceMonitor Config, klik YAML Edit, tambahkan konfigurasi ServiceMonitor berikut, lalu ikuti petunjuk di layar untuk membuat ServiceMonitor.

      apiVersion: monitoring.coreos.com/v1
      kind: ServiceMonitor
      metadata:
        annotations:
          arms.prometheus.io/discovery: 'true'
        name: sample-app
        namespace: default
      spec:
        endpoints:
        - interval: 30s
          port: http
          path: /metrics
        namespaceSelector:
          any: true
        selector:
          matchLabels:
            app: sample-app

3. Konfirmasi status pemantauan.

   Klik tab Self-monitoring. Di bagian Targets, jika ditampilkan default/sample-app/0(1/1 up), berarti Layanan Prometheus berhasil memantau aplikasi yang diterapkan.

4. Di dasbor Prometheus, kueri nilai http_requests_total untuk rentang waktu terbaru guna memastikan data pemantauan diperoleh dengan benar.

Langkah 2: Ubah konfigurasi komponen ack-alibaba-cloud-metrics-adapter

1. Masuk ke Konsol ACK. Di panel navigasi kiri, klik Clusters.

2. Pada halaman Clusters, klik nama kluster target. Di panel navigasi kiri, klik Applications > Helm.

3. Pada halaman Helm, temukan ack-alibaba-cloud-metrics-adapter dan klik Update di kolom Actions.

4. Pada panel Update Release, konfigurasikan YAML berikut, lalu klik OK.

   Expand to view YAML details

     AlibabaCloudMetricsAdapter:
     ......
       prometheus:
         enabled: true    # Setel ke true untuk mengaktifkan fitur adapter Prometheus secara keseluruhan.
         # Masukkan alamat Layanan Prometheus.
         url: https://cn-beijing.arms.aliyuncs.com:9443/api/v1/prometheus/xxxx/xxxx/xxxx/cn-beijing
       	# Jika Anda menggunakan Layanan Prometheus V1 dan mengaktifkan token autentikasi, Anda harus mengonfigurasi prometheusHeader Authorization.
         prometheusHeader:
         - Authorization: {Token}
         	# Jika Anda menggunakan Layanan Prometheus V2 dan tidak mengaktifkan akses tanpa kata sandi, Anda harus mengonfigurasi prometheusHeader Authorization.
         # prometheusHeader:
         # - Authorization: Basic <base64Encode(<accessKey:secretKey>)>
         metricsRelistInterval: 1m # Interval untuk mengambil ulang daftar metrik. Kami menyarankan mempertahankan nilai default 1 menit.
       	logLevel: 5								# Tingkat log debug untuk komponen. Kami menyarankan mempertahankan nilai default.
       
         adapter:
           rules:
             default: false  			# Konfigurasi pengambilan metrik default. Kami menyarankan mempertahankan nilai false.
             custom:
             
             # Contoh 1: ini adalah contoh konfigurasi metrik kustom.
             # Konfigurasi ini akan mengonversi metrik prometheus: container_memory_working_set_bytes menjadi metrik kustom container_memory_working_set_bytes_per_second
             # dan metrik cpu container_cpu_usage_seconds_total menjadi container_cpu_usage_core_per_second
             # Anda dapat menjalankan perintah untuk memeriksa nilai memori/cpu:
             # kubectl get --raw  "/apis/custom.metrics.k8s.io/v1beta1/namespaces/kube-system/pods/*/container_memory_working_set_bytes_per_second"
             # kubectl get --raw  "/apis/custom.metrics.k8s.io/v1beta1/namespaces/kube-system/pods/*/container_cpu_usage_core_per_second"
             # referensi dokumen: https://www.alibabacloud.com/help/document_detail/184519.html
     
             - seriesQuery: 'container_memory_working_set_bytes{namespace!="",pod!=""}'
               resources:
                 overrides:
                   namespace: { resource: "namespace" }
                   pod: { resource: "pod" }
               name:
                 matches: "^(.*)_bytes"
                 as: "${1}_bytes_per_second"
               metricsQuery: 'sum(<<.Series>>{<<.LabelMatchers>>}) by (<<.GroupBy>>)' # labelSelector dalam konfigurasi metricsQuery tidak mewarisi label filter dari series_Query.
             - seriesQuery: 'container_cpu_usage_seconds_total{namespace!="",pod!=""}'
               resources:
                 overrides:
                   namespace: { resource: "namespace" }
                   pod: { resource: "pod" }
               name:
                 matches: "^(.*)_seconds_total"
                 as: "${1}_core_per_second"
               metricsQuery: 'sum(rate(<<.Series>>{<<.LabelMatchers>>}[1m])) by (<<.GroupBy>>)'  # labelSelector dalam konfigurasi metricsQuery tidak mewarisi label filter dari series_Query.
             - seriesQuery: 'http_requests_total{namespace!="",pod!=""}'
               resources:
                 overrides:
                   namespace: {resource: "namespace"}
                   pod: {resource: "pod"}
               name:
                 matches: "^(.*)_total"
                 as: "${1}_per_second"
               metricsQuery: 'sum(rate(<<.Series>>{<<.LabelMatchers>>}[2m])) by (<<.GroupBy>>)'
     
             # Contoh 2: ini adalah contoh konfigurasi metrik eksternal.
             
             # referensi dokumen: https://www.alibabacloud.com/help/document_detail/608768.html
     
             # Tambahkan aturan transformasi baru. Pastikan label metrik di Layanan Prometheus sesuai dengan yang ada di sini. Jika tidak, lihat cara mengubah label metrik di ARMS Prometheus.
             
             #- seriesQuery: http_requests_total{namespace!="",pod!=""}
             #  resources:
             #    overrides:
             #      # Resource di sini adalah Resource API Kubernetes. Anda dapat melihatnya dengan menjalankan kubectl api-resources -o wide.
             #      # Kunci di sini sesuai dengan LabelName dalam data Prometheus. Pastikan LabelName ini ada dalam data metrik Prometheus.
             #      namespace: {resource: "namespace"}
             #      pod: {resource: "pod"}
             #  name:
             #    matches: ^(.*)_total
             #   as: ${1}_per_second
             #  metricsQuery: sum(rate(<<.Series>>{<<.LabelMatchers>>}[2m])) by (<<.GroupBy>>)
     
     
             # ini adalah contoh konfigurasi metrik eksternal.
             
             # referensi dokumen: https://www.alibabacloud.com/help/document_detail/608768.html
     
             #- seriesQuery: arms_app_requests_count
             #  metricsQuery: sum by (rpc) (sum_over_time(<<.Series>>{rpc="/demo/queryUser/{id}",service="arms-demo:arms-k8s-demo",prpc="__all__",ppid="__all__",endpoint="__all__",destId="__all__",<<.LabelMatchers>>}[1m]))
             #  name:
             #    as: ${1}_per_second_queryuser
             #    matches: ^(.*)_count
             #  resources:
             #    namespaced: false
     
     
             # ini adalah contoh metrik kustom dari metrik prometheus yang ditentukan pengguna: http_requests_total
             # referensi dokumen: https://www.alibabacloud.com/help/document_detail/184519.html
   
             # - seriesQuery: '{__name__=~"^some_metric_count$"}'
             #   resources:
             #     template: <<.Resource>>
             #   name:
             #     matches: ""
             #     as: "my_custom_metric"
             #   metricsQuery: sum(<<.Series>>{<<.LabelMatchers>>}) by (<<.GroupBy>>)
     
       ......

   Tabel berikut menjelaskan beberapa field. Untuk deskripsi lengkap file konfigurasi komponen ack-alibaba-cloud-metrics-adapter, lihat Deskripsi lengkap file konfigurasi komponen ack-alibaba-cloud-metrics-adapter.

   Field	Deskripsi
   AlibabaCloudMetricsAdapter.prometheus.adapter.rules.custom	Ubah isi field ini agar sesuai dengan isi pada contoh YAML.
   alibabaCloudMetricsAdapter.prometheus.url	Alamat Layanan Prometheus. Untuk informasi cara memperoleh URL permintaan data Prometheus, lihat Cara memperoleh URL permintaan data Prometheus.
   AlibabaCloudMetricsAdapter.prometheus.prometheusHeader[].Authorization	Informasi autentikasi. Untuk informasi selengkapnya, lihat Cara memperoleh URL permintaan data Prometheus. Prometheus V1: Autentikasi tidak diperlukan secara default. Jika autentikasi token diaktifkan, Anda harus mengonfigurasi parameter ini. Prometheus V2: Autentikasi diaktifkan secara default. Jika akses tanpa kata sandi tidak diaktifkan, Anda harus mengonfigurasi parameter ini.
   AlibabaCloudMetricsAdapter.prometheus.adapter.rules.default	Membuat metrik pradefinisi secara default. Kami menyarankan menonaktifkannya dengan mengatur nilai ke false.

Setelah Anda mengonfigurasi parameter komponen dan menerapkan komponen, Anda dapat menjalankan perintah berikut untuk memeriksa apakah API agregasi Kubernetes berhasil mengakses data.

Langkah 3: Konfigurasikan dan terapkan HPA untuk menskalakan berdasarkan metrik yang diperoleh

Versi saat ini mendukung ekspos Custom Metrics dan External Metrics dari Layanan Prometheus secara bersamaan. Anda dapat memilih salah satu metode berikut untuk menskalakan kontainer menggunakan HPA sesuai kebutuhan.

Deskripsi lengkap file konfigurasi komponen ack-alibaba-cloud-metrics-adapter

Komponen ack-alibaba-cloud-metrics-adapter mengonversi metrik Prometheus menjadi metrik yang kompatibel dengan HPA melalui langkah-langkah berikut:

1. Discovery: Komponen ack-alibaba-cloud-metrics-adapter menemukan metrik yang tersedia dari Prometheus.

2. Association: Mengaitkan metrik dengan resource Kubernetes, seperti pod, node, dan namespace.

3. Naming: Menentukan nama metrik yang dikonversi agar kompatibel dengan HPA untuk direferensikan oleh HPA.

4. Querying: Menentukan cara mengkueri data metrik dari Prometheus.

Contoh berikut menunjukkan file konfigurasi lengkap untuk komponen ack-alibaba-cloud-metrics-adapter yang mengonversi metrik http_requests_total yang diekspos oleh kontainer sample-app menjadi metrik http_requests_per_second di HPA.

- seriesQuery: http_requests_total{namespace!="",pod!=""}
  resources:
    overrides:
      namespace: {resource: "namespace"}
      pod: {resource: "pod"}
  name:
    matches: ^(.*)_total
    as: ${1}_per_second
  metricsQuery: sum(rate(<<.Series>>{<<.LabelMatchers>>}[2m])) by (<<.GroupBy>>)

1. Discovery

   Menentukan metrik Prometheus yang akan dikonversi. Anda dapat menggunakan seriesFilters untuk memfilter metrik. seriesQuery dapat digunakan untuk mencari metrik berdasarkan label. Kode berikut memberikan contoh.

   seriesQuery: http_requests_total{namespace!="",pod!=""}
   seriesFilters:
       - isNot: "^container_.*_seconds_total"

   seriesFilters adalah field opsional yang dapat Anda gunakan untuk memfilter metrik:

   • is:<regex>: Mencocokkan metrik yang mengandung ekspresi reguler tertentu.

   • isNot:<regex>: Mencocokkan metrik yang tidak mengandung ekspresi reguler tertentu.

2. Association

   Menetapkan pemetaan antara label metrik Prometheus dan resource Kubernetes. Label untuk metrik http_requests_total mencakup namespace!="" dan pod!="".

   - seriesQuery: http_requests_total{namespace!="",pod!=""}
     resources:
       overrides:
         namespace: {resource: "namespace"}
         pod: {resource: "pod"}

3. Naming

   Mengonversi nama metrik Prometheus menjadi nama metrik HPA. Ini tidak mengubah nama metrik Prometheus asli. Jika Anda menggunakan metrik Prometheus asli, Anda tidak perlu mengonfigurasi parameter ini.

   Anda dapat menjalankan perintah kubectl get --raw "/apis/custom.metrics.k8s.io/v1beta1" untuk melihat semua metrik HPA yang tersedia.

   - seriesQuery: http_requests_total{namespace!="",pod!=""}
     resources:
       overrides:
         namespace: {resource: "namespace"}
         pod: {resource: "pod"}
     name:
       matches: "^(.*)_total"
       as: "${1}_per_second"

4. Querying

   Templat ini digunakan untuk mengkueri API Prometheus. Adapter ack-alibaba-cloud mengisi templat ini dengan parameter dari HPA, mengirim permintaan ke API Prometheus, dan mengembalikan nilai ke HPA untuk mengaktifkan penskalaan elastis.

   - seriesQuery: http_requests_total{namespace!="",pod!=""}
     resources:
       overrides:
         namespace: {resource: "namespace"}
         pod: {resource: "pod"}
     name:
       matches: ^(.*)_total
       as: ${1}_per_second
     metricsQuery: sum(rate(<<.Series>>{<<.LabelMatchers>>}[2m])) by (<<.GroupBy>>)

Cara memperoleh URL permintaan data Prometheus

Untuk informasi selengkapnya tentang cara memperoleh data Prometheus, lihat Tambahkan sumber data Prometheus di Grafana.

Dokumen Terkait

• Untuk menerapkan HPA menggunakan metrik eksternal, seperti laju permintaan HTTP atau QPS Ingress, lihat Penyesuaian Otomatis Pod Horizontal berdasarkan metrik komponen Alibaba Cloud.

• Untuk menggunakan Nginx Ingress dalam HPA pada beberapa aplikasi dan menyesuaikan jumlah replika pod secara dinamis berdasarkan beban aplikasi, lihat Skalakan horizontal beberapa aplikasi berdasarkan metrik lalu lintas Nginx Ingress.