Container Service for Kubernetes:Penyesuaian Otomatis Pod Horizontal dengan Alibaba Cloud Prometheus

Prasyarat

• Layanan Terkelola untuk Prometheus Alibaba Cloud telah diterapkan. Untuk informasi selengkapnya, lihat Menghubungkan dan mengonfigurasi Layanan Terkelola untuk Prometheus Alibaba Cloud.

• Komponen ack-alibaba-cloud-metrics-adapter telah diterapkan. Untuk informasi selengkapnya, lihat Menerapkan komponen ack-alibaba-cloud-metrics-adapter.

  Catatan

  Anda dapat login ke Konsol ACK dan menerapkan komponen ack-alibaba-cloud-metrics-adapter dari halaman Marketplace > App Marketplace.

Cara kerja

Secara default, HPA hanya mendukung penyesuaian otomatis berdasarkan CPU dan memori, yang mungkin tidak mencukupi untuk banyak kebutuhan operasional. Layanan Terkelola untuk Prometheus Alibaba Cloud sepenuhnya kompatibel dengan ekosistem Prometheus open source. Layanan ini mendukung pemantauan berbagai komponen, menyediakan berbagai dasbor siap pakai, serta menawarkan layanan Prometheus yang sepenuhnya terkelola. Prosesnya melibatkan tiga langkah utama:

1. Ekspos metrik pemantauan di kluster ACK menggunakan Layanan Terkelola untuk Prometheus Alibaba Cloud.

2. Komponen ack-alibaba-cloud-metrics-adapter bertanggung jawab mengonversi metrik pemantauan Prometheus menjadi metrik agregat Kubernetes yang dapat digunakan oleh HPA. Untuk informasi selengkapnya, lihat Penyesuaian otomatis berdasarkan beberapa metrik dan metrik kustom.

3. Konfigurasikan dan terapkan HPA untuk melakukan penskalaan berdasarkan metrik dari langkah sebelumnya.

   Metrik dikategorikan menjadi dua jenis:

   • Metrik Kustom: Melakukan penskalaan berdasarkan metrik yang terkait dengan objek Kubernetes target, seperti Pod. Contohnya adalah metrik yang spesifik untuk Pod itu sendiri. Untuk informasi selengkapnya, lihat autoscaling-on-multiple-metrics-and-custom-metrics.

   • Metrik Eksternal: Melakukan penskalaan berdasarkan metrik yang tidak terkait dengan objek Kubernetes target, seperti Pod. Misalnya, Anda dapat menskalakan Pod dari suatu workload berdasarkan metrik QPS bisnis secara keseluruhan. Untuk informasi selengkapnya, lihat autoscaling-on-metrics-not-related-to-kubernetes-objects.

Topik ini menjelaskan cara mengonfigurasi ack-alibaba-cloud-metrics-adapter untuk mengonversi metrik dari Layanan Terkelola untuk Prometheus Alibaba Cloud menjadi metrik yang kompatibel dengan HPA dan menerapkan penyesuaian otomatis berdasarkan metrik tersebut.

Langkah 1: Mendapatkan data pemantauan Prometheus

Contoh 1: Gunakan metrik ACK default

Anda dapat menggunakan metrik default dari Layanan Terkelola untuk Prometheus Alibaba Cloud, yang diinstal secara default di ACK, untuk penyesuaian otomatis pod horizontal. Metrik yang didukung mencakup metrik kontainer cAdvisor, metrik pemantauan node dasar Node-Exporter, metrik GPU-Exporter, dan metrik lainnya yang telah Anda integrasikan dengan Layanan Terkelola untuk Prometheus Alibaba Cloud. Untuk melihat metrik yang telah diintegrasikan:

1. Login ke Konsol ACK. Di panel navigasi kiri, klik Clusters.

2. Di halaman Clusters, klik nama kluster Anda. Di panel navigasi kiri, klik Operations > Prometheus Monitoring.

3. Di pojok kanan atas, klik Go to ARMS Prometheus.

4. Di panel navigasi sisi kiri konsol Application Real-Time Monitoring Service (ARMS), klik Settings untuk melihat semua metrik yang telah diintegrasikan dengan Layanan Terkelola untuk Prometheus Alibaba Cloud.

Contoh 2: Gunakan metrik yang dilaporkan oleh pod

Contoh ini menerapkan aplikasi sampel yang mengekspos metrik dalam format standar Prometheus, seperti metrik http_requests_total, yang menunjukkan jumlah kunjungan. Untuk informasi selengkapnya, lihat metric_type.

1. Terapkan workload aplikasi.

   1. Login ke Konsol ACK. Di panel navigasi kiri, klik Clusters.

   2. Di halaman Clusters, klik nama kluster target. Di panel navigasi sisi kiri, klik Workloads > Deployments.

   3. Di halaman Deployments, klik Create from YAML di pojok kanan atas. Di halaman Create, pilih Custom dari daftar drop-down Sampel Template, masukkan YAML berikut, lalu klik Create.

      Detail YAML

      apiVersion: apps/v1
      kind: Deployment
      metadata:
        name: sample-app
        labels:
          app: sample-app
      spec:
        replicas: 1
        selector:
          matchLabels:
            app: sample-app
        template:
          metadata:
            labels:
              app: sample-app
          spec:
            containers:
            - image: registry-cn-hangzhou.ack.aliyuncs.com/acs/autoscale-demo:v0.1.2-dfbc5fd-aliyun
              name: metrics-provider
              ports:
              - name: http
                containerPort: 8080
      ---
      apiVersion: v1
      kind: Service
      metadata:
        name: sample-app
        namespace: default
        labels:
          app: sample-app
      spec:
        ports:
          - port: 8080
            name: http
            protocol: TCP
            targetPort: 8080
        selector:
          app: sample-app
        type: ClusterIP

2. Tambahkan ServiceMonitor.

   1. Login ke Konsol Application Real-Time Monitoring Service (ARMS).

   2. Di panel navigasi sisi kiri, klik Integration Management. Di halaman Integrated Environments, pada tab Container Environment, pilih wilayah tempat kluster Anda berada, lalu klik nama lingkungan yang sesuai dengan nama kluster Anda.

   3. Di halaman lingkungan kontainer, klik tab Metric Scraping. Di panel navigasi sisi kiri, klik ServiceMonitor. Di halaman ServiceMonitor, klik Create. Di panel Add ServiceMonitor Configuration, klik YAML Edit, tambahkan konfigurasi ServiceMonitor berikut, lalu buat ServiceMonitor.

      apiVersion: monitoring.coreos.com/v1
      kind: ServiceMonitor
      metadata:
        annotations:
          arms.prometheus.io/discovery: 'true'
        name: sample-app
        namespace: default
      spec:
        endpoints:
        - interval: 30s
          port: http
          path: /metrics
        namespaceSelector:
          any: true
        selector:
          matchLabels:
            app: sample-app

3. Verifikasi status pemantauan.

   Klik tab Self-Monitoring. Di bagian Targets, jika ditampilkan default/sample-app/0(1/1 up), berarti aplikasi berhasil dipantau oleh Layanan Terkelola untuk Prometheus Alibaba Cloud.

4. Di dasbor Prometheus, kueri nilai http_requests_total untuk rentang waktu terbaru guna memastikan data pemantauan dikumpulkan dengan benar.

Langkah 2: Mengonfigurasi komponen ack-alibaba-cloud-metrics-adapter

1. Login ke Konsol ACK. Di panel navigasi kiri, klik Clusters.

2. Di halaman Clusters, klik nama kluster target. Di panel navigasi sisi kiri, klik Applications > Helm.

3. Di halaman Helm, temukan ack-alibaba-cloud-metrics-adapter dan klik Update di kolom Actions.

4. Di panel Update Release, konfigurasikan YAML berikut, lalu klik OK.

   Detail YAML

     AlibabaCloudMetricsAdapter:
     ......
       prometheus:
         enabled: true    # Setel ke true untuk mengaktifkan fitur adapter Prometheus.
         # URL instance Layanan Terkelola untuk Prometheus Alibaba Cloud Anda.
         url: https://cn-beijing.arms.aliyuncs.com:9443/api/v1/prometheus/xxxx/xxxx/xxxx/cn-beijing
       	# Jika Anda menggunakan Layanan Terkelola untuk Prometheus V1 dengan autentikasi token diaktifkan, konfigurasikan prometheusHeader Authorization.
         prometheusHeader:
         - Authorization: {Token}
         	# Jika Anda menggunakan Layanan Terkelola untuk Prometheus V2 tanpa akses bebas sandi diaktifkan, konfigurasikan prometheusHeader Authorization.
         # prometheusHeader:
         # - Authorization: Basic <base64Encode(<accessKey:secretKey>)>
         metricsRelistInterval: 1m # Interval pengambilan ulang daftar metrik. Kami menyarankan Anda mempertahankan nilai default 1m.
       	logLevel: 5								# Tingkat log debug untuk komponen. Kami menyarankan Anda mempertahankan nilai default.
         adapter:
           rules:
             default: false  			# Konfigurasi penemuan metrik default. Kami menyarankan Anda menyetel ini ke false.
             custom:
             # Contoh 1: Ini adalah contoh konfigurasi metrik kustom.
             # Konfigurasi ini mengonversi metrik Prometheus container_memory_working_set_bytes menjadi metrik kustom container_memory_working_set_bytes_per_second
             # dan metrik CPU container_cpu_usage_seconds_total menjadi container_cpu_usage_core_per_second.
             # Anda dapat menjalankan perintah berikut untuk memeriksa nilai memori/CPU:
             # kubectl get --raw  "/apis/custom.metrics.k8s.io/v1beta1/namespaces/kube-system/pods/*/container_memory_working_set_bytes_per_second"
             # kubectl get --raw  "/apis/custom.metrics.k8s.io/v1beta1/namespaces/kube-system/pods/*/container_cpu_usage_core_per_second"
             # Untuk informasi selengkapnya, lihat https://www.alibabacloud.com/help/en/container-service-for-kubernetes/latest/horizontal-pod-autoscaling-based-on-alibaba-cloud-managed-service-for-prometheus-metrics
             - seriesQuery: 'container_memory_working_set_bytes{namespace!="",pod!=""}'
               resources:
                 overrides:
                   namespace: { resource: "namespace" }
                   pod: { resource: "pod" }
               name:
                 matches: "^(.*)_bytes"
                 as: "${1}_bytes_per_second"
               metricsQuery: 'sum(<<.Series>>{<<.LabelMatchers>>}) by (<<.GroupBy>>)' # labelSelector dalam konfigurasi metricsQuery tidak mewarisi label filter dari seriesQuery.
             - seriesQuery: 'container_cpu_usage_seconds_total{namespace!="",pod!=""}'
               resources:
                 overrides:
                   namespace: { resource: "namespace" }
                   pod: { resource: "pod" }
               name:
                 matches: "^(.*)_seconds_total"
                 as: "${1}_core_per_second"
               metricsQuery: 'sum(rate(<<.Series>>{<<.LabelMatchers>>}[1m])) by (<<.GroupBy>>)'  # labelSelector dalam konfigurasi metricsQuery tidak mewarisi label filter dari seriesQuery.
             - seriesQuery: 'http_requests_total{namespace!="",pod!=""}'
               resources:
                 overrides:
                   namespace: {resource: "namespace"}
                   pod: {resource: "pod"}
               name:
                 matches: "^(.*)_total"
                 as: "${1}_per_second"
               metricsQuery: 'sum(rate(<<.Series>>{<<.LabelMatchers>>}[2m])) by (<<.GroupBy>>)'
             # Contoh 2: Ini adalah contoh konfigurasi metrik eksternal.
             # Untuk informasi selengkapnya, lihat https://www.alibabacloud.com/help/en/container-service-for-kubernetes/latest/configure-hpa-based-on-external-metrics
             # Saat menambahkan aturan konversi baru, pastikan label metrik di Layanan Terkelola untuk Prometheus Alibaba Cloud konsisten dengan label di sini. Jika tidak, modifikasi label metrik di ARMS Prometheus.
             #- seriesQuery: http_requests_total{namespace!="",pod!=""}
             #  resources:
             #    overrides:
             #      # Di sini, resource mengacu pada resource API Kubernetes. Anda dapat melihatnya dengan menjalankan kubectl api-resources -o wide.
             #      # Di sini, kunci sesuai dengan LabelName dalam data Prometheus. Pastikan LabelName ini ada dalam data metrik Prometheus Anda.
             #      namespace: {resource: "namespace"}
             #      pod: {resource: "pod"}
             #  name:
             #    matches: ^(.*)_total
             #   as: ${1}_per_second
             #  metricsQuery: sum(rate(<<.Series>>{<<.LabelMatchers>>}[2m])) by (<<.GroupBy>>)
             # Ini adalah contoh konfigurasi metrik eksternal.
             # Untuk informasi selengkapnya, lihat https://www.alibabacloud.com/help/en/container-service-for-kubernetes/latest/configure-hpa-based-on-external-metrics
             #- seriesQuery: arms_app_requests_count
             #  metricsQuery: sum by (rpc) (sum_over_time(<<.Series>>{rpc="/demo/queryUser/{id}",service="arms-demo:arms-k8s-demo",prpc="__all__",ppid="__all__",endpoint="__all__",destId="__all__",<<.LabelMatchers>>}[1m]))
             #  name:
             #    as: ${1}_per_second_queryuser
             #    matches: ^(.*)_count
             #  resources:
             #    namespaced: false
             # Ini adalah contoh metrik kustom dari metrik Prometheus yang ditentukan pengguna: http_requests_total
             # Untuk informasi selengkapnya, lihat https://www.alibabacloud.com/help/en/container-service-for-kubernetes/latest/horizontal-pod-autoscaling-based-on-alibaba-cloud-managed-service-for-prometheus-metrics
             # - seriesQuery: '{__name__=~"^some_metric_count$"}'
             #   resources:
             #     template: <<.Resource>>
             #   name:
             #     matches: ""
             #     as: "my_custom_metric"
             #   metricsQuery: sum(<<.Series>>{<<.LabelMatchers>>}) by (<<.GroupBy>>)
       ......

   Tabel berikut menjelaskan beberapa bidang. Untuk deskripsi lengkap file konfigurasi komponen ack-alibaba-cloud-adapter, lihat Referensi konfigurasi komponen ack-alibaba-cloud-metrics-adapter.

   Parameter	Deskripsi
   AlibabaCloudMetricsAdapter. prometheus.adapter.rules.custom	Ubah nilai bidang ini agar sesuai dengan konten dalam contoh YAML.
   alibabaCloudMetricsAdapter. prometheus.url	URL instance Layanan Terkelola untuk Prometheus Alibaba Cloud Anda. Untuk informasi tentang cara mendapatkan URL permintaan data Prometheus, lihat Cara mendapatkan URL permintaan data Prometheus.
   AlibabaCloudMetricsAdapter. prometheus.prometheusHeader[].Authorization	Informasi autentikasi. Untuk informasi selengkapnya, lihat Cara mendapatkan URL permintaan data Prometheus. Prometheus V1: Autentikasi tidak diperlukan secara default. Jika autentikasi token diaktifkan, Anda perlu mengonfigurasi bidang ini. Prometheus V2: Autentikasi diaktifkan secara default. Jika akses bebas sandi tidak diaktifkan, Anda perlu mengonfigurasi bidang ini.
   AlibabaCloudMetricsAdapter. prometheus.adapter.rules.default	Menentukan apakah akan membuat metrik yang telah ditentukan sebelumnya. Kami menyarankan Anda menonaktifkannya dengan menyetel nilai ke false.

Setelah mengonfigurasi dan menerapkan komponen, jalankan perintah berikut untuk memverifikasi bahwa API agregasi Kubernetes menerima data.

Langkah 3: Mengonfigurasi dan menerapkan HPA

Anda dapat mengekspos metrik Prometheus sebagai metrik kustom atau metrik eksternal. Bagian berikut menjelaskan cara menggunakan kedua metode tersebut untuk penskalaan HPA.

ack-alibaba-cloud-metrics-adapter konfigurasi

Komponen ack-alibaba-cloud-metrics-adapter mengonversi metrik Prometheus menjadi metrik yang kompatibel dengan HPA dalam empat langkah:

1. Penemuan: ack-alibaba-cloud-metric-adapter menemukan metrik yang tersedia dari Prometheus.

2. Asosiasi: Mengasosiasikan metrik dengan resource Kubernetes seperti Pod, Node, dan namespace.

3. Pemberian Nama: Menentukan nama metrik hasil konversi agar dapat dirujuk oleh HPA.

4. Kueri: Menentukan cara mengkueri data metrik dari Prometheus.

Sebagai contoh, konfigurasi berikut mengonversi metrik http_requests_total dari kontainer sample-app menjadi http_requests_per_second untuk HPA:

- seriesQuery: http_requests_total{namespace!="",pod!=""}
  resources:
    overrides:
      namespace: {resource: "namespace"}
      pod: {resource: "pod"}
  name:
    matches: ^(.*)_total
    as: ${1}_per_second
  metricsQuery: sum(rate(<<.Series>>{<<.LabelMatchers>>}[2m])) by (<<.GroupBy>>)

1. Penemuan

   Tentukan metrik Prometheus yang akan dikonversi. Anda dapat menggunakan seriesFilters untuk memfilter metrik secara tepat. seriesQuery dapat mencari berdasarkan label. Contoh kode:

   seriesQuery: http_requests_total{namespace!="",pod!=""}
   seriesFilters:
       - isNot: "^container_.*_seconds_total"

   seriesFilters bersifat opsional dan digunakan untuk memfilter metrik:

   • is:<regex>: Mencocokkan metrik yang mengandung ekspresi reguler.

   • isNot:<regex>: Mencocokkan metrik yang tidak mengandung ekspresi reguler.

2. Asosiasi

   Atur pemetaan antara label metrik Prometheus dan resource Kubernetes. Label untuk metrik http_requests_total mencakup namespace!="" dan pod!="".

   - seriesQuery: http_requests_total{namespace!="",pod!=""}
     resources:
       overrides:
         namespace: {resource: "namespace"}
         pod: {resource: "pod"}

3. Pemberian Nama

   Mengonversi nama metrik Prometheus menjadi nama metrik HPA, tetapi tidak mengubah nama metrik Prometheus itu sendiri. Jika Anda menggunakan metrik Prometheus asli, Anda tidak perlu mengonfigurasi ini.

   Anda dapat menjalankan perintah kubectl get --raw "/apis/custom.metrics.k8s.io/v1beta1" untuk melihat semua metrik HPA yang tersedia.

   - seriesQuery: http_requests_total{namespace!="",pod!=""}
     resources:
       overrides:
         namespace: {resource: "namespace"}
         pod: {resource: "pod"}
     name:
       matches: "^(.*)_total"
       as: "${1}_per_second"

4. Kueri

   Templat untuk mengkueri API Prometheus. Komponen ack-alibaba-cloud-adapter mengisi templat ini dengan parameter dari HPA, mengirim permintaan ke API Prometheus, dan memberikan nilai yang dikembalikan kepada HPA untuk penskalaan.

   - seriesQuery: http_requests_total{namespace!="",pod!=""}
     resources:
       overrides:
         namespace: {resource: "namespace"}
         pod: {resource: "pod"}
     name:
       matches: ^(.*)_total
       as: "${1}_per_second"
     metricsQuery: sum(rate(<<.Series>>{<<.LabelMatchers>>}[2m])) by (<<.GroupBy>>)

URL permintaan data Prometheus

Untuk informasi selengkapnya tentang cara mendapatkan data Prometheus, lihat Menambahkan Prometheus sebagai sumber data di Grafana.

Topik terkait

• Untuk menerapkan HPA menggunakan metrik eksternal seperti laju permintaan HTTP atau QPS Ingress, lihat Penyesuaian otomatis pod horizontal berdasarkan metrik komponen Nginx Ingress.

• Untuk menggunakan Nginx Ingress dalam menskalakan beberapa aplikasi dan menyesuaikan jumlah replika Pod secara dinamis berdasarkan beban aplikasi, lihat Menskalakan beberapa aplikasi secara horizontal berdasarkan metrik lalu lintas Nginx Ingress.