Container Service for Kubernetes：Aktifkan memory QoS

Tagihan

Tidak ada biaya yang dikenakan saat Anda menginstal atau menggunakan komponen ack-koordinator. Namun, biaya mungkin dikenakan dalam skenario berikut:

• ack-koordinator adalah komponen non-managed yang menggunakan sumber daya node pekerja setelah diinstal. Anda dapat menentukan jumlah sumber daya yang diminta oleh setiap modul saat menginstal komponen.

• Secara default, ack-koordinator mengekspos metrik pemantauan fitur seperti profiling sumber daya dan penjadwalan granular halus sebagai metrik Prometheus. Jika Anda mengaktifkan metrik Prometheus untuk ack-koordinator dan menggunakan Managed Service for Prometheus, metrik ini dianggap metrik kustom dan biaya akan dikenakan untuk metrik ini. Biaya tergantung pada faktor-faktor seperti ukuran kluster Anda dan jumlah aplikasi. Sebelum mengaktifkan metrik Prometheus, kami sarankan Anda membaca topik Tagihan Managed Service for Prometheus untuk mempelajari tentang kuota gratis dan aturan tagihan metrik kustom. Untuk informasi lebih lanjut tentang cara memantau dan mengelola penggunaan sumber daya, lihat Kueri Jumlah Data Observabel dan Tagihan.

Catatan Penggunaan

Saat Anda mengaktifkan fitur memory QoS untuk pod, parameter cgroup dikonfigurasi secara otomatis berdasarkan rasio yang ditentukan dan parameter pod. Bagian ini menjelaskan cara mengaktifkan memory QoS untuk kontainer dalam pod, namespace, atau kluster tertentu.

annotations:
  # Untuk mengaktifkan memory QoS untuk kontainer dalam pod, atur nilainya menjadi auto.
  koordinator.sh/memoryQOS: '{"policy": "auto"}'
  # Untuk menonaktifkan memory QoS untuk kontainer dalam pod, atur nilainya menjadi none.
  koordinator.sh/memoryQOS: '{"policy": "none"}'

Contoh

Dalam bagian ini, pod Redis digunakan sebagai contoh. Kondisi berikut digunakan untuk membandingkan latensi dan throughput pod sebelum memory QoS diaktifkan dan setelah memory QoS diaktifkan dalam skenario overcommitment memori:

• Sebuah kluster ACK Pro digunakan.

• Kluster berisi 2 node, masing-masing memiliki 8 vCPU dan 32 GB memori. Satu node digunakan untuk melakukan uji stres. Node lain menjalankan beban kerja dan berfungsi sebagai mesin yang diuji.

Prosedur

1. Buat file bernama redis-demo.yaml dan salin konten berikut ke file tersebut:

   apiVersion: v1
   kind: ConfigMap
   metadata:
     name: redis-demo-config
   data:
     redis-config: |
       appendonly yes
       appendfsync no
   ---
   apiVersion: v1
   kind: Pod
   metadata:
     name: redis-demo
     labels:
       koordinator.sh/qosClass: 'LS' # Tetapkan kelas QoS pod Redis menjadi LS.
     annotations:
       koordinator.sh/memoryQOS: '{"policy": "auto"}' # Tambahkan anotasi ini untuk mengaktifkan memory QoS.
   spec:
     containers:
     - name: redis
       image: redis:5.0.4
       command:
         - redis-server
         - "/redis-master/redis.conf"
       env:
       - name: MASTER
         value: "true"
       ports:
       - containerPort: 6379
       resources:
         limits:
           cpu: "2"
           memory: "6Gi"
         requests:
           cpu: "2"
           memory: "2Gi"
       volumeMounts:
       - mountPath: /redis-master-data
         name: data
       - mountPath: /redis-master
         name: config
     volumes:
       - name: data
         emptyDir: {}
       - name: config
         configMap:
           name: redis-demo-config
           items:
           - key: redis-config
             path: redis.conf
     nodeName: # Tetapkan nodeName ke nama node yang diuji.
   ---
   apiVersion: v1
   kind: Service
   metadata:
     name: redis-demo
   spec:
     ports:
     - name: redis-port
       port: 6379
       protocol: TCP
       targetPort: 6379
     selector:
       name: redis-demo
     type: ClusterIP

2. Jalankan perintah berikut untuk menyebarkan Redis Server sebagai aplikasi uji.

   Anda dapat mengakses layanan redis-demo dari dalam kluster.

   kubectl apply -f redis-demo.yaml

3. Simulasikan overcommitment memori.

   Gunakan alat Stress untuk meningkatkan beban pada memori dan memicu pengambilan kembali memori. Jumlah batas memori semua pod pada node melebihi memori fisik node.

   1. Buat file bernama stress-demo.yaml dan salin konten berikut ke file tersebut:

      apiVersion: v1
      kind: Pod
      metadata:
        name: stress-demo
        labels:
          koordinator.sh/qosClass: 'BE' # Tetapkan kelas QoS pod Stress menjadi BE.
        annotations:
          koordinator.sh/memoryQOS: '{"policy": "auto"}' # Tambahkan anotasi ini untuk mengaktifkan memory QoS.
      spec:
        containers:
          - args:
              - '--vm'
              - '2'
              - '--vm-bytes'
              - 11G
              - '-c'
              - '2'
              - '--vm-hang'
              - '2'
            command:
              - stress
            image: polinux/stress
            imagePullPolicy: Always
            name: stress
        restartPolicy: Always
        nodeName: # Tetapkan nodeName ke nama node yang diuji, yaitu node tempat pod Redis ditempatkan.

   2. Jalankan perintah berikut untuk menyebarkan stress-demo:

      kubectl apply -f stress-demo.yaml

4. Jalankan perintah berikut untuk memeriksa watermark minimum global node:

   Catatan

   Dalam skenario overcommitment memori, jika watermark minimum global node diatur ke nilai rendah, OOM killer mungkin dipicu untuk semua pod pada node bahkan sebelum pengambilan kembali memori dilakukan. Oleh karena itu, kami sarankan Anda menetapkan watermark minimum global ke nilai tinggi. Dalam contoh ini, watermark minimum global diatur ke 4.000.000 KB untuk node yang diuji dengan memori 32 GiB.

   cat /proc/sys/vm/min_free_kbytes

   Output yang diharapkan:

   4000000

5. Gunakan template YAML berikut untuk menyebarkan alat memtier-benchmark untuk mengirim permintaan ke node yang diuji:

   apiVersion: v1
   kind: Pod
   metadata:
     labels:
       name: memtier-demo
     name: memtier-demo
   spec:
     containers:
       - command:
           - memtier_benchmark
           - '-s'
           - 'redis-demo'
           - '--data-size'
           - '200000'
           - "--ratio"
           - "1:4"
         image: 'redislabs/memtier_benchmark:1.3.0'
         name: memtier
     restartPolicy: Never
     nodeName: # Tetapkan nodeName ke nama node yang digunakan untuk mengirim permintaan.

6. Jalankan perintah berikut untuk memeriksa hasil tes dari memtier-benchmark:

   kubectl logs -f memtier-demo

7. Gunakan template YAML berikut untuk menonaktifkan memory QoS untuk pod Redis dan pod Stress. Kemudian lakukan uji stres lagi dan bandingkan hasilnya.

   apiVersion: v1
   kind: Pod
   metadata:
     name: redis-demo
     labels:
       koordinator.sh/qosClass: 'LS'
     annotations:
       koordinator.sh/memoryQOS: '{"policy": "none"}' # Nonaktifkan memory QoS.
   spec:
     ...
   
   ---
   apiVersion: v1
   kind: Pod
   metadata:
     name: stress-demo
     labels:
       koordinator.sh/qosClass: 'BE'
     annotations:
       koordinator.sh/memoryQOS: '{"policy": "none"}' # Nonaktifkan memory QoS.
                           

Analisis Hasil

Tabel berikut menjelaskan hasil uji stres saat memory QoS diaktifkan dan dinonaktifkan.

• Dinonaktifkan: Kebijakan memory QoS pod diatur ke none.

• Diaktifkan: Kebijakan memory QoS pod diatur ke auto dan pengaturan memory QoS yang direkomendasikan digunakan.

Tabel tersebut menunjukkan bahwa dalam skenario overcommitment memori, mengaktifkan fitur memory QoS mengurangi latensi aplikasi Redis sebesar 7,9% dan meningkatkan throughput sebesar 8,7%, dengan semua metrik menunjukkan peningkatan yang signifikan.

Parameter Lanjutan

Anda dapat mengaktifkan memory QoS untuk kontainer dalam pod atau kluster tertentu. Jika anotasi pod dan ConfigMaps digunakan untuk mengonfigurasi parameter memory QoS, anotasi pod akan didahulukan. Jika tidak ada anotasi pod yang ditambahkan untuk mengonfigurasi memory QoS, ack-koordinator mengambil parameter memory QoS dari ConfigMaps di namespace tertentu. Jika tidak ada konfigurasi yang ada di ConfigMaps dalam namespace, ack-koordinator mengambil parameter memory QoS dari ConfigMaps di kluster tertentu.

FAQ

Apakah fitur memory QoS yang diaktifkan berdasarkan versi lama protokol ack-slo-manager masih didukung setelah saya memutakhirkan dari ack-slo-manager ke ack-koordinator?

Dalam versi ack-slo-manager 0.8.0 dan sebelumnya, konfigurasi pod berikut digunakan:

• Tetapkan kelas QoS melalui anotasi pod alibabacloud.com/qosClass

• Konfigurasikan memory QoS melalui anotasi pod alibabacloud.com/memoryQOS

ack-koordinator mempertahankan kompatibilitas mundur dengan protokol berbasis anotasi yang digunakan dalam ack-slo-manager. Anda dapat memutakhirkan dari ack-slo-manager ke ack-koordinator secara mulus. Namun, dukungan kompatibilitas berakhir pada 30 Juli 2023. Kami sarankan Anda memigrasikan parameter sumber daya ke yang baru.

Tabel berikut menjelaskan kompatibilitas antara versi komponen yang berbeda dan fitur memory QoS.