Container Service for Kubernetes:Enable the CPU Burst performance optimization policy

Nasıl çalışır?

CPU, zaman paylaşımına dayalı bir kaynaktır. Çekirdek, Completely Fair Scheduler (CFS) kullanarak CPU zamanını sabit zamanlama döngülerinde tahsis eder. Döngü uzunluğu cpu.cfs_period_us (genellikle 100 ms) ile kontrol edilir. Bir konteynerin döngü başına kullanabileceği CPU süresi ise cpu.cfs_quota_us tarafından belirlenir. CPU limiti 4 olan bir konteyner, her 100 ms'lik döngüde 400 ms CPU süresi alır.

Sorun şudur: Saniye düzeyindeki ortalamalar düşük görünse bile CPU kullanımı milisaniye seviyesinde dalgalıdır. Aşağıdaki grafik bunu göstermektedir: Mor çizgi saniye başına CPU kullanımının 4 çekirdeğin oldukça altında kaldığını gösterirken, yeşil çizgi bazı dönemlerde milisaniye düzeyindeki kullanımın 4 çekirdeğin üzerine çıktığını gösterir. Bu ani yükselişler CFS kotasını tükettiğinde çekirdek konteyneri kısıtlar.

Kısıtlama, iş parçacıklarını bir sonraki zamanlama döngüsünü beklemeye zorlar; bu durum yanıt süresini (RT) artırır ve uzun kuyruk gecikmesine neden olur. Aşağıdaki tablo, 4 çekirdekli bir düğümde CPU limiti 2 olan bir web hizmeti konteyneri için bunun pratikte nasıl göründüğünü göstermektedir.

<table> <thead> <tr> <td><p>Son bir saniyedeki genel CPU kullanımı düşük olsa bile kısıtlama, Thread 2'nin req 2 isteğini işlemeyi tamamlaması için bir sonraki zamanlama döngüsünü beklemesine neden olur. Bu durum istek RT değerini artırır ve uzun kuyruk RT sorunlarının yaygın bir nedenidir.<img></p></td> <td><p>CPU Burst etkinleştirildikten sonra konteyner kullanılmayan CPU zamanını biriktirir. Ani yükselişler sırasında bu zamanı kullanır. Böylece performans artar ve gecikme azalır.<img></p><p></p></td> </tr> </thead> <colgroup></colgroup> <colgroup></colgroup> <tbody></tbody> </table>

Talep, biriken kotanın karşılayabileceği seviyenin üzerine çıktığında (örneğin ani trafik artışı gibi), ack-koordinator toplam düğüm yükünü güvenli sınırlar içinde tutarken CPU darboğazını saniyeler içinde çözer.

Kullanım senaryoları

Düşük ortalama kullanıma rağmen kısıtlama. CPU kullanımı çoğu zaman CPU limitinin altında kalır, ancak zamanlama döngüleri içindeki kısa süreli ani yükselişler yine de kısıtlamayı tetikler. CPU Burst, konteynerin bu ani yükselişler sırasında birikmiş kotayı harcamasına olanak tanıyarak kısıtlamayı azaltır ve hizmet kalitesini iyileştirir.

CPU yoğun başlatma nedeniyle yavaş açılış. Konteyner, başlatma ve yükleme aşamalarında yüksek CPU gücüne ihtiyaç duyarken kararlı duruma geçtiğinde daha düşük bir seviyede çalışır. CPU Burst, konteynerin başlatma sırasında sürekli yüksek bir CPU limiti gerektirmeden ek CPU zamanı kullanmasını sağlar.

Faturalama

ack-koordinator ücretsiz olarak yüklenebilir ve kullanılabilir. Ancak aşağıdaki iki durumda ek ücretler uygulanabilir:

• Çalışan düğüm kaynakları: ack-koordinator yönetilmeyen bir bileşendir. Yüklemeden sonra çalışan düğümlerinizde çalışır ve onların kaynaklarını tüketir. Yükleme sırasında her modül için kaynak isteklerini yapılandırın.

• Prometheus ölçümleri: ack-koordinator, kaynak profil oluşturma ve zamanlama ölçümlerini Prometheus formatında sunar. Enable Prometheus monitoring metrics for ACK-Koordinator seçeneğini etkinleştirir ve Alibaba Cloud Prometheus kullanırsanız bu ölçümler özel ölçümler olarak sayılır ve ücrete tabi olur. Etkinleştirmeden önce Prometheus örneği fiyatlandırmasını inceleyin ve tüketimi izlemek için kullanım sorgularını kullanın.

Ön koşullar

Başlamadan önce aşağıdakilere sahip olduğunuzdan emin olun:

• Kubernetes 1.18 veya sonraki bir sürümü çalıştıran ACK yönetilen küme Pro sürümü. Bkz. ACK yönetilen küme oluşturma ve Kümeyi manuel olarak yükseltme.

• Kümede ack-koordinator sürüm 0.8.0 veya üzerinin yüklü olması. Bkz. ack-koordinator.

CPU Burst'i etkinleştirme

CPU Burst üç farklı kapsamda etkinleştirilebilir. Daha dar kapsamdaki yapılandırma önceliklidir: pod açıklamaları (annotations), ad alanı düzeyindeki ConfigMap'leri; bunlar da küme düzeyindeki ConfigMap'i geçersiz kılar.

annotations:
  # Enable CPU Burst for this pod.
  koordinator.sh/cpuBurst: '{"policy": "auto"}'
  # Disable CPU Burst for this pod.
  koordinator.sh/cpuBurst: '{"policy": "none"}'

Yük testi ile doğrulama

Bu örnekte, CPU Burst'in erişim gecikmesini nasıl azalttığını göstermek için bir Apache HTTP Server pod'u kullanılmaktadır.

1. Aşağıdaki içeriğe sahip apache-demo.yaml dosyasını oluşturun. Açıklama, bu pod için CPU Burst'i etkinleştirir.

   apiVersion: v1
   kind: Pod
   metadata:
     name: apache-demo
     annotations:
       koordinator.sh/cpuBurst: '{"policy": "auto"}'   # Enable CPU Burst.
   spec:
     containers:
     - command:
       - httpd
       - -D
       - FOREGROUND
       image: registry.cn-zhangjiakou.aliyuncs.com/acs/apache-2-4-51-for-slo-test:v0.1
       imagePullPolicy: Always
       name: apache
       resources:
         limits:
           cpu: "4"
           memory: 10Gi
         requests:
           cpu: "4"
           memory: 10Gi
     nodeName: $nodeName # Replace with the actual node name.
     hostNetwork: False
     restartPolicy: Never
     schedulerName: default-scheduler

2. Apache HTTP Server'ı dağıtın.

   kubectl apply -f apache-demo.yaml

3. wrk2 kullanarak bir yük testi çalıştırın. $target_ip_address değerini Apache pod'unun IP adresiyle değiştirin.

   # Download and extract the open-source wrk2 tool. See https://github.com/giltene/wrk2.
   # The Apache image has Gzip compression enabled to simulate server-side request processing.
   # Adjust QPS pressure by changing the -R parameter.
   ./wrk -H "Accept-Encoding: deflate, gzip" -t 2 -c 12 -d 120 --latency --timeout 2s -R 24 http://$target_ip_address:8010/static/file.1m.test

Gelişmiş yapılandırma

Gelişmiş parametreleri bir pod açıklamasında veya bir ConfigMap'te yapılandırabilirsiniz. Pod açıklamaları önceliklidir, ardından ad alanı düzeyindeki ConfigMap'ler ve son olarak küme düzeyindeki ConfigMap gelir.

# Example ConfigMap ack-slo-config.
data:
  cpu-burst-config: |
    {
      "clusterStrategy": {
        "policy": "auto",
        "cpuBurstPercent": 1000,
        "cfsQuotaBurstPercent": 300,
        "sharePoolThresholdPercent": 50,
        "cfsQuotaBurstPeriodSeconds": -1
      }
    }

# Example pod annotation.
  koordinator.sh/cpuBurst: '{"policy": "auto", "cpuBurstPercent": 1000, "cfsQuotaBurstPercent": 300, "cfsQuotaBurstPeriodSeconds": -1}'

<table> <thead> <tr> <td><p><b>Parametre</b></p></td> <td><p><b>Tür</b></p></td> <td><p><b>Açıklama</b></p></td> <td><p><b>Açıklama</b></p></td> <td><p><b>ConfigMap</b></p></td> </tr> </thead> <colgroup></colgroup> <colgroup></colgroup> <colgroup></colgroup> <colgroup></colgroup> <colgroup></colgroup> <tbody> <tr> <td><p><code>policy</code></p></td> <td><p>dize</p></td> <td> <ul> <li><p><code>none</code> (varsayılan): CPU Burst'i devre dışı bırakır. İlgili tüm parametreler başlangıç değerlerine sıfırlanır.</p></li> <li><p><code>cpuBurstOnly</code>: Yalnızca Alibaba Cloud Linux çekirdek düzeyindeki CPU Burst esnekliğini etkinleştirir.</p></li> <li><p><code>cfsQuotaBurstOnly</code>: Yalnızca CFS kota esnekliğini etkinleştirir. Tüm çekirdek sürümleriyle çalışır.</p></li> <li><p><code>auto</code>: Hem Alibaba Cloud Linux çekirdek özelliklerini hem de CFS kota esnekliğini otomatik olarak etkinleştirir.</p></li> </ul></td> <td><p><img></p></td> <td><p><img></p></td> </tr> <tr> <td><p><code>cpuBurstPercent</code></p></td> <td><p>tamsayı</p></td> <td><p>Varsayılan: <code>1000</code>. Birim: yüzde.</p><p>Alibaba Cloud Linux çekirdek düzeyindeki CPU Burst esnekliği için bu değer, CPU Burst'in CPU limitinin ne kadar üzerine çıkacağını belirler. cgroup parametresi <code>cpu.cfs_burst_us</code> ile eşlenir. Ayrıntılar için bkz. <a href="https://www.alibabacloud.com/help/en/document_detail/306980.html#task-2108025">cgroup v1 arabirimini kullanarak CPU Burst'i etkinleştirme</a>.</p><p>Örneğin, varsayılan ayarda <code>CPU Limit = 1</code> değeri <code>cpu.cfs_quota_us</code> değerini 100.000 olarak ayarlar. Ardından <code>cpu.cfs_burst_us</code> 1.000.000 olur; bu da 10 katlık bir artıştır.</p></td> <td><p><img></p></td> <td><p><img></p></td> </tr> <tr> <td><p><code>cfsQuotaBurstPercent</code></p></td> <td><p>tamsayı</p></td> <td><p>Varsayılan: <code>300</code>. Birim: yüzde.</p><p>CFS kota esnekliği etkinleştirildiğinde, bu değer cgroup parametresi <code>cpu.cfs_quota_us</code> için izin verilen maksimum artış oranını belirler. Varsayılan değer 3 kattır.</p></td> <td><p><img></p></td> <td><p><img></p></td> </tr> <tr> <td><p><code>cfsQuotaBurstPeriodSeconds</code></p></td> <td><p>tamsayı</p></td> <td><p>Varsayılan: <code>-1</code>. Birim: saniye. -1 sınırsız anlamına gelir.</p><p>CFS kota esnekliği etkinleştirildiğinde, bu değer bir pod'un artırılmış kota (<code>cfsQuotaBurstPercent</code>) ile CPU tüketebileceği süreyi belirler. Bu süre sonunda pod'un <code>cpu.cfs_quota_us</code> değeri orijinal değerine sıfırlanır. Diğer pod'lar etkilenmez.</p></td> <td><p><img></p></td> <td><p><img></p></td> </tr> <tr> <td><p><code>sharePoolThresholdPercent</code></p></td> <td><p>tamsayı</p></td> <td><p>Varsayılan: <code>50</code>. Birim: yüzde.</p><p>CFS kota esnekliği etkinleştirildiğinde, bu değer düğüm için güvenli CPU kullanım eşiğini belirler. Kullanım bu eşiği aşarsa, <code>cpu.cfs_quota_us</code> değeri artırılmış tüm pod'lar orijinal değerlerine sıfırlanır.</p></td> <td><p><img></p></td> <td><p><img></p></td> </tr> </tbody> </table>

SSS

Kaynakça

Alibaba Cloud, cgroup v1 arabirimini CPU Burst desteğiyle genişletir. CPU Burst'i cgroup düzeyinde etkinleştirmek ve istatistikleri sorgulamak için bkz. cgroup v1 arabirimini kullanarak CPU Burst'i etkinleştirme.