Container Service for Kubernetes:Colokasikan layanan online dengan aplikasi transkoding video

Mode 1: Penerapan eksklusif (garis dasar)

Hanya layanan NGINX yang berjalan pada mesin uji.

1. Terapkan NGINX seperti dijelaskan dalam Terapkan layanan NGINX dan wrk.

2. Kirim beban dari mesin uji stres:

   # Ganti node_ip dengan alamat IP mesin uji.
   ./wrk -t6 -c54 -d60s --latency http://${node_ip}:8000/

3. Periksa pemanfaatan CPU:

   kubectl top node

   Output yang diharapkan:

   NAME                      CPU(cores)   CPU%   MEMORY(bytes)   MEMORY%
   cn-beijing.192.168.2.93   29593m       29%    xxxx            xxxx
   cn-beijing.192.168.2.94   6874m        7%     xxxx            xxxx

   Pemanfaatan CPU pada mesin uji sekitar 29%.

4. Setelah pengujian selesai, tinjau output wrk. Untuk hasil akurat, jalankan beberapa kali pengujian. Output yang diharapkan:

   Running 1m test @ http://192.168.2.94:8000/
     6 threads and 54 connections
     Thread Stats   Avg      Stdev     Max   +/- Stdev
       Latency   402.18us    1.07ms  59.56ms   99.83%
       Req/Sec    24.22k     1.12k   30.58k    74.15%
     Latency Distribution
        50%  343.00us
        75%  402.00us
        90%  523.00us
        99%  786.00us
     8686569 requests in 1.00m, 6.88GB read
   Requests/sec: 144537.08
   Transfer/sec:    117.16MB

   Bagian Latency Distribution menunjukkan nilai persentil RT. Dalam mode eksklusif: RT-P50 adalah 343 mikrodetik, RT-P90 adalah 523 mikrodetik, dan RT-P99 adalah 786 mikrodetik.

Mode 2: Colocation Kubernetes default (kontrol)

NGINX dan FFmpeg berjalan pada mesin uji tanpa fitur isolasi ack-koordinator.

Terapkan NGINX seperti dijelaskan dalam Terapkan layanan NGINX dan wrk, lalu terapkan aplikasi FFmpeg menggunakan be-ffmpeg.yaml dengan modifikasi berikut:

• Hapus label koordinator.sh/qosClass: BE.

• Hapus resource ekstensi kubernetes.io/batch-cpu dan kubernetes.io/batch-memory.

Jalankan pengujian beban wrk dan kumpulkan pemanfaatan CPU seperti pada Mode 1. Dalam konfigurasi kontrol ini, pemanfaatan CPU node mencapai sekitar 65%.

Mode 3: Colocation berbasis SLO (eksperimen)

NGINX dan FFmpeg berjalan pada mesin uji dengan fitur isolasi ack-koordinator diaktifkan.

1. Ikuti panduan Getting started untuk mengaktifkan colocation berbasis SLO, lalu konfigurasikan tiap fitur berikut:

   • [Dynamic resource overcommitment](https://www.alibabacloud.com/help/en/document_detail/412172.html#task-2190961): Gunakan konfigurasi default. Ini memungkinkan sistem mengalokasikan resource idle dari pod LS ke pod BE sebagai resource batch overcommitted (kubernetes.io/batch-cpu dan kubernetes.io/batch-memory).

   • [CPU Suppress](https://www.alibabacloud.com/help/en/document_detail/268626.html#task-2088911): Atur cpuSuppressThresholdPercent menjadi 65. Gunakan nilai default untuk pengaturan lainnya. Saat pemanfaatan CPU node melebihi 65%, fitur ini akan melakukan throttle terhadap penggunaan CPU pod BE untuk melindungi performa pod LS.

   • [CPU QoS](https://www.alibabacloud.com/help/en/document_detail/433810.html#task-2223861): Gunakan konfigurasi default. Ini mengaktifkan kemampuan CPU Identity pada Alibaba Cloud Linux, memberikan prioritas penjadwalan kepada pod LS dibanding pod BE — termasuk saat Simultaneous Multithreading (SMT) menjalankan thread dari kedua pod pada core fisik yang sama.

   • [Resource isolation based on the L3 cache and MBA](https://www.alibabacloud.com/help/en/document_detail/273042.html#task-2093499): Gunakan konfigurasi default. Pada Instans Mesin Fisik ECS, ini mengisolasi cache L3 (last level cache) dan alokasi bandwidth memori (MBA) sehingga pod LS mendapatkan akses prioritas.

   Penting

   CPU QoS memerlukan Alibaba Cloud Linux sebagai OS node. Isolasi cache L3 dan MBA memerlukan Instans Mesin Fisik ECS.

2. Terapkan NGINX seperti dijelaskan dalam Terapkan layanan NGINX dan wrk.

3. Buat file bernama besteffort-ffmpeg.yaml dengan konten berikut: Tampilkan konten file YAML

   # Pod untuk aplikasi transkoding video FFmpeg offline (kelas QoS BE, mode berbasis SLO)
   apiVersion: v1
   kind: Pod
   metadata:
     name: besteffort-ffmpeg
     labels:
       app: ffmpeg
       # Tetapkan kelas QoS ke BE untuk penjadwalan berbasis SLO.
       koordinator.sh/qosClass: BE
   spec:
     containers:
       - command:
           - start-ffmpeg.sh
           - '30'
           - '2'
           - /apps/ffmpeg/input/HD2-h264.ts
           - /apps/ffmpeg/
         image: 'registry.cn-zhangjiakou.aliyuncs.com/acs/ffmpeg-4-4-1-for-slo-test:v0.1'
         imagePullPolicy: Always
         name: ffmpeg
         resources:
           # Minta resource overcommitted dinamis.
           limits:
             kubernetes.io/batch-cpu: 70k
             kubernetes.io/batch-memory: 22Gi
           requests:
             kubernetes.io/batch-cpu: 70k
             kubernetes.io/batch-memory: 22Gi
     hostNetwork: true
     restartPolicy: Never
     nodeName: cn-beijing.192.168.2.93  # Ganti dengan nama node mesin uji Anda.

4. Terapkan aplikasi FFmpeg:

   kubectl apply -f besteffort-ffmpeg.yaml

5. Verifikasi pod FFmpeg sedang berjalan:

   kubectl get pod -l app=ffmpeg -o wide

   Output yang diharapkan:

   NAME                READY   STATUS    RESTARTS   AGE    IP               NODE                      NOMINATED NODE   READINESS GATES
   besteffort-ffmpeg   1/1     Running   0          15s    11.162.XXX.XXX   cn-beijing.192.168.2.93   <none>           <none>

6. Kirim beban dari mesin uji stres:

   # Ganti node_ip dengan alamat IP mesin uji.
   ./wrk -t6 -c54 -d60s --latency http://${node_ip}:8000/

7. Periksa pemanfaatan CPU:

   kubectl top node

   Output yang diharapkan:

   NAME                      CPU(cores)   CPU%   MEMORY(bytes)   MEMORY%
   cn-beijing.192.168.2.93   65424m       63%    xxxx            xxxx
   cn-beijing.192.168.2.94   7040m        7%     xxxx            xxxx

   Pemanfaatan CPU pada mesin uji sekitar 63%.

8. Setelah pengujian selesai, tinjau output wrk dan bandingkan dengan hasil dari mode lainnya.