Container Service for Kubernetes:トポロジー対応 CPU スケジューリング

課金

ack-koordinator コンポーネントのインストールまたは使用に料金はかかりません。ただし、次のシナリオでは料金が発生する場合があります。

• ack-koordinator は非マネージドコンポーネントであり、インストール後にワーカーノードリソースを占有します。コンポーネントをインストールするときに、各モジュールによってリクエストされるリソース量を指定できます。

• デフォルトでは、ack-koordinator は、リソースプロファイリングや詳細スケジューリングなどの機能のモニタリングメトリックを Prometheus メトリックとして公開します。ack-koordinator の Prometheus メトリックを有効にすると、Managed Service for Prometheus を使用している場合、これらのメトリックは カスタムメトリック と見なされ、これらのメトリックに対して課金されます。料金は、クラスターのサイズやアプリケーションの数などの要因によって異なります。Prometheus メトリックを有効にする前に、Managed Service for Prometheus の 課金 に関するトピックを読み、カスタムメトリックの無料枠と課金ルールについて理解することをお勧めします。リソース使用量の監視と管理方法の詳細については、「監視対象データ量と料金をクエリする」をご参照ください。

手順

このトピックでは、NGINX アプリケーションを例として使用して、プロセッサアフィニティを実現するためにトポロジー対応 CPU スケジューリングを有効にする方法を示します。

手順 1: サンプルアプリケーションをデプロイする

1. 次の YAML テンプレートを使用して、NGINX アプリケーションをデプロイします。

   展開して YAML テンプレートを表示する

   apiVersion: apps/v1
   kind: Deployment
   metadata:
     name: nginx-deployment
     labels:
       app: nginx
   spec:
     replicas: 1
     selector:
       matchLabels:
         app: nginx
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/nginx_optimized:20240221-1.20.1-2.3.0
           ports:
           - containerPort: 80
           command:
           - "sleep"
           - "infinity"
           resources:
             requests:
               cpu: 4
               memory: 8Gi
             limits:
               cpu: 4 # resources.limits.cpu の値を整数に設定します。
               memory: 8Gi

2. ポッドがデプロイされているノードで、次のコマンドを実行して、コンテナーにバインドされている CPU コアを表示します。

   # パスは、ポッド UID とコンテナー ID を連結することで取得できます。
   cat /sys/fs/cgroup/cpuset/kubepods.slice/kubepods-burstable.slice/kubepods-burstable-podf9b79bee_eb2a_4b67_befe_51c270f8****.slice/cri-containerd-aba883f8b3ae696e99c3a920a578e3649fa957c51522f3fb00ca943dc2c7****.scope/cpuset.cpus

   期待される出力:

   # 出力は、コンテナーが使用できる CPU コアのシリアル番号が、CPU コアをコンテナーにバインドする前は 0 から 31 の範囲であることを示しています。
   0-31

手順 2: トポロジー対応 CPU スケジューリングを有効にする

ポッドアノテーションを介してトポロジー対応 CPU スケジューリングを有効にして、プロセッサアフィニティを実現できます。

apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx-deployment
  labels:
    app: nginx
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      annotations:
        cpuset-scheduler: "true" # true に設定して、トポロジー対応 CPU スケジューリングを有効にします。
      labels:
        app: nginx
    spec:
      containers:
      - name: nginx
        image: alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/nginx_optimized:20240221-1.20.1-2.3.0
        ports:
        - containerPort: 80
        command:
        - "sleep"
        - "infinity"
        resources:
          requests:
            cpu: 4
            memory: 8Gi
          limits:
            cpu: 4 # resources.limits.cpu の値を整数に設定します。
            memory: 8Gi

apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx-deployment
  labels:
    app: nginx
spec:
  replicas: 2
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      annotations:
        cpuset-scheduler: "true" # true に設定して、トポロジー対応 CPU スケジューリングを有効にします。
        cpu-policy: "static-burst" # static-burst に設定して、自動 CPU コアバインディングを有効にします。
      labels:
        app: nginx
    spec:
      containers:
      - name: nginx
        image: alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/nginx_optimized:20240221-1.20.1-2.3.0
        ports:
        - containerPort: 80
        command:
        - "sleep"
        - "infinity"
        resources:
          requests:
            cpu: 4
            memory: 8Gi
          limits:
            cpu: 4 # resources.limits.cpu の値を整数に設定します。
            memory: 8Gi

結果の検証

標準 CPU コアバインディングを例に、トポロジー対応 CPU スケジューリングが正常に有効になっているかどうかを確認します。自動 CPU コアバインディングの検証プロセスも同様です。

ポッドがデプロイされているノードで、自動 CPU コアバインディングを有効にした後、次のコマンドを実行して、コンテナーにバインドされている CPU コアを表示します。

# パスは、ポッド UID とコンテナー ID を連結することで取得できます。
cat /sys/fs/cgroup/cpuset/kubepods.slice/kubepods-burstable.slice/kubepods-burstable-podf9b79bee_eb2a_4b67_befe_51c270f8****.slice/cri-containerd-aba883f8b3ae696e99c3a920a578e3649fa957c51522f3fb00ca943dc2c7****.scope/cpuset.cpus

期待される出力:

# 出力は制限と同じです。
0-3

期待される出力は、コンテナーが使用できる CPU コアのシリアル番号が 0 から 3 の範囲であることを示しています。使用可能な CPU コア数は、YAML ファイルで宣言された resources.limits.cpu と一致しています。

関連情報

• Kubernetes は、ノード上の GPU リソースのトポロジーを認識しません。したがって、Kubernetes は GPU リソースをランダムにスケジュールします。その結果、トレーニングジョブの GPU アクセラレーションは、GPU リソースのスケジューリング結果に基づいて大きく異なります。トレーニングジョブの最適な GPU アクセラレーションを実現するために、トポロジー対応 GPU スケジューリングを有効にすることをお勧めします。詳細については、「GPU トポロジー対応スケジューリング」をご参照ください。

• ポッドに割り当てられているが使用されていないリソースを定量化し、これらのリソースを優先度の低いジョブにスケジュールして、リソースのオーバーコミットを実現できます。詳細については、「動的リソースオーバーコミットの有効化」をご参照ください。