GPU-HPN キャパシティ予約

ACS クラスター向けの GPU-HPN キャパシティ予約を使用すると、高性能ネットワーク (HPN) をサポートする GPU コンピューティングリソースを予約できます。GPU-HPN キャパシティ予約を ACS クラスター内の仮想ノードに関連付けることで、GPU コンテナワークロードに対してアフィニティベースのスケジューリングを使用し、リソースの効率的な利用を確保できます。このトピックでは、GPU-HPN キャパシティ予約を作成し、クラスターに関連付ける方法について説明します。

背景情報

ACS は、acs-profile ConfigMap 内の vSwitchIds に基づいてデフォルトの仮想ノードを生成します。この仮想ノード自体はコンピューティングリソースを消費しません。

現在、GPU-HPN キャパシティ予約はサブスクリプションでのみ利用可能です。予約がアクティブになると、リソースはサブスクリプション期間中は保証されます。複数のインスタンスを予約した場合、それらを同時に複数のクラスターに関連付けることができます。予約されたノードは、さまざまな数量や仕様の Pod インスタンスに使用できます。たとえば、大規模なモデルトレーニングやファインチューニングなど、GPU 間の分散通信に高性能ネットワーク (HPN) が必要なシナリオでは、Pod は CPU やメモリサイズに制約されることなく、Pod で指定された GPU の総数に基づいて GPU-HPN キャパシティ予約を使用します。

課金と制限事項

キャパシティ予約は、サブスクリプションプランに従って課金されます。

課金開始：課金は、予約が正常に作成され、そのステータスがアクティブになった時点で開始されます。

課金停止：課金は、予約の有効期限が切れてリソースが自動的にリリースされた後に停止します。

重要

GPU-HPN キャパシティ予約を有効にするには、チケットを送信してください。
ACS クラスターでは、同じ GPU リソースタイプのコストを相殺するためにのみ予約を適用できます。ある GPU モデルの予約を購入した場合、それを別の GPU モデルに適用することはできません。この場合、ACS は実際に使用された GPU タイプに対して標準料金で課金します。
コンピューティングタイプが高性能ネットワーク GPU (gpu-hpn) に設定されている Pod のみが、GPU-HPN キャパシティ予約のノードを使用できます。

GPU-HPN キャパシティ予約の作成

ACS コンソールにログインします。左側のナビゲーションペインで、リソース管理 をクリックします。

容量の予約 ページで、[Create GPU-HPN resource reservation] をクリックし、次のパラメーターを設定します。

パラメーター	説明
リージョン	キャパシティ予約のリージョンを選択します。
ゾーン	キャパシティ予約のゾーンを選択します。
タイプ	現在、インスタンスのみがサポートされています。
カテゴリ	現時点では、GPU のみがサポートされています。
HPNゾーン	キャパシティ予約の HPN ゾーンを選択します。
インスタンスタイプ	使用可能なオプションは、コンソールの表示によって異なります。
サブスクリプション期間	1 か月、1 年、または 3 年。
頭金比率 (%)	頭金は 0% です。購入後すぐにリソースを使用できます。
割引	割引はサブスクリプション期間によって異なります。1 か月のサブスクリプションは割引なしです。1 年間のサブスクリプションには12 か月前払いの割引があります。3 年間のサブスクリプションには36 か月前払いの割引があります。
請求サイクル	月次。
分割払い回数	これはサブスクリプション期間によって異なります。たとえば、1 か月のサブスクリプションは 1 回払いで、1 年間のサブスクリプションは 12 回払いです。
数量	予約するインスタンスの数。

パラメーターを設定した後、[Buy Now] をクリックします。注文確認ページで [Proceed to Payment] をクリックします。支払いページで [Subscribe] をクリックして購入を完了します。

クラスターの関連付け

ACS コンソールにログインします。左側のナビゲーションペインで、リソース管理 をクリックします。
容量の予約 ページで、関連付ける予約を見つけ、そのステータスの下にある Associate Cluster をクリックします。

重要
予約は、ACS クラスター、ACK マネージドクラスター、ACK One Registered Cluster、または ACK One Distributed Workflow Argo Cluster にのみ関連付けることができます。他のクラスタータイプはサポートされていません。
Resource Association ダイアログボックスで、クラスター ID を選択または入力し、インスタンス数を指定します。次に、OK をクリックします。

重要
Resource Association ダイアログボックスのクラスタードロップダウンリストには、ACS クラスターと ACK マネージドクラスターの ID のみが表示されます。ACK One Registered Cluster または ACK One Distributed Workflow Argo Cluster の場合は、クラスター ID を手動で入力する必要があります。

割り当て済みリソースのクエリ

GPU-HPN キャパシティ予約は、クラスター内で Kubernetes のノードとして表されます。kubectl を使用して、ノードに割り当てられたリソースを表示できます。

次のコマンドを実行して、ラベルで GPU-HPN ノードを表示します：

kubectl get node -l alibabacloud.com/node-type=reserved

想定される出力：

NAME                                      STATUS   ROLES   AGE   VERSION
cn-wulanchabu-c.cr-rkccqmu0xz8rea1*****   Ready    agent   20m   v1.28.3-aliyun

次のコマンドを実行して、GPU-HPN キャパシティ予約から割り当てられたリソースをクエリします。コマンド内のノード名を、前の手順で取得した実際の GPU-HPN ノード名に置き換えてください。

kubectl describe node cn-wulanchabu-c.cr-rkccqmu0xz8rea1***** | grep Allocated -A 10

想定される出力：

Allocated resources:
  (Total limits may be over 100 percent, i.e., overcommitted.)
  Resource              Requests    Limits
  --------              --------    ------
  cpu                   16 (8%)     16 (8%)
  memory                128Gi (7%)  128Gi (7%)
  ephemeral-storage     30Gi (0%)   30Gi (0%)
  nvidia.com/gpu        1           1
Events:                 <none>

5 行目から 8 行目は、それぞれ CPU、メモリ、エフェメラルストレージ、GPU の割り当て量と使用率を示しています。