Container Service for Kubernetes:共有 GPU スケジューリングコンポーネントの管理

ステップ 1：共有 GPU コンポーネントのインストール

ステップ 2：共有 GPU スケジューリングと分離の有効化

1. [クラスター] ページで、管理するクラスターの名前をクリックします。 左側のナビゲーションウィンドウで、[ノード] > [ノードプール] を選択します。

2. ノードプール ページで、ノードプールの作成 をクリックしてください。「ノードプールの作成と管理」の説明に従ってパラメーターを設定してください。

3. ノードプールの作成 ページで、ノードプールのパラメーターを設定し、注文の確認 をクリックしてください。次の表に、主要なパラメーターを示します。

   パラメーター	説明
   ノードの期待数	ノードプールの初期ノード数を入力してください。初期ノードが不要な場合は 0 を使用してください。
   ノードラベル	ビジネス要件に基づいてラベル値を設定してください。ノードラベルの詳細については、「スケジューリングの有効化」をご参照ください。 この例では、ラベル値 cgpu を使用します。この値により、ノードで共有 GPU スケジューリングが有効になり、各 Pod は GPU メモリリソースのみを要求するだけでよくなります。単一の GPU カード上の複数の Pod は、計算能力を共有し、メモリが分離されます。 [ノードラベル] の横にある をクリックしてください。キー を ack.node.gpu.schedule に、値 を cgpu に設定してください。 重要 cGPU 分離機能の使用に関する注意事項については、「cGPU に関する FAQ」をご参照ください。 共有 GPU スケジューリングラベルを追加した後、kubectl label nodes コマンドや ノード ページのラベル管理機能を使用して GPU スケジューリングラベルを変更しないでください。変更すると、問題が発生する可能性があります。詳細については、「スケジューリングの有効化」をご参照ください。推奨される方法は、「スケジューリングの有効化」に記載されています。

ステップ 3：GPU ノードの追加

ステップ 4：GPU クエリツールのインストール

1. kubectl-inspect-cgpu 実行可能ファイルを PATH 内のディレクトリ (例: /usr/local/bin/) にダウンロードしてください。

   • Linux を使用している場合は、次のコマンドを実行して kubectl-inspect-cgpu をダウンロードしてください。

     wget http://aliacs-k8s-cn-beijing.oss-cn-beijing.aliyuncs.com/gpushare/kubectl-inspect-cgpu-linux -O /usr/local/bin/kubectl-inspect-cgpu

   • macOS を使用している場合は、次のコマンドを実行して kubectl-inspect-cgpu をダウンロードしてください。

     wget http://aliacs-k8s-cn-beijing.oss-cn-beijing.aliyuncs.com/gpushare/kubectl-inspect-cgpu-darwin -O /usr/local/bin/kubectl-inspect-cgpu

2. ファイルを実行可能にしてください：

   chmod +x /usr/local/bin/kubectl-inspect-cgpu

3. クラスター内の GPU 使用状況を確認してください：

   kubectl inspect cgpu

   期待される出力：

   NAME                       IPADDRESS      GPU0(Allocated/Total)  GPU Memory(GiB)
   cn-shanghai.192.168.6.104  192.168.6.104  0/15                   0/15
   ----------------------------------------------------------------------
   Allocated/Total GPU Memory In Cluster:
   0/15 (0%)

ステップ 1：アップグレード方法の決定

アップグレード方法は、ack-ai-installer コンポーネントが最初にインストールされた方法によって異なります。2つの方法があります：

• クラウドネイティブ AI コンポーネントセット ページ経由 (推奨)：コンポーネントが クラウドネイティブ AI コンポーネントセット ページからインストールされた場合。

• Marketplace の アプリカタログ ページからインストール (現在利用不可)：ack-ai-installer コンポーネントを アプリカタログ ページからインストールした場合。このインストール方法は現在利用できません。ただし、この方法でインストールされた既存のコンポーネントがある場合は、引き続きこの方法でアップグレードできます。

  重要

  この方法でインストールされたコンポーネントをアンインストールした場合、再インストールするには Cloud-native AI Suite をアクティブ化し、インストールを完了する必要があります。

ステップ 2：コンポーネントのアップグレード

ステップ 3：既存ノードのアップグレード

[ack-ai-installer] コンポーネントをアップグレードしても、既存ノードの cGPU バージョンは自動的にアップグレードされません。次の情報を使用して、ノードで cGPU 分離機能が有効になっているかどうかを判断してください。

• クラスターに cGPU 分離機能が有効になっている GPU ノードが含まれている場合は、それらのノードの cGPU バージョンもアップグレードする必要があります。詳細については、「ノードの cGPU バージョンのアップグレード」をご参照ください。

• クラスターに cGPU 分離機能が有効になっているノードがない場合は、この手順をスキップできます。

  説明

  • ノードに ack.node.gpu.schedule=cgpu または ack.node.gpu.schedule=core_mem というラベルが付いている場合、cGPU 分離機能は有効になっています。

  • 既存ノードの cGPU バージョンをアップグレードするには、それらのノード上のすべてのビジネス Pod を停止する必要があります。ビジネスへの影響を最小限に抑えるため、この操作はオフピーク時に実行してください。