NVIDIA GPU デバイスは、科学計算やグラフィックスレンダリングなどのコンピューティング集約型アプリケーションを高速化するためによく使用されます。Container Service for Kubernetes を使用すると、さまざまなタイプの GPU リソースを一元的にスケジューリングおよび管理し、GPU クラスターの使用率を向上させることができます。このトピックでは、クラスターに GPU ノードを追加する方法について説明します。
前提条件
既存の ACK Pro マネージドクラスターまたは ACK 専用クラスター (現在は作成不可) が必要です。
GPU ノードプールの作成
ACKコンソールにログインします。 左側のナビゲーションウィンドウで、[クラスター] をクリックします。
[クラスター] ページで、管理するクラスターの名前をクリックします。 左側のナビゲーションウィンドウで、 を選択します。
-
ノードプールの作成 をクリックします。インスタンスタイプ で GPU アクセラレーテッドインスタンスタイプを選択し、想定ノード数 を希望のノード数に設定します。他のパラメーターの詳細については、「ノードプールの作成と管理」をご参照ください。
サポートされている GPU アクセラレーテッド ECS インスタンスタイプのリストについては、「ACK でサポートされている GPU インスタンスタイプ」をご参照ください。
説明-
リストに利用可能なインスタンスタイプが表示されない場合は、別の vSwitch を選択してみてください。
-
ノードのオペレーティングシステムが Ubuntu 22.04 または Red Hat Enterprise Linux (RHEL) 9.3 64 ビットの場合、NVIDIA Device Plugin コンポーネントはデフォルトで Pod に
NVIDIA_VISIBLE_DEVICES=all環境変数を設定します。ノードでsystemctl daemon-reloadまたはsystemctl daemon-reexecコマンドを実行すると、GPU デバイスへのアクセスが失われ、NVIDIA Device Plugin が動作を停止する可能性があります。詳細については、「GPU コンテナーの実行時に "Failed to initialize NVML: Unknown Error" エラーが発生した場合の対処方法」をご参照ください。
-
アタッチされた GPU デバイスの表示
ノードプールが作成された後、ノードにアタッチされた GPU デバイスを表示できます。
ACKコンソールにログインします。 左側のナビゲーションウィンドウで、[クラスター] をクリックします。
[クラスター] ページで、管理するクラスターの名前をクリックします。 左側のナビゲーションウィンドウで、 を選択します。
-
対象のノードの Actions 列にある 詳細 をクリックして、アタッチされている GPU デバイスを表示します。特定の GPU モデルを確認するには、ノードの ECS インスタンス ID をクリックして、ECS コンソールのインスタンス詳細ページに移動します。[インスタンス詳細] タブの [設定情報] セクションで、[GPU] フィールドを確認します。たとえば、
ecs.gn6i-c4g1.xlargeインスタンスタイプの場合、このフィールドにはGPU: NVIDIA T4と表示されることがあります。