このトピックでは、GPU アクセラレーテッド ECS インスタンスタイプを指定して Elastic Container Instance (ECI) を作成する方法について説明します。
仕様
ECS インスタンスタイプの詳細については、次のトピックをご参照ください:
設定
GPU アクセラレーテッドインスタンスを作成するには、GPU アクセラレーテッドインスタンスタイプと各コンテナの GPU 数を指定する必要があります。
-
GPU アクセラレーテッドインスタンスタイプを指定しても、各コンテナの GPU 数を指定しない場合、インスタンスの起動に失敗します。
-
デフォルトでは、複数のコンテナで GPU を共有できます。単一のコンテナに設定された GPU 数が、指定されたインスタンスタイプで利用可能な GPU の総数を超えないようにしてください。
API
CreateContainerGroup API を呼び出して ECI インスタンスを作成する場合、InstanceType パラメーターを使用して ECS GPU アクセラレーテッドインスタンスタイプを指定し、Gpu パラメーターを使用して各コンテナの GPU 数を指定します。詳細については、「CreateContainerGroup」をご参照ください。
|
パラメーター |
タイプ |
例 |
説明 |
|
InstanceType |
String |
ecs.gn6v-c8g1.2xlarge |
ECS GPU アクセラレーテッドインスタンスタイプ。 1回のリクエストで最大5つのインスタンスタイプをコンマ区切りで指定できます。 |
|
Container.N.Gpu |
Integer |
1 |
コンテナ N に割り当てる GPU の数。 |
UpdateContainerGroup API を呼び出して、GPU アクセラレーテッドインスタンス内の各コンテナの GPU 割り当てを変更することもできます。詳細については、「UpdateContainerGroup」をご参照ください。
デフォルトでは、ECI GPU インスタンスは、そのインスタンスタイプと互換性のある GPU ドライバーと CUDA バージョンを自動的にインストールします。ワークロードで異なるバージョンが必要な場合は、GpuDriverVersion パラメーターを使用して指定します。
|
パラメーター |
タイプ |
例 |
説明 |
|
GpuDriverVersion |
String |
tesla=535 |
GPUドライバーのバージョン。 説明
GPU ドライバーバージョンの変更は、一部のインスタンスタイプでのみサポートされています。詳細については、「仕様」をご参照ください。 |
コンソール
Elastic Container Instance コンソールで GPU アクセラレーテッドインスタンスを作成する際、GPU 関連の設定を次のように構成してください:
-
[コンテナグループ設定] セクションで、[インスタンスタイプの指定] タブをクリックし、GPU アクセラレーション付きインスタンスタイプを選択します。
-
各コンテナの [詳細設定] で、使用する GPU 数を設定します。
この例では、[GPU] は [1] に設定されています。