ACS は複数の GPU ファミリーをサポートしています。クラスターで alibabacloud.com/gpu-model-series ラベルを使用して GPU ファミリーを指定します。GPU ファミリーごとに適したユースケースが異なります。特定のニーズに基づいてインスタンスファミリーを選択できます。
GU8TF
コンピュート GPU です。
GPU あたり 96 GB のメモリを搭載し、FP8 データ形式をネイティブサポートしています。これは、700 億以上のパラメーターを持つモデルのシングルノード推論に最適です。
8 つすべての GPU 間に高速 NVLink 相互接続を提供し、小規模から中規模のモデルトレーニングに適しています。1.6 Tbps のリモートダイレクトメモリアクセス (RDMA) 相互接続により、ノード間通信が高速化されます。
サポートされている Pod 仕様は次のとおりです。
GPU | vCPU | メモリ (GiB) | メモリ増分 (GiB) | ストレージ (GiB) |
1 (96 GB) | 2 | 2–16 | 1 | 30–256 |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
12 | 12–96 | 1 | ||
14 | 14–112 | 1 | ||
16 | 16–128 | 1 | ||
22 | 22, 32, 64, 128 | N/A | ||
2 (96 GB) | 16 | 16–128 | 1 | 30–512 |
32 | 32, 64, 128, 230 | N/A | ||
46 | 64, 128, 230 | N/A | ||
4 (96 GB) | 32 | 32, 64, 128, 256 | N/A | 30–1,024 |
64 | 64, 128, 256, 460 | N/A | ||
92 | 128, 256, 460 | N/A | ||
8 (96 GB) | 64 | 64, 128, 256, 512 | N/A | 30–2,048 |
128 | 128, 256, 512, 920 | N/A | ||
184 | 256, 512, 920 | N/A |
GU8TEF
コンピュート GPU です。
141 GB の GPU メモリを搭載し、FP8 浮動小数点形式をサポートしています。マルチ GPU 構成は、DeepSeek R1 のシングルノード推論をサポートします。
NVLink は 8 つの GPU を相互接続し、小規模から中規模のモデルトレーニングに対応します。1.6 Tbps の高速リモートダイレクトメモリアクセス (RDMA) 相互接続により、ノード間通信が高速化されます。
サポートされている Pod 仕様は次のとおりです。
GPU | vCPU | メモリ (GiB) | メモリ増分 (GiB) | ストレージ (GiB) |
1 (141 GB) | 2 | 2–16 | 1 | 30–768 |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
12 | 12–96 | 1 | ||
14 | 14–112 | 1 | ||
16 | 16–128 | 1 | ||
22 | 22, 32, 64, 128, 225 | N/A | ||
2 (141 GB) | 16 | 16–128 | 1 | 30–1,536 |
32 | 32, 64, 128, 256 | N/A | ||
46 | 64, 128, 256, 450 | N/A | ||
4 (141 GB) | 32 | 32, 64, 128, 256 | N/A | 30–3,072 |
64 | 64, 128, 256, 512 | N/A | ||
92 | 128, 256, 512, 900 | N/A | ||
8 (141 GB) | 64 | 64, 128, 256, 512 | N/A | 30–6,144 |
128 | 128, 256, 512, 1,024 | N/A | ||
184 | 256, 512, 1,024, 1,800 | N/A |
L20 (GN8IS)
このファミリーはコンピュート GPU を提供します。
TensorRT、FP8 浮動小数点形式、GPU 間のピアツーピア (P2P) 通信などの一般的なアクセラレーション機能をサポートしています。
GPU あたり 48 GB の GPU メモリを提供し、マルチ GPU 構成で 700 億以上のパラメーターを持つモデルのシングルノード推論を可能にします。
サポートされている Pod 仕様は次のとおりです。
GPU | vCPU | メモリ (GiB) | メモリ増分 (GiB) | ストレージ (GiB) |
1 (48 GB) | 2 | 2–16 | 1 | 30–256 |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
12 | 12–96 | 1 | ||
14 | 14–112 | 1 | ||
16 | 16–120 | 1 | ||
2 (48 GB) | 16 | 16–128 | 1 | 30–512 |
32 | 32, 64, 128, 230 | N/A | ||
4 (48 GB) | 32 | 32, 64, 128, 256 | N/A | 30–1,024 |
64 | 64, 128, 256, 460 | N/A | ||
8 (48 GB) | 64 | 64, 128, 256, 512 | N/A | 30–2,048 |
128 | 128, 256, 512, 920 | N/A |
L20X (GX8SF)
コンピュート GPU です。
GPU あたり 141 GB のメモリを提供し、マルチ GPU 構成での大規模モデルのシングルノード推論を可能にします。
8 つすべての GPU 間に NVLink 相互接続を備え、大規模なモデルのトレーニングと推論に最適です。3.2 Tbps の高速リモートダイレクトメモリアクセス (RDMA) 相互接続により、ノード間通信が高速化されます。
サポートされている Pod 仕様は次のとおりです。
GPU | vCPU | メモリ (GiB) | メモリ増分 (GiB) | ストレージ (GiB) |
8 (141 GB) | 184 | 1,800 | N/A | 30–6,144 |
P16EN
P16EN は GPU コンピュートカードです。
GPU あたり 96 GB のビデオメモリを提供し、FP16 浮動小数点形式をサポートしています。マルチ GPU 構成により、DeepSeek R1 などのモデルのシングルノード推論が可能です。
16 個すべての GPU 間に 700 GB/s の高速相互接続を提供し、小規模から中規模のモデルトレーニングに最適です。1.6 Tbps の高速リモートダイレクトメモリアクセス (RDMA) 相互接続により、ノード間通信が高速化されます。
サポートされている Pod 仕様は次のとおりです。
GPU | vCPU | メモリ (GiB) | メモリ増分 (GiB) | ストレージ |
1 (96 GB) | 2 | 2–16 | 1 | 30–384 GB |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
2 (96 GB) | 4 | 4–32 | 1 | 30–768 GB |
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
16 | 16–128 | 1 | ||
22 | 32, 64, 128, 225 | N/A | ||
4 (96 GB) | 8 | 8–64 | 1 | 30–1536 GB |
16 | 16–128 | 1 | ||
32 | 32, 64, 128, 256 | N/A | ||
46 | 64, 128, 256, 450 | N/A | ||
8 (96 GB) | 16 | 16–128 | 1 | 30–3072 GB |
32 | 32, 64, 128, 256 | N/A | ||
64 | 64, 128, 256, 512 | N/A | ||
92 | 128, 256, 512, 900 | N/A | ||
16 (96 GB) | 32 | 32, 64, 128, 256 | N/A | 30–6144 GB |
64 | 64, 128, 256, 512 | N/A | ||
128 | 128, 256, 512, 1,024 | N/A | ||
184 | 256, 512, 1,024, 1,800 | N/A |
T4
T4 は GPU コンピュートカードです。
Turing アーキテクチャに基づいて構築されており、各 GPU は 16 GB の GPU メモリと 320 GB/s のメモリ帯域幅を提供します。
可変精度の Tensor コアは、最大 65 TFLOPS (FP16)、130 TOPS (INT8)、260 TOPS (INT4) を提供します。
サポートされている Pod 仕様は次のとおりです。
インスタンスファミリー | GPU | vCPU | メモリ (GiB) | メモリ増分 (GiB) | ストレージ (GiB) |
シングルノードファミリー | 1 (16 GB GPU メモリ) | 2 | 2–8 | 1 | 30–1536 |
4 | 4–16 | 1 | |||
6 | 6–24 | 1 | |||
8 | 8–32 | 1 | |||
10 | 10–40 | 1 | |||
12 | 12–48 | 1 | |||
14 | 14–56 | 1 | |||
16 | 16–64 | 1 | |||
24 | 24, 48, 90 | N/A | |||
2 (16 GB GPU メモリ) | 16 | 16–64 | 1 | ||
24 | 24, 48, 96 | N/A | |||
32 | 32, 64, 128 | N/A | |||
48 | 48, 96, 180 | N/A |
A10
GPU です。
Ampere アーキテクチャをベースにしており、各 GPU は 24 GB のメモリを搭載し、RTX や TensorRT などの一般的なアクセラレーション機能をサポートしています。
サポートされている Pod 仕様は次のとおりです。
GPU | vCPU | メモリ (GiB) | メモリ増分 (GiB) | ストレージ (GiB) |
1 (24 GB) | 2 | 2–8 | 1 | 30–256 |
4 | 4–16 | 1 | ||
6 | 6–24 | 1 | ||
8 | 8–32 | 1 | ||
10 | 10–40 | 1 | ||
12 | 12–48 | 1 | ||
14 | 14–56 | 1 | ||
16 | 16–60 | 1 | ||
2 (24 GB x 2) | 16 | 16–64 | N/A | 30–512 |
32 | 32, 64, 120 | N/A | ||
4 (24 GB x 4) | 32 | 32, 64, 128 | N/A | 30–1,024 |
64 | 64, 128, 240 | N/A | ||
8 (24 GB x 8) | 64 | 64, 128, 256 | N/A | 30–2,048 |
128 | 128, 256, 480 | N/A |
G28Ti
GPU カードです。
GPU あたり 11 GB の GPU メモリを提供し、TensorRT や CUDA などの一般的なアクセラレーション機能をサポートしています。また、GPU 間の NVLink および P2P 通信もサポートしています。
サポートされている Pod 仕様は次のとおりです。
GPU (カード) | vCPU | メモリ (GiB) | メモリステップサイズ (GiB) | ストレージ (GiB) |
1 (11 GB GPU メモリ) | 2 | 2 to 8 | 1 | 30 to 1536 |
4 | 4 to 16 | 1 | ||
6 | 6 to 24 | 1 | ||
8 | 8 to 32 | 1 | ||
10 | 10 to 40 | 1 | ||
12 | 12 to 48 | 1 |
G49E
G49E は GPU コンピュートカードです。
各 GPU は 48 GB の GPU メモリを提供し、RTX や TensorRT などの一般的なアクセラレーション機能をサポートし、GPU 間のピアツーピア (P2P) 通信を可能にします。
サポートされている Pod 仕様は次のとおりです。
GPU (カード) | vCPU | メモリ (GiB) | メモリステップサイズ (GiB) | ストレージ (GiB) |
1 (48 GB GPU メモリ) | 2 | 2 to 16 | 1 | 30 to 256 |
4 | 4 to 32 | 1 | ||
6 | 6 to 48 | 1 | ||
8 | 8 to 64 | 1 | ||
10 | 10 to 80 | 1 | ||
12 | 12 to 96 | 1 | ||
14 | 14 to 112 | 1 | ||
16 | 16 to 120 | 1 | ||
2 (48 GB × 2 GPU メモリ) | 16 | 16 to 128 | 1 | 30 to 512 |
32 | 32, 64, 128, 230 | N/A | ||
4 (48 GB × 4 GPU メモリ) | 32 | 32, 64, 128, 256 | N/A | 30 to 1024 |
64 | 64, 128, 256, 460 | N/A | ||
8 (48 GB × 8 GPU メモリ) | 64 | 64, 128, 256, 512 | N/A | 30 to 2048 |
128 | 128, 256, 512, 920 | N/A |
G59
GPU です。
各 GPU は 32 GB の GPU メモリを搭載し、RTX や TensorRT などのアクセラレーション機能をサポートし、GPU 間のピアツーピア (P2P) 通信を可能にします。
サポートされている Pod 仕様は次のとおりです。
GPU (カード) | vCPU | メモリ (GiB) | メモリステップサイズ (GiB) | ストレージ (GiB) |
1 (32 GB GPU メモリ) | 2 | 2 to 16 | 1 | 30 to 256 |
4 | 4 to 32 | 1 | ||
6 | 6 to 48 | 1 | ||
8 | 8 to 64 | 1 | ||
10 | 10 to 80 | 1 | ||
12 | 12 to 96 | 1 | ||
14 | 14 to 112 | 1 | ||
16 | 16 to 128 | 1 | ||
22 | 22, 32, 64, 128 | N/A | ||
2 (32 GB × 2 GPU メモリ) | 16 | 16 to 128 | 1 | 30 to 512 |
32 | 32, 64, 128, 256 | N/A | ||
46 | 64, 128, 256, 360 | N/A | ||
4 (32 GB × 4 GPU メモリ) | 32 | 32, 64, 128, 256 | N/A | 30 to 1024 |
64 | 64, 128, 256, 512 | N/A | ||
92 | 128, 256, 512, 720 | N/A | ||
8 (32 GB × 8 GPU メモリ) | 64 | 64, 128, 256, 512 | N/A | 30 to 2048 |
128 | 128, 256, 512, 1024 | N/A | ||
184 | 256, 512, 1024, 1440 | N/A |
L20N
L20N は GPU コンピュートカードです。
新しい Blackwell アーキテクチャ、高周波 CPU、大容量メモリを搭載しています。
自動運転やエンボディードインテリジェンスのトレーニング、大規模モデルの推論、映画やアニメーションのレンダリング、メタバースアプリケーション、クラウドゲーミングなど、さまざまなシナリオでコスト効率の高い GPU アクセラレーションに最適です。
サポートされている Pod 仕様は次のとおりです。
GPU (カード) | vCPU | メモリ (GiB) | メモリステップサイズ (GiB) | ストレージ (GiB) |
1 (48 GB GPU メモリ) | 2 | 2 to 16 | 1 | 30 to 2048 |
4 | 4 to 32 | 1 | ||
6 | 6 to 48 | 1 | ||
8 | 8 to 64 | 1 | ||
10 | 10 to 80 | 1 | ||
12 | 12 to 96 | 1 | ||
14 | 14 to 112 | 1 | ||
16 | 16 to 128 | 1 | ||
32 | 32, 64, 128, 256 | N/A | ||
2 (48 GB × 2 GPU メモリ) | 16 | 16 to 128 | 1 | |
32 | 32, 64, 128, 256 | N/A | ||
64 | 64, 128, 256, 512 | N/A | ||
4 (48 GB × 4 GPU メモリ) | 32 | 32, 64, 128, 256 | N/A | |
64 | 64, 128, 256, 512 | N/A | ||
128 | 128, 256, 512, 1024 | N/A | ||
8 (48 GB × 8 GPU メモリ) | 64 | 64, 128, 256, 512 | N/A | |
128 | 128, 256, 512, 1024 | N/A | ||
256 | 256, 512, 1024, 2048 | N/A |
L20NE
GPU カードです。
新しい Blackwell アーキテクチャをベースに、高周波 CPU、大容量メモリ、プロフェッショナルグラフィックスカードを提供します。
自動運転、エンボディードインテリジェンスのトレーニング、大規模モデルの推論、映画やアニメーションのレンダリング、メタバース、クラウドゲーミングなどの GPU アクセラレーションワークロード向けに、コスト効率の高い GPU クラウドサービスを提供します。
サポートされている Pod 仕様は次のとおりです。
GPU (カード) | vCPU | メモリ (GiB) | メモリステップサイズ (GiB) | ストレージ (GiB) |
1 (72 GB GPU メモリ) | 2 | 2 to 16 | 1 | 30 to 2048 |
4 | 4 to 32 | 1 | ||
6 | 6 to 48 | 1 | ||
8 | 8 to 64 | 1 | ||
10 | 10 to 80 | 1 | ||
12 | 12 to 96 | 1 | ||
14 | 14 to 112 | 1 | ||
16 | 16 to 128 | 1 | ||
32 | 32, 64, 128, 180 | N/A | ||
2 (72 GB × 2 GPU メモリ) | 16 | 16 to 128 | 1 | |
32 | 32, 64, 128, 256 | N/A | ||
64 | 64, 128, 256, 360 | N/A | ||
4 (72 GB × 4 GPU メモリ) | 32 | 32, 64, 128, 256 | N/A | |
64 | 64, 128, 256, 512 | N/A | ||
128 | 128, 256, 512, 720 | N/A | ||
8 (72 GB × 8 GPU メモリ) | 64 | 64, 128, 256, 512 | N/A | |
128 | 128, 256, 512, 1024 | N/A | ||
256 | 256, 512, 1024, 1440 | N/A |