Elastic GPU Service は、オンデマンドでオートスケーリング可能な GPU アクセラレーテッドコンピューティングを提供します。Alibaba Cloud のエラスティックコンピューティングファミリーの一部として、Elastic GPU Service は GPU と CPU のコンピューティング能力を組み合わせ、人工知能 (AI)、ハイパフォーマンスコンピューティング (HPC)、プロフェッショナルグラフィックスおよび画像処理などのユースケースに対応します。
-
リージョン別のインスタンスの可用性を表示:インスタンスタイプはリージョンによって異なる場合があります。各リージョンでの購入の可否を確認することを推奨します。
-
インスタンスタイプの選択ガイドを表示:まず、ビジネスシナリオに適したインスタンスファミリーを決定します。次に、このトピックを使用して特定のインスタンスタイプを選択します。
-
インスタンスメトリックの説明を表示:このトピックを読んで、インスタンスタイプのメトリックを理解してください。
-
ECS 料金計算ツールの使用:料金計算ツールを使用して、インスタンス料金を見積もることができます。
|
GPU 仮想化 |
GPU コンピューティング |
非推奨 |
sgn8ia vGPU アクセラレーテッドインスタンスファミリー
-
概要:
-
第 3 世代の SHENLONG アーキテクチャを搭載する sgn8ia インスタンスは、安定的で予測可能な極めて高いパフォーマンスを提供します。チップレベルの高速化により、ストレージ、ネットワーク、コンピューティングのパフォーマンスが大幅に向上し、データ保存やモデルの読み込みを高速化できます。
-
これらのインスタンスには、NVIDIA GRID Virtual Workstation (vWS) ソフトウェアライセンスが含まれており、さまざまなプロフェッショナルなコンピューター支援設計 (CAD) アプリケーションに認定されたグラフィックスアクセラレーションを提供します。また、小規模な AI 推論ワークロード向けの、コスト効率の高い軽量な GPU アクセラレーションインスタンスとしても機能します。
-
-
ユースケース:
-
画像認識、音声認識、行動識別など、高周波数の CPU、十分なメモリ、強力な GPU を必要とする同時 AI 推論ワークロード。
-
リモートグラフィックスデザインやクラウドゲーミングなど、高性能な 3D グラフィックス仮想化を必要とするグラフィックスを多用するアプリケーション。これらのインスタンスは RTX 機能をサポートし、高周波数の CPU を搭載しています。
-
映画やアニメーション制作、クラウドゲーミング、機械設計のための 3D モデリング。クロック周波数が最大 3.75 GHz の高周波 AMD Genoa プロセッサーは、これらのタスクに優れたパフォーマンスを提供します。
-
-
コンピューティング:
-
NVIDIA Lovelace アーキテクチャ GPU を搭載しており、以下の特徴があります:
-
大容量の GPU メモリと複数の GPU スライシングオプション。
-
vGPU、RTX、TensorRT などの一般的なアクセラレーション機能をサポートし、幅広いワークロードに対応。
-
-
プロセッサー:クロック周波数が 3.4 GHz ~ 3.75 GHz の高周波 AMD Genoa プロセッサーが、3D モデリング向けに、より高いコンピューティング能力を提供します。
-
-
ストレージ:
-
このファミリーのすべてのインスタンスは I/O 最適化済みです。
-
これらのインスタンスは NVMe プロトコルをサポートしています。詳細については、「NVMe プロトコルの概要」をご参照ください。
-
サポート対象のクラウドディスクタイプ:ESSD クラウドディスク、ESSD AutoPL クラウドディスク、リージョン ESSD クラウドディスク。クラウドディスクの詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
これらのインスタンスは IPv4 と IPv6 をサポートしています。詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じてスケールし、より大きなインスタンスほど優れたパフォーマンスを提供します。
-
次の表に、sgn8ia ファミリーのインスタンスタイプと仕様を示します。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU メモリ |
ネットワーク帯域幅 (Gbit/s) |
パケットレート (pps) |
NIC キュー |
ENI |
ENI あたりのプライベート IP 数 |
最大クラウドディスク数 |
ベースライン IOPS |
ベースラインスループット (MB/s) |
|
ecs.sgn8ia-m2.xlarge |
4 |
16 |
2 GB |
2.5 |
1,000,000 |
4 |
4 |
15/15 |
9 |
30,000 |
244 |
|
ecs.sgn8ia-m4.2xlarge |
8 |
32 |
4 GB |
4 |
1,600,000 |
8 |
4 |
15/15 |
9 |
45,000 |
305 |
|
ecs.sgn8ia-m8.4xlarge |
16 |
64 |
8 GB |
7 |
2,000,000 |
16 |
8 |
30/30 |
17 |
60,000 |
427 |
|
ecs.sgn8ia-m16.8xlarge |
32 |
128 |
16 GB |
10 |
3,000,000 |
32 |
8 |
30/30 |
33 |
80,000 |
610 |
|
ecs.sgn8ia-m24.12xlarge |
48 |
192 |
24 GB |
16 |
4,500,000 |
48 |
8 |
30/30 |
33 |
120,000 |
1,000 |
|
ecs.sgn8ia-m48.24xlarge |
96 |
384 |
48 GB |
32 |
9,000,000 |
64 |
15 |
30/30 |
33 |
240,000 |
2,000 |
-
表内の GPU 仕様は、vGPU 技術を使用して作成された vGPU スライスを指します。
-
sgn8ia インスタンスでは、メモリと GPU メモリは専用リソースです。vCPU は共有リソースであり、オーバーサブスクリプション比率は約 1:1.5 です。ワークロードが専用の CPU コンピューティング能力を必要とする場合は、gn7i GPU アクセラレーションコンピューティング最適化インスタンスファミリーのインスタンスなど、パススルー GPU を搭載した専用インスタンスを使用してください。
sgn7i-vws:共有 CPU を備えた仮想 GPU アクセラレーテッドインスタンスファミリー
-
概要:
-
第 3 世代の SHENLONG アーキテクチャをベースとする sgn7i-vws インスタンスは、安定性と予測性に優れた高いパフォーマンスを提供します。チップレベルの高速パスアクセラレーションを使用して、ストレージとネットワークのパフォーマンス、およびコンピューティングの安定性を向上させ、データの保存やモデルの読み込みを高速化します。
-
このインスタンスファミリーのインスタンスは CPU とネットワークのリソースを共有し、基盤リソースの利用率を最大化します。メモリと GPU メモリは各インスタンスに専有されるため、データ分離と一貫したパフォーマンスを確保します。
説明専用の CPU リソースが必要な場合は、vgn7i-vws インスタンスファミリーを選択してください。
-
これらのインスタンスには NVIDIA GRID Virtual Workstation (vWS) ソフトウェアライセンスが含まれており、さまざまなプロフェッショナル CAD アプリケーション向けに認定済みのグラフィックスアクセラレーションドライバーを提供します。また、小規模な AI 推論ワークロード向けの軽量でコスト効率に優れた GPU コンピューティングインスタンスとしても使用できます。
-
-
ユースケース:
-
高性能な CPU、メモリ、GPU を搭載したこれらのインスタンスは、画像認識、音声認識、行動認識などの同時実行 AI 推論タスクに適しています。
-
RTX 機能と高周波数 CPU をサポートするこれらのインスタンスは、高性能な 3D グラフィックス仮想化を提供します。リモートでのグラフィックデザインやクラウドゲーミングなど、グラフィックス負荷の高いワークロードに最適です。
-
Intel Ice Lake プロセッサを搭載したこれらのインスタンスは、映画およびアニメーション制作、クラウドゲーミング、機械設計などの分野における 3D モデリングで優れたパフォーマンスを提供します。
-
-
コンピュート:
-
NVIDIA A10 GPU を搭載しています。
-
革新的な NVIDIA Ampere アーキテクチャ。
-
仮想 GPU、RTX、TensorRT などの一般的な高速化機能をサポートし、さまざまなワークロードに対応します。
-
-
プロセッサ:2.9 GHz Intel® Xeon® Scalable (Ice Lake) プロセッサ (全コアターボ周波数 3.5 GHz)。
-
-
ストレージ:
-
I/O 最適化インスタンス。
-
サポートされるクラウドディスクタイプ: ESSD クラウドディスク、ESSD AutoPL クラウドディスク、およびゾーン冗長 ESSD クラウドディスク。 詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 に対応しています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じて向上し、より大きいインスタンスタイプほど高くなります。
-
sgn7i-vws インスタンスファミリーのインスタンスタイプと仕様は次の表のとおりです。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU |
GPU メモリ |
ネットワーク帯域幅 (Gbit/s) |
パケットレート (パケット/秒) |
NIC キュー |
ENI |
プライベート IPv4 アドレス |
IPv6 アドレス |
|
ecs.sgn7i-vws-m2.xlarge |
4 |
15.5 |
NVIDIA A10 * 1/12 |
24 GB * 1/12 |
1.5/5 |
500,000 |
4 |
2 |
2 |
1 |
|
ecs.sgn7i-vws-m4.2xlarge |
8 |
31 |
NVIDIA A10 * 1/6 |
24 GB * 1/6 |
2.6/10 |
1,000,000 |
4 |
4 |
6 |
1 |
|
ecs.sgn7i-vws-m8.4xlarge |
16 |
62 |
NVIDIA A10 * 1/3 |
24 GB * 1/3 |
5/20 |
2,000,000 |
8 |
4 |
10 |
1 |
|
ecs.sgn7i-vws-m2s.xlarge |
4 |
8 |
NVIDIA A10 * 1/12 |
24 GB * 1/12 |
1.5/5 |
500,000 |
4 |
2 |
2 |
1 |
|
ecs.sgn7i-vws-m4s.2xlarge |
8 |
16 |
NVIDIA A10 * 1/6 |
24 GB * 1/6 |
2.6/10 |
1,000,000 |
4 |
4 |
6 |
1 |
|
ecs.sgn7i-vws-m8s.4xlarge |
16 |
32 |
NVIDIA A10 * 1/3 |
24 GB * 1/3 |
5/20 |
2,000,000 |
8 |
4 |
10 |
1 |
GPU 列には、GPU モデルと GPU スライシング情報が示されています。GPU スライシングは、物理 GPU を複数のスライスに分割し、各インスタンスに 1 つのスライスを割り当てます。
例: NVIDIA A10 * 1/12 の場合、NVIDIA A10 は GPU モデル、 1/12 は物理 GPU 1 基が 12 個のスライスに分割され、そのうちの 1 つがインスタンスに割り当てられることを意味します。
vgn7i-vws vGPU アクセラレーテッドインスタンスファミリー
-
概要
-
第3世代 Shenlong アーキテクチャに基づいたこれらのインスタンスは、安定した予測可能な高性能を実現します。チップレベルの高速パスアクセラレーションにより、ストレージパフォーマンス、ネットワークパフォーマンス、コンピューティングの安定性が大幅に向上し、データの保存とモデルの読み込みを高速化します。
-
これらのインスタンスには、プロフェッショナル向け CAD アプリケーションやグラフィックデザインワークロード用に認定されたグラフィックスアクセラレーションドライバーを提供する NVIDIA GRID vWS ソフトウェアライセンスが含まれています。また、小規模な AI 推論向けの費用対効果の高い軽量コンピューティングインスタンスとしても利用できます。
-
-
ユースケース
-
高性能 CPU、メモリ、GPU を搭載したこれらのインスタンスは、画像認識、音声認識、行動認識などの大量の同時 AI 推論タスクを処理できます。
-
これらのインスタンスは RTX 機能をサポートし、高周波数の CPU と組み合わせることで高性能な 3D グラフィックス仮想化を提供するため、リモートグラフィックデザイン、クラウドゲーミング、その他の要求の厳しいグラフィックス処理ワークロードに最適です。
-
Intel Ice Lake プロセッサーを搭載したこれらのインスタンスは、映画やアニメーション制作、クラウドゲーミング、機械設計といった分野の 3D モデリングで、優れたパフォーマンスを発揮します。
-
-
コンピューティング
-
これらのインスタンスは NVIDIA A10 GPU を搭載しています。
-
革新的な NVIDIA Ampere アーキテクチャに基づいています。
-
仮想 GPU、RTX、TensorRT などの一般的なアクセラレーション機能をサポートしています。
-
-
プロセッサー: 2.9 GHz Intel® Xeon® Scalable (Ice Lake) プロセッサー (全コアターボ周波数 3.5 GHz)。
-
-
ストレージ
-
これらは I/O 最適化インスタンスです。
-
サポート対象のクラウドディスク: ESSD クラウドディスク、ESSD AutoPL クラウドディスク、ESSD 都市内冗長クラウドディスク。クラウドディスクの詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク
-
これらのインスタンスは IPv4 と IPv6 をサポートしています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプによって異なります。インスタンスタイプが大きいほど、ネットワークパフォーマンスは向上します。
-
vgn7i-vws インスタンスファミリーのインスタンスタイプと仕様は次のとおりです。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU |
GPU メモリ |
ベースライン帯域幅 (Gbit/s) |
転送レート (pps) |
NIC キュー |
ENI |
プライベート IPv4 アドレス |
IPv6 アドレス |
|
ecs.vgn7i-vws-m4.xlarge |
4 |
30 |
NVIDIA A10 * 1/6 |
24 GB * 1/6 |
3 |
1,000,000 |
4 |
4 |
10 |
1 |
|
ecs.vgn7i-vws-m8.2xlarge |
10 |
62 |
NVIDIA A10 * 1/3 |
24 GB * 1/3 |
5 |
2,000,000 |
8 |
6 |
10 |
1 |
|
ecs.vgn7i-vws-m12.3xlarge |
14 |
93 |
NVIDIA A10 * 1/2 |
24 GB * 1/2 |
8 |
3,000,000 |
8 |
6 |
15 |
1 |
|
ecs.vgn7i-vws-m24.7xlarge |
30 |
186 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
6,000,000 |
12 |
8 |
30 |
1 |
上の表の「GPU」列には、GPU モデルと GPU スライシング情報が記載されています。GPU スライシングは、物理 GPU を複数のスライスに分割し、各インスタンスが 1 つのスライスを使用できるようにします。次に例を示します。
NVIDIA A10 * 1/6 の場合、NVIDIA A10 は GPU モデル、1/6 は物理 GPU が 6 つのスライスに分割され、インスタンスがそのうちの 1 つを使用することを示します。
vgn6i-vws、vGPU アクセラレーテッドインスタンスファミリー
-
Alibaba Cloud は、vgn6i インスタンスファミリーを vgn6i-vws にアップグレードしました。新しいインスタンスファミリーは最新の NVIDIA GRID ドライバーを使用し、無料の GRID vWS ライセンスが含まれています。GRID ドライバーがプリインストールされた無料イメージをリクエストするには、チケットを送信してください。
-
GRID ドライバーが含まれていないパブリックイメージまたはカスタムイメージを使用する必要がある場合は、個別にインストールするための GRID ドライバーパッケージをリクエストするには、チケットを送信してください。Alibaba Cloud は、GRID ドライバーに対して追加のライセンス料金を請求しません。
-
ユースケース:
-
クラウドゲーミング向けのリアルタイムレンダリング。
-
拡張現実 (AR) および仮想現実 (VR) アプリケーション向けのリアルタイムレンダリング。
-
エラスティックにデプロイされたインターネットサービス向けの AI (DL および ML) 推論。
-
ディープラーニングの実践的なトレーニング環境。
-
ディープラーニング向けのモデル実験環境。
-
-
コンピューティング:
-
NVIDIA T4 GPU アクセラレーターを搭載しています。
-
これらのインスタンスは、GPU スライシングによって作成された vGPU を使用します。
-
フル構成の NVIDIA Tesla T4 GPU の計算能力の 1/4、1/2、またはフル構成を提供します。
-
4 GB、8 GB、または 16 GB の GPU メモリを提供します。
-
-
vCPU とメモリの比率は約 1:5 です。
-
プロセッサ:2.5 GHz Intel® Xeon® Platinum 8163 (Skylake)。
-
-
ストレージ:
-
このファミリーのすべてのインスタンスは I/O 最適化済みです。
-
サポートされているクラウドディスクタイプ: ESSD、ESSD AutoPL クラウドディスク、リージョン ESSD、標準 SSD、およびウルトラディスク。クラウドディスクの詳細については、「Elastic Block Storage の概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 に対応しています。詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じてスケールします。
-
次の表に、vgn6i-vws インスタンスファミリーのインスタンスタイプと仕様を示します。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU |
GPU メモリ |
ベースライン帯域幅 (Gbit/s) |
転送レート (pps) |
NIC キュー |
ENI |
プライベート IPv4 アドレス |
IPv6 アドレス |
|
ecs.vgn6i-m4-vws.xlarge |
4 |
23 |
NVIDIA T4 * 1/4 |
16 GB * 1/4 |
2 |
500,000 |
4/2 |
3 |
10 |
1 |
|
ecs.vgn6i-m8-vws.2xlarge |
10 |
46 |
NVIDIA T4 * 1/2 |
16 GB * 1/2 |
4 |
800,000 |
8/2 |
4 |
10 |
1 |
|
ecs.vgn6i-m16-vws.5xlarge |
20 |
92 |
NVIDIA T4 * 1 |
16 GB * 1 |
7.5 |
1,200,000 |
6 |
4 |
10 |
1 |
上記の表の GPU 列には、GPU モデルと GPU スライシング情報が表示されます。GPU スライシングは物理 GPU を複数のスライスに分割し、各インスタンスは 1 つのスライスを使用します。
NVIDIA T4 * 1/4 の場合、NVIDIA T4 は GPU モデルであり、1/4 は 1 つの GPU が 4 つのスライスに分割され、各インスタンスが 1 つを使用することを示します。
gn9gc:GPU コンピューティング最適化インスタンスファミリー
gn9gc は招待制プレビュー段階です。gn9gc を使用するには、チケットを送信してください。
-
概要:gn9gc は、Alibaba Cloud の第 9 世代コスト効率の高い GPU コンピューティング最適化インスタンスファミリーです。最新世代の CIPU 2.0 を使用してクラウドサービス機能を提供し、高クロック周波数のプロセッサを搭載し、適切なメモリ容量を備えています。このインスタンスファミリーは、大規模言語モデル (LLM) の生成シナリオおよびビデオ/画像生成シナリオ向けに、コスト効率の高いインスタンスを提供します。GPU は、さまざまなレンダリングワークロードをサポートするために、グラフィックス処理機能を直接提供することもできます。
-
ユースケース:
-
LLM 推論:新世代の GPU は、第 8 世代を超えるコンピューティング能力を提供し、メモリ帯域幅が大幅に向上しています。新たにサポートされた FP4 演算により、推論パフォーマンスとコスト効率が包括的に向上します。マルチ GPU 並列推論の効率が大幅に向上しています。
-
-
コンピューティング:
-
最新の CIPU 2.0 クラウドプロセッサを使用。
-
第 2 世代 CIPU は、eRDMA、VPC、EBS コンポーネント機能が強化されており、より高いクラウド処理能力を提供します。コンテナ (Docker、Clear Container、Pouch など) をサポートします。
-
-
新しい Blackwell アーキテクチャのプロフェッショナルグラフィックスカードを使用:
-
OpenGL プロフェッショナルグレードのグラフィックス処理をサポートします。
-
RTX、TensorRT、その他の一般的なアクセラレーション機能をサポートし、新たにアップグレードされた FP4 サポートと PCIe Gen5 相互接続を備えています。
-
-
主な GPU 仕様:
GPU アーキテクチャ
GPU メモリ
コンピューティングパフォーマンス
ビデオエンコーディング/デコーディング
GPU 間相互接続
アクセラレーション API
NVIDIA Blackwell
-
容量: 72 GB
-
帯域幅: 1,344 GB/s
-
TF32: 126 TFLOPS
-
FP32: 52 TFLOPS
-
FP16/BF16: 266 TFLOPS
-
FP8/INT8: 530 TFLOPS
-
FP4: 970 TFLOPS
-
RT Core: 196 TFLOPS
-
3 x Video Encoder
-
3 x Video Decoder
-
PCIe インターフェイス:PCIe Gen5 x16
-
帯域幅:128 GB/s、P2P 対応
DX12、OpenGL 4.6、Vulkan 1.3、CUDA 12.8、OpenCL 3.0、DirectCompute
-
-
-
ストレージ:
-
I/O 最適化。
-
NVMe プロトコルをサポートしています。詳細については、「NVMeプロトコル」をご参照ください。
-
対応クラウドディスク:Elastic エフェメラルディスク、ESSD、ESSD AutoPL ディスク、リージョン ESSD。詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 をサポートしています。IPv6 の詳細については、「IPv6」をご参照ください。
-
最大 3,000 万 pps の超高ネットワークパフォーマンス。
-
VPC ネットワーク上で RDMA を直接アクセラレーションする ERI (Elastic RDMA Interface) をサポートし、帯域幅は最大 360 Gbit/s です。自動運転、身体性知能、コンピュータビジョン、従来のモデルトレーニングワークロードに適しています。
-
説明
ERI の詳細については、「エンタープライズレベルインスタンスで eRDMA を有効化する」をご参照ください。
-
次の表に、gn9gc インスタンスファミリーのインスタンスタイプを示します。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU メモリ |
ベースライン/バースト帯域幅 (Gbit/s) |
パケット転送レート (pps) |
ENI あたりの IPv4 アドレス数 |
ENI あたりの IPv6 アドレス数 |
NIC キュー (プライマリ/セカンダリ) |
ENI |
最大データディスク数 |
最大ディスク帯域幅 (GB/s) |
|
ecs.gn9gc.4xlarge |
16 |
128 |
72 GB × 1 |
16 |
360 万 |
30 |
30 |
8/32 |
8 |
1 |
1 |
|
ecs.gn9gc.8xlarge |
32 |
192 |
72 GB × 1 |
32 |
750 万 |
30 |
30 |
16/64 |
8 |
1 |
1 |
|
ecs.gn9gc-2x.16xlarge |
64 |
384 |
72 GB × 2 |
65 |
1,500 万 |
30 |
30 |
32/64 |
15 |
2 |
2 |
|
ecs.gn9gc-4x.32xlarge |
128 |
768 |
72 GB × 4 |
131 |
3,000 万 |
50 |
50 |
64/64 |
15 |
4 |
4 |
|
ecs.gn9gc-8x.64xlarge |
256 |
1,536 |
72 GB × 8 |
204 |
3,000 万 |
50 |
50 |
128/64 |
15 |
6 |
6 |
gn9gc インスタンスで使用するイメージは、UEFI ブートモードである必要があります。カスタムイメージを使用する場合は、カスタムイメージが UEFI ブートモードをサポートしており、イメージのブートモード属性が UEFI に設定されていることを確認してください。詳細については、「API 操作を呼び出してカスタムイメージのブートモードを UEFI に設定する」をご参照ください。
gn8v および gn8v-tee、GPU コンピューティング最適化インスタンスファミリー
これらのインスタンスファミリーは、中国本土以外のリージョンを含む一部のリージョンで利用可能です。使用するには、Alibaba Cloud の営業担当者にお問い合わせください。
-
概要:
-
gn8v:Alibaba Cloud の第 8 世代 GPU コンピューティング最適化インスタンスファミリーで、超大規模言語モデル (LLM) の AI モデルトレーニングおよび推論向けです。このファミリーは、さまざまなアプリケーション要件に対応するため、1、2、4、または 8 個の GPU を搭載したインスタンスタイプを提供します。
-
gn8v-tee:大規模モデルのトレーニングと推論のセキュリティを強化するため、Alibaba Cloud は、gn8v をベースにコンフィデンシャルコンピューティング機能を備えた第 8 世代のインスタンスファミリーである gn8v-tee を提供します。これらのインスタンスは、GPU コンピューティング中にデータを暗号化し、お客様のデータを保護します。
-
-
ユースケース:
-
700億を超えるパラメーターを持つ LLM でのマルチ GPU 並列推論においてコスト効率に優れています。
-
各 GPU は 39.5 TFLOPS の FP32 コンピューティング性能を提供し、従来の AI モデルトレーニングや自動運転トレーニングのワークロードで優れたパフォーマンスを発揮します。
-
8 つの GPU は NVLink 相互接続をサポートしており、小規模から中規模のモデルのトレーニングに適しています。
-
-
特徴:
-
高速・大容量の GPU メモリ:各 GPU は 96 GB の HBM3 GPU メモリを搭載し、最大 4 TB/s のメモリ帯域幅を提供し、モデルのトレーニングと推論を大幅に高速化します。
-
高い GPU 間帯域幅:複数の GPU は NVLink で 900 GB/s で相互接続されています。これにより、前世代の GPU インスタンスと比較して、マルチ GPU トレーニングと推論の効率が大幅に向上します。
-
LLM 量子化:FP8 コンピューティング性能をサポートし、大規模なパラメーターのトレーニングと推論のパフォーマンスを最適化します。これにより、トレーニングと推論の速度が大幅に向上し、GPU メモリの使用量を削減します。
-
(gn8v-tee インスタンスのみ) 高いセキュリティ:Intel® Trust Domain Extensions (TDX) による CPU コンフィデンシャルコンピューティングと、NVIDIA Confidential Computing (CC) による GPU コンフィデンシャルコンピューティングの両方をサポートします。これにより、モデル推論パイプライン全体にエンドツーエンドのコンフィデンシャルコンピューティングを提供し、モデルのトレーニングと推論中にお客様の推論データとエンタープライズモデルを保護します。
-
-
コンピューティング:
-
最新の CIPU 1.0 を搭載しています。
-
コンピューティングとストレージを分離し、必要なストレージリソースを柔軟に選択できます。
-
ベアメタル機能を提供し、従来の仮想化インスタンスとは異なり、GPU インスタンス間のピアツーピア (P2P) 通信をサポートします。
-
-
第 4 世代の Intel® Xeon® スケーラブル・プロセッサーを搭載しており、ベース周波数は最大 2.8 GHz、全コアターボ周波数は最大 3.1 GHz です。
-
-
ストレージ:
-
I/O 最適化インスタンスです。
-
これらのインスタンスは NVMe プロトコルをサポートしています。詳細については、「NVMe プロトコルの概要」をご参照ください。
-
サポートされているクラウドディスクタイプ:エラスティック一時ディスク、ESSD、ESSD AutoPL ディスク、およびリージョン ESSD。クラウドディスクの詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 をサポートしています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。
-
これらのインスタンスはジャンボフレームをサポートしています。詳細については、「ジャンボフレーム」をご参照ください。
-
最大 3,000 万 pps (パケット/秒) (8 GPU インスタンス) のパケット転送レートで、超高性能なネットワークパフォーマンスを提供します。
-
Elastic RDMA Interface (ERI) をサポートしています。
-
説明
ERI の使用方法については、「エンタープライズレベルインスタンスでの有効化」をご参照ください。
-
-
セキュリティ:トラステッドコンピューティング機能 (vTPM) をサポートしています。この機能は gn8v インスタンスで利用できますが、gn8v-tee インスタンスでは利用できません。詳細については、「トラステッドコンピューティング機能の概要」をご参照ください。
次の表に gn8v ファミリーのインスタンスタイプを示します。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU メモリ |
ネットワーク帯域幅 (Gbit/s) |
ENI |
プライマリ ENI キュー |
ENI あたりの IPv4 アドレス数 |
ENI あたりの IPv6 アドレス数 |
最大クラウドディスク数 |
ベースライン IOPS |
ベースライン帯域幅 (GB/s) |
|
ecs.gn8v.4xlarge |
16 |
96 |
96 GB × 1 |
12 |
8 |
16 |
30 |
30 |
17 |
100,000 |
0.75 |
|
ecs.gn8v.6xlarge |
24 |
128 |
96 GB × 1 |
15 |
8 |
24 |
30 |
30 |
17 |
120,000 |
0.937 |
|
ecs.gn8v-2x.8xlarge |
32 |
192 |
96 GB × 2 |
20 |
8 |
32 |
30 |
30 |
25 |
200,000 |
1.25 |
|
ecs.gn8v-4x.8xlarge |
32 |
384 |
96 GB × 4 |
20 |
8 |
32 |
30 |
30 |
25 |
200,000 |
1.25 |
|
ecs.gn8v-2x.12xlarge |
48 |
256 |
96 GB × 2 |
25 |
8 |
48 |
30 |
30 |
33 |
300,000 |
1.50 |
|
ecs.gn8v-8x.16xlarge |
64 |
768 |
96 GB × 8 |
32 |
8 |
64 |
30 |
30 |
33 |
360,000 |
2.5 |
|
ecs.gn8v-4x.24xlarge |
96 |
512 |
96 GB × 4 |
50 |
15 |
64 |
30 |
30 |
49 |
500,000 |
3 |
|
ecs.gn8v-8x.48xlarge |
192 |
1024 |
96 GB × 8 |
100 |
15 |
64 |
50 |
50 |
65 |
1,000,000 |
6 |
次の表に gn8v-tee ファミリーのインスタンスタイプを示します。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU メモリ |
ネットワーク帯域幅 (Gbit/s) |
ENI |
プライマリ ENI キュー |
ENI あたりの IPv4 アドレス数 |
ENI あたりの IPv6 アドレス数 |
最大クラウドディスク数 |
ベースライン IOPS |
ベースライン帯域幅 (GB/s) |
|
ecs.gn8v-tee.4xlarge |
16 |
96 |
96 GB × 1 |
12 |
8 |
16 |
30 |
30 |
17 |
100,000 |
0.75 |
|
ecs.gn8v-tee.6xlarge |
24 |
128 |
96 GB × 1 |
15 |
8 |
24 |
30 |
30 |
17 |
120,000 |
0.937 |
|
ecs.gn8v-tee-8x.16xlarge |
64 |
768 |
96 GB × 8 |
32 |
8 |
64 |
30 |
30 |
33 |
360,000 |
2.5 |
|
ecs.gn8v-tee-8x.48xlarge |
192 |
1024 |
96 GB × 8 |
100 |
15 |
64 |
50 |
50 |
65 |
1,000,000 |
6 |
gn8v-tee インスタンスファミリーは Alibaba Cloud Linux 3 イメージのみをサポートします。Alibaba Cloud Linux 3 上に構築されたカスタムイメージを使用してインスタンスを作成する場合、カーネルバージョンが 5.10.134-18 以降であることを確認してください。
gn8is:GPU コンピューティング最適化インスタンスファミリー
このインスタンスファミリーは、中国本土以外のリージョンを含む、一部のリージョンで利用可能です。このインスタンスファミリーを使用するには、Alibaba Cloud の営業担当者にお問い合わせください。
-
概要: gn8is は、AI 生成コンテンツ (AIGC) の需要増大に対応するために設計された、Alibaba Cloud の第 8 世代 GPU コンピューティング最適化インスタンスファミリーです。最新の NVIDIA L20 GPU を搭載したこのファミリーは、1、2、4、または 8 個の GPU を搭載したインスタンスタイプと、さまざまな CPU と GPU の比率を提供し、多様なアプリケーションのニーズに対応します。
-
特徴:
-
グラフィックス処理: 第 4 世代の Intel® Xeon® スケーラブル高周波プロセッサーを搭載したこれらのインスタンスは、3D モデリングシナリオに堅牢な CPU コンピューティング性能を提供し、よりスムーズなグラフィックスレンダリングとデザインワークフローを実現します。
-
推論タスク: それぞれ 48 GB の GPU メモリを備えた新しい NVIDIA L20 GPU を搭載したこれらのインスタンスは、推論タスクを高速化します。FP8 浮動小数点形式および INT8 整数形式をサポートし、Container Service for Kubernetes (ACK) と組み合わせることで、さまざまな AIGC モデルの推論を柔軟に実行できます。特に、パラメーター数が 700 億未満の大規模言語モデル (LLM) の推論タスクに適しています。
-
-
ユースケース:
-
Alibaba Cloud Marketplace のイメージで GRID ドライバーを使用して、OpenGL および Direct3D 機能を有効にします。これにより、アニメーション、映画やテレビの特殊効果、レンダリングなどのワークロードにワークステーション級のグラフィックス処理を提供します。
-
Container Service for Kubernetes (ACK) のコンテナ管理機能を使用して、より効率的でコスト効率の高い AIGC の画像生成と LLM の推論を実現します。
-
画像認識や音声認識など、その他の汎用 AI アプリケーション。
-
-
コンピューティング:
-
新しい NVIDIA L20 エンタープライズ級 GPU を搭載しています。
-
TensorRT、FP8 浮動小数点形式、INT8 整数形式などの一般的なアクセラレーション機能をサポートし、モデルの推論性能を向上させます。
-
GPU ごとに最大 48 GB の GPU メモリ。複数の GPU を使用することで、このファミリーのインスタンスは、パラメーター数が 700 億以上のモデルの単一インスタンスでの推論をサポートします。
-
強化されたグラフィックス処理機能。Cloud Assistant または Alibaba Cloud Marketplace のイメージを使用して GRID ドライバーをインストールすると、グラフィックス処理性能は第 7 世代プラットフォームの 2 倍になります。
-
-
NVIDIA L20 GPU の主要なパラメーター:
GPU アーキテクチャ
GPUメモリ
計算性能
ビデオエンコーディング/デコーディング
GPU 間接続
NVIDIA Ada Lovelace
-
容量: 48 GB
-
帯域幅: 864 GB/s
-
FP64: N/A
-
FP32: 59.3 TFLOPS
-
FP16/BF16: 119 TFLOPS
-
FP8/INT8: 237 TFLOPS
-
3 × ビデオエンコーダー (+AV1)
-
3 × ビデオデコーダー
-
4 × JPEG デコーダー
-
PCIe インターフェイス: PCIe Gen4 x16
-
帯域幅: 64 GB/s
-
-
プロセッサ:最新の高周波 Intel® Xeon® プロセッサーを搭載しており、全コアターボ周波数は最大 3.9 GHz で、複雑な 3D モデリングの要求に対応します。
-
-
ストレージ:
-
このファミリーのすべてのインスタンスは I/O 最適化インスタンスです。
-
これらのインスタンスは NVMe プロトコルをサポートしています。詳細については、「NVMe プロトコルの概要」をご参照ください。
-
サポートされているクラウドディスクタイプ:Elastic エフェメラルディスク、ESSD、ESSD AutoPL ディスク、リージョン ESSD。クラウドディスクの詳細は、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 をサポートしています。IPv6 通信の詳細は、「IPv6 通信」をご参照ください。
-
Elastic RDMA Interface (ERI) をサポートしています。
説明ERI の使用方法の詳細は、「エンタープライズレベルインスタンスでの eRDMA の有効化」をご参照ください。
-
-
セキュリティ:これらのインスタンスは vTPM 機能をサポートしています。詳細については、「トラステッドコンピューティングの概要」をご参照ください。
以下の表では、 gn8is ファミリーのインスタンスタイプと仕様を説明します。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU |
GPUメモリ |
ネットワーク帯域幅 (Gbit/s) |
ENI |
プライマリ ENI キュー |
プライベート IPv4 アドレス |
IPv6アドレス |
最大クラウドディスク数 |
ディスク IOPS |
ディスク帯域幅 (GB/s) |
|
ecs.gn8is.2xlarge |
8 |
64 |
L20 × 1 |
48 GB × 1 |
8 |
4 |
8 |
15 |
15 |
17 |
60,000 |
0.75 |
|
ecs.gn8is.4xlarge |
16 |
128 |
L20 × 1 |
48 GB × 1 |
16 |
8 |
16 |
30 |
30 |
17 |
120,000 |
1.25 |
|
ecs.gn8is-2x.8xlarge |
32 |
256 |
L20 × 2 |
48 GB × 2 |
32 |
8 |
32 |
30 |
30 |
33 |
250,000 |
2 |
|
ecs.gn8is-4x.16xlarge |
64 |
512 |
L20 × 4 |
48 GB × 4 |
64 |
8 |
64 |
30 |
30 |
33 |
450,000 |
4 |
|
ecs.gn8is-8x.32xlarge |
128 |
1024 |
L20 × 8 |
48 GB × 8 |
100 |
15 |
64 |
50 |
50 |
65 |
900,000 |
8 |
gn7e:GPU 高速化コンピューティング最適化インスタンスファミリー
gn7e インスタンスファミリーの主な特徴は次のとおりです。
-
概要:
-
このインスタンスファミリーは、さまざまな AI ビジネスニーズに対応するために、GPU と CPU のリソース数が異なるインスタンスタイプを選択できます。
-
第 3 世代 X-Dragon アーキテクチャをベースとする gn7e インスタンスは、前世代と比較して VPC とクラウドディスクの平均ネットワーク帯域幅が 2 倍になります。
-
-
ユースケース:
-
小規模および中規模の AI トレーニングワークロード。
-
CUDA を使用したハイパフォーマンスコンピューティング (HPC) ワークロードの高速化。
-
高い GPU コンピューティング性能または大容量の GPU メモリを必要とする AI 推論ワークロード。
-
ディープラーニング (画像分類、自動運転、音声認識などの AI アルゴリズムのトレーニングなど)。
-
計算流体力学、計算ファイナンス、分子動力学、環境分析などの GPU 集約型科学計算。
重要Transformer モデルなど、通信負荷の高い AI トレーニングワークロードを実行する場合、GPU 間通信のために NVLink を有効にする必要があります。有効にしないと、PCIe リンク経由での大規模なデータ転送により、予期しない障害やデータの破損が発生する可能性があります。トレーニングワークロードの通信リンクトポロジが不明な場合は、して、Alibaba Cloud の技術エキスパートによるサポートを受けてください。
-
-
ストレージ:
-
このファミリーのすべてのインスタンスは I/O に最適化されています。
-
対応クラウドディスク:ESSD クラウドディスク、ESSD AutoPL クラウドディスク、ESSD 同一都市冗長クラウドディスク。詳細は、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 をサポートしています。詳細は、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じて向上します。インスタンスタイプが大きくなるほど、ネットワークパフォーマンスも向上します。
-
gn7e インスタンスファミリーのインスタンスタイプと仕様は、次の表のとおりです。
|
インスタンスタイプ |
vCPU 数 |
メモリ (GiB) |
GPU メモリ |
ベースライン帯域幅 (Gbit/s) |
転送レート (pps) |
キュー数 |
ENI 数 |
プライベート IPv4 アドレス数 |
IPv6 アドレス数 |
|
ecs.gn7e-c16g1.4xlarge |
16 |
125 |
80 GB × 1 |
8 |
3,000,000 |
8 |
8 |
10 |
1 |
|
ecs.gn7e-c16g1.8xlarge |
32 |
250 |
80 GB × 2 |
16 |
6,000,000 |
16 |
8 |
10 |
1 |
|
ecs.gn7e-c16g1.16xlarge |
64 |
500 |
80 GB × 4 |
32 |
12,000,000 |
32 |
8 |
10 |
1 |
|
ecs.gn7e-c16g1.32xlarge |
128 |
1,000 |
80 GB × 8 |
64 |
24,000,000 |
32 |
16 |
15 |
1 |
gn7i: GPU コンピューティング最適化インスタンスファミリー
-
概要:第3世代 SHENLONG アーキテクチャを採用した gn7i インスタンスは、安定した予測可能な高いパフォーマンスを提供します。チップレベルの高速パスアクセラレーションを使用して、ストレージパフォーマンス、ネットワークパフォーマンス、およびコンピューティングの安定性を桁違いに向上させます。
-
ユースケース:
-
高性能な CPU、メモリ、GPU を搭載したこれらのインスタンスは、画像認識、音声認識、行動認識などの同時実行 AI 推論タスクに最適です。
-
これらのインスタンスは RTX 機能をサポートし、高クロック CPU を使用して高性能な 3D グラフィックス仮想化を提供します。リモートでのグラフィックデザインやクラウドゲーミングなど、グラフィックス負荷の高いワークロードに適しています。
-
-
コンピューティング:
-
次の特長を備えた NVIDIA A10 GPU を搭載しています:
-
革新的な NVIDIA Ampere アーキテクチャを採用しています。
-
RTX や TensorRT などの一般的な高速化機能に対応しています。
-
-
プロセッサー:2.9 GHz Intel ® Xeon ® Scalable (Ice Lake) プロセッサー (全コアターボ周波数:3.5 GHz)。
-
このインスタンスファミリーは最大 752 GiB のメモリを提供し、gn6i インスタンスファミリーと比べて大幅に増加しています。
-
-
ストレージ:
-
このファミリーのすべてのインスタンスは I/O 最適化されています。
-
サポートされているクラウドディスクタイプ: ESSD クラウドディスク、ESSD AutoPL クラウドディスク、および ESSD ゾーン冗長クラウドディスク。 詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
これらのインスタンスは IPv4 と IPv6 に対応しています。詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じてスケールします。より大きいインスタンスタイプほど、ネットワークパフォーマンスが向上します。
-
gn7i インスタンスファミリーには、次のインスタンスタイプと仕様が含まれています。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU |
GPU メモリ |
ネットワーク帯域幅 (Gbit/s) |
パケットレート (PPS) |
NIC キュー |
ENI |
プライベート IPv4 アドレス |
IPv6 アドレス |
|
ecs.gn7i-c8g1.2xlarge |
8 |
30 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
1,600,000 |
8 |
4 |
15 |
15 |
|
ecs.gn7i-c16g1.4xlarge |
16 |
60 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
3,000,000 |
8 |
8 |
30 |
30 |
|
ecs.gn7i-c32g1.8xlarge |
32 |
188 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
6,000,000 |
12 |
8 |
30 |
30 |
|
ecs.gn7i-c64g2.16xlarge |
64 |
376 |
NVIDIA A10 * 2 |
24 GB * 2 |
32 |
12,000,000 |
16 |
15 |
30 |
30 |
|
ecs.gn7i-c128g4.32xlarge |
128 |
752 |
NVIDIA A10 * 4 |
24 GB * 4 |
64 |
24,000,000 |
32 |
15 |
30 |
30 |
|
ecs.gn7i-c48g1.12xlarge |
48 |
310 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
9,000,000 |
16 |
8 |
30 |
30 |
|
ecs.gn7i-c56g1.14xlarge |
56 |
346 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
10,000,000 |
16 |
8 |
30 |
30 |
|
ecs.gn7i-2x.8xlarge |
32 |
128 |
NVIDIA A10 * 2 |
24 GB * 2 |
16 |
6,000,000 |
16 |
8 |
30 |
30 |
|
ecs.gn7i-4x.8xlarge |
32 |
128 |
NVIDIA A10 * 4 |
24 GB * 4 |
32 |
6,000,000 |
16 |
8 |
30 |
30 |
|
ecs.gn7i-4x.16xlarge |
64 |
256 |
NVIDIA A10 * 4 |
24 GB * 4 |
64 |
12,000,000 |
32 |
8 |
30 |
30 |
|
ecs.gn7i-8x.32xlarge |
128 |
512 |
NVIDIA A10 * 8 |
24 GB * 8 |
64 |
24,000,000 |
32 |
16 |
30 |
30 |
|
ecs.gn7i-8x.16xlarge |
64 |
256 |
NVIDIA A10 * 8 |
24 GB * 8 |
32 |
12,000,000 |
32 |
8 |
30 |
30 |
ecs.gn7i-2x.8xlarge、ecs.gn7i-4x.8xlarge、ecs.gn7i-4x.16xlarge、ecs.gn7i-8x.32xlarge、および ecs.gn7i-8x.16xlarge のインスタンスは、ecs.gn7i-c8g1.2xlarge または ecs.gn7i-c16g1.4xlarge に変更できます。ただし、ecs.gn7i-c32g1.8xlarge など、その他のインスタンスタイプに変更することはできません。
gn7s GPU コンピューティング最適化インスタンスファミリー
gn7s インスタンスファミリーを利用するには、チケットを送信してください。
-
概要:
-
このインスタンスファミリーは、最新の Intel Ice Lake プロセッサと、NVIDIA Ampere アーキテクチャベースの NVIDIA A30 GPU を搭載しています。このファミリーは、お客様の特定の AI ニーズに合わせて、GPU と CPU の構成が異なるさまざまなインスタンスタイプを提供します。
-
Alibaba Cloud の第 3 世代 SHENLONG アーキテクチャで構築された gn7s インスタンスは、前世代と比較して、VPC とクラウドディスクの平均ネットワーク帯域幅が 2 倍になります。
-
-
ユースケース:高性能な CPU、メモリ、GPU を搭載したこれらのインスタンスは、画像認識、音声認識、行動認識などの同時 AI 推論ワークロードに最適です。
-
コンピューティング:
-
NVIDIA A30 GPU を搭載しており、以下の特徴があります:
-
革新的な NVIDIA Ampere アーキテクチャ。
-
Multi-Instance GPU (MIG) 機能と、第 2 世代 Tensor コアによるアクセラレーションをサポートし、幅広いワークロードに対応します。
-
-
プロセッサー:2.9 GHz Intel® Xeon® Scalable (Ice Lake) プロセッサーで、全コアターボ周波数は 3.5 GHz です。
-
前世代のインスタンスファミリーよりも大幅に多くのメモリを搭載しています。
-
-
ストレージ:
-
このファミリーのすべてのインスタンスは I/O 最適化されています。
-
対応クラウドディスクタイプ: ESSD、ESSD AutoPL、ゾーン冗長 ESSD。詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 に対応しています。詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じて向上します。
-
gn7s インスタンスファミリーのインスタンスタイプと仕様は次のとおりです。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU |
GPU メモリ |
ネットワーク帯域幅 (Gbit/s) |
パケットレート (pps) |
ENI あたりのプライベート IPv4 |
ENI あたりの IPv6 |
マルチキュー |
ENI |
|
ecs.gn7s-c8g1.2xlarge |
8 |
60 |
NVIDIA A30 * 1 |
24 GB * 1 |
16 |
1,600,000 |
5 |
1 |
8 |
4 |
|
ecs.gn7s-c16g1.4xlarge |
16 |
120 |
NVIDIA A30 * 1 |
24 GB * 1 |
16 |
3,000,000 |
5 |
1 |
8 |
8 |
|
ecs.gn7s-c32g1.8xlarge |
32 |
250 |
NVIDIA A30 * 1 |
24 GB * 1 |
16 |
6,000,000 |
5 |
1 |
12 |
8 |
|
ecs.gn7s-c32g1.16xlarge |
64 |
500 |
NVIDIA A30 * 2 |
24 GB * 2 |
32 |
12,000,000 |
5 |
1 |
16 |
15 |
|
ecs.gn7s-c32g1.32xlarge |
128 |
1000 |
NVIDIA A30 * 4 |
24 GB * 4 |
64 |
24,000,000 |
10 |
1 |
32 |
15 |
|
ecs.gn7s-c48g1.12xlarge |
48 |
380 |
NVIDIA A30 * 1 |
24 GB * 1 |
16 |
9,000,000 |
8 |
1 |
16 |
8 |
|
ecs.gn7s-c56g1.14xlarge |
56 |
440 |
NVIDIA A30 * 1 |
24 GB * 1 |
16 |
10,000,000 |
8 |
1 |
16 |
8 |
gn7 GPU コンピューティング最適化インスタンスファミリー
-
シナリオ:
-
画像分類、自動運転、音声認識に使用される AI アルゴリズムのトレーニングなどのディープラーニング
-
数値流体力学、計算ファイナンス、分子動力学、環境分析などの GPU 集約型科学計算
-
-
ストレージ:
-
インスタンスは I/O に最適化されています。
-
ESSD クラウドディスク、ESSD AutoPL クラウドディスク、ESSD Zone-redundant クラウドディスクをサポートしています。詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 をサポートしています。IPv6 の詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じてスケールします。
-
次の表に、gn7 インスタンスファミリーのインスタンスタイプと仕様を示します。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU メモリ |
ネットワーク帯域幅 (Gbit/s) |
パケットレート (パケット/秒) |
NIC キュー |
ENI |
プライベート IPv4 アドレス |
IPv6 アドレス |
|
ecs.gn7-c12g1.3xlarge |
12 |
94 |
40 GB × 1 |
4 |
2,500,000 |
4 |
8 |
10 |
1 |
|
ecs.gn7-c13g1.13xlarge |
52 |
378 |
40 GB × 4 |
16 |
9,000,000 |
16 |
8 |
30 |
30 |
|
ecs.gn7-c13g1.26xlarge |
104 |
756 |
40 GB × 8 |
30 |
18,000,000 |
16 |
15 |
50 |
50 |
gn6i GPU コンピューティング最適化インスタンスファミリー
-
ユースケース:
-
コンピュータービジョン、音声認識、音声合成、自然言語処理 (NLP) 、機械翻訳、レコメンデーションシステムなどのアプリケーション向けの AI (ディープラーニングおよび機械学習) 推論。
-
クラウドゲーミング向けのリアルタイムレンダリング。
-
拡張現実 (AR) および仮想現実 (VR) 向けのクラウドベースのリアルタイムレンダリング。
-
グラフィックス負荷の高いコンピューティング、またはグラフィックスワークステーション。
-
GPU アクセラレーションデータベース。
-
ハイパフォーマンスコンピューティング (HPC) 。
-
-
コンピューティング:
-
次の特長を備えた NVIDIA T4 GPU アクセラレーターを搭載しています:
-
革新的な NVIDIA Turing アーキテクチャ。
-
GPU あたり 16 GB のメモリ、メモリ帯域幅は 320 GB/s。
-
GPU あたり 2,560 の CUDA コア。
GPU あたり最大 320 の Turing Tensor Cores。
-
混合精度 Tensor コア:FP16 の 65 TFLOPS、INT8 の 130 TOPS、INT4 の 260 TOPS をサポート。
-
-
vCPU とメモリの比率は約 1:4 です。
-
プロセッサ:2.5 GHz Intel® Xeon® Platinum 8163 (Skylake) 。
-
-
ストレージ:
-
I/O 最適化インスタンス。
-
サポートされているディスクタイプ: ESSD、ESSD AutoPL ディスク、SSD ディスク、および ultra ディスク。 詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 に対応しています。詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じてスケールします。
-
gn6i インスタンスファミリーには、次のインスタンスタイプが含まれています。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU |
GPU メモリ |
ネットワーク帯域幅 (Gbit/s) |
パケットレート (pps) |
ディスク IOPS |
マルチキュー |
ENI |
プライベート IPv4 アドレス数 |
IPv6 アドレス数 |
|
ecs.gn6i-c4g1.xlarge |
4 |
15 |
NVIDIA T4 × 1 |
16 GB × 1 |
4 |
2,500,000 |
N/A |
2 |
2 |
10 |
1 |
|
ecs.gn6i-c8g1.2xlarge |
8 |
31 |
NVIDIA T4 × 1 |
16 GB × 1 |
5 |
2,500,000 |
N/A |
2 |
2 |
10 |
1 |
|
ecs.gn6i-c16g1.4xlarge |
16 |
62 |
NVIDIA T4 × 1 |
16 GB × 1 |
6 |
2,500,000 |
N/A |
4 |
3 |
10 |
1 |
|
ecs.gn6i-c24g1.6xlarge |
24 |
93 |
NVIDIA T4 × 1 |
16 GB × 1 |
7.5 |
2,500,000 |
N/A |
6 |
4 |
10 |
1 |
|
ecs.gn6i-c40g1.10xlarge |
40 |
155 |
NVIDIA T4 × 1 |
16 GB × 1 |
10 |
2,500,000 |
N/A |
16 |
10 |
10 |
1 |
|
ecs.gn6i-c48g2.12xlarge |
48 |
186 |
NVIDIA T4 × 2 |
16 GB × 2 |
15 |
4,500,000 |
N/A |
12 |
6 |
10 |
1 |
|
ecs.gn6i-c96g4.24xlarge |
96 |
372 |
NVIDIA T4 × 4 |
16 GB × 4 |
30 |
4,500,000 |
250,000 |
24 |
8 |
10 |
1 |
gn6e : GPU 高速化コンピューティング最適化インスタンスファミリー
-
ユースケース:
-
画像分類、自動運転、音声認識における AI アルゴリズムのトレーニングや推論などのディープラーニングアプリケーション。
-
数値流体力学、計算ファイナンス、分子動力学、環境分析などの科学技術計算。
-
-
コンピューティング:
-
NVIDIA V100 (32 GB NVLink) GPU カードを搭載しています。
-
GPU アクセラレータ: V100 (SXM2 パッケージ)。
-
革新的な NVIDIA Volta アーキテクチャ。
-
GPU あたり 32 GB の HBM2 メモリ、GPU メモリ帯域幅 900 GB/s。
-
GPU あたり 5,120 個の CUDA コア。
-
GPU あたり 640 個の Tensor コア。
-
各 GPU は 6 つの双方向 NVLink 接続をサポートし、各接続は各方向で 25 Gbit/s の帯域幅を提供し、合計で 300 Gbit/s になります。
-
-
vCPU 対メモリ比は約 1:8 です。
-
プロセッサ: 2.5 GHz Intel ® Xeon ® Platinum 8163 (Skylake)。
-
-
ストレージ:
-
I/O 最適化インスタンス。
-
対応クラウドディスクタイプ: ESSD、ESSD AutoPL ディスク、リージョン ESSD、標準 SSD、ウルトラディスク。詳細については、「Elastic Block Storage」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 の両方をサポートしています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じて向上します。
-
gn6e には、以下の表に示すインスタンスタイプと仕様が含まれます。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU |
GPU メモリ |
ベースライン帯域幅 (Gbit/s) |
パケットレート (PPS) |
NIC キュー |
ENI |
プライベート IPv4 アドレス |
IPv6 アドレス |
|
ecs.gn6e-c12g1.3xlarge |
12 |
92 |
1 × NVIDIA V100 |
1 × 32 GB |
5 |
800,000 |
8 |
6 |
10 |
1 |
|
ecs.gn6e-c12g1.6xlarge |
24 |
184 |
2 × NVIDIA V100 |
2 × 32 GB |
8 |
1,200,000 |
8 |
8 |
20 |
1 |
|
ecs.gn6e-c12g1.12xlarge |
48 |
368 |
4 × NVIDIA V100 |
4 × 32 GB |
16 |
2,400,000 |
8 |
8 |
20 |
1 |
|
ecs.gn6e-c12g1.24xlarge |
96 |
736 |
8 × NVIDIA V100 |
8 × 32 GB |
32 |
4,500,000 |
16 |
8 |
20 |
1 |
gn6v: GPU コンピューティング最適化インスタンスファミリー
-
ユースケース:
-
画像分類、自動運転、音声認識における AI アルゴリズムのトレーニングや推論などのディープラーニングアプリケーション。
-
数値流体力学、計算金融、分子動力学、環境分析などの科学計算。
-
-
コンピューティング:
-
NVIDIA V100 GPU を搭載しています。
-
GPU アクセラレータ:V100 (SXM2 パッケージ)。
-
革新的な NVIDIA Volta アーキテクチャ。
-
GPU あたり 16 GB の HBM2 GPU メモリ、メモリ帯域幅 900 GB/s。
-
GPU あたり 5,120 個の CUDA コア。
-
GPU あたり 640 個の Tensor コア。
-
GPU あたり最大 6 つの NVLink 双方向接続。各接続は各方向で 25 GB/s の帯域幅を提供し、合計 300 GB/s となります。
-
-
vCPU とメモリの比率は約 1:4 です。
-
プロセッサー:2.5 GHz Intel® Xeon® Platinum 8163 (Skylake)。
-
-
ストレージ:
-
このファミリーのすべてのインスタンスは I/O 最適化されています。
-
対応ディスクタイプ:ESSD、ESSD AutoPL、SSD クラウドディスク、Ultra ディスク。詳細については、「ブロックストレージの概要」をご参照ください。
-
-
ネットワーク:
-
IPv4 と IPv6 をサポートしています。詳細については、「IPv6 通信」をご参照ください。
-
ネットワークパフォーマンスはインスタンスタイプに応じて向上します。
-
gn6v インスタンスファミリーには、次のインスタンスタイプと仕様が含まれます。
|
インスタンスタイプ |
vCPU |
メモリ (GiB) |
GPU |
GPU メモリ |
ネットワーク帯域幅 (Gbit/s) |
パケットレート (pps) |
ディスクのベースライン IOPS |
マルチキュー |
ENI |
プライベート IPv4 アドレス |
IPv6 アドレス |
|
ecs.gn6v-c8g1.2xlarge |
8 |
32 |
1 × NVIDIA V100 |
1 × 16 GB |
2.5 |
800,000 |
N/A |
4 |
4 |
10 |
1 |
|
ecs.gn6v-c8g1.4xlarge |
16 |
64 |
2 × NVIDIA V100 |
2 × 16 GB |
5 |
1,000,000 |
N/A |
4 |
8 |
20 |
1 |
|
ecs.gn6v-c8g1.8xlarge |
32 |
128 |
4 × NVIDIA V100 |
4 × 16 GB |
10 |
2,000,000 |
N/A |
8 |
8 |
20 |
1 |
|
ecs.gn6v-c8g1.16xlarge |
64 |
256 |
8 × NVIDIA V100 |
8 × 16 GB |
20 |
2,500,000 |
N/A |
16 |
8 |
20 |
1 |
|
ecs.gn6v-c10g1.20xlarge |
82 |
336 |
8 × NVIDIA V100 |
8 × 16 GB |
35 |
4,500,000 |
250,000 |
16 |
8 |
20 |
1 |