Elastic Compute Service:Elastic GPU Service インスタンスファミリー（gn、vgn、sgn シリーズ）

• はじめに:

  • このインスタンスファミリーは、第 3 世代 SHENLONG アーキテクチャを使用して、予測可能で一貫した超高パフォーマンスを提供します。 このインスタンスファミリーは、チップ上の高速パスアクセラレーションを利用して、ストレージパフォーマンス、ネットワークパフォーマンス、およびコンピューティングの安定性を桁違いに向上させます。 これにより、データストレージとモデルのロードをより迅速に実行できます。

  • このインスタンスファミリーのインスタンスは、CPU とネットワークリソースを共有して、基盤となるリソースの利用率を最大化します。 各インスタンスは、メモリと GPU メモリへの排他的なアクセス権を持ち、データの隔離とパフォーマンスの保証を提供します。

    説明

    排他的な CPU リソースを使用する場合は、vgn7i-vws インスタンスファミリーを選択してください。

  • このインスタンスファミリーには NVIDIA GRID vWS ライセンスが付属しており、プロフェッショナルなグラフィックデザインの要件を満たすために、CAD ソフトウェア向けの認定グラフィックアクセラレーション機能を提供します。 このインスタンスファミリーのインスタンスは、軽量の GPU コンピューティング最適化インスタンスとして機能し、小規模な AI 推論タスクのコストを削減できます。

• 対応シナリオ:

  • 画像認識、音声認識、行動識別など、高性能な CPU、メモリ、GPU を必要とする同時 AI 推論タスク

  • リモートグラフィックデザインやクラウドゲームなど、高性能な 3D グラフィック仮想化機能を必要とするコンピューティング負荷の高いグラフィック処理タスク

  • アニメーションや映画制作、クラウドゲーム、機械設計など、Ice Lake プロセッサの使用を必要とする分野での 3D モデリング

• コンピューティング:

  • 以下の特徴を持つ NVIDIA A10 GPU を使用します。

    • 革新的な NVIDIA Ampere アーキテクチャ

    • vGPU、RTX、TensorRT などのアクセラレーション機能をサポートし、多様なビジネスサポートを提供します

  • 2.9 GHz Intel^® Xeon^® Scalable (Ice Lake) プロセッサを使用し、全コアターボ周波数 3.5 GHz を提供します。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • ESSD、ESSD AutoPL ディスク、および リージョン別 ESSD をサポートしています。 ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 と IPv6 をサポートしています。 IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模なコンピューティング容量に基づいて、高いネットワークパフォーマンスを提供します。

sgn7i-vws インスタンスタイプ

• はじめに:

  • このインスタンスファミリーは、第 3 世代 SHENLONG アーキテクチャを使用して、予測可能で一貫した超高パフォーマンスを提供します。 このインスタンスファミリーは、チップ上の高速パスアクセラレーションを利用して、ストレージパフォーマンス、ネットワークパフォーマンス、およびコンピューティングの安定性を桁違いに向上させます。 これにより、データストレージとモデルの読み込みをより迅速に実行できます。

  • このインスタンスファミリーには NVIDIA GRID vWS ライセンスが付属しており、プロフェッショナルなグラフィックデザインの要件を満たすために、CAD ソフトウェア向けの認定グラフィックアクセラレーション機能を提供します。 このインスタンスファミリーのインスタンスは、軽量の GPU コンピューティング最適化インスタンスとして機能し、小規模な AI 推論タスクのコストを削減できます。

• 対応シナリオ:

  • 画像認識、音声認識、行動識別など、高性能な CPU、メモリ、GPU を必要とする同時 AI 推論タスク

  • リモートグラフィックデザインやクラウドゲームなど、高性能な 3D グラフィック仮想化機能を必要とするコンピューティング負荷の高いグラフィック処理タスク

  • アニメーションや映画制作、クラウドゲーム、機械設計など、Ice Lake プロセッサの使用を必要とする分野での 3D モデリング

• コンピューティング:

  • 以下の機能を備えた NVIDIA A10 GPU を使用します。

    • 革新的な NVIDIA Ampere アーキテクチャ

    • vGPU、RTX、TensorRT などのアクセラレーション機能をサポートし、多様なビジネスサポートを提供します

  • 2.9 GHz Intel^® Xeon^® Scalable (Ice Lake) プロセッサを使用し、全コアターボ周波数 3.5 GHz を提供します。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • ESSD、ESSD AutoPL ディスク、および リージョン別 ESSD をサポートしています。ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 と IPv6 をサポートしています。 IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模なコンピューティング容量に基づいて、高いネットワークパフォーマンスを提供します。

vgn7i-vws インスタンスタイプ

• 対応シナリオ:

  • クラウドゲームのリアルタイム レンダリング

  • 拡張現実 (AR) アプリケーションと仮想現実 (VR) アプリケーションのリアルタイム レンダリング

  • 弾力的なインターネット サービス デプロイメントのための AI (ディープ ラーニングおよび機械学習) 推論

  • ディープ ラーニングの教育環境

  • ディープ ラーニングのモデリング実験環境

• コンピューティング:

  • NVIDIA T4 GPU を使用します。

  • vGPU を使用します。

    • NVIDIA Tesla T4 GPU の 1/4 および 1/2 の計算容量をサポートします。

    • 4 GB および 8 GB の GPU メモリをサポートします。

  • CPU とメモリの比率は 1:5 です。

  • 2.5 GHz Intel^® Xeon^® Platinum 8163 (Skylake) プロセッサを使用します。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンス ファミリです。

  • ESSD、ESSD AutoPL ディスク、リージョン ESSD、標準 SSD、および Ultra ディスクをサポートします。ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 と IPv6 をサポートします。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模な計算容量に基づいて、高いネットワーク パフォーマンスを提供します。

vgn6i-vws インスタンスタイプ

gn8is インスタンスタイプ

特長:

• 概要:

  • このインスタンスファミリーでは、AI ユースケースのビジネス要件に合わせて、異なる数の GPU と CPU を提供するインスタンスタイプを選択できます。

  • このインスタンスファミリーは、第 3 世代の SHENLONG アーキテクチャを使用しており、仮想プライベートクラウド (VPC)、ネットワーク、およびディスクの平均帯域幅が前世代のインスタンスファミリーと比較して 2 倍になっています。

• 対応シナリオ:

  • 小規模および中規模の AI トレーニング

  • Compute Unified Device Architecture (CUDA) を使用して高速化された高性能コンピューティング (HPC) ビジネス

  • 高い GPU 処理能力または大量の GPU メモリを必要とする AI 推論タスク

  • 画像分類、自動運転車、音声認識で使用される AI アルゴリズムのトレーニングアプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算金融、分子動力学、環境分析など、堅牢な GPU コンピューティング能力を必要とする科学計算アプリケーション

  重要

  Transformer モデルなどの通信負荷の高い AI トレーニングサービスを使用する場合は、GPU 間通信のために NVLink を有効にする必要があります。そうしないと、Peripheral Component Interconnect Express (PCIe) リンクを介した大規模なデータ送信によって引き起こされる予期しない障害により、データが破損する可能性があります。AI トレーニングサービスに使用される通信リンクのトポロジがわからない場合は、チケットを送信することでテクニカルサポートを受けてください。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • ESSD、ESSD AutoPL ディスク、および Regional ESSD をサポートしています。ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 と IPv6 をサポートしています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模な計算能力に基づいて、高いネットワークパフォーマンスを提供します。

gn7e インスタンスタイプ

• はじめに: このインスタンスファミリーは、第 3 世代 SHENLONG アーキテクチャを使用して、予測可能で一貫した超高パフォーマンスを提供します。 このインスタンスファミリーは、チップ上の高速パスアクセラレーションを利用して、ストレージパフォーマンス、ネットワークパフォーマンス、およびコンピューティングの安定性を桁違いに向上させます。

• 対応シナリオ:

  • 画像認識、音声認識、行動識別など、高パフォーマンスの CPU、メモリ、および GPU を必要とする同時 AI 推論タスク

  • リモートグラフィックデザインやクラウドゲームなど、高パフォーマンスの 3D グラフィックス仮想化機能を必要とするコンピューティング負荷の高いグラフィック処理タスク

• コンピューティング:

  • 以下の特徴を持つ NVIDIA A10 GPU を使用します。

    • 革新的な NVIDIA Ampere アーキテクチャ

    • RTX や TensorRT などのアクセラレーション機能のサポート

  • 全コアターボ周波数 3.5 GHz を提供する 2.9 GHz Intel^® Xeon^® Scalable (Ice Lake) プロセッサを使用します。

  • gn6i インスタンスファミリーのメモリサイズよりもはるかに大きい、最大 752 GiB のメモリを提供します。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • ESSD、ESSD AutoPL ディスク、および リージョン別 ESSD をサポートしています。ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 と IPv6 をサポートしています。 IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模なコンピューティング容量に基づいて、高いネットワークパフォーマンスを提供します。

gn7i インスタンスタイプ

• はじめに:

  • このインスタンスファミリーは、最新の Intel Ice Lake プロセッサと、NVIDIA Ampere アーキテクチャに基づく NVIDIA A30 GPU を使用しています。 AI シナリオでのビジネス要件を満たすために、GPU と vCPU の適切な組み合わせで構成されるインスタンスタイプを選択できます。

  • このインスタンスファミリーは、第 3 世代 SHENLONG アーキテクチャを使用しており、前世代のインスタンスファミリーと比較して、VPC、ネットワーク、およびディスクの平均帯域幅が 2 倍になります。

• 対応シナリオ: 画像認識、音声認識、行動識別など、高性能 CPU、メモリ、GPU を必要とする同時 AI 推論タスク。

• コンピューティング:

  • 次の機能を備えた NVIDIA A30 GPU を使用します。

    • 革新的な NVIDIA Ampere アーキテクチャ

    • 多様なビジネスサポートを提供するためのmulti-instance GPU（MIG）機能とアクセラレーション機能（第 2 世代 Tensor コアに基づく）のサポート

  • 2.9 GHz Intel^® Xeon^® Scalable (Ice Lake) プロセッサを使用し、全コアターボ周波数 3.5 GHz を実現します。

  • 前世代のインスタンスファミリーからメモリサイズが大幅に向上しています。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • ESSD、ESSD AutoPL ディスク、および リージョン別 ESSD をサポートしています。ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 と IPv6 をサポートしています。 IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模なコンピューティング容量に基づいて、高いネットワークパフォーマンスを提供します。

gn7s インスタンスタイプ

• 対応シナリオ:

  • 画像分類、自動運転、音声認識で使用される AI アルゴリズムのトレーニング アプリケーションなどの深層学習アプリケーション

  • 計算流体力学、計算金融、分子動力学、環境分析など、堅牢な GPU 計算能力を必要とする科学計算アプリケーション

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • ESSD、ESSD AutoPL ディスク、および リージョナル ESSD をサポートしています。ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 と IPv6 をサポートしています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模な計算能力に基づいて、高いネットワーク パフォーマンスを提供します。

gn7 インスタンスタイプ

• 対応シナリオ:

  • コンピュータビジョン、音声認識、音声合成、自然言語処理 ( NLP )、機械翻訳、レコメンデーションシステム向けの AI ( ディープ ラーニングおよび機械学習 ) 推論

  • クラウドゲームのリアルタイム レンダリング

  • AR および VR アプリケーションのリアルタイム レンダリング

  • グラフィック ワークステーションまたはグラフィックを多用するコンピューティング

  • GPU アクセラレーション データベース

  • ハイパフォーマンス コンピューティング

• コンピューティング:

  • 以下の特徴を持つ NVIDIA T4 GPU を使用します。

    • 革新的な NVIDIA Turing アーキテクチャ

    • GPU あたり 16 GB のメモリ ( 320 GB/s の帯域幅 )

    • GPU あたり 2,560 CUDA コア

    • GPU あたり最大 320 Turing Tensor コア

    • 65 FP16 TFLOPS、130 INT8 TOPS、および 260 INT4 TOPS をサポートする混合精度 Tensor コア

  • 1:4 の CPU とメモリの比率を提供します。

  • 2.5 GHz Intel^® Xeon^® Platinum 8163 ( Skylake ) プロセッサを使用します。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • ESSD、ESSD AutoPL ディスク、標準 SSD、および Ultra ディスクをサポートしています。ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 および IPv6 をサポートしています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模なコンピューティング容量に基づいて、高いネットワーク パフォーマンスを提供します。

gn6i インスタンスタイプ

• 対応シナリオ:

  • 画像分類、自動運転、音声認識で使用される AI アルゴリズムのトレーニング アプリケーションや推論アプリケーションなどのディープラーニング アプリケーション

  • 計算流体力学、計算金融、分子動力学、環境分析などの科学計算アプリケーション

• コンピューティング:

  • それぞれ 32 GB の GPU メモリを搭載し、NVLink をサポートする NVIDIA V100 GPU を使用します。

  • 次の機能を備えた NVIDIA V100 GPU（SXM2 ベース）を使用します。

    • 革新的な NVIDIA Volta アーキテクチャ

    • GPU あたり 32 GB の HBM2 メモリ（900 GB/秒の帯域幅）

    • GPU あたり 5,120 CUDA コア

    • GPU あたり 640 Tensor コア

    • GPU あたり最大 6 つの NVLink 双方向接続。各接続は、それぞれの方向で 25 Gbit/秒の帯域幅を提供し、合計帯域幅は 300 Gbit/秒（6 × 25 × 2 = 300）です。

  • CPU とメモリの比率は 1:8 です。

  • 2.5 GHz Intel^® Xeon^® Platinum 8163（Skylake）プロセッサを使用します。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • ESSD、ESSD AutoPL ディスク、リージョン ESSD、標準 SSD、Ultra ディスクをサポートしています。ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 と IPv6 をサポートしています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模なコンピューティング能力に基づいて、高いネットワーク パフォーマンスを提供します。

gn6e インスタンスタイプ

• 対応シナリオ:

  • 画像分類、自動運転、音声認識で使用される AI アルゴリズムのトレーニングおよび推論アプリケーションなどのディープラーニング アプリケーション

  • 計算流体力学、計算金融、分子動力学、環境分析などの科学計算アプリケーション

• コンピューティング:

  • NVIDIA V100 GPU を使用します。

  • 以下の特徴を持つ NVIDIA V100 GPU（SXM2 ベース）を使用します:

    • 革新的な NVIDIA Volta アーキテクチャ

    • GPU あたり 16 GB の HBM2 メモリ（900 GB/s の帯域幅）

    • GPU あたり 5,120 CUDA コア

    • GPU あたり 640 Tensor コア

    • GPU あたり最大 6 つの NVLink 双方向接続。各接続は、それぞれの方向で 25 Gbit/s の帯域幅を提供し、合計帯域幅は 300 Gbit/s（6 × 25 × 2 = 300）です。

  • CPU とメモリの比率は 1:4 です。

  • 2.5 GHz Intel^® Xeon^® Platinum 8163（Skylake）プロセッサを使用します。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • ESSD、ESSD AutoPL ディスク、標準 SSD、および Ultra ディスクをサポートしています。ディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4 と IPv6 をサポートしています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模なコンピューティング容量に基づいて、高いネットワーク パフォーマンスを提供します。

gn6v インスタンスタイプ

• 対応シナリオ:

  • 深層学習

  • 計算流体力学、計算金融、ゲノミクス、環境分析などの科学計算アプリケーション

  • ハイパフォーマンスコンピューティング、レンダリング、マルチメディアのエンコードとデコードなどのサーバー側の GPU コンピューティングワークロード

• コンピューティング:

  • NVIDIA P100 GPU を使用します。

  • 複数の CPU とメモリの比率を提供します。

  • 2.5 GHz Intel^® Xeon^® E5-2682 v4 (Broadwell) プロセッサを使用します。

• ストレージ:

  • 高パフォーマンスのローカル NVMe (Non-Volatile Memory Express) SSD をサポートします。

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • 標準 SSD と Ultra ディスクをサポートします。

• ネットワーク:

  • IPv4 のみをサポートします。

  • 大容量のコンピューティング能力に基づいて、高いネットワークパフォーマンスを提供します。

gn5 インスタンスタイプ

• 対応シナリオ: ディープ ラーニング推論、マルチメディアのエンコードとデコードなどのサーバー側の GPU コンピューティング ワークロード。

• コンピューティング:

  • NVIDIA P4 GPU を使用します。

  • CPU とメモリの比率は 1:4 です。

  • 2.5 GHz Intel^® Xeon^® E5-2682 v4 (Broadwell) プロセッサを使用します。

• ストレージ:

  • すべてのインスタンスが I/O 最適化されているインスタンスファミリーです。

  • 標準 SSD と Ultra ディスクをサポートしています。

• ネットワーク:

  • IPv4 と IPv6 をサポートしています。 IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • 大規模なコンピューティング容量に基づいて、高いネットワーク パフォーマンスを提供します。

gn5i インスタンスタイプ