Elastic GPU Service:GPU コンピューティング最適化：gn、ebm、scc

gn9gc：GPU コンピューティング最適化インスタンスファミリー

• 概要：gn9gc は、Alibaba Cloud の第 9 世代コスト効率の高い GPU コンピューティング最適化インスタンスファミリーです。最新世代の CIPU 2.0 を使用してクラウドサービス機能を提供し、高クロック周波数のプロセッサを搭載し、適切なメモリ容量を備えています。このインスタンスファミリーは、大規模言語モデル (LLM) の生成シナリオおよびビデオ/画像生成シナリオ向けに、コスト効率の高いインスタンスを提供します。GPU は、さまざまなレンダリングワークロードをサポートするために、グラフィックス処理機能を直接提供することもできます。

• ユースケース：

  • LLM 推論：新世代の GPU は、第 8 世代を超えるコンピューティング能力を提供し、メモリ帯域幅が大幅に向上しています。新たにサポートされた FP4 演算により、推論パフォーマンスとコスト効率が包括的に向上します。マルチ GPU 並列推論の効率が大幅に向上しています。

• コンピューティング：

  • 最新の CIPU 2.0 クラウドプロセッサを使用。

    • 第 2 世代 CIPU は、eRDMA、VPC、EBS コンポーネント機能が強化されており、より高いクラウド処理能力を提供します。コンテナ (Docker、Clear Container、Pouch など) をサポートします。

  • 新しい Blackwell アーキテクチャのプロフェッショナルグラフィックスカードを使用：

    • OpenGL プロフェッショナルグレードのグラフィックス処理をサポートします。

    • RTX、TensorRT、その他の一般的なアクセラレーション機能をサポートし、新たにアップグレードされた FP4 サポートと PCIe Gen5 相互接続を備えています。

  • 主な GPU 仕様：

    GPU アーキテクチャ	GPU メモリ	コンピューティングパフォーマンス	ビデオエンコーディング/デコーディング	GPU 間相互接続	アクセラレーション API
    NVIDIA Blackwell	容量： 72 GB 帯域幅： 1,344 GB/s	TF32： 126 TFLOPS FP32： 52 TFLOPS FP16/BF16： 266 TFLOPS FP8/INT8： 530 TFLOPS FP4： 970 TFLOPS RT Core： 196 TFLOPS	3 x Video Encoder 3 x Video Decoder	PCIe インターフェイス：PCIe Gen5 x16 帯域幅：128 GB/s、P2P 対応	DX12、OpenGL 4.6、Vulkan 1.3、CUDA 12.8、OpenCL 3.0、DirectCompute

• ストレージ：

  • I/O 最適化。

  • NVMe プロトコルをサポートしています。詳細については、「NVMeプロトコル」をご参照ください。

  • 対応クラウドディスク：Elastic エフェメラルディスク、ESSD、ESSD AutoPL ディスク、リージョン ESSD。詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク：

  • IPv4 と IPv6 をサポートしています。IPv6 の詳細については、「IPv6」をご参照ください。

  • 最大 3,000 万 pps の超高ネットワークパフォーマンス。

  • VPC ネットワーク上で RDMA を直接アクセラレーションする ERI (Elastic RDMA Interface) をサポートし、帯域幅は最大 360 Gbit/s です。自動運転、身体性知能、コンピュータビジョン、従来のモデルトレーニングワークロードに適しています。

  • 説明

    ERI の詳細については、「エンタープライズレベルインスタンスで eRDMA を有効化する」をご参照ください。

次の表に、gn9gc インスタンスファミリーのインスタンスタイプを示します。

gn8v および gn8v-tee、GPU コンピューティング最適化インスタンスファミリー

これらのインスタンスファミリーは、中国本土以外のリージョンを含む一部のリージョンで利用可能です。使用するには、Alibaba Cloud の営業担当者にお問い合わせください。

• 概要：

  • gn8v：Alibaba Cloud の第 8 世代 GPU コンピューティング最適化インスタンスファミリーで、超大規模言語モデル (LLM) の AI モデルトレーニングおよび推論向けです。このファミリーは、さまざまなアプリケーション要件に対応するため、1、2、4、または 8 個の GPU を搭載したインスタンスタイプを提供します。

  • gn8v-tee：大規模モデルのトレーニングと推論のセキュリティを強化するため、Alibaba Cloud は、gn8v をベースにコンフィデンシャルコンピューティング機能を備えた第 8 世代のインスタンスファミリーである gn8v-tee を提供します。これらのインスタンスは、GPU コンピューティング中にデータを暗号化し、お客様のデータを保護します。

• ユースケース：

  • 700億を超えるパラメーターを持つ LLM でのマルチ GPU 並列推論においてコスト効率に優れています。

  • 各 GPU は 39.5 TFLOPS の FP32 コンピューティング性能を提供し、従来の AI モデルトレーニングや自動運転トレーニングのワークロードで優れたパフォーマンスを発揮します。

  • 8 つの GPU は NVLink 相互接続をサポートしており、小規模から中規模のモデルのトレーニングに適しています。

• 特徴：

  • 高速・大容量の GPU メモリ：各 GPU は 96 GB の HBM3 GPU メモリを搭載し、最大 4 TB/s のメモリ帯域幅を提供し、モデルのトレーニングと推論を大幅に高速化します。

  • 高い GPU 間帯域幅：複数の GPU は NVLink で 900 GB/s で相互接続されています。これにより、前世代の GPU インスタンスと比較して、マルチ GPU トレーニングと推論の効率が大幅に向上します。

  • LLM 量子化：FP8 コンピューティング性能をサポートし、大規模なパラメーターのトレーニングと推論のパフォーマンスを最適化します。これにより、トレーニングと推論の速度が大幅に向上し、GPU メモリの使用量を削減します。

  • (gn8v-tee インスタンスのみ) 高いセキュリティ：Intel® Trust Domain Extensions (TDX) による CPU コンフィデンシャルコンピューティングと、NVIDIA Confidential Computing (CC) による GPU コンフィデンシャルコンピューティングの両方をサポートします。これにより、モデル推論パイプライン全体にエンドツーエンドのコンフィデンシャルコンピューティングを提供し、モデルのトレーニングと推論中にお客様の推論データとエンタープライズモデルを保護します。

• コンピューティング：

  • 最新の CIPU 1.0 を搭載しています。

    • コンピューティングとストレージを分離し、必要なストレージリソースを柔軟に選択できます。

    • ベアメタル機能を提供し、従来の仮想化インスタンスとは異なり、GPU インスタンス間のピアツーピア (P2P) 通信をサポートします。

  • 第 4 世代の Intel® Xeon® スケーラブル・プロセッサーを搭載しており、ベース周波数は最大 2.8 GHz、全コアターボ周波数は最大 3.1 GHz です。

• ストレージ：

  • I/O 最適化インスタンスです。

  • これらのインスタンスは NVMe プロトコルをサポートしています。詳細については、「NVMe プロトコルの概要」をご参照ください。

  • サポートされているクラウドディスクタイプ：エラスティック一時ディスク、ESSD、ESSD AutoPL ディスク、およびリージョン ESSD。クラウドディスクの詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク：

  • IPv4 と IPv6 をサポートしています。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • これらのインスタンスはジャンボフレームをサポートしています。詳細については、「ジャンボフレーム」をご参照ください。

  • 最大 3,000 万 pps (パケット/秒) (8 GPU インスタンス) のパケット転送レートで、超高性能なネットワークパフォーマンスを提供します。

  • Elastic RDMA Interface (ERI) をサポートしています。

  • 説明

    ERI の使用方法については、「エンタープライズレベルインスタンスでの有効化」をご参照ください。

• セキュリティ：トラステッドコンピューティング機能 (vTPM) をサポートしています。この機能は gn8v インスタンスで利用できますが、gn8v-tee インスタンスでは利用できません。詳細については、「トラステッドコンピューティング機能の概要」をご参照ください。

次の表に gn8v ファミリーのインスタンスタイプを示します。

次の表に gn8v-tee ファミリーのインスタンスタイプを示します。

gn8is：GPU コンピューティング最適化インスタンスファミリー

このインスタンスファミリーは、中国本土以外のリージョンを含む、一部のリージョンで利用可能です。このインスタンスファミリーを使用するには、Alibaba Cloud の営業担当者にお問い合わせください。

• 概要： gn8is は、AI 生成コンテンツ (AIGC) の需要増大に対応するために設計された、Alibaba Cloud の第 8 世代 GPU コンピューティング最適化インスタンスファミリーです。最新の NVIDIA L20 GPU を搭載したこのファミリーは、1、2、4、または 8 個の GPU を搭載したインスタンスタイプと、さまざまな CPU と GPU の比率を提供し、多様なアプリケーションのニーズに対応します。

• 特徴：

  • グラフィックス処理： 第 4 世代の Intel® Xeon® スケーラブル高周波プロセッサーを搭載したこれらのインスタンスは、3D モデリングシナリオに堅牢な CPU コンピューティング性能を提供し、よりスムーズなグラフィックスレンダリングとデザインワークフローを実現します。

  • 推論タスク： それぞれ 48 GB の GPU メモリを備えた新しい NVIDIA L20 GPU を搭載したこれらのインスタンスは、推論タスクを高速化します。FP8 浮動小数点形式および INT8 整数形式をサポートし、Container Service for Kubernetes (ACK) と組み合わせることで、さまざまな AIGC モデルの推論を柔軟に実行できます。特に、パラメーター数が 700 億未満の大規模言語モデル (LLM) の推論タスクに適しています。

• ユースケース：

  • Alibaba Cloud Marketplace のイメージで GRID ドライバーを使用して、OpenGL および Direct3D 機能を有効にします。これにより、アニメーション、映画やテレビの特殊効果、レンダリングなどのワークロードにワークステーション級のグラフィックス処理を提供します。

  • Container Service for Kubernetes (ACK) のコンテナ管理機能を使用して、より効率的でコスト効率の高い AIGC の画像生成と LLM の推論を実現します。

  • 画像認識や音声認識など、その他の汎用 AI アプリケーション。

• コンピューティング：

  • 新しい NVIDIA L20 エンタープライズ級 GPU を搭載しています。

    • TensorRT、FP8 浮動小数点形式、INT8 整数形式などの一般的なアクセラレーション機能をサポートし、モデルの推論性能を向上させます。

    • GPU ごとに最大 48 GB の GPU メモリ。複数の GPU を使用することで、このファミリーのインスタンスは、パラメーター数が 700 億以上のモデルの単一インスタンスでの推論をサポートします。

    • 強化されたグラフィックス処理機能。Cloud Assistant または Alibaba Cloud Marketplace のイメージを使用して GRID ドライバーをインストールすると、グラフィックス処理性能は第 7 世代プラットフォームの 2 倍になります。

  • NVIDIA L20 GPU の主要なパラメーター：

    GPU アーキテクチャ	GPUメモリ	計算性能	ビデオエンコーディング/デコーディング	GPU 間接続
    NVIDIA Ada Lovelace	容量： 48 GB 帯域幅： 864 GB/s	FP64： N/A FP32： 59.3 TFLOPS FP16/BF16： 119 TFLOPS FP8/INT8： 237 TFLOPS	3 × ビデオエンコーダー (+AV1) 3 × ビデオデコーダー 4 × JPEG デコーダー	PCIe インターフェイス： PCIe Gen4 x16 帯域幅： 64 GB/s

  • プロセッサ：最新の高周波 Intel^® Xeon^® プロセッサーを搭載しており、全コアターボ周波数は最大 3.9 GHz で、複雑な 3D モデリングの要求に対応します。

• ストレージ：

  • このファミリーのすべてのインスタンスは I/O 最適化インスタンスです。

  • これらのインスタンスは NVMe プロトコルをサポートしています。詳細については、「NVMe プロトコルの概要」をご参照ください。

  • サポートされているクラウドディスクタイプ：Elastic エフェメラルディスク、ESSD、ESSD AutoPL ディスク、リージョン ESSD。クラウドディスクの詳細は、「ブロックストレージの概要」をご参照ください。

• ネットワーク：

  • IPv4 と IPv6 をサポートしています。IPv6 通信の詳細は、「IPv6 通信」をご参照ください。

  • Elastic RDMA Interface (ERI) をサポートしています。

    説明

    ERI の使用方法の詳細は、「エンタープライズレベルインスタンスでの eRDMA の有効化」をご参照ください。

• セキュリティ：これらのインスタンスは vTPM 機能をサポートしています。詳細については、「トラステッドコンピューティングの概要」をご参照ください。

gn7e：GPU 高速化コンピューティング最適化インスタンスファミリー

gn7i: GPU コンピューティング最適化インスタンスファミリー

gn7s GPU コンピューティング最適化インスタンスファミリー

gn7s インスタンスファミリーを利用するには、チケットを送信してください。

gn7 GPU コンピューティング最適化インスタンスファミリー

gn6i GPU コンピューティング最適化インスタンスファミリー

gn6e ： GPU 高速化コンピューティング最適化インスタンスファミリー

gn6v: GPU コンピューティング最適化インスタンスファミリー

ebmgn9g、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

• 概要：ebmgn9g は、Alibaba Cloud の第 9 世代、フル機能、費用対効果の高い GPU アクセラレーション ECS ベアメタルインスタンスファミリーです。最新の CIPU 2.0 を使用してクラウドサービスを提供します。高クロック周波数 CPU、大容量メモリ、および新しい Blackwell アーキテクチャのプロフェッショナル GPU を搭載したこのインスタンスファミリーは、自動運転および組み込み AI トレーニング、大規模言語モデル推論、映画およびアニメーションレンダリング、メタバースおよびクラウドゲーミングサービス、およびその他の GPU アクセラレーションワークロード向けに費用対効果の高い GPU クラウドコンピューティングを提供します。

• シナリオと主な機能：

  • 自動運転および組み込み AI：
    256 vCPU を提供します。すべての CPU コアは最大 4.2 GHz 以上で動作します。2.3 TB のメモリと組み合わせることで、自動運転および組み込み AI トレーニングのデータ処理ニーズをサポートします。
    

  • 検索およびレコメンデーション：
    Blackwell GPU は、137 TFLOPS の高性能 TF32 コンピューティングパワーを提供します。各 GPU は 32 vCPU および 153 GB/s のメモリ帯域幅と組み合わされており、検索および広告ワークロードに最適な構成を提供します。
    

  • 大規模モデル推論：
    新世代 GPU は、第 8 世代インスタンスファミリーよりも高いコンピューティングパワーを提供します。GPU メモリ帯域幅は 1344 GB/s に増加します。FP4 コンピューティングの新しいサポートにより、推論パフォーマンスと費用対効果が大幅に向上します。8 つの GPU は PCIe Gen5 経由で接続されており、128 GB/s の GPU 間帯域幅を提供し、マルチ GPU 並列推論効率を大幅に向上させます。
    

  • クラウドゲーミング、レンダリング、およびメタバース：
    CPU は最大 5 GHz のクロック周波数に達し、3D モデリングに最適な選択肢となります。GPU はグラフィックス機能をネイティブにサポートし、プロフェッショナルな設計向けに認定されたワークステーションクラスのグラフィックスドライバーを含みます。OpenGL を完全に高速化し、ハイエンドの映画およびアニメーション開発、およびコンピュータ支援設計（CAD）に最適な選択肢となります。
    

• 最新の CIPU 2.0 クラウドプロセッサを搭載：

  第 2 世代 CIPU は、より高いクラウド処理能力と強化された eRDMA、VPC、および EBS コンポーネントパフォーマンスを提供します。ECS ベアメタルインスタンスは、物理リソースへの直接アクセスを提供します。また、ハードウェアにバインドされたライセンスを必要とするワークロードもサポートします。Docker、Clear Container、Pouch などのコンテナがサポートされています。

• コンピュート：

  • 新しい Blackwell アーキテクチャのプロフェッショナル GPU を搭載：

    • プロフェッショナルグレードのグラフィックス処理向けに OpenGL をサポートします。

    • RTX および TensorRT などの一般的なアクセラレーション機能をサポートします。FP4 および PCIe Gen5 相互接続を新たにサポートするようにアップグレードされました。

    • PCIe Switch 相互接続を使用します。CPU 直接接続と比較して、NCCL パフォーマンスは 36% 向上します。マルチ GPU シャード大規模モデル推論の場合、ピークパフォーマンスは最大 9% 向上します。

  • GPU 仕様：

    GPU アーキテクチャ	GPU メモリ	コンピューティングパフォーマンス	ビデオエンコード／デコード機能	GPU 間相互接続	アクセラレーション API
    Blackwell	容量：48 GB 帯域幅：1344 GB/s	TF32：126 TFLOPS FP32：52 TFLOPS FP16/BF16：266 TFLOPS FP8/INT8：533 TFLOPS FP4：970 TFLOPS RT コア：196 TFLOPS	ビデオエンコーダ × 3 ビデオデコーダ × 3	PCIe Gen5 x16：128 GB/s P2P 対応	DX12 対応、 OpenGL 4.6、Vulkan 1.3、CUDA 12.8、OpenCL 3.0、DirectCompute をサポート

  • プロセッサ：3.3 GHz から 5 GHz のクロック周波数を持つ AMD Turin-C プロセッサを使用します。全コア周波数は最大 4.2 GHz です。

• ストレージ：

  • I/O 最適化インスタンスです。

  • NVMe プロトコルをサポートします。詳細については、「NVMe プロトコル」をご参照ください。

  • サポートされるディスクタイプ：「エラスティック一時ディスク」「ESSD」「ESSD AutoPL ディスク」「リージョナル ESSD」です。ディスクに関する詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク：

  • IPv4 および IPv6 をサポートします。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • パケット転送速度は最大 3000 万 PPS の超高速ネットワークパフォーマンスを提供します。

  • Elastic RDMA Interface（ERI）をサポートします。VPC ネットワークでは、ERI は RDMA パススルーアクセラレーションを有効にし、帯域幅を 360 Gbit/s に向上させます。自動運転、組み込み AI、コンピュータビジョン（CV）、および従来のモデルトレーニングに使用できます。

    説明

    ERI の使用手順については、「エンタープライズレベルインスタンスでの eRDMA の有効化 」をご参照ください。

ebmgn9g インスタンスタイプ

ebmgn9ge、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

• 概要：ebmgn9ge ファミリーは、Alibaba Cloud の第 9 世代、フル機能、費用対効果の高い GPU アクセラレーション ECS ベアメタルインスタンスファミリーです。最新の CIPU 2.0 を使用し、高クロック周波数 CPU、大容量メモリ、および新しい Blackwell アーキテクチャに基づくプロフェッショナルグラフィックスカードを搭載しています。この組み合わせにより、自動運転および組み込みインテリジェンスのトレーニング、大規模言語モデル（LLM）推論、映画およびアニメーションレンダリング、メタバースまたはクラウドゲーミングサービスなどのシナリオ向けに費用対効果の高い GPU アクセラレーションを提供します。

• シナリオと機能：

  • 自動運転および組み込みインテリジェンス：
    これらのインスタンスは、すべてのコアが 4.2 GHz 以上で動作する 256 vCPU と 2.3 TB のメモリを提供し、自動運転および組み込みインテリジェンスのトレーニングのデータ処理要件を満たします。
    

  • 検索およびレコメンデーション：
    Blackwell GPU は、137 TFLOPS の高性能 TF32 コンピューティングパワーを提供します。各 GPU は 32 vCPU および 153 GB/s のメモリ帯域幅と組み合わされており、検索および広告サービスに最適な構成を提供します。
    

  • 大規模モデル推論：

    ebmgn9ge インスタンスは、大規模言語モデル向けに設計されています。カードあたり 72 GB の GPU メモリと 1344 GB/s のメモリ帯域幅を提供し、LLM シナリオ向けに高性能推論を可能にします。新しい FP4 コンピューティングアーキテクチャと 128 GB/s の第 5 世代 PCIe 帯域幅により、これらのインスタンスは 6710 億を超えるパラメータを持つモデルの 8 カード並列推論をサポートします。

  • クラウドゲーミング、レンダリング、およびメタバース：
    CPU は最大 5 GHz の高クロック周波数に達し、3D モデリングに最適です。GPU はグラフィックスをネイティブにサポートし、プロフェッショナルな設計向けに認定されたワークステーショングレードのドライバーを含みます。また、フル機能の OpenGL アクセラレーションもサポートしており、ハイエンドの映画およびアニメーション開発、およびコンピュータ支援設計（CAD）に最適な選択肢となります。
    

• 最新の CIPU 2.0 クラウドプロセッサを使用：

  第 2 世代 CIPU は、より高いクラウド処理能力と、Elastic Remote Direct Memory Access（eRDMA）、VPC、および EBS コンポーネントの強化されたコンピューティング機能を提供します。ECS ベアメタルインスタンスは、物理リソースへの直接アクセスを可能にし、ハードウェアにバインドされたライセンスを必要とするワークロードに最適です。これらのインスタンスは、Docker、Clear Container、Pouch などのコンテナをサポートします。

• コンピューティング：

  • 新しい Blackwell アーキテクチャに基づくプロフェッショナルグラフィックスカードを使用：

    • プロフェッショナルグレードの OpenGL グラフィックス処理をサポートします。

    • RTX および TensorRT などの一般的なアクセラレーション機能をサポートし、FP4 および PCIe Gen5 相互接続を新たにサポートするようにアップグレードされました。

    • 相互接続に PCIe Switch を使用します。CPU 直接接続と比較して、NCCL パフォーマンスは 36% 向上し、マルチカードシャード大規模モデル推論のパフォーマンスは最大 9% 向上します。

  • 主な GPU パラメータ：

    GPU アーキテクチャ	GPU メモリ	コンピューティングパフォーマンス	ビデオエンコーディング／デコーディング機能	カード間接続	アクセラレーション API
    Blackwell	容量：72 GB 帯域幅：1344 GB/s	TF32：126 TFLOPS FP32：52 TFLOPS FP16/BF16：266 TFLOPS FP8/INT8：533 TFLOPS FP4：970 TFLOPS RT コア：196 TFLOPS	ビデオエンコーダ × 3 ビデオデコーダ × 3	PCIe Gen5 x16：128 GB/s P2P 対応	DX12 に対応、 OpenGL 4.6、Vulkan 1.3、CUDA 12.8、OpenCL 3.0、DirectCompute をサポート

  • プロセッサ：3.3 GHz から 5 GHz のクロック周波数を持つ AMD Turin-C プロセッサ。全コアは最大 4.2 GHz に達します。

• ストレージ：

  • I/O 最適化インスタンスです。

  • NVMe プロトコルをサポートします。詳細については、「NVMe プロトコル」をご参照ください。

  • サポートされるディスクタイプ：「エラスティック一時ディスク」「ESSD」「ESSD AutoPL ディスク」「リージョナル ESSD」です。ディスクに関する詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク：

  • IPv4 および IPv6 をサポートします。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • パケット転送機能は 3000 万 PPS の超高速ネットワークパフォーマンス。

  • Elastic RDMA Interface（ERI）をサポートします。ERI は、VPC 内のアクセラレーションされた相互接続のために RDMA パススルーを有効にし、帯域幅を 360 Gbit/s に増加させます。自動運転、組み込み AI、コンピュータビジョン（CV）、および従来のモデルのトレーニングタスクに使用できます。

    説明

    ERI の使用手順については、「エンタープライズレベルインスタンスでの eRDMA の有効化」をご参照ください。

ebmgn9ge ファミリーのインスタンスタイプと仕様を以下の表に示します。

ebmgn9gc、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

• 概要：ebmgn9gc は、Alibaba Cloud の第 9 世代、費用対効果の高い、フル機能の GPU アクセラレーション ECS ベアメタルインスタンスです。最新の CIPU 2.0、高クロック周波数 CPU、大容量メモリ、およびプロフェッショナル Blackwell アーキテクチャ GPU を搭載しています。このインスタンスファミリーは、自動運転および組み込み AI トレーニング、LLM 推論、映画およびアニメーションレンダリング、メタバースおよびクラウドゲーミングサービスなどのワークロード向けに費用対効果の高い GPU クラウドコンピューティングを提供します。

• シナリオと機能：

  • 自動運転および組み込み AI：
    このインスタンスは、すべてのコアが最大 4.2 GHz のクロック周波数で動作する 256 vCPU と 2.3 TB のメモリを提供します。この構成は、自動運転および組み込み AI トレーニングの厳しいデータ処理要件を満たします。
    

  • 検索およびレコメンデーション：
    Blackwell GPU は、137 TFLOPS の高性能 TF32 コンピューティングパワーを提供します。各 GPU は 32 vCPU および 153 GB/s のメモリ帯域幅と組み合わされており、検索および広告ワークロードに最適な構成を提供します。
    

  • モデル推論：

    ebmgn9gc インスタンスは、大規模言語モデル向けに特別に設計されており、GPU あたり 72 GB の GPU メモリと最大 1344 GB/s の GPU メモリ帯域幅を提供します。LLM シナリオ向けに高性能推論コンピューティングパワーを提供し、新しい FP4 コンピューティングアーキテクチャをサポートし、128 GB/s の第 5 世代 PCIe 帯域幅を特徴としています。これにより、8 つの GPU で 6710 億を超えるパラメータを持つ大規模モデルの並列推論が可能になります。

  • クラウドゲーミング、レンダリング、およびメタバース：
    CPU は最大 5 GHz のクロック周波数を持つため、3D モデリングに最適です。GPU はグラフィックス機能をネイティブにサポートし、プロフェッショナルな設計アプリケーション向けに認定されたワークステーションクラスのグラフィックスドライバーを含みます。このインスタンスは OpenGL を完全に高速化し、ハイエンドの映画およびアニメーション開発、および CAD 設計に最適な選択肢となります。
    

• 最新の CIPU 2.0 クラウドプロセッサを搭載：

  第 2 世代 CIPU は、強化された eRDMA、VPC、および EBS コンポーネントのパフォーマンスを含む、強化されたクラウド処理機能を提供します。ECS ベアメタルインスタンスは、物理ハードウェアへの直接アクセスを提供するか、ハードウェアにバインドされたライセンスを必要とするワークロードをサポートします。第 2 世代 CIPU は、Docker、Clear Containers、Pouch などのコンテナをサポートします。

• コンピューティング：

  • このインスタンスは、Blackwell アーキテクチャに基づくプロフェッショナル GPU を使用します：

    • プロフェッショナルグレードのグラフィックス処理向けに OpenGL をサポートします。

    • RTX および TensorRT などの一般的なアクセラレーション機能と、FP4 および PCIe Gen5 相互接続をサポートします。

    • このインスタンスは PCIe Switch 相互接続を使用します。CPU 直接接続と比較して、NCCL パフォーマンスは 36% 向上します。マルチ GPU シャード LLM 推論の場合、ピークパフォーマンスは最大 9% 向上します。

  • GPU 仕様：

    GPU アーキテクチャ	GPU メモリ	コンピューティングパフォーマンス	ビデオエンコード／デコード機能	GPU 間相互接続	アクセラレーション API
    Blackwell	容量：72 GB 帯域幅：1344 GB/s	TF32：126 TFLOPS FP32：52 TFLOPS FP16/BF16：266 TFLOPS FP8/INT8：533 TFLOPS FP4：970 TFLOPS RT コア：196 TFLOPS	ビデオエンコーダ × 3 ビデオデコーダ × 3	PCIe Gen5 x16：128 GB/s P2P（Peer-to-peer）対応	DX12 に対応、 OpenGL 4.6、Vulkan 1.3、CUDA 12.8、OpenCL 3.0、DirectCompute をサポート

  • プロセッサ：このインスタンスは、3.3 GHz から 5 GHz のクロック周波数を持つ AMD Turin-C プロセッサを使用します。全コアクロック周波数は最大 4.2 GHz です。

• ストレージ：

  • I/O 最適化インスタンスです。

  • このインスタンスは NVMe プロトコルをサポートします。詳細については、「NVMe プロトコル」をご参照ください。

  • サポートされるディスクタイプ：「エラスティック一時ディスク」「ESSD」「ESSD AutoPL ディスク」「リージョナル ESSD」です。ディスクに関する詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク：

  • このインスタンスは IPv4 および IPv6 をサポートします。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • このインスタンスは、パケット転送速度が最大 3000 万 PPS の超高速ネットワークパフォーマンスを提供します。

  • このインスタンスは Elastic RDMA Interface（ERI）をサポートします。VPC では、ERI は RDMA パススルーアクセラレーションを有効にし、帯域幅を 360 Gbit/s に増加させます。この機能は、自動運転、組み込み AI、コンピュータビジョン（CV）、および従来のモデルトレーニングに最適です。

    説明

    ERI の使用手順については、「エンタープライズレベルインスタンスでの eRDMA の有効化」をご参照ください。

ebmgn9gc ファミリーのインスタンスタイプと仕様を以下の表に示します。

ebmgn8v、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

このインスタンスファミリーは、中国国外のリージョンを含む特定のリージョンでのみ利用可能です。このインスタンスファミリーを使用するには、Alibaba Cloud の営業担当者にお問い合わせください。

• 概要：このインスタンスファミリーは、Alibaba Cloud が AI モデルトレーニングおよび超大規模モデル向けに提供する第 8 世代 GPU アクセラレーションコンピューティング最適化 ECS ベアメタルインスタンスファミリーです。このインスタンスファミリーの各インスタンスには、8 つの GPU が搭載されています。

• 適用範囲：

  • 700 億を超えるパラメータを持つ LLM のマルチ GPU 並列推論コンピューティング。

  • 従来の AI モデルトレーニングおよび自動運転トレーニング。各 GPU は単精度浮動小数点形式（FP32）で最大 39.5 TFLOPS のコンピューティングパワーを提供します。

  • 8 つの GPU 間の NVLink 接続を活用する中小規模モデルトレーニングシナリオ。

• メリットと位置付け：

  • 高速大容量 GPU メモリ：各 GPU は 96 GB の HBM3 メモリを搭載し、最大 4 TB/s のメモリ帯域幅を提供し、モデルトレーニングと推論を大幅に高速化します。

  • GPU 間高帯域幅：複数の GPU は 900 GB/s の NVLink 接続を使用して相互接続されています。マルチ GPU トレーニングと推論の効率は、以前の世代の GPU アクセラレーションインスタンスよりもはるかに高くなっています。

  • 大規模モデルの量子化：このインスタンスファミリーは、8 ビット浮動小数点形式（FP8）のコンピューティングパワーをサポートし、大規模なパラメータトレーニングと推論のコンピューティングパワーを最適化します。これにより、トレーニングと推論のコンピューティング速度が大幅に向上し、メモリ使用量が削減されます。

• コンピューティング：

  • 最新の CIPU 1.0 プロセッサを使用します。

    • コンピューティング機能とストレージ機能を分離し、ビジネス要件に基づいてストレージリソースを柔軟に選択できます。また、以前の世代のインスタンスファミリーと比較して、インスタンス間帯域幅を 160 Gbit/s に増加させ、データ転送と処理を高速化します。

    • CIPU プロセッサが提供するベアメタル機能を使用して、GPU インスタンス間のピアツーピア (P2P) 通信をサポートします。

  • 第 4 世代 Intel Xeon Scalable プロセッサを使用し、全コアターボ周波数は最大 3.1 GHz で、192 vCPU を提供します。

• ストレージ：

  • I/O 最適化インスタンスです。

  • これらのインスタンスは NVMe プロトコルをサポートします。詳細については、「NVMe プロトコルの概要」をご参照ください。

  • 「エラスティック一時ディスク」「ESSD」「ESSD AutoPL ディスク」「リージョナル ESSD」をサポートします。ディスクに関する詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク：

  • これらのインスタンスは IPv4 および IPv6 をサポートします。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • パケット転送速度 30,000,000 pps の超高速ネットワークパフォーマンスを提供します。

  • ERI をサポートし、VPC 内のインスタンス間 RDMA ベースの通信を可能にし、インスタンスあたり最大 160 Gbit/s の帯域幅を提供します。これは CV モデルおよび従来のモデルに基づくトレーニングタスクに適しています。

    説明

    ERI の使用方法については、「エンタープライズレベルのインスタンスで eRDMA を有効にする」をご参照ください。

ebmgn8v インスタンスタイプ

ebmgn8ia、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

このインスタンスファミリーは、中国国外のリージョンを含む特定のリージョンでのみ利用可能です。このインスタンスファミリーを使用するには、Alibaba Cloud の営業担当者にお問い合わせください。

• 概要：このインスタンスファミリーは、Alibaba Cloud の第 8 世代アクセラレーションコンピューティング ECS ベアメタルインスタンスで、GPU あたりの vCPU リソースを多く必要とする検索、レコメンデーション、シミュレーションなどのアプリケーション向けに設計されています。このファミリーは最新の NVIDIA L20 GPU を搭載しており、各インスタンスは 2 つの高周波数 CPU と 4 つの GPU を搭載した単一のベアメタルホストです。

• メリットと適用範囲：

  • 高クロック周波数：この製品は、2 つの AMD EPYC™ Genoa 9T34 プロセッサを搭載しています。各プロセッサは 64 の物理コアを持ち、合計 256 vCPU を提供し、クロック周波数は 3.4 GHz から 3.75 GHz の範囲です。この構成により、シングルコア CPU パフォーマンスが大幅に向上し、CAD モデリングや CAE シミュレーションの事前処理の高速化に最適です。

  • スパースリソース割り当て：各 GPU は平均 64 vCPU と 384 GiB のメモリと組み合わされており、平均メモリ帯域幅は 230 GB/s です。この構成は、広告、検索、レコメンデーション、従来の CAE シミュレーションなど、高い I/O スループットを必要とする GPU コンピューティングシナリオに最適です。この構成は、CPU レンダリングに依存する特定の映画およびテレビ制作タスクもサポートします。

• 最新の CIPU 1.0 プロセッサを使用し、以下のメリットを提供します：

  • コンピューティング機能とストレージ機能を分離し、ビジネス要件に基づいてストレージリソースを柔軟に選択できます。また、以前の世代のインスタンスファミリーと比較して、インスタンス間帯域幅を 160 Gbit/s に増加させ、データ転送と処理を高速化します。

  • CIPU プロセッサが提供するベアメタル機能を使用して、GPU アクセラレーションインスタンス間の Peripheral Component Interconnect Express（PCIe）P2P 通信をサポートします。

• コンピューティング：

  • 新しい NVIDIA L20 Enterprise GPU を搭載：

    • vGPU、RTX テクノロジー、TensorRT 推論エンジンなどのアクセラレーション機能をサポートします。

    • 8 ビット浮動小数点精度をサポートし、計算効率を向上させます。

  • NVIDIA L20 の主なパラメータ：

    GPU アーキテクチャ	GPU メモリ	コンピューティングパフォーマンス	ビデオコーデック機能	カード間相互接続
    NVIDIA Ada Lovelace	容量：48 GB 帯域幅：864 GB/s	FP64：N/A FP32：59.3 TFLOPS FP16/BF16：119 TFLOPS FP8/INT8：237 TFLOPS	ビデオエンコーダ × 3 (+AV1) ビデオデコーダ × 3 JPEG デコーダ × 4	PCIe インターフェイス：PCIe Gen4 x16 帯域幅：64 GB/s

  • プロセッサ：AMD EPYC™ Genoa 9T34、3.4 GHz から 3.75 GHz。

• ストレージ：

  • I/O 最適化インスタンスです。

  • これらのインスタンスは NVMe プロトコルをサポートします。詳細については、「NVMe プロトコルの概要」をご参照ください。

  • 「エラスティック一時ディスク」「ESSD」「ESSD AutoPL ディスク」「リージョナル ESSD」をサポートします。ディスクに関する詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク：

  • これらのインスタンスは IPv4 および IPv6 をサポートします。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • パケット転送速度 30,000,000 pps の超高速ネットワークパフォーマンスを提供します。

  • ERI をサポートし、VPC 内のインスタンス間 RDMA ベースの通信を可能にし、インスタンスあたり最大 160 Gbit/s の帯域幅を提供します。これは CV モデルおよび従来のモデルに基づくトレーニングタスクに適しています。

    説明

    ERI の使用方法については、「エンタープライズレベルインスタンスでの eRDMA の有効化」をご参照ください。

ebmgn8is、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

このインスタンスファミリーは、中国国外のリージョンを含む特定のリージョンでのみ利用可能です。このインスタンスファミリーを使用するには、Alibaba Cloud の営業担当者にお問い合わせください。

• 概要：ebmgn8is は、Alibaba Cloud が最近の AI 生成ビジネスの発展に対応してリリースした第 8 世代アクセラレーションコンピューティング仕様ファミリー（ECS ベアメタルインスタンスファミリー）です。最新の NVIDIA L20 GPU を使用しています。各インスタンスは、8 つの GPU コンピューティングカードを使用するベアメタルホストです。

• メリットと位置付け：

  • グラフィックス処理：このインスタンスファミリーは、高周波数第 4 世代 Intel Xeon Scalable プロセッサを使用し、3D モデリングシナリオで十分な CPU コンピューティングパワーを提供し、スムーズなグラフィックスレンダリングと設計を実現します。

  • 推論タスク：新しい NVIDIA L20 GPU メモリの 48 GB を単一の GPU カードで使用して推論タスクを高速化します。FP8 浮動小数点形式をサポートし、さまざまな AIGC モデルに基づく推論をサポートします。特に、70 MB 未満の LLM モデルを使用する推論タスクに適しています。

  • トレーニングタスク：このインスタンスファミリーは、費用対効果の高いコンピューティング機能を提供し、第 7 世代推論インスタンスの 2 倍の FP32 コンピューティングパフォーマンスを提供します。このインスタンスファミリーのインスタンスは、FP32 ベースの CV モデルおよびその他の中小規模モデルのトレーニングに適しています。

• 適用範囲：

  • Alibaba Cloud Marketplace GRID イメージを使用し、GRID ドライバーがインストールされ、OpenGL および Direct3D グラフィックス機能が有効になっているシナリオにおける、ワークステーションレベルのグラフィックス処理機能に基づくアニメーション、映画、特殊効果の制作およびレンダリング。

  • コンテナ化されたアプリケーション向けに Container Service for Kubernetes (ACK) が提供する管理サービスが使用され、AIGC グラフィックスコンテンツおよび最大 1300 億パラメータの LLM 推論タスクを効率的かつ低コストでサポートするシナリオ。

  • その他の汎用 AI 認識、画像認識、音声認識シナリオ。

• 最新の CIPU 1.0 プロセッサを使用し、以下のメリットを提供します：

  • コンピューティング機能とストレージ機能を分離し、ビジネス要件に基づいてストレージリソースを柔軟に選択できます。また、以前の世代のインスタンスファミリーと比較して、インスタンス間帯域幅を 160 Gbit/s に増加させ、データ転送と処理を高速化します。

  • CIPU プロセッサが提供するベアメタル機能を使用して、GPU アクセラレーションインスタンス間の PCIe P2P 通信をサポートします。

• コンピューティング：

  • 新しい NVIDIA L20 Enterprise GPU を搭載：

    • vGPU、RTX テクノロジー、TensorRT 推論エンジンなどのアクセラレーション機能をサポートします。

    • PCIe Switch 相互接続をサポートし、CPU 直接接続方式と比較して NVIDIA Collective Communications Library (NCCL) パフォーマンスが 36% 向上し、複数の GPU で LLM 推論タスクを並列実行する場合の推論パフォーマンスが最大 9% 向上します。

  • NVIDIA L20 の主なパラメータ：

    GPU アーキテクチャ	GPU メモリ	コンピューティングパフォーマンス	ビデオコーデック機能	カード間相互接続
    NVIDIA Ada Lovelace	容量：48 GB 帯域幅：864 GB/s	FP64：N/A FP32：59.3 TFLOPS FP16/BF16：119 TFLOPS FP8/INT8：237 TFLOPS	ビデオエンコーダ × 3 (+AV1) ビデオデコーダ × 3 JPEG デコーダ × 4	PCIe インターフェイス：PCIe Gen4 x16 帯域幅：64 GB/s

  • 3.4 GHz の Intel^® Xeon^® Scalable プロセッサ（SPR）を使用し、全コアターボ周波数は最大 3.9 GHz です。

• ストレージ：

  • I/O 最適化インスタンスです。

  • これらのインスタンスは NVMe プロトコルをサポートします。詳細については、「NVMe プロトコルの概要」をご参照ください。

  • 「エラスティック一時ディスク」「ESSD」「ESSD AutoPL ディスク」「リージョナル ESSD」をサポートします。ディスクに関する詳細については、「ブロックストレージの概要」をご参照ください。

• ネットワーク：

  • これらのインスタンスは IPv4 および IPv6 をサポートします。IPv6 通信の詳細については、「IPv6 通信」をご参照ください。

  • パケット転送速度 30,000,000 pps の超高速ネットワークパフォーマンスを提供します。

  • ERI をサポートし、VPC 内のインスタンス間 RDMA ベースの通信を可能にし、インスタンスあたり最大 160 Gbit/s の帯域幅を提供します。これは CV モデルおよび従来のモデルに基づくトレーニングタスクに適しています。

    説明

    ERI の使用方法については、「エンタープライズレベルインスタンスでの eRDMA の有効化」をご参照ください。

ebmgn7e、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

Multi-Instance GPU (MIG) 機能のステータスを確認し、ebmgn7e インスタンスの起動後に MIG 機能を有効または無効にする必要があります。MIG 機能の詳細については、「NVIDIA Multi-Instance GPU ユーザーガイド」をご参照ください。

以下の表は、ebmgn7e インスタンスファミリーのインスタンスタイプが MIG 機能をサポートしているかどうかを示しています。

ebmgn7i、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

GPU アクセラレーテッド ebmgn7 インスタンスファミリー

ebmgn7 インスタンスの起動時に、Multi-Instance GPU (MIG) 機能はデフォルトで有効または無効になっている場合があります。ステータスを確認し、必要に応じて有効または無効にする必要があります。MIG の詳細については、「NVIDIA Multi-Instance GPU User Guide」をご参照ください。

次の表では、ebmgn7 インスタンスの MIG 対応状況を説明します。

ebmgn6e、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

ebmgn6v、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー

ebmgn6i、GPU アクセラレーションコンピューティング最適化型 ECS ベアメタルインスタンスファミリー