あらゆるシナリオに対応するヘテロジニアスコンピューティング
Elastic GPU Service は、ソフトウェアとハードウェアを統合した包括的なサービスシステムを提供し、リソースの柔軟な割り当て、システムの伸縮自在なスケーリング、コンピューティング能力の向上、AI 関連ビジネスのコスト削減を実現します。ディープラーニング、動画のエンコード / デコード、動画処理、科学計算、グラフィカルビジュアライゼーション、クラウドゲーミングなどのシナリオに適用できます。
Elastic GPU Service は、GPU アクセラレーションによるコンピューティング機能と、すぐに使えるスケーラブルな GPU コンピューティングリソースを提供します。GPU は数学的演算や幾何学的演算、特に浮動小数点演算や並列演算に独自の優位性を持ちます。GPU は CPU の 100 倍のコンピューティング能力を発揮します。
多彩なコンピューティング機能
大規模な並列演算に使用できる多数の演算論理ユニット (ALU) を搭載しています。Elastic GPU Service は最新の GPU アクセラレーションチップを採用し、AI、グラフィックス、トランスコーディング、暗号化などのビジネス用途に対応するさまざまなアクセラレータカード (FPGA、GPU、ASIC など) を提供しています。
使いやすさ
GPU リソースはさまざまな地理的ロケーションにグローバルにデプロイされています。シンプルなロジック制御ユニットにより、ビジネス要件に応じたシステムのスケーリングが可能です。Elastic GPU Service は補助ツール (AIACC、FastGPU、cGPU など) も提供しています。
高いネットワークパフォーマンス
SHENLONG アーキテクチャにより、サーバーパフォーマンスを向上させ、I/O レイテンシを低減します。GPU は最大 2,400 万 PPS、VPC 経由で最大 64 Gbit/s の帯域幅をサポートします。複数スレッドが並列実行されるハイスループットシナリオに適しています。
GPU コンピューティング効率向上ソフトウェア
AIACC-Training
Alibaba Cloud AIACC-Training は、Alibaba Cloud 環境に最適化された AI アクセラレータです。AI 分散トレーニングの効率とネットワーク帯域幅の使用率を大幅に向上させます。AIACC-Training は以下の 2 つの世界記録を達成しています：
DAWNBench ImageNet コンペティション (スタンフォード大学主催) での最速トレーニング速度
DAWNBench ImageNet コンペティション (スタンフォード大学主催) での最低トレーニングコスト
詳細を見る >
特長
-
主要フレームワーク対応分散トレーニングフレームワーク：TensorFlow、PyTorch、MXNet、Caffe
-
50%〜300% のパフォーマンス向上
帯域幅を大量に使用するネットワークモデル
-
マルチ GPU サーバー間の高性能通信
FP16 勾配圧縮と混合精度圧縮に対応します。
-
MXNet 向け API 拡張
InsightFace タイプのデータ並列処理およびモデル並列処理に対応します。
-
RDMA ネットワークの徹底最適化
ハイブリッドリンク通信 (RDMA および VPC)
組み合わせに最適
AIACC-Inference
Alibaba Cloud AIACC-Inference は、Alibaba Cloud 環境に最適化された AI アクセラレータです。GPU 使用率と推論パフォーマンスを大幅に向上させます。AIACC-Inference は以下の 2 つの世界記録を達成しています：
DAWNBench ImageNet コンペティション (スタンフォード大学主催) での最低推論レイテンシ
DAWNBench ImageNet コンペティション (スタンフォード大学主催) での最低推論コスト
詳細を見る >
特長
-
複数フレームワーク対応
TensorFlow、PyTorch、MXNet などのディープラーニングフレームワークでモデルを Open Neural Network Exchange (ONNX) 形式にエクスポートし、推論パフォーマンスを向上させます。
-
30%〜400% のパフォーマンス向上
コンピューティング集約型のネットワークモデル
-
複数モデル精度に対応
FP32 および FP16 でのモデル最適化
組み合わせに最適
GPU クラスターデプロイツール
Alibaba Cloud FastGPU は、GPU クラスターの高速デプロイツール群です。わずか数クリックでクラウド上に GPU コンピューティングリソースをデプロイできます。FastGPU は設定がシンプルで、どこからでも手軽に利用できます。GPU クラスターの迅速なデプロイに向けた、時間とコストを節約できる使いやすいソリューションです。
詳細を見る >
特長
-
クイックデプロイ
GPU クラスターでのオフライントレーニングおよび推論スクリプトを迅速にデプロイする API オペレーション
-
かんたん管理
GPU クラスターのステータスとライフサイクルを管理するコマンドラインツールを提供します。
-
高効率で時間を節約
Alibaba Cloud の IaaS レイヤーにおけるコンピューティング、ストレージ、ネットワークのデプロイ作業は不要です。クラスターリソースを取得すると、適切な環境が自動的に構築されます。
組み合わせに最適
コンテナ向け GPU 共有ソフトウェア
GPU リソースを分割し、複数の分離されたコンテナに割り当てることで、1 つの GPU を複数のコンテナで共有できます。cGPU は 1 つの GPU 上で複数のコンテナを実行し、コンテナ間の GPU アプリケーションを分離します。これにより、GPU ハードウェアリソースの使用率が向上します。
詳細を見る >
特長
-
GPU 分割
GPU リソースを分割し、GPU 使用率を向上させます。
-
GPU シェアリング
複数の AI アプリケーション間で GPU を共有し、コストを削減
-
柔軟性
コンピューティング能力と GPU メモリを柔軟に分割し、アプリケーション要件に対応します。
Elastic GPU Service とセルフマネージド GPU サーバーの比較
| 項目 | Elastic GPU Service | GPU セルフマネージドサーバー |
|---|---|---|
|
|
· GPU インスタンスを 1 台から手軽に作成可能 · インスタンス設定を柔軟に変更可能。再起動するだけで同一ファミリー内の別スペックに切り替えできます。 · 帯域幅を柔軟に調整可能 |
· 長期間のサブスクリプション契約が必要 · 変更できない設定がある · 送信帯域幅の一括購入が必要で、後から調整できない |
|
|
· Web ベースのコンソールでオンライン管理が可能 · 主要 OS を標準搭載 (ライセンス認証済みの正規 Windows OS など)。OS のオンライン入れ替えにも対応 · インスタンス購入時に GPU ドライバーの購入とインストールが可能 |
· オンライン管理ツールがなく、手動での管理・保守が必要 · OS を自前で用意し、インストールや入れ替えも自分で行う必要がある · OS の準備とインストールを手動で実施する必要がある |
|
|
· データを 3 重コピーで保存。1 つが破損しても迅速に復元可能 · ハードウェア障害を自動で迅速に復旧 |
· ディザスタリカバリ環境を手動で構築し、高価な従来型ストレージデバイスが必要 · 破損データの修復も手動で行う必要がある |
|
|
· サブスクリプションと従量課金の両方に対応。ビジネスニーズに合わせて最適な課金方法を選択できます。 · 大規模な初期投資なしで、必要なリソースをオンデマンドで購入可能 |
· ピーク時の設定要件を満たすために、リソースを事前購入する必要がある · 大規模な初期投資が必要で、リソースの無駄が生じやすい |
シナリオ
業界をリードするソリューションとハイパフォーマンス
Alibaba Cloud Elastic GPU Service は、エンジニアリングシミュレーションと解析において、業界をリードするソリューションを提供します。ハイパフォーマンス、スケーラビリティ、エンタープライズグレードの信頼性を備え、大容量 GPU メモリと高い GPU 性能により、複雑なシミュレーションの実行や難題の解決を可能にします。
メリット
-
最適化ソリューション
CFD モデリングを活用し、解析時間を大幅に短縮します。
-
電磁界解析による電子設計の高速化
電磁性能のシミュレーションにより、電磁放射、干渉、伝送を予測し、高性能な電子製品およびコンポーネントの設計を支援します。
-
エンジニアリングシミュレーション
クラウド上の仮想化アプリケーションにより、生産性を向上させ IT コストを削減します。
組み合わせに最適
最高画質を実現する HD 映像処理
映像処理タスクでは、大量データや長い処理時間といった課題が頻繁に発生します。GPU は並列計算によって映像処理を最適化できます。大規模 HD 映像トランスコード、4K/8K ライブストリーミング、多人数ビデオ会議、映像ソース修復といった分野で活用されています。
メリット
-
ハイパフォーマンス
コンピューティング性能を向上させる最適化を提供します。
-
卓越したコンピューティング性能
マルチフレームデータの高速処理に対応し、大量のコンピューティングタスクを処理するコンピューティング能力を提供します。
組み合わせに最適
ハイパフォーマンスコンピューティング
GPU は気象予測、炭化水素探査、分子動力学研究などの科学計算で不可欠な役割を果たしており、これらの分野では大規模並列計算が求められます。エラスティックコンピューティングと組み合わせることで、大規模浮動小数点演算に必要なコンピューティング能力を提供します。このコンピューティング能力はオンラインでもオフラインでも利用できます。
メリット
-
Auto Scaling
ESS と SLB を統合し、オートスケーリングを実現します。
-
卓越したコンピューティング性能
最新の GPU と迅速なデプロイ方法を提供し、科学計算に求められる大規模コンピューティング要件に対応します。
組み合わせに最適
導入事例
最大の決め手は認識精度でした。Vision AI Platform は、検証プロセスの初期段階からナンバープレートのモザイク処理を 90% 以上の精度で認識しました。
さらに詳細なチューニングを行った結果、導入時には 95% 以上の精度で自動認識とモザイク処理を実行できるようになりました。
– IDOM 株式会社 フリマ事業部 フリママーケティングセクション セクションリーダー 内山千秋 氏
Ms-meta.HK は、ソリューションの実装に Alibaba Cloud のさまざまなサービスを活用しました。これらのサービスに加え、Alibaba Cloud の現地テクニカルエキスパートと専任サポートチームにより、Ms-meta.HK はメタバースサービスを容易に一般公開できました。
Ms-meta.HK は、香港 (中国) を拠点とする分散型コミュニティ主導のメタバースプロジェクトです。Ms-meta.HK は、Alibaba Cloud のクラウドレンダリングおよびトラフィック分散技術をメタバースに積極的に活用しています。Alibaba Cloud との連携により、Ms-meta.HK はメタバース内の仮想シーンを最適化し、読み込み時間を短縮して、より優れたユーザー体験を提供しています。さらに、Alibaba Cloud の堅牢なセキュリティにより、公開サーバーを保護できます。Ms-meta.HK は今後も Alibaba Cloud の支援を受けながら、メタバースインフラサービスのさらなる最適化を目指しています。
ADVANCE は中核事業の一環として、Alibaba Cloud 上のさまざまなクラウドネイティブデータストレージおよび管理ソリューションを活用し、AI や機械学習アルゴリズムのためのデータウェアハウスとデータ分析プロセスを管理しています。たとえば、インメモリキャッシュと高速アクセスに ApsaraDB for Redis、柔軟な半構造化データストレージに ApsaraDB for MongoDB、さまざまなデータソース間のデータ集約・処理・ガバナンスに DataWorks、リアルタイムビッグデータ処理に Realtime Compute for Apache Flink を使用しています。
Advance Intelligence Group (ADVANCE) は、アジア太平洋地域を拠点とする AI 駆動のテクノロジー企業であり、東南アジア (SEA) 市場、特にインドネシアにおけるトッププレイヤーの 1 社です。
ADVANCE は、お客様へ高度な AI サービスを提供することに注力しています。Alibaba Cloud は、革新的なクラウドインフラサービスを通じて ADVANCE の成功を引き続き支援します。AI とクラウドコンピューティングの組み合わせにより、お客様により高い効率性、生産性、デジタルセキュリティを提供します。
