Container Compute Service:ACS GPU の概要

典型的な ACS GPU ワークフロー

ACS は、データの前処理やモデルのトレーニングから推論のデプロイメントまで、ライフサイクル全体をカバーする AI ワークロード向けに、非常に弾力的でコスト効率の高いソリューションを提供します。ACS は、サーバーレスアーキテクチャのオンデマンドおよび自動スケーリング機能と、強力な GPU コンピューティングを組み合わせています。これにより、開発者とデータサイエンティストは、基盤となるリソースの管理ではなく、ビジネスロジックとアルゴリズムの革新に集中できます。

1. データ前処理段階: 大規模なデータセットのクリーニング、変換、拡張などのタスクには、サーバーレス CPU の並列処理機能を使用できます。オンデマンドで多数の CPU インスタンスを起動して、計算を高速化できます。タスクが完了すると、リソースはすぐに解放されるため、アイドル時間に対して料金を支払う必要はありません。このアプローチは、定期的またはバースト的なバッチ処理タスクに非常に効率的であり、データ準備サイクルを大幅に短縮します。

2. モデルトレーニング段階: 計算集約的なモデルトレーニング段階では、Serverless GPU を使用すると、モデルサイズと必要な収束速度に基づいて GPU インスタンスを柔軟に選択できます。トレーニングタスクの課金は、秒単位の実際の実行時間に基づいています。これにより、従来の設定で一般的だったアイドル状態の GPU サーバーのコストが不要になり、実験的なパラメーターチューニングや反復的なトレーニングに最適です。

   リソースの確実性と柔軟性を必要とするモデルトレーニングワークロードには、GPU-HPN 容量予約ソリューションを使用して GPU リソースを予約できます。

3. 推論デプロイメント段階: モデルをトレーニングした後、オンライン推論サービスとしてシームレスにデプロイできます。ACS サーバーレスアーキテクチャは、リアルタイムのトラフィックに基づいて数秒以内に GPU インスタンスを自動的にスケールインまたはスケールアウトし、ゼロインスタンスにスケールダウンすることもできます。これは、トラフィックがない場合、リソースコストが発生しないことを意味します。この高度な弾力性は、画像認識や Natural Language Processing など、トラフィックが変動したり、ピーク時とオフピーク時が明確に分かれている AI アプリケーションに最適です。これにより、サービスの可用性を高めながら、コスト削減を最大化できます。

ACS Serverless GPU は、AI ワークフロー全体を効率的に管理するための、統一されたシームレスなプラットフォームを提供します。オンデマンドのリソース割り当てとコストの最適化を可能にし、AI アプリケーションの開発とデプロイメントを加速します。

ACS でサポートされている GPU カードタイプ

GPU カードタイプの詳細については、「ACS でサポートされている GPU インスタンスファミリー」をご参照ください。

ACS GPU リソースをサポートするゾーン

ACS GPU 容量予約

• GPU Pod 容量予約

• GPU-HPN 容量予約

ACS GPU 計算能力をサポートするクラスタータイプ

• ACK クラスターで ACS GPU を使用する

• ACK One の登録済みクラスターで ACS GPU を使用する

ACS GPU リソーススケジューリング

• GPU-HPN トポロジー対応スケジューリング

• GPU-HPN ノードでの GPU 共有とスケジューリングの使用

ACS GPU モニタリング

• ACS GPU Pod モニタリングメトリック

• ACS GPU-HPN ノードレベルのモニタリングメトリック

ACS GPU のトラブルシューティング

GPU-HPN ノードの障害のモニターと回復