Container Compute Service:ACS GPU の概要

ACS GPU の一般的なワークフロー

ACS は、データ前処理、モデルトレーニングから推論デプロイメントまでのライフサイクル全体をカバーする、AI ワークロード向けの非常に弾力的でコスト効率の高いソリューションを提供します。サーバーレスアーキテクチャのオンデマンド使用とオートスケーリングの特徴を、強力な GPU コンピューティング能力と組み合わせることで、開発者やデータサイエンティストは、基盤となるリソース管理ではなく、ビジネスロジックとアルゴリズムの革新に集中できます。

1. データ前処理段階： 大規模なデータセットのクレンジング、変換、拡張を含むタスクには、サーバーレス CPU の並列処理能力を利用できます。多数の CPU インスタンスをオンデマンドで起動して、計算を高速化できます。タスクが完了すると、リソースは直ちに解放されるため、アイドル時間に対する支払いは発生しません。このアプローチは、周期的またはバースト的なデータバッチ処理に非常に効率的であり、データ準備サイクルを大幅に短縮します。

2. モデルトレーニング段階： コンピューティング集約型のモデルトレーニングフェーズでは、サーバーレス GPU を使用して、モデルサイズと収束速度の要件に基づいて、必要な仕様の GPU インスタンスを柔軟に選択できます。トレーニングジョブの正確な持続時間に対して、秒単位の精度で課金されます。これにより、従来のセットアップで一般的だったアイドル状態の GPU サーバーのコストが不要になり、実験的なチューニングや反復トレーニングに最適です。

   モデルトレーニングワークロードにおけるリソースの確実性と柔軟性を確保するには、GPU-HPN キャパシティ予約 を使用します。

3. 推論デプロイメント段階： モデルのトレーニング後、オンライン推論サービスとしてシームレスにデプロイできます。ACS のサーバーレスアーキテクチャは、リアルタイムのリクエストトラフィックに基づいて GPU インスタンスを数秒で自動的にスケーリングし、インスタンスをゼロにスケールダウンすることも可能です。そのため、トラフィックがない場合、リソースコストは発生しません。この極めて高い弾力性は、画像認識や Natural Language Processing など、変動が激しい、またはバースト的なトラフィックパターンを持つ AI アプリケーションに最適です。これにより、高いサービス可用性を確保しつつ、コスト削減を最大化します。

ACS のサーバーレス GPU を使用すると、単一のプラットフォームで AI ワークフロー全体を効率的に管理し、リソース割り当てとコストを最適化して、AI アプリケーションの開発とデプロイを加速できます。

サポートされる GPU タイプ

GPU の仕様に関する詳細については、「ACS でサポートされる GPU インスタンスファミリー」をご参照ください。

GPU のアベイラビリティゾーン

ACS GPU のキャパシティ予約

• GPU Pod キャパシティ予約

• GPU-HPN キャパシティ予約

ACS GPU 対応クラスタータイプ

• ACK クラスターでの ACS GPU の使用

• ACK One 登録済みクラスターでの ACS GPU の使用

ACS GPU のリソーススケジューリング

• GPU-HPN トポロジー対応スケジューリング

• GPU-HPN ノードでの GPU 共有とスケジューリングの使用

ACS GPU のモニタリング

• ACS GPU Pod 監視メトリクス

• ACS GPU-HPN ノードレベルの監視メトリクス

ACS GPU のトラブルシューティング

GPU-HPN ノード障害の監視と回復