PAI の AI コンピューティングリソースは、学習および推論ワークロード向けに、可用性とパフォーマンスに優れた GPU キャパシティを提供します。これらのリソースは DSW、DLC、EAS の基盤となります。リソースプールでコンピューティングリソースを購入し、リソースクォータ (クォータ) を通じてチームにキャパシティを割り当て、使用前にクォータをワークスペースにバインドします。
リソースタイプ
クラウドネイティブ リソース
クラウドネイティブ リソースは PAI-DSW、PAI-DLC、PAI-EAS に適用されます。次の2つのタイプがあります。
|
タイプ |
説明 |
ユースケース |
|
汎用コンピューティングリソース |
ECS、ECI、EGS などのクラウド製品上に構築されており、柔軟で安定したキャパシティを提供します。PAI を有効化すると、システムはすぐに使用できるパブリックリソースクォータを自動的に作成します。 |
定型的なモデルの学習と推論、および小中規模の開発と実験。 |
|
Lingjun AI コンピューティングリソース |
大規模なディープラーニング向けに設計された高性能キャパシティ。ハードウェアとソフトウェアの協調最適化により、高性能なネットワーク相互接続とストレージアクセラレーションを実現します。 |
大規模モデルの学習、数千 GPU スケールでの分散学習、および高いネットワーク帯域幅とストレージ帯域幅を必要とするワークロード。 |
ビッグデータエンジンリソース
ビッグデータエンジンリソースは PAI-Designer に適用されます。次の2つのタイプがあります。
|
タイプ |
説明 |
リファレンス |
|
MaxCompute |
大量のデータセットの効率的な分析と処理をサポートする、エンタープライズグレードのクラウドデータウェアハウスです。 |
|
|
Realtime Compute for Apache Flink |
Apache Flink上に構築された、サブ秒レイテンシーのリアルタイムビッグデータ分析プラットフォームです。 |
基本概念
|
概念 |
説明 |
|
リソースプール |
コンピューティングリソースの購入と管理のエントリーポイントです。リソースプールでは、リソースグループの作成、GPUノードの購入、更新とサブスクリプションの解約の管理を行います。 |
|
リソースクォータ (クォータ) |
リソースプールからキャパシティを割り当てる単位です。親子関係のクォータ階層 (クォータツリー) を作成して、チームやプロジェクトごとにリソースを配分できます。クォータをワークスペースにバインドすると、そのワークスペース内の DSW、DLC、EAS が割り当てられたキャパシティを使用できるようになります。 |
|
リソースグループ |
リソースプール内の論理的なグループです。各リソースグループは、同じタイプのコンピューティングノードのセットに対応します。1つのリソースクォータで、複数のリソースグループからキャパシティを取得できます。 |
ワークフロー
クラウドネイティブなAI コンピューティングリソースをセットアップするには、次のワークフローに従ってください。
-
リソースの購入： [AI Computing Resources] > [Resource Pool] でリソースグループを作成し、コンピューティングリソースを購入します。
汎用コンピューティングリソース： 詳細については、「リソースグループの作成と汎用コンピューティングリソースの購入」をご参照ください。
Lingjun AI コンピューティングリソース： 詳細については、「リソースグループの作成とLingjunリソースの購入」をご参照ください。
リソースクォータの作成： [AI Computing Resources] > [Resource Quota (Quota)] で、異なるチームにキャパシティを割り当てます。詳細については、「リソースクォータの作成」をご参照ください。
ワークスペースへのバインド： リソースクォータをワークスペースにバインドし、ワークスペースのメンバーがAIの開発と学習に割り当てられたキャパシティを使用できるようにします。
リソースクォータの使用： DSW インスタンス、DLCタスク、またはEASサービスを作成する際に、作成したリソースクォータをコンピューティングソースとして選択します。
ビッグデータエンジンリソースは、クォータの管理方法が異なります。MaxComputeについては、「MaxComputeのリソースクォータ」をご参照ください。Realtime Compute for Apache Flinkについては、「完全マネージド型Flinkリソースの管理」をご参照ください。
高度な設定
スケジューリングポリシー： キューのスケジューリングポリシーを設定して、デキュー効率とリソース使用率を向上させます。詳細については、「スケジューリングポリシー」をご参照ください。
プリエンプションポリシー： キャパシティのプリエンプションを有効にすることで、タスクが兄弟または子クォータのアイドルキャパシティを使用できるようになります。詳細については、「プリエンプションポリシー」をご参照ください。
モニタリングとアラート： CloudMonitor と ARMS を使用してリソース使用状況を表示し、アラート通知を設定します。詳細については、「モニタリングとアラート」をご参照ください。
学習と推論の統合リソース管理： 同じ GPU クラスター上で推論サービスと学習タスクを実行し、全体的な使用率を向上させます。詳細については、「学習と推論の統合リソース管理」をご参照ください。
課金
AI コンピューティングリソースは、サブスクリプション (月次または年次) で課金されます。料金は、ノードの仕様、数量、サブスクリプション期間によって異なります。詳細については、「AI コンピューティングリソースの課金」をご参照ください。