スケジューリングポリシーは、キュー内のジョブがデキューされる順序を決定します。適切なポリシーを選択することで、ジョブのスループットを向上させ、コンピューティングリソースの使用率を最大化できます。
背景情報
Platform for AI (PAI) のリソースクォータに送信される各ジョブには、1 から 9 までの優先度の値が設定されています。値が大きいほど、優先度が高くなります。複数のジョブが同時にコンピューティングリソースをリクエストすると、それらのジョブはキューに入れられ、優先度に基づいて実行を待機します。
コンピューティングリソースの使用率を向上させるため、PAI はリソースクォータレベルでいくつかのスケジューリングポリシーを提供しています。選択したポリシーは待機中のジョブの実行順序に影響しますが、すでに実行中のジョブには影響しません。
スケジューリングポリシー
リソースクォータを設定する際に、以下のスケジューリングポリシーから選択できます。以下のセクションでは、各ポリシーの仕組みについて説明します。
FIFO ポリシー
キューの先頭にあるジョブをデキューできない場合、システムはそのジョブのデキューを繰り返し試行します。システムは、そのジョブをスキップして後続のジョブを処理することはありません。
ラウンドロビンポリシー
キューの先頭にあるジョブをデキューできない場合、システムはそのジョブをスキップして後続のジョブのデキューを試行します。
バランスポリシー
キューの先頭にあるジョブをデキューできない場合、システムはそのジョブをスキップせずにデキューを繰り返し試行します。
先頭のジョブの待機時間が、事前定義されたタイムアウト期間 (通常は数分) を超えると、システムは先頭と 2 番目のジョブにラウンドロビンポリシーを適用します。
2 番目のジョブもタイムアウト期間を超えた場合、システムはラウンドロビンポリシーの適用範囲を先頭から 3 つのジョブに拡大します。このパターンは、キュー内の後続のジョブに対しても同様に続きます。
インテリジェントポリシー
インテリジェントポリシーを選択すると、システムは各ジョブに割り当てられた優先度に基づいて、スケジューリング戦略を自動的に適用します：
優先度が 7 から 9 のジョブに対して、システムはFIFO ポリシーを使用します。
優先度が 1 から 6 のジョブに対して、システムはラウンドロビンポリシーを使用します。これらのジョブはキューで待機している間に徐々に昇格しますが、優先度 6 を超えて昇格することはありません。
上記の図では、Item1 と Item2 の優先度は 7 以上です。Item3 から ItemN までの優先度は 7 未満です。
関連トピック
リソースクォータを作成する際は、このトピックで説明されている原則に基づいてスケジューリングポリシーを選択してください。詳細な手順については、「リソースクォータの概要」をご参照ください。