PAI-Instant Service は、複数レベル (インスタントサービス、テンプレート、インスタンス) の Grafana ダッシュボードと、負荷テストによるベンチマークパフォーマンスデータを提供します。このトピックでは、ダッシュボードへのアクセス方法と、RL トレーニングやエージェント評価などの高同時実行ワークロードで期待できるキャパシティとスループットについて説明します。
Grafana ダッシュボード
インスタントサービスワークベンチ、テンプレート詳細ページ、またはインスタンス詳細ページで [Open monitoring page] をクリックすると、そのスコープの Grafana ダッシュボードが開きます。
インスタントサービスワークベンチとテンプレート詳細ページのダッシュボードには、以下のメトリクスが表示されます。
インスタントサービス：
インスタンス数：インスタンスの総数、および実行中と一時停止中の内訳。
インスタンス作成レイテンシー：インスタンス作成のレイテンシー (最大、平均、P50、P90 など)。
トップインスタンステンプレート：使用回数上位のテンプレート。
リクエストされた CPU コア / メモリ / ストレージ：全インスタンスにわたる総リソースリクエスト。
ゲートウェイ API：
インスタンス作成/削除/接続 QPM：インスタンスの作成、削除、接続を行うコントロールプレーン API の毎分クエリ数 (QPM)。
インスタンス操作数：選択した期間における、インスタンスの作成、削除、接続操作の累計数。
プロキシリクエスト：リクエストをインスタンスにルーティングするゲートウェイプロキシ API の QPS、レイテンシー、エラー率。
インスタンス詳細ページのダッシュボードには、単一インスタンスのランタイムメトリクスが表示されます。これには、CPU とメモリの使用率、ネットワーク、ディスク、プロセスステータスが含まれます。
パフォーマンスメトリクス
PAI-Instant Service は、大規模な同時実行環境で負荷テストが実施されています。以下のベンチマークデータは、RL トレーニングやエージェント評価などの高同時実行ワークロードにおけるキャパシティとスループットを推定するのに役立ちます。
テスト環境
クラスター：PAI-Instant Service コンピューティングクラスター。
ノードプールサイズ：300 ノード。
ecs.c6.13xlarge(52 vCPU / 91 GiB) × 277ecs.c6.26xlarge(104 vCPU / 183 GiB) × 23
テスト日：2026年4月。
テスト方法
クライアントスクリプトがインスタンス作成リクエストをコントロールプレーンに一括で送信します。テストは、スクリプトがリクエストの送信を開始したときに始まり、最後のインスタンスが起動したときに終了します。経過時間が同時インスタンス起動期間となります。
テンプレート仕様
コードインタープリター (1 CPU / 2 GiB メモリ / 8 GiB ディスク)
テスト結果
10,000 以上の同時インスタンスにおいて、PAI-Instant Service は 750 を超える全体 QPS を維持し、ノードごとの P99 起動レイテンシーは 600 ms 未満です。これにより、大規模なエージェント評価や RL ロールアウトワークロードの要求に対応できます。
作成されたインスタンス | 同時起動期間 | 全体 QPS | 平均ノードレイテンシー | ノード P50 レイテンシー | ノード P99 レイテンシー |
10,000 | 13.23 s | 755.74 | 396.02 ms | 395.81 ms | 502.73 ms |
20,000 | 26.17 s | 764.23 | 457.62 ms | 437.96 ms | 582.07 ms |
注： 同時インスタンス起動期間は、すべてのインスタンスが起動するまでの合計時間です。これには、クライアント側の同時実行数制限やその他の制約が含まれます。単一インスタンスの起動時間については、ノードレイテンシーの数値をご参照ください。