EAS モニタリングダッシュボードは、リージョン内にデプロイされたすべての EAS サービスのリアルタイムパフォーマンスを、各サービスを個別に確認することなく一元的に追跡するためのパネルです。
ダッシュボードのデータはリージョン単位であり、Alibaba Cloud アカウントにおける現在のリージョン内の、すべてのワークスペースにわたる全サービスのメトリクスが集約されます。ワークスペースを切り替えてもコンソールのコンテキストが変わるだけで、ダッシュボードのデータ範囲には影響しません。
ユースケース
-
サービス全体の概要:現在のリージョン内にあるすべての EAS サービスの健全性を一目で評価できます。
-
パフォーマンス監視:QPS、応答時間、レプリカ数などの主要な集約メトリクスをリアルタイムで追跡できます。
-
リソース管理:CPU、メモリ、GPU の使用状況を監視し、スケールアウトおよびスケールインの意思決定に役立てます。
-
トラブルシューティング:集約された監視データからパフォーマンスの異常やサービスの問題を特定できます。
-
容量計画:履歴監視データを使用して、将来の容量を計画できます。
ダッシュボードの表示
-
PAI コンソールにログインします。 ページ上部でリージョンを選択し、目的のワークスペースを選択して [Elastic Algorithm Service (EAS)] をクリックします。
-
[モニタリング] タブに切り替えます。ダッシュボードは、以下の操作に対応しています。
-
時間範囲の選択:直近 5 分や 15 分などのプリセット範囲を選択します。デフォルトは直近 6 時間です。
-
手動更新:更新ボタンをクリックして最新のデータを取得するか、自動更新の頻度を設定します。
-
ディメンションフィルタリング:ディメンションごとにデータをフィルタリングします。たとえば、User ディメンションでフィルタリングして、すべてのユーザーまたは特定のユーザーのデータを表示できます。
-
チャートの操作:チャートにカーソルを合わせてデータポイントを確認するか、凡例エントリをクリックして表示を切り替えます。
モニタリング概要 タブをクリックして、モニタリングページを開きます。 このページには、デフォルトで [サービス] ディメンションの下に、[QPS] (1 秒あたりのリクエスト数)、[Avg RT] (平均応答時間)、[レプリカ] (レプリカ数とステータス、Total、Pending、Available を含む)、および [リソース別のレプリカ] (リソースグループ別の実行中のレプリカ) の 4 つのモニタリングチャートが表示されます。 [GPU] サブタブに切り替えると、GPU 関連のメトリックを表示できます。
-
監視メトリクス
Service ダッシュボード
次の表は、[Service] ダッシュボードのすべてのメトリクスを説明しています。計算は、Alibaba Cloud アカウントにおける現在のリージョン内のすべての EAS サービスインスタンスに適用されます。[Sum] はすべてのインスタンスの合計値、[Average] は平均値です。
QPS と Avg RT は最も重要なパフォーマンス指標です。Replicas はクラスターのスケーリングアクティビティを反映します。CPU、メモリ、GPU のメトリクスはリソース消費を反映します。Traffic と Daily Invoke は全体的なトラフィックとコール数を反映します。
| カテゴリ | メトリクス | 説明 | 計算方法 | 目的 |
|---|---|---|---|---|
| リクエストパフォーマンス | QPS | 1 秒あたりのリクエスト数。 | Sum | クラスター全体のスループットを評価します。エラー率データと組み合わせることで、トラフィックのピークや障害ストームを特定できます。 |
| Avg RT | 平均応答時間。リクエストを送信してからレスポンスを受信するまでの平均時間。 | Average | クラスター全体の応答速度を評価し、グローバルなパフォーマンスボトルネックを特定します。 | |
| インスタンススケール | Replicas | インスタンス数。TotalReplicas (合計)、PendingReplicas (保留中)、Available Replicas (利用可能) の 3 つのサブメトリクスを含みます。 | Sum | クラスターのリアルタイムのスケールを把握し、オートスケーリングの動作が期待どおりか監視します。 |
| Replicas By Resource | リソースタイプ別のインスタンス数。 | Sum | インスタンスタイプごとのリソース分布を把握します。 | |
| CPU | CPU Total | サービスで利用可能な合計 CPU 数。 | Sum | 予約済みの合計 CPU 容量を評価します。 |
| CPU Utilization | CPU 使用率。 | Average | クラスター全体の CPU 効率を評価し、容量計画とコスト最適化に役立てます。 | |
| CPU Usage | CPU 使用量。 | Average | 消費された CPU リソースのコストを見積もります。 | |
| メモリ | Memory | メモリ使用量。RSS (常駐メモリの合計) と Cache (ページキャッシュの合計) を含みます。 | Average | システムメモリ使用量を監視して、リソースプレッシャーを判断し、パフォーマンスボトルネックを特定します。 |
| Memory Utilization | メモリ使用率。 | Average | 全体的なメモリリソース効率を評価します。 | |
| GPU | GPU Total | 使用中の合計 GPU 数。 | Sum | GPU リソースのスケールを評価します。 |
| GPU Utilization | GPU 使用率。 | Average | GPU リソース効率を評価します。 | |
| GPU Memory | 実際の GPU メモリ使用量。 | Average | GPU メモリ消費を評価します。 | |
| トラフィックとコール | Traffic | 全サービスのインバウンド (In) とアウトバウンド (Out) の合計ネットワークトラフィック。 | Sum | サービス全体のネットワーク通信ステータスを反映します。 |
| Daily Invoke | HTTP ステータスコード別に分類された 1 日あたりのコール数。 | Sum | 長期的なビジネスの健全性とエラー率の傾向を把握します。 |
GPU ダッシュボード
GPU ダッシュボードは、GPU ベースのサービスの詳細な監視を提供し、GPU リソース使用率の最適化に役立ちます。
GPU ダッシュボードは、コスト効率の悪さを特定するのに特に有用です。低使用率のメトリクスに注目して、無駄なリソース設定のサービスを見つけてください。
| カテゴリ | メトリクス | 説明 | 目的 |
|---|---|---|---|
| 概要 | Total GPU usage | 現在のリージョン内の全サービスで使用されている合計 GPU 数。 | 容量計画のために全体的な GPU スケールを示します。 |
| Average GPU utilization | GPU を使用する全サービスにわたる平均 GPU 使用率。 | 全体的な GPU 効率を測定し、リソース浪費のリスクを特定します。 | |
| Number of services using GPUs | 現在 GPU リソースを使用しているサービスの総数。 | GPU サービスの分布とリソース使用の広がりを把握します。 | |
| サービス別使用率 | Number of services with average GPU utilization below 10% | 平均 GPU 使用率が 10% 未満のサービス数。 | 深刻なリソース浪費を特定します。これらのサービスを優先的に最適化またはリリースしてください。 |
| Number of services with average GPU utilization below 30% | 平均 GPU 使用率が 30% 未満のサービス数。 | 低使用率のサービスを特定します。リソース設定の調整を検討してください。 | |
| Number of services with average GPU utilization above 50% | 平均 GPU 使用率が 50% 以上のサービス数。 | 効果的な GPU 使用率を確認し、最適化結果の検証に使用します。 | |
| GPU 使用率の分布 | Number of GPUs with average utilization below 10% | 平均使用率が 10% 未満の GPU 数。 | アイドル状態の GPU を特定し、リリースしてコストを削減できます。 |
| Number of GPUs with average utilization below 30% | 平均使用率が 30% 未満の GPU 数。 | 低使用率の GPU を特定します。リソース設定を調整してください。 | |
| Number of GPUs with average utilization above 50% | 平均使用率が 50% 以上の GPU 数。 | 完全に使用されている GPU を確認し、スケールアウトするかどうかを評価します。 | |
| リソース分布 | Number of GPUs in dedicated resource groups (including Lingjun) | Lingjun を含む専用リソースグループ内の GPU 数。 | 容量計画のために専用リソースの変化を監視します。 |
| Number of GPUs in public resource groups | パブリックリソースグループ内の GPU 数。 | パブリックリソースの使用状況を監視して、割り当てポリシーを最適化します。 | |
| Number of GPUs in spot instances (including Lingjun) | Lingjun を含むスポットインスタンス内の GPU 数。 | 低コストの GPU リソースを監視し、コストと安定性のバランスを取るのに役立てます。 | |
| 詳細な使用率 | Detailed GPU utilization per service | サービスごとの GPU 使用率。データがない場合は「No data」と表示されます。 | 個々のサービスの GPU 使用状況を詳細に分析し、パフォーマンスの問題を特定できます。 |
注意事項
-
ダッシュボードのデータは、リージョン内の全サービスから集約されるため、遅延が発生する場合があります。
-
特定のサービスの詳細な監視については、そのサービスの監視ページを開いてください。
よくある質問
ダッシュボードの CPU 使用率が低いのに、サービスがスケールアウトに失敗したり、リソース不足を報告したりするのはなぜですか。
ダッシュボードは、全サービスにわたる 平均 CPU 使用率を表示します。アイドル状態のサービスがこの平均を引き下げるため、クラスターの物理リソースが完全に枯渇している場合でも、平均値は低く見えることがあります。
[Pending_Replicas] メトリックを確認します。この値が常に 0 を上回っている場合、クラスターリソースプールはフールであり、新しいインスタンスをスケジューリングできません。クラスターをスケールアウトするか、既存のサービスのリソース設定を最適化してください。
特定のサービスの詳細な監視データを表示するにはどうすればよいですか。
[推論サービス] タブに移動し、対象のサービスを選択して、その詳細ページを開きます。[モニタリング] タブに切り替えると、詳細なチャートを表示できます。メトリックの説明については、「サービスモニタリングの概要」をご参照ください。