すべてのプロダクト
Search
ドキュメントセンター

Platform For AI:ARMS を使用した可観測性ダッシュボードとアラートのカスタマイズ

最終更新日:Jul 04, 2026

Application Real-Time Monitoring Service (ARMS) は、Alibaba Cloud が提供するクラウドネイティブの可観測性プラットフォームです。ARMS を使用して、PAI-EAS サービスのカスタム可観測性ダッシュボードを作成し、柔軟なアラートルールを設定して、包括的な EAS メトリックのモニタリングを行うことができます。

請求情報

ARMS の使用には料金が発生します。詳細な課金情報については、「ARMS の課金」をご参照ください。

EAS 監視メトリクスの取り込み

  1. またはARMS コンソールにログインします。左側のナビゲーションウィンドウで、アクセスセンター をクリックします。

  2. アクセスセンター ページで、人工知能 タブをクリックし、[Alibaba Cloud PAI EAS Model Online Service] をクリックします。

  3. 表示されるパネルの 接続を開始 タブで、データストレージのリージョンを選択し、統合名を入力して、OK をクリックします。

    OK をクリックすると、パネルが閉じます。統合はバックグラウンドで実行され、完了までに約 1~2 分かかります。

    重要

    高度な監視メトリクスには、大規模モデル推論フレームワークのメトリクス (vLLM または SGLang)、GPU 計算能力メトリクス、PAI EAS アクセスゲートウェイメトリクス、サービスおよびテナントディメンションの統計、カスタム推論アプリケーションメトリクスが含まれます。サポートされているリージョンは、北京、上海、杭州、ウランチャブ、シンガポール、河源です。他のリージョンを有効にするには、チケットを送信してください。[Advanced monitoring metrics] スイッチをオンにします。

    [Advanced monitoring metrics] スイッチをオンにすると、すべての EAS サービスおよびリソースグループのメトリクス が含まれます。カスタム監視メトリクス を使用する場合、それらも高度な監視メトリクスに含まれ、名前の前にプレフィックス `custom_` が追加されます。

  4. 統合が成功したことを確認するには、アクセス管理 をクリックし、ご利用の環境が統合環境リストに表示されていることを確認します。

取り込まれた EAS メトリックデータの表示

  1. 左側のナビゲーションウィンドウでアクセス管理をクリックし、アクセス済みのコンポーネント タブで、[Alibaba Cloud PAI EAS モデルオンラインサービス] カードをクリックします。

    表示されるパネルには、統合された環境のリストが表示されます。カードをクリックすると、右側に詳細パネルが開きます。[Environment List] タブでは、統合された環境 (cn-hangzhou、cn-beijing、cn-shanghai など) とコンポーネント数を確認できます。[view details] をクリックして、選択した環境のメトリクスページに移動します。

  2. 対象の環境の 操作 列で、メトリックの探索 タブの下にある View Details をクリックします。このページでは、EAS サービスのすべてのメトリック詳細を表示できます。

    表示方法

    説明

    フィルターによるメトリック詳細の表示

    CloudMonitor のメトリック名には、プレフィックス AliyunLearn_eas が含まれており、CloudMonitor に表示される EAS メトリック定義 と一致し、より豊富なラベル情報が含まれています。高度な監視メトリクスについては、「EAS の高度な監視メトリクス」をご参照ください。[Metric Explorer] タブのクエリビルダーで、[Metric] 検索ボックスにメトリックのキーワード (例: `AliyunLearn_eas_cpu_core_usage`) を入力します。ドロップダウンリストからターゲットメトリック (CPU コア使用量、CPU 使用率、GPU メモリ、使用率など) を選択します。[Labels] ドロップダウンを使用してフィルター条件を設定し、[Run query] をクリックして対応する折れ線グラフを表示します。

    PromQL 式を使用したより豊富なメトリクスのクエリ

    たとえば、すべてのサービスの QPS の合計をクエリするには、[Code] に切り替え、sum(AliyunLearn_eas_qps_total) を入力し、[Run query] をクリックします。チャートには、現在のリージョンにデプロイされているすべての EAS サービスの合計 QPS の最近の変化トレンドが表示されます。Prometheus クエリ言語 (PromQL) の構文の詳細については、「時系列データのクエリと分析」をご参照ください。入力ボックスの横にある AI アシスタントボタンimage をクリックして PromQL 構文を学習することもできます。

可観測性ダッシュボードのカスタマイズ

  1. Grafana ダッシュボードの詳細の表示

    ARMS の可観測性ダッシュボードは Grafana を使用しており、デフォルトの Grafana ダッシュボードが含まれています。次の手順に従って、ダッシュボードの詳細を表示します。

    1. クラウドサービス環境の詳細ページに移動します。具体的な手順については、「ステップ 2: モニタリングダッシュボードの表示」をご参照ください。

    2. コンポーネントの管理 タブの コンポーネントタイプ で、[Alibaba Cloud PAI EAS Online Prediction Service] を選択します。次に、ダッシュボード とダッシュボード名をクリックして、組み込みの Grafana ダッシュボードを表示します。

  2. デフォルトの Grafana ダッシュボードへのグローバル QPS パネルの追加

    1. ダッシュボードの詳細ページで、右上隅にあるパネルの追加ボタンimage をクリックします。新しい [Add panel] パネルで、[Add a new panel] をクリックします。

    2. [Edit Panel] ページの右側で、チャートタイプを [Stat] に変更します。

    3. ページ左下で、[Data source][${datasource}] に変更します。[Metrics browser] テキストボックスに、PromQL クエリ文 sum(AliyunLearn_eas_eas_qps_total) を入力し、[Run queries] をクリックします。

    4. しきい値を調整して、値ごとに異なる表示色を割り当てます。設定後、ページにチャートがプレビュー表示されます。[Apply] をクリックして設定を保存します。

Grafana の詳細については、「Managed Service for Grafana」をご参照ください。

監視アラートのカスタマイズ

ARMS はアラート機能を提供します。「ステップ 2: モニタリングダッシュボードの表示」に従って、クラウドサービス環境の詳細ページに移動します。Alert rules タブでは、デフォルトのアラートルールテンプレートを表示できます。ARMS コンソールの [Provisioning] ページで、対応するクラウドサービスリージョン環境を選択します。左側の [Component Type] リストで [Alibaba Cloud PAI EAS Online Prediction Service] を選択し、[Alert Rules] タブをクリックします。次のデフォルトの P2 レベルのアラートルールが事前設定されており、すべて最初は [Stopped] 状態で、アラートグループは cloud-learn_eas-Cloud-Default です。

アラートルール (ARMS コンソール表示名)

PromQL メトリック名

Alibaba Cloud PAI EAS GPU メモリ使用率アラート

AliyunLearn_eas_eas_gpu_memory_util

Alibaba Cloud PAI EAS 5XX 応答率アラート

AliyunLearn_eas_eas_rps_status_5xx_ratio

Alibaba Cloud PAI EAS 4XX 応答率アラート

AliyunLearn_eas_eas_rps_status_4xx_ratio

Alibaba Cloud PAI EAS 2XX 応答率アラート

AliyunLearn_eas_eas_rps_status_2xx_ratio

Alibaba Cloud PAI EAS メモリ使用率 (%) アラート

AliyunLearn_eas_eas_memory_util_per

Alibaba Cloud PAI EAS メモリ使用率アラート

AliyunLearn_eas_eas_memory_util

メトリックの探索 でこれらのメトリックをクエリする場合、`AliyunLearn_eas_eas_` プレフィックスが付いた完全な PromQL メトリック名を使用します。たとえば、GPU メモリ使用率をクエリするには、AliyunLearn_eas_eas_gpu_memory_util{} > 80 と入力します。

これらのデフォルトテンプレートがニーズを満たさない場合は、次の手順に従ってカスタムアラートルールを設定します。

  1. またはARMS コンソールにログインします。左側のナビゲーションウィンドウで、Prometheus モニタリング > Prometheus アラートルール を選択し、Prometheus アラートルールの作成 をクリックします。

  2. Prometheus アラートルールの作成 ページで、次の主要なパラメーターを設定します。パラメーターの詳細については、「Prometheus アラートルールの作成」をご参照ください。

    パラメーター

    説明

    検出タイプ

    カスタムPromQL を選択します。

    カスタムPromQL文

    sum(AliyunLearn_eas_eas_qps_total) > 20 と入力します。

    アラートの内容

    アラート情報の受信者が受け取る情報です。

    アラート通知

    通知の受信者を設定します。

  3. Completed をクリックします。

    作成したアラートルールは [Prometheus Alert Rules] ページで確認できます。すべてのサービスのグローバル QPS の合計が 20 を超えると、設定した通知の受信者にアラートが送信されます。

付録: EAS の高度な監視メトリクス

説明

次のメトリックは、ARMS の高度な監視メトリクスが有効になっている場合にのみ表示されます。

メトリック

説明

ラベル (ディメンション)

カテゴリ

タイプ

単位

期間 (秒)

instance_cpu_count

サービスインスタンスあたりの CPU 数

instance,resource_type

CPU

Gauge

カウント

60

instance_gpu_count

サービスインスタンスあたりの GPU 数

instance,resource_type

GPU

Gauge

60

instance_cpu_usage

サービスインスタンスあたりの CPU 使用量

instance

CPU

Gauge

コア

60

instance_user_cpu_usage

サービスインスタンスあたりのユーザープロセスの CPU 使用量

instance

CPU

Gauge

コア

60

instance_system_cpu_usage

サービスインスタンスあたりのシステムプロセスの CPU 使用量

instance

CPU

Gauge

コア

60

instance_cpu_util

サービスインスタンスあたりの CPU 使用率

instance

CPU

Gauge

%

60

instance_memory_rss_usage

サービスインスタンスあたりのメモリ使用量

instance

Memory

Gauge

バイト

60

instance_memory_cache_usage

サービスインスタンスあたりのメモリキャッシュ使用量

instance

Memory

Gauge

バイト

60

instance_memory_total

サービスインスタンスあたりの合計メモリ

instance

Memory

Gauge

バイト

60

instance_memory_util

サービスインスタンスあたりのメモリ使用率

instance

Memory

Gauge

%

60

instance_response

サービスインスタンスあたりのリクエスト数

instance

Request

Counter

件数

60

instance_gpu_util

サービスインスタンスあたりの GPU 使用率

instance

GPU

Gauge

%

60

instance_gpu_memory_usage

サービスインスタンスあたりの GPU メモリ使用量

instance

GPU

Gauge

MiB

60

instance_gpu_memory_total

サービスインスタンスあたりの合計 GPU メモリ

instance

GPU

Gauge

MiB

60

instance_gpu_memory_util

サービスインスタンスあたりの GPU メモリ使用率

instance

GPU

Gauge

MiB

60

instance_gpu_memory_bandwidth_limit

サービスインスタンスあたりの GPU メモリ帯域幅制限

instance

GPU

Gauge

バイト/秒

60

instance_gpu_temperature

サービスインスタンスあたりの GPU 温度

instance

GPU

Gauge

°C

60

instance_gpu_slow_temperature

サービスインスタンスあたりの GPU 低速化温度

instance

GPU

Gauge

°C

60

instance_gpu_shut_temperature

サービスインスタンスあたりの GPU シャットダウン温度

instance

GPU

Gauge

°C

60

instance_gpu_nvswitch_error

サービスインスタンスあたりの致命的な NVSwitch エラー情報

instance

GPU

Gauge

60 秒

instance_gpu_nvswitch_non_fatal_error

サービスインスタンスあたりの致命的でない NVSwitch エラー情報

instance

GPU

Gauge

60

instance_gpu_ecc_total_vol_sbe

サービスインスタンスあたりの合計シングルビット揮発性 ECC エラー

instance

GPU

Counter

カウント

60

instance_gpu_ecc_total_vol_dbe

サービスインスタンスあたりの合計ダブルビット揮発性 ECC エラー

instance

GPU

Counter

カウント

60

instance_gpu_ecc_total_agg_sbe

サービスインスタンスあたりの合計シングルビット集約 (永続) ECC エラー

instance

GPU

Counter

件数

60

instance_gpu_ecc_total_agg_dbe

サービスインスタンスあたりの合計ダブルビット集約 (永続) ECC エラー

instance

GPU

Counter

カウント

60

instance_gpu_remap_fail

サービスインスタンスあたりの行再マッピング失敗回数

instance

GPU

Gauge

60

instance_gpu_remap_pending

サービスインスタンスあたりの保留中の行再マッピング回数

instance

GPU

Gauge

カウント

60

instance_gpu_pcie_replay_counter

サービスインスタンスあたりの PCIe リプレイカウンター

instance

GPU

Gauge

カウント

60

instance_gpu_pcie_transmit_measure_by_dcgm

サービスインスタンスあたりの DCGM で測定された PCIe 送信レート

instance

GPU

Gauge

バイト/秒

60

instance_gpu_pcie_receive_measure_by_dcgm

サービスインスタンスあたりの DCGM で測定された PCIe 受信レート

instance

GPU

Gauge

バイト/秒

60

instance_gpu_graphics_engine_util

サービスインスタンスあたりのグラフィックスエンジン使用率

instance

GPU

Gauge

比率 (0~1)

60

instance_gpu_sm_util

サービスインスタンスあたりの SM (ストリーミングマルチプロセッサ) 使用率

instance

GPU

Gauge

比率 (0~1)

60

instance_gpu_dram_active

サービスインスタンスあたりのデバイスメモリインターフェイスでのアクティブなデータ送受信の比率

instance

GPU

Gauge

比率 (0~1)

60

instance_gpu_tensortflops_used

サービスインスタンスあたりの Tensor パイプラインで使用される Tflops

instance

GPU

Gauge

カウント

60

instance_gpu_memory_bandwidth_used

サービスインスタンスあたりのメモリ帯域幅使用量

instance

GPU

Gauge

バイト/秒

60

instance_gpu_sm_clock

サービスインスタンスあたりの SM クロック周波数

instance

GPU

Gauge

MHz

60

instance_gpu_sm_occupancy

サービスインスタンスあたりの SM 上の常駐 Warp スレッドの比率

instance

GPU

Gauge

比率 (0~1)

60

instance_gpu_fp32tflops_used

サービスインスタンスあたりの FP32 パイプラインで使用される Tflops

instance

GPU

Gauge

カウント

60

instance_gpu_fp16tflops_used

サービスインスタンスあたりの FP16 パイプラインで使用される Tflops

instance

GPU

Gauge

60

instance_gpu_pipe_fp32_active

サービスインスタンスあたりの FP32 パイプラインのアクティブサイクル比率

instance

GPU

Gauge

比率 (0~1)

60

instance_gpu_pipe_fp16_active

サービスインスタンスあたりの FP16 パイプラインのアクティブサイクル比率

instance

GPU

Gauge

比率 (0~1)

60 秒

instance_gpu_pipe_tensor_active

サービスインスタンスあたりの Tensor パイプラインのアクティブサイクル比率

instance

GPU

Gauge

比率 (0~1)

60

instance_gpu_power_usage

サービスインスタンスあたりの GPU 消費電力

instance

GPU

Gauge

ワット

60

instance_accelerator_power_usage

サービスインスタンスあたりのアクセラレータ消費電力

instance

GPU

Gauge

ミリワット

60

instance_gpu_mem_copy_util

サービスインスタンスあたりのメモリコピー使用率

instance

GPU

Gauge

%

60

instance_gpu_health_count

サービスインスタンスあたりの合計 GPU ヘルスステータス数

instance

GPU

Gauge

カウント

60

instance_gpu_lost_card_num

サービスインスタンスあたりの VM 内で消失した GPU の数

instance

GPU

Gauge

カウント

60

instance_gpu_driver_hang

サービスインスタンスあたりのドライバーハング回数

instance

GPU

Gauge

カウント

60

instance_gpu_profile_status

サービスインスタンスあたりの Amperf パフォーマンス分析ステータス

instance

GPU

Gauge

60

instance_gpu_uncorrectable_ecc

サービスインスタンスあたりの訂正不能 ECC エラー数

instance

GPU

Gauge

カウント

60

instance_gpu_xid_cnt

サービスインスタンスあたりの Xid エラー数

instance

GPU

Gauge

カウント

60

instance_gpu_fatal_xid_error

サービスインスタンスあたりの致命的な Xid エラー数

instance

GPU

Gauge

件数

60

instance_gpu_kernel_err_cnt

サービスインスタンスあたりのカーネルログからの非 Xid エラー数

instance

GPU

Gauge

カウント

60

instance_qps

サービスインスタンスあたりの 1 秒あたりのリクエスト数

instance

Request

Gauge

カウント

60

instance_traffic

サービスインスタンスあたりのトラフィック

instance

Request

Gauge

bps

60

instance_avg_latency

サービスインスタンスあたりの平均リクエスト応答時間

instance

Request

Gauge

ms

60

instance_tpxx_latency

サービスインスタンスあたりの TOPXX リクエスト応答時間

instance

Request

Gauge

ms

60

instance_traffic_in

サービスインスタンスあたりの受信トラフィック

instance

Request

Gauge

bps

60

instance_traffic_out

サービスインスタンスあたりの送信トラフィック

instance

Request

Gauge

bps

60

instance_tcp_connections

サービスインスタンスあたりの TCP 接続数

instance

Request

Gauge

カウント

60

service_replicas

サービスインスタンス数

service

Meta

Gauge

60

service_pending_replicas

保留中のサービスインスタンス数

service

Meta

Gauge

カウント

60

service_available_replicas

実行中のサービスインスタンス数

service

Meta

Gauge

カウント

60

service_replicas_with_resource_type

サービスインスタンス数 (リソースタイプラベル付き)

service

Meta

Gauge

カウント

60

service_cpu_count

サービスで使用される合計 CPU コア

service

CPU

Gauge

コア

60

service_cpu_count_with_resource_type

サービスで使用される合計 CPU コア (リソースタイプラベル付き)

service

CPU

Gauge

コア

60

service_gpu_count_with_resource_type

サービスで使用される合計 GPU (リソースタイプラベル付き)

service

GPU

Gauge

カウント

60

service_rps_status_2xx

サービスの 2XX 応答リクエスト数

service

Request

Gauge

件数

60

service_rps_status_4xx

サービスの 4XX 応答リクエスト数

service

Request

Gauge

カウント

60

service_rps_status_5xx

サービスの 5XX 応答リクエスト数

service

Request

Gauge

カウント

60

service_rps_status_2xx_ratio

サービスの 2XX 応答リクエスト率

service

Request

Gauge

%

60

service_rps_status_4xx_ratio

サービスの 4XX 応答リクエスト率

service

Request

Gauge

%

60

service_rps_status_5xx_ratio

サービスの 5XX 応答リクエスト率

service

Request

Gauge

%

60

service_qps

サービスの 1 秒あたりのリクエスト数

service

Request

Gauge

カウント

60

service_avg_latency

サービスの平均リクエスト応答時間

service

Request

Gauge

ms

60

service_tpxx_latency

サービスの TOPXX リクエスト応答時間

service

Request

Gauge

ms

60

service_tp100_latency

サービスの TOP100 リクエスト応答時間

service

Request

Gauge

ms

60

service_traffic_in

サービスの受信トラフィック

service

Network

Gauge

bps

60

service_traffic_out

サービスの送信トラフィック

service

Network

Gauge

60

service_cpu_usage

サービスの CPU 使用量

service

CPU

Gauge

コア

60

service_user_cpu_usage

サービスのユーザープロセスの CPU 使用量

service

CPU

Gauge

コア

60

service_system_cpu_usage

サービスのシステムプロセスの CPU 使用量

service

CPU

Gauge

コア

60

service_cpu_util

サービスの CPU 使用率

service

CPU

Gauge

%

60

service_memory_rss_usage

サービスのメモリ使用量

service

Memory

Gauge

バイト

60

service_memory_cache_usage

サービスのメモリキャッシュ使用量

service

Memory

Gauge

バイト

60

service_memory_total

サービスの合計メモリ

service

Memory

Gauge

バイト

60

service_memory_util

サービスのメモリ使用率

service

Memory

Gauge

%

60

service_gpu_util

サービスの GPU 使用率

service

GPU

Gauge

%

60

service_gpu_memory_usage

サービスの GPU メモリ使用量

service

GPU

Gauge

MiB

60

service_gpu_memory_total

サービスの合計 GPU メモリ

service

GPU

Gauge

MiB

60

service_gpu_memory_util

サービスの GPU メモリ使用率

service

GPU

Gauge

MiB

60

service_gpu_memory_bandwidth_limit

サービスの GPU メモリ帯域幅制限

service

GPU

Gauge

バイト/秒

60

service_gpu_temperature

サービスの GPU 温度

service

GPU

Gauge

°C

60

service_gpu_slow_temperature

サービスの GPU 低速化温度

service

GPU

Gauge

°C

60

service_gpu_shut_temperature

サービスの GPU シャットダウン温度

service

GPU

Gauge

°C

60

service_gpu_nvswitch_error

サービスの致命的な NVSwitch エラー情報

service

GPU

Gauge

60

service_gpu_nvswitch_non_fatal_error

サービスの致命的でない NVSwitch エラー情報

service

GPU

Gauge

カウント

60

service_gpu_ecc_total_vol_sbe

サービスの合計シングルビット揮発性 ECC エラー

service

GPU

Counter

カウント

60

service_gpu_ecc_total_vol_dbe

サービスの合計ダブルビット揮発性 ECC エラー

service

GPU

Counter

カウント

60

service_gpu_ecc_total_agg_sbe

サービスの合計シングルビット集約 (永続) ECC エラー

service

GPU

Counter

カウント

60

service_gpu_ecc_total_agg_dbe

サービスの合計ダブルビット集約 (永続) ECC エラー

service

GPU

Counter

カウント

60

service_gpu_remap_fail

サービスの行再マッピング失敗回数

service

GPU

Gauge

カウント

60

service_gpu_remap_pending

サービスの保留中の行再マッピング回数

service

GPU

Gauge

カウント

60

service_gpu_pcie_replay_counter

サービスの PCIe リプレイカウンター

service

GPU

Gauge

カウント

60

service_gpu_pcie_transmit_measure_by_dcgm

サービスの DCGM で測定された PCIe 送信レート

service

GPU

Gauge

バイト/秒

60

service_gpu_pcie_receive_measure_by_dcgm

サービスの DCGM で測定された PCIe 受信レート

service

GPU

Gauge

バイト/秒

60

service_gpu_graphics_engine_util

サービスのグラフィックスエンジン使用率

service

GPU

Gauge

比率 (0~1)

60

service_gpu_sm_util

サービスの SM (ストリーミングマルチプロセッサ) 使用率

service

GPU

Gauge

比率 (0~1)

60

service_gpu_dram_active

サービスのデバイスメモリインターフェイスでのアクティブなデータ送受信の比率

service

GPU

Gauge

比率 (0~1)

60

service_gpu_tensortflops_used

サービスの Tensor パイプラインで使用される Tflops

service

GPU

Gauge

カウント

60

service_gpu_memory_bandwidth_used

サービスのメモリ帯域幅使用量

service

GPU

Gauge

バイト/秒

60

service_gpu_sm_clock

サービスの SM クロック周波数

service

GPU

Gauge

MHz

60

service_gpu_sm_occupancy

サービスの SM 上の常駐 Warp スレッドの比率

service

GPU

Gauge

比率 (0~1)

60

service_gpu_fp32tflops_used

サービスの FP32 パイプラインで使用される Tflops

service

GPU

Gauge

件数

60

service_gpu_fp16tflops_used

サービスの FP16 パイプラインで使用される Tflops

service

GPU

Gauge

カウント

60

service_gpu_pipe_fp32_active

サービスの FP32 パイプラインのアクティブサイクル比率

service

GPU

Gauge

比率 (0~1)

60

service_gpu_pipe_fp16_active

サービスの FP16 パイプラインのアクティブサイクル比率

service

GPU

Gauge

比率 (0~1)

60

service_gpu_pipe_tensor_active

サービスの Tensor パイプラインのアクティブサイクル比率

service

GPU

Gauge

比率 (0~1)

60

service_gpu_power_usage

サービスの GPU 消費電力

service

GPU

Gauge

ワット

60

service_accelerator_power_usage

サービスのアクセラレータ消費電力

service

GPU

Gauge

ミリワット

60

service_gpu_mem_copy_util

サービスのメモリコピー使用率

service

GPU

Gauge

%

60

service_gpu_health_count

サービスの合計 GPU ヘルスステータス数

service

GPU

Gauge

カウント

60

service_gpu_lost_card_num

サービスの VM 内で消失した GPU の数

service

GPU

Gauge

カウント

60

service_gpu_driver_hang

サービスドライバー停止回数

service

GPU

Gauge

カウント

60

service_gpu_profile_status

サービスの Amperf パフォーマンス分析ステータス

service

GPU

Gauge

カウント

60

service_gpu_uncorrectable_ecc

サービスの訂正不能 ECC エラー数

service

GPU

Gauge

カウント

60

service_gpu_xid_cnt

サービスの Xid エラー数

service

GPU

Gauge

カウント

60

service_gpu_fatal_xid_error

サービスの致命的な Xid エラー数

service

GPU

Gauge

60

service_gpu_kernel_err_cnt

サービスのカーネルログからの非 Xid エラー数

service

GPU

Gauge

カウント

60

service_tcp_connections

サービスの TCP 接続数

service

Network

Gauge

カウント

60

service_gateway_requests

llm-gateway: ゲートウェイが受信した現在のリクエスト

service

Request

Gauge

カウント

60

service_gateway_pending_requests

llm-gateway: ゲートウェイにキャッシュされている現在のリクエスト

service

Request

Gauge

カウント

60

service_llm_ttft_max

llm-gateway: LLM ストリーミングリクエストの最初のトークンまでの最大時間

service

Request

Gauge

時間

60

service_llm_ttft_min

llm-gateway: LLM ストリーミングリクエストの最初のトークンまでの最小時間

service

Request

Gauge

時間

60

service_llm_ttft_mean

llm-gateway: LLM ストリーミングリクエストの最初のトークンまでの平均時間

service

Request

Gauge

時間

60

service_llm_ttft_percent

llm-gateway: LLM ストリーミングリクエストの最初のトークンまでのパーセンタイル時間

service

Request

Gauge

時間

60

service_llm_tpot_max

llm-gateway: LLM ストリーミングリクエストの出力トークンあたりの最大時間

service

Request

Gauge

時間

60

service_llm_tpot_min

llm-gateway: LLM ストリーミングリクエストの出力トークンあたりの最小時間

service

Request

Gauge

時間

60

service_llm_tpot_mean

llm-gateway: LLM ストリーミングリクエストの出力トークンあたりの平均時間

service

Request

Gauge

時間

60

service_llm_tpot_percent

llm-gateway: LLM ストリーミングリクエストの出力トークンあたりのパーセンタイル時間

service

Request

Gauge

時間

60

service_endpoint_llm_waiting_requests

llm-gateway: LLM 推論エンジンでキューに入れられたリクエスト数

service

Request

Gauge

60

service_endpoint_llm_running_requests

llm-gateway: LLM 推論エンジンで処理中のリクエスト数

service

Request

Gauge

カウント

60

service_endpoint_llm_gpu_cache_usage

llm-gateway: LLM 推論エンジンにおける GPU KV キャッシュ使用率

service

Request

Gauge

カウント

60

service_endpoint_llm_tps_in

llm-gateway: LLM エンジンでの 1 秒あたりの入力トークン数

service

Request

Gauge

カウント

60

service_endpoint_llm_tps_out

llm-gateway: LLM エンジンでの 1 秒あたりの出力トークン数

service

Request

Gauge

カウント

60

resource_instance_cpu_util

リソースグループインスタンスあたりの CPU 使用率

instance_id

Resource Instance

Gauge

%

60

resource_instance_memory_total

リソースグループインスタンスあたりの合計メモリ

instance_id

Resource Instance

Gauge

バイト

60

resource_instance_memory_used

リソースグループインスタンスあたりのメモリ使用量

instance_id

Resource Instance

Gauge

バイト

60

resource_instance_memory_util

リソースグループインスタンスあたりのメモリ使用率

instance_id

Resource Instance

Gauge

%

60

resource_instance_memory_cache

リソースグループインスタンスあたりのメモリキャッシュ使用量

instance_id

Resource Instance

Gauge

バイト

60

resource_instance_memory_free

リソースグループインスタンスあたりの空きメモリ

instance_id

Resource Instance

Gauge

バイト

60

resource_instance_traffic_in

リソースグループインスタンスあたりの受信トラフィック

instance_id

Resource Instance

Gauge

バイト/秒

60

resource_instance_traffic_out

リソースグループインスタンスあたりの送信トラフィック

instance_id

Resource Instance

Gauge

バイト/秒

60

resource_instance_disk_used

リソースグループインスタンスあたりのディスク使用量

instance_id

Resource Instance

Gauge

バイト

60

resource_instance_disk_total

リソースグループインスタンスあたりの合計ディスク

instance_id

Resource Instance

Gauge

バイト

60

resource_instance_disk_util

リソースグループインスタンスあたりのディスク使用率

instance_id

Resource Instance

Gauge

バイト

60

resource_instance_tcp_established

リソースグループインスタンスあたりの確立された TCP 接続

instance_id

Resource Instance

Gauge

60

resource_instance_tcp_time_wait

リソースグループインスタンスあたりの TIME_WAIT 状態の TCP 接続

instance_id

Resource Instance

Gauge

カウント

60

resource_instance_gpu_util

リソースグループインスタンスあたりの GPU 使用率

instance_id

Resource Instance

Gauge

%

60

resource_instance_gpu_memory_usage

リソースグループインスタンスあたりの GPU メモリ使用量

instance_id

Resource Instance

Gauge

MiB

60

resource_instance_gpu_memory_total

リソースグループインスタンスあたりの合計 GPU メモリ

instance_id

Resource Instance

Gauge

MiB

60

resource_instance_gpu_memory_util

リソースグループインスタンスあたりの GPU メモリ使用率

instance_id

Resource Instance

Gauge

%

60

resource_cpu_util

リソースグループあたりの CPU 使用率

resource

Resource

Gauge

%

60

resource_memory_total

リソースグループあたりの合計メモリ

resource

Resource

Gauge

バイト

60

resource_memory_used

リソースグループあたりのメモリ使用量

resource

Resource

Gauge

バイト

60

resource_memory_util

リソースグループあたりのメモリ使用率

resource

Resource

Gauge

%

60

resource_memory_cache

リソースグループあたりのメモリキャッシュ使用量

resource

Resource

Gauge

バイト

60

resource_memory_free

リソースグループあたりの空きメモリ

resource

Resource

Gauge

バイト

60

resource_traffic_in

リソースグループあたりの受信トラフィック

resource

Resource

Gauge

バイト/秒

60

resource_traffic_out

リソースグループあたりの送信トラフィック

resource

Resource

Gauge

バイト/秒

60

resource_disk_used

リソースグループあたりのディスク使用量

resource

Resource

Gauge

バイト

60

resource_disk_total

リソースグループあたりの合計ディスク

resource

Resource

Gauge

バイト

60

resource_disk_util

リソースグループあたりのディスク使用率

resource

Resource

Gauge

バイト

60

resource_tcp_established

リソースグループあたりの確立された TCP 接続

resource

Resource

Gauge

60

resource_tcp_time_wait

リソースグループあたりの TIME_WAIT 状態の TCP 接続

resource

Resource

Gauge

カウント

60

resource_gpu_util

リソースグループあたりの GPU 使用率

resource

Resource

Gauge

%

60

resource_gpu_memory_usage

リソースグループあたりの GPU メモリ使用量

resource

Resource

Gauge

MiB

60

resource_gpu_memory_total

リソースグループあたりの合計 GPU メモリ

resource

Resource

Gauge

MiB

60

resource_gpu_memory_util

リソースグループあたりの GPU メモリ使用率

resource

Resource

Gauge

%

60