指標 | 指標含義 | 指標標籤(維度) | 指標分類 | 指標類型 | 單位 | 指標周期(單位s) |
instance_cpu_count | 服務執行個體CPU數量 | instance,resource_type | CPU | Gauge | count | 60 |
instance_gpu_count | 服務執行個體GPU數量 | instance,resource_type | GPU | Gauge | count | 60 |
instance_cpu_usage | 服務執行個體CPU使用量 | instance | CPU | Gauge | core | 60 |
instance_user_cpu_usage | 服務執行個體使用者進程CPU使用量 | instance | CPU | Gauge | core | 60 |
instance_system_cpu_usage | 服務執行個體系統進程CPU使用量 | instance | CPU | Gauge | core | 60 |
instance_cpu_util | 服務執行個體CPU使用率 | instance | CPU | Gauge | % | 60 |
instance_memory_rss_usage | 服務執行個體記憶體使用量量 | instance | Memory | Gauge | byte | 60 |
instance_memory_cache_usage | 服務執行個體記憶體緩衝使用量 | instance | Memory | Gauge | byte | 60 |
instance_memory_total | 服務執行個體記憶體總量 | instance | Memory | Gauge | byte | 60 |
instance_memory_util | 服務執行個體記憶體使用量率 | instance | Memory | Gauge | % | 60 |
instance_response | 服務執行個體請求數 | instance | Request | Counter | count | 60 |
instance_gpu_util | 服務執行個體GPU使用率 | instance | GPU | Gauge | % | 60 |
instance_gpu_memory_usage | 服務執行個體顯存使用量 | instance | GPU | Gauge | MiB | 60 |
instance_gpu_memory_total | 服務執行個體顯存總量 | instance | GPU | Gauge | MiB | 60 |
instance_gpu_memory_util | 服務執行個體顯存使用率 | instance | GPU | Gauge | MiB | 60 |
instance_gpu_memory_bandwidth_limit | 服務執行個體GPU顯存頻寬節流設定 | instance | GPU | Gauge | bytes/second | 60 |
instance_gpu_temperature | 服務執行個體GPU溫度 | instance | GPU | Gauge | °C | 60 |
instance_gpu_slow_temperature | 服務執行個體GPU降頻溫度 | instance | GPU | Gauge | °C | 60 |
instance_gpu_shut_temperature | 服務執行個體GPU關機溫度 | instance | GPU | Gauge | °C | 60 |
instance_gpu_nvswitch_error | 服務執行個體NVSwitch致命錯誤資訊 | instance | GPU | Gauge | count | 60s |
instance_gpu_nvswitch_non_fatal_error | 服務執行個體NVSwitch非致命錯誤資訊 | instance | GPU | Gauge | count | 60 |
instance_gpu_ecc_total_vol_sbe | 服務執行個體單位元易失性ECC錯誤總數 | instance | GPU | Counter | count | 60 |
instance_gpu_ecc_total_vol_dbe | 服務執行個體雙位元易失性ECC錯誤總數 | instance | GPU | Counter | count | 60 |
instance_gpu_ecc_total_agg_sbe | 服務執行個體單位元彙總(持久性)ECC錯誤總數 | instance | GPU | Counter | count | 60 |
instance_gpu_ecc_total_agg_dbe | 服務執行個體雙位元彙總(持久性)ECC錯誤總數 | instance | GPU | Counter | count | 60 |
instance_gpu_remap_fail | 服務執行個體行重新對應失敗次數 | instance | GPU | Gauge | count | 60 |
instance_gpu_remap_pending | 服務執行個體行重新對應待處理次數 | instance | GPU | Gauge | count | 60 |
instance_gpu_pcie_replay_counter | 服務執行個體PCIe重傳計數器 | instance | GPU | Gauge | count | 60 |
instance_gpu_pcie_transmit_measure_by_dcgm | 服務執行個體通過DCGM測量的PCIe傳輸速率 | instance | GPU | Gauge | bytes/second | 60 |
instance_gpu_pcie_receive_measure_by_dcgm | 服務執行個體通過DCGM測量的PCIe接收速率 | instance | GPU | Gauge | bytes/second | 60 |
instance_gpu_graphics_engine_util | 服務執行個體圖形引擎利用率 | instance | GPU | Gauge | ratio (0~1) | 60 |
instance_gpu_sm_util | 服務執行個體SM(流式多處理器)利用率 | instance | GPU | Gauge | ratio (0~1) | 60 |
instance_gpu_dram_active | 服務執行個體裝置記憶體介面活躍發送或接收資料的比率 | instance | GPU | Gauge | ratio (0~1) | 60 |
instance_gpu_tensortflops_used | 服務執行個體Tensor管道使用的Tflops | instance | GPU | Gauge | count | 60 |
instance_gpu_memory_bandwidth_used | 服務執行個體記憶體頻寬使用量 | instance | GPU | Gauge | bytes/second | 60 |
instance_gpu_sm_clock | 服務執行個體SM時鐘頻率 | instance | GPU | Gauge | MHz | 60 |
instance_gpu_sm_occupancy | 服務執行個體SM上駐留的Warp數量比例 | instance | GPU | Gauge | ratio (0~1) | 60 |
instance_gpu_fp32tflops_used | 服務執行個體FP32管道使用的Tflops | instance | GPU | Gauge | count | 60 |
instance_gpu_fp16tflops_used | 服務執行個體FP16管道使用的Tflops | instance | GPU | Gauge | count | 60 |
instance_gpu_pipe_fp32_active | 服務執行個體FP32管道活躍周期比例 | instance | GPU | Gauge | ratio (0~1) | 60 |
instance_gpu_pipe_fp16_active | 服務執行個體FP16管道活躍周期比例 | instance | GPU | Gauge | ratio (0~1) | 60s |
instance_gpu_pipe_tensor_active | 服務執行個體Tensor管道活躍周期比例 | instance | GPU | Gauge | ratio (0~1) | 60 |
instance_gpu_power_usage | 服務執行個體GPU功耗 | instance | GPU | Gauge | watts | 60 |
instance_accelerator_power_usage | 服務執行個體加速器功耗 | instance | GPU | Gauge | milliwatts | 60 |
instance_gpu_mem_copy_util | 服務執行個體記憶體複製利用率 | instance | GPU | Gauge | % | 60 |
instance_gpu_health_count | 服務執行個體GPU健康狀態計數的總和 | instance | GPU | Gauge | count | 60 |
instance_gpu_lost_card_num | 服務執行個體VM中丟失顯卡數量 | instance | GPU | Gauge | count | 60 |
instance_gpu_driver_hang | 服務執行個體驅動掛起次數 | instance | GPU | Gauge | count | 60 |
instance_gpu_profile_status | 服務執行個體Amperf效能分析狀態 | instance | GPU | Gauge | count | 60 |
instance_gpu_uncorrectable_ecc | 服務執行個體無法糾正的ECC錯誤數量 | instance | GPU | Gauge | count | 60 |
instance_gpu_xid_cnt | 服務執行個體Xid錯誤數 | instance | GPU | Gauge | count | 60 |
instance_gpu_fatal_xid_error | 服務執行個體致命Xid錯誤數 | instance | GPU | Gauge | count | 60 |
instance_gpu_kernel_err_cnt | 服務執行個體來自核心日誌的非Xid錯誤數 | instance | GPU | Gauge | count | 60 |
instance_qps | 服務執行個體每秒請求數 | instance | Request | Gauge | count | 60 |
instance_traffic | 服務執行個體流量 | instance | Request | Gauge | bps | 60 |
instance_avg_latency | 服務執行個體平均請求回應時間 | instance | Request | Gauge | ms | 60 |
instance_tpxx_latency | 服務執行個體TOPXX請求回應時間 | instance | Request | Gauge | ms | 60 |
instance_traffic_in | 服務執行個體入流量 | instance | Request | Gauge | bps | 60 |
instance_traffic_out | 服務執行個體出流量 | instance | Request | Gauge | bps | 60 |
instance_tcp_connections | 服務執行個體TCP串連數 | instance | Request | Gauge | count | 60 |
service_replicas | 服務執行個體數 | service | Meta | Gauge | count | 60 |
service_pending_replicas | 待執行的服務執行個體數 | service | Meta | Gauge | count | 60 |
service_available_replicas | 運行中的服務執行個體數 | service | Meta | Gauge | count | 60 |
service_replicas_with_resource_type | 服務執行個體數(帶有資源類型標籤) | service | Meta | Gauge | count | 60 |
service_cpu_count | 服務佔用CPU總數 | service | CPU | Gauge | core | 60 |
service_cpu_count_with_resource_type | 服務CPU總數(帶有資源類型標籤) | service | CPU | Gauge | core | 60 |
service_gpu_count_with_resource_type | 服務GPU總數(帶有資源類型標籤) | service | GPU | Gauge | count | 60 |
service_rps_status_2xx | 服務2XX響應請求數 | service | Request | Gauge | count | 60 |
service_rps_status_4xx | 服務4XX響應請求數 | service | Request | Gauge | count | 60 |
service_rps_status_5xx | 服務5XX響應請求數 | service | Request | Gauge | count | 60 |
service_rps_status_2xx_ratio | 服務2XX響應請求數佔比 | service | Request | Gauge | % | 60 |
service_rps_status_4xx_ratio | 服務4XX響應請求數佔比 | service | Request | Gauge | % | 60 |
service_rps_status_5xx_ratio | 服務5XX響應請求數佔比 | service | Request | Gauge | % | 60 |
service_qps | 服務每秒請求數 | service | Request | Gauge | count | 60 |
service_avg_latency | 服務平均請求回應時間 | service | Request | Gauge | ms | 60 |
service_tpxx_latency | 服務TOPXX請求回應時間 | service | Request | Gauge | ms | 60 |
service_tp100_latency | 服務TOP100請求回應時間 | service | Request | Gauge | ms | 60 |
service_traffic_in | 服務入流量 | service | Network | Gauge | bps | 60 |
service_traffic_out | 服務出流量 | service | Network | Gauge | | 60 |
service_cpu_usage | 服務CPU使用量 | service | CPU | Gauge | core | 60 |
service_user_cpu_usage | 服務使用者進程CPU使用量 | service | CPU | Gauge | core | 60 |
service_system_cpu_usage | 服務系統進程CPU使用量 | service | CPU | Gauge | core | 60 |
service_cpu_util | 服務CPU使用率 | service | CPU | Gauge | % | 60 |
service_memory_rss_usage | 服務記憶體使用量量 | service | Memory | Gauge | byte | 60 |
service_memory_cache_usage | 服務記憶體緩衝使用量 | service | Memory | Gauge | byte | 60 |
service_memory_total | 服務記憶體總量 | service | Memory | Gauge | byte | 60 |
service_memory_util | 服務記憶體使用量率 | service | Memory | Gauge | % | 60 |
service_gpu_util | 服務GPU使用率 | service | GPU | Gauge | % | 60 |
service_gpu_memory_usage | 服務顯存使用量 | service | GPU | Gauge | MiB | 60 |
service_gpu_memory_total | 服務顯存總量 | service | GPU | Gauge | MiB | 60 |
service_gpu_memory_util | 服務顯存使用率 | service | GPU | Gauge | MiB | 60 |
service_gpu_memory_bandwidth_limit | 服務GPU顯存頻寬節流設定 | service | GPU | Gauge | bytes/second | 60 |
service_gpu_temperature | 服務GPU溫度 | service | GPU | Gauge | °C | 60 |
service_gpu_slow_temperature | 服務GPU降頻溫度 | service | GPU | Gauge | °C | 60 |
service_gpu_shut_temperature | 服務GPU關機溫度 | service | GPU | Gauge | °C | 60 |
service_gpu_nvswitch_error | 服務NVSwitch致命錯誤資訊 | service | GPU | Gauge | count | 60 |
service_gpu_nvswitch_non_fatal_error | 服務NVSwitch非致命錯誤資訊 | service | GPU | Gauge | count | 60 |
service_gpu_ecc_total_vol_sbe | 服務單位元易失性ECC錯誤總數 | service | GPU | Counter | count | 60 |
service_gpu_ecc_total_vol_dbe | 服務雙位元易失性ECC錯誤總數 | service | GPU | Counter | count | 60 |
service_gpu_ecc_total_agg_sbe | 服務單位元彙總(持久性)ECC錯誤總數 | service | GPU | Counter | count | 60 |
service_gpu_ecc_total_agg_dbe | 服務雙位元彙總(持久性)ECC錯誤總數 | service | GPU | Counter | count | 60 |
service_gpu_remap_fail | 服務行重新對應失敗次數 | service | GPU | Gauge | count | 60 |
service_gpu_remap_pending | 服務行重新對應待處理次數 | service | GPU | Gauge | count | 60 |
service_gpu_pcie_replay_counter | 服務PCIe重傳計數器 | service | GPU | Gauge | count | 60 |
service_gpu_pcie_transmit_measure_by_dcgm | 服務通過DCGM測量的PCIe傳輸速率 | service | GPU | Gauge | bytes/second | 60 |
service_gpu_pcie_receive_measure_by_dcgm | 服務通過DCGM測量的PCIe接收速率 | service | GPU | Gauge | bytes/second | 60 |
service_gpu_graphics_engine_util | 服務圖形引擎利用率 | service | GPU | Gauge | ratio (0~1) | 60 |
service_gpu_sm_util | 服務SM(流式多處理器)利用率 | service | GPU | Gauge | ratio (0~1) | 60 |
service_gpu_dram_active | 服務裝置記憶體介面活躍發送或接收資料的比率 | service | GPU | Gauge | ratio (0~1) | 60 |
service_gpu_tensortflops_used | 服務Tensor管道使用的Tflops | service | GPU | Gauge | count | 60 |
service_gpu_memory_bandwidth_used | 服務記憶體頻寬使用量 | service | GPU | Gauge | bytes/second | 60 |
service_gpu_sm_clock | 服務SM時鐘頻率 | service | GPU | Gauge | MHz | 60 |
service_gpu_sm_occupancy | 服務SM上駐留的Warp線程數量比例 | service | GPU | Gauge | ratio (0~1) | 60 |
service_gpu_fp32tflops_used | 服務FP32管道使用的Tflops | service | GPU | Gauge | count | 60 |
service_gpu_fp16tflops_used | 服務FP16管道使用的Tflops | service | GPU | Gauge | count | 60 |
service_gpu_pipe_fp32_active | 服務FP32管道活躍周期比例 | service | GPU | Gauge | ratio (0~1) | 60 |
service_gpu_pipe_fp16_active | 服務FP16管道活躍周期比例 | service | GPU | Gauge | ratio (0~1) | 60 |
service_gpu_pipe_tensor_active | 服務Tensor管道活躍周期比例 | service | GPU | Gauge | ratio (0~1) | 60 |
service_gpu_power_usage | 服務GPU功耗 | service | GPU | Gauge | watts | 60 |
service_accelerator_power_usage | 服務加速器功耗 | service | GPU | Gauge | milliwatts | 60 |
service_gpu_mem_copy_util | 服務記憶體複製利用率 | service | GPU | Gauge | % | 60 |
service_gpu_health_count | 服務GPU健康狀態計數的總和 | service | GPU | Gauge | count | 60 |
service_gpu_lost_card_num | 服務VM中丟失顯卡數量 | service | GPU | Gauge | count | 60 |
service_gpu_driver_hang | 服務驅動掛起次數 | service | GPU | Gauge | count | 60 |
service_gpu_profile_status | 服務Amperf效能分析狀態 | service | GPU | Gauge | count | 60 |
service_gpu_uncorrectable_ecc | 服務無法糾正的ECC錯誤數量 | service | GPU | Gauge | count | 60 |
service_gpu_xid_cnt | 服務Xid錯誤數 | service | GPU | Gauge | count | 60 |
service_gpu_fatal_xid_error | 服務致命Xid錯誤數 | service | GPU | Gauge | count | 60 |
service_gpu_kernel_err_cnt | 服務來自核心日誌的非Xid錯誤數 | service | GPU | Gauge | count | 60 |
service_tcp_connections | 服務TCP串連數 | service | Network | Gauge | count | 60 |
service_gateway_requests | llm-gateway:gateway當前接受到的請求數 | service | Request | Gauge | count | 60 |
service_gateway_pending_requests | llm-gateway:當前緩衝在gateway中的請求數 | service | Request | Gauge | count | 60 |
service_llm_ttft_max | llm-gateway: llm流式請求的首包延時的最大值 | service | Request | Gauge | time | 60 |
service_llm_ttft_min | llm-gateway: llm流式請求的首包延時的最小值 | service | Request | Gauge | time | 60 |
service_llm_ttft_mean | llm-gateway: llm流式請求的首包延時的平均值 | service | Request | Gauge | time | 60 |
service_llm_ttft_percent | llm-gateway: llm流式請求的首包延時的分位值 | service | Request | Gauge | time | 60 |
service_llm_tpot_max | llm-gateway: llm流式請求的每包延時的最大值 | service | Request | Gauge | time | 60 |
service_llm_tpot_min | llm-gateway: llm流式請求的每包延時的最小值 | service | Request | Gauge | time | 60 |
service_llm_tpot_mean | llm-gateway: llm流式請求的每包延時的平均值 | service | Request | Gauge | time | 60 |
service_llm_tpot_percent | llm-gateway: llm流式請求的每包延時的分位值 | service | Request | Gauge | time | 60 |
service_endpoint_llm_waiting_requests | llm-gateway: llm推理引擎內部正在排隊等待的請求數 | service | Request | Gauge | count | 60 |
service_endpoint_llm_running_requests | llm-gateway: llm推理引擎內部正在運行處理的請求數 | service | Request | Gauge | count | 60 |
service_endpoint_llm_gpu_cache_usage | llm-gateway: llm推理引擎gpu kv-cache的使用率 | service | Request | Gauge | count | 60 |
service_endpoint_llm_tps_in | llm-gateway: llm引擎每秒的輸入的token數 | service | Request | Gauge | count | 60 |
service_endpoint_llm_tps_out | llm-gateway: llm引擎每秒輸出的token數 | service | Request | Gauge | count | 60 |
resource_instance_cpu_util | 資源群組執行個體CPU使用率 | instance_id | Resource Instance | Gauge | % | 60 |
resource_instance_memory_total | 資源群組執行個體記憶體總量 | instance_id | Resource Instance | Gauge | byte | 60 |
resource_instance_memory_used | 資源群組執行個體記憶體使用量量 | instance_id | Resource Instance | Gauge | byte | 60 |
resource_instance_memory_util | 資源群組執行個體記憶體使用量率 | instance_id | Resource Instance | Gauge | % | 60 |
resource_instance_memory_cache | 資源群組執行個體記憶體緩衝使用量 | instance_id | Resource Instance | Gauge | byte | 60 |
resource_instance_memory_free | 資源群組執行個體記憶體空餘量 | instance_id | Resource Instance | Gauge | byte | 60 |
resource_instance_traffic_in | 資源群組執行個體入流量 | instance_id | Resource Instance | Gauge | bytes/second | 60 |
resource_instance_traffic_out | 資源群組執行個體出流量 | instance_id | Resource Instance | Gauge | bytes/second | 60 |
resource_instance_disk_used | 資源群組執行個體硬碟使用量 | instance_id | Resource Instance | Gauge | byte | 60 |
resource_instance_disk_total | 資源群組執行個體硬碟總量 | instance_id | Resource Instance | Gauge | byte | 60 |
resource_instance_disk_util | 資源群組執行個體硬碟使用率 | instance_id | Resource Instance | Gauge | byte | 60 |
resource_instance_tcp_established | 資源群組執行個體TCP穩定連結數 | instance_id | Resource Instance | Gauge | count | 60 |
resource_instance_tcp_time_wait | 資源群組執行個體TCP等待連結數 | instance_id | Resource Instance | Gauge | count | 60 |
resource_instance_gpu_util | 資源群組執行個體GPU使用率 | instance_id | Resource Instance | Gauge | % | 60 |
resource_instance_gpu_memory_usage | 資源群組執行個體顯存使用量 | instance_id | Resource Instance | Gauge | MiB | 60 |
resource_instance_gpu_memory_total | 資源群組執行個體顯存總量 | instance_id | Resource Instance | Gauge | MiB | 60 |
resource_instance_gpu_memory_util | 資源群組執行個體顯存使用率 | instance_id | Resource Instance | Gauge | % | 60 |
resource_cpu_util | 資源群組CPU使用率 | resource | Resource | Gauge | % | 60 |
resource_memory_total | 資源群組記憶體總量 | resource | Resource | Gauge | byte | 60 |
resource_memory_used | 資源群組記憶體使用量量 | resource | Resource | Gauge | byte | 60 |
resource_memory_util | 資源群組記憶體使用量率 | resource | Resource | Gauge | % | 60 |
resource_memory_cache | 資源群組記憶體緩衝使用量 | resource | Resource | Gauge | byte | 60 |
resource_memory_free | 資源群組記憶體空餘量 | resource | Resource | Gauge | byte | 60 |
resource_traffic_in | 資源群組入流量 | resource | Resource | Gauge | bytes/second | 60 |
resource_traffic_out | 資源群組出流量 | resource | Resource | Gauge | bytes/second | 60 |
resource_disk_used | 資源群組硬碟使用量 | resource | Resource | Gauge | byte | 60 |
resource_disk_total | 資源群組硬碟總量 | resource | Resource | Gauge | byte | 60 |
resource_disk_util | 資源群組硬碟使用率 | resource | Resource | Gauge | byte | 60 |
resource_tcp_established | 資源群組TCP穩定連結數 | resource | Resource | Gauge | count | 60 |
resource_tcp_time_wait | 資源群組TCP等待連結數 | resource | Resource | Gauge | count | 60 |
resource_gpu_util | 資源群組GPU使用率 | resource | Resource | Gauge | % | 60 |
resource_gpu_memory_usage | 資源群組顯存使用量 | resource | Resource | Gauge | MiB | 60 |
resource_gpu_memory_total | 資源群組顯存總量 | resource | Resource | Gauge | MiB | 60 |
resource_gpu_memory_util | 資源群組顯存使用率 | resource | Resource | Gauge | % | 60 |