Customize EAS observability dashboards and alerts using ARMS - Platform For AI

Créez des tableaux de bord d'observabilité personnalisés pour les services PAI-EAS et configurez des règles d'alerte flexibles pour une surveillance complète des métriques EAS avec Application Real-Time Monitoring Service (ARMS).

Informations de facturation

L'utilisation d'ARMS engendre des frais. Pour plus de détails sur la facturation, consultez la rubrique Facturation d'ARMS.

Ingestion des métriques de surveillance EAS

Connectez-vous à la ou à la console ARMS. Dans le volet de navigation de gauche, cliquez sur Integration Center.
Sur la page Integration Center, cliquez sur l'onglet AI, puis sur Alibaba Cloud PAI EAS Model Online Service.
Dans l'onglet Start Integration du panneau qui s'affiche, sélectionnez une région pour le stockage des données, saisissez un nom d'intégration, puis cliquez sur OK.

Le panneau se ferme après le clic sur OK. L'intégration s'exécute en arrière-plan et prend environ 1 à 2 minutes.

Important
Les métriques de surveillance avancées incluent les métriques des frameworks d'inférence de grands modèles (vLLM ou SGLang), les métriques de puissance de calcul GPU, les métriques de la passerelle d'accès PAI EAS, les statistiques par service et par locataire, ainsi que les métriques personnalisées des applications d'inférence. Les régions prises en charge sont Pékin, Shanghai, Hangzhou, Ulanqab, Singapour et Heyuan. Pour activer d'autres régions, soumettez un ticket. Activez l'option Advanced monitoring metrics.

Lorsque vous activez l'option Advanced monitoring metrics, toutes les métriques de service et de groupe de ressources EAS sont incluses. Si vous utilisez des métriques de surveillance personnalisées, elles figurent également dans les métriques de surveillance avancées, avec le préfixe custom_ ajouté à leur nom.
Pour vérifier la réussite de l'intégration, cliquez sur Integration Management et assurez-vous que votre environnement apparaît dans la liste des environnements intégrés.

Afficher les données de métriques EAS ingérées

Dans le volet de navigation de gauche, cliquez sur Integration Management. Sous l'onglet Integrated Addons, cliquez sur la carte Alibaba Cloud PAI EAS Model Online Service.

Un panneau de détails s'ouvre sur la droite. Sous l'onglet Environment List, consultez les environnements intégrés (tels que cn-hangzhou, cn-beijing, cn-shanghai) et le nombre de composants. Cliquez sur view details pour accéder à la page des métriques de l'environnement sélectionné.

Dans la colonne Actions de l'environnement cible, cliquez sur View Details sous l'onglet Metrics Explorer pour afficher tous les détails des métriques du service EAS.

Méthode d'affichage	Description
Afficher les détails des métriques par filtrage	Les noms des métriques Cloud Monitor utilisent le préfixe AliyunLearn_eas, correspondant aux définitions des métriques EAS dans Cloud Monitor, avec des informations d'étiquette plus riches. Pour les métriques de surveillance avancées, consultez les métriques de surveillance avancées EAS. Sous l'onglet Metric Explorer, saisissez un mot-clé de métrique (tel que `AliyunLearn_eas_cpu_core_usage`) dans la zone de recherche Metric, sélectionnez une métrique cible dans la liste déroulante, définissez les conditions de filtre à l'aide de la liste déroulante Labels, puis cliquez sur Run query pour afficher le graphique linéaire.
Utiliser des expressions PromQL pour interroger des métriques plus riches.	Par exemple, pour interroger la somme des QPS sur tous les services, basculez vers Code, saisissez `sum(AliyunLearn_eas_qps_total)`, puis cliquez sur Run query. Le graphique affiche les tendances du QPS total pour tous les services EAS de votre région actuelle. Pour plus d'informations sur la syntaxe du langage de requête Prometheus (PromQL), consultez la section Interroger et analyser les données de séries temporelles. Vous pouvez également cliquer sur le bouton de l'assistant IA situé à côté de la zone de saisie pour apprendre la syntaxe PromQL.

Personnaliser les tableaux de bord d'observabilité

Consultez les détails du tableau de bord Grafana.

Les tableaux de bord d'observabilité ARMS utilisent Grafana et incluent un tableau de bord par défaut.
1. Accédez à la page des détails de l'environnement du service cloud. Pour les étapes spécifiques, consultez la section Étape 2 : Afficher les tableaux de bord de surveillance.
2. Sous l'onglet Component Management, dans la section Addon Type, sélectionnez Alibaba Cloud PAI EAS Online Prediction Service. Cliquez ensuite sur Dashboards et sur le nom du tableau de bord pour afficher le tableau de bord Grafana intégré.
Ajoutez un panneau QPS global au tableau de bord Grafana par défaut.
1. Sur la page des détails du tableau de bord, cliquez sur le bouton Ajouter un panneau dans le coin supérieur droit. Dans le nouveau panneau Add panel, cliquez sur Add a new panel.
2. Sur la page Edit Panel, changez le type de graphique en Stat sur le côté droit.
3. Dans le coin inférieur gauche de la page, remplacez Data source par ${datasource}. Dans la zone de texte Metrics browser, saisissez l'instruction de requête PromQL sum(AliyunLearn_eas_eas_qps_total), puis cliquez sur Run queries.
4. Ajustez les seuils pour attribuer différentes couleurs d'affichage selon les valeurs. Une fois la configuration terminée, la page affiche un aperçu du graphique. Cliquez sur Apply pour enregistrer vos paramètres.

Pour plus d'informations sur Grafana, consultez la rubrique Managed Service for Grafana.

Personnaliser les alertes de surveillance

Suivez les instructions de la section Étape 2 : Afficher les tableaux de bord de surveillance pour accéder à la page des détails de l'environnement du service cloud. Sous l'onglet Alert rules, consultez les modèles de règles d'alerte par défaut. Dans la console ARMS, sur la page Provisioning, sélectionnez l'environnement de la région du service cloud correspondant. Dans la liste Component Type à gauche, sélectionnez Alibaba Cloud PAI EAS Online Prediction Service, puis cliquez sur l'onglet Alert Rules. Les règles d'alerte P2 par défaut suivantes sont préconfigurées, toutes initialement à l'état Stopped, avec le groupe d'alertes cloud-learn_eas-Cloud-Default :

Règle d'alerte (nom affiché dans la console ARMS)	Nom de la métrique PromQL
Alibaba Cloud PAI EAS GPU Memory Utilization Alert	`AliyunLearn_eas_eas_gpu_memory_util`
Alibaba Cloud PAI EAS 5XX Response Ratio Alert	`AliyunLearn_eas_eas_rps_status_5xx_ratio`
Alibaba Cloud PAI EAS 4XX Response Ratio Alert	`AliyunLearn_eas_eas_rps_status_4xx_ratio`
Alibaba Cloud PAI EAS 2XX Response Ratio Alert	`AliyunLearn_eas_eas_rps_status_2xx_ratio`
Alibaba Cloud PAI EAS Memory Utilization Percentage Alert	`AliyunLearn_eas_eas_memory_util_per`
Alibaba Cloud PAI EAS Memory Utilization Alert	`AliyunLearn_eas_eas_memory_util`

Lorsque vous interrogez ces métriques dans Metrics Explorer, utilisez le nom complet de la métrique PromQL avec le préfixe AliyunLearn_eas_eas_. Par exemple, pour interroger l'utilisation de la mémoire GPU, saisissez AliyunLearn_eas_eas_gpu_memory_util{} > 80.

Pour configurer des règles d'alerte personnalisées :

Connectez-vous à la ou à la console ARMS. Dans le volet de navigation de gauche, choisissez Managed Service for Prometheus > Prometheus Alert Rules, puis cliquez sur Create Prometheus Alert Rule.

Sur la page Create Prometheus Alert Rule, configurez les paramètres clés suivants. Pour plus de détails sur les autres paramètres, consultez la rubrique Créer des règles d'alerte Prometheus.

Paramètre	Description
Check Type	Sélectionnez Custom PromQL.
Custom PromQL statement	Saisissez `sum(AliyunLearn_eas_eas_qps_total) > 20`.
Alert Message	Informations d'alerte reçues par les destinataires.
Alert Notification	Définissez les destinataires des notifications.

Cliquez sur Completed.

Votre règle d'alerte apparaît sur la page Prometheus Alert Rules. Lorsque le QPS global total de tous les services dépasse 20, les destinataires configurés reçoivent une alerte.

Annexe : Métriques de surveillance avancées EAS

Remarque

Les métriques suivantes n'apparaissent que lorsque les métriques de surveillance avancées ARMS sont activées.

Métrique	Description	Étiquettes (Dimensions)	Catégorie	Type	Unité	Période (secondes)
instance_cpu_count	Nombre de CPU par instance de service	instance,resource_type	CPU	Gauge	count	60
instance_gpu_count	Nombre de GPU par instance de service	instance,resource_type	GPU	Gauge	count	60
instance_cpu_usage	Utilisation du CPU par instance de service	instance	CPU	Gauge	core	60
instance_user_cpu_usage	Utilisation du CPU par les processus utilisateur pour chaque instance de service	instance	CPU	Gauge	core	60
instance_system_cpu_usage	Utilisation du CPU par les processus système pour chaque instance de service	instance	CPU	Gauge	core	60
instance_cpu_util	Taux d'utilisation du CPU par instance de service	instance	CPU	Gauge	%	60
instance_memory_rss_usage	Utilisation de la mémoire par instance de service	instance	Mémoire	Gauge	byte	60
instance_memory_cache_usage	Utilisation du cache mémoire par instance de service	instance	Mémoire	Gauge	byte	60
instance_memory_total	Mémoire totale par instance de service	instance	Mémoire	Gauge	byte	60
instance_memory_util	Taux d'utilisation de la mémoire par instance de service	instance	Mémoire	Gauge	%	60
instance_response	Nombre de requêtes par instance de service	instance	Requête	Counter	count	60
instance_gpu_util	Taux d'utilisation du GPU par instance de service	instance	GPU	Gauge	%	60
instance_gpu_memory_usage	Utilisation de la mémoire GPU par instance de service	instance	GPU	Gauge	MiB	60
instance_gpu_memory_total	Mémoire GPU totale par instance de service	instance	GPU	Gauge	MiB	60
instance_gpu_memory_util	Taux d'utilisation de la mémoire GPU par instance de service	instance	GPU	Gauge	MiB	60
instance_gpu_memory_bandwidth_limit	Limite de bande passante de la mémoire GPU par instance de service	instance	GPU	Gauge	bytes/second	60
instance_gpu_temperature	Température du GPU par instance de service	instance	GPU	Gauge	°C	60
instance_gpu_slow_temperature	Température de ralentissement du GPU par instance de service	instance	GPU	Gauge	°C	60
instance_gpu_shut_temperature	Température d'arrêt du GPU par instance de service	instance	GPU	Gauge	°C	60
instance_gpu_nvswitch_error	Informations sur les erreurs fatales NVSwitch par instance de service	instance	GPU	Gauge	count	60 s
instance_gpu_nvswitch_non_fatal_error	Informations sur les erreurs non fatales NVSwitch par instance de service	instance	GPU	Gauge	count	60
instance_gpu_ecc_total_vol_sbe	Total des erreurs ECC volatiles à bit unique par instance de service	instance	GPU	Counter	count	60
instance_gpu_ecc_total_vol_dbe	Total des erreurs ECC volatiles à double bit par instance de service	instance	GPU	Counter	count	60
instance_gpu_ecc_total_agg_sbe	Total des erreurs ECC agrégées (persistantes) à bit unique par instance de service	instance	GPU	Counter	count	60
instance_gpu_ecc_total_agg_dbe	Total des erreurs ECC agrégées (persistantes) à double bit par instance de service	instance	GPU	Counter	count	60
instance_gpu_remap_fail	Nombre d'échecs de remappage de lignes par instance de service	instance	GPU	Gauge	count	60
instance_gpu_remap_pending	Nombre de remappages de lignes en attente par instance de service	instance	GPU	Gauge	count	60
instance_gpu_pcie_replay_counter	Compteur de rejeux PCIe par instance de service	instance	GPU	Gauge	count	60
instance_gpu_pcie_transmit_measure_by_dcgm	Taux de transmission PCIe mesuré par DCGM par instance de service	instance	GPU	Gauge	bytes/second	60
instance_gpu_pcie_receive_measure_by_dcgm	Taux de réception PCIe mesuré par DCGM par instance de service	instance	GPU	Gauge	bytes/second	60
instance_gpu_graphics_engine_util	Taux d'utilisation du moteur graphique par instance de service	instance	GPU	Gauge	ratio (0~1)	60
instance_gpu_sm_util	Taux d'utilisation des SM (multiprocesseurs de streaming) par instance de service	instance	GPU	Gauge	ratio (0~1)	60
instance_gpu_dram_active	Ratio de transmission ou réception active de données sur l'interface mémoire du dispositif par instance de service	instance	GPU	Gauge	ratio (0~1)	60
instance_gpu_tensortflops_used	Tflops utilisés par le pipeline Tensor par instance de service	instance	GPU	Gauge	count	60
instance_gpu_memory_bandwidth_used	Utilisation de la bande passante mémoire par instance de service	instance	GPU	Gauge	bytes/second	60
instance_gpu_sm_clock	Fréquence d'horloge SM par instance de service	instance	GPU	Gauge	MHz	60
instance_gpu_sm_occupancy	Ratio des threads Warp résidents sur SM par instance de service	instance	GPU	Gauge	ratio (0~1)	60
instance_gpu_fp32tflops_used	Tflops utilisés par le pipeline FP32 par instance de service	instance	GPU	Gauge	count	60
instance_gpu_fp16tflops_used	Tflops utilisés par le pipeline FP16 par instance de service	instance	GPU	Gauge	count	60
instance_gpu_pipe_fp32_active	Ratio de cycles actifs du pipeline FP32 par instance de service	instance	GPU	Gauge	ratio (0~1)	60
instance_gpu_pipe_fp16_active	Ratio de cycles actifs du pipeline FP16 par instance de service	instance	GPU	Gauge	ratio (0~1)	60 s
instance_gpu_pipe_tensor_active	Ratio de cycles actifs du pipeline Tensor par instance de service	instance	GPU	Gauge	ratio (0~1)	60
instance_gpu_power_usage	Consommation électrique du GPU par instance de service	instance	GPU	Gauge	watts	60
instance_accelerator_power_usage	Consommation électrique de l'accélérateur par instance de service	instance	GPU	Gauge	milliwatts	60
instance_gpu_mem_copy_util	Taux d'utilisation de la copie mémoire par instance de service	instance	GPU	Gauge	%	60
instance_gpu_health_count	Nombre total d'états de santé du GPU par instance de service	instance	GPU	Gauge	count	60
instance_gpu_lost_card_num	Nombre de GPU perdus dans la VM par instance de service	instance	GPU	Gauge	count	60
instance_gpu_driver_hang	Nombre de blocages du pilote par instance de service	instance	GPU	Gauge	count	60
instance_gpu_profile_status	État de l'analyse de performance Amperf par instance de service	instance	GPU	Gauge	count	60
instance_gpu_uncorrectable_ecc	Nombre d'erreurs ECC non corrigeables par instance de service	instance	GPU	Gauge	count	60
instance_gpu_xid_cnt	Nombre d'erreurs Xid par instance de service	instance	GPU	Gauge	count	60
instance_gpu_fatal_xid_error	Nombre d'erreurs Xid fatales par instance de service	instance	GPU	Gauge	count	60
instance_gpu_kernel_err_cnt	Nombre d'erreurs non Xid issues des journaux du noyau par instance de service	instance	GPU	Gauge	count	60
instance_qps	Requêtes par seconde par instance de service	instance	Requête	Gauge	count	60
instance_traffic	Trafic par instance de service	instance	Requête	Gauge	bps	60
instance_avg_latency	Temps de réponse moyen des requêtes par instance de service	instance	Requête	Gauge	ms	60
instance_tpxx_latency	Temps de réponse des requêtes TOPXX par instance de service	instance	Requête	Gauge	ms	60
instance_traffic_in	Trafic entrant par instance de service	instance	Requête	Gauge	bps	60
instance_traffic_out	Trafic sortant par instance de service	instance	Requête	Gauge	bps	60
instance_tcp_connections	Nombre de connexions TCP par instance de service	instance	Requête	Gauge	count	60
service_replicas	Nombre d'instances de service	service	Méta	Gauge	count	60
service_pending_replicas	Nombre d'instances de service en attente	service	Méta	Gauge	count	60
service_available_replicas	Nombre d'instances de service en cours d'exécution	service	Méta	Gauge	count	60
service_replicas_with_resource_type	Nombre d'instances de service (avec étiquette de type de ressource)	service	Méta	Gauge	count	60
service_cpu_count	Nombre total de cœurs CPU utilisés par le service	service	CPU	Gauge	core	60
service_cpu_count_with_resource_type	Nombre total de cœurs CPU utilisés par le service (avec étiquette de type de ressource)	service	CPU	Gauge	core	60
service_gpu_count_with_resource_type	Nombre total de GPU utilisés par le service (avec étiquette de type de ressource)	service	GPU	Gauge	count	60
service_rps_status_2xx	Nombre de requêtes avec réponse 2XX pour le service	service	Requête	Gauge	count	60
service_rps_status_4xx	Nombre de requêtes avec réponse 4XX pour le service	service	Requête	Gauge	count	60
service_rps_status_5xx	Nombre de requêtes avec réponse 5XX pour le service	service	Requête	Gauge	count	60
service_rps_status_2xx_ratio	Ratio de requêtes avec réponse 2XX pour le service	service	Requête	Gauge	%	60
service_rps_status_4xx_ratio	Ratio de requêtes avec réponse 4XX pour le service	service	Requête	Gauge	%	60
service_rps_status_5xx_ratio	Ratio de requêtes avec réponse 5XX pour le service	service	Requête	Gauge	%	60
service_qps	Requêtes par seconde pour le service	service	Requête	Gauge	count	60
service_avg_latency	Temps de réponse moyen des requêtes pour le service	service	Requête	Gauge	ms	60
service_tpxx_latency	Temps de réponse des requêtes TOPXX pour le service	service	Requête	Gauge	ms	60
service_tp100_latency	Temps de réponse des requêtes TOP100 pour le service	service	Requête	Gauge	ms	60
service_traffic_in	Trafic entrant pour le service	service	Réseau	Gauge	bps	60
service_traffic_out	Trafic sortant pour le service	service	Réseau	Gauge		60
service_cpu_usage	Utilisation du CPU pour le service	service	CPU	Gauge	core	60
service_user_cpu_usage	Utilisation du CPU par les processus utilisateur pour le service	service	CPU	Gauge	core	60
service_system_cpu_usage	Utilisation du CPU par les processus système pour le service	service	CPU	Gauge	core	60
service_cpu_util	Taux d'utilisation du CPU pour le service	service	CPU	Gauge	%	60
service_memory_rss_usage	Utilisation de la mémoire pour le service	service	Mémoire	Gauge	byte	60
service_memory_cache_usage	Utilisation du cache mémoire pour le service	service	Mémoire	Gauge	byte	60
service_memory_total	Mémoire totale pour le service	service	Mémoire	Gauge	byte	60
service_memory_util	Taux d'utilisation de la mémoire pour le service	service	Mémoire	Gauge	%	60
service_gpu_util	Taux d'utilisation du GPU pour le service	service	GPU	Gauge	%	60
service_gpu_memory_usage	Utilisation de la mémoire GPU pour le service	service	GPU	Gauge	MiB	60
service_gpu_memory_total	Mémoire GPU totale pour le service	service	GPU	Gauge	MiB	60
service_gpu_memory_util	Taux d'utilisation de la mémoire GPU pour le service	service	GPU	Gauge	MiB	60
service_gpu_memory_bandwidth_limit	Limite de bande passante de la mémoire GPU pour le service	service	GPU	Gauge	bytes/second	60
service_gpu_temperature	Température du GPU pour le service	service	GPU	Gauge	°C	60
service_gpu_slow_temperature	Température de ralentissement du GPU pour le service	service	GPU	Gauge	°C	60
service_gpu_shut_temperature	Température d'arrêt du GPU pour le service	service	GPU	Gauge	°C	60
service_gpu_nvswitch_error	Informations sur les erreurs fatales NVSwitch pour le service	service	GPU	Gauge	count	60
service_gpu_nvswitch_non_fatal_error	Informations sur les erreurs non fatales NVSwitch pour le service	service	GPU	Gauge	count	60
service_gpu_ecc_total_vol_sbe	Total des erreurs ECC volatiles à bit unique pour le service	service	GPU	Counter	count	60
service_gpu_ecc_total_vol_dbe	Total des erreurs ECC volatiles à double bit pour le service	service	GPU	Counter	count	60
service_gpu_ecc_total_agg_sbe	Total des erreurs ECC agrégées (persistantes) à bit unique pour le service	service	GPU	Counter	count	60
service_gpu_ecc_total_agg_dbe	Total des erreurs ECC agrégées (persistantes) à double bit pour le service	service	GPU	Counter	count	60
service_gpu_remap_fail	Nombre d'échecs de remappage de lignes pour le service	service	GPU	Gauge	count	60
service_gpu_remap_pending	Nombre de remappages de lignes en attente pour le service	service	GPU	Gauge	count	60
service_gpu_pcie_replay_counter	Compteur de rejeux PCIe pour le service	service	GPU	Gauge	count	60
service_gpu_pcie_transmit_measure_by_dcgm	Taux de transmission PCIe mesuré par DCGM pour le service	service	GPU	Gauge	bytes/second	60
service_gpu_pcie_receive_measure_by_dcgm	Taux de réception PCIe mesuré par DCGM pour le service	service	GPU	Gauge	bytes/second	60
service_gpu_graphics_engine_util	Taux d'utilisation du moteur graphique pour le service	service	GPU	Gauge	ratio (0~1)	60
service_gpu_sm_util	Taux d'utilisation des SM (multiprocesseurs de streaming) pour le service	service	GPU	Gauge	ratio (0~1)	60
service_gpu_dram_active	Ratio de transmission ou réception active de données sur l'interface mémoire du dispositif pour le service	service	GPU	Gauge	ratio (0~1)	60
service_gpu_tensortflops_used	Tflops utilisés par le pipeline Tensor pour le service	service	GPU	Gauge	count	60
service_gpu_memory_bandwidth_used	Utilisation de la bande passante mémoire pour le service	service	GPU	Gauge	bytes/second	60
service_gpu_sm_clock	Fréquence d'horloge SM pour le service	service	GPU	Gauge	MHz	60
service_gpu_sm_occupancy	Ratio des threads Warp résidents sur SM pour le service	service	GPU	Gauge	ratio (0~1)	60
service_gpu_fp32tflops_used	Tflops utilisés par le pipeline FP32 pour le service	service	GPU	Gauge	count	60
service_gpu_fp16tflops_used	Tflops utilisés par le pipeline FP16 pour le service	service	GPU	Gauge	count	60
service_gpu_pipe_fp32_active	Ratio de cycles actifs du pipeline FP32 pour le service	service	GPU	Gauge	ratio (0~1)	60
service_gpu_pipe_fp16_active	Ratio de cycles actifs du pipeline FP16 pour le service	service	GPU	Gauge	ratio (0~1)	60
service_gpu_pipe_tensor_active	Ratio de cycles actifs du pipeline Tensor pour le service	service	GPU	Gauge	ratio (0~1)	60
service_gpu_power_usage	Consommation électrique du GPU pour le service	service	GPU	Gauge	watts	60
service_accelerator_power_usage	Consommation électrique de l'accélérateur pour le service	service	GPU	Gauge	milliwatts	60
service_gpu_mem_copy_util	Taux d'utilisation de la copie mémoire pour le service	service	GPU	Gauge	%	60
service_gpu_health_count	Nombre total d'états de santé du GPU pour le service	service	GPU	Gauge	count	60
service_gpu_lost_card_num	Nombre de GPU perdus dans la VM pour le service	service	GPU	Gauge	count	60
service_gpu_driver_hang	Nombre de suspensions du pilote de service	service	GPU	Gauge	count	60
service_gpu_profile_status	État de l'analyse de performance Amperf pour le service	service	GPU	Gauge	count	60
service_gpu_uncorrectable_ecc	Nombre d'erreurs ECC non corrigeables pour le service	service	GPU	Gauge	count	60
service_gpu_xid_cnt	Nombre d'erreurs Xid pour le service	service	GPU	Gauge	count	60
service_gpu_fatal_xid_error	Nombre d'erreurs Xid fatales pour le service	service	GPU	Gauge	count	60
service_gpu_kernel_err_cnt	Nombre d'erreurs non Xid issues des journaux du noyau pour le service	service	GPU	Gauge	count	60
service_tcp_connections	Nombre de connexions TCP pour le service	service	Réseau	Gauge	count	60
service_gateway_requests	llm-gateway : requêtes actuelles reçues par la passerelle	service	Requête	Gauge	count	60
service_gateway_pending_requests	llm-gateway : requêtes actuellement mises en cache dans la passerelle	service	Requête	Gauge	count	60
service_llm_ttft_max	llm-gateway : temps maximal jusqu'au premier token pour les requêtes de streaming LLM	service	Requête	Gauge	time	60
service_llm_ttft_min	llm-gateway : temps minimal jusqu'au premier token pour les requêtes de streaming LLM	service	Requête	Gauge	time	60
service_llm_ttft_mean	llm-gateway : temps moyen jusqu'au premier token pour les requêtes de streaming LLM	service	Requête	Gauge	time	60
service_llm_ttft_percent	llm-gateway : temps percentile jusqu'au premier token pour les requêtes de streaming LLM	service	Requête	Gauge	time	60
service_llm_tpot_max	llm-gateway : temps maximal par token de sortie pour les requêtes de streaming LLM	service	Requête	Gauge	time	60
service_llm_tpot_min	llm-gateway : temps minimal par token de sortie pour les requêtes de streaming LLM	service	Requête	Gauge	time	60
service_llm_tpot_mean	llm-gateway : temps moyen par token de sortie pour les requêtes de streaming LLM	service	Requête	Gauge	time	60
service_llm_tpot_percent	llm-gateway : temps percentile par token de sortie pour les requêtes de streaming LLM	service	Requête	Gauge	time	60
service_endpoint_llm_waiting_requests	llm-gateway : nombre de requêtes en file d'attente dans le moteur d'inférence LLM	service	Requête	Gauge	count	60
service_endpoint_llm_running_requests	llm-gateway : nombre de requêtes en cours de traitement dans le moteur d'inférence LLM	service	Requête	Gauge	count	60
service_endpoint_llm_gpu_cache_usage	llm-gateway : taux d'utilisation du cache KV GPU dans le moteur d'inférence LLM	service	Requête	Gauge	count	60
service_endpoint_llm_tps_in	llm-gateway : tokens d'entrée par seconde dans le moteur LLM	service	Requête	Gauge	count	60
service_endpoint_llm_tps_out	llm-gateway : tokens de sortie par seconde dans le moteur LLM	service	Requête	Gauge	count	60
resource_instance_cpu_util	Taux d'utilisation du CPU par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	%	60
resource_instance_memory_total	Mémoire totale par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	byte	60
resource_instance_memory_used	Utilisation de la mémoire par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	byte	60
resource_instance_memory_util	Taux d'utilisation de la mémoire par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	%	60
resource_instance_memory_cache	Utilisation du cache mémoire par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	byte	60
resource_instance_memory_free	Mémoire libre par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	byte	60
resource_instance_traffic_in	Trafic entrant par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	bytes/second	60
resource_instance_traffic_out	Trafic sortant par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	bytes/second	60
resource_instance_disk_used	Utilisation du disque par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	byte	60
resource_instance_disk_total	Disque total par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	byte	60
resource_instance_disk_util	Taux d'utilisation du disque par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	byte	60
resource_instance_tcp_established	Connexions TCP établies par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	count	60
resource_instance_tcp_time_wait	Connexions TCP TIME_WAIT par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	count	60
resource_instance_gpu_util	Taux d'utilisation du GPU par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	%	60
resource_instance_gpu_memory_usage	Utilisation de la mémoire GPU par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	MiB	60
resource_instance_gpu_memory_total	Mémoire GPU totale par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	MiB	60
resource_instance_gpu_memory_util	Taux d'utilisation de la mémoire GPU par instance de groupe de ressources	instance_id	Instance de ressource	Gauge	%	60
resource_cpu_util	Taux d'utilisation du CPU par groupe de ressources	resource	Ressource	Gauge	%	60
resource_memory_total	Mémoire totale par groupe de ressources	resource	Ressource	Gauge	byte	60
resource_memory_used	Utilisation de la mémoire par groupe de ressources	resource	Ressource	Gauge	byte	60
resource_memory_util	Taux d'utilisation de la mémoire par groupe de ressources	resource	Ressource	Gauge	%	60
resource_memory_cache	Utilisation du cache mémoire par groupe de ressources	resource	Ressource	Gauge	byte	60
resource_memory_free	Mémoire libre par groupe de ressources	resource	Ressource	Gauge	byte	60
resource_traffic_in	Trafic entrant par groupe de ressources	resource	Ressource	Gauge	bytes/second	60
resource_traffic_out	Trafic sortant par groupe de ressources	resource	Ressource	Gauge	bytes/second	60
resource_disk_used	Utilisation du disque par groupe de ressources	resource	Ressource	Gauge	byte	60
resource_disk_total	Disque total par groupe de ressources	resource	Ressource	Gauge	byte	60
resource_disk_util	Taux d'utilisation du disque par groupe de ressources	resource	Ressource	Gauge	byte	60
resource_tcp_established	Connexions TCP établies par groupe de ressources	resource	Ressource	Gauge	count	60
resource_tcp_time_wait	Connexions TCP TIME_WAIT par groupe de ressources	resource	Ressource	Gauge	count	60
resource_gpu_util	Taux d'utilisation du GPU par groupe de ressources	resource	Ressource	Gauge	%	60
resource_gpu_memory_usage	Utilisation de la mémoire GPU par groupe de ressources	resource	Ressource	Gauge	MiB	60
resource_gpu_memory_total	Mémoire GPU totale par groupe de ressources	resource	Ressource	Gauge	MiB	60
resource_gpu_memory_util	Taux d'utilisation de la mémoire GPU par groupe de ressources	resource	Ressource	Gauge	%	60