Le tableau de bord de surveillance EAS offre une vue unifiée des performances en temps réel de tous les services EAS déployés dans une région, sans qu'il soit nécessaire de consulter chaque service individuellement.
Les données du tableau de bord sont limitées à la région et agrègent les métriques de tous les services présents dans tous les espaces de travail de la région actuelle associée à votre compte Alibaba Cloud. Le changement d'espace de travail modifie uniquement le contexte de la console et n'affecte pas la portée des données affichées sur le tableau de bord.
Cas d'utilisation
Vue d'ensemble des services : évaluez l'état de santé de tous les services EAS de la région actuelle en un coup d'œil.
Surveillance des performances : suivez en temps réel les principales métriques agrégées, notamment le QPS, le temps de réponse et le nombre de réplicas.
Gestion des ressources : surveillez l'utilisation du CPU, de la mémoire et du GPU pour éclairer vos décisions de mise à l'échelle horizontale (scale-out) et de réduction (scale-in).
Dépannage : identifiez les anomalies de performances et les problèmes de service à partir des données de surveillance agrégées.
Planification de la capacité : utilisez les données historiques de surveillance pour planifier vos besoins futurs en capacité.
Consulter le tableau de bord
Connectez-vous à la console PAI. Sélectionnez une région en haut de la page, puis choisissez l'espace de travail souhaité et cliquez sur Elastic Algorithm Service (EAS).
-
Accédez à l'onglet Monitoring. Le tableau de bord prend en charge les interactions suivantes :
Sélection de la plage temporelle : choisissez une plage prédéfinie, comme les 5 ou 15 dernières minutes. La valeur par défaut correspond aux 6 dernières heures.
Actualisation manuelle : cliquez sur le bouton d'actualisation pour obtenir les dernières données ou définissez une fréquence d'actualisation automatique.
Filtrage par dimension : filtrez les données selon une dimension spécifique ; par exemple, filtrez par la dimension Utilisateur pour afficher les données de tous les utilisateurs ou d'un utilisateur particulier.
Interaction avec les graphiques : survolez un graphique pour inspecter les points de données ou cliquez sur une entrée de la légende pour afficher ou masquer ses données.
Cliquez sur l'onglet Monitoring pour ouvrir la page de surveillance. Par défaut, la page affiche quatre graphiques sous la dimension Service : QPS (requêtes par seconde), Avg RT (temps de réponse moyen), Replicas (nombre et statut des réplicas, incluant Total, Pending et Available) et Replicas By Resource (réplicas en cours d'exécution par groupe de ressources). Basculez vers le sous-onglet GPU pour consulter les métriques liées au GPU.
Métriques de surveillance
Tableau de bord des services
Le tableau suivant décrit toutes les métriques disponibles sur le tableau de bord Service. Les calculs s'appliquent à toutes les instances de service EAS de la région actuelle associée à votre compte Alibaba Cloud. La valeur Sum représente le total cumulé sur toutes les instances, tandis que la valeur Average correspond à la moyenne.
Le QPS et le Avg RT constituent les indicateurs de performance les plus importants. La métrique Replicas reflète l'activité de mise à l'échelle du cluster. Les métriques CPU, mémoire et GPU indiquent la consommation des ressources. Les métriques Traffic et Daily Invoke renseignent sur le trafic global et le volume d'appels.
| Catégorie | Métrique | Description | Calcul | Objectif |
|---|---|---|---|---|
| Performances des requêtes | QPS | Nombre de requêtes par seconde. | Somme | Évaluer le débit global du cluster ; identifier les pics de trafic et les tempêtes d'erreurs en les croisant avec les données de taux d'erreur. |
| Avg RT | Temps de réponse moyen — durée moyenne entre l'envoi d'une requête et la réception de la réponse. | Moyenne | Évaluer la vitesse de réponse globale du cluster ; identifier les goulots d'étranglement de performance. | |
| Échelle des instances | Replicas | Nombre d'instances. Comprend trois sous-métriques : TotalReplicas (total), PendingReplicas (en attente) et Available Replicas (actives). | Somme | Comprendre l'échelle du cluster en temps réel ; vérifier si le comportement de la mise à l'échelle automatique répond aux attentes. |
| Replicas By Resource | Nombre d'instances ventilé par type de ressource. | Somme | Comprendre la répartition des ressources selon les types d'instances. | |
| CPU | CPU Total | Nombre total de CPU disponibles pour le service. | Somme | Évaluer la capacité CPU totale réservée. |
| CPU Utilization | Pourcentage d'utilisation du CPU. | Moyenne | Évaluer l'efficacité globale du CPU du cluster pour la planification de la capacité et l'optimisation des coûts. | |
| CPU Usage | Utilisation du CPU. | Moyenne | Estimer le coût des ressources CPU consommées. | |
| Mémoire | Memory | Utilisation de la mémoire. Inclut RSS (somme de la mémoire résidente) et Cache (somme du cache de pages). | Moyenne | Surveiller l'utilisation de la mémoire système pour déterminer la pression sur les ressources et localiser les goulots d'étranglement de performance. |
| Memory Utilization | Pourcentage d'utilisation de la mémoire. | Moyenne | Évaluer l'efficacité globale des ressources mémoire. | |
| GPU | GPU Total | Nombre total de GPU utilisés. | Somme | Évaluer l'échelle des ressources GPU. |
| GPU Utilization | Pourcentage d'utilisation du GPU. | Moyenne | Évaluer l'efficacité des ressources GPU. | |
| GPU Memory | Utilisation réelle de la mémoire GPU. | Moyenne | Évaluer la consommation de mémoire GPU. | |
| Trafic et appels | Traffic | Somme du trafic réseau entrant (In) et sortant (Out) pour tous les services. | Somme | Reflette l'état des communications réseau entre les services. |
| Daily Invoke | Nombre d'appels quotidiens, catégorisé par code d'état HTTP. | Somme | Observer la santé commerciale à long terme et les tendances des taux d'erreur. |
Tableau de bord GPU
Le tableau de bord GPU fournit une surveillance détaillée des services basés sur le GPU afin d'optimiser l'utilisation des ressources GPU.
Ce tableau de bord est particulièrement utile pour identifier les inefficacités coûteuses. Concentrez-vous sur les métriques de faible utilisation pour repérer les services dont la configuration des ressources est gaspillée.
| Catégorie | Métrique | Description | Objectif |
|---|---|---|---|
| Aperçu | Total GPU usage | Nombre total de GPU utilisés par tous les services de la région actuelle. | Indique l'échelle globale des GPU pour la planification de la capacité. |
| Average GPU utilization | Pourcentage moyen d'utilisation du GPU across tous les services utilisant des GPU. | Mesure l'efficacité globale des GPU ; identifie les risques de gaspillage des ressources. | |
| Number of services using GPUs | Nombre total de services utilisant actuellement des ressources GPU. | Comprendre la distribution des services GPU et l'étendue de l'utilisation des ressources. | |
| Utilisation par service | Number of services with average GPU utilization below 10% | Services dont l'utilisation moyenne du GPU est inférieure à 10 %. | Identifie un gaspillage sévère des ressources ; priorisez ces services pour une optimisation ou une libération. |
| Number of services with average GPU utilization below 30% | Services dont l'utilisation moyenne du GPU est inférieure à 30 %. | Identifie les services à faible utilisation ; envisagez d'ajuster leur configuration des ressources. | |
| Number of services with average GPU utilization above 50% | Services dont l'utilisation moyenne du GPU est supérieure à 50 %. | Confirme une utilisation efficace des GPU ; permet de vérifier les résultats de l'optimisation. | |
| Répartition de l'utilisation du GPU | Number of GPUs with average utilization below 10% | Cartes GPU dont l'utilisation moyenne est inférieure à 10 %. | Identifie les GPU inactifs pouvant être libérés pour réduire les coûts. |
| Number of GPUs with average utilization below 30% | Cartes GPU dont l'utilisation moyenne est inférieure à 30 %. | Identifie les GPU à faible utilisation ; ajustez la configuration des ressources. | |
| Number of GPUs with average utilization above 50% | Cartes GPU dont l'utilisation moyenne est supérieure à 50 %. | Confirme que les GPU sont pleinement utilisés ; évaluez la nécessité d'une mise à l'échelle horizontale. | |
| Répartition des ressources | Number of GPUs in dedicated resource groups (including Lingjun) | GPU présents dans les groupes de ressources dédiés, y compris Lingjun. | Surveille les changements de ressources dédiées pour la planification de la capacité. |
| Number of GPUs in public resource groups | GPU présents dans les groupes de ressources publics. | Surveille l'utilisation des ressources publiques pour optimiser les politiques d'allocation. | |
| Number of GPUs in spot instances (including Lingjun) | GPU présents dans les instances Spot, y compris Lingjun. | Surveille les ressources GPU à faible coût pour aider à équilibrer coût et stabilité. | |
| Utilisation détaillée | Detailed GPU utilization per service | Utilisation du GPU par service. Affiche « No data » lorsqu'aucune donnée n'est disponible. | Permet une analyse approfondie de l'utilisation du GPU par service individuel pour localiser les problèmes de performance. |
Remarques d'utilisation
Les données du tableau de bord sont agrégées à partir de tous les services de la région et peuvent présenter un délai.
Pour obtenir une surveillance détaillée d'un service spécifique, ouvrez la page de surveillance de ce service.
FAQ
Pourquoi l'utilisation du CPU affichée sur le tableau de bord est-elle faible, alors que mon service ne parvient pas à effectuer une mise à l'échelle horizontale ou signale un manque de ressources ?
Le tableau de bord affiche l'utilisation moyenne du CPU sur l'ensemble des services. Les services inactifs font baisser cette moyenne, même lorsque les ressources physiques du cluster sont entièrement saturées.
Vérifiez la métrique Pending_Replicas. Si elle reste constamment supérieure à 0, le pool de ressources du cluster est plein et ne peut pas planifier de nouvelles instances. Effectuez une mise à l'échelle horizontale du cluster ou optimisez la configuration des ressources des services existants.
Comment consulter la surveillance détaillée d'un service spécifique ?
Accédez à l'onglet Inference Service, sélectionnez le service cible et ouvrez sa page de détails. Basculez vers l'onglet Monitoring pour afficher les graphiques détaillés. Pour obtenir des descriptions des métriques, consultez Aperçu de la surveillance des services.