Platform For AI:Journalisation, surveillance et alertes

Vue d'ensemble

Les journaux, la surveillance et les alertes jouent chacun un rôle distinct dans la gestion des incidents :

• Journaux : Ils capturent la sortie détaillée du service (messages de démarrage, traitement des requêtes et traces de pile d'erreurs) afin d'identifier la cause racine d'un problème.

• Surveillance : Elle met en évidence les tendances du service grâce à des métriques et des graphiques (QPS, latence, taux d'erreur, utilisation des ressources), permettant ainsi de détecter les anomalies et de planifier la capacité.

• Alertes : Elles appliquent des seuils aux métriques de surveillance et vous notifient en cas de dysfonctionnement, ce qui permet une intervention rapide.

Un parcours de dépannage typique suit cette logique : une alerte se déclenche → la surveillance identifie la métrique concernée et la plage horaire → les journaux révèlent la cause racine.

Journaux

EAS propose les fonctionnalités de journalisation et d'enregistrement suivantes. Choisissez celle qui correspond à votre cas d'utilisation :

• Requêtes de journaux historiques : Interrogez les journaux passés depuis l'onglet Log de la page des détails du service, avec filtrage par instance, recherche par mot-clé et filtrage par plage horaire. Cette option est idéale pour la récupération et l'analyse des journaux.

• Suivi des journaux en temps réel : Sélectionnez une instance dans la liste Service Instance, puis cliquez sur Real-time Logs pour diffuser la sortie continue du conteneur. Cette méthode convient parfaitement au débogage interactif et aux scénarios nécessitant une visibilité en temps réel, comme le suivi de la sortie d'inférence jeton par jeton.

  Remarque

  Les journaux en temps réel ne sont pas disponibles pour les services créés avant le lancement de cette fonctionnalité. Recréez le service pour les utiliser.

• Collecte de journaux SLS : Collectez les journaux des services EAS dans SLS via trois méthodes d'intégration : l'onglet Insights pour une configuration rapide, le Cloud Monitor 2.0 Access Center pour une intégration par lot et SLS Logtail pour une configuration manuelle. Ces options couvrent des scénarios allant de la configuration rapide d'un seul service à la collecte personnalisée avancée. Pour plus de détails, consultez la rubrique Configurer la collecte de journaux.

• Persistance des enregistrements d'appels : Enregistrez tous les enregistrements de requêtes et de réponses du service dans MaxCompute ou SLS à des fins d'audit, d'analyse des appels ou de dépannage. Pour activer cette option, accédez à la section Features lors du déploiement du service et activez Save Call Records, puis sélectionnez une cible de stockage :

  • MaxCompute : Sélectionnez un MaxCompute Project existant (s'il n'en existe aucun, consultez la rubrique Créer un projet MaxCompute), et configurez le nom de la MaxCompute Table. Le système crée automatiquement cette table dans le projet sélectionné lors du déploiement du service.

  • Simple Log Service : Sélectionnez un Simple Log Service Project existant (s'il n'en existe aucun, consultez la rubrique Créer un projet), et configurez le nom du logstore. Le système crée automatiquement ce Logstore dans le projet sélectionné lors du déploiement du service.

Surveillance

EAS propose cinq capacités de surveillance. Choisissez en fonction de l'étendue de la surveillance et de la source des métriques :

• Surveillance des services (par service) : Consultez les métriques d'exécution de base telles que les QPS, la latence, le taux d'erreur et l'utilisation des ressources pour un seul service, avec possibilité de basculer entre les dimensions Service et Instance. Fonctionne dès la mise en service : ouvrez simplement l'onglet Monitoring sur la page des détails du service. Pour plus de détails, consultez la rubrique Afficher les métriques de surveillance des services.

• Tableau de bord de surveillance (agrégation au niveau de la région) : Agrégez les métriques de service de tous les espaces de travail sous le compte actuel dans la région sélectionnée sur un tableau de bord unifié pour vérifier l'état de santé de plusieurs services et planifier la capacité. Le changement d'espace de travail n'affecte pas l'étendue des données. Pour plus de détails, consultez la rubrique Tableau de bord de surveillance.

• Métriques de surveillance personnalisées (par service, rapportées par l'utilisateur) : Rapportez des métriques métier telles que le nombre de jetons d'inférence, la taille du lot et le taux de succès pour piloter la mise à l'échelle automatique. Cela nécessite une instrumentation dans le code de votre service. Pour plus de détails, consultez la rubrique Métriques de surveillance personnalisées et de mise à l'échelle automatique.

• Surveillance Prometheus (au niveau du compte, intégration de systèmes externes) : Connectez les métriques de surveillance EAS à Prometheus via le Cloud Monitor 2.0 Access Center, interrogez les métriques avec PromQL et intégrez-les à Grafana ou à d'autres systèmes de surveillance. Inclut des métriques avancées telles que les métriques du framework d'inférence et les métriques de calcul GPU. Des frais supplémentaires s'appliquent. Pour plus de détails, consultez la rubrique Surveiller les services d'inférence EAS avec Prometheus.

• Traçage (par service, ARMS) : Traçage de la chaîne d'appels basé sur ARMS pour identifier les goulots d'étranglement de performance inter-composants. Certaines images officielles prennent en charge l'activation en un clic ; pour les autres images, intégrez la sonde ARMS à la commande d'exécution. Pour plus de détails, consultez la rubrique Activer le traçage pour les applications LLM dans EAS.

Alertes

EAS prend en charge deux scénarios d'alerte. Choisissez en fonction de la source du déclencheur de notification :

• Alertes de métriques : Vous notifie lorsque les métriques de surveillance (telles que le taux d'erreur, la latence ou l'utilisation des ressources) dépassent un seuil configuré. Créez des règles à partir des métriques de surveillance des services. Pour plus de détails, consultez la rubrique Configurer les alertes de surveillance des services.

• Événements CloudMonitor : Écoutez les événements du cycle de vie du service (tels que la fin du déploiement, la mise à l'échelle et les sorties inattendues d'instances) et envoyez des notifications. Pour plus de détails, consultez la rubrique Afficher les événements EAS dans CloudMonitor.

FAQ