SAE met à l'échelle les instances d'application en quelques secondes lors des pics de trafic et les réduit une fois la charge revenue à la normale, garantissant ainsi la stabilité de vos applications avec une surcharge opérationnelle minimale. En prenant l'exemple d'une promotion e-commerce, cette rubrique détaille le déploiement des applications, la configuration des règles de mise à l'échelle, la surveillance en temps réel et l'optimisation post-événement, afin que votre plateforme gère les pics de demande de manière fiable.
Flux de travail de la mise à l'échelle automatique
La figure suivante illustre le flux de travail complet de la mise à l'échelle automatique SAE.
Préparez votre application
Configurez un contrôle d'intégrité : cela garantit que le trafic n'est acheminé vers une instance qu'après son démarrage et lorsqu'elle est prête à traiter les requêtes, maintenant ainsi la disponibilité globale pendant la mise à l'échelle. Pour plus d'informations, consultez Configurer un contrôle d'intégrité.
Configurez la gestion du cycle de vie de l'application : assurez-vous d'un arrêt gracieux lors de la compression en configurant PreStop Settings. Pour plus d'informations, consultez Configurer la gestion du cycle de vie de l'application.
Implémentez un mécanisme de backoff exponentiel pour les appels de service dans votre application Java afin de gérer les échecs causés par des retards de mise à l'échelle, des démarrages lents ou des arrêts non gracieux.
-
Optimisez la vitesse de démarrage de votre application.
Optimisation du package : réduisez les facteurs externes tels que le chargement des classes et la mise en cache pour diminuer le temps de démarrage.
Optimisation de l'image : réduisez la taille de l'image pour raccourcir les temps de téléchargement lors de la création des instances. Vous pouvez utiliser outils open source pour analyser et rationaliser les couches de l'image.
Optimisation du démarrage des applications Java : activez l'accélération de l'application lors de sa création dans SAE en sélectionnant l'environnement Dragonwell 11.
Configurez une politique de mise à l'échelle automatique
Choisissez les métriques de mise à l'échelle
SAE prend en charge plusieurs métriques issues de la surveillance de base et de la surveillance des applications. Configurez ces métriques selon que votre application est intensive en CPU, en mémoire ou en E/S.
Examinez les données historiques des métriques pertinentes issues de Basic Monitoring et de Application Monitoring — telles que les valeurs maximales, P95 ou P99 au cours des 6 dernières heures, 12 heures, 1 jour ou 7 jours — pour estimer une valeur cible. Utilisez un outil de test de charge tel que Performance Testing Service (PTS) pour évaluer la capacité maximale de votre application, y compris sa limite de requêtes simultanées, ses besoins en ressources (CPU et mémoire) et son comportement sous forte charge.
Lorsque vous configurez une politique de mise à l'échelle automatique, tenez compte des facteurs suivants :
-
Équilibrez la disponibilité et le coût lors de la définition des valeurs cibles des métriques :
Stratégie optimisée pour la disponibilité : définissez la valeur de la métrique à 40 %.
Stratégie équilibrée : définissez la valeur de la métrique à 50 %.
Stratégie optimisée pour les coûts : définissez la valeur de la métrique à 70 %.
Passez en revue les dépendances telles que les services amont et aval, les intergiciels et les bases de données. Configurez des politiques de mise à l'échelle correspondantes ou des mécanismes de limitation et de dégradation pour maintenir la disponibilité de bout en bout lors de la mise à l'échelle horizontale.
Après avoir configuré votre politique de mise à l'échelle, surveillez-la et ajustez-la pour aligner la capacité sur la charge réelle de l'application. Pour plus d'informations sur la surveillance, consultez Afficher les données de surveillance de base.
Configurez les métriques de mémoire
Pour les applications Java, l'optimisation de l'exécution améliore la corrélation entre les métriques de mémoire et la charge métier en libérant la mémoire physique. L'utilisation du runtime Dragonwell avec le paramètre JVM ElasticHeap permet une mise à l'échelle dynamique de la mémoire heap Java, réduisant ainsi la consommation de mémoire physique au moment de l'exécution. Pour plus d'informations sur ElasticHeap, consultez G1ElasticHeap.
Nous recommandons le mode Dragonwell+ElasticHeap Periodic uncommit (automatique). Pour les étapes détaillées, consultez Déployer une application Java et Définir une commande de démarrage.
Environnement Java : dans la section Configure JAR Package, sélectionnez une configuration Dragonwell dans la liste déroulante Java Environment.
Paramètre JVM : dans la section Startup Command Settings, saisissez -XX:+ElasticHeapPeriodicUncommit.
La mise à l'échelle basée sur la mémoire ne convient pas à certaines applications utilisant une gestion dynamique de la mémoire, comme celles reposant sur la gestion de la mémoire JVM Java ou les opérations Glibc Malloc et Free. Si ces applications ne libèrent pas rapidement la mémoire inactive vers le système d'exploitation, la consommation de mémoire des instances ne diminue pas en temps réel, ce qui peut également empêcher le déclenchement de la compression car la consommation moyenne de mémoire sur toutes les instances reste élevée.
Configurez le nombre d'instances
-
Nombre minimal d'instances
Définissez le nombre minimal d'instances à 2 ou plus et configurez des vSwitches sur plusieurs zones. Cela évite les interruptions de service si une instance est évincée en raison d'une défaillance de nœud ou s'il n'y a aucune instance disponible dans une zone.
-
Nombre maximal d'instances
Assurez-vous que le nombre maximal d'instances est inférieur ou égal au nombre d'adresses IP disponibles dans le vSwitch pour éviter les échecs de mise à l'échelle horizontale causés par l'épuisement des adresses IP.
Vérifiez les adresses IP disponibles pour l'application actuelle dans la section Application Information de la page Basic Information. Si le nombre est faible, remplacez ou ajoutez un vSwitch.
Observez le processus de mise à l'échelle automatique
Limite maximale d'instances
Sur la page Overview de l'application, vous pouvez consulter son statut de mise à l'échelle automatique. Surveillez les applications qui atteignent leur limite maximale d'instances et réévaluez leur configuration de mise à l'échelle.
Si une seule application doit être mise à l'échelle horizontale au-delà de 50 instances, rejoignez le groupe DingTalk (ID de groupe : 32874633) pour demander l'ajout à la liste d'autorisation.
Rééquilibrage des zones
Après un événement de compression, les instances peuvent être distribuées de manière inégale entre les zones. Par défaut, SAE privilégie le déploiement des instances dans la même zone et ne les répartit pas automatiquement de manière égale entre les zones. Le déploiement multi-zones est destiné à la reprise après sinistre, et non à l'équilibrage de charge. Consultez la zone de chaque instance dans la liste des instances sur la page Basic Information de l'application. Si la distribution est déséquilibrée, déclenchez le rééquilibrage des zones en redémarrant une instance via l'action Restart.
Reprise automatique
Lorsque vous exécutez un ordre de modification tel que le déploiement d'une application, SAE suspend temporairement la politique de mise à l'échelle automatique pour cette application afin d'éviter les conflits. Pour restaurer automatiquement la politique une fois l'ordre de modification terminé, sélectionnez Automatic sur la page Deploy Application.
Maintenance de la mise à l'échelle automatique
Événements de l'application
Sur la page Application Events, vous pouvez observer le comportement de mise à l'échelle automatique SAE, y compris l'heure et le type des actions de mise à l'échelle. Utilisez ces informations pour évaluer et ajuster votre politique de mise à l'échelle si nécessaire. Pour plus d'informations, consultez Afficher les événements de l'application.
Graphique de tendance des instances d'application
Sur la page Basic Information de l'application, l'onglet Basic Information contient le Application Instance Trend Chart, qui affiche les métriques de surveillance des 7 derniers jours, notamment l'utilisation du CPU, l'utilisation de la mémoire, les connexions TCP actives, les requêtes de service et le temps de réponse moyen.
