Overview of node scaling in ACK clusters - Container Service for Kubernetes

Lorsque votre cluster ACK ne parvient pas à planifier les pods en attente, utilisez la mise à l'échelle des nœuds pour ajouter ou supprimer automatiquement des nœuds. ACK propose la mise à l'échelle automatique des nœuds et la mise à l'échelle instantanée des nœuds. Par rapport à la mise à l'échelle automatique des nœuds, la mise à l'échelle instantanée des nœuds est plus rapide et plus simple.

Avant de commencer

Consultez cette rubrique pour comprendre les solutions de mise à l'échelle des nœuds d'ACK et choisir celle qui correspond le mieux à votre charge de travail avant d'activer la mise à l'échelle des nœuds.

Familiarisez-vous avec la mise à l'échelle manuelle, la mise à l'échelle automatique, la mise à l'échelle horizontale et la mise à l'échelle verticale dans la documentation officielle Kubernetes.

Fonctionnement de la mise à l'échelle des nœuds

La mise à l'échelle des nœuds Kubernetes diffère du modèle traditionnel basé sur des seuils d'utilisation des ressources. Vous devrez peut-être prendre en compte cette différence lors de la migration depuis des centres de données ou d'autres systèmes d'orchestration vers Kubernetes.

Le modèle de mise à l'échelle traditionnel ajoute des nœuds lorsque l'utilisation du processeur ou de la mémoire dépasse un certain seuil. Toutefois, ce modèle présente les problèmes suivants.

Comment les seuils de mise à l'échelle sont-ils déterminés ?

Les nœuds très sollicités ont généralement une utilisation des ressources plus élevée que les autres nœuds.

Si la mise à l'échelle est déclenchée par l'utilisation moyenne, la demande des nœuds très sollicités est masquée par les nœuds sous-utilisés, ce qui empêche une mise à l'échelle horizontale (scale-out) en temps opportun.
Si la mise à l'échelle est déclenchée par l'utilisation de pointe, un gaspillage de ressources se produit généralement dans l'ensemble du cluster.

Comment les charges sont-elles réduites après l'ajout de nœuds ?

Dans Kubernetes, les pods sont les plus petites unités déployables. L'ajout de nœuds ne redistribue pas les charges des pods existants : le nombre de pods et les limites de ressources restent inchangés, de sorte que les nouveaux nœuds ne reçoivent aucun trafic provenant des pods surchargés.

Comment la mise à l'échelle des nœuds est-elle déclenchée et exécutée ?

La mise à l'échelle basée sur l'utilisation peut entraîner l'éviction de pods ayant des demandes de ressources élevées mais une utilisation réelle faible. Si de nombreux pods de ce type existent, les ressources planifiables sont épuisées et certains pods deviennent non planifiables.

ACK utilise la mise à l'échelle des nœuds (couche de ressources) et la mise à l'échelle de la charge de travail (couche de planification) pour résoudre ce problème. La mise à l'échelle des nœuds déclenche la mise à l'échelle en fonction de l'utilisation des ressources par les pods.

Comment les activités de mise à l'échelle horizontale (scale-out) sont-elles déclenchées ?

Le modèle de mise à l'échelle des nœuds surveille les pods non planifiables. Lorsque les pods ne peuvent pas être planifiés en raison d'un manque de ressources, il simule la planification, sélectionne un pool de nœuds approprié activé pour la mise à l'échelle automatique et ajoute des nœuds au cluster.

Remarque

La simulation abstrait chaque pool de nœuds activé pour la mise à l'échelle automatique en tant que nœud virtuel disposant de la capacité CPU, mémoire et GPU des types d'instance configurés, ainsi que des libellés et des taints du pool de nœuds. Le planificateur ajoute ce nœud virtuel à la liste des nœuds planifiables, calcule le nombre de nœuds requis et provisionne les nœuds en conséquence.

Comment les activités de réduction (scale-in) sont-elles déclenchées ?

La réduction (scale-in) s'applique uniquement aux nœuds situés dans des pools de nœuds activés pour la mise à l'échelle automatique ; les nœuds statiques ne sont pas gérés. Lorsque l'utilisation d'un nœud tombe en dessous du seuil de réduction, le modèle simule l'éviction des pods pour vérifier que le nœud peut être vidé. Les pods non-DaemonSet dans l'espace de noms kube-system et les pods protégés par PodDisruptionBudget sont ignorés. Une fois que tous les pods éligibles ont été évincés vers d'autres nœuds, le nœud est supprimé.

Comment un pool de nœuds est-il sélectionné lorsque plusieurs pools de nœuds avec la fonction de mise à l'échelle automatique activée existent ?

Plusieurs pools de nœuds activés pour la mise à l'échelle automatique sont traités comme des nœuds abstraits. L'autoscaler les évalue à l'aide de la politique de planification standard, en donnant la priorité aux règles d'affinité telles que node affinity.

Si aucune correspondance n'est trouvée via les règles d'affinité, la mise à l'échelle automatique des nœuds revient au principe du moindre gaspillage, en sélectionnant le pool de nœuds qui laisse le moins de ressources inutilisées après la mise à l'échelle horizontale.

Remarque

Lorsque des pools de nœuds activés pour la mise à l'échelle automatique accélérée par GPU et par CPU répondent tous deux aux conditions de mise à l'échelle horizontale, le pool accéléré par CPU est prioritaire.

Par défaut, la mise à l'échelle instantanée des nœuds évalue la disponibilité des instances et leur coût, en donnant la priorité aux types disposant d'une capacité suffisante et au prix le plus bas.

Comment améliorer le taux de réussite de la mise à l'échelle automatique ?

Le taux de réussite de la mise à l'échelle automatique dépend des facteurs suivants :

Respect des conditions de planification

Après avoir créé un pool de nœuds activé pour la mise à l'échelle automatique, confirmez la politique de planification des pods pour le pool de nœuds. En cas de doute, configurez nodeSelector avec le libellé du pool de nœuds et exécutez une simulation de planification.
Suffisance des ressources

Après la simulation, le système sélectionne un pool de nœuds activé pour la mise à l'échelle automatique et ajoute des nœuds. Toutefois, l'inventaire des types d'instance ECS dans la configuration du pool de nœuds affecte le taux de réussite de la mise à l'échelle horizontale. Spécifiez plusieurs types d'instance dans différentes zones pour améliorer le taux de réussite.

Comment accélérer la mise à l'échelle automatique ?

Méthode 1 : Utilisez le mode swift. Après qu'un pool de nœuds activé pour la mise à l'échelle automatique a terminé un cycle de mise à l'échelle horizontale et un cycle de réduction, il passe en mode swift. Consultez Activer la mise à l'échelle automatique des nœuds.
Méthode 2 : Utilisez une image personnalisée basée sur Alibaba Cloud Linux 3 pour améliorer l'efficacité de la fourniture des ressources IaaS de 50 %. Consultez Optimiser la mise à l'échelle avec des images personnalisées.

Solutions de mise à l'échelle : mise à l'échelle automatique des nœuds et mise à l'échelle instantanée des nœuds

La mise à l'échelle des nœuds est une fonctionnalité au niveau des ressources qui ajuste automatiquement le nombre de nœuds dans votre cluster. Lorsque la capacité existante est insuffisante pour la planification des pods, l'autoscaler provisionne des nœuds supplémentaires.

ACK propose deux solutions pour la mise à l'échelle des nœuds.

Présentation

Important

Un seul composant de mise à l'échelle peut s'exécuter dans un cluster. Les deux solutions ne peuvent pas coexister. Pour activer la mise à l'échelle des nœuds, consultez Activer la mise à l'échelle automatique des nœuds et Activer la mise à l'échelle instantanée des nœuds.
Les statistiques de mise à l'échelle présentées dans cette rubrique sont des valeurs théoriques basées sur des images personnalisées. Les résultats réels dans votre environnement peuvent varier. Consultez Optimiser la mise à l'échelle avec des images personnalisées.
Les deux solutions de mise à l'échelle s'appliquent aux nœuds situés dans des pools de nœuds activés pour la mise à l'échelle automatique.

Solution

Composant

Description

Solution 1 : mise à l'échelle automatique des nœuds

cluster-autoscaler

Vérifie l'état du cluster selon un cycle round-robin et met à l'échelle les nœuds lorsque les conditions sont remplies.

Solution 2 : mise à l'échelle instantanée des nœuds

ACK GOATScaler

Un autoscaler de nœuds piloté par les événements qui garantit une fourniture efficace des ressources dans les grands clusters et les scénarios de mise à l'échelle horizontale consécutifs. Un cluster est considéré comme grand si un pool de nœuds avec la fonction de mise à l'échelle automatique activée contient plus de 100 nœuds, ou si plus de 20 pools de nœuds dans le cluster ont la fonction de mise à l'échelle automatique activée. Vitesse de mise à l'échelle : 45 secondes ; taux de réussite : 99 % ; réduction de la fragmentation des ressources : 30 %. Prend en charge des politiques de mise à l'échelle personnalisées pour l'extensibilité.

Comparaison des solutions

Pour les pools de nœuds avec la mise à l'échelle automatique activée (sans mode swift), la fonction de mise à l'échelle instantanée des nœuds est compatible avec la configuration existante du pool de nœuds et prend en charge tous les types de pods. Le tableau suivant compare la mise à l'échelle instantanée des nœuds à la mise à l'échelle automatique des nœuds.

Avantage	Mise à l'échelle automatique des nœuds	Mise à l'échelle instantanée des nœuds
Vitesses et efficacité de mise à l'échelle	60 secondes en mode standard, 50 secondes en mode swift.	Avec la mise à l'échelle pilotée par les événements et Alibaba Cloud ContainerOS, chaque activité de mise à l'échelle prend entre 35 et 55 secondes.
	La mise à l'échelle automatique atteint un goulot d'étranglement de performance à 1 minute. L'efficacité fluctue en fonction du nombre de pools de nœuds et des scénarios de mise à l'échelle : dépasser 100 pools de nœuds augmente la durée à 100–150 secondes.	La durée de mise à l'échelle reste stable à mesure que le nombre de pools de nœuds ou de pods augmente, ce qui la rend adaptée aux scénarios de mise à l'échelle rapide.
	Mode round-robin avec mises à jour de l'état du cluster. Latence minimale : 5 secondes.	Piloté par les événements. Latence : 1 à 3 secondes.
Taux de réussite de la mise à l'échelle des ressources	En raison des fluctuations de l'inventaire des ressources cloud et de la variabilité des types d'instance, le taux de réussite de la mise à l'échelle automatique des nœuds est d'environ 97 %.	Une politique de sélection d'inventaire automatique filtre des milliers de types d'instance Alibaba Cloud selon des conditions et des priorités prédéfinies, en sélectionnant automatiquement les types optimaux ou des alternatives de secours lorsque les types spécifiés ne sont pas disponibles. Cela simplifie les opérations et augmente le taux de réussite à 99 %.
	La mise à l'échelle horizontale utilise les types d'instance de la configuration du pool de nœuds. Lorsque plusieurs types sont spécifiés, le type aux spécifications les plus faibles est privilégié.	Vous pouvez spécifier plusieurs types d'instance pour les activités de mise à l'échelle horizontale.
	L'autoscaler réessaie périodiquement en cas d'échec de la mise à l'échelle des ressources.	L'autoscaler peut générer des alertes lorsque les types d'instance spécifiés sont insuffisants.
Utilisation et maintenance	Par rapport à la mise à l'échelle automatique des nœuds, la mise à l'échelle instantanée des nœuds est plus facile à utiliser sur les aspects suivants : Maintenance de la configuration du pool de nœuds : la mise à l'échelle instantanée des nœuds sélectionne automatiquement des instances de différents types et zones pour héberger les pods en attente. Avec la mise à l'échelle automatique des nœuds, vous devez maintenir manuellement les configurations du pool de nœuds et les mettre à jour chaque fois que les configurations des pods changent. Maintenance des nœuds : les exceptions de mise à l'échelle sont exposées via les événements des pods, permettant aux développeurs de se concentrer sur la gestion du cycle de vie des pods. Extension des fonctionnalités : les deux solutions fonctionnent avec Descheduler pour préparer des ressources élastiques. La mise à l'échelle instantanée des nœuds est non intrusive et prend en charge des actions personnalisées dans les politiques de provisionnement des ressources et la gestion du cycle de vie des nœuds pour le développement secondaire.
Politique de planification	Au-delà des fonctionnalités de planification de la mise à l'échelle automatique des nœuds, la mise à l'échelle instantanée des nœuds prend également en charge : Topologie : Répond aux exigences de haute disponibilité inter-zones. Pod Disruption Budgets : Limite les évictions volontaires simultanées de pods dans les applications multi-pods, garantissant la stabilité lors des perturbations planifiées.
Politique de planification	La mise à l'échelle instantanée des nœuds réduit le taux de fragmentation des ressources de 30 % en utilisant les politiques Bin Packing et PreBind (fonctionnalité personnalisée).

Limites de la mise à l'échelle instantanée des nœuds

Les limites suivantes s'appliquent à la mise à l'échelle instantanée des nœuds. Consultez-les avant d'activer la mise à l'échelle instantanée des nœuds.

La mise à l'échelle instantanée des nœuds ne prend pas en charge le mode swift.
Un pool de nœuds peut contenir jusqu'à 180 nœuds par lot de mise à l'échelle horizontale.
La réduction (scale-in) ne peut pas être désactivée pour un cluster spécifique.

Remarque
Pour désactiver la réduction pour un nœud spécifique, consultez Comment empêcher la réduction d'un nœud par la mise à l'échelle instantanée des nœuds ?
La solution de mise à l'échelle instantanée des nœuds ne vérifie pas l'inventaire des instances préemptibles. Si la Billing Method du pool de nœuds est définie sur des instances préemptibles et que l'option Use Pay-as-you-go Instances When Spot Instances Are Insufficient est activée, des instances à la demande peuvent être ajoutées lors de la mise à l'échelle horizontale même si des instances préemptibles suffisantes sont disponibles.

Sélectionner une solution de mise à l'échelle des nœuds

Consultez la Comparaison des solutions et les Limites de la mise à l'échelle instantanée des nœuds. Choisissez la mise à l'échelle automatique des nœuds si votre charge de travail a des exigences moins strictes en matière de vitesse de mise à l'échelle et de certitude de livraison, et si les limitations de la mise à l'échelle instantanée des nœuds sont inacceptables.

Si votre charge de travail présente l'une des exigences suivantes, la mise à l'échelle instantanée des nœuds est recommandée :

Les grands clusters dégradent considérablement l'efficacité de la mise à l'échelle automatique des nœuds. Choisissez la mise à l'échelle instantanée des nœuds, car la taille du cluster a un impact minimal sur son efficacité de mise à l'échelle. Un cluster est considéré comme grand si un pool de nœuds avec la fonction de mise à l'échelle automatique activée contient plus de 100 nœuds, ou si plus de 20 pools de nœuds dans le cluster ont la fonction de mise à l'échelle automatique activée.
Une vitesse de mise à l'échelle plus rapide est requise. Mode standard : la mise à l'échelle automatique des nœuds prend 60 secondes ; la mise à l'échelle instantanée des nœuds prend 45 secondes.
Des lots de mise à l'échelle horizontale consécutifs sont fréquents. Dans les scénarios de mise à l'échelle consécutive, les performances de la mise à l'échelle automatique des nœuds se dégradent et fluctuent, tandis que la mise à l'échelle instantanée des nœuds maintient un temps de mise à l'échelle constant d'environ 45 secondes.

Notes d'utilisation

Quotas et limites

Une table de routage VPC prend en charge jusqu'à 200 entrées de routage personnalisées. Pour augmenter cette limite, soumettez une demande dans la console Quota Center. Pour les autres quotas de ressources, consultez Quotas des produits cloud sous-jacents.
Configurez soigneusement le nombre maximal de nœuds dans un pool de nœuds activé pour la mise à l'échelle automatique. Assurez-vous que les ressources dépendantes et les quotas sont suffisants, tels que les blocs CIDR VPC et les vSwitches, sinon les activités de mise à l'échelle horizontale peuvent échouer. Pour les limites des pools de nœuds, consultez Activer la mise à l'échelle automatique des nœuds. Pour la planification réseau, consultez Planification réseau du cluster managé ACK.
La mise à l'échelle des nœuds ne prend pas en charge les nœuds par abonnement. Ne définissez pas la méthode de facturation sur abonnement lors de la création d'un pool de nœuds activé pour la mise à l'échelle automatique. Pour les pools de nœuds existants, assurez-vous qu'aucun nœud par abonnement n'est présent avant d'activer la mise à l'échelle automatique.
La fonction de mise à l'échelle des nœuds est incompatible avec les SideCar Containers. Déployez les charges de travail Sidecar Container dans des pools de nœuds avec la mise à l'échelle automatique désactivée.

Maintenance des ressources dépendantes

Si des adresses IP élastiques (EIP) sont associées aux nœuds ECS ajoutés par la mise à l'échelle des nœuds, ne supprimez pas ces nœuds directement depuis la console ECS. Les EIP ne seront pas automatiquement libérées.

Références

Consultez Activer la mise à l'échelle automatique des nœuds et Activer la mise à l'échelle instantanée des nœuds.

Consultez FAQ sur la mise à l'échelle automatique des nœuds.

Développer pour voir l'index de la FAQ sur la mise à l'échelle automatique des nœuds

Catégorie	Sous-catégorie	Liens
Comportement de la mise à l'échelle automatique des nœuds	Limites connues
	Comportement de mise à l'échelle horizontale	Politiques de planification Types de ressources Échecs de mise à l'échelle horizontale Plusieurs types d'instance Sélection du pool de nœuds Ressources personnalisées Activation de la mise à l'échelle automatique
	Comportement de réduction	Échecs de réduction Éviction DaemonSet Pods empêchant la suppression de nœuds
	Support d'extension	CustomResourceDefinitions (CRD)
Comportement de mise à l'échelle personnalisé	Contrôle au niveau des pods	Retarder la mise à l'échelle horizontale
Comportement de mise à l'échelle personnalisé	Contrôle au niveau des nœuds	Empêcher la réduction
Gestion des modules complémentaires		Mettre à niveau cluster-autoscaler Mises à jour automatiques Autorisation de rôle

Développer pour voir l'index de la FAQ sur la mise à l'échelle instantanée des nœuds

Catégorie	Sous-catégorie	Lien
Mise à l'échelle instantanée des nœuds comportement	Limites connues
	Comportement de mise à l'échelle horizontale	Quels types de ressources la mise à l'échelle instantanée des nœuds utilise-t-elle pour les simulations de mise à l'échelle ? La mise à l'échelle instantanée des nœuds sélectionne-t-elle un type d'instance approprié dans un pool de nœuds en fonction des demandes de ressources des pods ? Comment la mise à l'échelle instantanée des nœuds sélectionne-t-elle un type d'instance dans un pool de nœuds comportant plusieurs types ? Comment puis-je surveiller l'inventaire des types d'instance dans un pool de nœuds lors de l'utilisation de la mise à l'échelle instantanée des nœuds ? Comment puis-je optimiser la configuration du pool de nœuds pour éviter les échecs de mise à l'échelle horizontale dus à un inventaire insuffisant ? Pourquoi la mise à l'échelle instantanée des nœuds échoue-t-elle à ajouter des nœuds ? Comment configurer des ressources personnalisées pour un pool de nœuds avec la mise à l'échelle instantanée des nœuds activée ?
	Comportement de réduction	Pourquoi la mise à l'échelle instantanée des nœuds échoue-t-elle à réduire les nœuds ? Quels types de pods peuvent empêcher la mise à l'échelle instantanée des nœuds de supprimer un nœud ?
Comportement de mise à l'échelle personnalisé	Contrôle de la mise à l'échelle avec les pods	Comment puis-je contrôler la réduction des nœuds en utilisant des pods ?
Comportement de mise à l'échelle personnalisé	Contrôle de la mise à l'échelle avec les nœuds	Comment spécifier quel nœud supprimer lors d'une réduction ? Comment empêcher la réduction d'un nœud spécifique ? La mise à l'échelle instantanée des nœuds peut-elle être configurée pour ne réduire que les nœuds vides ?
Module complémentaire de mise à l'échelle instantanée des nœuds		Le module complémentaire de mise à l'échelle instantanée des nœuds se met-il à jour automatiquement ? Pourquoi la mise à l'échelle des nœuds échoue-t-elle sur mon cluster managé ACK après avoir accordé les autorisations requises ?