Container Service for Kubernetes:Using Horizontal Pod Autoscaling (HPA)

Antes de empezar

Para utilizar HPA de manera eficaz, se recomienda leer la documentación oficial de Kubernetes sobre escalado automático horizontal de pods para comprender sus principios fundamentales, algoritmos y comportamientos de escalado configurables.

Además, los clústeres de Alibaba Cloud Container Service for Kubernetes (ACK) ofrecen diversas soluciones de escalado de cargas de trabajo (elasticidad en la capa de programación) y de escalado de nodos (elasticidad en la capa de recursos). Antes de continuar, consulte Auto scaling para conocer los casos de uso y las limitaciones de cada solución.

Requisitos previos

• Ha creado un clúster administrado ACK o un clúster dedicado ACK. Para obtener más información, consulte Create a Kubernetes cluster.

• Si utiliza comandos kubectl para implementar HPA, debe conectarse al clúster de Kubernetes con kubectl. Para obtener más información, consulte Obtain the KubeConfig of a cluster and use kubectl to connect to the cluster.

Crear una aplicación HPA en la consola

ACK está integrado con HPA, lo que permite crear aplicaciones compatibles con HPA desde la consola. Puede habilitar HPA al crear una nueva aplicación o en una existente. Se recomienda crear solo un HPA por carga de trabajo.

Crear una aplicación HPA mediante kubectl

También puede utilizar una plantilla de orquestación para crear manualmente un HPA y vincularlo al Deployment objetivo. Se recomienda crear solo un HPA por carga de trabajo. Este ejemplo muestra cómo desplegar una aplicación Nginx compatible con HPA.

1. Cree un archivo llamado nginx.yml y copie en él el siguiente contenido.

   Importante

   Para implementar HPA, debe establecer recursos request para el Pod. De lo contrario, HPA no puede ejecutarse. Puede utilizar la función de perfilado de recursos para analizar datos históricos de uso de recursos y obtener recomendaciones para configurar las solicitudes (Requests) y límites (Limits) del contenedor. Para obtener más información, consulte Resource profiling.

   Plantilla YAML

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx  
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 # Replace with your actual <image_name:tags>.
           ports:
           - containerPort: 80
           resources:
             requests:         # You must set requests. Otherwise, HPA cannot calculate metrics, and the status will be 'unknown'.
               cpu: 500m

2. Ejecute el siguiente comando para crear la aplicación Nginx.

   kubectl apply -f nginx.yml

3. Cree un archivo llamado hpa.yml y copie en él el siguiente contenido para crear el HPA.

   Utilice scaleTargetRef para especificar el objeto objetivo del HPA. En este ejemplo, el HPA se vincula a un Deployment llamado nginx y desencadena una operación de escalado cuando la utilización promedio de CPU de los contenedores en todos los Pods alcanza el 50 %.

   Kubernetes 1.24 y versiones posteriores

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # The minimum number of replicas for the Deployment. Must be an integer greater than or equal to 1.
     maxReplicas: 10  # The maximum number of replicas for the Deployment. Must be greater than minReplicas.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50 # The target average resource utilization, which is the ratio of average resource usage to the requested resource amount.
                  

   Versiones de Kubernetes anteriores a la 1.24

   apiVersion: autoscaling/v2beta2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Must be an integer greater than or equal to 1.
     maxReplicas: 10  # Must be greater than the minimum number of replicas.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
                  

   Si necesita especificar métricas tanto de CPU como de memoria, puede definir los tipos de recursos cpu y memory en el campo metrics en lugar de crear dos HPA. Cuando el HPA detecta que alguna de las métricas alcanza el umbral de escalado, realiza una operación de escalado.

   metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
     - type: Resource
       resource:
         name: memory
         target:
           type: Utilization
           averageUtilization: 50

4. Ejecute el siguiente comando para crear el HPA.

   kubectl apply -f hpa.yml

   En este punto, ejecute el comando kubectl describe hpa <HPA name>. En este ejemplo, el nombre del HPA es nginx-hpa. El resultado esperado es el siguiente mensaje de advertencia, que indica que el HPA aún se está desplegando. Puede ejecutar el comando kubectl get hpa para comprobar el estado del HPA.

   Warning  FailedGetResourceMetric       2m (x6 over 4m)  horizontal-pod-autoscaler  missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5897-mqzs7
   
   Warning  FailedComputeMetricsReplicas  2m (x6 over 4m)  horizontal-pod-autoscaler  failed to get cpu utilization: missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5

5. Una vez creado el HPA y cuando el Pod cumpla las condiciones de escalado (en este ejemplo, la utilización de CPU del Pod de Nginx supera el 50 %), ejecute nuevamente el comando kubectl describe hpa <HPA-name> para ver el estado del escalado horizontal.

   El siguiente resultado indica que el HPA se está ejecutando correctamente.

   Type    Reason             Age   From                       Message
     ----    ------             ----  ----                       -------
     Normal  SuccessfulRescale  5m6s  horizontal-pod-autoscaler  New size: 1; reason: All metrics below target

Operaciones relacionadas

Si el comportamiento de escalado predeterminado no satisface sus requisitos empresariales, puede utilizar el campo behavior para configurar los comportamientos de reducción (scaleDown) y aumento (scaleUp) con una granularidad más fina. Para obtener más información, consulte Comportamiento de escalado configurable.

Los escenarios típicos para behavior incluyen, entre otros:

• Escalado horizontal rápido durante picos repentinos de tráfico.

• Escalado horizontal rápido pero reducción lenta para cargas de trabajo con fluctuaciones frecuentes.

• Deshabilitar la reducción horizontal para aplicaciones sensibles al estado.

• En escenarios con recursos limitados o sensibles a costos, la ventana de estabilización stabilizationWindowSeconds limita la tasa de escalado horizontal para reducir los ajustes frecuentes causados por fluctuaciones temporales.

Para obtener una descripción y ejemplos de la configuración de behavior, consulte Tune HPA scaling sensitivity.

Preguntas frecuentes

• Why does the current field in HPA metrics show as unknown?

• Troubleshooting HPA scaling failures

• Why does HPA create extra pods during a rolling update?

• Why does HPA not scale when a threshold is reached?

• How to configure the HPA metric collection interval

• Is CronHPA compatible with HPA? How does it work?

• How to prevent HPA over-scaling from initial resource spikes

• Why did HPA scale when the metric value was below the threshold in the audit logs?

• Can HPA control the scale-in order of pods?

• What does the unit for the HPA utilization metric mean?

• What should I do if the target column shows unknown after I run kubectl get hpa?

• How to find metrics supported by HPA

• Autoscaling with custom Nginx Ingress log formats

• How can I obtain the Prometheus data request URL?

• Retrieving the sls_ingress_qps metric using the CLI

• How can I manage a VPA installed with kubectl from the console?

• Failed to pull alibaba-cloud-metrics-adapter image

Documentación relacionada

Otras operaciones relacionadas

• Para implementar el escalado automático horizontal de pods basado en métricas de componentes de Alibaba Cloud mediante Kubernetes External Metrics, consulte Horizontal Pod Autoscaling based on Nginx Ingress metrics.

• Para convertir métricas de Managed Service for Prometheus en métricas compatibles con HPA, consulte Horizontal Pod autoscaling based on metrics from Managed Service for Prometheus.

• Para la solución de problemas de HPA, consulte Node auto scaling FAQ.

• Si necesita coordinar CronHPA y HPA, consulte Use CronHPA with HPA.

Otras soluciones de escalado de cargas de trabajo

• Si su aplicación tiene patrones periódicos de uso de recursos y necesita escalar pods según una programación, consulte Use CronHPA for scheduled horizontal scaling.

• Si el uso de recursos de su aplicación presenta cambios cíclicos difíciles de definir mediante reglas, puede utilizar AHPA para identificar automáticamente patrones de carga de trabajo basados en métricas históricas y realizar el escalado automático de Pods. Para obtener más información, consulte Auto Scaling Prediction (AHPA).

• Para establecer automáticamente límites de recursos para los pods según su uso de recursos, consulte Use Vertical Pod Autoscaler (VPA).

• Para crear directivas de escalado flexibles basadas en eventos de colas de mensajes, programaciones o métricas personalizadas, consulte Event-driven autoscaling.

Soluciones combinadas

Puede utilizar HPA junto con la función de escalado automático de nodos para escalar automáticamente los nodos del clúster cuando los recursos sean insuficientes. Para obtener más información, consulte Enable node auto scaling.