Container Service for Kubernetes:Usando o Horizontal Pod Autoscaling (HPA)

Antes de começar

Para usar o HPA eficazmente, recomendamos ler a documentação oficial do Kubernetes sobre Horizontal Pod Autoscaling para compreender seus princípios fundamentais, algoritmos e comportamentos de dimensionamento configuráveis.

Além disso, os clusters do Alibaba Cloud Container Service for Kubernetes (ACK) oferecem diversas soluções de dimensionamento de carga de trabalho (elasticidade da camada de agendamento) e dimensionamento de nós (elasticidade da camada de recursos). Antes de prosseguir, leia Auto scaling para entender os casos de uso e as limitações de cada solução.

Pré-requisitos

• Crie um cluster gerenciado ACK ou um cluster dedicado ACK. Para mais informações, consulte Create a Kubernetes cluster.

• Se você usar comandos kubectl para implementar o HPA, conecte-se ao cluster Kubernetes com o kubectl. Para mais informações, consulte Obtain the KubeConfig of a cluster and use kubectl to connect to the cluster.

Criar uma aplicação HPA no console

O ACK integra-se nativamente ao HPA, permitindo criar aplicações habilitadas para HPA diretamente pelo console. Ative o HPA ao criar uma nova aplicação ou em uma aplicação existente. Recomendamos criar apenas um HPA por carga de trabalho.

Criar uma aplicação HPA usando kubectl

Use um modelo de orquestração para criar manualmente um HPA e vinculá-lo ao Deployment alvo. Recomendamos criar apenas um HPA por carga de trabalho. Este exemplo mostra como implantar uma aplicação Nginx com suporte a HPA.

1. Crie um arquivo chamado nginx.yml e copie o conteúdo abaixo para ele.

   Importante

   Para implementar o HPA, defina recursos de request para o Pod. Caso contrário, o HPA não funcionará. Utilize o recurso de perfilamento de recursos para analisar dados históricos de uso e obter recomendações de Requests e Limits para os contêineres. Para mais informações, consulte Resource profiling.

   Modelo yaml

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx  
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 # Replace with your actual <image_name:tags>.
           ports:
           - containerPort: 80
           resources:
             requests:         # You must set requests. Otherwise, HPA cannot calculate metrics, and the status will be 'unknown'.
               cpu: 500m

2. Execute o comando a seguir para criar a aplicação Nginx.

   kubectl apply -f nginx.yml

3. Crie um arquivo chamado hpa.yml e copie o conteúdo seguinte para criar o HPA.

   Use scaleTargetRef para especificar o objeto alvo do HPA. Neste exemplo, o HPA está vinculado a um Deployment chamado nginx e dispara o dimensionamento quando a utilização média de cpu dos contêineres em todos os Pods atinge 50%.

   Kubernetes 1.24 e posteriores

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # The minimum number of replicas for the Deployment. Must be an integer greater than or equal to 1.
     maxReplicas: 10  # The maximum number of replicas for the Deployment. Must be greater than minReplicas.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50 # The target average resource utilization, which is the ratio of average resource usage to the requested resource amount.
                  

   Kubernetes anterior à versão 1.24

   apiVersion: autoscaling/v2beta2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Must be an integer greater than or equal to 1.
     maxReplicas: 10  # Must be greater than the minimum number of replicas.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
                  

   Se precisar especificar métricas de cpu e memória simultaneamente, defina ambos os tipos de recurso cpu e memory no campo metrics em vez de criar dois HPAs separados. O HPA executará o dimensionamento quando detectar que qualquer uma das métricas atingiu o limiar.

   metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
     - type: Resource
       resource:
         name: memory
         target:
           type: Utilization
           averageUtilization: 50

4. Execute o comando abaixo para criar o HPA.

   kubectl apply -f hpa.yml

   Neste momento, execute o comando kubectl describe hpa <HPA name>. Neste exemplo, o nome do HPA é nginx-hpa. A saída esperada é a mensagem de aviso a seguir, indicando que o HPA ainda está sendo implantado. Use o comando kubectl get hpa para verificar o status do HPA.

   Warning  FailedGetResourceMetric       2m (x6 over 4m)  horizontal-pod-autoscaler  missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5897-mqzs7
   
   Warning  FailedComputeMetricsReplicas  2m (x6 over 4m)  horizontal-pod-autoscaler  failed to get cpu utilization: missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5

5. Depois que o HPA for criado e o Pod atender às condições de dimensionamento (neste exemplo, utilização de cpu do Pod Nginx superior a 50%), execute novamente o comando kubectl describe hpa <HPA-name> para visualizar o status do dimensionamento horizontal.

   A saída a seguir indica que o HPA está operando corretamente.

   Type    Reason             Age   From                       Message
     ----    ------             ----  ----                       -------
     Normal  SuccessfulRescale  5m6s  horizontal-pod-autoscaler  New size: 1; reason: All metrics below target

Operações relacionadas

Se o comportamento padrão de dimensionamento não atender aos requisitos do seu negócio, utilize o campo behavior para configurar as ações de scale-down (scaleDown) e scale-up (scaleUp) com maior granularidade. Para mais informações, consulte Comportamento de dimensionamento configurável.

Cenários típicos para uso do campo behavior incluem, mas não se limitam a:

• Scale out rápido durante picos repentinos de tráfego.

• Scale out rápido combinado com scale in lento para cargas de trabalho com flutuações frequentes.

• Desativação do scale-in para aplicações sensíveis a estado.

• Uso da janela de estabilização stabilizationWindowSeconds em cenários com recursos limitados ou sensíveis a custos, restringindo a taxa de scale out para reduzir ajustes frequentes causados por flutuações temporárias.

Para descrições e exemplos da configuração de behavior, consulte Tune HPA scaling sensitivity.

FAQ

• Why does the current field in HPA metrics show as unknown?

• Troubleshooting HPA scaling failures

• Why does HPA create extra pods during a rolling update?

• Why does HPA not scale when a threshold is reached?

• How to configure the HPA metric collection interval

• Is CronHPA compatible with HPA? How does it work?

• How to prevent HPA over-scaling from initial resource spikes

• Why did HPA scale when the metric value was below the threshold in the audit logs?

• Can HPA control the scale-in order of pods?

• What does the unit for the HPA utilization metric mean?

• What should I do if the target column shows unknown after I run kubectl get hpa?

• How to find metrics supported by HPA

• Autoscaling with custom Nginx Ingress log formats

• How can I obtain the Prometheus data request URL?

• Retrieving the sls_ingress_qps metric using the CLI

• How can I manage a VPA installed with kubectl from the console?

• Failed to pull alibaba-cloud-metrics-adapter image

Documentação relacionada

Outras operações relacionadas

• Para implementar o Horizontal Pod Autoscaling com base em métricas de componentes da Alibaba Cloud usando Kubernetes External Metrics, consulte Horizontal Pod Autoscaling based on Nginx Ingress metrics.

• Para converter métricas do Managed Service for Prometheus em métricas compatíveis com HPA, consulte Horizontal Pod autoscaling based on metrics from Managed Service for Prometheus.

• Para solução de problemas do HPA, consulte Node auto scaling FAQ.

• Caso precise coordenar CronHPA e HPA, consulte Use CronHPA with HPA.

Outras soluções de dimensionamento de carga de trabalho

• Se sua aplicação apresenta padrões periódicos de uso de recursos e você precisa dimensionar pods com base em uma programação, consulte Use CronHPA for scheduled horizontal scaling.

• Quando o uso de recursos da aplicação tiver variações cíclicas difíceis de definir por regras, utilize o AHPA para identificar automaticamente padrões de carga de trabalho com base em métricas históricas e realizar o auto scaling de Pods. Para mais informações, consulte Auto Scaling Prediction (AHPA).

• Para definir limites de recursos automaticamente para pods com base no uso real, consulte Use Vertical Pod Autoscaler (VPA).

• Para criar políticas de dimensionamento flexíveis baseadas em eventos de filas de mensagens, programações ou métricas personalizadas, consulte Event-driven autoscaling.

Soluções combinadas

Combine o HPA com o recurso de auto scaling de nós para dimensionar automaticamente os nós do cluster quando os recursos forem insuficientes. Para mais informações, consulte Enable node auto scaling.