Container Service for Kubernetes:Ajuste fino do comportamento de dimensionamento do HPA

Scale-out rápido para workloads com picos

Para picos repentinos de tráfego, como promoções relâmpago, lançamentos de produtos ou campanhas promocionais.

behavior:
  scaleUp:
    policies:
    - type: Percent
      value: 900               # Increase the current pod count by 900%
      periodSeconds: 15

Como funciona: A cada 15 segundos, o controlador tenta adicionar 900% da contagem atual de pods, o que escala o workload para 10 vezes suas réplicas atuais.

Progressão de dimensionamento a partir de 1 réplica:

1 -> 10 -> 100 -> 1000

A contagem final é limitada por maxReplicas.

Dimensionamento equilibrado com scale-in conservador

Escale rapidamente para cima ao enfrentar aumentos de tráfego e lentamente para baixo a fim de evitar a remoção prematura de pods.

behavior:
  scaleUp:
    stabilizationWindowSeconds: 0
    policies:
    - type: Percent
      value: 900               # 10x the current pod count
      periodSeconds: 60
    selectPolicy: Max
  scaleDown:
    stabilizationWindowSeconds: 600   # 10-minute evaluation window
    policies:
    - type: Pods
      value: 1
      periodSeconds: 600              # Remove 1 pod every 10 minutes
    selectPolicy: Min

Como funciona:

• Scale-out: Imediato. A cada 60 segundos, a contagem de pods pode crescer até 900% da contagem atual.

• Scale-in: As métricas devem permanecer baixas por 10 minutos antes do scale-in. Em seguida, apenas 1 pod é removido a cada 10 minutos.

Progressão de scale-in a partir de 20 réplicas:

Desativar scale-in para aplicações críticas

Para aplicações stateful, jobs em lote ou services que processam transações de longa duração em que o scale-in pode interromper as operações.

behavior:
  scaleDown:
    selectPolicy: Disabled            # Completely disable scale-in
  scaleUp:
    stabilizationWindowSeconds: 60
    policies:
    - type: Percent
      value: 100
      periodSeconds: 60
    selectPolicy: Max

Como funciona: selectPolicy: Disabled no scaleDown impede a remoção de pods. O workload cresce, mas nunca diminui automaticamente. O scale-out dobra a contagem de pods a cada 60 segundos, após um atraso de estabilização de 60 segundos.

Para fazer scale-in manualmente, exclua o HPA e execute kubectl scale para definir a contagem desejada de réplicas, ou altere temporariamente selectPolicy para permitir o scale-in automático.

Dimensionamento otimizado para custo com crescimento controlado

Evite provisionamento excessivo durante picos de curta duração e reduza a capacidade somente após demanda baixa sustentada.

behavior:
  scaleUp:
    stabilizationWindowSeconds: 120   # Wait 2 minutes before scaling out
    policies:
    - type: Percent
      value: 50                       # 50% growth
      periodSeconds: 120
    - type: Pods
      value: 2                        # Or add 2 pods
      periodSeconds: 120
    selectPolicy: Min                 # Use whichever adds fewer pods
  scaleDown:
    stabilizationWindowSeconds: 900   # 15-minute evaluation window
    policies:
    - type: Percent
      value: 25                       # Remove 25% of pods
      periodSeconds: 600
    - type: Pods
      value: 3                        # Or remove 3 pods
      periodSeconds: 600
    selectPolicy: Min

Como funciona:

• Scale-out: Uma janela de estabilização de 2 minutos filtra picos transitórios. selectPolicy: Min adiciona o menor valor entre 50% ou 2 pods a cada 2 minutos, limitando o desperdício.

• Scale-in: Uma janela de avaliação de 15 minutos garante demanda baixa sustentada antes da remoção. Remove no máximo 25% ou 3 pods (o que for menor) a cada 10 minutos.

Progressão de scale-out a partir de 4 réplicas:

Com selectPolicy: Min, a política Pods limita o crescimento a 2 pods por período até que o cálculo percentual fique abaixo de 2.

Dimensionamento adaptativo para workloads imprevisíveis

Lide com padrões de tráfego variáveis com scale-out responsivo e scale-in cauteloso.

behavior:
  scaleUp:
    stabilizationWindowSeconds: 30
    policies:
    - type: Pods
      value: 4
      periodSeconds: 60
    - type: Percent
      value: 50
      periodSeconds: 60
    selectPolicy: Max                 # Use whichever adds more pods
  scaleDown:
    stabilizationWindowSeconds: 600
    policies:
    - type: Pods
      value: 2
      periodSeconds: 300
    - type: Percent
      value: 20
      periodSeconds: 300
    selectPolicy: Min                 # Use whichever removes fewer pods

Como funciona:

• Scale-out: Após um atraso de estabilização de 30 segundos, o controlador adiciona 4 pods ou 50% da contagem atual (o que for maior) a cada 60 segundos. O selectPolicy assimétrico — Max para scale-out, Min para scale-in — impulsiona crescimento agressivo e redução conservadora.

• Scale-in: Exige 10 minutos de métricas baixas sustentadas. Em seguida, remove 2 pods ou 20% dos pods atuais (o que for menor) a cada 5 minutos.

Teste em staging primeiro

• Simule padrões de carga realistas em staging antes de aplicar em produção.

• Valide que as métricas escolhidas refletem com precisão o desempenho da sua aplicação.

• Teste casos extremos, incluindo picos rápidos de tráfego e utilização baixa sustentada.

Planeje os atrasos do Cluster Autoscaler

Quando o HPA faz scale-out rapidamente, o cluster pode não ter capacidade de nós suficiente. O Cluster Autoscaler provisiona novos nós para pods não agendáveis, mas isso leva de 1 a 3 minutos. Considere esse atraso nas suas expectativas. Consulte Dimensionamento de nós.

Combine com outras estratégias de dimensionamento automático

• Use o Vertical Pod Autoscaler (VPA) junto com o HPA para workloads que precisam de dimensionamento horizontal e vertical.

• Use métricas personalizadas e adaptadores externos para dimensionamento além de CPU e memória.