Container Service for Kubernetes:Scale applications by ALB Ingress QPS with HPA

Pré-requisitos

Certifique-se de que:

• O alibaba-cloud-metrics-adapter esteja instalado na versão 2.3.0 ou superior.

• O controlador do ALB Ingress esteja instalado.

• O Apache Benchmark esteja instalado.

• Um projeto do Log Service tenha sido criado.

• Dois vSwitches estejam implantados em zonas diferentes da Virtual Private Cloud (VPC) onde seu cluster está localizado.

Como funciona

1. Crie um Deployment e um Service para sua aplicação.

2. Configure um ALB Ingress para rotear o tráfego externo para o Service.

3. Defina um Horizontal Pod Autoscaler (HPA) que monitore a métrica sls_alb_ingress_qps do Log Service.

4. Quando o QPS ultrapassar o limiar definido por pod, o HPA expandirá o Deployment. Se o QPS diminuir, o HPA reduzirá a escala automaticamente.

Etapa 1: Crie uma aplicação e um Service

1. Crie um arquivo chamado tea.yaml:

   apiVersion: apps/v1
   kind: Deployment
   metadata:
     name: nginx-deployment-basic
     labels:
       app: tea
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: tea
     template:
       metadata:
         labels:
           app: tea
       spec:
         containers:
         - name: tea
           image: nginx:1.7.9
           ports:
           - containerPort: 80
   ---
   apiVersion: v1
   kind: Service
   metadata:
     name: tea-svc
     namespace: default
   spec:
     ports:
       - port: 80
         protocol: TCP
         targetPort: 80
     selector:
       app: tea
     type: NodePort

2. Aplique o manifesto:

   kubectl apply -f tea.yaml

Etapa 2: Crie um ALB Ingress

Etapa 3: Crie um HPA

1. Crie um arquivo chamado hpa.yaml:

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: ingress-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx-deployment-basic   # The Deployment to scale
     minReplicas: 2                   # Minimum number of pods
     maxReplicas: 10                  # Maximum number of pods
     metrics:
       - type: External
         external:
           metric:
             name: sls_alb_ingress_qps   # ALB QPS metric from Log Service
             selector:
               matchLabels:
                 sls.project: "****"              # Replace with your Log Service project name
                 sls.logstore: "alb_****"         # Replace with your Logstore name
                 sls.ingress.route: "default-tea-svc-80"
                 # Format: <namespace>-<service-name>-<port>
                 # Example: default-nginx-80
           target:
             type: AverageValue        # Scale based on average QPS per pod
             averageValue: 2           # Scale out when average QPS per pod exceeds 2

   Este HPA dimensiona o nginx-deployment-basic entre 2 e 10 pods. A expansão ocorre quando o QPS médio por pod supera 2; a redução acontece quando o QPS cai.

2. Aplique o manifesto:

   kubectl apply -f hpa.yaml

3. Verifique se o HPA foi criado:

   kubectl get hpa

   Saída esperada:

   NAME          REFERENCE                           TARGETS     MINPODS   MAXPODS   REPLICAS   AGE
   ingress-hpa   Deployment/nginx-deployment-basic   0/2 (avg)   2         10        2          4h34m

   O QPS está em 0 porque ainda não há tráfego para a aplicação. A quantidade de pods encontra-se no mínimo (2).

4. (Opcional) Inspecione os detalhes do HPA:

   kubectl describe hpa ingress-hpa

   Saída esperada:

   Name:                                            ingress-hpa
   Namespace:                                       default
   Labels:                                          <none>
   Annotations:                                     <none>
   CreationTimestamp:                               Tue, 31 Jan 2023 11:35:01 +0800
   Reference:                                       Deployment/nginx-deployment-basic
   Metrics:                                         ( current / target )
   "sls_alb_ingress_qps" (target average value):    0 / 2
   Min replicas:                                    2
   Max replicas:                                    10
   Deployment pods:                                 2 current / 2 desired

Etapa 4: Verifique o dimensionamento automático

kubectl get hpa

NAME          REFERENCE                           TARGETS      MINPODS   MAXPODS   REPLICAS   AGE
ingress-hpa   Deployment/nginx-deployment-basic   0/2 (avg)    2         10        2          60m

Próximos passos

• Ajuste as políticas de expansão e redução configurando o campo behavior na especificação do HPA.

• Dimensione com base em outras métricas da Alibaba Cloud.