Container Service for Kubernetes:HPA を利用した ALB Ingress の QPS によるアプリケーションのスケーリング

前提条件

次の要件が満たされていることを確認します。

• alibaba-cloud-metrics-adapter バージョン 2.3.0 以降がインストールされていること。

• ALB Ingress コントローラーがインストールされていること。

• Apache Benchmark がインストールされていること。

• Log Service プロジェクトが作成されていること。

• クラスターが存在する Virtual Private Cloud (VPC) の異なるゾーンに 2 つのvSwitch がデプロイされていること。

仕組み

1. アプリケーション用の Deployment と Service を作成します。

2. 外部トラフィックを Service にルーティングするための ALB Ingress を作成します。

3. Log Service からのsls_alb_ingress_qps メトリクスを監視する Horizontal Pod Autoscaler (HPA) を作成します。

4. QPS が Pod あたりのしきい値を超えると、HPA は Deployment をスケールアウトします。QPS が低下すると、HPA はスケールインします。

ステップ 1：アプリケーションと Service の作成

1. tea.yaml という名前のファイルを作成します。

   apiVersion: apps/v1
   kind: Deployment
   metadata:
     name: nginx-deployment-basic
     labels:
       app: tea
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: tea
     template:
       metadata:
         labels:
           app: tea
       spec:
         containers:
         - name: tea
           image: nginx:1.7.9
           ports:
           - containerPort: 80
   ---
   apiVersion: v1
   kind: Service
   metadata:
     name: tea-svc
     namespace: default
   spec:
     ports:
       - port: 80
         protocol: TCP
         targetPort: 80
     selector:
       app: tea
     type: NodePort

2. マニフェストを適用します。

   kubectl apply -f tea.yaml

ステップ 2：ALB Ingress の作成

ステップ 3：HPA の作成

1. hpa.yaml という名前のファイルを作成します。

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: ingress-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx-deployment-basic   # スケール対象のDeployment
     minReplicas: 2                   # Podの最小数
     maxReplicas: 10                  # Podの最大数
     metrics:
       - type: External
         external:
           metric:
             name: sls_alb_ingress_qps   # Log ServiceからのALB QPSメトリクス
             selector:
               matchLabels:
                 sls.project: "****"              # Log Service プロジェクト名に置き換えます
                 sls.logstore: "alb_****"         # Logstore 名に置き換えます
                 sls.ingress.route: "default-tea-svc-80"
                 # 形式：<名前空間>--<ポート>
                 # 例：default-nginx-80
           target:
             type: AverageValue        # Podあたりの平均QPSに基づいてスケーリング
             averageValue: 2           # Podあたりの平均QPSが2を超えるとスケールアウト

   この HPA は、nginx-deployment-basic を 2 から 10 の Pod の間でスケーリングします。Pod あたりの平均 QPS が 2 を超えるとスケールアウトし、QPS が低下するとスケールインします。

2. マニフェストを適用します。

   kubectl apply -f hpa.yaml

3. HPA が作成されたことを確認します。

   kubectl get hpa

   想定される出力：

   NAME          REFERENCE                           TARGETS     MINPODS   MAXPODS   REPLICAS   AGE
   ingress-hpa   Deployment/nginx-deployment-basic   0/2 (avg)   2         10        2          4h34m

   まだアプリケーションにトラフィックが到達していないため、QPS は 0 です。Pod 数は最小値 (2) になっています。

4. (オプション) HPA の詳細を確認します。

   kubectl describe hpa ingress-hpa

   想定される出力：

   Name:                                            ingress-hpa
   Namespace:                                       default
   Labels:                                          <none>
   Annotations:                                     <none>
   CreationTimestamp:                               Tue, 31 Jan 2023 11:35:01 +0800
   Reference:                                       Deployment/nginx-deployment-basic
   Metrics:                                         ( current / target )
   "sls_alb_ingress_qps" (target average value):    0 / 2
   Min replicas:                                    2
   Max replicas:                                    10
   Deployment pods:                                 2 current / 2 desired

ステップ 4：自動スケーリングの検証

kubectl get hpa

NAME          REFERENCE                           TARGETS      MINPODS   MAXPODS   REPLICAS   AGE
ingress-hpa   Deployment/nginx-deployment-basic   0/2 (avg)    2         10        2          60m

次のステップ

• HPA 仕様のbehavior フィールドを設定して、スケールアウトとスケールインを調整できます。

• 追加のAlibaba Cloud メトリクスに基づいてスケーリングできます。