Container Service for Kubernetes:Scale pods based on Nginx Ingress metrics

前提条件

開始する前に、次のことを確認してください。

• kubectl が構成された ACK クラスター

• SLS ログ収集が有効化された Ingress コントローラー (クラスター作成時にデフォルトで有効化されます)

• Helm チャートをインストールし、HPA リソースを作成する権限

仕組み

ack-alibaba-cloud-metrics-adapter コンポーネントは、Alibaba Cloud モニタリングサービスと Kubernetes External Metrics API を橋渡しします。インストール後、HPA は sls_ingress_qps や sls_ingress_latency_p9999 などの SLS Ingress メトリックをクエリし、それに応じて Deployment のレプリカ数を調整できます。

ステップ 1: ack-alibaba-cloud-metrics-adapter のインストール

ack-alibaba-cloud-metrics-adapter コンポーネントは、External Metrics API を介して Kubernetes が ECS、SLB、RDS などの Alibaba Cloud サービスからモニタリングデータを取得できるようにします。

1. 「Container Service 管理コンソール」にログインします。ナビゲーションウィンドウで、[クラスター] をクリックします。

2. クラスターの名前をクリックします。左側のナビゲーションウィンドウで、[アプリケーション] > [Helm] を選択します。

3. ［Helm］ページで、［作成］をクリックします。［基本情報］の構成を完了し、［ack-alibaba-cloud-metrics-adapter］を選択して、［次へ］をクリックします。

4. 「パラメーター設定」ページで、「チャート バージョン」を選択し、[OK] をクリックします。

ステップ 3: Ingress の作成

1. クラスター管理ページの左側のナビゲーションウィンドウで、[ネットワーク] > [Ingress] を選択します。[Ingress] ページで、[Ingress の作成] をクリックします。

2. 必須フィールドを入力し、[OK] をクリックします。コンソールにより、[Ingress] ページにリダイレクトされます。

3. 「名前」列で、Ingress 名をクリックして、そのルーティングルールを表示します。詳細については、「Ingress の管理」をご参照ください。

ステップ 4: HPA の構成

HPA は、異なるスケーリングセマンティクスを持つ 2 つの SLS Ingress メトリックをサポートしています。

1. 次の内容で ingress-hpa.yaml を作成します。

   パラメーター	必須	説明
   sls.ingress.route	はい	形式: <namespace>-<svc>-<port>。例: default-nginx-80
   sls.logstore	はい	Simple Log Service の Logstore。デフォルト: nginx-ingress
   sls.project	はい	Simple Log Service の Project。デフォルト: k8s-log-<cluster-id>
   sls.internal.endpoint	いいえ	内部ネットワーク経由で SLS にアクセスするかどうか。デフォルト: true。パブリックネットワークを使用するには false に設定します。

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: ingress-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx-deployment-basic
     minReplicas: 2
     maxReplicas: 10
     metrics:
       - type: External
         external:
           metric:
             name: sls_ingress_qps
             selector:
               matchLabels:
                 sls.project: "<your-sls-project>"      # デフォルト: k8s-log-<cluster-id>
                 sls.logstore: "nginx-ingress"           # Nginx Ingress ログのデフォルト SLS Logstore
                 sls.ingress.route: "default-nginx-80"  # 形式: <namespace>-<svc>-<port>
           target:
             type: AverageValue
             averageValue: 10   # Pod あたりの平均 QPS が 10 を超えるとスケールアップします
       - type: External
         external:
           metric:
             name: sls_ingress_latency_p9999
             selector:
               matchLabels:
                 sls.project: "<your-sls-project>"
                 sls.logstore: "nginx-ingress"
                 sls.ingress.route: "default-nginx-80"
                 # sls.internal.endpoint: "true"         # true = 内部ネットワーク (デフォルト); false = パブリックネットワーク
           target:
             type: Value
             value: 10   # 99.99パーセンタイル レイテンシが 10 ms を超えるとスケールアップします

   次の表は、HPA 構成で使用されるパラメーターについて説明しています。

2. 構成を適用します。

   kubectl apply -f ingress-hpa.yaml

スケーリングの検証

Ingress ドメインに対して 5 分間の負荷テストを実行し、スケールアップをトリガーします。

# 300 秒間、10 個の同時リクエストを送信します
ab -t 300 -c 10 <Ingress に設定されたドメイン名>

HPA ステータスをリアルタイムで監視します。

kubectl get hpa ingress-hpa --watch

スケールアップが成功した場合の予想される出力 (REPLICAS が MAXPODS に達した場合):

NAME            REFERENCE                              TARGETS           MINPODS   MAXPODS   REPLICAS   AGE
ingress-hpa     Deployment/nginx-deployment-basic      21/10 (avg)       2         10        10         7m49s

トラフィックがしきい値を下回ると、REPLICAS は最小値に戻ります。

トラブルシューティング

kubectl describe hpa ingress-hpa を実行し、Conditions フィールドを確認してトラブルシューティングを開始します。Type 列と Status 列を使用して問題を特定し、以下の手順に従ってください。

「target」列に「unknown」と表示される

1. kubectl describe hpa <hpa-name> を実行し、Conditions フィールドを確認します。

   • AbleToScale が False の場合: Deployment が正常であることを確認します。

   • ScalingActive が False の場合: 次のステップに進みます。

2. External Metrics API が利用可能かどうかを確認するには、次のコマンドを実行します。

   kubectl get --raw "/apis/external.metrics.k8s.io/v1beta1/"

   応答が Error from server (NotFound) の場合は、alibaba-cloud-metrics-adapter の起動ステータスを確認してください。アダプターが正常に実行されており、HPA メトリックが Ingress 関連である場合は、まず SLS コンポーネントをデプロイします。詳細については、「Nginx Ingress のアクセスログを収集して分析する」をご参照ください。

3. sls.ingress.route の形式を確認します。値は <namespace>-<svc>-<port> である必要があります。ここで、

   • namespace: Ingress が存在する名前空間

   • svc: Ingress に関連付けられた Service 名

   • port: その Service のポート名

ack-alibaba-cloud-metrics-adapter イメージ (バージョン 1.3.7) のプルに失敗しました

バージョン 1.3.7 にアップグレードすると、次のメッセージが表示される場合があります。

Failed to pull image "registry-<region-id>-vpc.ack.aliyuncs.com/acs/alibaba-cloud-metrics-adapter-amd64:v0.2.9-ba634de-aliyun".

これは、コンポーネントが直接アップデートをサポートしていないために発生します。これを解決するには、次の手順を実行します。

1. 現在のコンポーネント構成をバックアップします。

2. 古いバージョンをアンインストールします。

3. バックアップ構成を使用して最新バージョンをインストールします。

よくある質問

kubectl get --raw "/apis/external.metrics.k8s.io/v1beta1/namespaces/*/sls_ingress_qps?labelSelector=sls.project={{SLS_Project}},sls.logstore=nginx-ingress"

次のステップ

• Alibaba Cloud Prometheus メトリックに基づく水平ポッド自動スケーリング

• Nginx Ingress トラフィックメトリックに基づく複数アプリケーションの水平ポッド自動スケーリング