Container Service for Kubernetes:水平 Pod オートスケーラー (HPA) の使用

事前準備

HPA を効果的に使用するために、Kubernetes の公式ドキュメント「Horizontal Pod Autoscaling」をお読みいただき、その基本原則、アルゴリズム、設定可能なスケーリング動作を理解することを推奨します。

さらに、Alibaba Cloud Container Service for Kubernetes (ACK) クラスターは、さまざまなワークロードのスケーリング (スケジューリング層の弾力性) およびノードのスケーリング (リソース層の弾力性) ソリューションを提供します。先に進む前に、「オートスケーリング」をお読みいただき、各ソリューションのユースケースと制限を理解してください。

前提条件

• ACK マネージドクラスターまたはACK 専用クラスターが作成されていること。詳細については、「Kubernetes クラスターの作成」をご参照ください。

• kubectl コマンドを使用して HPA を実装する場合、kubectl を使用して Kubernetes クラスターに接続する必要があります。詳細については、「クラスターの KubeConfig を取得し、kubectl を使用してクラスターに接続する」をご参照ください。

コンソールでの HPA アプリケーションの作成

ACK は HPA と統合されており、コンソールから HPA を有効にしたアプリケーションを作成できます。新しいアプリケーションを作成するとき、または既存のアプリケーションに対して HPA を有効にできます。ワークロードごとに作成する HPA は 1 つだけにすることを推奨します。

kubectl を使用した HPA アプリケーションの作成

オーケストレーションテンプレートを使用して手動で HPA を作成し、対象の Deployment にバインドすることもできます。ワークロードごとに作成する HPA は 1 つだけにすることを推奨します。この例では、HPA をサポートする Nginx アプリケーションをデプロイする方法を示します。

1. nginx.yml という名前のファイルを作成し、次の内容をコピーします。

   重要

   HPA を実装するには、Pod にリソースの requests を設定する必要があります。設定しない場合、HPA は機能しません。リソースプロファイリング機能を使用して、過去のリソース使用状況データを分析し、コンテナの Requests と Limits を設定するための推奨事項を取得できます。詳細については、「リソースプロファイリング」をご参照ください。

   YAML テンプレート

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx  
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 # 実際の  に置き換えます。
           ports:
           - containerPort: 80
           resources:
             requests:         # requests を設定する必要があります。設定しない場合、HPA はメトリクスを計算できないため、ステータスが 'unknown' になります。
               cpu: 500m

2. 次のコマンドを実行して、Nginx アプリケーションを作成します。

   kubectl apply -f nginx.yml

3. hpa.yml という名前のファイルを作成し、次の内容をコピーして HPA を作成します。

   scaleTargetRef を使用して、HPA の対象オブジェクトを指定します。この例では、HPA は nginx という名前の Deployment にバインドされ、すべての Pod 内のコンテナの平均 CPU 使用率が 50% に達するとスケーリング操作をトリガーします。

   Kubernetes 1.24 以降

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Deployment の最小レプリカ数。1 以上の整数である必要があります。
     maxReplicas: 10  # Deployment の最大レプリカ数。minReplicas より大きい必要があります。
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50 # 目標の平均リソース使用率。平均リソース使用量と要求リソース量の比率です。
                  

   Kubernetes 1.24 未満

   apiVersion: autoscaling/v2beta2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # 1 以上の整数である必要があります。
     maxReplicas: 10  # 最小レプリカ数より大きい必要があります。
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
                  

   CPU とメモリの両方のメトリクスを指定する必要がある場合は、2 つの HPA を作成する代わりに、cpu と memory の両方のリソースタイプを metrics フィールドで指定できます。HPA は、いずれかのメトリクスがスケーリングのしきい値に達したことを検出すると、スケーリング操作を実行します。

   metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
     - type: Resource
       resource:
         name: memory
         target:
           type: Utilization
           averageUtilization: 50

4. 次のコマンドを実行して、HPA を作成します。

   kubectl apply -f hpa.yml

   この時点で、kubectl describe hpa <HPA 名> コマンドを実行します。この例では、HPA 名は nginx-hpa です。期待される出力は次の警告メッセージです。これは、HPA がまだデプロイ中であることを示します。kubectl get hpa コマンドを実行して、HPA のステータスを確認できます。

   Warning  FailedGetResourceMetric       2m (x6 over 4m)  horizontal-pod-autoscaler  missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5897-mqzs7
   
   Warning  FailedComputeMetricsReplicas  2m (x6 over 4m)  horizontal-pod-autoscaler  failed to get cpu utilization: missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5

5. HPA が作成され、Pod がスケーリング条件を満たした後 (この例では、Nginx Pod の CPU 使用率が 50% を超えた場合)、kubectl describe hpa <HPA-name> コマンドを再度実行して、水平スケーリングのステータスを表示できます。

   次の出力は、HPA が正しく実行されていることを示しています。

   Type    Reason             Age   From                       Message
     ----    ------             ----  ----                       -------
     Normal  SuccessfulRescale  5m6s  horizontal-pod-autoscaler  New size: 1; reason: All metrics below target

関連操作

デフォルトのスケーリング動作がビジネス要件を満たさない場合は、behavior フィールドを使用して、スケールダウン (scaleDown) とスケールアップ (scaleUp) の動作をより詳細に設定できます。詳細については、「設定可能なスケーリング動作」をご参照ください。

behavior の典型的なシナリオには、以下のようなものがあります。

• 突然のトラフィックスパイク時の迅速なスケールアウト。

• 頻繁に変動するワークロードに対する、迅速なスケールアウトと緩やかなスケールイン。

• 状態に敏感なアプリケーションのスケールインの無効化。

• リソースに制約のある、またはコストに敏感なシナリオでは、安定化ウィンドウ (stabilizationWindowSeconds) がスケールアウト率を制限し、一時的な変動による頻繁な調整を減らします。

behavior の設定の説明と例については、「HPA のスケーリング感度の調整」をご参照ください。

よくある質問

• HPA メトリックの current フィールドが unknown と表示される原因

• HPA スケーリング失敗のトラブルシューティング

• ローリングアップデート中に HPA が余分な Pod を作成する原因

• しきい値に達しても HPA がスケーリングしない原因

• HPA メトリック収集間隔の設定方法

• CronHPA と HPA の互換性とその仕組み

• 初期リソース急増による HPA の過剰なスケーリングを防止する方法

• 監査ログでメトリック値がしきい値を下回っているにもかかわらず HPA がスケーリングした原因

• HPA による Pod のスケールイン順序の制御可否

• HPA 使用率メトリックの単位の意味

• kubectl get hpa 実行後に target 列が unknown と表示された場合の対処法

• HPA でサポートされているメトリックの確認方法

• カスタム Nginx Ingress ログフォーマットでの自動スケーリング

• Prometheus データリクエスト URL の取得方法

• CLI を使用した sls_ingress_qps メトリックの取得

• kubectl でインストールした VPA をコンソールから管理する方法

• alibaba-cloud-metrics-adapter イメージのプル失敗

関連ドキュメント

その他の関連操作

• Kubernetes External Metrics を使用して Alibaba Cloud コンポーネントのメトリクスに基づいて水平 Pod オートスケーリングを実装するには、「Nginx Ingress メトリクスに基づく水平 Pod オートスケーリング」をご参照ください。

• Managed Service for Prometheus のメトリクスを HPA 互換のメトリクスに変換するには、「Managed Service for Prometheus のメトリクスに基づく水平 Pod オートスケーリング」をご参照ください。

• HPA のトラブルシューティングについては、「ノードオートスケーリング FAQ」をご参照ください。

• CronHPA と HPA を連携させる必要がある場合は、「CronHPA と HPA の併用」をご参照ください。

その他のワークロードのスケーリングソリューション

• アプリケーションに周期的なリソース使用パターンがあり、スケジュールに基づいて Pod をスケーリングする必要がある場合は、「CronHPA を使用したスケジュールに基づく水平スケーリング」をご参照ください。

• アプリケーションのリソース使用に周期的な変化があり、ルールで定義するのが難しい場合は、AHPA を使用して過去のメトリクスに基づいてワークロードパターンを自動的に識別し、Pod のオートスケーリングを実行できます。詳細については、「オートスケーリング予測 (AHPA)」をご参照ください。

• Pod のリソース使用量に基づいてリソース制限を自動的に設定するには、「垂直 Pod オートスケーラー (VPA) の使用」をご参照ください。

• メッセージキュー、スケジュール、またはカスタムメトリクスからのイベントに基づいて柔軟なスケーリングポリシーを作成するには、「イベント駆動のオートスケーリング」をご参照ください。

組み合わせソリューション

HPA をノードオートスケーリング機能と併用して、リソースが不足したときにクラスターノードを自動的にスケーリングできます。詳細については、「ノードオートスケーリングの有効化」をご参照ください。