Serverless App Engine:auto scaling ポリシーにおける詳細パラメーターのベストプラクティス

PTS コンソールにログインし、SAE アプリケーションでストレステストを実行します。

ストレステストが開始されると、SAE アプリケーションの auto scaling イベントを表示できます。

[ソースタイプ] でフィルタリングし、[auto scaling (HorizontalPodAutoscaler)] を選択します。理由が SuccessfulRescale のレコードが表示されます。詳細を展開すると、外部メトリクス slb_incall_qps がターゲット値を超えたためにスケールアウトがトリガーされたことがわかります。

auto scaling イベントは、HPA コントローラーが SAE アプリケーションを 5 インスタンスに拡張したことを示しています。

メトリクスベースの auto scaling ポリシーでスケールアウトステップサイズパラメーターを設定します。

1. 対象アプリケーションの [基本情報] ページで、[Auto Scaling] タブをクリックし、追加した auto scaling ポリシーの [操作] 列にある [編集] をクリックします。

2. [auto scaling ポリシーの編集] パネルで、[詳細設定] をクリックして詳細パラメーター設定エリアを展開します。

3. [詳細設定] エリアで、スケールアウトステップサイズを 1 に設定し、他の詳細パラメーターは設定せずに [OK] をクリックします。

PTS を使用して、SAE アプリケーションでストレステストを実行します。

ストレステストが開始されたら、[アプリケーションイベント] ページに移動して、対象の SAE アプリケーションの auto scaling イベントを表示します。

auto scaling イベントは、SAE アプリケーションのインスタンスが一度に 5 インスタンスにスケールアウトされるのではなく、1 つずつスケールアウトされることを示しています。これは、スケールアウトステップサイズパラメーターが有効であり、毎回スケールアウトされるインスタンスの数を制限し、スケールアウトのリズムを制御することで、システムの安定性と応答速度のバランスを取っていることを示します。

Performance Testing Service (PTS) コンソールにログインし、対象の SAE アプリケーションでクイックストレステストを実行します。

ストレステストが開始された後、ストレステストの開始時刻と SAE アプリケーションのスケールアウト時刻を比較できます。

テスト結果から、スケールアウト安定化ウィンドウパラメーターを設定しない場合、SAE アプリケーションがトラフィックを処理し始めてから約 20 秒後にインスタンスが迅速にスケールアウトされることがわかります。

メトリクスベースの auto scaling ポリシーでスケールアウト安定化ウィンドウパラメーターを設定します。

1. 対象アプリケーションの [基本情報] ページで、[Auto Scaling] タブをクリックし、追加した auto scaling ポリシーの [操作] 列にある [編集] をクリックします。

2. [auto scaling ポリシーの編集] パネルで、[詳細設定] をクリックして詳細パラメーター設定エリアを展開します。

3. [詳細設定] エリアで、スケールアウト安定化ウィンドウを 300 秒に設定し、他の詳細パラメーターは設定せずに [OK] をクリックします。

PTS ツールを使用して、対象の SAE アプリケーションでクイックストレステストを実行します。

ストレステストが開始された後、ストレステストの開始時刻と SAE アプリケーションのスケールアウト時刻を比較できます。

テスト結果から、スケールアウト安定化ウィンドウパラメーターを 300 に設定すると、SAE アプリケーションがトラフィックを受信した直後にインスタンスのスケールアウト操作がトリガーされるのではなく、指定された安定化ウィンドウが終了した後に開始されることがわかります。これは、スケールアウト安定化ウィンドウパラメーターがスケールアウト操作を効果的に遅延させ、短期的なトラフィックの変動によるリソースの浪費を回避できることを示しています。

Performance Testing Service (PTS) コンソールにログインし、対象の SAE アプリケーションでクイックストレステストを実行します。

ストレステストが完了したら、[アプリケーションイベント] ページに移動して、アプリケーションのスケーリングイベントを表示します。

[ソースタイプ] で [auto scaling (HorizontalPodAutoscaler)] をフィルタリングすると、イベントリストに 2 つの SuccessfulRescale イベントが表示されます。1 つ目はテスト中の 5 インスタンスへのスケールアウトで、外部メトリクス slb_incall_qps がターゲットを超えたときにトリガーされました。2 つ目はテスト後の 1 インスタンスへのスケールインで、すべてのメトリクスがターゲットを下回ったときにトリガーされました。

テスト結果から、スケールインの無効化パラメーターが有効になっていない場合、ストレステスト完了後にアプリケーションは 1 インスタンスにスケールインされることがわかります。

メトリクスベースの auto scaling ポリシーで、スケールインの無効化を有効にします。

1. 対象アプリケーションの [基本情報] ページで、[Auto Scaling] タブをクリックし、追加した auto scaling ポリシーの [操作] 列にある [編集] をクリックします。

2. [詳細設定] エリアで、スケールインの無効化を有効にします。

PTS ツールを使用して、対象の SAE アプリケーションでクイックストレステストを実行します。

ストレステストが完了した後 (トラフィックが 0 になった後)、アプリケーションインスタンスがスケールインされたかどうかを確認します。

インスタンスリストには、5 つすべてのインスタンスが 実行中 状態であることが表示されます。4 つのインスタンスは約 15 分間 (スケールアウト中に作成)、1 つのインスタンスは約 5 時間 (元のインスタンス) 実行されています。どのインスタンスもスケールインされていません。

テスト結果から、ストレステスト完了後約 5 分間、アプリケーションインスタンスの数は 5 のままで、スケールイン操作は発生しないことがわかります。これは、スケールインの無効化パラメーターが有効であることを示しています。これにより、トラフィックの変動や誤判断による過剰なリソースのリリースを効果的に回避し、サービスの安定性を確保できます。