Microservices Engine:システム保護の設定

仕組み

適応型過負荷保護は、CPU 使用率を使用してシステム負荷を測定し、サーバー側トラフィックのスロットリング率を適応的に調整します。予期しないトラフィックスパイクが発生した場合でも、CPU 使用率を設定したしきい値内で比較的安定させます。

シナリオ

適応型過負荷保護は、サーバー側インターフェイスに対して CPU ベースのフォールバック保護を提供します。予期しないインターフェイスでのスパイクによりシステムの CPU 使用率が上昇し、主要インターフェイスの応答時間 (RT) に影響する CPU バウンドのアプリケーションで使用します。

コンソール

[System protection] タブの左側には、適応型過負荷保護イベントが表示されます。右側には、過去 5 分間におけるアプリケーションノードの平均 CPU 使用率の推移が表示されます。

ページ上部には、適応型過負荷保護の [Mode] 設定があります。右側の CPU 使用率の折れ線グラフでは、青の破線が 保護しきい値を示します。これは保護のウォーターマークとなるしきい値です。

イベントは、アルゴリズムの状態変化に基づいてノードレベルでレポートされます。イベントには、スロットリング開始、スロットリング継続中、およびスロットリング終了が含まれます。

イベントの [Actions] 列にある [View] リンクをクリックすると、該当するノード IP アドレスの CPU 使用率データを照会できます。タイムラインはイベントがレポートされた時刻に巻き戻されるため、イベントがトリガーされた時点の CPU 使用率とノードのスロットリング確率を確認できます。

仕組み

合計 QPS スロットリングは、ノードレベルの合計 QPS を追跡します。これは 1 つのノード上のすべてのサーバー側インターフェイスの QPS の合計であり、しきい値を超えるリクエストをスロットリングします。

シナリオ

すべてのシステムが CPU バウンドの傾向が強いとは限りません。一部のアプリケーションは、メモリ、ネットワーク、またはその他の制約により、CPU 負荷が低い場合でもパフォーマンスが低下します。合計 QPS スロットリングはノードの合計 QPS に基づいてトラフィックをスロットリングするため、トラフィックベースの保護方法を提供します。

予期しないインターフェイスでのスパイクが限られたリソースの競合を引き起こし、主要インターフェイスに影響する場合は、合計 QPS スロットリングを使用します。

コンソール

[System protection] タブの左側には、合計 QPS スロットリングイベントが表示されます。右側には、過去 5 分間におけるアプリケーションノードの平均合計 QPS の推移が表示されます。

右側の折れ線グラフには、[Total QPS]、[Passed QPS]、[Blocked QPS] の推移曲線が、しきい値の参照線とともに表示されます。これにより、スロットリングの効果を確認できます。

イベントは、合計 QPS スロットリングが実際に発生したノードとインターフェイスに基づき、ノードおよびインターフェイスレベルでレポートされます。イベントは 5 分ごとにレポートされ、直前の 5 分間に発生したスロットリングを対象とします。

イベントの [Actions] 列にある [View] リンクをクリックすると、該当するノード IP アドレスの合計 QPS を照会できます。タイムラインは、イベントがレポートされた時刻付近まで巻き戻されるため、ノードの合計 QPS とスロットリング動作が想定どおりかを確認できます。インターフェイス詳細ページとノード詳細ページでは、インターフェイスおよびノードレベルのデータなど、より詳細な情報を確認できます。

仕組み

合計同時実行数スロットリングは、ノードレベルの合計同時実行数を追跡します。これは 1 つのノード上のすべてのサーバー側インターフェイスの同時リクエスト数の合計であり、しきい値を超えるリクエストをスロットリングします。

シナリオ

呼び出し RT が高い (一般的に 1 秒超) シナリオでは、QPS スロットリングには明確な問題があります。スレッドプール、メモリ、接続プールなどの競合するシステムリソースが占有されると、リクエストがキューに溜まり、インターフェイスの RT がさらに上昇します。QPS ベースのスロットリングだけに依存すると、毎秒少数のリクエストはシステムに流入し続けますが、キューに溜まったリクエストは数秒以内に処理できません。キューが増大し、RT がさらに上昇し、新規および既存の両方のリクエストの RT が大幅に増加します。

同時実行数スロットリングでは、一定数のリクエストが未完了のまま残っている間、新規リクエストが直ちに拒否されます。リクエストはスロットリングされますが、システムが現在のリクエストを処理し終えた後は、新規リクエストがより短い待ち時間で通過します。全体として、リクエストの成功率と平均 RT の両方が大幅に改善します。

予期しないインターフェイスでのスパイクが限られたリソースの競合、キューの増大、およびすべてのリクエストの RT 上昇を引き起こす場合は、合計同時実行数スロットリングを使用します。

コンソール

[System protection] タブの左側には、合計同時実行数スロットリングイベントが表示されます。右側には、過去 5 分間におけるアプリケーションノードの合計同時リクエスト数の平均値の推移が表示されます。

イベントは、合計同時実行数スロットリングが実際に発生したノードとインターフェイスに基づき、ノードおよびインターフェイスレベルでレポートされます。イベントは 5 分ごとにレポートされ、直前の 5 分間に発生したスロットリングを対象とします。

イベントの [Actions] 列にある [View] リンクをクリックすると、該当するノード IP アドレスの合計同時実行数を照会できます。タイムラインは、イベントがレポートされた時刻付近まで巻き戻されるため、ノードの合計同時実行数とスロットリング動作が想定どおりかを確認できます。インターフェイス詳細ページとノード詳細ページでは、インターフェイスおよびノードレベルのデータなど、より詳細な情報を確認できます。

仕組み

異常コールのサーキットブレークは、各クライアント側インターフェイスのエラー率を追跡します。エラー率が設定したしきい値を超えると、そのインターフェイスのサーキットブレーカーがトリップします。サーキットブレーク中は、インターフェイスへのリクエストはフェイルファストします。一定間隔で、システムはプローブリクエストを通過させます。プローブリクエストが成功すると、サーキットブレークは終了します。

シナリオ

異常コールのサーキットブレークは、主に次の 2 つのシナリオを対象とします。

• タイムアウトエラー ：クライアント側インターフェイスでタイムアウトエラー率が高い場合は、通常、サービス提供側に問題があることを示します。これにより、呼び出し元であるアプリケーションにリクエストが溜まり、アプリケーションの他のインターフェイスにも影響します。サーキットブレークにより、提供側が異常な間はこれらのリクエストがフェイルファストし、滞留を防止します。

• タイムアウト以外のエラー ：クライアント側インターフェイスのタイムアウト以外のエラー率が高すぎる場合、異常コールのサーキットブレークは、処理可能なスロットリング例外をスローします。これにより縮退効果が得られ、異常時のユーザーエクスペリエンスが向上します。

コンソール

[System protection] タブの左側には、異常コールのサーキットブレークイベントが表示されます。右側には、過去 5 分間におけるアプリケーションのエラー率上位 10 インターフェイスが表示されます。

イベントは、異常コールのサーキットブレークが実際に発生したノードとインターフェイスに基づき、ノードおよびインターフェイスレベルでレポートされます。イベントは 5 分ごとにレポートされ、直前の 5 分間に発生したスロットリングを対象とします。

詳細設定

仕組み

スローコールのサーキットブレークは、各クライアント側インターフェイスのスローコール率を追跡します。スローコール率が設定したしきい値を超えると、そのインターフェイスのサーキットブレーカーがトリップします。サーキットブレーク中は、インターフェイスへのリクエストはフェイルファストします。一定間隔で、システムはプローブリクエストを通過させます。プローブリクエストが成功すると、サーキットブレークは終了します。

シナリオ

スローコールのサーキットブレークは、基本的に異常コールのサーキットブレークのタイムアウトシナリオと同じシナリオを対象とします。違いは、タイムアウト設定に依存せずに、スローコールを定義する RT の基準を動的に調整できる点です。

コンソール

[System protection] タブの左側には、スローコールのサーキットブレークイベントが表示されます。右側には、過去 5 分間におけるアプリケーションの平均 RT 上位 10 インターフェイスが表示されます。

イベントは、スローコールのサーキットブレークが実際に発生したノードとインターフェイスに基づき、ノードおよびインターフェイスレベルでレポートされます。イベントは 5 分ごとにレポートされ、直前の 5 分間に発生したスロットリングを対象とします。

詳細設定

仕組み

すべてのシステム保護機能に対して例外を設定できます。システム保護は、例外リストに含まれるインターフェイスを、ルールをチェックせずに常に通過させます。

例外を使用するには、エージェントバージョン 4.2.0 以降が必要です。

シナリオ

多くの場合、例外を設定する必要があるのは、ヘルスチェックエンドポイントと重要なシステムインターフェイスのみです。ヘルスチェックエンドポイントの例外により、ノードのヘルスステータスが影響を受けることを防止します。重要なシステムインターフェイスには、独自のインターフェイスレベルのスロットリング制限があり、システムレベルのスロットリングの影響を受けないことが想定されています。

コンソール

[System protection] タブの左側には、直接選択できるインターフェイスが表示されます。これらは直近に呼び出されたインターフェイスです。左側に表示されないインターフェイスについては、入力ボックスに名前を入力して Enter を押し、選択したインターフェイスに追加します。

選択したインターフェイスは、× をクリックして 1 つずつ削除するか、[Remove all] をクリックしてすべてクリアできます。システム保護は、選択したインターフェイスに設定済みのルールを適用しません。