Microservices Engine:システム保護の設定

説明

適応型過負荷保護機能は、CPU 使用率をシステム負荷の測定基準として使用し、サーバートラフィックの調整率を適応的に調整します。適応型過負荷保護機能は、予期しないトラフィックの急増シナリオにおいても、CPU 使用率を設定されたしきい値の周りの狭い範囲内で変動させることができます。

有効範囲

適応型過負荷保護はすべてのサーバーインターフェースに有効であり、トラフィック保護ルールよりも優先度が低くなります。

シナリオ

適応型過負荷保護は、サーバーインターフェースに CPU ベースの基本的な保護を提供し、CPU に依存するアプリケーションに適しています。インターフェースで予期しないトラフィックの急増が発生すると、システム CPU 負荷が増加します。その結果、コアインターフェースの応答時間（RT）が増加します。

定常状態の CPU 使用率は、さまざまなアプリケーションのビジネスによって異なります。ストレステストまたは履歴データを使用して、定常状態での最大 CPU 使用率を決定し、しきい値としてより大きな値を設定できます。

GUI の説明

「適応型過負荷保護」セクションの左側には、適応型過負荷保護イベントが表示されます。セクションの右側には、過去 5 分間の各アプリケーションノードの平均 CPU 使用率の傾向が表示されます。

アルゴリズムに基づいて調整ステータスが変化したことを示すイベントがノードに対して報告されます。調整の開始、動作、終了時にシステムがイベントを生成します。

イベントの「アクション」列にある「表示」をクリックすると、特定のノード IP アドレスに対応する CPU 使用率をクエリし、イベントが報告された間隔中のデータを再生できます。これにより、イベントが報告されたときのノード情報（CPU 使用率、調整確率など）を観察できます。

説明

合計 QPS に基づく調整により、システムはノードの合計 QPS を測定できます。合計 QPS は、単一ノード上のすべてのサーバーインターフェースの QPS の合計です。合計 QPS が設定されたしきい値を超えると、システムはリクエストの調整を実行します。

有効範囲

合計 QPS に基づく調整はすべてのサーバーインターフェースに有効であり、トラフィック保護ルールよりも優先度が低くなります。

シナリオ

一部のシステム動作のパフォーマンスは、CPU 使用率に関連していない場合があります。CPU 使用率が低いシナリオでは、メモリ、ネットワーク、またはその他のオブジェクトに関連する問題が原因で、特定のアプリケーションのパフォーマンスが低下する可能性があります。合計 QPS に基づく調整を有効にすると、システムはノードの合計 QPS に基づいてリクエストを調整し、トラフィックベースの保護方法を提供します。

インターフェースで予期しないトラフィックの急増が発生すると、リソースの競合が発生し、リソースが不足します。その結果、コアインターフェースに悪影響が及びます。

ストレステストまたは履歴データを使用して、定常状態でのノードの合計 QPS を決定し、しきい値としてより大きな値を設定できます。

GUI の説明

「合計 QPS 調整」セクションの左側には、合計 QPS に基づく調整のイベントが表示されます。セクションの右側には、過去 5 分間の各アプリケーションノードの平均合計 QPS の傾向が表示されます。

過去 5 分間に合計 QPS に基づいてリクエストが調整されたノードとインターフェースに対してイベントが報告されます。イベント報告間隔は 5 分です。

イベントの「アクション」列にある「表示」をクリックすると、特定のノード IP アドレスに対応する合計 QPS をクエリし、イベントが報告された間隔中のデータを再生できます。これにより、関連ノードの合計 QPS を観察し、イベントが報告されたときに調整が期待どおりに機能しているかどうかを確認できます。インターフェースやノードのデータなどの詳細情報を表示する必要がある場合は、「API の詳細」または「ノードの詳細」ページに移動できます。ページリダイレクト機能は後日提供されます。

説明

合計同時実行数に基づく調整により、システムはノードの合計同時実行数を測定できます。合計同時実行数は、単一ノード上のすべてのサーバーインターフェースの同時実行数の合計です。合計同時実行数が設定されたしきい値を超えると、システムはリクエストの調整を実行します。

有効範囲

合計同時実行数に基づく調整はすべてのサーバーインターフェースに有効であり、トラフィック保護ルールよりも優先度が低くなります。

シナリオ

呼び出しの RT が高い場合（ほとんどの場合 1 秒以上）、合計 QPS に基づく調整を実行すると明らかな問題が発生します。スレッドプール、メモリリソース、接続プールなどのシステムリソースが使用されている場合、リクエストはキューに入れられ、インターフェース RT が増加します。この場合、QPS に基づいてのみ調整を実行すると、1 秒あたりに開始されるリクエストの数は少なくなります。ただし、キューに入れられたリクエストは数秒で処理できません。その結果、さらに多くのリクエストがキューに入れられ、古いリクエストと新しいリクエストの両方の RT が大幅に増加します。合計 QPS に基づく調整と合計同時実行数に基づく調整を一緒に使用すると、特定のリクエストが処理されていない場合、システムは新しいリクエストを直接拒否します。システムがリクエストを処理した後、システムは後続のリクエストを許可し、より短いキューイング期間でリクエスト処理を完了します。このようにして、リクエストの成功率と平均 RT を大幅に向上させることができます。

インターフェースで予期しないトラフィックの急増が発生すると、リソースの競合が発生し、リソースが不足し、リクエストがキューに入れられます。その結果、すべてのリクエストの RT が増加します。

ストレステストまたは履歴データを使用して、定常状態でのノードの合計同時実行数を決定し、しきい値としてより大きな値を設定できます。

GUI の説明

「合計同時実行数調整」セクションの左側には、合計同時実行数に基づく調整のイベントが表示されます。セクションの右側には、過去 5 分間の各アプリケーションノードの平均合計同時実行数の傾向が表示されます。

過去 5 分間に合計同時実行数に基づいてリクエストが調整されたノードとインターフェースに対してイベントが報告されます。イベント報告間隔は 5 分です。

イベントの「アクション」列にある「表示」をクリックすると、特定のノード IP アドレスに対応する合計同時実行数をクエリし、イベントが報告された間隔中のデータを再生できます。これにより、関連ノードの合計同時実行数を観察し、イベントが報告されたときに調整が期待どおりに機能しているかどうかを確認できます。インターフェースやノードのデータなどの詳細情報を表示する必要がある場合は、「API の詳細」または「ノードの詳細」ページに移動できます。ページリダイレクト機能は後日提供されます。

説明

異常な呼び出しのサーキットブレーカーにより、システムは各クライアントインターフェースの異常な呼び出しの割合を測定できます。異常な呼び出しの割合が設定されたしきい値を超えると、システムはインターフェースのサーキットブレーカーをトリガーします。サーキットブレーカー期間中、インターフェースはすぐに失敗し、システムは特定の間隔で検出リクエストを送信します。リクエストが成功すると、サーキットブレーカープロセスが終了します。

有効範囲

異常な呼び出しのサーキットブレーカーは、インターフェースレベルのサーキットブレーカールールが設定されているインターフェースを除き、すべてのクライアントインターフェースに有効です。

シナリオ

異常な呼び出しのサーキットブレーカーは、2 種類のシナリオに適しています。

タイムアウトシナリオ: クライアントインターフェースでタイムアウトの問題が頻繁に発生する場合、サービスプロバイダーには高い確率で例外が発生します。これにより、呼び出し元アプリケーションのより多くのリクエストがキューに入れられ、アプリケーションの他のインターフェースに影響が及びます。これらのシナリオでは、サーキットブレーカーを使用すると、サービスプロバイダーは短時間で失敗し、リクエストのキューイングを防ぐことができます。

タイムアウト以外のシナリオ: クライアントインターフェースでタイムアウト以外の問題が頻繁に発生する場合、異常な呼び出しのサーキットブレーカーを使用すると、システムはユーザー処理のために関連するエラーを報告できます。これにより、問題の影響を最小限に抑え、問題発生時のユーザーエクスペリエンスを最適化します。

GUI の説明

「異常な呼び出しのサーキットブレーカー」セクションの左側には、異常な呼び出しのサーキットブレーカーについて報告されたイベントが表示されます。セクションの右側には、過去 5 分間に異常な呼び出しの割合が高かった上位 10 のアプリケーションインターフェースが表示されます。

過去 5 分間に異常な呼び出しのサーキットブレーカーがトリガーされたノードとインターフェースに対してイベントが報告されます。イベント報告間隔は 5 分です。

説明

低速な呼び出しのサーキットブレーカーにより、システムは各クライアントインターフェースの低速な呼び出しの割合を測定できます。低速な呼び出しの割合が設定されたしきい値よりも大きい場合、システムはインターフェースのサーキットブレーカーをトリガーします。サーキットブレーカー期間中、インターフェースはすぐに失敗し、システムは特定の間隔で検出リクエストを送信します。リクエストが成功すると、サーキットブレーカープロセスが終了します。

有効範囲

低速な呼び出しのサーキットブレーカーは、インターフェースレベルのサーキットブレーカールールが設定されているインターフェースを除き、すべてのクライアントインターフェースに有効です。

シナリオ

低速な呼び出しのサーキットブレーカーは、異常な呼び出しのサーキットブレーカーもトリガーできるタイムアウトシナリオに適しています。異常な呼び出しのサーキットブレーカーとは異なり、低速な呼び出しのサーキットブレーカーを使用すると、タイムアウト設定を考慮せずに、低速な呼び出しを判断するために使用される RT 値を動的に調整できます。

GUI の説明

「低速な呼び出しのサーキットブレーカー」セクションの左側には、低速な呼び出しについて報告されたサーキットブレーカーイベントが表示されます。セクションの右側には、過去 5 分間のアプリケーションの上位 10 の平均 RT 値が表示されます。

過去 5 分間に低速な呼び出しのサーキットブレーカーがトリガーされたノードとインターフェースに対してイベントが報告されます。イベント報告間隔は 5 分です。

説明

すべてのシステム保護機能に例外設定を構成できます。例外設定にリストされているインターフェースの場合、インターフェース上のリクエストはルールチェックなしで直接通過できます。

シナリオ

ほとんどの場合、ヘルスチェックインターフェースとシステムの主要インターフェースに対してのみ例外設定を構成する必要があります。ヘルスチェックインターフェースの場合、例外設定はノードのヘルスステータスへの影響を防ぎます。システムの主要インターフェースには、個別の調整制限が課せられます。システムの主要インターフェースは、システム全体の調整メカニズムの対象にならないことが想定されています。

GUI の説明

左側の「使用可能なインターフェース」セクションには、最近呼び出されたインターフェースが表示されます。表示されていないインターフェースの場合は、検索ボックスにインターフェース名を入力し、検索アイコンをクリックしてインターフェースを検索してから、右側の「選択されたインターフェース」セクションにインターフェースを追加できます。