Alibaba Cloud SDK:スロットリングポリシーに基づく高度なバックオフメカニズム

スロットリングポリシーに基づくバックオフポリシーの有効化

デフォルトでは、スロットリングに基づくバックオフポリシーは無効になっています。次のいずれかの方法で有効にすることができます。

1. リトライポリシーの設定

RetryPolicy retryPolicy = RetryPolicy.builder()
                .maxNumberOfRetries(3) // 最大リトライ回数
                .maxDelayTimeMillis(20 * 1000) // 最大リトライ間隔 (ミリ秒単位)。この間隔を超えた場合、リトライは実行されません。
                //.retryConditions(retryConditions) // リトライをトリガーするために使用されるポリシー
                .enableAliyunThrottlingControl(true) // スロットリングポリシーに基づくバックオフポリシーを有効にします。
                //.throttlingConditions(throttlingConditions) // リトライを制限するために使用されるポリシー
                .build();

request.setSysRetryPolicy(retryPolicy);

2. デフォルトリトライポリシーの使用

// デフォルトポリシー。enableAliyunThrottlingControl パラメータで、スロットリングに基づくバックオフポリシーの有効 (true) / 無効 (false) を指定します。
RetryPolicy retryPolicy = RetryPolicy.defaultRetryPolicy( 
true 
);

request.setSysRetryPolicy(retryPolicy);

スロットリングポリシーに基づくバックオフポリシーを有効にするメリット

1. 不要なリトライを削減し、システムリソースの消費を低減します。

2. より正確なバックオフ間隔を計算することで、リトライの成功率を向上させます。

バックオフポリシー：スロットリングポリシーに基づくバックオフ時間の計算

スロットリングに基づくバックオフポリシーが有効になっている場合、バックオフ時間は次のように計算されます。

1. スロットリングがトリガーされていない場合、EqualJitter を使用してリトライ間隔が計算されます。

2. スロットリングがトリガーされた場合、リトライ間隔は、現在のスロットリングサイクルの残り時間と EqualJitter の結果のうち、大きい方の値になります。この間隔が 最大リトライ間隔 を超える場合、例外がスローされ、残りのスロットリングサイクル時間がキャッシュされ、リクエスト無効化ポリシーで使用されます。

スロットリング中の API リクエスト無効化ポリシー

スロットリングに基づくバックオフポリシーが有効になっており、スロットリングがトリガーされた場合、サーバーはレスポンスヘッダーに残りのクォータ情報を返します。この情報には、残りの API 呼び出し回数と現在のスロットリングサイクルの残り時間が含まれており、「User」および「API + User」ディメンションで報告されます。API 呼び出しがスロットリングされている場合、残りの呼び出し回数は 0 になります。

Limit：最大スロットリングしきい値 (INT 型)。
Time：スロットリング期間 (LONG 型、ミリ秒単位)。
TimeLeft：現在のスロットリングサイクルの残り時間 (LONG 型、ミリ秒単位)。
Reset：次のスロットリングサイクルの開始時刻 (LONG 型、ミリ秒単位のタイムスタンプ)。

SDK は現在のスロットリングサイクルの残り時間を追跡し、その期間中は新規の呼び出しまたはリトライをブロックします。残り時間が最大リトライ間隔を超える場合、エラーがスローされます。それ以外の場合、システムはスロットリングサイクルが終了するまで待機してから、呼び出しを開始またはリトライします。

スロットリングのデバッグの有効化

スロットリングがトリガーされるのを待たずにスロットリングクォータ情報を取得するには、リクエストヘッダーで X-RateLimit-Mode を debug に設定してください。

request.putHeadParameter("X-RateLimit-Mode", "debug");