Alibaba Cloud SDK:高度なバックオフメカニズム（スロットリングポリシーに基づく）

スロットリングポリシーに基づくバックオフポリシーを有効にする

デフォルトでは、スロットリングポリシーに基づくバックオフポリシーは無効になっています。次のいずれかの方法を使用して、スロットリングポリシーに基づくバックオフポリシーを有効にすることができます。

1. 再試行ポリシーを設定します。

// 再試行ポリシーを構成します。
RetryPolicy retryPolicy = RetryPolicy.builder()
                .maxNumberOfRetries(3) // 最大再試行回数
                .maxDelayTimeMillis(20 * 1000) // 最大再試行間隔（ミリ秒）。間隔を超えた場合は、再試行は実行されません。
                //.retryConditions(retryConditions) // 再試行をトリガーするために使用されるポリシー。
                .enableAliyunThrottlingControl(true) // スロットリングポリシーに基づくバックオフポリシーを有効にします。
                //.throttlingConditions(throttlingConditions) // 再試行を制限するために使用されるポリシー。
                .build();

request.setSysRetryPolicy(retryPolicy);

2. デフォルトの再試行ポリシーを使用します。

// デフォルトポリシー。リクエストパラメータは enableAliyunThrottlingControl です。値 true は、スロットリングポリシーに基づくバックオフポリシーが有効であることを指定します。値 false は、スロットリングポリシーに基づくバックオフポリシーが無効であることを指定します。
RetryPolicy retryPolicy = RetryPolicy.defaultRetryPolicy( 
true 
);

request.setSysRetryPolicy(retryPolicy);

スロットリングポリシーに基づくバックオフポリシーを有効にするメリット

1. 不要な再試行が削減されます。これにより、システムの消費が削減されます。

2. バックオフアルゴリズムを使用して、より正確なバックオフ時間を計算し、再試行の成功率を向上させることができます。

バックオフポリシー: スロットリングポリシーに基づいてバックオフ時間を計算する

スロットリングポリシーに基づくバックオフポリシーが有効になっている場合、バックオフ時間は次のロジックで計算されます。

1. スロットリングがトリガーされていない場合、EqualJitter を使用して再試行間隔が計算されます。

2. スロットリングがトリガーされた場合、再試行間隔は、現在のスロットリングサイクルの残り時間と EqualJitter の計算結果の大きい方の値になります。再試行間隔が 最大再試行間隔 より大きい場合、例外がスローされ、現在のスロットリングサイクルの残り時間がキャッシュプールに格納されます。これにより、現在のスロットリングサイクルの残り時間を、スロットリング中に API リクエストを無効にするポリシーで使用できます。

スロットリング中の API リクエストを無効にするポリシー

スロットリングポリシーに基づくバックオフポリシーが有効になっている場合、スロットリングがトリガーされると、サーバーはヘッダーにスロットリングに関する残りのクォータ情報を返します。サーバーは、「ユーザー」と「API + ユーザー」のディメンションで、API 呼び出しの残り数や現在のスロットリングサイクルの残り時間などの情報をクライアントに返します。API 呼び出しがスロットリングされている場合、API 呼び出しの残り数は 0 です。

Limit: 最大スロットリングしきい値。値は INT 型です。
Time: スロットリングの時間範囲。値は LONG 型です。単位: ミリ秒。
TimeLeft: 現在のスロットリングサイクルの残り時間。値は LONG 型です。単位: ミリ秒。
Reset: 次のスロットリングサイクルの開始時刻。値は LONG 型で、ミリ秒単位のタイムスタンプです。

SDK は、現在のスロットリングサイクルの残り時間を管理します。現在のスロットリングサイクルの残り時間に基づいて計算されたバックオフ時間中は、呼び出しの開始または再試行が制限されます。バックオフ時間が最大再試行間隔より大きい場合、エラーがスローされます。バックオフ時間が最大再試行間隔以下である場合、システムは呼び出しを開始または再試行できるまで待機します。

スロットリングデバッグを有効にする

スロットリングポリシーに基づくバックオフポリシーが有効になっている場合、スロットリングがトリガーされると、サーバーはヘッダーにスロットリングに関する残りのクォータ情報を返します。リクエストヘッダーで X-RateLimit-Mode を debug に設定することにより、呼び出しでクォータ情報を返すように要求することもできます。

request.putHeadParameter("X-RateLimit-Mode", "debug");