Alibaba Cloud SDK:Mecanismo avançado de backoff baseado na política de throttling

Ative a política de backoff baseada na política de throttling

Por padrão, a política de backoff baseada em throttling fica desativada. Para ativá-la, use um dos métodos abaixo:

1. Configure uma política de nova tentativa.

RetryPolicy retryPolicy = RetryPolicy.builder()
                .maxNumberOfRetries(3) // The maximum number of retries.
                .maxDelayTimeMillis(20 * 1000) // The maximum retry interval. Unit: milliseconds. If the interval is exceeded, no retries are performed.
                //.retryConditions(retryConditions) // The policy that is used to trigger retries.
                .enableAliyunThrottlingControl(true) // Enable the backoff policy based on the throttling policy. 
                //.throttlingConditions(throttlingConditions) // The policy that is used to restrict retries.
                .build();

request.setSysRetryPolicy(retryPolicy);

2. Use a política de nova tentativa padrão.

// The default policy. The request parameter is enableAliyunThrottlingControl. The value true specifies that the backoff policy based on the throttling policy is enabled. The value false specifies that the backoff policy based on the throttling policy is disabled.
RetryPolicy retryPolicy = RetryPolicy.defaultRetryPolicy( 
true 
);

request.setSysRetryPolicy(retryPolicy);

Benefícios de ativar a política de backoff baseada na política de throttling

1. Reduz novas tentativas desnecessárias e diminui o consumo de recursos do sistema.

2. Calcula intervalos de backoff mais precisos, aumentando as taxas de sucesso das novas tentativas.

Política de backoff: Cálculo do tempo de backoff com base na política de throttling

Quando a política de backoff baseada em throttling está ativa, o cálculo do tempo de backoff segue estas regras:

1. Na ausência de throttling, o EqualJitter calcula o intervalo de nova tentativa.

2. Se houver throttling, o intervalo de nova tentativa corresponderá ao maior valor entre o tempo restante do ciclo atual de throttling e o resultado do EqualJitter. Caso esse intervalo exceda o intervalo máximo de nova tentativa, o sistema lançará uma exceção e armazenará em cache o tempo restante do ciclo de throttling para uso pela política de desativação de requisições.

Política de desativação de requisições de API durante o throttling

Com a política de backoff baseada em throttling ativa e o throttling acionado, o servidor retorna informações de cota restante no cabeçalho da resposta. Esses dados incluem o número restante de chamadas de API e o tempo restante do ciclo atual de throttling, reportados nas dimensões "User" e "API + User". Se as chamadas de API sofrerem throttling, a contagem restante de chamadas será 0.

Limit: the maximum throttling threshold. The value is of the INT type.
Time: the time span of throttling. The value is of the LONG type. Unit: milliseconds.
TimeLeft: the remaining time of the current throttling cycle. The value is of the LONG type. Unit: milliseconds.
Reset: the start time of the next throttling cycle. The value is of the LONG type and is a timestamp in milliseconds

O SDK rastreia o tempo restante do ciclo atual de throttling e bloqueia novas chamadas ou novas tentativas durante esse período. Se o tempo restante exceder o intervalo máximo de nova tentativa, o sistema lançará um erro. Caso contrário, o sistema aguardará o fim do ciclo de throttling antes de iniciar ou tentar novamente a chamada.

Ative a depuração de throttling

Para obter informações de cota de throttling sem precisar esperar que o throttling seja acionado, defina X-RateLimit-Mode como debug no cabeçalho da requisição.

request.putHeadParameter("X-RateLimit-Mode", "debug");