A limitação de taxa protege os service de backend contra o excesso de requisições e evita falhas em cascata. O Cloud-native API Gateway suporta políticas de limitação de taxa no nível de rota para restringir o volume de requisições em uma janela de tempo especificada.
Configure uma política de limitação de taxa
O limiar de limitação de taxa configurado é um limiar no nível do gateway. Para calcular o limiar de um nó do gateway, use a seguinte fórmula: Limiar de limitação de taxa no nível do gateway/Número de nós. Se o resultado for um valor decimal, o sistema o arredonda para cima, para o número inteiro mais próximo. Por exemplo, se as consultas por segundo (QPS) de uma rota de demonstração forem 1001 e o gateway tiver dois nós, o limite de QPS dessa rota em cada nó será 501.
-
Configure uma política de limitação de taxa dentro ou fora de uma instância do Cloud-native API Gateway.
External API
Acesse o console do Cloud-native API Gateway. No painel de navegação à esquerda, clique em API. Na barra de navegação superior, selecione uma região.
Clique em API desejada. Na lista suspensa, selecione a instância na qual deseja configurar a limitação de taxa ou selecione All Instances. Na lista suspensa de instâncias, na barra de navegação superior, selecione a instância de destino.
Em Routes, clique em rota desejada.
Internal API
Acesse o console do Cloud-native API Gateway. No painel de navegação à esquerda, clique em Instance. Na barra de navegação superior, selecione uma região.
Na página Instance, clique em ID da instância de gateway desejada. No painel de navegação à esquerda, clique em API e, em seguida, clique em API desejada.
Em Routes, clique em rota desejada.
Clique na guia Configure Policy e, em seguida, clique em Enable Policy/Plug-in na seção Inbound Processing.
-
Adicione uma política de limitação de taxa. As opções incluem Traffic Control, Concurrency Control e Circuit Breaking.
Traffic Throttling
As regras de limitação de taxa monitoram o QPS de uma rota e bloqueiam o tráfego imediatamente quando o limiar é atingido, evitando interrupções nos service de backend devido a picos de tráfego.
Clique em card Traffic Control. No painel Add Policy: Traffic Control, configure os parâmetros e clique em Add.
Parâmetro
Descrição
Enable or Not
Ative esta opção para habilitar a política de controle de tráfego.
Overall QPS Threshold
O Overall QPS Threshold.
Web Fallback Behavior
Defina o Web Fallback Behavior como Return Specific Content ou Redirect to Specified Page.
Defina o Web Fallback Behavior como Return Specific Content:
HTTP Status Code
O HTTP Status Code a ser retornado. O valor padrão é 429.
Type of Returned Content
O Type of Returned Content do corpo da resposta. Selecione Regular Text ou JSON.
HTTP Text
O texto a ser retornado.
Defina o Web Fallback Behavior como Redirect to Specified Page:
Redirect URL
A Redirect URL.
Concurrency control
As regras de concorrência rastreiam o número total de requisições em processamento no gateway e bloqueiam o tráfego quando a contagem atinge o limiar especificado, protegendo a disponibilidade dos service de backend em cenários de alta concorrência.
Clique em card Concurrency Control. No painel Add Policy: Concurrency Control, configure os parâmetros e clique em Add.
Parâmetro
Descrição
Enable or Not
Ative esta opção para habilitar a regra de concorrência.
Overall Concurrency Threshold
O Overall Concurrency Threshold.
Web Fallback Behavior
Defina o Web Fallback Behavior como Return Specific Content ou Redirect to Specified Page.
Defina o Web Fallback Behavior como Return Specific Content:
HTTP Status Code
O HTTP Status Code a ser retornado. O valor padrão é 429.
Type of Returned Content
O Type of Returned Content do corpo da resposta. Selecione Regular Text ou JSON.
HTTP Text
O corpo da resposta a ser retornado.
Defina o Web Fallback Behavior como Redirect to Specified Page:
Redirect URL
A Redirect URL.
Circuit breaking
As regras de circuit breaking são ativadas quando o tempo de resposta (RT) ou a taxa de exceção em uma rota atingem um limiar especificado. Após a ativação, o gateway rejeita todas as requisições nessa rota por uma duração configurada para proteger os service de backend e, em seguida, retoma as chamadas automaticamente.
Clique em card Circuit Breaking. No painel Add Policy: Circuit Breaking, configure os parâmetros e clique em Add.
Parâmetro
Descrição
Enable or Not
Ative esta opção para habilitar a regra de circuit breaking.
Statistical Window Duration
A duração da janela de tempo. Valores válidos: 1 segundo a 120 minutos.
Minimum Number of Requests
O número mínimo de requisições necessário para acionar o circuit breaking. Se a contagem de requisições na janela de tempo atual estiver abaixo desse valor, o circuit breaking não é ativado mesmo que a condição de limiar seja atendida.
Threshold Type
A métrica usada para acionar o circuit breaking. Selecione Slow Call Ratio (%) ou Exception Ratio (%).
-
Selecione Slow Call Ratio (%) e defina um Slow Call RT, o tempo máximo de resposta. Uma requisição é considerada lenta se o tempo de resposta for maior que esse valor. Após a habilitação da regra, se o número de requisições em uma janela estatística exceder o mínimo definido e a taxa de chamadas lentas ultrapassar o limiar especificado, as requisições serão rejeitadas durante a duração do circuit breaking. Após esse período, o circuit breaker entra em estado de recuperação por sondagem. Se o tempo de resposta da próxima requisição for menor que o Slow Call RT especificado, o circuito será fechado; caso contrário, será aberto novamente.
-
Selecione Exception Ratio (%) e defina a taxa de exceção que aciona o circuit breaking. Após a habilitação da regra, se o número de exceções de negócio em uma janela estatística exceder o mínimo de requisições e a taxa de exceção ultrapassar o limiar, as requisições serão rejeitadas durante o período de circuit breaking.
Slow Call RT
O Slow Call RT permitido (tempo máximo de resposta).
Circuit Breaking Ratio Threshold
O limiar percentual para chamadas lentas. O circuit breaking é ativado quando esse limiar é atingido ou excedido. Valores válidos: 0 a 100 (%).
Circuit Breaking Duration (s)
A duração do circuit breaking. Durante esse período, todas as requisições para a rota são rejeitadas.
Web Fallback Behavior
Defina o Web Fallback Behavior como Return Specific Content ou Redirect to Specified Page.
Defina o Web Fallback Behavior como Return Specific Content:
HTTP Status Code
O HTTP Status Code a ser retornado. O valor padrão é 429.
Type of Returned Content
O Type of Returned Content do corpo da resposta. Selecione Regular Text ou JSON.
HTTP Text
O corpo da resposta a ser retornado.
Defina o Web Fallback Behavior como Redirect to Specified Page:
Redirect URL
A Redirect URL.
-
Verifique os resultados
Execute o seguinte comando para enviar requisições de teste:
curl -I http://121.196.XX.XX/demo/item/list //The ingress IP address of the gateway.-
Se a política de limitação de taxa não estiver habilitada, o sistema retornará uma resposta semelhante a esta:
HTTP/1.1 200 OK x-content-type-options: nosniff x-xss-protection: 1; mode=block cache-control: no-cache, no-store, max-age=0, must-revalidate pragma: no-cache expires: 0 x-frame-options: DENY content-type: application/json content-length: 86 date: Mon, 29 Nov 2021 08:28:00 GMT x-envoy-upstream-service-time: 4 server: istio-envoy -
Se a política de limitação de taxa estiver habilitada, o sistema retornará uma resposta semelhante a esta com o código de status HTTP 429.
HTTP/1.1 429 Too Many Requests x-local-rate-limit: true content-length: 18 content-type: text/plain date: Mon, 29 Nov 2021 08:28:01 GMT server: istio-envoy