Microservices Engine:Configurar proteção do sistema

Como funciona

A proteção adaptativa contra sobrecarga utiliza a utilização de CPU para medir a carga do sistema e ajusta adaptativamente a taxa de limitação do tráfego no lado do servidor. Mesmo durante picos de tráfego inesperados, ela mantém a utilização de CPU relativamente estável dentro do limiar configurado.

Cenários

Este recurso fornece proteção de fallback baseada em CPU para interfaces do lado do servidor. É indicado para aplicações com uso intensivo de CPU, nas quais um pico em uma interface inesperada eleva a utilização de CPU do sistema e afeta o tempo de resposta (RT) das interfaces principais.

Console

A aba System protection lista os eventos de proteção adaptativa contra sobrecarga no lado esquerdo. O lado direito exibe a tendência média de utilização de CPU dos nós da aplicação nos últimos 5 minutos.

O topo da página contém a configuração de Mode para a proteção adaptativa contra sobrecarga. No gráfico de linhas de utilização de CPU à direita, uma linha tracejada azul marca o protection threshold, que representa o limiar de proteção.

Os eventos são reportados no nível do nó com base nas mudanças de estado do algoritmo. Eles incluem eventos de início de limitação, limitação em andamento e fim de limitação.

Clique em link View na coluna Actions de um evento para consultar os dados de utilização de CPU do endereço IP do nó correspondente. A linha do tempo retrocede para o momento em que o evento foi reportado, permitindo observar a utilização de CPU e a probabilidade de limitação do nó quando o evento foi acionado.

Como funciona

A limitação de QPS total monitora o QPS total no nível do nó, que corresponde à soma do QPS de todas as interfaces do lado do servidor em um único nó, e limita as requisições que excedem o limiar.

Cenários

Nem todos os sistemas dependem fortemente de CPU. Algumas aplicações sofrem degradação de desempenho mesmo com baixa carga de CPU devido a restrições de memória, rede ou outros fatores. A limitação de QPS total restringe o tráfego com base no QPS total de um nó, oferecendo um método de proteção baseado em tráfego.

Utilize este recurso quando um pico em uma interface inesperada causar contenção por recursos escassos, afetando as interfaces principais.

Console

A aba System protection lista os eventos de limitação de QPS total no lado esquerdo. O lado direito mostra a tendência dos dados médios de requisição de QPS total dos nós da aplicação nos últimos 5 minutos.

O gráfico de linhas à direita exibe as curvas de tendência de Total QPS, Passed QPS e Blocked QPS, juntamente com a linha de referência do limiar, facilitando a observação do efeito de limitação.

Os eventos são reportados nos níveis de nó e interface com base nos nós e interfaces onde a limitação de QPS total realmente ocorreu. Os relatórios são gerados a cada 5 minutos e cobrem a limitação ocorrida nos 5 minutos anteriores.

Clique em link View na coluna Actions de um evento para consultar o QPS total do endereço IP do nó correspondente. A linha do tempo retrocede para um ponto próximo ao momento em que o evento foi reportado, permitindo verificar se o QPS total do nó e o comportamento de limitação atendem às suas expectativas. As páginas de detalhes da interface e do nó fornecem informações mais granulares, como dados nos níveis de interface e nó.

Como funciona

A limitação de concorrência total rastreia a concorrência total no nível do nó, ou seja, a soma das requisições simultâneas de todas as interfaces do lado do servidor em um único nó, e limita as requisições que ultrapassam o limiar.

Cenários

Em cenários com RT de chamada elevado, geralmente superior a 1 segundo, a limitação por QPS apresenta uma limitação evidente. Quando recursos disputados do sistema, como pools de threads, memória e pools de conexões, estão ocupados, as requisições entram em fila e o RT da interface aumenta ainda mais. Se você depender apenas da limitação baseada em QPS, um pequeno número de requisições continuará entrando no sistema a cada segundo, mas as requisições enfileiradas não serão processadas em poucos segundos. A fila cresce, o RT sobe ainda mais e o tempo de resposta tanto de novas requisições quanto das existentes aumenta significativamente.

Com a limitação por concorrência, novas requisições são rejeitadas imediatamente enquanto um determinado número de requisições permanece inacabado. As requisições são limitadas, mas assim que o sistema conclui as requisições atuais, as novas passam com um tempo de espera menor. No geral, tanto a taxa de sucesso quanto o RT médio das requisições melhoram significativamente.

Recomenda-se usar a limitação de concorrência total quando um pico em uma interface inesperada levar à contenção de recursos escassos, acúmulo de filas e aumento do RT para todas as requisições.

Console

A aba System protection lista os eventos de limitação de concorrência total no lado esquerdo. O lado direito exibe a tendência dos dados médios de requisições concorrentes totais dos nós da aplicação nos últimos 5 minutos.

Os eventos são reportados nos níveis de nó e interface com base nos nós e interfaces onde a limitação de concorrência total realmente ocorreu. Os relatórios são gerados a cada 5 minutos e abrangem a limitação ocorrida nos 5 minutos anteriores.

Clique em link View na coluna Actions de um evento para consultar a concorrência total do endereço IP do nó correspondente. A linha do tempo retrocede para um ponto próximo ao momento em que o evento foi reportado, permitindo verificar se a concorrência total do nó e o comportamento de limitação atendem às suas expectativas. As páginas de detalhes da interface e do nó oferecem informações mais detalhadas, incluindo dados nos níveis de interface e nó.

Como funciona

O circuit breaking de chamadas anormais monitora a taxa de erro de cada interface do lado do cliente. Quando a taxa de erro excede o limiar configurado, o circuit breaker é acionado para essa interface. Durante o circuit breaking, as requisições para a interface falham rapidamente. Em intervalos regulares, o sistema permite a passagem de uma requisição de sondagem. Quando uma requisição de sondagem tem sucesso, o circuit breaking é encerrado.

Cenários

O circuit breaking de chamadas anormais cobre principalmente dois cenários:

• Erros de timeout — Uma alta taxa de erros de timeout em uma interface do lado do cliente geralmente indica problemas no provedor de service. Isso faz com que as requisições se acumulem no chamador (sua aplicação), afetando outras interfaces da sua aplicação. O circuit breaking faz essas requisições falharem rapidamente enquanto o provedor está anormal, evitando o acúmulo.

• Erros sem timeout — Quando a taxa de erros sem timeout de uma interface do lado do cliente é muito alta, o circuit breaking de chamadas anormais lança uma exceção de limitação que pode ser tratada. Isso proporciona um efeito de degradação e melhora a experiência do usuário em situações anormais.

Console

A aba System protection lista os eventos de circuit breaking de chamadas anormais no lado esquerdo. O lado direito mostra as 10 principais interfaces por taxa de erro da aplicação nos últimos 5 minutos.

Os eventos são reportados nos níveis de nó e interface com base nos nós e interfaces onde o circuit breaking de chamadas anormais realmente ocorreu. Os relatórios são gerados a cada 5 minutos e cobrem a limitação ocorrida nos 5 minutos anteriores.

Configurações avançadas

Como funciona

O circuit breaking de chamadas lentas monitora a taxa de chamadas lentas de cada interface do lado do cliente. Quando a taxa de chamadas lentas excede o limiar configurado, o circuit breaker é acionado para essa interface. Durante o circuit breaking, as requisições para a interface falham rapidamente. Em intervalos regulares, o sistema permite a passagem de uma requisição de sondagem. Quando uma requisição de sondagem tem sucesso, o circuit breaking é encerrado.

Cenários

O circuit breaking de chamadas lentas cobre basicamente o mesmo cenário do caso de timeout do circuit breaking de chamadas anormais. A diferença é que você pode ajustar dinamicamente o critério de RT que define uma chamada lenta, sem depender da configuração de timeout.

Console

A aba System protection lista os eventos de circuit breaking de chamadas lentas no lado esquerdo. O lado direito exibe as 10 principais interfaces por RT médio da aplicação nos últimos 5 minutos.

Os eventos são reportados nos níveis de nó e interface com base nos nós e interfaces onde o circuit breaking de chamadas lentas realmente ocorreu. Os relatórios são gerados a cada 5 minutos e abrangem a limitação ocorrida nos 5 minutos anteriores.

Configurações avançadas

Como funciona

É possível configurar exceções para todos os recursos de proteção do sistema. A proteção do sistema sempre permite a passagem das interfaces na lista de exceções sem verificar as regras.

As exceções exigem a versão 4.2.0 ou posterior do agente.

Cenários

Na maioria dos casos, basta configurar exceções para endpoints de verificação de integridade e interfaces críticas do sistema. Exceções para endpoints de verificação de integridade evitam que o status de integridade do nó seja afetado. Interfaces críticas do sistema possuem seus próprios limites de limitação no nível da interface e devem permanecer inalteradas pela limitação no nível do sistema.

Console

A aba System protection lista as interfaces que podem ser selecionadas diretamente no lado esquerdo. Estas são as interfaces chamadas recentemente. Para uma interface que não esteja listada à esquerda, insira seu nome na caixa de entrada e pressione Enter para adicioná-la às interfaces selecionadas.

Você pode remover as interfaces selecionadas individualmente clicando em × ou limpar todas clicando em Remove all. A proteção do sistema não aplica as regras configuradas às interfaces selecionadas.