Microservices Engine:Configurar proteção do sistema

Como funciona

A proteção adaptativa contra sobrecarga usa a utilização da CPU para medir a carga do sistema. Quando o uso da CPU se aproxima do limiar configurado, o sistema ajusta adaptativamente a porcentagem de limitação do tráfego do servidor. Ele rejeita parte das requisições recebidas para manter a utilização da CPU dentro de uma pequena faixa em torno do limiar.

Essa proteção entra em vigor em todas as interfaces de servidor.

Quando usar

Use a proteção adaptativa contra sobrecarga para aplicações sensíveis à CPU, em que picos inesperados de tráfego aumentam diretamente a carga da CPU e degradam os tempos de resposta.

Para determinar um limiar, execute testes de estresse ou analise dados históricos para identificar a utilização máxima da CPU durante a operação em estado estacionário e defina um valor ligeiramente superior.

Layout do console

A seção Adaptive Overload Protection possui dois painéis:

• Painel esquerdo -- Lista eventos de proteção adaptativa contra sobrecarga. O sistema gera eventos quando a limitação inicia, ativa e termina. Clique em View na coluna Actions para inspecionar a utilização da CPU de um IP de nó específico e reproduzir dados do intervalo de relatório.

• Painel direito -- Mostra a tendência média de utilização da CPU para cada nó da aplicação nos últimos 5 minutos.

Parâmetros

Como funciona

A limitação de QPS total mede o total agregado de consultas por segundo (QPS) em todas as interfaces de servidor em um único nó. Se o QPS total exceder o limiar configurado, o sistema limitará as requisições recebidas.

Essa proteção entra em vigor em todas as interfaces de servidor.

Quando usar

Use a limitação de QPS total quando o desempenho da aplicação depender de fatores além da utilização da CPU, como memória, rede ou outros recursos. Nesses casos, a proteção adaptativa baseada apenas em CPU pode não ser acionada mesmo que a aplicação esteja degradada.

Para definir um limiar, execute testes de estresse ou analise dados históricos para identificar o QPS total durante a operação em estado estacionário e configure um valor ligeiramente maior.

Layout do console

A seção Total QPS Throttling possui dois painéis:

• Painel esquerdo -- Lista eventos de limitação. O sistema relata eventos para nós e interfaces limitados nos últimos 5 minutos, com um intervalo de relatório de 5 minutos. Clique em View para inspecionar o QPS total de um IP de nó específico e reproduzir dados do intervalo de relatório.

• Painel direito -- Exibe a tendência média do QPS total para cada nó da aplicação nos últimos 5 minutos.

Parâmetros

Como funciona

A limitação de concorrência total mede o número agregado de requisições simultâneas em todas as interfaces de servidor em um único nó. Se a concorrência total exceder o limiar configurado, o sistema limitará as requisições recebidas.

Essa proteção entra em vigor em todas as interfaces de servidor.

Quando usar

Use a limitação de concorrência total junto com a limitação de QPS total, especialmente quando os tempos de resposta (RT) das interfaces forem altos (geralmente acima de 1 segundo). Em cenários de alto RT, se recursos do sistema como pools de threads, memória e pools de conexões estiverem ocupados, as requisições entrarão em fila e o RT da interface aumentará. A limitação de QPS sozinha tem uma limitação: mesmo um pequeno número de novas requisições por segundo pode se acumular, pois as requisições enfileiradas levam mais de um segundo para concluir. Isso causa filas de requisições e infla o RT tanto para requisições existentes quanto para novas.

A limitação de concorrência resolve esse problema ao rejeitar novas requisições enquanto as requisições enfileiradas ainda estão em processamento. Após o esgotamento da fila, o sistema admite e processa as requisições subsequentes com tempos de espera menores, o que melhora significativamente as taxas de sucesso e o RT médio.

Para determinar um limiar, execute testes de estresse ou analise dados históricos para identificar a concorrência total durante a operação em estado estacionário e defina um valor ligeiramente superior.

Layout do console

A seção Total Concurrency Throttling possui dois painéis:

• Painel esquerdo -- Lista eventos de limitação. O sistema relata eventos para nós e interfaces limitados nos últimos 5 minutos, com um intervalo de relatório de 5 minutos. Clique em View para inspecionar a concorrência total de um IP de nó específico e reproduzir dados do intervalo de relatório.

• Painel direito -- Apresenta a tendência média da concorrência total para cada nó da aplicação nos últimos 5 minutos.

Parâmetros

Como funciona

O circuit breaking de chamadas anômalas monitora o percentual de erros de cada interface de cliente. Quando o percentual de erros excede o limiar configurado, o circuit breaker abre para essa interface. Durante o período de circuit breaking, todas as requisições para a interface falham imediatamente. O sistema envia requisições de sondagem em intervalos regulares e, se uma sondagem for bem-sucedida, o circuit breaker fecha e o tráfego normal é retomado.

Esta proteção aplica-se a todas as interfaces de cliente, exceto aquelas que já possuem regras de circuit breaking no nível da interface configuradas.

Quando usar

O circuit breaking de chamadas anômalas lida com dois cenários:

• Cenários de tempo limite -- Tempos limite frequentes em uma interface de cliente geralmente indicam que o provedor de serviços está enfrentando problemas. Sem o circuit breaking, as requisições se acumulam em fila e acabam afetando outras interfaces na aplicação chamadora. O circuit breaking permite uma falha rápida e evita o enfileiramento de requisições.

• Cenários de erro sem tempo limite -- Erros frequentes que não são de tempo limite em uma interface de cliente. O circuit breaking permite que o sistema relate erros relevantes para tratamento pelo usuário, minimiza o impacto dos problemas e otimiza a experiência do usuário quando os problemas ocorrem.

Layout do console

A seção Abnormal Call Circuit Breaking possui dois painéis:

• Painel esquerdo -- Lista eventos de circuit breaking relatados nos últimos 5 minutos, com um intervalo de relatório de 5 minutos.

• Painel direito -- Mostra as 10 principais interfaces com o maior percentual de chamadas anômalas nos últimos 5 minutos.

Parâmetros

Configurações avançadas

Como funciona

O circuit breaking de chamadas lentas monitora o percentual de chamadas lentas de cada interface de cliente. Uma chamada é classificada como lenta quando seu tempo de resposta excede o limiar configurado de Slow Call RT. Quando o percentual de chamadas lentas excede o Degradation Threshold, o circuit breaker abre para essa interface. Durante o período de circuit breaking, todas as requisições falham imediatamente. O sistema envia requisições de sondagem em intervalos regulares e, se uma sondagem for bem-sucedida, o circuit breaker fecha.

Esta proteção aplica-se a todas as interfaces de cliente, exceto aquelas que já possuem regras de circuit breaking no nível da interface configuradas.

Quando usar

Use o circuit breaking de chamadas lentas em cenários propensos a tempo limite onde o circuit breaking de chamadas anômalas também possa se aplicar. Ao contrário do circuit breaking de chamadas anômalas, o circuit breaking de chamadas lentas permite o ajuste dinâmico do limiar de RT que define uma "chamada lenta", independentemente das configurações de tempo limite.

Layout do console

A seção Slow Call Circuit Breaking possui dois painéis:

• Painel esquerdo -- Lista eventos de circuit breaking relatados para chamadas lentas nos últimos 5 minutos, com um intervalo de relatório de 5 minutos.

• Painel direito -- Exibe os 10 principais valores médios de RT nas interfaces da aplicação nos últimos 5 minutos.

Parâmetros

Configurações avançadas

Quando usá-las

Configure definições de exceção para:

• Interfaces de verificação de integridade -- Evita que regras de proteção do sistema limitem verificações de integridade, o que poderia afetar o status de integridade dos nós.

• Interfaces críticas do sistema -- Interfaces chave que possuem limites de limitação separados não devem estar sujeitas ao mecanismo de limitação global do sistema.

Como configurar

Na caixa de diálogo de configurações de exceção:

1. A seção Available Interfaces à esquerda lista as interfaces chamadas recentemente. Se a interface desejada não estiver listada, insira seu nome na caixa de pesquisa e clique em no ícone de pesquisa.

2. Adicione a interface à seção Selected Interfaces à direita.