Limiares de capacidade, benchmarks de QPS e limites de cota para o Cloud-native API Gateway, abrangendo instâncias Dedicated e Serverless.
Este documento aborda os limiares de capacidade, benchmarks de QPS e limites de cota para instâncias Dedicated e Serverless do Cloud-native API Gateway.
As instâncias Serverless estão atualmente em beta público. As cotas listadas para instâncias Serverless correspondem aos valores do período de beta e podem sofrer alterações após o lançamento comercial.
Tipos de instância
|
Tipo de instância |
Modelo de recursos |
Gerenciamento de capacidade |
Casos de uso |
|
Instância Dedicated |
Recursos físicos dedicados por usuário |
Escolha uma especificação; quanto maior a especificação, maior a capacidade |
Cargas de trabalho estáveis e de alta frequência, auditoria de conformidade, personalização profunda |
|
Instância Serverless |
Pool compartilhado multilocatário gerenciado pela plataforma |
Limite de capacidade unificado da plataforma; sem escolha de especificação |
Tráfego variável, escala de pequena a média, integração rápida |
Limiares de capacidade (instâncias Dedicated)
A tabela a seguir lista os limiares de capacidade para cada especificação de gateway. A cobertura total do SLA é válida quando as métricas permanecem abaixo do limiar de aviso. Em cargas de trabalho críticas, mantenha as métricas abaixo do limiar seguro.
Limiar seguro: O gateway mantém alto throughput e baixa latência mesmo que o tráfego dobre.
Limiar de aviso: Exceder este nível pode aumentar a latência e gerar riscos à estabilidade durante picos de tráfego.
A especificação
apigw.dev.x1é uma implantação de nó único sem garantia de SLA, destinada apenas a testes. Use uma especificação de múltiplos nós para produção.O SLA não cobre falhas de requisição quando a utilização de CPU ou memória excede o limiar de aviso. O gateway emite alertas para esses limiares. Monitore atentamente a carga do gateway e os alertas acionados.
|
Especificação do gateway |
Conexões de clientes |
Novas conexões HTTPS |
Utilização de CPU |
Uso de memória |
||||
|
Limiar seguro |
Limiar de aviso |
Limiar seguro |
Limiar de aviso |
Limiar seguro |
Limiar de aviso |
Limiar seguro |
Limiar de aviso |
|
|
|
12.000 |
24.000 |
400 |
800 |
30% |
60% |
75% |
75% |
|
|
24.000 |
48.000 |
800 |
1.600 |
30% |
60% |
75% |
75% |
|
|
48.000 |
96.000 |
1.600 |
3.200 |
30% |
60% |
75% |
75% |
|
|
96.000 |
192.000 |
3.200 |
6.400 |
30% |
60% |
75% |
75% |
|
|
192.000 |
384.000 |
6.400 |
12.800 |
30% |
60% |
75% |
75% |
|
|
384.000 |
768.000 |
12.800 |
25.600 |
30% |
60% |
75% |
75% |
|
|
576.000 |
1.152.000 |
19.200 |
38.400 |
30% |
60% |
75% |
75% |
|
|
768.000 |
1.536.000 |
25.600 |
51.200 |
30% |
60% |
75% |
75% |
|
|
1.536.000 |
3.072.000 |
51.200 |
102.400 |
30% |
60% |
75% |
75% |
|
|
2.304.000 |
4.608.000 |
76.800 |
153.600 |
30% |
60% |
75% |
75% |
|
|
3.072.000 |
6.144.000 |
102.400 |
204.800 |
30% |
60% |
75% |
75% |
As instâncias Serverless utilizam recursos gerenciados pela plataforma, sem opção de escolha de especificação. Consulte a seção "Limiares de capacidade de instâncias Serverless" para conferir os limiares por locatário.
Desempenho de QPS (instâncias Dedicated)
O throughput de QPS do gateway depende de fatores como o tamanho da resposta, o uso de HTTPS e a compressão gzip. As tabelas a seguir apresentam valores pessimistas de QPS com 30% de CPU (limiar seguro).
Novas conexões HTTPS consomem uma quantidade significativa de recursos de CPU. Em cenários de pico de HTTPS, consulte os dados de conexão curta + HTTPS para avaliar a capacidade do gateway.
Conexões curtas
|
Tamanho da resposta |
HTTPS |
gzip |
dev.x1 |
small.x1 |
small.x2 |
small.x4 |
medium.x1 |
medium.x2 |
medium.x3 |
large.x1 |
large.x2 |
large.x3 |
large.x4 |
|
1 KB |
Não |
Não |
1.700 |
3.400 |
6.800 |
13.600 |
28.000 |
56.000 |
84.000 |
112.000 |
224.000 |
336.000 |
448.000 |
|
1 KB |
Sim |
Não |
500 |
1.000 |
2.000 |
4.000 |
8.700 |
17.400 |
26.100 |
34.800 |
69.600 |
104.400 |
139.200 |
Conexões longas
|
Tamanho da resposta |
HTTPS |
gzip |
dev.x1 |
small.x1 |
small.x2 |
small.x4 |
medium.x1 |
medium.x2 |
medium.x3 |
large.x1 |
large.x2 |
large.x3 |
large.x4 |
|
1 KB |
Não |
Não |
2.200 |
4.400 |
8.800 |
17.600 |
35.000 |
70.000 |
105.000 |
140.000 |
280.000 |
420.000 |
560.000 |
|
1 KB |
Sim |
Não |
2.000 |
4.000 |
8.000 |
16.000 |
32.000 |
64.000 |
96.000 |
128.000 |
256.000 |
384.000 |
512.000 |
|
1 KB |
Sim |
Sim |
1.700 |
3.400 |
6.800 |
13.600 |
28.000 |
56.000 |
84.000 |
112.000 |
224.000 |
336.000 |
448.000 |
|
10 KB |
Não |
Não |
1.800 |
3.600 |
7.200 |
14.400 |
30.000 |
60.000 |
90.000 |
120.000 |
240.000 |
360.000 |
480.000 |
|
10 KB |
Sim |
Não |
1.700 |
3.400 |
6.800 |
13.600 |
28.000 |
56.000 |
84.000 |
112.000 |
224.000 |
336.000 |
448.000 |
|
10 KB |
Sim |
Sim |
1.000 |
2.000 |
4.000 |
8.000 |
16.000 |
32.000 |
48.000 |
64.000 |
128.000 |
192.000 |
256.000 |
Limites de cota
Cotas globais
As cotas globais aplicam-se tanto às instâncias Serverless quanto às instâncias Dedicated, independentemente da especificação. Para aumentar as cotas, crie um ticket.
|
Item de cota |
Cota |
|
Instâncias por região |
100 |
|
Grupos de consumidores por região (máx.) |
1.000 |
|
Consumidores por grupo de consumidores |
500 |
|
Consumidores por região (máx.) |
100.000 |
Cotas específicas da instância
A tabela abaixo integra as cotas por locatário Serverless e as cotas de instâncias Dedicated em 11 especificações para uma comparação lado a lado. As instâncias Dedicated permitem dimensionamento mediante a atualização de especificações; caso a especificação mais alta ainda seja insuficiente, crie um ticket para solicitar aumentos adicionais de cota. O Número de consumidores e as Regras de autorização de consumidor constam como itens de cota separados, sendo contados e validados de forma independente.
|
Serverless |
DEV |
Small |
Medium |
Large |
||||||||
|
Item de cota |
Serverless |
dev.x1 |
small.x1 |
small.x2 |
small.x4 |
medium.x1 |
medium.x2 |
medium.x3 |
large.x1 |
large.x2 |
large.x3 |
large.x4 |
|
Domínios publicados |
100 |
100 |
200 |
300 |
400 |
500 |
600 |
800 |
1.000 |
1.200 |
1.400 |
1.600 |
|
Serviços |
200 |
200 |
800 |
1.200 |
1.600 |
2.000 |
2.500 |
3.000 |
4.000 |
4.500 |
5.000 |
6.000 |
|
Total de rotas online (rotas de API HTTP, endpoints de API REST, rotas de Ingress) |
2.500 |
2.500 |
5.000 |
6.000 |
7.000 |
7.500 |
8.000 |
9.000 |
10.000 |
11.000 |
12.000 |
13.000 |
|
Número de consumidores |
500 |
500 |
2.000 |
4.000 |
6.000 |
8.000 |
12.000 |
16.000 |
20.000 |
27.500 |
35.000 |
42.500 |
|
Regras de autorização de consumidor |
500 |
500 |
2.000 |
4.000 |
6.000 |
8.000 |
12.000 |
16.000 |
20.000 |
27.500 |
35.000 |
42.500 |
|
Regras de cota de consumidor |
500 |
500 |
2.000 |
4.000 |
6.000 |
8.000 |
12.000 |
16.000 |
20.000 |
27.500 |
35.000 |
42.500 |
|
Fontes de service do K8s |
1 |
3 |
3 |
3 |
3 |
5 |
5 |
5 |
5 |
5 |
5 |
5 |
|
Plugins instalados |
5 |
5 |
10 |
10 |
10 |
20 |
20 |
20 |
30 |
30 |
30 |
30 |
|
Plugins personalizados carregados |
Sem suporte |
10 |
20 |
20 |
20 |
50 |
50 |
50 |
80 |
80 |
80 |
80 |
Para instâncias Serverless, a compra de expansões para regras de consumidor (grupo) aumenta simultaneamente os limites das três cotas relacionadas ao consumidor: Regras de autorização de consumidor, Número de consumidores e Regras de cota de consumidor. Para obter informações de faturamento, consulte Serverless billing overview. O aumento máximo de cota está sujeito às opções da página de compra. Para cotas de outros tipos de gateway e demais itens de cota de instâncias Serverless, envie um ticket para solicitar o aumento.
Cálculo de cota de consumidor
O Número de consumidores e as Regras de autorização de consumidor são dois itens de cota distintos, contados e validados de forma independente.
Os limites para o Número de consumidores e as Regras de autorização de consumidor estão listados separadamente por especificação na tabela acima. Consulte a tabela de cotas por especificação de instância para conferir outros valores.
Número de consumidores = a quantidade de consumidores distintos referenciados por autorizações diretas e por grupos de consumidores no gateway atual. Um consumidor referenciado por múltiplas regras ou grupos é contabilizado apenas uma vez. Um grupo de consumidores vazio não adiciona nenhum consumidor.
Regras de autorização de consumidor = a quantidade de regras de autorização de consumidor mantidas no gateway atual. Cada regra de autorização direta conta como uma, e cada regra de autorização de grupo de consumidores também conta como uma, independentemente da quantidade de membros ou de o grupo estar vazio.
Cada valor de uso é comparado ao seu limite de cota correspondente de forma independente: o número de consumidores não deve exceder o limite de Número de consumidores, e a quantidade de regras de autorização não deve exceder o limite de Regras de autorização de consumidor. Uma lista de permissões ou configuração especial pode aumentar o limite aplicável, mas não altera essas regras de contagem.
Limiares de capacidade de instâncias Serverless
As instâncias Serverless utilizam um pool compartilhado multilocatário gerenciado pela plataforma, sem opção de escolha de especificação. Todos os locatários compartilham um limite de capacidade unificado. A seguir, estão os limiares por locatário para o período de beta público.
Limiares de capacidade por locatário
|
Métrica |
Cota beta |
Descrição |
|
QPS por locatário |
10.000 |
Avalie a atualização para uma instância Dedicated ao se aproximar deste limite; envie um ticket para excedê-lo |
|
Novas conexões por segundo |
2.000 |
Limite de taxa de conexão por locatário imposto pela plataforma |
|
Total de conexões |
100.000 |
Limite de conexões ativas por locatário no ingress do gateway |
Capacidade elástica
Elasticidade gerenciada pela plataforma: A plataforma dimensiona automaticamente os recursos de computação Serverless. Os locatários não precisam ajustar a escala manualmente.
Isolamento no nível do locatário: Cada locatário possui um ingress dedicado, com tráfego estritamente isolado de outros locatários.
Tratamento de excesso de limite: Quando o QPS, as conexões ou as rotas excedem os limites de cota, a plataforma retorna respostas de limitação. Para obter cotas maiores, atualize para uma instância Dedicated ou envie um ticket.
Aumentos de cota e atualizações de instância
|
Cenário |
Caminho recomendado |
|
Cota de instância Dedicated insuficiente |
Atualize para uma especificação maior; envie um ticket caso ainda seja insuficiente |
|
QPS de instância Serverless se aproximando de 10.000 |
Avalie a atualização para uma instância Dedicated |
|
Instância Serverless requer SLA mais alto |
Atualize para uma instância Dedicated |