Limiares de capacidade, benchmarks de QPS e limites de cota para o Cloud-native API Gateway, abrangendo instâncias Dedicated e Serverless.
Este tópico abrange limiares de capacidade, benchmarks de QPS e limites de cota para instâncias Dedicated e instâncias Serverless do Cloud-native API Gateway.
As instâncias Serverless estão atualmente em beta público. As cotas listadas para Serverless são valores do período de beta e podem mudar no lançamento comercial.
Tipos de instância
|
Tipo de instância |
Modelo de recursos |
Gerenciamento de capacidade |
Casos de uso |
|
Instância Dedicated |
Recursos físicos dedicados por usuário |
Escolha uma especificação; especificações maiores equivalem a maior capacidade |
Cargas de trabalho estáveis de alta frequência, auditoria de conformidade, personalização avançada |
|
Instância Serverless |
Pool compartilhado multi-tenant gerenciado pela plataforma |
Teto de capacidade unificado pela plataforma; sem escolha de especificação |
Tráfego variável, escala pequena a média, onboarding rápido |
Limiares de capacidade (instâncias Dedicated)
A tabela a seguir lista os limiares de capacidade por especificação de gateway. A cobertura total do SLA se aplica enquanto as métricas permanecerem abaixo do limiar de alerta. Para cargas críticas, mantenha as métricas abaixo do limiar seguro.
Limiar seguro: O gateway mantém alto throughput e baixa latência mesmo que o tráfego dobre.
Limiar de alerta: Ultrapassar este nível pode causar aumento de latência e riscos de estabilidade durante picos de tráfego.
A especificação
apigw.dev.x1é uma implantação de nó único sem garantia de SLA, destinada exclusivamente a testes. Use uma especificação multi-nó para ambientes de produção.O SLA não cobre falhas de requisição quando CPU ou memória excedem o limiar de alerta. O gateway disponibiliza alarmes para esses limiares. Monitore atentamente a carga do gateway e os alarmes acionados.
Especificação do gateway | Conexões de clientes | Novas conexões HTTPS | Utilização de CPU | Uso de memória | ||||
Limiar seguro | Limiar de alerta | Limiar seguro | Limiar de alerta | Limiar seguro | Limiar de alerta | Limiar seguro | Limiar de alerta | |
| 12.000 | 24.000 | 400 | 800 | 30% | 60% | 75% | 75% |
| 24.000 | 48.000 | 800 | 1.600 | 30% | 60% | 75% | 75% |
| 48.000 | 96.000 | 1.600 | 3.200 | 30% | 60% | 75% | 75% |
| 96.000 | 192.000 | 3.200 | 6.400 | 30% | 60% | 75% | 75% |
| 192.000 | 384.000 | 6.400 | 12.800 | 30% | 60% | 75% | 75% |
| 384.000 | 768.000 | 12.800 | 25.600 | 30% | 60% | 75% | 75% |
| 576.000 | 1.152.000 | 19.200 | 38.400 | 30% | 60% | 75% | 75% |
| 768.000 | 1.536.000 | 25.600 | 51.200 | 30% | 60% | 75% | 75% |
| 1.536.000 | 3.072.000 | 51.200 | 102.400 | 30% | 60% | 75% | 75% |
| 2.304.000 | 4.608.000 | 76.800 | 153.600 | 30% | 60% | 75% | 75% |
| 3.072.000 | 6.144.000 | 102.400 | 204.800 | 30% | 60% | 75% | 75% |
As instâncias Serverless utilizam recursos gerenciados pela plataforma sem escolha de especificação. Consulte a seção "Limiares de capacidade de instâncias Serverless" para ver os limiares por tenant.
Desempenho de QPS (instâncias Dedicated)
O throughput de QPS do gateway depende de fatores como tamanho da resposta, uso de HTTPS e compressão gzip. As tabelas a seguir listam valores pessimistas de QPS a 30% de CPU (limiar seguro).
Novas conexões HTTPS consomem recursos significativos de CPU. Em cenários com picos de HTTPS, consulte os dados de conexão curta + HTTPS para avaliar a capacidade do gateway.
Conexões curtas
|
Tamanho da resposta |
HTTPS |
gzip |
dev.x1 |
small.x1 |
small.x2 |
small.x4 |
medium.x1 |
medium.x2 |
medium.x3 |
large.x1 |
large.x2 |
large.x3 |
large.x4 |
|
1 KB |
No |
No |
1700 |
3400 |
6800 |
13600 |
28000 |
56000 |
84000 |
112000 |
224000 |
336000 |
448000 |
|
1 KB |
Yes |
No |
500 |
1000 |
2000 |
4000 |
8700 |
17400 |
26100 |
34800 |
69600 |
104400 |
139200 |
Conexões longas
|
Tamanho da resposta |
HTTPS |
gzip |
dev.x1 |
small.x1 |
small.x2 |
small.x4 |
medium.x1 |
medium.x2 |
medium.x3 |
large.x1 |
large.x2 |
large.x3 |
large.x4 |
|
1 KB |
No |
No |
2200 |
4400 |
8800 |
17600 |
35000 |
70000 |
105000 |
140000 |
280000 |
420000 |
560000 |
|
1 KB |
Yes |
No |
2000 |
4000 |
8000 |
16000 |
32000 |
64000 |
96000 |
128000 |
256000 |
384000 |
512000 |
|
1 KB |
Yes |
Yes |
1700 |
3400 |
6800 |
13600 |
28000 |
56000 |
84000 |
112000 |
224000 |
336000 |
448000 |
|
10 KB |
No |
No |
1800 |
3600 |
7200 |
14400 |
30000 |
60000 |
90000 |
120000 |
240000 |
360000 |
480000 |
|
10 KB |
Yes |
No |
1700 |
3400 |
6800 |
13600 |
28000 |
56000 |
84000 |
112000 |
224000 |
336000 |
448000 |
|
10 KB |
Yes |
Yes |
1000 |
2000 |
4000 |
8000 |
16000 |
32000 |
48000 |
64000 |
128000 |
192000 |
256000 |
Limites de cota
Cotas globais
As cotas globais se aplicam a instâncias Serverless e instâncias Dedicated independentemente da especificação. Para aumentar cotas, envie um ticket.
|
Item de cota |
Cota |
|
Instâncias por região |
100 |
|
Grupos de consumidores por região (máx.) |
1000 |
|
Consumidores por grupo de consumidores |
500 |
|
Consumidores por região (máx.) |
100000 |
Cotas por instância
A tabela abaixo integra as cotas por tenant de instâncias Serverless com as cotas de instâncias Dedicated em 11 especificações para comparação lado a lado. Instâncias Dedicated podem ser escaladas com upgrade de especificação; caso a especificação mais alta ainda seja insuficiente, envie um ticket para solicitar aumentos adicionais de cota.
Serverless | DEV | Small | Medium | Large | ||||||||
Item de cota | Serverless | dev.x1 | small.x1 | small.x2 | small.x4 | medium.x1 | medium.x2 | medium.x3 | large.x1 | large.x2 | large.x3 | large.x4 |
Domínios publicados | 100 | 100 | 200 | 300 | 400 | 500 | 600 | 800 | 1000 | 1200 | 1400 | 1600 |
Services | 200 | 200 | 800 | 1200 | 1600 | 2000 | 2500 | 3000 | 4000 | 4500 | 5000 | 6000 |
Total de rotas ativas (rotas HTTP API, endpoints REST API, rotas Ingress) | 2500 | 2500 | 5000 | 6000 | 7000 | 7500 | 8000 | 9000 | 10000 | 11000 | 12000 | 13000 |
Regras de autorização de consumidores | 500 | 500 | 2000 | 4000 | 6000 | 8000 | 12000 | 16000 | 20000 | 27500 | 35000 | 42500 |
Regras de cota de consumidores | 500 | 500 | 2000 | 4000 | 6000 | 8000 | 12000 | 16000 | 20000 | 27500 | 35000 | 42500 |
Fontes de service K8s | 1 | 3 | 3 | 3 | 3 | 5 | 5 | 5 | 5 | 5 | 5 | 5 |
Plugins instalados | 5 | 5 | 10 | 10 | 10 | 20 | 20 | 20 | 30 | 30 | 30 | 30 |
Plugins customizados enviados | Not supported | 10 | 20 | 20 | 20 | 50 | 50 | 50 | 80 | 80 | 80 | 80 |
Limiares de capacidade de instâncias Serverless
As instâncias Serverless utilizam um pool compartilhado multi-tenant gerenciado pela plataforma, sem escolha de especificação. Todos os tenants compartilham um limite de capacidade unificado. Os valores a seguir são limiares por tenant válidos durante o período de beta público.
Limiares de capacidade por tenant
|
Métrica |
Cota em beta |
Descrição |
|
QPS por tenant |
10000 |
Avalie migrar para uma instância Dedicated ao se aproximar deste limite; envie um ticket para excedê-lo |
|
Novas conexões por segundo |
2000 |
Limite de taxa de conexão por tenant aplicado pela plataforma |
|
Total de conexões |
100000 |
Limite de conexões ativas por tenant no ingress do gateway |
Elasticidade
Elasticidade gerenciada pela plataforma: Os recursos de computação Serverless são escalados automaticamente pela plataforma. Os tenants não precisam escalar manualmente.
Isolamento por tenant: Cada tenant dispõe de um ingress dedicado, com tráfego rigorosamente isolado dos demais tenants.
Tratamento de excesso de limite: Quando QPS, conexões ou rotas ultrapassam os limites de cota, a plataforma retorna respostas de throttling. Para cotas maiores, faça upgrade para uma instância Dedicated ou envie um ticket.
Aumentos de cota e upgrades de instância
|
Cenário |
Caminho recomendado |
|
Cota insuficiente em instância Dedicated |
Faça upgrade para uma especificação superior; se ainda for insuficiente, envie um ticket |
|
QPS de instância Serverless se aproximando de 10000 |
Avalie migrar para uma instância Dedicated |
|
Instância Serverless requer SLA mais elevado |
Faça upgrade para uma instância Dedicated |