Cloud Native API Gateway capacity thresholds, QPS, and quota limits - API Gateway

Seuils de capacité, repères de QPS et limites de quota pour Cloud-native API Gateway, couvrant les instances dédiées et serverless.

Remarque

Cette rubrique présente les seuils de capacité, les repères de QPS et les limites de quota pour les instances dédiées et les instances serverless de Cloud-native API Gateway.

Important

Les instances serverless sont actuellement en version bêta publique. Les quotas répertoriés pour les instances serverless correspondent aux valeurs applicables pendant la période bêta et peuvent être modifiés lors de la mise à disposition commerciale.

Types d'instance

Type d'instance

Modèle de ressource

Gestion de la capacité

Cas d'utilisation

Instance dédiée

Ressources physiques dédiées par utilisateur

Choisissez une spécification ; une spécification supérieure offre une capacité plus élevée

Charges de travail stables à haute fréquence, audit de conformité, personnalisation approfondie

Instance serverless

Pools partagés multilocataires gérés par la plateforme

Plafond de capacité unifié de la plateforme ; aucun choix de spécification

Trafic variable, échelle petite à moyenne, intégration rapide

Seuils de capacité (instances dédiées)

Le tableau suivant répertorie les seuils de capacité par spécification de passerelle. La couverture SLA complète s'applique lorsque les métriques restent inférieures au seuil d'avertissement. Pour les charges de travail critiques, maintenez les métriques en dessous du seuil sécurisé.

Seuil sécurisé : la passerelle maintient un débit élevé et une faible latence, même si le trafic double.
Seuil d'avertissement : le dépassement de ce niveau peut entraîner une augmentation de la latence et des risques de stabilité lors des pics de trafic.
La spécification apigw.dev.x1 est un déploiement à nœud unique sans garantie SLA, destiné uniquement aux tests. Vous devez utiliser une spécification multinœud pour la production.
Le SLA ne couvre pas les échecs de requête lorsque l'utilisation du CPU ou de la mémoire dépasse le seuil d'avertissement. La passerelle émet des alertes pour ces seuils. Surveillez attentivement la charge de la passerelle et les alertes déclenchées.

Spécification de la passerelle	Connexions client		Nouvelles connexions HTTPS		Utilisation du CPU		Utilisation de la mémoire
Spécification de la passerelle	Seuil sécurisé	Seuil d'avertissement	Seuil sécurisé	Seuil d'avertissement	Seuil sécurisé	Seuil d'avertissement	Seuil sécurisé	Seuil d'avertissement
`apigw.dev.x1`	12 000	24 000	400	800	30 %	60 %	75 %	75 %
`apigw.small.x1`	24 000	48 000	800	1 600	30 %	60 %	75 %	75 %
`apigw.small.x2`	48 000	96 000	1 600	3 200	30 %	60 %	75 %	75 %
`apigw.small.x4`	96 000	192 000	3 200	6 400	30 %	60 %	75 %	75 %
`apigw.medium.x1`	192 000	384 000	6 400	12 800	30 %	60 %	75 %	75 %
`apigw.medium.x2`	384 000	768 000	12 800	25 600	30 %	60 %	75 %	75 %
`apigw.medium.x3`	576 000	1 152 000	19 200	38 400	30 %	60 %	75 %	75 %
`apigw.large.x1`	768 000	1 536 000	25 600	51 200	30 %	60 %	75 %	75 %
`apigw.large.x2`	1 536 000	3 072 000	51 200	102 400	30 %	60 %	75 %	75 %
`apigw.large.x3`	2 304 000	4 608 000	76 800	153 600	30 %	60 %	75 %	75 %
`apigw.large.x4`	3 072 000	6 144 000	102 400	204 800	30 %	60 %	75 %	75 %

Remarque

Les instances serverless utilisent des ressources gérées par la plateforme sans choix de spécification. Consultez la section « Seuils de capacité des instances serverless » pour connaître les seuils par locataire.

Performances en QPS (instances dédiées)

Le débit QPS du gateway dépend de plusieurs facteurs, tels que la taille de la réponse, l'utilisation d'HTTPS et la compression gzip. Les tableaux suivants indiquent les valeurs pessimistes de QPS à 30 % d'utilisation du CPU (seuil de sécurité).

Remarque

Les nouvelles connexions HTTPS consomment des ressources CPU importantes. Pour les scénarios HTTPS avec pics de trafic, reportez-vous aux données short connection + HTTPS afin d'évaluer la capacité du gateway.

Connexions courtes

Taille de la réponse

HTTPS

gzip

dev.x1

small.x1

small.x2

small.x4

medium.x1

medium.x2

medium.x3

large.x1

large.x2

large.x3

large.x4

1 Ko

Non

1700

3400

6800

13600

28000

56000

84000

112000

224000

336000

448000

1 Ko

Oui

Non

500

1000

2000

4000

8700

17400

26100

34800

69600

104400

139200

Connexions persistantes

Taille de la réponse

HTTPS

gzip

dev.x1

small.x1

small.x2

small.x4

medium.x1

medium.x2

medium.x3

large.x1

large.x2

large.x3

large.x4

1 Ko

Non

2200

4400

8800

17600

35000

70000

105000

140000

280000

420000

560000

1 Ko

Oui

Non

2000

4000

8000

16000

32000

64000

96000

128000

256000

384000

512000

1 Ko

Oui

1700

3400

6800

13600

28000

56000

84000

112000

224000

336000

448000

10 Ko

Non

1800

3600

7200

14400

30000

60000

90000

120000

240000

360000

480000

10 Ko

Oui

Non

1700

3400

6800

13600

28000

56000

84000

112000

224000

336000

448000

10 Ko

Oui

1000

2000

4000

8000

16000

32000

48000

64000

128000

192000

256000

Limites de quota

Quotas globaux

Les quotas globaux s'appliquent aux Serverless instances et aux Dedicated instances, quelle que soit la spécification. Pour augmenter ces quotas, soumettez un ticket.

Élément de quota

Quota

Instances par région

100

Groupes de consommateurs par région (max)

1000

Consommateurs par groupe de consommateurs

500

Consommateurs par région (max)

100000

Quotas spécifiques à l'instance

Le tableau ci-dessous regroupe les quotas Serverless par locataire et les quotas des Dedicated instances pour 11 spécifications afin de faciliter la comparaison. Les Dedicated instances peuvent monter en puissance en mettant à niveau leurs spécifications ; si la spécification la plus élevée reste insuffisante, soumettez un ticket pour obtenir une augmentation supplémentaire des quotas. Le Nombre de consommateurs et les Règles d'autorisation des consommateurs sont listés comme des éléments de quota distincts et sont comptabilisés et validés séparément.

	Serverless	DEV	Small			Medium			Large
Élément de quota	Serverless	dev.x1	small.x1	small.x2	small.x4	medium.x1	medium.x2	medium.x3	large.x1	large.x2	large.x3	large.x4
Domaines publiés	100	100	200	300	400	500	600	800	1000	1200	1400	1600
Services	200	200	800	1200	1600	2000	2500	3000	4000	4500	5000	6000
Total des routes en ligne (routes HTTP API, endpoints REST API, routes Ingress)	2500	2500	5000	6000	7000	7500	8000	9000	10000	11000	12000	13000
Nombre de consommateurs	500	500	2000	4000	6000	8000	12000	16000	20000	27500	35000	42500
Règles d'autorisation des consommateurs	500	500	2000	4000	6000	8000	12000	16000	20000	27500	35000	42500
Règles de quota des consommateurs	500	500	2000	4000	6000	8000	12000	16000	20000	27500	35000	42500
Sources de service K8s	1	3	3	3	3	5	5	5	5	5	5	5
Plugins installés	5	5	10	10	10	20	20	20	30	30	30	30
Plugins personnalisés téléchargés	Non pris en charge	10	20	20	20	50	50	50	80	80	80	80

Calcul du quota de consommateurs

Le Nombre de consommateurs et les Règles d'autorisation des consommateurs constituent deux éléments de quota distincts, comptabilisés et validés indépendamment.

Les limites relatives au Nombre de consommateurs et aux Règles d'autorisation des consommateurs sont indiquées séparément par spécification dans le tableau ci-dessus. Consultez le tableau des quotas de spécification d'instance pour les autres valeurs.

Nombre de consommateurs = nombre de consommateurs distincts référencés par les autorisations directes et les autorisations de groupe de consommateurs sur la passerelle actuelle. Un consommateur référencé par plusieurs règles ou groupes n'est compté qu'une seule fois. Un groupe de consommateurs vide n'ajoute aucun consommateur.

Règles d'autorisation des consommateurs = nombre de règles d'autorisation de consommateurs conservées sur la passerelle actuelle. Chaque règle d'autorisation directe compte pour une unité, tout comme chaque règle d'autorisation de groupe de consommateurs, quel que soit le nombre de membres du groupe ou si le groupe est vide.

Chaque valeur d'utilisation est comparée indépendamment à sa limite de quota correspondante : le nombre de consommateurs ne doit pas dépasser la limite du Nombre de consommateurs, et le nombre de règles d'autorisation de consommateurs ne doit pas dépasser la limite des Règles d'autorisation des consommateurs. Une liste d'autorisation ou une configuration spéciale peut augmenter la limite applicable, mais ne modifie pas ces règles de comptage.

Seuils de capacité des instances Serverless

Remarque

Les instances Serverless utilisent un pool partagé multi-locataire géré par la plateforme, sans choix de spécification. Tous les locataires partagent une limite de capacité unifiée. Les seuils suivants s'appliquent par locataire pendant la période de bêta publique.

Seuils de capacité par locataire

Métrique

Quota bêta

Description

QPS par locataire

10000

Évaluez la mise à niveau vers une instance Dedicated lorsque vous approchez cette limite ; soumettez un ticket pour la dépasser

Nouvelles connexions par seconde

2000

Limite de taux de connexion par locataire appliquée par la plateforme

Total des connexions

100000

Limite de connexions actives par locataire au niveau de l'entrée de la passerelle

Capacité élastique

Élasticité gérée par la plateforme : Les ressources de calcul Serverless sont mises à l'échelle automatiquement par la plateforme. Les locataires n'ont pas besoin d'effectuer manuellement des montées ou descentes en charge.
Isolation au niveau du locataire : Chaque locataire dispose d'une entrée dédiée, avec un trafic strictement isolé des autres locataires.
Gestion des dépassements de limite : Lorsque le QPS, les connexions ou les routes dépassent les limites de quota, la plateforme renvoie des réponses de limitation. Pour obtenir des quotas plus élevés, effectuez une mise à niveau vers une instance Dedicated ou soumettez un ticket.

Augmentation des quotas et mises à niveau d'instance

Scénario

Parcours recommandé

Quota d'instance Dedicated insuffisant

Effectuez une mise à niveau vers une spécification supérieure ; soumettez un ticket si le quota reste insuffisant

Le QPS de l'instance Serverless approche 10000

Évaluez la mise à niveau vers une instance Dedicated

L'instance Serverless nécessite un SLA plus élevé

Effectuez une mise à niveau vers une instance Dedicated