Qu'est-ce qu'un pool de connexions sortantes ?
Les données transitent de manière séquentielle sur une connexion HTTP persistante. L'expéditeur doit attendre la réponse à la requête précédente avant d'envoyer la suivante. Un pool de connexions sortantes fournit les ressources de connexion nécessaires à une instance API Gateway pour accéder à un service backend.
Par exemple, si vous avez acheté une instance dédiée de type api.s1.small avec un pool de connexions sortantes de 1 200 connexions et que votre service backend met une seconde à répondre à chaque requête, l'instance prend en charge un maximum de 1 200 requêtes sortantes par seconde (RPS). Si plus de 1 200 requêtes sont envoyées en une seconde, les requêtes excédentaires restent en file d'attente car le pool de connexions est saturé. Si une requête ne parvient pas à obtenir des ressources de connexion dans un délai de 500 millisecondes, l'erreur Backend service connect failed 'Connection lease request time out error est renvoyée. Pour éviter ce type d'erreurs, configurez Simple Log Service afin qu'il envoie des alertes avant l'épuisement des ressources de connexion, ce qui vous permettra de remédier rapidement à la pénurie de ressources.
Prérequis
La journalisation des logs API Gateway est activée. Pour plus d'informations, consultez la rubrique Utiliser Log Service pour gérer les logs des appels d'API.
Configurer une règle d'alerte pour le pool de connexions
Log Service déclenche une alerte lorsque les conditions définies dans une règle d'alerte sont satisfaites.
Lorsque le pool de connexions sortantes est épuisé, API Gateway renvoie l'erreur Backend service connect failed 'Connection lease request time out' au client. Cette erreur est enregistrée dans le champ errorMessage des logs. Vous pouvez configurer une alerte basée sur ce message d'erreur. Pour plus d'informations, consultez la rubrique Configurer une règle de surveillance d'alerte dans Log Service.
À l'étape 2 de la rubrique mentionnée, configurez une règle d'alerte en fonction de l'ID de l'instance, de l'ID d'erreur et du message d'erreur. L'instruction de requête et d'analyse suivante est donnée à titre d'exemple.
instanceId: apigateway-cn-XXXXX and errorId : D504CO and '`Connection lease request time out`' Dans la boîte de dialogue Query and Statistics, cliquez sur l'onglet Advanced Settings. Définissez Type sur Logstore. Pour Region, sélectionnez la région où se trouve l'instance. Pour Project et Logstore, saisissez respectivement le Project et le Logstore correspondant à vos logs API Gateway, tels que ali-apigateway-log-cn-beijing et gateway_request_log. Définissez Dedicated SQL sur Disabled. Définissez Time Range sur 15 Minutes (Relative).
Résoudre l'épuisement du pool de connexions sortantes
-
Mettez à niveau l'instance API Gateway.
Si vous utilisez une instance serverless, achetez d'abord une instance dédiée, puis migrez le groupe d'API vers cette instance dédiée. Pour plus d'informations, consultez la rubrique Migrer des groupes d'API entre instances.
Si l'instance est une instance dédiée, mettez à niveau ses spécifications dans la console API Gateway. Pour plus d'informations, consultez la rubrique Modifier les spécifications d'une instance.
Vérifiez le temps de réponse du service backend. Cette métrique (en ms) est enregistrée dans le champ serviceLatency des logs. Elle mesure la durée écoulée entre l'envoi d'une requête par API Gateway au service backend et la réception du dernier paquet de la réponse. Des réponses lentes contribuent à l'épuisement des ressources de connexion sortantes. Nous vous recommandons également de configurer une règle d'alerte pour la valeur serviceLatency. Si serviceLatency reste élevée, optimisez le temps de réponse du backend pour éviter l'épuisement du pool de connexions.