Alibaba Cloud Service Mesh:Build fault-tolerant distributed systems with ASM

Configurer un délai d'expiration

Sans délai d'expiration, une requête adressée à un service en amont qui ne répond pas bloque indéfiniment, ce qui consomme des ressources et peut bloquer l'appelant. La définition d'un délai d'expiration limite cette attente : si le service en amont ne répond pas dans la durée spécifiée, le proxy sidecar renvoie une erreur afin que l'appelant puisse exécuter une action de secours.

Une erreur de délai d'expiration ne signifie pas que l'opération en amont a échoué. L'opération peut toujours se terminer côté serveur. Un délai d'expiration signifie uniquement que l'appelant a cessé d'attendre.

Définissez le champ timeout sur une route dans un VirtualService. Ce délai d'expiration s'applique à toutes les requêtes correspondant à cette route.

apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata:
  name: httpbin
spec:
  hosts:
  - 'httpbin'
  http:
  - route:
    - destination:
        host: httpbin
    timeout: 5s

Configurer une politique de nouvelles tentatives

Les défaillances transitoires, telles que les réinitialisations de connexion, les redémarrages brefs de service ou les perturbations réseau, se résolvent souvent d'elles-mêmes. Un mécanisme de nouvelle tentative renvoie automatiquement les requêtes ayant échoué, améliorant ainsi les taux de réussite sans intervention manuelle.

Définissez un bloc retries dans un VirtualService. L'exemple suivant effectue jusqu'à 3 nouvelles tentatives en cas d'échec ou de réinitialisation de la connexion, avec un délai d'expiration de 5 secondes par tentative :

apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata:
  name: httpbin
spec:
  hosts:
  - 'httpbin'
  http:
  - route:
    - destination:
        host: httpbin
    retries:
      attempts: 3
      perTryTimeout: 5s
      retryOn: connect-failure,reset

Configurer un cloisonnement

Un appelant dysfonctionnant peut submerger un service en ouvrant trop de connexions ou en envoyant trop de requêtes simultanées. Le modèle de cloisonnement isole les ressources en limitant les connexions et les requêtes, empêchant ainsi un service de consommer toute la capacité disponible. Les requêtes dépassant le seuil reçoivent une erreur 503 immédiate au lieu d'être mises en file d'attente indéfiniment.

Définissez les limites du pool de connexions dans une DestinationRule. L'exemple suivant limite le service httpbin à 1 connexion simultanée, 1 requête par connexion et 1 requête en attente, avec un délai d'expiration de connexion de 10 secondes :

apiVersion: networking.istio.io/v1beta1
kind: DestinationRule
metadata:
  name: httpbin
spec:
  host: httpbin
  trafficPolicy:
    connectionPool:
      http:
        http1MaxPendingRequests: 1
        maxRequestsPerConnection: 1
      tcp:
        connectTimeout: 10s
        maxConnections: 1

Configurer un disjoncteur

Si un hôte en amont commence à renvoyer systématiquement des erreurs, continuer à lui envoyer du trafic gaspille des ressources et augmente les taux d'erreur. Le disjoncteur détecte les hôtes défaillants et les retire temporairement (éjection) du pool d'équilibrage de charge. Après la période d'éjection, l'hôte est rajouté. Si les échecs persistent, les durées d'éjection augmentent progressivement : chaque éjection suivante dure plus longtemps que la précédente (baseEjectionTime x nombre d'éjections consécutives).

Définissez des règles de détection des anomalies dans une DestinationRule. L'exemple suivant éjecte un hôte du service httpbin s'il renvoie 3 erreurs consécutives dans n'importe quelle fenêtre de 5 secondes. L'hôte reste éjecté pendant au moins 5 minutes, et jusqu'à 100 % des hôtes peuvent être éjectés simultanément :

apiVersion: networking.istio.io/v1beta1
kind: DestinationRule
metadata:
  name: httpbin
spec:
  host: httpbin
  trafficPolicy:
    outlierDetection:
      consecutiveErrors: 3
      interval: 5s
      baseEjectionTime: 5m
      maxEjectionPercent: 100

Références

• Istio VirtualService reference -- référence complète des champs pour la configuration du délai d'expiration et des nouvelles tentatives

• Istio DestinationRule reference -- référence complète des champs pour la configuration du cloisonnement et du disjoncteur

• Configure sidecar proxies -- gérer les paramètres du proxy sidecar pour vos charges de travail