Server Load Balancer:Configure connection draining

Retirer un serveur backend

La figure suivante montre les transitions d'état d'ECS01 après son retrait d'un groupe de serveurs avec la vidange de connexion activée.

Échec du contrôle d'intégrité

Sessions WebSocket

Étape 1 : Activer la vidange de connexion

Un groupe de serveurs a été créé en tant que prérequis. Cette étape montre comment activer la vidange de connexion pour un groupe de serveurs existant. Vous pouvez également activer cette fonctionnalité lors de sa création.

1. Connectez-vous à la console ALB.

2. Dans la barre de navigation supérieure, sélectionnez la région où le groupe de serveurs est déployé.

3. Dans le volet de navigation de gauche, choisissez ALB > Server Groups.

4. Sur la page Server Groups, recherchez le groupe de serveurs cible et cliquez sur son ID.

5. Sous l'onglet Details, dans la section Basic Information, cliquez sur Modify Basic Information.

6. Dans la boîte de dialogue Modify Basic Information, cliquez sur Advanced Settings et activez Connection Draining.

7. Définissez le Timeout Period sur 300 secondes et cliquez sur Save.

Étape 2 : Vérifier les résultats

Configurer le serveur

1. Connectez-vous à l'instance ECS01. Pour plus d'informations, consultez Méthodes de connexion.

2. Exécutez les commandes suivantes pour créer et accéder à un répertoire WebSocket :

   mkdir WebSocket
   cd WebSocket

3. Exécutez la commande suivante pour installer les dépendances :

   pip install tornado
   pip install websocket-client

4. Exécutez la commande suivante pour modifier le fichier de configuration server.py :

   vim server.py

   1. Appuyez sur i pour passer en mode édition et ajoutez les configurations suivantes pour démarrer un service WebSocket :

      #!/usr/bin/env python3
      # encoding=utf-8
      
      import tornado.websocket
      import tornado.ioloop
      import tornado.web
      from datetime import datetime
      
      # WebSocket handler
      class WebSocketHandler(tornado.websocket.WebSocketHandler):
          def open(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "WebSocket connection opened")
      
          def on_message(self, message):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "Received message:", message)
              self.write_message("Server received your message: " + message)
      
          def on_close(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "WebSocket connection closed")
      
      # Routing
      application = tornado.web.Application([
          (r"/websocket", WebSocketHandler),
      ])
      
      if __name__ == "__main__":
          print("WebSocket Server Start on 8080 ...")
          application.listen(8080)
          tornado.ioloop.IOLoop.current().start()
      

   2. Après avoir modifié le fichier de configuration, appuyez sur la touche Esc, saisissez :wq, puis appuyez sur Entrée pour enregistrer et fermer le fichier.

5. Accédez au répertoire où se trouve server.py et exécutez la commande suivante pour démarrer le service WebSocket :

   python3 server.py

   La réponse suivante indique que le service backend WebSocket est démarré.

   Websocket Server Start on 8080 ...

Ajouter ECS01 au groupe de serveurs

1. Connectez-vous à la console ALB.

2. Dans la barre de navigation supérieure, sélectionnez la région où le groupe de serveurs est déployé.

3. Dans le volet de navigation de gauche, choisissez ALB > Server Groups.

4. Sur la page Server Groups, recherchez le groupe de serveurs cible et cliquez sur Modify Backend Server dans la colonne Actions.

5. Sous l'onglet Backend Servers, cliquez sur Add Backend Server. Dans le panneau Add Backend Server, sélectionnez ECS01 et cliquez sur Next.

6. À l'étape Ports/Weights, sélectionnez l'instance ECS01, définissez le port sur 8080, puis cliquez sur OK.

Configurer le client

1. Connectez-vous au client et ouvrez l'interface de ligne de commande (CLI). Exécutez les commandes suivantes pour créer et accéder à un répertoire WebSocket :

   mkdir WebSocket
   cd WebSocket

2. Exécutez la commande suivante pour installer les dépendances :

   pip install websocket-client

3. Exécutez la commande suivante pour modifier le fichier client.py :

   vim client.py

   1. Appuyez sur i pour passer en mode édition et ajoutez les configurations suivantes pour démarrer un client WebSocket afin d'accéder au service :

      #!/usr/bin/env python3
      # encoding=utf-8
      
      import websocket
      import time
      from datetime import datetime
      
      def on_message(ws, message):
          print("Received message from server:", message)
      
      if __name__ == "__main__":
          ws = websocket.WebSocket()
          ws.connect("ws://<domain_name>:80/websocket") # Replace <domain_name> with your actual domain name.
          print("WebSocket connection opened")
          try:
              while True:
                  current_time = datetime.now()
                  formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
                  print("Sending time:", formatted_time)
                  ws.send("Hello, Server!")
                  result = ws.recv()
                  on_message(ws, result)
                  time.sleep(1)
          except Exception:
              print("WebSocket connection closed")
      

   2. Après avoir modifié le fichier de configuration, appuyez sur la touche Esc, saisissez :wq, puis appuyez sur Entrée pour enregistrer et fermer le fichier.

4. Accédez au répertoire où se trouve client.py et exécutez la commande suivante pour accéder au serveur backend ECS01 :

   python3 client.py

   La réponse suivante indique que l'accès a réussi.

   WebSocket connection opened
   Sending time: 2024-04-28 17:00:53
   Received message from server: Server received your message: Hello, Server!
   Sending time: 2024-04-28 17:00:54
   Received message from server: Server received your message: Hello, Server!

   Le serveur backend ECS01 renvoie la réponse suivante.

   WebSocket Server Start on 8080 ...
   Time: 2024-04-28 17:00:53 WebSocket connection opened
   Time: 2024-04-28 17:00:53 Received message: Hello, Server!
   Time: 2024-04-28 17:00:54 Received message: Hello, Server!

Retirer le serveur backend

1. Connectez-vous à la console ALB.

2. Dans la barre de navigation supérieure, sélectionnez la région où le groupe de serveurs est déployé.

3. Dans le volet de navigation de gauche, choisissez ALB > Server Groups.

4. Recherchez le groupe de serveurs cible et cliquez sur son ID.

5. Cliquez sur l'onglet Backend Servers, recherchez le serveur backend cible ECS01, puis cliquez sur Remove dans la colonne Actions.

6. Dans la boîte de dialogue Remove, cliquez sur OK.

Attendre la vidange de connexion

Le paramètre Timeout Period est défini sur 300 secondes. Les résultats du test montrent qu'ALB interrompt la session environ 300 secondes après le retrait d'ECS01.

• Le client renvoie la réponse suivante.

  Sending time: 2024-04-28 17:06:23
  Received message from server: Server received your message: Hello, Server!
  Sending time: 2024-04-28 17:06:24
  WebSocket connection closed

• L'instance de serveur ECS01 renvoie la réponse suivante.

  Time: 2024-04-28 17:06:22 Received message: Hello, Server!
  Time: 2024-04-28 17:06:23 Received message: Hello, Server!
  Time: 2024-04-28 17:06:23 WebSocket connection closed

Sessions HTTP

Dans les scénarios HTTP, la réponse reçue par le client varie en fonction des paramètres du délai d'expiration de la vidange de connexion, du délai d'expiration de la demande de connexion et du temps de traitement du serveur backend.

• Si le délai d'expiration de la vidange de connexion est inférieur au temps de traitement du serveur backend, la connexion est interrompue avant qu'ECS01 n'envoie une réponse. Dans ce cas, le client reçoit une réponse d'erreur 500.

• Si le temps de traitement du serveur backend est supérieur au délai d'expiration de la demande de connexion, la requête vers ECS01 expire. Dans ce cas, le client reçoit une réponse d'erreur 504.

Cette rubrique utilise un délai d'expiration de la vidange de connexion de 15 secondes et un temps de traitement du serveur backend de 30 secondes comme exemple. Dans ce scénario, la connexion est interrompue avant qu'ECS01 ne termine l'envoi de la réponse, et le client reçoit une réponse d'erreur 500.

Étape 1 : Activer la vidange de connexion

Un groupe de serveurs a été créé en tant que prérequis. Cette étape montre comment activer la vidange de connexion pour un groupe de serveurs existant. Vous pouvez également activer cette fonctionnalité lors de sa création.

1. Connectez-vous à la console ALB.

2. Dans la barre de navigation supérieure, sélectionnez la région où le groupe de serveurs est déployé.

3. Dans le volet de navigation de gauche, choisissez ALB > Server Groups.

4. Sur la page Server Groups, recherchez le groupe de serveurs cible et cliquez sur son ID.

5. Sous l'onglet Details, dans la section Basic Information, cliquez sur Modify Basic Information.

6. Dans la boîte de dialogue Modify Basic Information, cliquez sur Advanced Settings et activez Connection Draining.

7. Définissez le Timeout Period sur 15 secondes et cliquez sur Save.

Étape 2 : Définir le délai d'expiration de la requête ALB

1. Connectez-vous à la console ALB.

2. Dans la barre de navigation supérieure, sélectionnez la région où l'instance ALB est déployée.

3. Sur la page Instances, recherchez l'instance ALB cible et cliquez sur son ID.

4. Cliquez sur l'onglet Listener, recherchez l'écouteur HTTP cible, puis cliquez sur son ID.

5. Dans la zone Basic Information, cliquez sur Modify Listener.

6. Dans la boîte de dialogue Modify Listener, cliquez sur Modify à côté de Advanced Settings.

7. Définissez le paramètre Connection Request Timeout sur 60 secondes (valeur par défaut) et cliquez sur Save.

Étape 3 : Configurer la résolution DNS

Pour la production, nous vous recommandons de mapper un nom de domaine personnalisé au nom de domaine de l'instance ALB en créant un enregistrement CNAME.

1. Dans le volet de navigation de gauche, choisissez ALB > Instances.

2. Sur la page Instances, copiez le nom DNS de l'instance ALB créée.

3. Suivez ces étapes pour ajouter un enregistrement CNAME.

   Remarque

   Si votre nom de domaine est enregistré auprès d'un fournisseur autre qu'Alibaba Cloud, vous devez ajouter le nom de domaine à la console Alibaba Cloud DNS avant de pouvoir configurer la résolution DNS. Pour plus d'informations, consultez Gérer les noms de domaine. Si votre nom de domaine est enregistré auprès d'Alibaba Cloud, procédez comme suit.

   1. Connectez-vous à la console Alibaba Cloud DNS.

   2. Sur la page Public Zone, recherchez le nom de domaine cible et cliquez sur Settings dans la colonne Operations.

   3. Sur la page Settings, cliquez sur Add Record.

   4. Dans le panneau Add Record, configurez l'enregistrement CNAME en définissant les paramètres suivants, puis cliquez sur OK.

      Paramètre	Description
      Record Type	Sélectionnez CNAME dans la liste déroulante.
      Hostname	Le préfixe de votre nom de domaine. Ce tutoriel utilise @. Remarque Pour utiliser un domaine racine, définissez le hostname sur @.
      Query Source	Sélectionnez Default.
      Record Value	Saisissez le nom DNS de l'instance ALB que vous avez copié.
      TTL	Le Time to live (TTL) correspond à la durée pendant laquelle un enregistrement DNS est mis en cache sur un serveur DNS. Utilisez la valeur par défaut.

Étape 4 : Vérifier les résultats

Configurer le serveur

1. Connectez-vous à l'instance ECS01. Pour plus d'informations, consultez Méthodes de connexion.

2. Exécutez les commandes suivantes pour créer et accéder à un répertoire HTTP :

   mkdir http
   cd http

3. Exécutez la commande suivante pour modifier le fichier de configuration http_server.py :

   vim http_server.py

   1. Appuyez sur i pour passer en mode édition et ajoutez les configurations suivantes pour démarrer un service de serveur HTTP :

      #!/usr/bin/env python3
      # encoding=utf-8
      
      from http.server import SimpleHTTPRequestHandler, HTTPServer
      from datetime import datetime
      import time
      
      class DelayedHTTPRequestHandler(SimpleHTTPRequestHandler):
          def do_GET(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "GET request received. Responding after a 30-second delay....")
              time.sleep(30) # Use the time.sleep function to simulate the processing time of the backend server.
              SimpleHTTPRequestHandler.do_GET(self)
      
      PORT = 8080
      server = HTTPServer(("", PORT), DelayedHTTPRequestHandler)
      print(f"Serving HTTP on 0.0.0.0 port {PORT} (http://0.0.0.0:{PORT}/) ...")
      server.serve_forever()
      

   2. Après avoir modifié le fichier de configuration, appuyez sur la touche Esc, saisissez :wq, puis appuyez sur Entrée pour enregistrer et fermer le fichier.

4. Accédez au répertoire où se trouve http_server.py et exécutez la commande suivante pour démarrer le service de serveur HTTP :

   python3 http_server.py

   La réponse suivante indique que le service backend du serveur HTTP est démarré.

   Serving HTTP on 0.0.0.0 port 8080 (http://0.0.0.0:8080/) ...

Ajouter ECS01 au groupe de serveurs

1. Connectez-vous à la console ALB.

2. Dans la barre de navigation supérieure, sélectionnez la région où le groupe de serveurs est déployé.

3. Sur la page Server Groups, recherchez le groupe de serveurs cible et cliquez sur Modify Backend Server dans la colonne Actions.

4. Sous l'onglet Backend Servers, cliquez sur Add Backend Server. Dans le panneau Add Backend Server, sélectionnez ECS01 et cliquez sur Next.

5. À l'étape Ports/Weights, sélectionnez l'instance ECS01, définissez le port sur 8080, puis cliquez sur OK.

Configurer le client

1. Connectez-vous au client et ouvrez la CLI. Exécutez la commande suivante pour accéder au serveur backend ECS01 :

   curl http://<domain_name>:80/ -v

   La réponse suivante indique qu'ALB peut accéder au service backend.

   * About to connect() to www.example.com port 80 (#0)
   *   Trying 10.X.X.225...
   * Connected to www.example.com (10.X.X.225) port 80 (#0)
   > GET / HTTP/1.1
   > User-Agent: curl/7.29.0
   > Host: www.example.com
   > Accept: */*

   Le serveur renvoie la réponse suivante.

   Serving HTTP on 0.0.0.0 port 8080 (http://0.0.0.0:8080/) ...
   Time: 2024-02-07 13:57:33 Received a GET request. Responding after a 30-second delay....

Retirer le serveur backend

1. Connectez-vous à la console ALB.

2. Dans la barre de navigation supérieure, sélectionnez la région où le groupe de serveurs est déployé.

3. Dans le volet de navigation de gauche, choisissez ALB > Server Groups.

4. Recherchez le groupe de serveurs cible et cliquez sur son ID.

5. Cliquez sur l'onglet Backend Servers, recherchez le serveur backend cible ECS01, puis cliquez sur Remove dans la colonne Actions.

6. Dans la boîte de dialogue Remove, cliquez sur OK.

Attendre la vidange de connexion

Les résultats du test montrent que le client reçoit une réponse d'erreur 500 lorsque le délai d'expiration de la vidange de connexion défini pour ALB est inférieur au temps de traitement du serveur backend.

* About to connect() to www.example.com port 80 (#0)
*   Trying 10.X.X.224...
* Connected to www.example.com (10.XX.XX.224) port 80 (#0)
> GET / HTTP/1.1
> User-Agent: curl/7.29.0
> Host: www.example.com
> Accept: */*
> 
< HTTP/1.1 500 Internal Server Error
< Date: Wed, 07 Feb 2024 06:02:24 GMT
< Content-Type: text/html
< Content-Length: 186
< Connection: close
< Via: HTTP/1.1 SLB.87
< 
<html>
<head><title>500 Internal Server Error</title></head>
<body bgcolor="white">
<center><h1>500 Internal Server Error</h1></center>
<hr><center>nginx</center>
</body>
</html>
* Closing connection 0