Server Load Balancer:ALB の接続ドレイン機能を利用したサービスのグレースフルシャットダウン

シナリオ 1：バックエンドサーバーの削除

次の図は、接続ドレインが有効になっているサーバーグループから削除された後の ECS01 の状態遷移を示しています。

シナリオ 2：ヘルスチェックの失敗

WebSocket セッションの中断動作

ステップ 1：接続ドレインの有効化

このステップでは、前提条件で用意したサーバーグループに対して接続ドレインを有効にする方法を説明します。この機能は、サーバーグループの作成時に有効にすることもできます。

1. ALB コンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. サーバーグループページで、対象のサーバーグループを見つけ、その ID をクリックします。

5. 詳細 タブで、基本情報 セクションを見つけ、基本情報の変更 をクリックします。

6. 基本情報の変更 ダイアログボックスで、詳細設定 をクリックし、接続ドレイン を有効にします。

7. グレースフル・シャットダウンのタイムアウト を 300 秒に設定し、保存 をクリックします。

ステップ 2：結果の検証

サーバーの構成

1. ECS01 インスタンスにログインします。詳細については、「接続方法」をご参照ください。

2. 次のコマンドを実行して、WebSocket という名前のディレクトリを作成し、そこに移動します。

   mkdir WebSocket
   cd WebSocket

3. 次のコマンドを実行して、必要な依存関係をインストールします。

   pip install tornado
   pip install websocket-client

4. 次のコマンドを実行して、server.py 構成ファイルを編集します。

   vim server.py

   1. i キーを押して編集モードに入り、次のコードを追加して WebSocket サービスを開始します。

      #!/usr/bin/env python3
      # encoding=utf-8
      
      import tornado.websocket
      import tornado.ioloop
      import tornado.web
      from datetime import datetime
      
      
      # WebSocket ハンドラ
      class WebSocketHandler(tornado.websocket.WebSocketHandler):
          def open(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "WebSocket connection opened")
      
          def on_message(self, message):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "Received message:", message)
              self.write_message("Server received your message: " + message)
      
          def on_close(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "WebSocket connection closed")
      
      # ルーティング
      application = tornado.web.Application([
          (r"/websocket", WebSocketHandler),
      ])
      
      if __name__ == "__main__":
          print("WebSocket Server Start on 8080 ...")
          application.listen(8080)
          tornado.ioloop.IOLoop.current().start()
      

   2. 構成を変更した後、Esc キーを押し、:wq と入力して Enter キーを押し、ファイルを保存して閉じます。

5. server.py があるディレクトリに移動し、次のコマンドを実行して WebSocket サーバーを開始します。

   python3 server.py

   次の応答は、WebSocket バックエンドサービスが開始されたことを示します。

   Websocket Server Start on 8080 ...

バックエンドサーバー ECS01 をサーバーグループに追加

1. ALB コンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. サーバーグループページで、対象のサーバーグループを見つけ、操作 列の バックエンドサーバーの変更 をクリックします。

5. バックエンドサーバー タブで、バックエンドサーバーの追加 をクリックします。バックエンドサーバーの追加 パネルで、ECS01 を選択し、次のステップ をクリックします。

6. ポート/重み ステップで、ECS01 インスタンスを選択し、ポートを 8080 に設定し、OK をクリックします。

クライアントの構成

1. クライアントにログインし、コマンドラインインターフェイスを開きます。次のコマンドを実行して、WebSocket という名前のディレクトリを作成し、そこに移動します。

   mkdir WebSocket
   cd WebSocket

2. 次のコマンドを実行して、必要な依存関係をインストールします。

   pip install websocket-client

3. 次のコマンドを実行して、client.py ファイルを編集します。

   vim client.py

   1. i キーを押して編集モードに入り、WebSocket クライアントがサービスにアクセスするための次のコードを追加します。

      #!/usr/bin/env python3
      # encoding=utf-8
      
      import websocket
      import time
      from datetime import datetime
      
      def on_message(ws, message):
          print("Received message from server:", message)
      
      if __name__ == "__main__":
          ws = websocket.WebSocket()
          ws.connect("ws://<domain_name>:80/websocket") # <domain_name> を実際のドメイン名に置き換えます。
          print("WebSocket connection opened")
          try:
              while True:
                  current_time = datetime.now()
                  formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
                  print("Sending time:", formatted_time)
                  ws.send("Hello, Server!")
                  result = ws.recv()
                  on_message(ws, result)
                  time.sleep(1)
          except Exception:
              print("WebSocket connection closed")
      

   2. 構成を変更した後、Esc キーを押し、:wq と入力して Enter キーを押し、ファイルを保存して閉じます。

4. client.py があるディレクトリに移動し、次のコマンドを実行してサーバー ECS01 にアクセスします。

   python3 client.py

   次の応答は、アクセスが成功したことを示します。

   WebSocket connection opened
   Sending time: 2024-04-28 17:00:53
   Received message from server: Server received your message: Hello, Server!
   Sending time: 2024-04-28 17:00:54
   Received message from server: Server received your message: Hello, Server!

   サーバー ECS01 は次の応答を返します。

   WebSocket Server Start on 8080 ...
   Time: 2024-04-28 17:00:53 WebSocket connection opened
   Time: 2024-04-28 17:00:53 Received message: Hello, Server!
   Time: 2024-04-28 17:00:54 Received message: Hello, Server!

バックエンドサーバーの削除

1. ALB コンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. 対象のサーバーグループを見つけ、その ID をクリックします。

5. バックエンドサーバー タブをクリックし、対象のバックエンドサーバー ECS01 を見つけ、操作 列の 削除 をクリックします。

6. バックエンドサーバーの削除 ダイアログボックスで、[OK] をクリックします。

接続ドレインの完了を待機

このトピックでは、接続ドレインのタイムアウトは 300 秒に設定されています。テスト結果は、ECS01 が削除されてから約 300 秒後に ALB が接続を終了することを示しています。

• クライアントは次の応答を返します。

  Sending time: 2024-04-28 17:06:23
  Received message from server: Server received your message: Hello, Server!
  Sending time: 2024-04-28 17:06:24
  WebSocket connection closed

• ECS01 サーバーインスタンスは次の応答を返します。

  Time: 2024-04-28 17:06:22 Received message: Hello, Server!
  Time: 2024-04-28 17:06:23 Received message: Hello, Server!
  Time: 2024-04-28 17:06:23 WebSocket connection closed

HTTP セッションの中断動作

HTTP シナリオでは、クライアントが受け取る応答は、接続ドレインのタイムアウト、接続リクエストタイムアウト、およびバックエンドサーバーの処理時間に依存します。

• 接続ドレインのタイムアウト < バックエンドサーバーの処理時間の場合、ECS01 が応答を送信し終える前に接続が中断されます。この場合、クライアントは 500 番台のエラーレスポンスを受け取ります。

• バックエンドサーバーの処理時間 > 接続リクエストタイムアウトの場合、ECS01 へのリクエストがタイムアウトします。この場合、クライアントは 504 エラーレスポンスを受け取ります。

このトピックでは、接続ドレインのタイムアウトを 15 秒、バックエンドサーバーの処理時間を 30 秒とします。このシナリオでは、応答が送信される前に ECS01 への接続が中断され、クライアントは 500 番台のエラーレスポンスを受け取ります。

ステップ 1：接続ドレインの有効化

このステップでは、前提条件で用意したサーバーグループに対して接続ドレインを有効にする方法を説明します。この機能は、サーバーグループの作成時に有効にすることもできます。

1. ALB コンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. サーバーグループページで、対象のサーバーグループを見つけ、その ID をクリックします。

5. 詳細 タブで、基本情報 セクションを見つけ、基本情報の変更 をクリックします。

6. 基本情報の変更 ダイアログボックスで、詳細設定 をクリックし、接続ドレイン を有効にします。

7. グレースフル・シャットダウンのタイムアウト を 15 秒に設定し、保存 をクリックします。

ステップ 2：ALB 接続リクエストタイムアウトの設定

1. ALB コンソールにログインします。

2. 上部のナビゲーションバーで、ALB インスタンスがデプロイされているリージョンを選択します。

3. インスタンス ページで、対象の ALB インスタンスを見つけ、その ID をクリックします。

4. リスナー タブをクリックし、対象の HTTP リスナーを見つけ、リスナー ID をクリックします。

5. 基本情報 エリアで、リスナーの変更 をクリックします。

6. リスナーの変更 ダイアログボックスで、詳細設定 の隣にある 変更 をクリックします。

7. 接続リクエストタイムアウト を 60 秒 (デフォルト値) に設定し、保存 をクリックします。

ステップ 3：ドメイン名の名前解決の構成

1. 左側のナビゲーションウィンドウで、ALB > インスタンスを選択します。

2. インスタンス ページで、ALB インスタンスのドメイン名をコピーします。

3. 次の手順を実行して CNAME レコードを作成します：

   説明

   ドメイン名が Alibaba Cloud Domains を使用して登録されていない場合は、DNS レコードを構成する前にドメイン名を Alibaba Cloud DNS に追加する必要があります。詳細については、「ドメイン名の管理」をご参照ください。

   1. Alibaba Cloud DNS コンソールにログインします。

   2. 権威 DNS 名前解決 ページで、ドメイン名を見つけ、操作 列の 解決設定 をクリックします。

   3. ドメイン名詳細ページの 解決設定 タブで、Add Record をクリックします。

   4. Add Record パネルで、パラメーターを構成し、OK をクリックします。次の表にパラメーターを説明します。

      パラメーター	説明
      レコードタイプ	ドロップダウンリストから [CNAME] を選択します。
      ホストレコード	ドメイン名のプレフィックスを入力します。この例では、@ を入力します。 説明 ルートドメインを使用する場合は、@ を入力します。
      Query Source	デフォルトを選択します。
      レコード値	CNAME、つまり ALB インスタンスのドメイン名を入力します。
      [TTL]	DNS サーバーにキャッシュされる CNAME レコードの生存時間 (TTL) を選択します。この例では、デフォルト値を使用します。

ステップ 4：結果の検証

サーバーへのログインと構成

1. ECS01 インスタンスにログインします。詳細については、「ECS インスタンスへの接続方法の選択」をご参照ください。

2. 次のコマンドを実行して http フォルダを作成し、http ディレクトリに移動します。

   mkdir http
   cd http

3. 次のコマンドを実行して、http_server.py 構成ファイルを編集します。

   vim http_server.py

   1. i キーを押して編集モードに入ります。次に、次の内容を追加して HTTP サーバーを開始します。

      #!/usr/bin/env python3
      # encoding=utf-8
      
      from http.server import SimpleHTTPRequestHandler, HTTPServer
      from datetime import datetime
      import time
      
      class DelayedHTTPRequestHandler(SimpleHTTPRequestHandler):
          def do_GET(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "GET request received. Responding after a 30 second delay....")
              time.sleep(30) # time.sleep 関数を使用して、バックエンドサーバーの処理時間をシミュレートします。
              SimpleHTTPRequestHandler.do_GET(self)
      
      PORT = 8080
      server = HTTPServer(("", PORT), DelayedHTTPRequestHandler)
      print(f"Serving HTTP on 0.0.0.0 port {PORT} (http://0.0.0.0:{PORT}/) ...")
      server.serve_forever()
      

   2. 編集が完了したら、Esc キーを押し、:wq と入力して Enter キーを押し、ファイルを保存して閉じます。

4. http_server.py があるディレクトリに移動します。次のコマンドを実行して HTTP サーバーを開始します。

   python3 http_server.py

   次の応答が返された場合、HTTP バックエンドサーバーが開始されています。

   Serving HTTP on 0.0.0.0 port 8080 (http://0.0.0.0:8080/) ...

バックエンドサーバー ECS01 をサーバーグループに追加

1. ALB コンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. サーバーグループページで、対象のサーバーグループを見つけ、操作 列の バックエンドサーバーの変更 をクリックします。

4. バックエンドサーバー タブで、バックエンドサーバーの追加 をクリックします。バックエンドサーバーの追加 パネルで、ECS01 を選択し、次のステップ をクリックします。

5. ポート/重み ウィザードで、ECS01 インスタンスを選択し、ポートを 8080 に設定し、OK をクリックします。

クライアントへのログインと構成

1. クライアントにログインします。コマンドラインウィンドウを開きます。次のコマンドを実行して、バックエンドサーバー ECS01 にアクセスします。

   curl http://<domain_name>:80/ -v

   次の応答は、ALB がバックエンドサービスにアクセスできることを示します。

   * About to connect() to www.example.com port 80 (#0)
   *   Trying 10.X.X.225...
   * Connected to www.example.com (10.X.X.225) port 80 (#0)
   > GET / HTTP/1.1
   > User-Agent: curl/7.29.0
   > Host: www.example.com
   > Accept: */*

   サーバーは次の応答を受け取ります。

   Serving HTTP on 0.0.0.0 port 8080 (http://0.0.0.0:8080/) ...
   Time: 2024-02-07 13:57:33 Received a GET request. Responding after a 30-second delay....

バックエンドサーバーの削除

1. ALB コンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. 対象のサーバーグループを見つけ、サーバーグループ ID をクリックします。

5. バックエンドサーバー タブをクリックし、対象のバックエンドサーバー ECS01 を見つけ、操作 列で 削除 をクリックします。

6. バックエンドサーバーの削除 ダイアログボックスで、[OK] をクリックします。

接続ドレインの待機

テスト結果は、ALB に設定されたグレースフル接続タイムアウト < バックエンドサーバーの処理時間の場合、クライアントが 500 エラーレスポンスを受け取ることを示しています。

* About to connect() to www.example.com port 80 (#0)
*   Trying 10.X.X.224...
* Connected to www.example.com (10.XX.XX.224) port 80 (#0)
> GET / HTTP/1.1
> User-Agent: curl/7.29.0
> Host: www.example.com
> Accept: */*
> 
< HTTP/1.1 500 Internal Server Error
< Date: Wed, 07 Feb 2024 06:02:24 GMT
< Content-Type: text/html
< Content-Length: 186
< Connection: close
< Via: HTTP/1.1 SLB.87
< 
<html>
<head><title>500 Internal Server Error</title></head>
<body bgcolor="white">
<center><h1>500 Internal Server Error</h1></center>
<hr><center>nginx</center>
</body>
</html>
* Closing connection 0