Server Load Balancer:Configure slow start

Casos de uso

En escenarios de alto tráfico, cuando agrega servidores backend de forma manual o automática, ALB comienza a enrutar solicitudes hacia ellos según sus pesos configurados tan pronto como pasan las comprobaciones de estado. Esto puede generar un pico repentino de tráfico que sature los nuevos servidores, provoque un alto uso de CPU o memoria y cause numerosos errores de acceso.

Para evitarlo, puede habilitar el inicio lento en un grupo de servidores. De este modo, ALB enruta el tráfico hacia los nuevos servidores backend de manera gradual y previene los aumentos bruscos de tráfico.

Este tema utiliza el siguiente escenario: se despliega una instancia de ALB orientada a Internet en la región China (Hangzhou). La instancia cuenta con un listener HTTP y un servidor backend, ECS01. Para manejar más tráfico, se agrega un segundo servidor, ECS02. Al habilitar el inicio lento, las solicitudes se incrementan gradualmente hacia ECS02, lo que evita que se sobrecargue.

Notas de uso

• Los servidores backend existentes y en buen estado dentro de un grupo de servidores no entran automáticamente en modo de inicio lento. El primer servidor backend que se agrega a un grupo vacío tampoco entra en este modo. Un nuevo servidor backend solo entra en modo de inicio lento cuando se agrega a un grupo que ya tiene al menos un servidor backend en buen estado y que no esté en modo de inicio lento.

• Si se quita un servidor backend que está en modo de inicio lento, sale de dicho modo. Si se vuelve a agregar el mismo servidor backend, reingresa al modo de inicio lento después de pasar la comprobación de estado.

• Un servidor backend en modo de inicio lento sale de este modo si falla su comprobación de estado. Vuelve a entrar en modo de inicio lento una vez que el estado de la comprobación de estado regresa a normal.

• Cuando las comprobaciones de estado están habilitadas, el inicio lento surte efecto después de que un servidor backend pasa su comprobación de estado. Cuando las comprobaciones de estado están deshabilitadas, el inicio lento surte efecto de inmediato.

Requisitos previos

• Ha creado una instancia estándar de ALB y un grupo de servidores. Para obtener más información, consulte Create and manage an ALB instance y Create and manage a server group.

• Ha configurado un listener para la instancia de ALB y ha asociado el listener con el grupo de servidores. Para obtener más información, consulte Add an HTTP listener.

• Ha creado un registro de acceso para la instancia de ALB. Para obtener más información, consulte Create an access log.

• Este tema utiliza dos instancias de ECS:

  ECS01 y ECS02 se usan como servidores backend, y cada instancia ejecuta un servicio de Nginx diferente. Para obtener más información, consulte Create an instance by using the wizard.

  Los siguientes ejemplos muestran cómo desplegar las aplicaciones de prueba en ECS01 y ECS02:

  Commands to deploy the service on ECS01

  yum install -y nginx
  systemctl start nginx.service
  cd /usr/share/nginx/html/
  echo "Hello World ! This is ECS01." > index.html

  Commands to deploy the service on ECS02

  yum install -y nginx
  systemctl start nginx.service
  cd /usr/share/nginx/html/
  echo "Hello World ! This is ECS02." > index.html

• Ha agregado la instancia ECS01 al grupo de servidores, y el servicio en ECS01 es accesible para los clientes. Para obtener más información, consulte Quickly implement load balancing for IPv4 services by using an ALB instance y Quickly implement load balancing for IPv6 services by using an ALB instance.

  Click to view the configuration of the ALB instance

  Parámetro	Descripción
  Tipo de red	internet-facing Nombre DNS: alb-1o44v.cn-hangzhou.alb.aliyuncs.com
  Protocolo del listener	HTTP, puerto 80.
  Servidores backend	Instancia ECS01 Dirección IP: 10.0.2.50 Puerto: 80 Peso: 100 Instancia ECS02 Dirección IP: 10.0.2.51 Puerto: 80 Peso: 100

Paso 1: Habilitar el inicio lento

Este paso muestra cómo habilitar el inicio lento para un grupo de servidores existente. También puede habilitar esta función al crear un grupo de servidores.

1. Inicie sesión en la consola de ALB.

2. En la barra de navegación superior, seleccione la región donde se despliegan los servidores backend. Este tema utiliza China (Hangzhou).

3. En el panel de navegación izquierdo, elija ALB > Server Groups.

4. En la página Server Groups, busque el grupo de servidores objetivo y haga clic en su ID.

5. En la pestaña Details, dentro de la sección Basic Information, haga clic en Modify Basic Information.

6. En el cuadro de diálogo Modify Basic Information, haga clic en Advanced Settings y luego active el interruptor Slow Start.

7. Establezca Slow Start Duration en 30 segundos y haga clic en Save.

   Nota

   Esto significa que ALB incrementará el tráfico hacia el nuevo servidor backend durante 30 segundos.

Paso 2: Simular tráfico de cliente mediante wrk

Este tema toma como ejemplo un cliente que ejecuta la versión de 64 bits de Alibaba Cloud Linux 3.2104. Los pasos de instalación de la herramienta wrk pueden variar según el sistema operativo.

1. Inicie sesión en el cliente y abra la interfaz de línea de comandos. Ejecute los siguientes comandos en secuencia para instalar la herramienta wrk.

   yum -y install git make gcc
   git clone https://github.com/wg/wrk.git
   yum install unzip
   cd wrk
   make

2. Ejecute el siguiente comando para realizar una prueba de estrés en los servicios de los servidores backend de ALB.

   ./wrk -c 1000 -d 6000s -t 3 -H “Connection:Close” http://<ALB-domain-name>

   Parámetros:

   • -c: conexiones. Número de conexiones simultáneas que se mantienen para cada hilo.

   • -d: duración. Duración de la prueba. s indica segundos.

   • -t: hilos. Número de hilos que se utilizarán, lo cual simula usuarios concurrentes.

   • -H: encabezado. Encabezado HTTP que se agrega a cada solicitud. Por ejemplo, -H “Connection:Close” agrega un encabezado para indicar una conexión no persistente.

Paso 3: Agregar el servidor backend ECS02

1. Inicie sesión en la consola de ALB.

2. En la barra de navegación superior, seleccione la región donde se despliega la instancia de ALB.

3. En el panel de navegación izquierdo, elija ALB > Server Groups.

4. En la página Server Groups, busque el grupo de servidores objetivo y luego haga clic en Modify Backend Server en la columna Actions.

5. En la pestaña Backend Servers, haga clic en Add Backend Server.

6. En el panel Add Backend Server, seleccione la instancia ECS02 y haga clic en Next.

7. En el asistente Ports/Weights, establezca el puerto de la instancia ECS02 en 80, conserve el peso predeterminado de 100 y luego haga clic en OK.

Paso 4: Comprobar el resultado

1. Inicie sesión en la consola de ALB.

2. En la barra de navegación superior, seleccione la región donde se despliega la instancia de ALB.

3. En la página Instances, haga clic en el ID de la instancia objetivo.

4. Haga clic en la pestaña Access Logs. En la sección Basic Information, haga clic en el enlace junto a Simple Log Service para abrir la consola de Log Service (SLS). La siguiente figura muestra cómo consultar el tráfico en el nuevo servidor backend, ECS02.

   El registro de acceso muestra que el tráfico se distribuye gradualmente hacia el nuevo servidor backend ECS02 durante el periodo de inicio lento.

   

   N.º	Descripción
   ①	Introduzca la siguiente consulta para ver el tráfico enrutado hacia el nuevo servidor backend, ECS02. alb-80ri6****** and upstream_addr : "10.0.2.51:80" Los campos se describen a continuación: alb-80ri6 especifica el ID de la instancia de ALB. upstream_addr especifica la dirección IP y el puerto del servidor backend. En este ejemplo, introduzca la dirección IP privada y el puerto de ECS02.
   ②	Seleccione un rango de tiempo para la consulta. En este ejemplo, se selecciona 1 Minute.
   ③	Haga clic en Search & Analyze para consultar el tráfico en el nuevo servidor backend, ECS02.

Documentos relacionados

• Para habilitar el inicio lento al crear un grupo de servidores, consulte Create and manage a server group.

• Para retirar un servidor backend del servicio de forma controlada, puede habilitar el drenado de conexiones. Para obtener más información, consulte Configure connection draining.

• Para consultar y analizar registros de acceso en tiempo real, consulte Quick start for query and analysis.