Server Load Balancer:Konfigurasikan slow start

Kasus penggunaan

Dalam skenario lalu lintas tinggi, ketika Anda menambahkan server backend secara manual atau otomatis, ALB mulai mengarahkan permintaan ke server tersebut sesuai dengan bobot yang dikonfigurasi segera setelah server lolos pemeriksaan kesehatan. Hal ini dapat menyebabkan lonjakan lalu lintas mendadak yang membebani server baru, mengakibatkan penggunaan CPU atau memori yang tinggi serta banyak error akses.

Untuk mencegah hal tersebut, Anda dapat mengaktifkan slow start untuk kelompok server. ALB kemudian secara bertahap mengarahkan lalu lintas ke server backend baru, sehingga mencegah lonjakan lalu lintas mendadak.

Topik ini menggunakan skenario berikut: Sebuah instans ALB internet-facing dideploy di wilayah China (Hangzhou). Instans tersebut memiliki pendengar HTTP dan satu server backend, ECS01. Untuk menangani lebih banyak lalu lintas, server kedua, ECS02, ditambahkan. Dengan mengaktifkan slow start, permintaan secara bertahap ditingkatkan ke ECS02, sehingga mencegahnya kelebihan beban.

Catatan penggunaan

• Server backend yang baru ditambahkan hanya memasuki mode slow start jika kelompok server tersebut sudah berisi setidaknya satu server backend yang sehat. Server yang sudah ada dan server pertama yang ditambahkan ke kelompok kosong tidak memasuki mode slow start.

• Server backend keluar dari mode slow start saat dihapus. Jika ditambahkan kembali, server tersebut akan memasuki slow start lagi setelah lolos pemeriksaan kesehatan.

• Server backend keluar dari mode slow start jika gagal dalam pemeriksaan kesehatan dan kembali memasuki mode tersebut setelah lolos pemeriksaan kesehatan lagi.

• Jika pemeriksaan kesehatan diaktifkan, slow start dimulai setelah server lolos pemeriksaan. Jika dinonaktifkan, slow start dimulai segera.

Prasyarat

• Anda telah membuat instans ALB standar dan kelompok server. Untuk informasi selengkapnya, lihat Create and manage an ALB instance dan Create and manage a server group.

• Anda telah mengonfigurasi pendengar untuk instans ALB dan mengaitkannya dengan kelompok server. Untuk informasi selengkapnya, lihat Add an HTTP listener.

• Anda telah membuat log akses untuk instans ALB. Untuk informasi selengkapnya, lihat Create an access log.

• Topik ini menggunakan dua instans ECS:

  ECS01 dan ECS02 digunakan sebagai server backend, dengan masing-masing instans menjalankan layanan Nginx yang berbeda. Untuk informasi selengkapnya, lihat Create an instance by using the wizard.

  Contoh berikut menunjukkan cara mendeploy aplikasi uji coba pada ECS01 dan ECS02:

  Perintah untuk mendeploy layanan pada ECS01

  yum install -y nginx
  systemctl start nginx.service
  cd /usr/share/nginx/html/
  echo "Hello World ! This is ECS01." > index.html

  Perintah untuk mendeploy layanan pada ECS02

  yum install -y nginx
  systemctl start nginx.service
  cd /usr/share/nginx/html/
  echo "Hello World ! This is ECS02." > index.html

• Anda telah menambahkan instans ECS01 ke kelompok server, dan layanan pada ECS01 dapat diakses oleh klien. Untuk informasi selengkapnya, lihat Quickly implement load balancing for IPv4 services by using an ALB instance dan Quickly implement load balancing for IPv6 services by using an ALB instance.

  Klik untuk melihat konfigurasi instans ALB

  Parameter	Deskripsi
  Network type	internet-facing DNS name: alb-1o44v******.cn-hangzhou.alb.aliyuncs.com
  Listener protocol	HTTP, Port 80.
  Backend servers	ECS01 instance IP address: 10.0.2.50 Port: 80 Weight: 100 ECS02 instance IP address: 10.0.2.51 Port: 80 Weight: 100

Langkah 1: Aktifkan slow start

Langkah ini menunjukkan cara mengaktifkan slow start untuk kelompok server yang sudah ada. Anda juga dapat mengaktifkan fitur ini saat membuat kelompok server.

1. Masuk ke ALB console.

2. Pada bilah navigasi atas, pilih wilayah tempat server backend dideploy. Topik ini menggunakan China (Hangzhou).

3. Pada panel navigasi kiri, pilih ALB > Server Groups.

4. Pada halaman Server Groups, temukan kelompok server target dan klik ID-nya.

5. Pada tab Details, di bagian Basic Information, klik Modify Basic Information.

6. Pada kotak dialog Modify Basic Information, klik Advanced Settings, lalu aktifkan sakelar Slow Start.

7. Atur Slow Start Duration menjadi 30 detik dan klik Save.

   Catatan

   Artinya, ALB meningkatkan lalu lintas ke server backend baru secara bertahap selama 30 detik.

Langkah 2: Simulasikan traffic client menggunakan wrk

Topik ini menggunakan klien yang menjalankan versi 64-bit Alibaba Cloud Linux 3.2104 sebagai contoh. Langkah instalasi tool wrk dapat berbeda tergantung sistem operasinya.

1. Masuk ke klien dan buka command-line interface. Jalankan perintah berikut secara berurutan untuk menginstal tool wrk.

   yum -y install git make gcc
   git clone https://github.com/wg/wrk.git
   yum install unzip
   cd wrk
   make

2. Jalankan perintah berikut untuk melakukan stress-test terhadap layanan pada server backend ALB.

   ./wrk -c 1000 -d 6000s -t 3 -H “Connection:Close” http://<ALB-domain-name>

   Parameter:

   • -c: connections. Jumlah koneksi bersamaan yang dipertahankan untuk setiap thread.

   • -d: duration. Durasi pengujian. s menunjukkan detik.

   • -t: threads. Jumlah thread yang digunakan, yang mensimulasikan pengguna bersamaan.

   • -H: header. Header HTTP yang ditambahkan ke setiap permintaan. Misalnya, -H “Connection:Close” menambahkan header untuk menunjukkan koneksi non-persisten.

Langkah 3: Tambahkan server backend ECS02

1. Masuk ke ALB console.

2. Pada bilah navigasi atas, pilih wilayah tempat instans ALB dideploy.

3. Pada panel navigasi kiri, pilih ALB > Server Groups.

4. Pada halaman Server Groups, temukan kelompok server target, lalu klik Modify Backend Server pada kolom Actions.

5. Pada tab Backend Servers, klik Add Backend Server.

6. Pada panel Add Backend Server, pilih instans ECS02 dan klik Next.

7. Pada wizard Ports/Weights, atur port instans ECS02 menjadi 80, pertahankan bobot default 100, lalu klik OK.

Langkah 4: Verifikasi hasil

1. Masuk ke ALB console.

2. Pada bilah navigasi atas, pilih wilayah tempat instans ALB dideploy.

3. Pada halaman Instances, klik ID instans target.

4. Klik tab Access Logs. Di bagian Basic Information, klik tautan di samping Simple Log Service untuk membuka Konsol Layanan Log (SLS). Gambar di bawah menunjukkan cara melihat lalu lintas pada server backend baru, ECS02.

   Log akses menunjukkan bahwa lalu lintas didistribusikan secara bertahap ke server backend baru ECS02 selama periode slow start.

   

   No.	Deskripsi
   ①	Masukkan kueri berikut untuk melihat traffic yang diarahkan ke server backend baru, ECS02. alb-80ri6****** and upstream_addr : "10.0.2.51:80" Penjelasan field: alb-80ri6****** menentukan ID instans ALB. upstream_addr menentukan alamat IP dan port server backend. Pada contoh ini, masukkan alamat IP pribadi dan port ECS02.
   ②	Pilih rentang waktu untuk kueri. Pada contoh ini, 1 Minute dipilih.
   ③	Klik Search & Analyze untuk melihat traffic pada server backend baru, ECS02.

Dokumen terkait

• Untuk mengaktifkan slow start saat membuat kelompok server, lihat Create and manage a server group.

• Untuk menghapus server backend dari layanan secara graceful, Anda dapat mengaktifkan connection draining. Untuk informasi selengkapnya, lihat Configure connection draining.

• Untuk melakukan kueri dan analisis log akses secara real time, lihat Quick start for query and analysis.