Server Load Balancer：Gunakan Mode Mulai Lambat untuk Penyebaran Layanan yang Lancar

Skenario contoh

Dalam situasi dengan beban lalu lintas tinggi, server backend dapat diperluas baik secara manual maupun otomatis. Permintaan didistribusikan ke server backend sehat berdasarkan bobotnya. Namun, jika server backend kelebihan beban, penggunaan CPU bisa mencapai 100% atau memori menjadi habis, sehingga menyebabkan server tidak dapat diakses.

Mode mulai lambat dari kelompok server ALB membantu mencegah hal ini dengan secara bertahap meningkatkan jumlah permintaan yang dialihkan ke server backend yang baru diperluas.

Sebagai contoh, sebuah perusahaan menggunakan instance ALB yang menghadap Internet di wilayah China (Hangzhou). Instance tersebut dikaitkan dengan pendengar HTTP dan server backend bernama ECS01. Perusahaan ingin menambahkan server backend lain, ECS02, serta mengaktifkan mode mulai lambat untuk secara bertahap meneruskan permintaan ke ECS02. Mode ini membantu mencegah lonjakan lalu lintas pada ECS02.

Catatan penggunaan

• Mode mulai lambat hanya didukung oleh instance ALB standar dan yang diaktifkan WAF. Instance ALB dasar tidak mendukung fitur ini.

• Parameter ini tidak tersedia untuk kelompok server tipe Function Compute.

• Mode mulai lambat hanya didukung jika Anda mengatur Scheduling Algorithm ke Weighted Round-robin.

• Setelah mengaktifkan mode mulai lambat, server backend yang sehat tidak masuk ke mode ini secara otomatis.

• Ketika mengaktifkan mode mulai lambat untuk kelompok server kosong:

  • Server backend pertama yang ditambahkan tidak masuk ke mode mulai lambat.

  • Server backend baru hanya dapat masuk ke mode mulai lambat jika setidaknya satu server backend sehat sudah berada dalam mode ini.

• Server backend yang dihapus sebelum durasi mulai lambat berakhir akan keluar dari mode ini secara otomatis. Jika Anda menambahkan kembali server backend ke kelompok server, server tersebut hanya dapat masuk ke mode mulai lambat setelah lulus pemeriksaan kesehatan.

• Jika server backend dinyatakan tidak sehat sebelum durasi mulai lambat berakhir, server tersebut keluar dari mode mulai lambat. Server akan masuk kembali ke mode ini setelah lulus pemeriksaan kesehatan.

• Setelah mengaktifkan mode mulai lambat dan pemeriksaan kesehatan, hanya server backend yang sehat yang masuk ke mode ini. Jika pemeriksaan kesehatan dinonaktifkan, semua server backend langsung masuk ke mode mulai lambat.

Prasyarat

• Instance ALB standar telah dibuat, dan kelompok server telah dikonfigurasi untuk instance tersebut. Untuk informasi lebih lanjut, lihat Buat dan Kelola Instance ALB dan Buat dan Kelola Kelompok Server.

• Pendengar telah dibuat untuk instance ALB dan dikaitkan dengan kelompok server. Untuk informasi lebih lanjut, lihat Tambahkan Pendengar HTTP.

• Log akses telah dikonfigurasi untuk instance ALB. Untuk informasi lebih lanjut, lihat Log Akses.

• Contoh ini menggunakan dua instance Elastic Compute Service (ECS).

  ECS01 dan ECS02 berfungsi sebagai server backend. Aplikasi NGINX telah diterapkan pada kedua server tersebut. Untuk panduan membuat instance, lihat Buat Instance Menggunakan Wizard.

  Berikut adalah perintah untuk menerapkan aplikasi pada ECS01 dan ECS02:

  Perintah untuk Menerapkan Aplikasi pada ECS01

  yum install -y nginx
  systemctl start nginx.service
  cd /usr/share/nginx/html/
  echo "Hello World !  This is ECS01." > index.html

  Perintah untuk Menerapkan Aplikasi pada ECS02

  yum install -y nginx
  systemctl start nginx.service
  cd /usr/share/nginx/html/
  echo "Hello World !  This is ECS02." > index.html

• ECS01 telah ditambahkan ke kelompok server, dan klien dapat mengakses layanan pada ECS01. Untuk informasi lebih lanjut, lihat Gunakan Instance ALB untuk Menyediakan Layanan IPv4 dan Gunakan ALB untuk Menyeimbangkan Beban untuk Layanan IPv6.

  Klik untuk Melihat Konfigurasi Contoh Instance ALB

  Parameter	Konfigurasi
  Tipe jaringan	Menghadap Internet Nama domain: alb-1o44v******.cn-hangzhou.alb.aliyuncs.com
  Protokol pendengar	HTTP (port 80)
  Server backend	ECS01 Alamat IP: 10.0.2.50 Port: 80 Bobot: 100 ECS02 Alamat IP: 10.0.2.51 Port: 80 Bobot: 100

Langkah 1: Aktifkan mode mulai lambat

Dalam contoh ini, konfigurasi kelompok server yang ada dimodifikasi untuk mengaktifkan mode mulai lambat. Jika Anda belum memiliki kelompok server, buat terlebih dahulu dan aktifkan mode ini.

1. Masuk ke konsol ALB.

2. Di bilah navigasi atas, pilih wilayah tempat kelompok server diterapkan. Dalam contoh ini, China (Hangzhou) dipilih.

3. Di panel navigasi sisi kiri, pilih ALB > Server Groups.

4. Di halaman Server Groups, klik ID kelompok server yang ingin Anda kelola.

5. Di tab Details, klik Modify Basic Information di bagian Basic Information.

6. Di kotak dialog Modify Basic Information, klik Advanced Settings dan nyalakan Slow Start.

7. Atur Slow Start Duration ke 30 detik, lalu klik Save.

   Catatan

   Jika Anda mengatur durasi mulai lambat menjadi 30 detik, ALB secara bertahap meningkatkan jumlah permintaan yang diteruskan ke server backend yang baru diperluas selama periode tersebut.

Langkah 2: Gunakan alat wrk untuk mensimulasikan permintaan klien

Dalam contoh ini, klien menjalankan sistem operasi Alibaba Cloud Linux 3.2104 64-bit. Metode instalasi bervariasi berdasarkan sistem operasi. Untuk informasi lebih lanjut, lihat manual sistem operasi Anda.

1. Masuk ke klien dan buka antarmuka baris perintah (CLI). Jalankan perintah berikut untuk menginstal wrk:

   yum -y install git make gcc
   git clone https://github.com/wg/wrk.git
   yum install unzip
   cd wrk
   make

2. Jalankan perintah berikut untuk melakukan uji stres pada server backend instance ALB:

   ./wrk -c 1000 -d 6000s -t 3 -H "Connection:Close" http://<Nama domain ALB>

   Perhatikan parameter berikut:

   • -c: Singkatan dari koneksi dan menentukan jumlah koneksi bersamaan yang dipertahankan oleh setiap thread.

   • -d: Singkatan dari durasi dan menentukan waktu pengujian.

   • -t: Singkatan dari thread dan menentukan jumlah thread yang digunakan untuk mensimulasikan klien bersamaan.

   • -H: Singkatan dari header dan menentukan header HTTP yang ingin ditambahkan ke permintaan. Misalnya, -H "Connection:Close" menambahkan header koneksi non-persisten ke setiap permintaan.

Langkah 3: Tambahkan ECS02 ke server backend

1. Masuk ke konsol ALB.

2. Di bilah navigasi atas, pilih wilayah tempat instance ALB diterapkan.

3. Di panel navigasi sisi kiri, pilih ALB > Server Groups.

4. Di halaman Server Groups, temukan kelompok server yang ingin Anda kelola dan klik Modify Backend Server di kolom Actions.

5. Di tab Backend Servers, klik Add Backend Server.

6. Di panel Add Backend Server, pilih ECS02 dan klik Next.

7. Di langkah Ports/Weights, tetapkan port 80 ke ECS02, gunakan bobot port default 100, lalu klik OK.

Langkah 4: Verifikasi hasil

1. Masuk ke konsol ALB.

2. Di bilah navigasi atas, pilih wilayah tempat instance ALB diterapkan.

3. Di halaman Instances, klik ID instance NLB yang ingin Anda kelola.

4. Klik tab Access Logs, dan klik tautan di sebelah kanan Simple Log Service di bagian Basic Information untuk pergi ke konsol Layanan Log Sederhana. Di konsol, lihat status lalu lintas jaringan ECS02, seperti yang ditunjukkan pada gambar berikut.

   Gambar berikut menunjukkan bahwa permintaan secara bertahap diteruskan ke ECS02 selama durasi mulai lambat.

   

   No.	Deskripsi
   ①	Jalankan perintah berikut untuk menanyakan jumlah lalu lintas jaringan yang diteruskan oleh instance ALB ke ECS02. alb-80ri6****** and upstream_addr : "10.0.2.51:80" Dalam perintah di atas: alb-80ri6****** menentukan ID instance ALB. upstream_addr menentukan alamat IP dan port server backend. Dalam contoh ini, alamat IP pribadi dan port ECS02 digunakan.
   ②	Pilih periode waktu yang ingin Anda tanyakan. Dalam contoh ini, 1 Menit dipilih.
   ③	Klik Search & Analyze untuk menanyakan lalu lintas jaringan pada ECS02.

Referensi

• Untuk informasi lebih lanjut tentang cara mengaktifkan mode mulai lambat saat membuat kelompok server, lihat Buat Kelompok Server.

• Untuk undeploy layanan dengan lancar, aktifkan drainase koneksi. Untuk informasi lebih lanjut, lihat Gunakan Drainase Koneksi untuk Menerapkan Undeployment yang Lancar.

• Untuk informasi lebih lanjut tentang cara menanyakan dan menganalisis log akses, lihat Panduan untuk Pencarian dan Analisis Log.