Kelompok server CLB - Server Load Balancer

Pendengar mengalihkan permintaan bisnis ke kelompok server tertentu berdasarkan aturan pengalihan yang dikonfigurasi. Kelompok server tersebut kemudian mendistribusikan traffic ke server backend menggunakan algoritma penjadwalan.

Cara kerja

Jenis kelompok server

Jenis kelompok server	Kelompok server default	Kelompok vServer	Kelompok server utama/cadangan
Deskripsi	Setiap instans CLB dilengkapi kelompok server default. (Pilih satu)	Dibuat dan dikelola oleh pengguna	Dibuat dan dikelola oleh Anda
Jumlah server backend	Satu atau lebih	Satu atau lebih	Dua (satu utama dan satu cadangan)
Fitur	Berbagi di seluruh instans: Kelompok ini digunakan bersama di seluruh instans dan dapat dipakai oleh semua pendengar. Pembatasan port: Semua server backend untuk pendengar yang sama harus menggunakan port yang sama.	Fleksibilitas: Pendengar berbeda dapat disambungkan ke kelompok server berbeda. Dukungan multi-port: Anda dapat mengonfigurasi server backend dengan port berbeda dalam satu kelompok vServer yang sama. Routing lanjutan: Gunakan nama domain dan aturan path URL untuk distribusi traffic detail halus.	Fleksibilitas: Pendengar berbeda dapat disambungkan ke kelompok server berbeda. Ketersediaan tinggi: Mendukung failover otomatis antara server utama dan cadangan. Dukungan multi-port: Anda dapat mengonfigurasi server backend dengan port berbeda dalam satu kelompok server utama/cadangan yang sama.
Skenario	Arsitektur sederhana di mana semua permintaan dialihkan ke satu kelompok server backend.	Arsitektur kompleks, seperti mendistribusikan permintaan berdasarkan nama domain atau port.	Layanan yang memerlukan mode aktif-pasif tetap, seperti database atau API inti.
Jenis pendengar yang didukung	TCP/UDP/HTTP/HTTPS	TCP/UDP/HTTP/HTTPS	Hanya TCP/UDP

Konfigurasi bobot

Algoritma penjadwalan menentukan cara CLB mendistribusikan permintaan masuk ke server backend. Pada algoritma yang mendukung pembobotan, parameter bobot mengontrol proporsi traffic yang diterima setiap server.

Cakupan: Hanya berlaku untuk algoritma penjadwalan yang mendukung bobot. Tidak berlaku untuk algoritma round-robin.
Rentang nilai: 0 hingga 100. Nilai default adalah 100.
Perilaku saat bobot bernilai 0: Server berhenti menerima permintaan baru. Namun, koneksi yang telah terbentuk tetap diproses hingga ditutup, dan pemeriksaan kesehatan tetap berjalan. Ini sering digunakan untuk shutdown yang mulus pada server.
Efek perubahan bobot: Perubahan bobot hanya memengaruhi koneksi baru dan tidak berdampak pada koneksi yang telah terbentuk. Dalam skenario koneksi persisten, perubahan distribusi traffic terjadi secara perlahan setelah Anda menyesuaikan bobot.

Ketersediaan tinggi layanan

Aktifkan pemeriksaan kesehatan CLB untuk mengirim permintaan secara berkala dan memastikan status server.

Pemeriksaan kesehatan lulus: Server dalam kondisi sehat, dan CLB meneruskan traffic kepadanya.
Pemeriksaan kesehatan gagal: Server tidak sehat, dan CLB berhenti meneruskan permintaan baru hingga server pulih.

Pemeriksaan kesehatan CLB menggunakan blok CIDR 100.64.0.0/10. Pastikan kebijakan security group server backend Anda mengizinkan akses dari blok CIDR ini. Jika tidak, pemeriksaan kesehatan akan gagal dan menyebabkan gangguan layanan.

Server utama/cadangan mengandalkan pemeriksaan kesehatan untuk failover:

Jika server utama gagal dalam pemeriksaan kesehatan, traffic dialihkan ke server cadangan. Secara default, pemeriksaan kesehatan tidak dilakukan pada server cadangan. Anda harus memastikan ketersediaan server cadangan agar dapat mengambil alih traffic setelah failover.
Waktu yang dibutuhkan untuk beralih dari server utama ke server cadangan bergantung pada Batas Waktu Respons yang Anda tetapkan untuk pemeriksaan kesehatan. Setelah server utama kembali sehat, traffic secara otomatis dialihkan kembali ke server utama.

Cakupan

Hubungan:
- Pendengar dan kelompok server merupakan resource dari instans CLB. Informasi tentang pendengar dan kelompok server tidak dibagikan antar instans CLB yang berbeda.
- Satu kelompok server dapat dikaitkan dengan beberapa pendengar, tetapi satu pendengar hanya dapat dikaitkan dengan satu kelompok server.
- Pendengar Lapisan 4 CLB tidak mendukung instans ECS yang berperan sebagai server backend sekaligus client. Jika Anda memerlukan konfigurasi ini, gunakan pendengar Lapisan 7.
Menyambungkan server backend:
- CLB hanya mendukung penyambungan server backend yang berada dalam Akun Alibaba Cloud dan wilayah yang sama.
  - Instans CLB private-facing: Anda hanya dapat menyambungkan server backend yang berada dalam VPC yang sama dengan instans CLB.
  - Instans CLB Internet-facing: Jika Anda menambahkan beberapa server backend, semuanya harus berada dalam VPC yang sama.
- Semua jenis kelompok server CLB mendukung penyambungan resource berikut: instans Elastic Compute Service (ECS), elastic network interfaces (ENIs), dan instans Elastic Container Instance (ECI).
  - Anda hanya dapat menambahkan ENI yang sudah disambungkan ke instans ECS. Anda dapat menambahkan Alamat IP pribadi utama maupun Alamat IP pribadi sekunder dari suatu ENI.
- Jika instans ECS yang berperan sebagai server backend menjalani migrasi panas, koneksi persisten ke CLB mungkin terputus. Koneksi akan dipulihkan setelah tersambung ulang. Pastikan aplikasi Anda memiliki mekanisme penyambungan ulang otomatis.

Kemampuan modifikasi konfigurasi:

Kemampuan modifikasi konfigurasi	Tambah atau hapus server	Ubah port	Ubah bobot
Kelompok server default	Didukung	Port tidak dapat diubah setelah pendengar dibuat dan dikaitkan pertama kali.	Didukung
Kelompok vServer	Didukung	Didukung	Didukung
Kelompok server utama/cadangan	Tidak didukung	Tidak didukung	Peran utama/cadangan tidak dapat diubah.

Konfigurasi kelompok server

Konsol

Kelompok server default

Anda tidak perlu membuat kelompok server default. Setiap instans CLB sudah dilengkapi satu kelompok server default.
Tambahkan server:
1. Buka halaman Instans CLB, klik ID instans target, pilih tab Default Server Group, lalu klik Add.
  - Atur Server Type dan Resource Group untuk memfilter resource yang tersedia.
  - Untuk menambahkan ENI, aktifkan terlebih dahulu advanced mode. Kemudian, klik ikon tanda plus di sebelah kanan instans ECS tempat ENI tersebut disambungkan untuk menemukan ENI target. Pilih ENI yang ingin disambungkan dan pilih IP.
2. Konfigurasi port dan bobot:
  - Konfigurasi port: Buka tab Listener dan klik Add Listener. Pada langkah Backend Servers, atur Port Server untuk kelompok server default. Semua server dalam kelompok server default untuk pendengar yang sama harus menggunakan port yang sama.
    Anda hanya dapat menentukan port saat menambahkan pendengar. Port tidak dapat diubah setelahnya.
  - Konfigurasi bobot: Atur Weight untuk server yang dipilih.

Kelompok vServer

Buka halaman Instans CLB, klik ID instans target, pilih vServer groups, lalu klik Create vServer Group.
Add server:
- Atur Server Type dan Resource Group untuk memfilter resource yang tersedia.
- Untuk menambahkan ENI, aktifkan terlebih dahulu advanced mode. Kemudian, klik ikon tanda plus di sebelah kanan instans ECS tempat ENI tersebut disambungkan untuk menemukan ENI target. Pilih ENI yang ingin disambungkan dan pilih IP.
Konfigurasi Port dan Weight untuk server yang dipilih. Klik Add Port untuk mengonfigurasi beberapa port berbeda pada server backend yang sama.

Kelompok server utama/cadangan

Buka halaman Instans CLB, klik ID instans target, pilih Primary/Secondary Server Groups, lalu klik Create Primary/Secondary Server Group.
Add server:
- Atur Server Type dan Resource Group untuk memfilter resource yang tersedia.
- Untuk menambahkan ENI, aktifkan terlebih dahulu advanced mode. Kemudian, klik ikon tanda plus di sebelah kanan instans ECS tempat ENI tersebut disambungkan untuk menemukan ENI target. Pilih ENI yang ingin disambungkan dan pilih IP.
- Anda hanya dapat menambahkan dua server backend.
Konfigurasi Port untuk server yang dipilih. Klik Add Port untuk mengonfigurasi beberapa port berbeda pada server backend yang sama. Setelah menambahkan server, pilih salah satu sebagai Primary Server untuk mengatur hubungan utama/cadangan.

API

Kelompok server default

Panggil AddBackendServers untuk menambahkan server backend.
Panggil SetBackendServers untuk mengatur bobot server backend.
Panggil RemoveBackendServers untuk menghapus server backend.

Kelompok vServer

Panggil CreateVServerGroup untuk membuat kelompok vServer, menambahkan server backend, serta mengonfigurasi port dan bobot.
Panggil AddVServerGroupBackendServers atau RemoveVServerGroupBackendServers untuk menambah atau menghapus server backend dari kelompok vServer tertentu.
Panggil DeleteVServerGroup untuk menghapus kelompok vServer.

Kelompok server utama/cadangan

Panggil CreateMasterSlaveServerGroup untuk membuat kelompok server utama/cadangan.
Panggil DeleteMasterSlaveServerGroup untuk menghapus kelompok server utama/cadangan.

FAQ

Apakah saya dapat menyesuaikan jumlah instans ECS saat instans CLB sedang berjalan?

Kelompok server default dan kelompok vServer: Anda dapat menambah atau mengurangi jumlah instans ECS backend kapan saja dan beralih antar instans ECS berbeda. Untuk memastikan stabilitas layanan, pastikan pemeriksaan kesehatan diaktifkan dan setidaknya satu instans ECS backend berjalan dengan baik sebelum melakukan operasi ini.
Kelompok server utama/cadangan: Tidak didukung.

Apakah instans ECS backend dapat menjalankan sistem operasi berbeda?

Bisa berbeda.

CLB tidak membatasi sistem operasi instans ECS backend, selama layanan aplikasi dan datanya konsisten. Kami merekomendasikan penggunaan sistem operasi yang sama untuk mempermudah manajemen dan maintenance.

Apakah saya dapat menggunakan instans ECS dari wilayah berbeda sebagai server backend?

CLB tidak secara langsung mendukung penyambungan server backend dari wilayah berbeda. Untuk menerapkan deployment cross-region, pilih salah satu solusi berikut:

Gunakan Global Traffic Manager (GTM). Terapkan GTM di depan beberapa instans CLB di wilayah berbeda untuk mengaktifkan load balancing cross-region dengan beralih antar instans CLB.
Gunakan Application Load Balancer (ALB) atau Network Load Balancer (NLB), yang mendukung penyambungan server backend lintas wilayah.

Mengapa alamat IP yang dimulai dengan 100 sering mengakses instans ECS saya?

Permintaan tersebut berasal dari fitur pemeriksaan kesehatan dan pemantauan ketersediaan sistem Server Load Balancer.

Sumber: Blok CIDR reservasi Alibaba Cloud 100.64.0.0/10.
Keamanan: Blok CIDR ini dicadangkan oleh Alibaba Cloud dan tidak dapat dialokasikan ke pengguna lain. Hal ini tidak menimbulkan risiko keamanan.
Rekomendasi: Izinkan akses dari blok CIDR ini dalam security group Anda untuk memastikan ketersediaan layanan.

Kompresi tidak dikonfigurasi pada instans ECS saya. Mengapa respons HTTP dari CLB dikompresi?

Penyebab: Kompresi Gzip diaktifkan dalam konfigurasi pendengar CLB, dan browser client mendukung kompresi.
Solusi: Untuk menonaktifkan fitur ini, matikan kompresi Gzip dalam konfigurasi pendengar di Konsol CLB, atau beralih ke pendengar TCP.

Apakah instans ECS yang menggunakan HTTP 1.0 mendukung chunked transfer encoding?

Ya.

Mengapa instans ECS backend CLB sering menerima permintaan dengan User-Agent 'KeepAliveClient'?

Gejala: Instans ECS backend menerima banyak permintaan GET dari alamat IP internal dengan User-Agent KeepAliveClient.
Penyebab: Protokol pendengar adalah TCP, tetapi protokol pemeriksaan kesehatan adalah HTTP. Saat pendengar TCP menggunakan HTTP untuk pemeriksaan kesehatan, metode GET digunakan secara default.
Solusi: Gunakan protokol yang sama untuk pendengar dan pemeriksaan kesehatan (misalnya, gunakan TCP untuk keduanya atau HTTP untuk keduanya).

Apakah saya dapat mengubah port server dalam kelompok server default?

Tidak, Anda tidak dapat mengubahnya secara langsung.

Pembatasan: Port untuk kelompok server default hanya dapat diatur saat Anda membuat pendengar. Semua server backend untuk pendengar yang sama harus menggunakan port yang sama.
Solusi: Untuk mengonfigurasi port backend berbeda pada pendengar yang sama, gunakan kelompok vServer.

Apakah pendengar Lapisan 4 CLB mendukung instans ECS yang berperan sebagai server backend sekaligus client?

Tidak. Konfigurasi ini menyebabkan loop akses.

Alternatif:

Gunakan pendengar Lapisan 7 (HTTP/HTTPS) CLB.
Gunakan instans NLB dan nonaktifkan fitur pelestarian IP client untuk kelompok server. Untuk informasi lebih lanjut, lihat Cara mengonfigurasi instans NLB agar instans ECS dalam kelompok server dapat berfungsi sebagai server backend sekaligus client.

Mengapa terdapat banyak koneksi TIME-WAIT pada backend CLB tetapi sedikit pada backend ALB?

CLB dan ALB menggunakan mekanisme koneksi berbeda saat berinteraksi dengan server backend.

CLB: Secara default menggunakan koneksi HTTP berumur pendek. Saat CLB meneruskan permintaan ke server backend, ia menyisipkan field Connection: close ke dalam Header HTTP. Setelah server backend memproses permintaan, server tersebut secara aktif mengirim paket FIN untuk menutup koneksi berdasarkan header ini. Setiap kali koneksi ditutup, koneksi tersebut memasuki status TIME-WAIT (60 detik secara default). Dalam skenario konkurensi tinggi, banyak koneksi TIME-WAIT dapat terakumulasi dengan cepat.
ALB: Secara default mendukung koneksi HTTP persisten (keep-alive). Satu koneksi TCP dapat digunakan ulang untuk memproses beberapa permintaan. Mengaktifkan koneksi persisten mengurangi jumlah pemutusan koneksi, sehingga mengurangi jumlah koneksi TIME-WAIT.