Grup server NLB - Server Load Balancer - Alibaba Cloud Documentation Center

Grup server mengarahkan permintaan klien ke server backend. Saat menambahkan listener, Anda harus menentukan grup server. Listener meneruskan lalu lintas ke grup server yang sesuai berdasarkan protokol dan port yang dikonfigurasi. Network Load Balancer (NLB) menggunakan pemeriksaan kesehatan untuk memantau kondisi server backend.

Jenis grup server NLB

Jenis grup server	Jenis server backend	Deskripsi
Tipe Server	Anda dapat menambahkan instans ECS, ENI, dan ECI sebagai server backend.	Server backend harus berada dalam VPC yang sama dengan grup server agar dapat menerima permintaan dari instans NLB.
Tipe IP	Anda dapat menambahkan alamat IP sebagai server backend.	Alamat IP tidak dibatasi oleh blok CIDR VPC tempat grup server berada. Anda dapat menambahkan alamat IP dari server lintas wilayah, lintas VPC, atau di pusat data lokal. Alamat IP tersebut berfungsi sebagai server backend untuk menerima permintaan dari instans NLB. Tambahkan alamat IP yang berada dalam blok CIDR VPC tempat grup server berada. NLB meneruskan permintaan ke server dalam VPC yang sama. Tambahkan alamat IP dari server lintas wilayah, VPC, atau di pusat data lokal. NLB bekerja sama dengan layanan lain, seperti Cloud Enterprise Network (CEN), untuk meneruskan permintaan ke server di VPC lain atau pusat data lokal. Hanya alamat IP pribadi yang didukung. Alamat IP publik tidak didukung. Penting Saat membuat grup server tipe IP, Anda harus memilih VPC. Daftar drop-down VPC hanya menampilkan VPC dalam akun saat ini. VPC lintas akun tidak didukung. Oleh karena itu, alamat IP instans ALB di akun lain tidak dapat ditambahkan sebagai server backend instans NLB di akun saat ini. Jika Anda memerlukan load balancing lintas akun, pertimbangkan solusi lain.

Penting

NLB tidak secara otomatis memperbarui informasi server backend jika server tersebut dilepas atau alamat IP pribadinya berubah. Untuk mencegah gangguan layanan, hapus server dari grup server sebelum melepasnya atau mengubah konfigurasinya.

Buat grup server

Catatan

NLB tidak mendukung pembatasan penerusan koneksi baru berdasarkan ambang batas jumlah koneksi backend. Tidak tersedia algoritma penjadwalan berbasis jumlah koneksi.

Saat Pod backend berisiko mengalami saturasi koneksi, pertimbangkan pendekatan berikut:

Pemeriksaan kesehatan sebagai cadangan — Konfigurasikan pemeriksaan kesehatan sehingga ketika koneksi TCP persisten Pod backend telah jenuh dan tidak dapat lagi merespons probe pemeriksaan kesehatan, NLB secara otomatis menghapus backend tersebut setelah jumlah kegagalan berturut-turut mencapai Unhealthy Threshold. Permintaan baru tidak lagi diteruskan ke backend tersebut.
Pengurasan koneksi — Aktifkan Connection draining saat membuat grup server. Setelah kegagalan pemeriksaan kesehatan menyebabkan backend dihapus, koneksi TCP persisten yang ada dapat terus mengirimkan data hingga waktu tunggu pengurasan koneksi berakhir. Hal ini memastikan koneksi yang sedang berlangsung tidak terganggu.
Penolakan koneksi aktif di sisi Pod — Kami merekomendasikan untuk menerapkan pemantauan jumlah koneksi di Pod Anda dan secara aktif menolak koneksi baru ketika ambang batas tercapai (misalnya, dengan mengembalikan respons error atau menutup socket listen) untuk kontrol lalu lintas yang lebih tepat.

Masuk ke Konsol NLB.
Di bilah navigasi atas, pilih wilayah tempat instans NLB ditempatkan.
Di panel navigasi kiri, pilih NLB > Server Groups.
Pada halaman Server Groups, klik Create Server Group.

Di kotak dialog Create Server Group, konfigurasikan pengaturan berikut lalu klik Create.

Parameter	Deskripsi
Server Group Type	Pilih jenis grup server: Server Type: Memungkinkan Anda menambahkan instans ECS, ENI, dan ECI sebagai server backend. IP Type: Memungkinkan Anda menambahkan alamat IP sebagai server backend. Hanya alamat IP pribadi yang didukung. Alamat IP publik tidak didukung. Anda harus memilih VPC saat membuat grup server tipe IP. Hanya VPC dalam akun saat ini yang didukung. Alamat IP dari VPC lintas akun tidak dapat ditambahkan.
VPC	Pilih VPC dari daftar drop-down. Daftar drop-down hanya menampilkan VPC dalam akun saat ini. VPC dari akun lain tidak didukung.
Backend Server Protocol	Pilih protokol backend: TCP: Mengaitkan grup server dengan listener TCP dan TCP/SSL. UDP: Mengaitkan grup server dengan listener UDP.
Scheduling Algorithm	Pilih algoritma penjadwalan: Round Robin: Mendistribusikan permintaan ke server backend secara bergiliran. Weighted Round-robin (Default): Mendistribusikan permintaan ke server backend berdasarkan bobotnya. Server backend dengan bobot lebih tinggi menerima lebih banyak permintaan. Source IP Hashing: Menggunakan penghashan konsisten berdasarkan alamat IP sumber. Permintaan dari alamat IP sumber yang sama diarahkan ke server backend yang sama. Four-element Hashing: Menggunakan penghashan konsisten berdasarkan empat-tupel (IP sumber, IP tujuan, port sumber, dan port tujuan). Paket dari aliran yang sama diarahkan ke server backend yang sama. QUIC ID Hashing: Menggunakan penghashan konsisten berdasarkan ID koneksi QUIC. Permintaan dengan ID QUIC yang sama diarahkan ke server backend yang sama. Anda hanya dapat memilih QUIC ID hashing ketika protokol backend adalah UDP. Protokol QUIC berkembang sangat cepat. Algoritma ini diimplementasikan berdasarkan draft-ietf-quic-transport-10. Kompatibilitas dengan semua versi QUIC tidak dijamin. Kami merekomendasikan Anda melakukan pengujian yang cukup sebelum menggunakan algoritma ini di lingkungan produksi. Weighted Least Connections: Mendistribusikan permintaan berdasarkan bobot dan beban aktual (jumlah koneksi) setiap server backend. Jika server backend memiliki bobot yang sama, server dengan koneksi paling sedikit akan menerima lebih banyak permintaan.
Resource Group	Pilih kelompok sumber daya untuk grup server.
Tag	Tetapkan Tag Key dan Tag Value.
IP Version	Pilih versi IP: IPv4 (Default): Anda hanya dapat menambahkan server backend IPv4. IPv4/IPv6 dual-stack: Anda dapat menambahkan server backend IPv4 dan IPv6. Jika IPv6 tidak diaktifkan untuk VPC yang Anda pilih, Anda hanya dapat memilih IPv4.
IP Version Affinity	Jika Anda mengatur IP Version ke IPv4/IPv6 dual-stack, Anda dapat mengonfigurasi IP Version Affinity: No affinity (Default): Permintaan didistribusikan ke server backend yang sehat berdasarkan algoritma penjadwalan, tanpa mempertimbangkan versi IP sumber. Affinity mode: Permintaan diarahkan berdasarkan versi IP sumbernya. Permintaan IPv4 hanya diarahkan ke server backend IPv4, dan permintaan IPv6 hanya diarahkan ke server backend IPv6. Jika Anda memilih Affinity mode, pastikan grup server berisi backend IPv4 dan IPv6 yang sehat. Jika tidak, permintaan dengan versi IP yang sesuai tidak dapat diteruskan dengan benar.
Connection Draining	Tentukan apakah akan mengaktifkan pengurasan koneksi. Fitur ini dinonaktifkan secara default. Jika Anda mengaktifkan pengurasan koneksi, Anda juga harus mengatur Connection Draining Timeout. Waktu tunggu dapat diatur dari 0 hingga 900 detik. Nilai 0 menunjukkan bahwa koneksi langsung dikuras. Saat server backend dihapus atau gagal dalam pemeriksaan kesehatan: Jika pengurasan koneksi dinonaktifkan (default), koneksi yang ada tidak secara aktif diputus. Koneksi tersebut hanya terputus setelah klien memutuskan koneksi atau sesi berakhir. Jika pengurasan koneksi diaktifkan, koneksi yang ada dipertahankan hingga waktu tunggu berakhir. Kemudian, koneksi tersebut secara aktif ditutup untuk memastikan transisi layanan yang lancar.
Client IP Preservation	Tentukan apakah akan mengaktifkan pelestarian IP klien. Jika Anda mengaktifkan fitur ini, server backend dapat mengambil alamat IP sumber klien. Jika Anda menonaktifkan fitur ini, server backend dapat bertindak sebagai klien untuk mengakses instans NLB. Untuk mengambil alamat IP sumber klien, Anda dapat mengaktifkan Proxy Protocol untuk listener. Grup server berbasis IP tidak secara otomatis meneruskan alamat IP sumber klien ke server backend. Anda harus menggunakan Proxy Protocol pada listener untuk mengambil alamat IP sumber.
Multi-port Forwarding	Tentukan apakah akan mengaktifkan penerusan multi-port. Jika Anda mengaktifkan fitur ini, Anda tidak perlu menentukan port saat menambahkan server backend. NLB meneruskan traffic ke server backend berdasarkan port permintaan yang masuk. Jika Anda mengaktifkan fitur multi-port forwarding untuk listener, Anda juga harus mengaktifkan fitur ini untuk grup server backend.
Health Check	Tentukan apakah akan mengaktifkan pemeriksaan kesehatan.
Health Check Settings	Jika Anda mengaktifkan pemeriksaan kesehatan, Anda dapat mengklik Modify untuk mengubah pengaturan pemeriksaan kesehatan.
Health Check Protocol	Pilih protokol untuk pemeriksaan kesehatan: TCP (Default): Mengirim paket SYN untuk memeriksa apakah port server dapat dijangkau. HTTP: Mengirim permintaan HEAD atau GET untuk memeriksa apakah aplikasi di server dalam kondisi sehat. UDP: Mengirim paket ICMP Echo Request dan paket probe UDP untuk mendapatkan informasi status. Anda hanya dapat memilih UDP untuk Health Check Protocol jika protokol backend grup server adalah UDP.
Health Check Method	Pilih metode pemeriksaan kesehatan: GET: Jika paket respons lebih besar dari 8 KB, paket tersebut dipotong. Hal ini tidak memengaruhi hasil pemeriksaan kesehatan. HEAD: Pemeriksaan kesehatan listener HTTP menggunakan HEAD secara default. Pastikan server backend Anda mendukung permintaan HEAD. Jika aplikasi backend Anda tidak mendukung atau telah menonaktifkan permintaan HEAD, pemeriksaan kesehatan mungkin gagal. Dalam kasus ini, gunakan metode GET. Parameter ini hanya berlaku ketika protokol pemeriksaan kesehatan adalah HTTP.
Health Check Protocol Version	Pilih versi HTTP: HTTP/1.0 (default) atau HTTP/1.1. Versi protokol pemeriksaan kesehatan harus sesuai dengan versi HTTP yang didukung oleh aplikasi backend Anda. Jika tidak, pemeriksaan kesehatan mungkin gagal. Jika server backend Anda: Hanya mendukung HTTP 1.0, Anda harus memilih HTTP/1.0. Hanya mendukung HTTP 1.1, Anda harus memilih HTTP/1.1. Mendukung HTTP 1.0 dan HTTP 1.1, Anda dapat memilih salah satu versi. Parameter ini hanya berlaku ketika protokol pemeriksaan kesehatan adalah HTTP .
Health Check Port	Pilih port probe yang digunakan layanan pemeriksaan kesehatan untuk mengakses server backend. Backend Server Port: Secara default, layanan pemeriksaan kesehatan menggunakan port server backend. Custom Port: Tentukan port untuk pemeriksaan kesehatan. Jika Anda mengaktifkan penerusan multi-port, Anda harus menentukan port pemeriksaan kesehatan.
Health Check Path	Masukkan URL halaman pemeriksaan kesehatan. Parameter ini hanya berlaku ketika protokol pemeriksaan kesehatan adalah HTTP.
Health Check Domain Name	Masukkan nama domain untuk pemeriksaan kesehatan. Backend Server Internal IP (Default): Alamat IP pribadi server backend digunakan sebagai nama domain untuk pemeriksaan kesehatan. Custom Domain Name: Masukkan nama domain. Parameter ini hanya berlaku ketika protokol pemeriksaan kesehatan adalah HTTP.
Health Check Status Codes	Pilih kode status yang menunjukkan pemeriksaan kesehatan berhasil. Anda dapat memilih http_2xx (default), http_3xx, http_4xx, dan http_5xx. Parameter ini hanya berlaku ketika protokol pemeriksaan kesehatan adalah HTTP.
Custom Request/Response	Saat Anda mengonfigurasi pemeriksaan kesehatan untuk listener UDP, Anda dapat mengaktifkan Custom Request/Response. Lalu, masukkan konten permintaan di bidang Custom Request, seperti youraccountID, dan respons yang diharapkan di bidang Custom Response, seperti slb123. Anda juga harus menambahkan logika respons pemeriksaan kesehatan yang sesuai ke aplikasi di server backend. Misalnya, jika aplikasi menerima permintaan yang berisi youraccountID, aplikasi tersebut harus mengembalikan respons yang berisi slb123. Jika instans NLB menerima respons yang diharapkan dari server backend, pemeriksaan kesehatan berhasil. Jika tidak, pemeriksaan kesehatan gagal. Metode ini memaksimalkan keandalan pemeriksaan kesehatan UDP. Parameter ini hanya berlaku ketika protokol pemeriksaan kesehatan adalah UDP.
Response Timeout Period	Periode waktu tunggu untuk respons terhadap permintaan pemeriksaan kesehatan. Jika server backend tidak merespons dalam periode yang ditentukan, pemeriksaan kesehatan gagal.
Health Check Interval	Interval waktu pelaksanaan pemeriksaan kesehatan. Jika Anda mengatur Health Check Protocol ke UDP, pastikan nilai Health Check Interval lebih besar dari atau sama dengan nilai Response Timeout Period. Hal ini mencegah probe UDP salah dianggap tidak responsif akibat timeout. Jika backend Anda berisiko mengalami saturasi koneksi, kami merekomendasikan memperpendek Health Check Interval (misalnya, 2 hingga 3 detik) dan menurunkan Unhealthy Threshold (misalnya, 2 kegagalan berturut-turut) untuk mendeteksi saturasi koneksi backend lebih cepat dan mengurangi waktu penemuan gangguan.
Healthy Threshold	Jumlah pemeriksaan kesehatan berhasil berturut-turut yang diperlukan untuk mengubah status server backend dari tidak sehat menjadi sehat.
Unhealthy Threshold	Jumlah pemeriksaan kesehatan gagal berturut-turut yang diperlukan untuk mengubah status server backend dari sehat menjadi tidak sehat.

Tambahkan server backend (Tipe Server)

Jika Anda membuat grup server tipe Server, Anda harus menambahkan server backend untuk menangani permintaan yang masuk. Anda tidak dapat menambahkan instans ECS, ENI, atau ECI yang sama lebih dari sekali ke grup server yang mengaktifkan penerusan multi-port.

Pada halaman Server Groups, temukan grup server yang ingin Anda kelola dan gunakan salah satu metode berikut untuk membuka halaman server backend.
- Di kolom Actions, klik Modify Backend Server.
- Klik ID grup server. Di halaman detail grup server, klik tab Backend Servers.
Di tab Backend Servers, klik Add Backend Server.
Di panel Add Backend Server, pilih Server Type lalu klik Next.
- Jika ECS/ENI adalah Purchase ECS Instance, pilih server target atau klik Purchase ECS Instance di pojok kanan atas.
  
  Untuk memilih ENI, pastikan ENI sekunder telah disambungkan ke instans ECS target dan sakelar Advanced Mode diaktifkan. Lalu, klik ikon di sebelah kanan ID instans ECS target dan pilih ENI.
  
  Jika IP Version grup server adalah IPv4/IPv6 dual-stack, klik ikon pengaturan di sebelah header kolom IP. Di kotak dialog IP Address, pilih kebijakan alamat IP:
  - Prefer IPv4 over IPv6: Alamat IPv4 primer yang tersedia dipilih secara default.
  - Prefer IPv6 over IPv4: Alamat IPv6 yang tersedia dipilih secara default. Jika ENI memiliki beberapa alamat IPv6, alamat IPv6 pertama yang tersedia dipilih berdasarkan urutannya dalam daftar.
  - Dualstack: Alamat IPv4 primer yang tersedia dan alamat IPv6 pertama yang tersedia dipilih.
  Opsi ini hanya mengatur alamat IP default yang dipilih untuk ENI. Anda tetap dapat mengubah pilihan secara manual di kolom alamat IP.
- Jika ECI adalah ECI, pilih server target atau klik Purchase Elastic Container Instance di pojok kanan atas.
Konfigurasikan port dan bobot server, lalu klik OK.
Jika penerusan multi-port diaktifkan untuk grup server, Anda tidak perlu menentukan port saat menambahkan server backend. NLB meneruskan lalu lintas ke server backend berdasarkan port permintaan yang masuk.

Bobot default adalah 100. Server dengan bobot lebih tinggi menerima lebih banyak permintaan.
Anda dapat mengarahkan kursor ke ikon untuk memodifikasi bobot dan port beberapa server sekaligus:
- Klik Replicate to Below: Jika Anda mengubah bobot atau port server saat ini, bobot atau port semua server di bawahnya diubah menjadi nilai yang sama.
- Klik Replicate to Above: Jika Anda mengubah bobot atau port server saat ini, bobot atau port semua server di atasnya diubah menjadi nilai yang sama.
- Klik Replicate to All: Jika Anda mengubah bobot atau port server saat ini, bobot atau port semua server dalam grup server diubah menjadi nilai yang sama.
- Klik Reset:
  - Klik Reset di samping Weight untuk mengembalikan bobot default semua server dalam grup server.
  - Klik Reset di samping Port untuk menghapus nomor port semua server dalam grup server.
Peringatan
Jika Anda mengatur bobot server menjadi 0, server tersebut tidak lagi menerima permintaan baru.

Tambahkan server backend (Tipe IP)

Jika Anda membuat grup server tipe IP, Anda harus menambahkan alamat IP sebagai server backend untuk menangani permintaan yang masuk. Anda tidak dapat menambahkan alamat IP yang sama lebih dari sekali ke grup server yang mengaktifkan penerusan multi-port.

Anda tidak dapat menambahkan alamat IP virtual (VIP) instans NLB dalam VPC yang sama, atau VIP instans ALB yang dibuat dalam VPC yang sama setelah .
Hanya alamat IP pribadi yang didukung. Alamat IP publik tidak didukung.

Di halaman Server Groups, temukan grup server target dan gunakan salah satu metode berikut untuk menambahkan alamat IP.
- Di kolom Actions, klik Modify Backend Server.
- Klik ID grup server.
Di halaman detail grup server, klik tab Backend Servers, lalu klik Add IP Address.
Di tab Select Servers panel Add Backend Server, masukkan alamat IP lalu klik Next.

Anda dapat mengonfigurasi beberapa port dan bobot untuk alamat IP tersebut.
Di tab Ports/Weights, atur port dan bobot untuk alamat IP yang ditambahkan, lalu klik OK.
Jika penerusan multi-port diaktifkan untuk grup server, Anda tidak perlu menentukan port saat menambahkan server backend. NLB meneruskan lalu lintas ke server backend berdasarkan port permintaan yang masuk.

Bobot default adalah 100. Server dengan bobot lebih tinggi menerima lebih banyak permintaan.
Anda dapat mengarahkan kursor ke ikon untuk memodifikasi bobot dan port beberapa server sekaligus:
- Klik Replicate to Below: Jika Anda mengubah bobot atau port server saat ini, bobot atau port semua server di bawahnya diubah menjadi nilai yang sama.
- Klik Replicate to Above: Jika Anda mengubah bobot atau port server saat ini, bobot atau port semua server di atasnya diubah menjadi nilai yang sama.
- Klik Replicate to All: Jika Anda mengubah bobot atau port server saat ini, bobot atau port semua server dalam grup server diubah menjadi nilai yang sama.
- Klik Reset:
  - Klik Reset di samping Weight untuk mengembalikan bobot default semua server dalam grup server.
  - Klik Reset di samping Port untuk menghapus nomor port semua server dalam grup server.
Peringatan
Jika Anda mengatur bobot server menjadi 0, server tersebut tidak lagi menerima permintaan baru.

Operasi lainnya

Aksi	Prosedur
Edit informasi dasar	Di halaman Server Groups, temukan grup server target lalu klik Modify Basic Information. Di kotak dialog Modify Basic Information, Anda dapat memodifikasi algoritma penjadwalan, afinitas versi IP (tersedia hanya jika IP Version grup server adalah IPv4/IPv6 dual-stack), pengurasan koneksi, dan pengaturan pelestarian IP klien.
Edit pengaturan pemeriksaan kesehatan	Di halaman Server Groups, temukan grup server target lalu klik Modify Health Check Settings. Di kotak dialog Modify Health Check Settings, modifikasi pengaturan pemeriksaan kesehatan. Peringatan Jika Anda menonaktifkan pemeriksaan kesehatan, NLB tidak lagi memeriksa status kesehatan server backend. Jika server backend menjadi tidak sehat, NLB tidak dapat secara otomatis mengarahkan traffic ke server backend sehat lainnya. Jika Anda memperpanjang interval pemeriksaan kesehatan, NLB membutuhkan waktu lebih lama untuk mendeteksi server backend yang tidak sehat.
Hapus server backend	Anda dapat menghapus server backend dari grup server sesuai kebutuhan. Peringatan Menghapus server backend langsung dari grup server dapat menyebabkan gangguan layanan. Untuk menghindarinya, atur terlebih dahulu bobot server menjadi 0, lalu hapus dari grup server. Di halaman Server Groups, klik ID grup server target. Klik tab Backend Servers, temukan server yang ingin dihapus, klik Remove, lalu klik OK.
Hapus grup server	Anda hanya dapat menghapus grup server jika tidak dikaitkan dengan aturan pengalihan listener apa pun. Menghapus grup server tidak memengaruhi server backend-nya. Jika Anda tidak lagi memerlukan instans ECS, ENI, atau ECI yang terdaftar sebagai server backend, Anda dapat menghentikan atau melepasnya. Di halaman Server Groups, temukan grup server target. Di kolom Actions, pilih Delete lalu klik OK.

Referensi API

CreateServerGroup: Membuat grup server untuk instans NLB.
DeleteServerGroup: Menghapus grup server instans NLB.
AddServersToServerGroup: Menambahkan server backend ke grup server instans NLB.
RemoveServersFromServerGroup: Menghapus server backend dari grup server instans NLB.
UpdateServerGroupAttribute: Memperbarui konfigurasi grup server untuk instans NLB.