Grup server Application Load Balancer (ALB) mengarahkan permintaan klien ke satu atau beberapa server backend. Untuk menggunakan instans ALB, Anda harus membuat grup server dan menambahkan server backend untuk menerima permintaan yang diteruskan.
Perencanaan konfigurasi
Sebelum membuat grup server, tentukan konfigurasi utama berdasarkan kebutuhan bisnis Anda. Tipe grup server tidak dapat diubah setelah dibuat. Pilih tipe berdasarkan cara layanan backend Anda dideploy.
Pilih tipe grup server
Tipe grup server | Tipe layanan backend | Deskripsi | Dokumentasi terkait |
Server | Instans Elastic Compute Service (ECS), elastic network interfaces (ENIs), dan instans Elastic Container Instance (ECI) |
| |
IP | Alamat IP |
| |
Function Compute | Function Compute | Anda harus mengaktifkan layanan Function Compute. Fungsi tersebut harus berada dalam wilayah yang sama dengan instans ALB. | Tambahkan Function Compute sebagai layanan backend untuk instans ALB |
DNS | Nama domain |
| |
Layanan AI | Layanan large language model (LLM) |
| |
Layanan MCP | Server MCP, Function Compute, dan REST API |
Ini adalah fitur daftar putih. Untuk menggunakannya, hubungi manajer akun Anda. | |
Range alamat IP | Range alamat IP dan range port |
| Gunakan ALB Extensible Edition untuk menerapkan penerusan dinamis |
ALB Extensible Edition sedang dalam pratinjau publik. Untuk informasi selengkapnya, lihat catatan pratinjau publik.
Jika server backend instans ALB dilepas atau alamat IP pribadinya diubah, ALB tidak memperbarui server backend tersebut secara otomatis. Kami menyarankan agar Anda terlebih dahulu menghapus server backend dari grup server ALB sebelum melepas atau mengubah alamat IP pribadinya untuk mencegah gangguan layanan.
Protokol backend dan algoritma penjadwalan
Protokol backend | Kasus penggunaan |
HTTP (default) | Sebagian besar skenario aplikasi web. Cocok untuk pendengar HTTP, HTTPS, dan QUIC. |
HTTPS | Skema yang memerlukan komunikasi terenkripsi antara instans ALB dan server backend-nya. Cocok untuk pendengar HTTPS dan HTTP. |
gRPC | Layanan backend yang menggunakan protokol gRPC. Memerlukan pendengar HTTP atau HTTPS dengan HTTP/2 diaktifkan. Mengaktifkan HTTP/2 untuk pendengar HTTP adalah fitur daftar putih. Untuk menggunakannya, hubungi manajer akun Anda. |
Mengaktifkan HTTP/2 untuk pendengar HTTP adalah fitur daftar putih. Untuk menggunakannya, hubungi manajer akun Anda.
Instans ALB Extensible Edition tidak mendukung protokol backend gRPC.
Anda tidak perlu memilih protokol backend untuk grup server tipe layanan AI atau MCP. Grup server tipe range alamat IP saat ini hanya mendukung protokol backend HTTP.
Algoritma penjadwalan | Kasus penggunaan |
weighted round-robin | Skema tujuan umum. Mendistribusikan permintaan secara merata berdasarkan rasio bobot. Penjadwalan round-robin dilakukan per permintaan, bukan per pengguna. |
weighted least connections | Skema dengan koneksi berdurasi panjang atau variasi signifikan dalam waktu pemrosesan permintaan. Mempertimbangkan bobot dan jumlah koneksi aktif, serta memprioritaskan server dengan beban lebih rendah. |
consistent hash | Skema yang memerlukan afinitas permintaan, seperti untuk mengoptimalkan tingkat hit cache. Mengarahkan permintaan dengan karakteristik yang sama ke server backend yang sama berdasarkan hash dari IP sumber atau parameter URL. |
Untuk detail logika algoritma, lihat Algoritma penjadwalan load balancing.
Tabel berikut menjelaskan kompatibilitas antara protokol pendengar, protokol backend, dan protokol pemeriksaan kesehatan.
Protokol pendengar | Protokol backend | Tipe grup server | Protokol pemeriksaan kesehatan |
HTTP | HTTP, HTTPS, dan gRPC | Server, IP, Function Compute, DNS, layanan AI, layanan MCP, dan range alamat IP | HTTP, HTTPS, TCP, dan gRPC |
HTTPS | HTTP, HTTPS, dan gRPC | Server, IP, Function Compute, DNS, layanan AI, layanan MCP, dan range alamat IP | |
QUIC | HTTP | Server, IP, dan Function Compute |
Anda tidak perlu mengonfigurasi protokol backend atau protokol pemeriksaan kesehatan untuk tipe Function Compute, layanan AI, atau layanan MCP. Anda tidak perlu mengonfigurasi protokol pemeriksaan kesehatan untuk tipe DNS atau range alamat IP.
Pendengar HTTPS pada instans ALB Edisi Dasar tidak mendukung protokol backend HTTPS. Instans ALB Edisi Dasar tidak mendukung protokol pemeriksaan kesehatan HTTPS.
Instans ALB Extensible Edition tidak mendukung pendengar QUIC atau protokol backend gRPC.
Untuk menggunakan protokol backend gRPC, Anda harus mengaktifkan HTTP/2 dalam pendengar. Mengaktifkan HTTP/2 untuk pendengar HTTP adalah fitur daftar putih. Untuk menggunakannya, hubungi manajer akun Anda.
Protokol backend harus sesuai dengan protokol yang benar-benar disediakan oleh server backend. Misalnya, jika instans ECS backend menyediakan layanan HTTP, pilih HTTP sebagai protokol backend. Jika protokol backend diatur ke HTTPS tetapi server backend hanya menyediakan layanan HTTP, proses jabat tangan TLS antara instans ALB dan server backend gagal, menyebabkan permintaan mengembalikan 502 Bad Gateway. Untuk mengatasi masalah ini, ubah protokol backend menjadi HTTP.
Buat dan hapus grup server
Buat grup server
Buka halaman Server Groups di Konsol ALB.
Di bilah navigasi atas, pilih wilayah dan klik Create Server Group. Konfigurasikan parameter berikut dan klik Create.
Server Group Type: Pilih tipe berdasarkan cara layanan backend Anda dideploy.
Server: Menggunakan instans ECS, ENI, atau instans ECI sebagai server backend. Server backend harus berada dalam VPC yang sama dengan grup server.
IP Address: Menggunakan alamat IP sebagai server backend. Mendukung alamat IP dalam VPC. Jika Anda mengaktifkan remote IP, Anda juga dapat menambahkan alamat IP dari VPC lain atau pusat data lokal.
Function Compute: Menggunakan Function Compute sebagai layanan backend. Anda harus mengaktifkan layanan Function Compute, dan fungsi tersebut harus berada dalam wilayah yang sama dengan instans ALB.
FQDN: Menggunakan nama domain sebagai layanan backend. ALB melakukan resolusi nama domain dan meneruskan permintaan. Hanya instans ALB Extensible Edition yang didukung.
AI Service: Menggunakan layanan LLM sebagai layanan backend. Hanya instans ALB Extensible Edition yang didukung.
MCP Service Type: Menggunakan server MCP, Function Compute, atau REST API sebagai layanan backend untuk menyediakan titik akhir layanan MCP terpadu bagi agen. Hanya instans ALB Extensible Edition yang didukung, dan ekstensi layanan yang mencakup komponen proxy MCP diperlukan.
Ini adalah fitur daftar putih. Untuk menggunakannya, hubungi manajer akun Anda.
IP Address Range: Tidak mendaftarkan server backend tertentu. Anda hanya mengonfigurasi range alamat IP tujuan dan range port yang diizinkan. ALB mengekstrak alamat tujuan dari konten permintaan secara dinamis lalu meneruskan permintaan. Hanya instans ALB Extensible Edition yang didukung, dan ekstensi layanan yang mencakup komponen penerusan dinamis diperlukan.
For Extensible instances: Opsional. Saat membuat grup server tipe Server, IP, atau Function Compute, pilih opsi ini jika Anda ingin melampirkannya ke pendengar atau aturan pengalihan instans ALB Extensible Edition.
Server Group Name: Masukkan nama kustom untuk grup server.
VPC: VPC tempat grup server berada. Hanya server backend dalam VPC ini yang dapat ditambahkan ke grup server ini.
Untuk grup server tipe IP, jika Anda mengaktifkan remote IP, server backend tidak dibatasi pada VPC ini tetapi harus dapat dijangkau dari jaringan VPC.
Anda hanya perlu mengonfigurasi parameter ini untuk grup server tipe Server dan IP.
Backend Server Protocol: Pilih protokol untuk komunikasi antara instans ALB dan server backend.
HTTP (default): Cocok untuk pendengar HTTP, HTTPS, dan QUIC. Instans ALB menggunakan HTTP untuk berkomunikasi dengan server backend.
HTTPS: Cocok untuk pendengar HTTPS dan HTTP. Instans ALB menggunakan HTTPS untuk komunikasi terenkripsi dengan server backend.
gRPC: Cocok untuk pendengar HTTP atau HTTPS. HTTP/2 harus diaktifkan. Instans ALB menggunakan protokol gRPC untuk berkomunikasi dengan server backend.
Anda tidak perlu mengonfigurasi parameter ini untuk grup server tipe Function Compute, layanan AI, atau layanan MCP. Grup server tipe range alamat IP hanya mendukung protokol backend HTTP.
Pendengar HTTPS pada instans ALB Edisi Dasar tidak mendukung protokol backend HTTPS.
Instans ALB Extensible Edition tidak mendukung protokol backend gRPC.
DNS Server Configuration: Diperlukan hanya untuk grup server tipe DNS dan layanan AI. Menentukan server DNS yang digunakan untuk melakukan resolusi nama domain backend. Klik Auto-fill with Private DNS Address untuk secara otomatis memasukkan alamat DNS internal Alibaba Cloud.
Alamat server DNS adalah alamat IPv4 plus port, seperti
100.100.2.136:53. Blok CIDR22.0.0.0/8dan33.0.0.0/8tidak didukung.Secara default, grup server mendukung hingga 5 alamat server DNS.
Associate Service Extension:
IP Address Range grup server: Ekstensi layanan harus diasosiasikan. Diaktifkan secara default dan tidak dapat dinonaktifkan. Tipe grup server ini bergantung pada komponen penerusan dinamis untuk mengekstrak alamat tujuan dari konten permintaan. Anda tidak dapat membuat grup server tanpa mengasosiasikan ekstensi layanan yang mencakup komponen ini.
Server dan IP Address grup server: Dapat dikonfigurasi hanya setelah Anda memilih For Extensible instances. Setelah diaktifkan, Anda hanya dapat mengasosiasikan ekstensi layanan yang mencakup komponen routing berbasis beban, yang memungkinkan penjadwalan traffic cerdas dengan merasakan beban real-time server backend.
Anda dapat mengasosiasikan ekstensi layanan dengan salah satu dari dua cara berikut:
Quick Create from Template: Pilih templat untuk komponen yang sesuai untuk membuat ekstensi layanan dan mengasosiasikannya dengan grup server saat ini. Anda dapat memodifikasi konfigurasi komponen sebelum pembuatan.
Use Existing Service Extension: Pilih ekstensi layanan yang sudah ada yang mencakup komponen yang sesuai.
Scheduling Algorithm: Pilih strategi distribusi permintaan.
Weighted Round-robin: Mendistribusikan permintaan berdasarkan rasio bobot. Server backend dengan bobot lebih tinggi menerima lebih banyak permintaan.
Weighted Least Connections: Mendistribusikan permintaan berdasarkan bobot dan jumlah koneksi aktif. Di antara server dengan bobot yang sama, server dengan koneksi terkecil menerima permintaan berikutnya.
Consistent Hash: Mengarahkan permintaan dengan karakteristik yang sama ke server backend yang sama berdasarkan faktor hash.
Hash Factor:
Source IP: Melakukan hash berdasarkan alamat IP sumber klien.
URL Parameters: Melakukan hash berdasarkan nilai parameter URL yang ditentukan. Anda harus memasukkan Specified URL.
Untuk Specified URL, masukkan nama parameter kueri dari URL permintaan, seperti
useridatausessionid. ALB melakukan hash terhadap nilai parameter ini untuk mengarahkan permintaan dengan nilai parameter yang sama ke server backend yang sama.Misalnya, jika Anda mengatur Specified URL ke
userid, permintaan yang berisi?userid=123selalu diarahkan ke server backend yang sama. Metode ini berguna untuk skenario yang memerlukan persistensi sesi, seperti mengikat sesi keranjang belanja atau mengoptimalkan tingkat hit cache.Kami menyarankan agar Anda menambahkan dua atau lebih server backend ke grup server untuk memaksimalkan efektivitas distribusi berbasis hash.
Anda hanya perlu mengonfigurasi parameter ini untuk grup server tipe Server dan IP.
Tags and Resource Group: Opsional. Digunakan untuk mengkategorikan dan mengelola grup server.
Tag Key dan Tag Value: Beri tag grup server dengan pasangan kunci-nilai.
Resource Group: Kelompok sumber daya tempat grup server berada. Kelompok sumber daya default digunakan secara default.
Backend Persistent Connection: Diaktifkan secara default. Saat diaktifkan, ALB mempertahankan koneksi TCP persisten dengan server backend. Permintaan baru menggunakan kembali koneksi yang ada bila memungkinkan, yang mengurangi latensi dan menurunkan beban pada server backend.
Anda hanya perlu mengonfigurasi parameter ini untuk grup server tipe Server dan IP.
Health Check: Diaktifkan secara default. Mendeteksi ketersediaan server backend.
Anda hanya perlu mengonfigurasi parameter ini untuk grup server tipe Server, IP, dan Function Compute. Pemeriksaan kesehatan dinonaktifkan secara default untuk grup server Function Compute. Jika diaktifkan, probe pemeriksaan kesehatan dihitung sebagai permintaan Function Compute dan dikenai biaya.
Instans ALB Extensible Edition saat ini hanya mendukung protokol pemeriksaan kesehatan HTTP dan TCP.
Advanced Health Check Settings: Klik untuk memperluas pengaturan. Untuk deskripsi parameter, lihat Pemeriksaan kesehatan untuk ALB.
Select and Load Health Check: Pilih templat pemeriksaan kesehatan yang sudah ada dan muat konfigurasinya.
Anda dapat membuat templat pemeriksaan kesehatan yang tidak diasosiasikan dengan grup server atau pendengar untuk digunakan di masa mendatang.
Grup server hanya mendukung satu pemeriksaan kesehatan.
Hapus grup server
Anda hanya dapat menghapus grup server jika tidak diasosiasikan dengan aturan pengalihan pendengar apa pun. Menghapus grup server tidak memengaruhi server backend-nya.
Buka halaman Server Groups di Konsol ALB. Temukan grup server yang ingin Anda hapus. Di kolom Actions , pilih ikon
, pilih Delete, lalu klik OK.
API
Panggil operasi CreateServerGroup untuk membuat grup server.
Panggil operasi DeleteServerGroup untuk menghapus grup server tertentu.
Tambah dan hapus server backend
Sebelum menambahkan server backend, pastikan aplikasi Anda telah dideploy di server tersebut.
Pastikan server backend Anda tidak memblokir alamat-alamat berikut dengan aturan security group, iptables, atau perangkat lunak keamanan lainnya:
Instans ALB yang ditingkatkan menggunakan alamat IP pribadi (Local IPs) dari blok CIDR vSwitch-nya untuk komunikasi. Anda dapat melihat alamat IP ini di halaman detail instans.
Instans ALB yang tidak ditingkatkan menggunakan blok CIDR 100.64.0.0/10 untuk berkomunikasi dengan server backend.
Pastikan konfigurasi server backend tidak membuat jalur penerusan yang menghasilkan loop.
Tambah server backend
Tipe Server
ENI Lingjun dapat ditambahkan.
Saat For Extensible instances dipilih, Anda dapat mengasosiasikan ekstensi layanan yang mencakup komponen routing berbasis beban untuk mengaktifkan penjadwalan traffic cerdas dengan merasakan beban real-time server backend.
Buka halaman Server Groups di Konsol ALB. Temukan grup server target dan klik Modify Backend Server di kolom Actions.
Di tab Backend Servers, klik Add Backend Server. Di panel Add Backend Server, atur Server Type ke ECS, Elastic Network Interface (ENI), atau ECI, pilih server backend target, lalu klik Next.
Jika tidak tersedia server backend, klik tombol di pojok kanan atas daftar server untuk membeli atau membuatnya.
Untuk menambahkan ENI, pastikan ENI tersebut terikat ke instans ECS. Untuk informasi selengkapnya, lihat Bind a secondary ENI.
Di halaman Ports/Weights, atur port dan bobot untuk server yang ditambahkan, lalu klik OK.
Port: Port layanan di server backend.
Weight: Proporsi traffic yang didistribusikan ke server. Nilai valid: 0 hingga 100. Nilai default: 100.
Misalnya, jika grup server berisi tiga server dengan bobot 100, 50, dan 50, permintaan didistribusikan dalam rasio 2:1:1. Server dengan bobot 100 menerima 50% permintaan, dan dua server lainnya masing-masing menerima 25% permintaan.
CatatanJika persistensi sesi diaktifkan, distribusi permintaan di antara server backend mungkin tidak merata.
Jika bobot server diatur ke 0, server tersebut tidak lagi menerima permintaan baru.
Server yang gagal dalam pemeriksaan kesehatan tidak menerima traffic. Permintaan didistribusikan di antara server sehat yang tersisa berdasarkan rasio bobotnya.
Jika semua server dalam grup server tidak sehat, ALB tetap berusaha mendistribusikan traffic berdasarkan bobot server untuk meminimalkan gangguan layanan.
Operasi batch
Pilih beberapa server dan gunakan Set Same Port, Set Same Weight, atau Remove Backend Servers di bagian bawah daftar.
Arahkan kursor ke sisi kanan kotak input port atau bobot, lalu pilih Replicate to Below, Replicate to Above, atau Replicate to All untuk menerapkan nilai saat ini ke server lain dengan cepat.
Klik Reset di sebelah kanan header kolom Port atau Weight untuk menghapus semua port server atau mengembalikan semua bobot ke nilai default-nya.
Tipe Function Compute
Function Compute 2.0 dan 3.0 didukung. ALB berkomunikasi dengan Function Compute secara aman melalui jaringan internal Alibaba Cloud.
Instans ALB Extensible Edition hanya mendukung Function Compute 3.0.
Anda harus mengaktifkan layanan Function Compute sebelum menggunakannya. Akun Alibaba Cloud yang didaftarkan setelah 27 Agustus 2024 dan telah menyelesaikan verifikasi identitas dapat menggunakan layanan ini langsung tanpa aktivasi.
Batasan
Wilayah yang mendukung penambahan fungsi Function Compute sebagai server backend.
Instans ALB dan fungsi tersebut harus berada dalam wilayah yang sama.
Grup server tipe Function Compute hanya dapat berisi satu fungsi.
Untuk Function Compute 2.0, jika Handler Type diatur ke Event Handler, konfigurasikan pemicu HTTP untuk mengasosiasikan fungsi dengan instans ALB.
Buka halaman Server Groups di Konsol ALB. Temukan grup server target dan klik Modify Backend Server di kolom Actions.
Di tab Backend Servers, klik Add Function. Di panel Add Backend Server, gunakan salah satu metode berikut untuk mengonfigurasi fungsi, lalu klik OK.
Service
Function Name: Pilih fungsi yang sudah ada. Jika tidak tersedia fungsi, klik Create Function. Untuk informasi selengkapnya, lihat Create a function.
Version or Alias: Pilih Specified Version atau Specified Alias. Secara default, fungsi yang baru dibuat hanya memiliki versi LATEST.
Konfigurasi berdasarkan ARN
ARN: Masukkan Nama Sumber Daya Alibaba Cloud (ARN) dari fungsi target. Anda dapat mendapatkan ARN fungsi dari halaman detail fungsi di Konsol Function Compute.
Tipe IP
Jika remote IP dinonaktifkan, Anda hanya dapat menambahkan alamat IP dari blok CIDR VPC saat ini. Jika remote IP diaktifkan, Anda juga dapat menambahkan alamat IP dari VPC lain atau pusat data lokal.
Saat For Extensible instances dipilih, Anda dapat mengasosiasikan ekstensi layanan yang mencakup komponen routing berbasis beban untuk mengaktifkan penjadwalan traffic cerdas dengan merasakan beban real-time server backend.
Mulai dari 00:00:00, 25 Februari 2025 (UTC+8), instans yang baru dibuat akan menggunakan versi ALB yang ditingkatkan secara default. Instans ALB yang sudah ada tidak terpengaruh, kecuali instans yang dibuat melalui aplikasi self-service. Untuk informasi selengkapnya, lihat Pemberitahuan tentang Peningkatan Instans Application Load Balancer (ALB).
Batasan
Instans ALB yang tidak ditingkatkan tidak mendukung penambahan instans ALB, Network Load Balancer (NLB), atau Classic Load Balancer (CLB) dari VPC yang sama ke grup server tipe IP. Jika Anda perlu menambahkan sumber daya ini dari VPC yang sama, pastikan Anda menggunakan instans ALB yang ditingkatkan untuk menghindari potensi masalah layanan.
Ditingkatkan
Batasan server backend
Hanya alamat IP pribadi yang didukung. Alamat IP publik tidak didukung.
Jika Anda mengatur IP Protocol Version ke IPv4/IPv6 Dual Stack, Anda hanya dapat menambahkan alamat IPv6 dari blok CIDR VPC grup server. Anda tidak dapat mengaktifkan remote IP.
Batasan konfigurasi penerusan antara ALB dan server backend
Jika Anda menggunakan Router transit edisi perusahaan, router tersebut membuat elastic network interface (ENI) pada vSwitch di zona ketersediaan yang Anda tentukan. ENI ini bertindak sebagai ingress traffic dari VPC ke router transit. Saat membuat VPC, pastikan Anda membuat setidaknya satu vSwitch di zona ketersediaan yang ditentukan untuk menghubungkan VPC ke router transit. Untuk informasi selengkapnya, lihat Cara kerja router transit.
Traffic antara instans ALB dan server backend-nya hanya dapat diteruskan melalui tabel rute sistem. Tabel rute kustom di VPC tidak didukung.
Tidak ditingkatkan
Batasan server backend
Wilayah yang mendukung penambahan IP remote untuk instans ALB yang tidak ditingkatkan.
Server backend cross-region hanya didukung untuk grup server tipe IP.
Hanya alamat IP pribadi yang didukung. Alamat IP publik tidak didukung.
Anda tidak dapat menambahkan instans ALB, NLB, atau CLB dari VPC yang sama.
Batasan konfigurasi penerusan antara ALB dan server backend
Anda dapat menggunakan Router transit edisi perusahaan atau Express Connect untuk penerusan IP remote. Router transit Edisi Dasar tidak didukung.
Jika Anda menggunakan Router transit edisi perusahaan, router tersebut membuat elastic network interface (ENI) pada vSwitch di zona ketersediaan yang Anda tentukan. ENI ini bertindak sebagai ingress traffic dari VPC ke router transit. Saat membuat VPC Anda, pastikan Anda membuat setidaknya satu vSwitch di zona ketersediaan yang didukung untuk menghubungkan VPC ke router transit. Untuk informasi selengkapnya, lihat Wilayah dan zona yang mendukung Router transit edisi perusahaan.
Traffic antara instans ALB dan server backend-nya hanya dapat diteruskan melalui tabel rute sistem. Tabel rute kustom di VPC tidak didukung.
Buka halaman Server Groups di Konsol ALB. Temukan grup server target dan klik Modify Backend Server di kolom Actions.
Di tab Backend Servers, klik Add IP Address. Di panel Add Backend Server, masukkan alamat IP server backend, lalu klik Next.
Jika Anda mengaktifkan Remote IP, Anda dapat memasukkan alamat IP dari blok CIDR pribadi berikut: 10.0.0.0/8, 100.64.0.0/10, 172.16.0.0/12, dan 192.168.0.0/16.
Jika Anda tidak mengaktifkan Remote IP, Anda hanya dapat memasukkan alamat IP dari blok CIDR VPC saat ini.
Untuk menambahkan beberapa server backend, klik Add IP Address.
Di halaman Ports/Weights, atur port dan bobot, lalu klik OK.
Port: Port tempat server backend menyediakan layanan.
Weight: Proporsi traffic yang didistribusikan ke server. Nilai valid: 0 hingga 100. Nilai default: 100.
Misalnya, jika grup server berisi tiga server dengan bobot 100, 50, dan 50, permintaan didistribusikan dalam rasio 2:1:1. Server dengan bobot 100 menerima 50% permintaan, dan dua server lainnya masing-masing menerima 25% permintaan.
CatatanJika persistensi sesi diaktifkan, distribusi permintaan di antara server backend mungkin tidak merata.
Jika bobot server diatur ke 0, server tersebut tidak lagi menerima permintaan baru.
Server yang gagal dalam pemeriksaan kesehatan tidak menerima traffic. Permintaan didistribusikan di antara server sehat yang tersisa berdasarkan rasio bobotnya.
Jika semua server dalam grup server tidak sehat, ALB tetap berusaha mendistribusikan traffic berdasarkan bobot server untuk meminimalkan gangguan layanan.
Operasi batch
Pilih beberapa server dan gunakan Set Same Port, Set Same Weight, atau Remove Backend Servers di bagian bawah daftar.
Arahkan kursor ke sisi kanan kotak input port atau bobot, lalu pilih Replicate to Below, Replicate to Above, atau Replicate to All untuk menerapkan nilai saat ini ke server lain dengan cepat.
Klik Reset di sebelah kanan header kolom Port atau Weight untuk menghapus semua port server atau mengembalikan semua bobot ke nilai default-nya.
DNS
Tambahkan nama domain sebagai layanan backend. ALB melakukan resolusi nama domain dan meneruskan permintaan ke alamat hasil resolusi. Untuk tutorial lengkap, lihat Host website statis di OSS dengan ALB Extensible Edition.
Hanya instans ALB Extensible Edition yang mendukung grup server tipe DNS.
Batasan
Secara default, grup server tipe DNS mendukung hingga 10 nama domain. Untuk meningkatkan batas ini, hubungi manajer akun Anda.
Anda harus memastikan konektivitas jaringan antara ALB dan alamat hasil resolusi nama domain backend.
Resolusi DNS internal Alibaba Cloud, server DNS kustom, dan PrivateZone didukung. Tentukan server DNS di DNS Server Configuration grup server.
Layanan backend tipe DNS tidak mendukung konfigurasi bobot. Bobot tetap pada 100.
Buka halaman Server Groups di Konsol ALB. Temukan grup server target dan klik Modify Backend Server di kolom Actions.
Di tab Backend Servers, klik Add DNS Name. Konfigurasikan parameter berikut dan klik OK.
DNS name: Masukkan nama domain layanan backend, seperti
static.example.com.Port: Port tempat layanan backend menyediakan layanan.
Layanan AI
Tambahkan layanan LLM sebagai layanan backend. Saat ALB meneruskan permintaan, ALB secara otomatis menyertakan kunci API dari kredensial identitas untuk menyelesaikan autentikasi. Untuk tutorial lengkap, lihat Gunakan ALB Extensible Edition untuk memanggil beberapa layanan LLM secara terpadu.
Hanya instans ALB Extensible Edition yang mendukung grup server tipe layanan AI.
Batasan
Grup server tipe layanan AI hanya mendukung satu layanan AI.
Sebelum menambahkan layanan, Anda harus membuat kredensial identitas untuk kunci API layanan LLM.
Secara default, layanan AI dapat diasosiasikan dengan hingga 10 kredensial identitas.
Layanan backend tipe layanan AI tidak memerlukan konfigurasi port atau bobot.
Buka halaman Server Groups di Konsol ALB. Temukan grup server target dan klik Modify Backend Server di kolom Actions.
Di tab Backend Servers, klik Add AI Service. Konfigurasikan parameter berikut dan klik OK.
Model provider: Pilih penyedia layanan LLM.
Endpoint: Diisi secara otomatis setelah Anda memilih penyedia LLM. Anda dapat memodifikasinya secara manual.
Identity Credential: Pilih satu atau beberapa kredensial identitas yang sudah ada. ALB memilih kunci API dari kredensial identitas yang dipilih untuk berkomunikasi dengan layanan LLM. Mengonfigurasi beberapa kredensial mendistribusikan kuota panggilan kunci API tunggal dan meningkatkan ketersediaan layanan.
API Key Health Check: Kami menyarankan agar Anda mengaktifkan opsi ini. Setelah diaktifkan, ketika backend mengembalikan kode status
401atau429, ALB secara otomatis menghapus kunci API yang sesuai, dan permintaan ditangani oleh kunci API lain yang tersedia.
Lokasi kredensial kunci API tetap pada HTTP Header. Nama parameter dan awalan adalah nilai preset yang tidak dapat dimodifikasi.
Layanan MCP
Tambahkan server MCP, Function Compute, atau REST API sebagai layanan backend. ALB melakukan proxy langsung MCP atau konversi protokol MCP-ke-OpenAPI untuk menyediakan titik akhir layanan terpadu bagi agen. Untuk tutorial lengkap, lihat Gunakan ALB Extensible Edition untuk mengelola layanan MCP.
Hanya instans ALB Extensible Edition yang mendukung grup server tipe layanan MCP, dan ekstensi layanan yang mencakup komponen proxy MCP diperlukan. Ini adalah fitur daftar putih. Untuk menggunakannya, hubungi manajer akun Anda.
Batasan
Grup server tipe layanan MCP tunggal mendukung campuran server MCP, Function Compute, dan REST API.
Dalam grup server yang sama, nama layanan harus unik, endpoint akses yang diresolusi dari server MCP dan REST API harus unik, dan ARN Function Compute harus unik.
Node layanan MCP harus berupa alamat nama domain yang dimulai dengan
http://atauhttps://. Alamat IP tidak didukung, danlocalhostserta127.0.0.1tidak didukung.Campuran metode akses Streamable HTTP dan SSE didukung, tetapi konversi protokol di antara keduanya tidak. ALB dan backend harus menggunakan metode akses yang sama.
Konfigurasi OpenAPI mendukung OpenAPI 3.0 dan Alibaba Cloud OpenAPI, dan skema hanya mendukung satu endpoint akses. Anda dapat memasukkan skema langsung di editor atau mengimpor file OpenAPI lokal. Ukuran file maksimum adalah 1 MB.
Aksi Forward to aturan pengalihan hanya mendukung pemilihan satu grup server tipe layanan MCP, yang tidak dapat dipilih bersama dengan grup server tipe lain. Aturan pengalihan default pendengar tidak mendukung penerusan ke grup server tipe layanan MCP.
Buka halaman Server Groups di Konsol ALB. Temukan grup server target dan klik Modify Backend Server di kolom Actions.
Di tab Backend Servers, klik Add MCP Service. Konfigurasikan parameter berikut dan klik OK.
Service Name: Masukkan nama layanan MCP. Harus unik dalam grup server.
Service Type: Pilih bentuk layanan backend.
MCP Server: ALB melakukan proxy langsung layanan MCP backend. Anda harus memasukkan MCP Service Endpoint dan memilih Access Method (Streamable HTTP atau SSE).
Function Compute: ALB mengonversi protokol MCP ke OpenAPI untuk berkomunikasi dengan Function Compute. Anda harus memasukkan Function Compute ARN dan menyelesaikan OpenAPI Configuration.
REST API: ALB mengonversi protokol MCP ke OpenAPI untuk berkomunikasi dengan REST API backend. Anda harus menyelesaikan OpenAPI Configuration.
Outbound Authentication: Atur metode autentikasi yang digunakan ALB untuk mengakses layanan backend. MCP Server mendukung No Authentication. Function Compute mendukung RAM Role tanpa konfigurasi tambahan. REST API mendukung API Key dan memungkinkan Anda menentukan Credential Location. Saat menggunakan kunci API, Anda harus terlebih dahulu membuat kredensial identitas kunci API identity credential.
Saat endpoint akses layanan MCP backend tetap tidak berubah tetapi daftar tool-nya berubah, temukan layanan target di daftar server backend dan klik Sync di kolom Actions untuk membuat ALB mengambil daftar tool terbaru.
Range alamat IP
Tipe grup server ini tidak mengharuskan Anda mendaftarkan server backend tertentu. Anda hanya mengonfigurasi range alamat IP tujuan dan range port yang diizinkan. ALB mengekstrak alamat tujuan dari konten permintaan, memverifikasi apakah berada dalam range yang diizinkan, lalu meneruskan permintaan. Untuk tutorial lengkap, lihat Gunakan ALB Extensible Edition untuk menerapkan penerusan dinamis.
Hanya instans ALB Extensible Edition yang mendukung grup server tipe range alamat IP, dan ekstensi layanan yang mencakup komponen penerusan dinamis diperlukan.
Batasan
Kebijakan deny-default digunakan. Permintaan hanya diteruskan jika alamat tujuannya cocok dengan range alamat IP dan range port suatu entri. Permintaan yang tidak cocok mengembalikan
403.Range alamat IP mendukung format CIDR untuk IPv4 dan IPv6. Untuk menentukan alamat tunggal, gunakan mask
/32untuk IPv4 dan mask/128untuk IPv6.Blok CIDR yang dicadangkan seperti
22.0.0.0/8,33.0.0.0/8,100.0.0.0/8, dan127.0.0.0/8tidak didukung.Range port mendukung port tunggal atau range berkelanjutan, seperti
80atau8080-8090. Nilai valid:1 hingga 65535. Port awal tidak boleh lebih besar dari port akhir.Secara default, grup server tipe range alamat IP mendukung hingga 200 entri range alamat IP.
Entri range alamat IP tidak mendukung konfigurasi bobot.
Buka halaman Server Groups di Konsol ALB. Temukan grup server target dan klik Modify Backend Server di kolom Actions.
Di tab Backend Servers, klik Add IP Address Segment. Konfigurasikan parameter berikut dan klik OK.
IP Address Range: Masukkan range alamat IP tujuan yang diizinkan, seperti
192.168.1.0/24.Port Range: Masukkan range port tujuan yang diizinkan untuk range alamat ini, seperti
6000-6010.
Hapus server backend
Server yang dihapus tidak lagi menangani permintaan yang diteruskan.
Menghapus server secara langsung dapat menyebabkan gangguan layanan. Kami menyarankan agar Anda mengatur bobot server ke 0 sebelum menghapusnya.
Buka halaman Server Groups di Konsol ALB. Temukan grup server target dan klik Modify Backend Server di kolom Actions.
Di tab Backend Servers, temukan server backend yang ingin Anda hapus. Di kolom Actions, klik Remove lalu klik OK.
API
Panggil operasi AddServersToServerGroup untuk menambahkan server backend ke grup server.
Panggil operasi RemoveServersFromServerGroup untuk menghapus server backend dari grup server.
Persistensi sesi
Aktifkan persistensi sesi jika beberapa permintaan dari klien yang sama harus ditangani oleh server backend yang sama, seperti untuk skenario keranjang belanja atau status login.
Session Persistence: Dinonaktifkan secara default. Saat diaktifkan, ALB mengarahkan permintaan dari klien yang sama ke server backend yang sama.
Anda tidak perlu mengonfigurasi parameter ini untuk grup server Function Compute.
Hanya didukung untuk grup server tipe Server dan IP. Instans ALB Extensible Edition tidak didukung.
Persistensi sesi tidak didukung saat load balancing cross-zone dinonaktifkan.
Konsol
Saat membuat atau mengedit grup server, aktifkan session persistence dan pilih metode penanganan cookie:
Cookie Option:
Insert Cookie: ALB menghasilkan cookie bernama SERVERID dan menambahkannya ke respons. Permintaan yang berisi cookie ini diteruskan ke server backend yang sama. Session Persistence Timeout Period berkisar antara 1 hingga 86.400 detik.
Rewrite Cookie: ALB menulis ulang nilai cookie yang ditentukan pengguna. Anda harus menentukan nama Cookie.
API
Saat memanggil CreateServerGroup atau UpdateServerGroupAttribute, gunakan StickySessionConfig untuk mengonfigurasi persistensi sesi.
Untuk informasi selengkapnya, lihat Konfigurasi persistensi sesi.
Startup dan shutdown server yang mulus
Mulai lambat
Server backend yang baru ditambahkan mungkin tidak dapat langsung menangani beban traffic penuh karena faktor seperti cache yang belum di-warm atau kolam koneksi yang belum terbentuk. Dengan mengaktifkan mulai lambat, instans ALB secara bertahap meningkatkan jumlah permintaan yang dikirim ke server baru selama periode tertentu. Hal ini mencegah lonjakan traffic membebani server yang belum siap sepenuhnya.
Fitur ini hanya didukung saat algoritma penjadwalan diatur ke weighted round-robin.
Hanya instans ALB Standard dan yang diaktifkan WAF yang didukung. Instans ALB Basic dan Extensible Edition tidak didukung.
Anda tidak perlu mengonfigurasi parameter ini untuk grup server tipe Function Compute.
Konsol
Saat membuat atau mengedit grup server, aktifkan Slow Start. Atur Slow Start Duration ke nilai antara 30 hingga 900 detik. Nilai default adalah 30 detik. Distribusi traffic normal dilanjutkan setelah durasi berakhir.
API
Saat memanggil CreateServerGroup atau UpdateServerGroupAttribute, gunakan parameter SlowStartConfig untuk mengonfigurasi mulai lambat.
Cara kerja mulai lambat:
Server backend sehat yang sudah ada dalam grup server tidak secara otomatis memasuki mode mulai lambat. Server backend pertama yang ditambahkan ke grup server kosong juga tidak memasuki mode mulai lambat. Server backend baru memasuki mode mulai lambat hanya ketika ditambahkan ke grup server yang memiliki setidaknya satu server backend sehat yang tidak dalam mode mulai lambat.
Jika server backend dalam mode mulai lambat dihapus, server tersebut keluar dari mode mulai lambat. Jika server backend yang sama ditambahkan kembali, server tersebut memasuki kembali mode mulai lambat setelah lulus pemeriksaan kesehatan.
Server backend dalam mode mulai lambat keluar dari mode tersebut jika pemeriksaan kesehatannya gagal. Server tersebut memasuki kembali mode mulai lambat setelah status pemeriksaan kesehatannya kembali normal.
Saat pemeriksaan kesehatan diaktifkan, mulai lambat berlaku setelah server backend lulus pemeriksaan kesehatan. Saat pemeriksaan kesehatan dinonaktifkan, mulai lambat berlaku segera.
Untuk informasi selengkapnya, lihat Konfigurasi mulai lambat.
Pengurasan koneksi
Saat server backend dihapus atau gagal dalam pemeriksaan kesehatan, koneksi yang ada secara default hanya dihentikan ketika klien secara aktif memutuskan koneksi atau sesi berakhir. Pengurasan koneksi memungkinkan koneksi tersebut menyelesaikan pemrosesan dalam batas waktu tertentu sebelum dihentikan, memastikan shutdown yang mulus.
Fitur ini hanya didukung oleh instans ALB Edisi Standar dan yang berkemampuan WAF. Instans ALB Edisi Basic dan Extensible tidak mendukung fitur ini.
Anda tidak perlu mengonfigurasi parameter ini untuk grup server Function Compute.
Konsol
Saat membuat atau mengedit grup server, aktifkan Connection Draining dan atur Timeout Period. Periode timeout dapat berkisar antara 0 hingga 900 detik. Nilai 0 berarti koneksi segera terputus. Nilai default adalah 300 detik.
API
Saat memanggil CreateServerGroup atau UpdateServerGroupAttribute, gunakan ConnectionDrainConfig untuk mengonfigurasi pengurasan koneksi.
Untuk informasi selengkapnya, lihat Konfigurasi pengurasan koneksi.
Kurangi latensi cross-zone
Secara default, instans ALB mendistribusikan traffic ke server backend di berbagai zona ketersediaan dalam wilayah yang sama. Jika bisnis Anda sensitif terhadap latensi dan memiliki sumber daya server backend yang cukup di setiap zona ketersediaan, Anda dapat menonaktifkan load balancing cross-zone. Hal ini memastikan traffic hanya didistribusikan di antara server backend dalam zona ketersediaan yang sama, sehingga mengurangi latensi jaringan cross-zone.
Anda dapat menonaktifkan fitur ini hanya untuk instans ALB Edisi Standar dan yang diaktifkan WAF. Instans ALB Edisi Basic dan Extensible tidak mendukung fitur ini.
Untuk grup server tipe IP dengan remote IP diaktifkan, Anda tidak dapat menonaktifkan load balancing cross-zone.
Persistensi sesi tidak didukung saat load balancing cross-zone dinonaktifkan.
Anda tidak perlu mengonfigurasi parameter ini untuk grup server tipe Function Compute.
Konsol
Saat membuat atau mengedit grup server, matikan Cross-zone Load Balancing.
API
Saat memanggil CreateServerGroup atau UpdateServerGroupAttribute, atur CrossZoneEnabled ke false untuk menonaktifkan load balancing cross-zone (nilai default adalah true).
Untuk informasi selengkapnya, lihat Nonaktifkan load balancing cross-zone.
Tambahkan server backend IPv6
Jika Anda perlu menambahkan server backend IPv6 ke grup server, atur IP Protocol Version ke IPv4/IPv6 Dual Stack.
Fitur ini hanya didukung untuk grup server tipe Server dan IP Address. Instans ALB Extensible Edition tidak didukung.
VPC tempat grup server berada harus telah mengaktifkan IPv6.
Anda hanya dapat menambahkan grup server dengan IP Protocol Version IPv4/IPv6 Dual Stack ke aturan pengalihan instans ALB dual-stack.
Untuk grup server tipe IP, instans ALB harus merupakan instans yang ditingkatkan. Dalam konfigurasi ini, hanya alamat IPv6 dari VPC saat ini yang didukung, dan Anda tidak dapat mengaktifkan remote IP.
Konsol
Saat membuat grup server, atur IP Protocol Version ke IPv4/IPv6 Dual Stack.
API
Saat memanggil operasi CreateServerGroup, atur Ipv6Enabled ke true. Ini setara dengan mengatur IP Protocol Version ke IPv4/IPv6 Dual Stack.
Edit pengaturan pemeriksaan kesehatan
Modifikasi konfigurasi pemeriksaan kesehatan grup server.
Jika Anda menonaktifkan pemeriksaan kesehatan, ALB tidak dapat mendeteksi kegagalan server backend dan tidak akan secara otomatis mengarahkan traffic ke server yang sehat.
Interval pemeriksaan kesehatan yang lebih lama meningkatkan waktu yang dibutuhkan ALB untuk mendeteksi server yang gagal.
Konsol
Buka halaman Server Groups di Konsol ALB. Temukan grup server target dan klik Modify Health Check di kolom Actions.
Di kotak dialog Modify Health Check, aktifkan atau nonaktifkan pemeriksaan kesehatan sesuai kebutuhan. Jika diaktifkan, klik Modify di sebelah kanan Health Check Settings untuk mengubah parameter.
API
Panggil operasi UpdateServerGroupAttribute untuk memperbarui konfigurasi pemeriksaan kesehatan grup server.
Penagihan
Grup server tidak dikenai biaya. Namun, Anda dikenai biaya untuk instans ALB dan server backend yang ditambahkan ke grup server berdasarkan aturan penagihan masing-masing.
Kuota
Nama kuota | Deskripsi | Nilai default | Nilai maksimum | Dapat disesuaikan |
alb_quota_loadbalancer_servers_num_basic_edition | Jumlah server backend yang dapat ditambahkan ke instans ALB Edisi Dasar | 200 | 400 | |
alb_quota_loadbalancer_servers_num_standard_edition | Jumlah server backend yang dapat ditambahkan ke instance ALB Standar | 1.000 | 1.500 | |
alb_quota_loadbalancer_servers_num_standardwithwaf_edition | Jumlah server backend yang dapat ditambahkan ke instans ALB yang diaktifkan WAF | 1.000 | 1.500 | |
alb_quota_server_added_num | Jumlah grup server tempat server backend (berdasarkan alamat IP) dapat ditambahkan | 200 | 300 | |
alb_quota_servergroup_attached_num | Jumlah aturan pengalihan tempat grup server dapat diasosiasikan | 50 | 100 | |
alb_quota_server_groups_weight | Bobot maksimum grup server tunggal dalam aturan pengalihan | 100 | 10.000 | Hubungi manajer akun Anda |
alb_quota_loadbalancer_servers_num_extensible_edition | Jumlah server backend yang dapat ditambahkan ke instans ALB Extensible Edition | 1.000 | - | - |
alb_quota_fqdn_servergroup_servers_num | Jumlah server backend yang dapat ditambahkan ke grup server tipe DNS | 10 | - | - |
alb_quota_dns_servers_num | Jumlah alamat server DNS yang dapat dikonfigurasi untuk grup server | 5 | - | - |