Untuk memenuhi kebutuhan ingress terpadu bagi aplikasi tradisional maupun AI, Alibaba Cloud menawarkan ALB Extensible Edition. Dibangun di atas Service Extensions yang fleksibel, edisi ini menyediakan fitur manajemen traffic inti seperti autentikasi identitas, routing berbasis konten, dan penerusan dinamis. Edisi ini juga menghadirkan fitur AI-native, termasuk proxy multi-model, proxy MCP, routing sadar beban, dan pembatasan laju berbasis token, sehingga menciptakan gateway traffic yang terintegrasi dan cerdas untuk aplikasi AI maupun tradisional.
Proxy MCP merupakan fitur daftar putih. Untuk menggunakannya, hubungi manajer bisnis Anda.
Manfaat
Elastisitas lapisan aplikasi: ALB Extensible Edition beroperasi pada lapisan aplikasi, menyediakan nama domain dan VIP dengan distribusi multi-level untuk menangani permintaan dalam skala besar. Fitur ini mendukung penskalaan kemampuan layanan aplikasi melalui distribusi traffic, menghilangkan titik kegagalan tunggal, serta meningkatkan ketersediaan sistem. Selain itu, Anda dapat menyesuaikan kombinasi zona ketersediaan dan melakukan penskalaan elastis lintas zona untuk menghindari kemacetan resource di satu zona ketersediaan.
Routing berbasis konten tingkat lanjut: ALB Extensible Edition mengidentifikasi traffic bisnis tertentu berdasarkan berbagai kondisi seperti path, HTTP header, lalu meneruskannya ke server backend yang berbeda. Fitur ini juga mendukung aksi advanced seperti redirect, rewrite, dan HTTP header kustom.
Penerusan dinamis: ALB Edisi Extensible mendukung penerusan dinamis yang mengekstrak alamat tujuan dari permintaan secara real-time dan meneruskan Trafik secara langsung tanpa memerlukan Backend yang telah didaftarkan sebelumnya. Fitur ini sesuai untuk skenario dengan alamat backend yang berubah secara dinamis, seperti penjadwalan AI Agent Sandbox dan gerbang masuk dengan banyak Backend dinamis. Selain itu, fitur ini menggunakan kelompok server berbasis rentang alamat IP untuk membatasi cakupan tujuan dan mencegah Trafik diteruskan ke Backend yang tidak sah.
Kesadaran konten lapisan aplikasi: ALB Extensible Edition mendukung penguraian mendalam dan dapat merutekan traffic secara dinamis ke layanan backend yang berbeda berdasarkan konten badan permintaan. Fitur ini menyediakan kemampuan proxy "L7+" di atas Proxy lapisan 7 asli, sehingga dapat diterapkan secara luas pada skenario aplikasi AI.
Service Extensions yang fleksibel: ALB Extensible Edition mendukung Service Extensions yang memungkinkan penggunaan plugin dan panggilan layanan eksternal untuk memenuhi kebutuhan bisnis kustom dalam skenario seperti aplikasi AI.
Keamanan dan keandalan: ALB Extensible Edition secara native mendukung fitur keamanan seperti Credential Management, perlindungan DDoS bawaan, dan integrasi dengan WAF. Fitur ini juga menyediakan enkripsi HTTPS end-to-end, mendukung kebijakan keamanan TLS dan protokol enkripsi seperti TLS 1.3, serta cocok untuk layanan yang sensitif terhadap enkripsi guna memenuhi persyaratan arsitektur keamanan Zero Trust.
Streaming SSE: ALB Extensible Edition mendukung streaming SSE. Dalam aplikasi AI model bahasa besar (LLM), Anda dapat menggunakan SSE untuk mengembalikan hasil inferensi secara real-time guna meningkatkan pengalaman pengguna.
Penagihan fleksibel: ALB Extensible Edition menyediakan kemampuan jaringan publik melalui EIP dan Internet Shared Bandwidth, memungkinkan penagihan yang fleksibel untuk penggunaan jaringan publik. Fitur ini juga menggunakan model harga berdasarkan Load Balancer Capacity Units (LCU) yang ideal untuk beban kerja dengan puncak traffic berfluktuasi.
Kasus penggunaan
Gateway traffic aplikasi: Cocok untuk aplikasi web tradisional dan AI, menyediakan fitur seperti distribusi traffic, autentikasi, dan pembatasan laju.
Beban kerja untuk aplikasi tradisional dan AI: Menggunakan routing sadar model untuk mengarahkan traffic berdasarkan kebutuhan model tertentu, meningkatkan pemanfaatan GPU, dan memberikan inferensi latensi rendah.
Proxy multi-model dan MCP terpadu: Mendukung proxy multi-model, adaptasi dan konversi model, failover dinamis, serta penjadwalan traffic cerdas. Fitur ini juga berfungsi sebagai proxy MCP untuk menyediakan server MCP dengan manajemen terpadu, konversi protokol, dan autentikasi detail halus, membangun infrastruktur AI yang aman, elastis, dan sangat andal.
Penerapan ketersediaan tinggi untuk aplikasi hybrid dan multi-cloud: Menyederhanakan koneksi hybrid dan memastikan keamanan. Sebagai inti jaringan lintas cloud, fitur ini memberikan pengiriman aplikasi berkinerja tinggi dan keamanan untuk pusat data, kantor cabang, serta resource multi-cloud.
Gateway Ingress kontainer: Merutekan permintaan HTTP(S) eksternal ke layanan kontainer dalam kluster. Mendukung penyebaran biru-hijau, Pengujian A/B, terminasi TLS, dan routing berbasis konten.
Pengiriman aplikasi aman berkinerja tinggi: Menyediakan auto-scaling, load balancing berkinerja tinggi, serta terintegrasi dengan produk keamanan seperti WAF, perlindungan DDoS, dan Cloud Firewall untuk melindungi pengiriman aplikasi.
Metrik performa instans
Instans ALB mengalokasikan tiga alamat IP dari setiap vSwitch yang ditentukan: satu VIP untuk layanan yang menghadap client dan dua alamat IP lokal untuk komunikasi backend serta pemeriksaan kesehatan.
Untuk memastikan semua kemampuan elastis ALB tersedia, sebaiknya cadangkan setidaknya delapan alamat IP di setiap vSwitch tempat Anda menerapkan instans ALB.
Metrik performa | Performa auto-scaled maksimum |
Permintaan per detik (QPS) maksimum | 500.000 |
Koneksi baru per detik (CPS) maksimum | 200.000 |
Koneksi bersamaan maksimum | 5.000.000 |
Bandwidth pribadi maksimum | 25 Gbps |
Bandwidth publik default untuk instans ALB zona ganda adalah 400 Mbps. Bandwidth publik aktual ditentukan oleh total bandwidth semua EIP yang terkait dengan instans tersebut.
Dalam satu Wilayah, total bandwidth puncak dari semua EIP bayar-berdasarkan-transfer-data di bawah satu Akun Alibaba Cloud tidak boleh melebihi 5 Gbit/s. Untuk informasi selengkapnya, lihat bagian batas bandwidth di Pay-as-you-go.
Jika memerlukan bandwidth lebih besar, beli Internet Shared Bandwidth. Untuk informasi selengkapnya, lihat Membuat dan mengelola Paket Bandwidth.
Komponen
Konsep | Deskripsi |
Instances | Instans menyediakan Load balancing lapisan 7 dengan mendistribusikan traffic ke server backend yang berbeda untuk menskalakan throughput layanan sistem aplikasi Anda. Satu instans dapat menangani hingga 1.000.000 QPS. |
Listener | Pendengar adalah unit layanan terkecil dari instans ALB. Anda harus mengonfigurasikan protokol dan port untuk pendengar guna menentukan jenis traffic yang diproses oleh instans ALB, seperti traffic HTTP pada port 80. Setiap instans ALB harus memiliki setidaknya satu pendengar untuk memproses dan meneruskan traffic. Secara default, Anda dapat menambahkan hingga 50 pendengar ke setiap instans ALB untuk menangani traffic bisnis yang berbeda. |
Forwarding Rules | Aturan pengalihan menentukan bagaimana instans ALB merutekan permintaan ke server backend dalam satu atau beberapa grup server. ALB Extensible Edition mendukung berbagai aturan routing berdasarkan kondisi seperti nama domain, path, dan HTTP header. Saat dikaitkan dengan Service Extensions, fitur ini mendukung penguraian mendalam terhadap badan permintaan untuk memungkinkan penjadwalan sadar konten lapisan aplikasi. |
Service Extensions | Service Extensions ALB memungkinkan Anda menyuntikkan logika kustom ke dalam jalur penerusan data. Menggunakan mekanisme plugin dan panggilan layanan eksternal (Callouts), Anda dapat menjalankan logika bisnis seperti routing dinamis, autentikasi dan otorisasi, penulisan ulang konten, dan kesadaran konteks AI pada node kunci pemrosesan permintaan. ALB Extensible Edition menyediakan pustaka komponen bawaan yang mencakup skenario umum, sehingga menghilangkan kebutuhan untuk memodifikasi kode aplikasi atau menerapkan lapisan proxy tambahan. |
Server Groups | Grup server adalah grup logis yang berisi beberapa server backend untuk memproses permintaan yang didistribusikan oleh instans ALB. Di ALB, grup server bersifat independen dari instans ALB, dan Anda dapat menyambungkan grup server yang sama ke instans ALB yang berbeda. Grup server ALB Extensible Edition mendukung tipe backend server (ECS, ECI, dan antarmuka jaringan elastis), IP, Function Compute, nama domain DNS, layanan AI, layanan MCP, dan rentang alamat IP. |
Health Check | ALB menggunakan pemeriksaan kesehatan untuk menentukan ketersediaan layanan server backend. ALB mendeteksi server yang tidak sehat dalam grup server dan menghindari pendistribusian traffic ke server tersebut. ALB mendukung berbagai konfigurasi pemeriksaan kesehatan, seperti protokol, port, dan berbagai ambang batas pemeriksaan kesehatan. ALB juga menyediakan templat pemeriksaan kesehatan yang dapat diterapkan dengan cepat ke grup server yang berbeda. |
Credential Management | Fitur Credential Management dari ALB Extensible Edition mendukung pembuatan dan pengelolaan terpusat untuk kredensial identitas outbound, yang dienkripsi dan disimpan menggunakan KMS. Saat menambahkan layanan backend, Anda dapat mereferensikan kredensial yang dibuat secara langsung. ALB secara otomatis menyertakan kredensial ini saat meneruskan permintaan untuk menyelesaikan autentikasi identitas. |
Tipe instans
Alibaba Cloud menyediakan instans ALB yang menghadap Internet dan akses internal. Anda dapat mengonfigurasikan instans ALB yang menghadap Internet atau akses internal sesuai skenario bisnis Anda. Sistem akan menentukan apakah akan menggunakan Internet Shared Bandwidth dan EIP berdasarkan pilihan Anda.
Konsep | Deskripsi |
VIP (alamat IP virtual) | Alamat IP pribadi dalam Virtual Private Cloud (VPC) yang digunakan ALB untuk mendistribusikan traffic. |
EIP | EIP hanya diperlukan saat Anda membuat instans ALB yang menghadap Internet. Anda tidak perlu mengonfigurasi EIP saat membuat instans ALB akses internal. EIP adalah alamat IP yang digunakan instans ALB untuk menyediakan layanan melalui internet. Instans ALB yang menghadap Internet dapat memiliki beberapa EIP. Untuk ketersediaan tinggi, instans ALB yang menghadap Internet harus memiliki setidaknya dua EIP di zona ketersediaan yang berbeda. |
Internet Shared Bandwidth | Internet Shared Bandwidth menyediakan pembagian dan penggunaan kembali bandwidth tingkat wilayah. Anda dapat menambahkan EIP di wilayah yang sama ke instans Internet Shared Bandwidth untuk menggunakan kembali bandwidth dan mengurangi biaya bandwidth publik. |
Zone Name | Nama domain yang dapat diuraikan melalui internet atau jaringan pribadi ke EIP atau VIP dari instans ALB. Petakan nama domain Anda ke nama domain instans ALB dengan menambahkan Rekaman CNAME. Untuk informasi selengkapnya, lihat Mengonfigurasi rekaman CNAME untuk instans ALB. |
Mengaktifkan ALB Extensible Edition
Ajukan akses: Kirimkan permintaan Hak istimewa ALB Extensible Edition. Layanan akan tersedia setelah permohonan Anda disetujui.
Mulai menggunakan: Masuk ke Konsol Application Load Balancer untuk membuat dan mengonfigurasikan instans ALB Extensible Edition.
ALB Extensible Edition sedang dalam pratinjau publik. Untuk mempelajari lebih lanjut dan mengajukan akses, lihat pengumuman tersebut.
Catatan penggunaan
Instans ALB Extensible Edition tidak mendukung akses client dari rentang alamat IP 33.0.0.0/8 dan 22.0.0.0/16.