All Products
Search

This Product

    Container Service for Kubernetes:Ikhtisar Gateway API

    Document Center

    Container Service for Kubernetes:Ikhtisar Gateway API

    Last Updated:Oct 17, 2026

    Gateway API merupakan standar management traffic resmi dari komunitas Kubernetes. Standar ini mendukung management traffic utara-selatan berbasis Ingress dan management traffic timur-barat berbasis Service Mesh. Topik ini menjelaskan konsep inti serta membantu Anda memilih solusi management traffic utara-selatan yang tepat.

    Konsep inti

    Gateway API menggunakan desain berlapis berorientasi peran yang memisahkan penyediaan infrastruktur, operasi kluster, dan routing aplikasi. Standar ini mencakup jenis resource inti berikut:

    • GatewayClass (Lapisan infrastruktur): Serupa dengan IngressClass, komponen ini menentukan jenis gateway controller, seperti Application Load Balancer (ALB) atau Envoy Gateway, beserta konfigurasi umumnya.

    • Gateway (Lapisan O&M): Menentukan instans gateway spesifik serta mendeskripsikan aturan listener jaringan, seperti Port, protokol, dan konfigurasi TLS.

    • HTTPRoute / GRPCRoute, dan lainnya (Lapisan aplikasi): Menentukan aturan routing traffic spesifik, seperti pencocokan path, modifikasi Header, dan pembobotan traffic, lalu mengikatnya ke layanan Backend.

    • Policy (Lapisan kebijakan): Menentukan serangkaian konfigurasi atau perilaku spesifik, seperti Pemutusan sirkuit, Pembatasan laju, dan autentikasi Token Web JSON (JWT), yang dapat dikaitkan ke gateway, rute, atau layanan backend tertentu.

    Solusi Gateway API di ACK

    Dalam kluster ACK, pilih salah satu solusi Gateway API berikut sesuai kebutuhan bisnis Anda:

    Solusi

    Gateway with Inference Extension

    ALB (Application Load Balancer)

    Ikhtisar

    Gateway with Inference Extension adalah add-on yang dibangun di atas proyek open-source Envoy Gateway dan dioptimalkan untuk skenario cloud-native serta Inferensi AI. Add-on ini memantau resource Gateway API untuk membuat dan menghapus gateway secara dinamis, sekaligus mengelola traffic utara-selatan dalam kluster. Add-on yang tidak terkelola ini di-deploy pada node di kluster Anda. Anda bertanggung jawab penuh atas operasi dan maintenance-nya, serta tidak tercakup oleh SLA produk cloud.

    ALB Ingress Controller mendukung Gateway API mulai versi v2.17.0. Konfigurasikan resource seperti Gateway dan HTTPRoute untuk merutekan traffic Lapisan 7 eksternal ke beban kerja (Pod) yang dikelola oleh layanan dalam kluster, serta mengelola traffic utara-selatan kluster. ALB Ingress Controller memantau perubahan pada resource Gateway API dan mengubahnya secara real-time menjadi konfigurasi Pendengar, aturan routing, dan grup server untuk instans ALB yang mendasarinya.

    Skenario

    Skenario traffic umum dan inferensi AI

    Skenario traffic umum

    Keunggulan utama

    • Arsitektur standar Envoy open-source: Mengikuti versi upstream terbaru dari komunitas Envoy Gateway. Dibangun di atas proxy Envoy, memanfaatkan ekosistem yang matang dan performa tinggi untuk menangani traffic berskala besar.

    • Fitur management traffic yang luas: Mendukung multiple aturan Pembatasan laju dan Pemutusan sirkuit, kemampuan routing yang andal termasuk routing tingkat zona, serta fitur umum seperti injeksi fault, Pencerminan lalu lintas, kompresi, dan caching.

    • Ekstensi inferensi AI : Menyediakan load balancing yang sadar model untuk Layanan inferensi model besar. Mendukung kebijakan penjadwalan berbasis model seperti penjadwalan sadar LoRA/KV Cache, Jumlah Permintaan Menunggu, dan Prioritas Model, serta rilis canary untuk multiple versi model.

    • Ekstensibilitas fleksibel: Secara native mengintegrasikan metode ekstensi seperti EnvoyFilter, Lua, Wasm, dan ExtProc dengan Envoy Gateway untuk memenuhi kebutuhan management traffic khusus.

    • Terkelola penuh dan bebas maintenance: Menggunakan desain terkelola yang terintegrasi. Baik gateway maupun komponennya dikelola sepenuhnya, yang secara signifikan mengurangi kompleksitas dan biaya operasional.

    • Performa tinggi dan elastisitas instan: Dibangun di atas platform virtualisasi jaringan internal Alibaba Cloud, menyediakan throughput QPS tinggi dan penanganan koneksi bersamaan. Melakukan scaling secara otomatis berdasarkan beban lalu lintas untuk menangani puncak traffic.

    • Routing lapisan aplikasi yang andal: Dirancang khusus untuk beban kerja lapisan aplikasi dan terintegrasi mendalam dengan Container Service, mendukung berbagai macam aturan routing advanced.

    • Pembaruan konfigurasi hot dan tanpa interupsi: Mendukung pembaruan konfigurasi hot. Anda dapat menyesuaikan aturan pengalihan secara dinamis melalui OpenAPI. Perubahan berlaku secara real-time tanpa perlu memulai ulang instans, sehingga traffic layanan tidak terganggu.

    • Dukungan skenario yang luas: Cocok untuk koneksi persisten, koneksi konkurensi tinggi, QPS tinggi, puncak dan lembah traffic, skenario yang sangat bergantung pada pembaruan konfigurasi hot dan hot upgrade, serta disaster recovery zona redundansi aktif dan redundansi geo-aktif.

    Referensi

    Mengelola traffic umum menggunakan ALB