All Products
Search

This Product

    Platform For AI:Gunakan gateway khusus

    Document Center

    Platform For AI:Gunakan gateway khusus

    Last Updated:Jun 09, 2026

    Gateway khusus ALB menyediakan layanan EAS dengan sumber daya jaringan khusus, kontrol akses fleksibel, dan dukungan nama domain kustom.

    Penting

    Gunakan gateway khusus ALB di lingkungan produksi untuk performa, stabilitas, dan skalabilitas yang lebih baik. Jika Anda menggunakan gateway khusus yang dikelola sepenuhnya (gateway khusus EAS asli), lihat gateway khusus yang dikelola sepenuhnya.

    Penagihan

    Biaya berasal dari instans ALB terkait. Mengaktifkan akses jaringan pribadi dan publik masing-masing akan membuat satu instans ALB. Jika Anda mengaktifkan keduanya, dua instans akan dibuat, dan biayanya bersifat kumulatif. Aturan penagihan ALB.

    Perencanaan jaringan

    Rencanakan jaringan Anda sebelum konfigurasi untuk menghindari pekerjaan ulang dan biaya tambahan.

    Penting

    ALB jaringan publik, ALB jaringan pribadi, dan layanan EAS harus berada dalam VPC yang sama. VPC instans ALB tidak dapat diubah setelah dibuat. Jika Anda salah mengonfigurasi VPC, Anda harus menghapus dan membuat ulang instans tersebut.

    Sebelum memulai:

    • Identifikasi ID VPC dan zona yang akan digunakan.

    • Pastikan tersedia setidaknya dua vSwitch di zona berbeda dalam VPC tersebut.

    • Tentukan apakah akan mengaktifkan akses jaringan publik, akses jaringan pribadi, atau keduanya.

    Prosedur

    Langkah 1: Buat konfigurasi gateway

    Buat konfigurasi gateway logis. Langkah ini tidak membuat sumber daya cloud atau menimbulkan biaya.

    1. Masuk ke Konsol PAI. Pilih wilayah di bagian atas halaman. Lalu, pilih ruang kerja yang diinginkan dan klik Elastic Algorithm Service (EAS).

    2. Pada tab Inference Gateway, klik Create Dedicated Gateway dan pilih Application Load Balancer.

    3. Sistem akan memeriksa izin peran terkait layanan Anda. Jika diminta, ikuti instruksi di layar untuk memberikan izin yang diperlukan.

    4. Masukkan nama untuk gateway tersebut dan klik Submit.

    Catatan

    Anda dapat mengatur gateway khusus sebagai gateway default. Sistem kemudian akan secara otomatis memilihnya saat Anda menyebarkan layanan.

    Langkah 2: Aktifkan akses jaringan

    Aktifkan akses jaringan pribadi atau publik. Setiap jenis akses akan membuat instans ALB terpisah.

    Penting

    VPC harus sesuai dengan VPC yang Anda konfigurasikan untuk layanan. Jika Anda mengaktifkan kedua jenis akses, VPC untuk keduanya harus sama.

    1. Pada daftar di tab Inference Gateway, klik nama gateway ALB untuk membuka halaman detailnya.

    2. Pada bagian Gateway Access Control, aktifkan akses jaringan pribadi, akses jaringan publik, atau keduanya sesuai kebutuhan.

      Jaringan pribadi

      1. Pada tab VPC, klik Add VPC.

      2. Pada panel konfigurasi, pilih VPC dan vSwitch. VPC harus sesuai dengan VPC yang Anda konfigurasikan untuk layanan. Untuk ketersediaan tinggi, pilih vSwitch dari minimal dua zona. Anda hanya dapat memilih satu vSwitch per zona.

        Penting

        Jika akses jaringan publik sudah diaktifkan, VPC harus sesuai dengan yang digunakan untuk akses jaringan publik.

      3. Klik OK. Sistem mulai membuat instans ALB jaringan pribadi.

      4. Tunggu hingga instans ALB selesai dibuat dan statusnya menjadi "Running".

      Jaringan publik

      1. Beralih ke tab Internet dan klik Enable Public Network.

      2. Pada panel konfigurasi, pilih VPC dan vSwitch. VPC harus sesuai dengan VPC yang Anda konfigurasikan untuk layanan. Untuk ketersediaan tinggi, pilih vSwitch dari minimal dua zona. Anda hanya dapat memilih satu vSwitch per zona.

        Penting

        Jika akses jaringan pribadi sudah diaktifkan, VPC harus sesuai dengan yang digunakan untuk akses jaringan pribadi.

      3. Klik OK. Sistem mulai membuat instans ALB jaringan publik.

      4. Tunggu hingga instans ALB selesai dibuat dan statusnya menjadi "Running".

    Langkah 3: Sebarkan layanan dan bind gateway

    Contoh berikut menyebarkan layanan baru dengan Custom Deployment. Untuk mengubah gateway layanan yang sudah ada, perbarui konfigurasi layanan tersebut.

    1. Masuk ke Konsol PAI. Pilih wilayah di bagian atas halaman. Lalu, pilih ruang kerja yang diinginkan dan klik Elastic Algorithm Service (EAS).

    2. Pada tab Inference Service, klik Deploy Service. Pada bagian Custom Model Deployment, klik Custom Deployment.

    3. Pada bagian Network Information, pilih Dedicated Gateway, lalu pilih gateway yang telah Anda buat dari daftar drop-down.

    4. Konfigurasikan VPC untuk layanan tersebut.

      Penting

      VPC layanan harus sesuai dengan VPC gateway khusus.

    5. Lengkapi pengaturan lainnya dan klik Deploy.

    Langkah 4: Uji konektivitas dasar

    Setelah mengaktifkan akses jaringan, uji layanan untuk memverifikasi konfigurasi gateway.

    4.1 Dapatkan informasi pemanggilan

    1. Pada tab Inference Service, temukan layanan target dan klik Invocation Method pada kolom Service Type.

    2. Pada tab Dedicated Gateway, ambil titik akhir dan Token. Bergantung pada jenis akses jaringan yang diaktifkan, Anda dapat menemukan Internet Endpoint (jika akses jaringan publik diaktifkan), VPC Endpoint (jika akses jaringan pribadi diaktifkan), dan Token.

      image

    4.2 Uji pemanggilan layanan

    Uji layanan berdasarkan jenis akses yang diaktifkan.

    1. Uji pemanggilan publik (jika akses jaringan publik diaktifkan): Jalankan perintah berikut pada mesin apa pun yang memiliki akses Internet.

      curl <Public Endpoint> -H'Authorization:<Token>'

      Verifikasi bahwa responsnya benar. Gambar berikut menunjukkan pengujian permintaan GET tanpa parameter. Respons yang diharapkan adalah True.

      Public network invocation

    2. Uji pemanggilan pribadi (jika akses jaringan pribadi diaktifkan): Jalankan perintah berikut dari terminal dalam VPC.

      curl <VPC Endpoint> -H'Authorization:<Token>'

      Verifikasi bahwa data responsnya benar.

    4.3 Pemecahan masalah

    Jika pengujian gagal, periksa hal berikut:

    • Tidak dapat mengakses layanan atau koneksi timeout: Periksa apakah VPC layanan dan VPC gateway sama. Pastikan status instans ALB adalah "Running".

    • Otentikasi gagal: Periksa apakah Token benar. Pastikan header Authorization telah disertakan dengan benar dalam permintaan.

    • Jaringan tidak dapat dijangkau: Untuk akses jaringan pribadi, pastikan mesin pengujian berada dalam VPC yang benar. Untuk akses jaringan publik, pastikan mesin tersebut dapat mengakses jaringan publik.

    Langkah 5: (Opsional) Konfigurasi nama domain kustom

    Konfigurasikan nama domain kustom untuk gateway agar dapat mengakses layanan melalui domain Anda sendiri. Perubahan akan berlaku dalam waktu sekitar 5 menit.

    5.1 Siapkan sertifikat SSL

    Nama domain kustom publik memerlukan HTTPS. Nama domain kustom pribadi mendukung HTTP atau HTTPS. Untuk menggunakan HTTPS, Anda harus terlebih dahulu mendapatkan sertifikat SSL.

    1. Masuk ke Konsol Layanan Manajemen Sertifikat dan pilih SSL Certificate Management.

    2. Beli sertifikat SSL atau unggah sertifikat yang sudah ada.

    5.2 Konfigurasi nama domain kustom

    1. Pada halaman detail gateway khusus, beralih ke tab Domain Name dan klik Create Domain Name.

    2. Pada kotak dialog yang muncul, konfigurasikan informasi domain:

      • Access Method: Pilih VPC atau Internet.

      • Domain Name: Masukkan nama domain kustom.

      • Certificate: Akses Internet memerlukan HTTPS dengan sertifikat SSL. Akses VPC mendukung HTTP atau HTTPS (untuk HTTPS, pilih sertifikat SSL).

    3. Klik OK. Sistem mulai mengonfigurasi nama domain kustom.

    4. Konfigurasi resolusi DNS: Tambahkan rekaman CNAME untuk nama domain kustom dan arahkan ke nama domain gateway khusus.

      1. Pada halaman detail gateway, temukan nama domain publik atau pribadi gateway khusus.

      2. Tambahkan rekaman CNAME untuk nama domain kustom, dan atur nilai rekaman tersebut ke nama domain publik atau pribadi gateway.

      DNS Alibaba Cloud: Tambahkan rekaman DNS publik dan Resolusi nama domain pribadi.

    5. Verifikasi konfigurasi: Tunggu sekitar 5 menit, lalu periksa informasi pemanggilan layanan untuk memastikan titik akhir menampilkan nama domain kustom Anda. Uji layanan menggunakan nama domain kustom tersebut.

    Pemantauan dan alert

    Atur konfigurasi jaringan lanjutan dan pemantauan di Konsol ALB.

    Catatan penggunaan

    Dengan gateway khusus, Auto Scaling tidak mendukung penskalaan dari nol replika. Atur jumlah replika minimum minimal 1.

    Topik terkait