All Products
Search

This Product

    API Gateway:Daftar rute

    Document Center

    API Gateway:Daftar rute

    Last Updated:Jun 22, 2026

    Model API mendukung rute kustom untuk kontrol traffic detail halus berdasarkan karakteristik permintaan.

    Create a route

    1. Masuk ke Konsol AI Gateway dan pilih Instance. Di bilah menu atas, pilih wilayah, lalu klik ID instans target.

    2. Di panel navigasi sebelah kiri, pilih Model API, lalu klik nama API target untuk membuka halaman API Details.

    3. Klik tab Routes, lalu klik Create Route. Di panel Create Route, konfigurasikan parameter berikut:

      • Route Name: Nama kustom untuk rute tersebut.

      • Path: Jalur rute untuk Model API. Jalur yang didukung meliputi: /v1/chat/completions, /v1/completions, /v1/embeddings, dan /v1/fine-tuning.

      • More Match Rules: Konfigurasikan Method, Header, dan Query Parameters untuk membedakan beberapa rute yang menggunakan jalur yang sama.

      • Service Model: Dapat berupa Single-model Service atau Multiple services (by proportion).

        • Single-model Service: Men-deploy dan menjalankan satu model dalam satu instans layanan. Cocok untuk aplikasi yang fokus pada satu tugas atau model.

        • Multiple services (by proportion): Menjalankan beberapa model dalam satu instans layanan yang sama, dengan sumber daya dan permintaan dialokasikan berdasarkan rasio tertentu. Opsi ini ideal untuk aplikasi yang menangani beberapa tugas atau model secara bersamaan.

      • Services: Layanan backend tempat rute ini meneruskan permintaan.

      • Fallback: Jika diaktifkan, Anda dapat menambahkan fallback service. Layanan akan dicoba berdasarkan urutan prioritas dari yang tertinggi ke terendah.

        Catatan

        Anda dapat menggunakan satu layanan sebagai fallback untuk beberapa rute.

    4. Konfirmasi konfigurasi dan klik Add.

    Edit a route

    1. Masuk ke Konsol AI Gateway dan pilih Instance. Di bilah menu atas, pilih wilayah, lalu klik ID instans target.

    2. Di panel navigasi sebelah kiri, pilih Model API, lalu klik nama API target untuk membuka halaman API Details.

    3. Klik tab Routes, lalu pilih rute yang ingin diedit dari daftar rute.

    4. Klik Edit Route dan ubah parameter sesuai kebutuhan. Untuk detail parameter, lihat Create a route.

    5. Konfirmasi perubahan Anda dan klik OK.

    Publish a route

    1. Masuk ke Konsol AI Gateway dan pilih Instance. Di bilah menu atas, pilih wilayah, lalu klik ID instans target.

    2. Di panel navigasi sebelah kiri, pilih Model API, lalu klik nama API target untuk membuka halaman API Details.

    3. Klik tab Routes, lalu pilih rute yang ingin dipublikasikan dari daftar rute.

    4. Klik Publish Route, lalu klik OK di kotak dialog konfirmasi.

    Unpublish a route

    1. Masuk ke Konsol AI Gateway dan pilih Instance. Di bilah menu atas, pilih wilayah, lalu klik ID instans target.

    2. Di panel navigasi sebelah kiri, pilih Model API, lalu klik nama API target untuk membuka halaman API Details.

    3. Klik tab Routes, lalu pilih rute yang ingin dibatalkan publikasinya dari daftar rute.

    4. Klik More > Shutdown, lalu klik Shutdown di kotak dialog konfirmasi.

    Delete a route

    Catatan

    Anda hanya dapat menghapus rute yang belum dipublikasikan. Untuk menghapus rute yang telah dipublikasikan, Anda harus terlebih dahulu membatalkan publikasinya.

    1. Masuk ke Konsol AI Gateway dan pilih Instance. Di bilah menu atas, pilih wilayah, lalu klik ID instans target.

    2. Di panel navigasi sebelah kiri, pilih Model API, lalu klik nama API target untuk membuka halaman API Details.

    3. Klik tab Routes, lalu pilih rute yang ingin dihapus dari daftar rute.

    4. Klik More > Delete, lalu klik Delete di kotak dialog konfirmasi.