All Products
Search

This Product

    API Gateway:Buat layanan

    Document Center

    API Gateway:Buat layanan

    Last Updated:Jun 22, 2026

    Anda harus menambahkan layanan yang sudah ada ke AI Gateway untuk mendaftarkannya sebagai titik akhir backend yang dapat dirutekan, sehingga gateway dapat menemukan alamat layanan tersebut. AI Gateway mendukung penambahan layanan seperti container services, alamat tetap, nama domain DNS, dan Function Compute (FC).

    Prosedur

    AI Gateway secara dinamis mendeteksi perubahan pada resource backend, memungkinkan pengelolaan terpadu atas perutean traffic, governance, dan keamanan. AI Gateway mendukung pembuatan layanan AI, layanan agen, nama domain DNS, alamat tetap, container services, layanan Kubernetes SAE, Function Compute (FC), dan layanan MSE Nacos.

    Layanan AI

    1. Masuk ke Konsol AI Gateway. Pada halaman daftar gateway, pilih wilayah tempat instans Anda berada, lalu klik ID instans tersebut. Di panel navigasi sebelah kiri, klik Service, kemudian klik Create Service.

    2. Pada panel Create Service, konfigurasikan parameter berikut:

      • Service Source: Pilih AI Services.

      • Service Name: Masukkan nama kustom untuk layanan tersebut.

      • Large Model Supplier: Pilih penyedia. Penyedia yang didukung meliputi Alibaba Cloud Model Studio, PAI-EAS, DeepSeek, Compatibility with OpenAI, OpenAI, Azure, Gemini, Bedrock, Claude, Dark side of the Moon, Baichuan Intelligence, Zero One Everything, Intelligent Spectrum AI, Mixed Element, Step Star, Spark, Doubao, dan MiniMax.

        Penting

        Kemampuan model besar yang ditawarkan melalui layanan AI ini tidak disediakan langsung oleh AI Gateway. Sebelum menggunakan layanan ini, Anda bertanggung jawab untuk mengevaluasi kesesuaian dan keandalannya. Pastikan penggunaan layanan Anda mematuhi semua hukum, peraturan, dan ketentuan penggunaan produk yang berlaku. Kami tidak bertanggung jawab atas konsekuensi apa pun yang timbul akibat ketidakpatuhan.

      • Model Protocol: Pilih protokol untuk berkomunikasi dengan layanan. Protokol yang didukung adalah OpenAI/v1 dan native protocol. Setelah Anda memilih penyedia, sistem akan mengisi nilai default yang dapat Anda ubah sesuai kebutuhan.

        • OpenAI/v1: Menggunakan protokol kompatibel OpenAI, cocok untuk sebagian besar penyedia.

        • Native protocol: Menggunakan protokol API native penyedia. Saat Anda memilih opsi ini, alamat layanan akan otomatis diperbarui ke titik akhir protokol native yang sesuai (misalnya, https://dashscope.aliyuncs.com untuk Alibaba Cloud Model Studio).

        Catatan

        Saat Endpoint Mode untuk Bedrock diatur ke Mantle, hanya protokol kompatibel Anthropic (/v1/messages) yang didukung. Protokol OpenAI/v1 tidak didukung, dan fitur Prompt Caching tidak dapat diaktifkan.

      • Service Endpoint: URL dasar layanan model besar. Setelah Anda memilih penyedia, sistem akan otomatis mengisi alamat layanan yang sesuai. Anda juga dapat mengubahnya secara manual jika diperlukan.

        Format alamat layanan untuk penyedia Azure adalah: https://{endpoint}/openai/deployments/{deployment-id}/chat/completions?api-version={api-version}
        Format alamat layanan untuk layanan OpenAI Compatible adalah: http://{endpoint}/v1

        Tabel berikut menyediakan contoh konfigurasi untuk setiap penyedia.

        Penyedia

        Alamat layanan

        Model yang tersedia

        Konfigurasi

        Alibaba Cloud Model Studio

        https://dashscope-intl.aliyuncs.com/compatible-mode/v1

        qwen-max, qwen-plus, qwen-turbo, qwen-long, qwen-vl-max, qwen-vl-plus, qwen-vl-ocr, deepseek-r1, deepseek-v3

        Pilih Region. Anda dapat beralih antara beberapa wilayah.

        Bedrock

        https://bedrock-runtime.{awsRegion}.amazonaws.com

        Tidak ada preset (masukkan nama model secara manual)

        Konfigurasikan awsRegion, Endpoint Mode (Runtime atau Mantle), dan metode autentikasi (API key atau AK/SK). Mode Mantle hanya mendukung protokol kompatibel Anthropic.

        Vertex AI

        Ditentukan pengguna

        Tidak ada preset

        Konfigurasikan Authentication Method (GCP Service Account atau Vertex AI Express Mode). Dalam mode GCP, masukkan Kunci Akun Layanan GCP dalam format JSON. vertexProjectId akan diurai secara otomatis.

        Azure

        https://{endpoint}?api-version={api-version}

        gpt-3, gpt-35-turbo, gpt-4, gpt-4o, gpt-4o-mini

        Endpoint adalah alamat titik akses untuk resource Azure OpenAI Anda.

        OpenAI

        https://api.openai.com/v1

        gpt-3, gpt-35-turbo, gpt-4, gpt-4o, gpt-4o-mini

        —

        OpenAI Compatible

        http://{endpoint}/v1

        Tidak ada preset (masukkan nama model secara manual)

        Hanya mendukung layanan AI yang mematuhi standar API OpenAI.

        DeepSeek

        https://api.deepseek.com/v1

        deepseek-chat, deepseek-reasoner

        —

        Doubao

        https://ark.cn-beijing.volces.com/api/v3

        doubao-seed-1-6-250615, doubao-seed-1-6-flash-250715, doubao-seed-1-6-thinking-250715, doubao-1-5-thinking-vision-pro-250428

        —

        Gemini

        https://generativelanguage.googleapis.com/v1beta/openai

        gemini-1.5-flash, gemini-1.5-pro

        —

        MiniMax

        https://api.minimaxi.com/v1

        abab6.5s, abab6.5g, abab6.5t, abab5.5s

        —

        Moonshot AI

        https://api.moonshot.cn/v1

        moonshot-v1-8k, moonshot-v1-32k, moonshot-v1-128k

        —

        Zhipu AI

        https://open.bigmodel.cn/api/paas/v4

        GLM-4-Plus, GLM-4-0520, GLM-4-Long, GLM-4-AirX, GLM-4-Air, GLM-4-FlashX, GLM-4-Flash, GLM-4-AllTools, GLM-4

        —

        PAI-EAS

        Otomatis diambil setelah Anda memilih Workspace dan EAS Service.

        Tidak ada preset (diambil secara dinamis)

        Anda harus memilih Workspace, EAS Service, dan Connection Type (jaringan privat atau publik). Kunci API diperoleh secara otomatis dan tidak memerlukan konfigurasi manual.

        Claude

        https://api.anthropic.com

        claude-3-5-sonnet-latest, claude-3-5-haiku-latest, claude-3-opus-latest

        Anda dapat secara opsional mengaktifkan Use Claude Code OAuth Token untuk kompatibilitas dengan panggilan klien Claude Code.

        Baichuan

        https://api.baichuan-ai.com/v1

        Baichuan4-Turbo, Baichuan4-Air, Baichuan4, Baichuan3-Turbo, Baichuan3-Turbo-128k, Baichuan2-Turbo

        —

        Yi

        https://api.lingyiwanwu.com/v1

        yi-lightning, yi-large, yi-medium, yi-medium-200k, yi-spark, yi-large-rag, yi-large-fc, yi-large-turbo

        —

        Hunyuan

        https://hunyuan.tencentcloudapi.com

        hunyuan-turbo-latest, hunyuan-turbo, hunyuan-large, hunyuan-pro, hunyuan-standard-256K, hunyuan-standard, hunyuan-lite

        —

        StepFun

        https://api.stepfun.com

        step-1-8k, step-1-32k, step-1-128k, step-1-256k, step-2-16k, step-1-flash

        —

        Spark

        https://spark-api-open.xf-yun.com

        lite, generalv3, pro-128k, generalv3.5, max-32k, 4.0Ultra

        —

      • API key: Kredensial kunci API yang diperlukan untuk mengakses layanan model besar. Setelah Anda memilih Large Model Supplier, peroleh kuncinya sebagai berikut:

        • Alibaba Cloud Model Studio: Buka Konsol Alibaba Cloud Model Studio atau Konsol Alibaba Cloud Model Studio untuk mendapatkannya.

        • PAI-EAS: Kunci API diperoleh secara otomatis setelah Anda memilih Workspace dan EAS Service. Tidak diperlukan konfigurasi manual.

        • Bedrock: Jika Anda menggunakan mode kunci API, Anda dapat mereferensikan kunci KMS atau memasukkan kunci secara manual. Jika menggunakan mode AK/SK, Anda harus menyediakan awsAccessKey dan awsSecretKey.

        • Penyedia lain: Buka platform penyedia masing-masing untuk mendapatkan kunci API, atau hubungi penyedia layanan untuk bantuan.

    3. Setelah mengonfigurasi parameter, klik OK.

    Layanan agen

    1. Masuk ke Konsol AI Gateway. Pada halaman daftar gateway, pilih wilayah tempat instans Anda berada, lalu klik ID instans tersebut. Di panel navigasi sebelah kiri, klik Service, kemudian klik Create Service.

    2. Pada panel Create Service, konfigurasikan parameter berikut:

      • Service Source: Pilih Service Source.

      • Service Name: Masukkan nama kustom untuk layanan tersebut.

      • Service Provider: Pilih Alibaba Cloud Model Studio, Dify, atau Custom.

        Penting

        Kemampuan agen yang ditawarkan melalui layanan agen ini tidak disediakan langsung oleh AI Gateway. Sebelum menggunakan layanan ini, Anda bertanggung jawab untuk mengevaluasi kesesuaian dan keandalannya. Pastikan penggunaan layanan Anda mematuhi semua hukum, peraturan, dan ketentuan penggunaan produk yang berlaku. Kami tidak bertanggung jawab atas konsekuensi apa pun yang timbul akibat ketidakpatuhan.

        Alibaba Cloud Model Studio

        • API Endpoint: Masukkan alamat titik akhir layanan agen. Nilai default adalah https://dashscope.aliyuncs.com/api/v1.

        • APP ID dan API key: Anda dapat memperoleh ID aplikasi dan kunci API dari Konsol Alibaba Cloud Model Studio.

          Pada halaman Manajemen Kunci API, klik tab My untuk melihat daftar kunci API Anda. Klik Create My API-KEY di pojok kanan atas untuk membuat kunci API baru. Untuk melihat kunci lengkap, klik View di kolom Actions untuk kunci API yang sudah ada.

        Dify

        • API Endpoint: Masukkan alamat titik akhir layanan agen. Nilai default adalah https://api.dify.ai/v1.

        • Application Type: Pilih Agent atau Workflow.

          • Agent: Jenis aplikasi agen.

          • Workflow: Jenis aplikasi alur kerja.

        • API key: Peroleh kunci dari penyedia layanan.

        Custom

        • API Endpoint: Masukkan alamat titik akhir layanan agen.

        • API key: Peroleh kunci dari penyedia layanan.

    3. Setelah mengonfigurasi parameter, klik OK.

    Nama domain DNS

    Catatan

    AI Gateway dapat menggunakan hasil resolusi DNS sebagai alamat layanan backend.

    1. Masuk ke Konsol AI Gateway. Pada halaman daftar gateway, pilih wilayah tempat instans Anda berada, lalu klik ID instans tersebut. Di panel navigasi sebelah kiri, klik Service, kemudian klik Create Service.

    2. Pada panel Create Service, konfigurasikan parameter berikut:

      • Service Source: Pilih Domain Name.

      • Service Name: Masukkan nama kustom untuk layanan tersebut.

      • Service URL: Alamat node backend untuk layanan tersebut. Node backend berbeda-beda tergantung sumber layanan. Formatnya adalah <nama domain DNS>:<port layanan>. Anda dapat memasukkan beberapa alamat, dipisahkan dengan koma ,.

        Penting

        Jika Anda menentukan alamat IP publik, Anda harus mengonfigurasi Gateway NAT.

      • TLS Mode: Dinonaktifkan secara default.

        • Close: TLS tidak diperlukan untuk mengakses layanan.

        • One-way TLS: Aktifkan opsi ini untuk mengakses layanan melalui HTTPS.

        • mTLS: Aktifkan opsi ini untuk autentikasi TLS mutual.

    3. Setelah mengonfigurasi parameter, klik OK.

    Alamat tetap

    Catatan

    Jika suatu layanan tidak memiliki mekanisme discovery, Anda harus menambahkan alamat titik akhir backend secara manual.

    1. Masuk ke Konsol AI Gateway. Pada halaman daftar gateway, pilih wilayah tempat instans Anda berada, lalu klik ID instans tersebut. Di panel navigasi sebelah kiri, klik Service, kemudian klik Create Service.

    2. Pada panel Create Service, konfigurasikan parameter berikut:

      • Service Source: Pilih Fixed Address.

      • Service Name: Masukkan nama kustom untuk layanan tersebut.

      • Service URL: Alamat node backend layanan tersebut. Node backend bervariasi tergantung sumber layanan. Formatnya adalah <IP>:<Port Layanan>. Anda dapat memasukkan beberapa alamat, dipisahkan dengan koma ,.

        Penting

        Jika Anda menentukan alamat IP publik, Anda harus mengonfigurasi Gateway NAT.

      • TLS Mode: Dinonaktifkan secara default.

        • Close: TLS tidak diperlukan untuk mengakses layanan.

        • One-way TLS: Aktifkan opsi ini untuk mengakses layanan melalui HTTPS.

        • mTLS: Aktifkan opsi ini untuk autentikasi TLS mutual.

    3. Setelah mengonfigurasi parameter, klik OK.

    Container service

    Catatan

    Saat Anda menambahkan container service sebagai sumber layanan, gateway mengambil daftar layanan dan titik akhir backend dari kluster ACK atau ACK Serverless yang ditentukan.

    1. Masuk ke Konsol AI Gateway. Pilih wilayah tempat instans Anda berada, lalu klik ID instans tersebut. Di panel navigasi sebelah kiri, klik Service.

    2. Buat sumber

      1. Klik tab Source, lalu klik Create Source. Pada panel Create Source, konfigurasikan parameter berikut:

        • Source Type: Pilih ACK untuk menemukan layanan backend menggunakan server Kubernetes.

        • ACK/ACS/ACK Serverless cluster: Pilih kluster tempat layanan backend berada.

          Penting

          • Jika tidak ada kluster ACK, ACS, atau ACK Serverless di Virtual Private Cloud (VPC) saat ini, Anda harus terlebih dahulu membuat kluster ACK yang dikelola lalu memilih kluster tersebut.

          • Untuk menambahkan sumber layanan dari VPC lain, Anda harus membuat instans gateway di VPC tersebut sebelum dapat memilih kluster.

          • Satu instans gateway dapat dikaitkan dengan maksimal tiga layanan kontainer ACK.

          • AI Gateway hanya dapat menambahkan sumber Nacos atau ACK dari dalam VPC yang sama. Menambahkan sumber layanan lintas VPC tidak didukung.

      2. Setelah mengonfigurasi parameter, klik OK.

    3. Buat layanan

      1. Klik tab Service, lalu klik Create Source. Pada panel Create Source, konfigurasikan parameter berikut:

        • Service Source: Pilih ACK.

          Gateway mengambil daftar layanan dari kluster ACK atau kluster ACK Serverless dan menambahkan layanan beserta titik akhir backend-nya ke gateway.

        • Namespace: Pilih namespace kluster. Secara default, layanan di namespace arms-prom, kube-system, dan mse-pilot tidak ditampilkan.

        • Services: Pilih layanan dari daftar. Secara default, layanan dengan nama yang diawali consumers tidak ditampilkan.

      2. Setelah mengonfigurasi parameter, klik OK.

    SAE Kubernetes service

    Penting

    Saat Anda menambahkan layanan Kubernetes SAE sebagai sumber layanan, Anda harus mengaktifkan registrasi dan discovery layanan K8s untuk aplikasi SAE.

    1. Masuk ke Konsol AI Gateway. Pada halaman daftar gateway, pilih wilayah tempat instans Anda berada, lalu klik ID instans tersebut. Di panel navigasi sebelah kiri, klik Service, kemudian klik Create Service.

    2. Pada panel Create Service, konfigurasikan parameter berikut:

      • Service Source: SAE Kubernetes service. Aplikasi SAE harus memiliki akses layanan yang dikonfigurasi menggunakan K8s ServiceName.

      • Namespace: Pilih namespace kluster. Secara default, layanan di namespace arms-prom, kube-system, dan mse-pilot tidak ditampilkan.

      • Services: Pilih layanan dari daftar. Secara default, layanan dengan nama yang diawali consumers: tidak ditampilkan.

    3. Setelah mengonfigurasi parameter, klik OK.

    Function Compute (FC)

    Penting

    Hanya Function Compute 3.0 yang didukung. Sumber layanan dari Function Compute 2.0 tidak didukung.

    1. Masuk ke Konsol AI Gateway. Pada halaman daftar gateway, pilih wilayah tempat instans Anda berada, lalu klik ID instans tersebut. Di panel navigasi sebelah kiri, klik Service, kemudian klik Create Service.

    2. Pada panel Create Service, konfigurasikan parameter berikut:

      • Service Source: Function Compute.

      • Daftar fungsi: Pilih fungsi dari daftar.

      • Versi atau alias: Pilih versi atau alias fungsi.

    3. Setelah mengonfigurasi parameter, klik OK.

    MSE Nacos

    1. Masuk ke Konsol AI Gateway. Pilih wilayah tempat instans Anda berada, lalu klik ID instans tersebut. Di panel navigasi sebelah kiri, klik Service.

    2. Buat sumber

      1. Klik tab Source, lalu klik Create Source. Pada panel Create Source, konfigurasikan parameter berikut:

        • Source Type: Pilih MSE Nacos untuk menemukan layanan backend menggunakan registrasi layanan MSE Nacos.

        • Nacos cluster: Pilih kluster Nacos.

          Penting

          • Jika tidak ada kluster MSE Nacos di VPC saat ini, Anda harus terlebih dahulu membuat kluster MSE Nacos lalu memilihnya.

          • Untuk menambahkan sumber layanan dari VPC lain, Anda harus membuat instans gateway di VPC tersebut sebelum dapat memilih kluster Nacos.

          • Daftar kluster hanya menampilkan instans MSE Nacos yang memiliki pengaturan MCPEnabled = true. Anda dapat mengubah pengaturan ini di parameter MSE Nacos.

          • Satu instans gateway hanya dapat dikaitkan dengan satu kluster Nacos.

      2. Setelah mengonfigurasi parameter, klik OK.

    3. Buat layanan

      1. Klik tab Service, lalu klik Create Service. Pada panel Create Service, konfigurasikan parameter berikut:

        • Service Source: Pilih MSE Nacos.

          Gateway mengambil daftar layanan dari kluster Nacos dan menambahkan layanan beserta titik akhir backend-nya ke gateway.

        • Namespace: Pilih namespace. Secara default, layanan di namespace arms-prom, kube-system, dan mse-pilot tidak ditampilkan.

        • Services: Pilih layanan dari daftar. Secara default, layanan dengan nama yang diawali consumers: tidak ditampilkan.

      2. Setelah mengonfigurasi parameter, klik OK.