全部產品
Search
文件中心

API Gateway:通過AI 網關接入PAI部署模型

更新時間:Aug 26, 2025

本文主要介紹如何通過AI 網關訪問部署在人工智慧平台PAI 的模型。

前提條件

重要

當使用私網地址訪問模型時,請確保AI 網關執行個體與人工智慧平台PAI 部署的模型處於同一VPC。

操作步驟

步驟一:建立AI 服務

  1. 登入AI網關控制台

  2. 在左側導覽列,選擇執行個體,並在頂部功能表列選擇地區。

  3. 執行個體頁面,單擊目標執行個體ID

  4. 在左側導覽列,單擊服務,並單擊服務頁簽。

  5. 單擊建立服務,在建立服務面板,參考如下資訊配置AI 服務:

    image

    配置項

    說明

    服務來源

    選擇AI服務

    服務名稱

    填寫建立網關服務的名稱,如pai。

    大模型供應商

    選擇AI 服務所提供的大模型供應商。本樣本選擇PAI-EAS。若無EAS通過PAI 部署模型,具體操作請參見一鍵部署模型

    工作空間

    人工智慧平台PAI工作空間,例如pai_xqrj0u0t******

    EAS服務

    選擇通過PAI 部署模型的名稱,例如Qwen3-32B

    連線類型

    選擇與PAI 部署模型的連線類型,包含公網和私網兩種。本樣本選擇私網。

    API-KEY

    已自動擷取通過PAI 部署模型的API-KEY。

    說明

    該API-KEY用於在AI 網關與PAI-EAS服務之間進行身分識別驗證,AI 網關將自動擷取API-KEY並與PAI-EAS服務建立通訊。

    健全狀態檢查

    是否開啟服務健康狀態檢查。

步驟二:建立Model API

  1. 登入AI網關控制台

  2. 在左側導覽列,選擇執行個體,並在頂部功能表列選擇地區。

  3. 執行個體頁面,單擊目標執行個體ID

  4. 在左側導覽列,單擊Model API,然後單擊建立Model API

  5. 建立Model API面板中,配置基本資料如下:

    • Base Path:API的基本路徑。

    • 服務列表:選擇上述步驟:建立AI 服務中建立的AI 服務。

    image

  6. 單擊確定完成建立 Model API 。

步驟三:調試Model API

  1. 單擊目標 Model API 操作列下的調試按鈕進行測試。

  2. 調試控制台中,模型選擇在PAI 中部署的模型,在右側模型返回頁簽下與大模型進行對話。

    重要

    在模型返回頁簽下,使用的是/v1/chat/completions對話介面,如需使用其他介面,您可選擇CURL命令原始輸出的方式通過 curl 、SDK 調試。

    image

  3. 【樣本】您可以使用CURL命令調用completions,具體操作步驟如下:

    image

    1. CURL命令頁簽下,複製AI 網關提供的程式碼範例。

    2. 將程式碼範例中提供的url介面替換為/v1/completions

    3. 將程式碼範例中提供的data(body)部分修改為/v1/completions需要的格式:

    image