本文主要介紹如何通過AI 網關訪問部署在人工智慧平台PAI 的模型。
前提條件
當使用私網地址訪問模型時,請確保AI 網關執行個體與人工智慧平台PAI 部署的模型處於同一VPC。
操作步驟
步驟一:建立AI 服務
登入AI網關控制台。
在左側導覽列,選擇執行個體,並在頂部功能表列選擇地區。
在執行個體頁面,單擊目標執行個體ID。
在左側導覽列,單擊服務,並單擊服務頁簽。
單擊建立服務,在建立服務面板,參考如下資訊配置AI 服務:

配置項
說明
服務來源
選擇AI服務。
服務名稱
填寫建立網關服務的名稱,如pai。
大模型供應商
選擇AI 服務所提供的大模型供應商。本樣本選擇PAI-EAS。若無EAS通過PAI 部署模型,具體操作請參見一鍵部署模型。
工作空間
人工智慧平台PAI工作空間,例如
pai_xqrj0u0t******。EAS服務
選擇通過PAI 部署模型的名稱,例如
Qwen3-32B。連線類型
選擇與PAI 部署模型的連線類型,包含公網和私網兩種。本樣本選擇私網。
API-KEY
已自動擷取通過PAI 部署模型的API-KEY。
說明該API-KEY用於在AI 網關與PAI-EAS服務之間進行身分識別驗證,AI 網關將自動擷取API-KEY並與PAI-EAS服務建立通訊。
健全狀態檢查
是否開啟服務健康狀態檢查。
步驟二:建立Model API
步驟三:調試Model API
單擊目標 Model API 操作列下的調試按鈕進行測試。
在調試控制台中,模型選擇在PAI 中部署的模型,在右側模型返回頁簽下與大模型進行對話。
重要在模型返回頁簽下,使用的是
/v1/chat/completions對話介面,如需使用其他介面,您可選擇CURL命令或原始輸出的方式通過 curl 、SDK 調試。
【樣本】您可以使用CURL命令調用
completions,具體操作步驟如下:
在CURL命令頁簽下,複製AI 網關提供的程式碼範例。
將程式碼範例中提供的
url介面替換為/v1/completions。將程式碼範例中提供的
data(body)部分修改為/v1/completions需要的格式:

