CreateModelService - 建立模型服務

更新時間:
Copy as MD

建立模型服務,支援AI function調用模型。支援建立兩類模型:1)阿里雲百鍊模型;2)Hologres AI節點。如果是Hologres AI,需要另外購買AI節點資源。

介面說明

建立模型服務需要大量參數,如果是建立百鍊模型,請調用 ListModelCatalog 查詢模型參數;如果是 Hologres AI 節點,請調用 GetAvailableModelsResource 查詢模型參數。

調試

您可以在OpenAPI Explorer中直接運行該介面,免去您計算簽名的困擾。運行成功後,OpenAPI Explorer可以自動產生SDK程式碼範例。

調試

授權資訊

當前API暫無授權資訊透出。

請求文法

POST /api/v1/instances/{instanceId}/createModelService HTTP/1.1

路徑參數

名稱

類型

必填

描述

樣本值

instanceId

string

執行個體 id。

hgpostcn-cn-lbj335xxxx

請求參數

名稱

類型

必填

描述

樣本值

body

object

請求體。

modelType

string

模型名稱。如果是百鍊模型,請調用 ListModelCatalog 查詢;如果是 Hologres AI 節點,請調用 GetAvailableModelsResource 查詢

qwen3.5-plus

cpu

integer

CPU,此參數僅 Hologres AI 節點需要

16

memory

integer

記憶體規格,此參數僅 Hologres AI 節點需要

64

gpu

integer

GPU 規格,此參數僅 Hologres AI 節點需要

1

serviceCount

integer

服務副本數,此參數僅 Hologres AI 節點需要

2

modelServiceName

string

自訂的服務名稱

my_model

gpuMemory

integer

GPU 記憶體規格,此參數僅 Hologres AI 節點需要

64

taskType

string

模型類型,比如 chat/completions,embedding。請參考 ListModelCatalog 返回的類型,按需建立。

embedding

provider

string

底層模型提供方。

枚舉值:

  • hologres :

    Hologres

  • bailian :

    阿里雲百鍊

bailian

apiKey

string

百鍊 API Key,請登陸百鍊控制台或通過 API 擷取。此參數僅百鍊模型需要

api-key-xxx

modelParams

string

模型參數,請參考 ListModelCatalog 返回的預設參數,直接傳入,有必要則修改後再傳入。此參數僅百鍊模型需要

{"timeout":600,"max_retries":10,"max_retry_delay":8,"initial_retry_delay":0.5}

返回參數

名稱

類型

描述

樣本值

object

Schema of Response

requestId

string

Id of the request

819A7F0F-2951-540F-BD94-6A41ECF0281F

data

boolean

true:成功;false:失敗

true

樣本

正常返回樣本

JSON格式

{
  "requestId": "819A7F0F-2951-540F-BD94-6A41ECF0281F",
  "data": true
}

錯誤碼

訪問錯誤中心查看更多錯誤碼。

變更歷史

更多資訊,參考變更詳情