部署模型管理 - Alibaba Cloud Model Studio

部署模型管理介面，適用於文本、映像、視頻、語音等所有模型類型。支援查詢部署狀態、擷取可部署模型列表與部署列表、修改限流、擴縮容及刪除部署。

適用範圍

適用地區：本文描述的功能僅在新加坡地區可用，且必須使用該地區的API Key。
已成功擷取 API Key並配置到環境變數。
已閱讀模型部署和使用 API 進行模型部署，瞭解模型部署的基本步驟。

查詢部署模型狀態

查詢指定部署模型的詳細資料和運行狀態。可輪詢此介面，當任務狀態status變為RUNNING時，表示模型已部署成功。

說明模型部署過程預計需要 5～10分鐘。

地址

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

請求樣本

通過以下命令可以查詢指定專屬服務的詳細資料：

curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen-plus-202305099980-fac9-sample" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

請求參數

參數	類型	傳參方式	必選	說明
deployed_model	String	path	是	部署模型的唯一標識，可通過部署模型或查詢部署模型列表介面擷取。

響應樣本

關注status欄位。當狀態變為 RUNNING 時，表示模型已部署成功，可以開始調用。

{
  "request_id": "66a855f0-a6fe-4b05-9786-fb30c7c6782d",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:06:13",
    "status": "RUNNING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 1,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}

響應參數

欄位	類型	描述
request_id	String	請求的唯一識別碼。
output	Object	任務詳情。
output.deployed_model	String	部署模型的唯一標識。用於查詢模型部署狀態和調用模型。
output.model_name	String	模型標識名。
output.base_model	String	使用的基準模型。
output.status	String	部署狀態： PENDING：正在建立部署任務。 RUNNING：部署任務正在運行，模型可正常處理請求。 UPDATING：變更配置中。 UPDATING_FAILED：變更配置失敗。 DELETING：正在刪除部署任務。 DELETED：已刪除。 FAILED：部署任務建立或更新失敗。 STOPPED：部署任務已停止，不會被計費。 ARREARS_DOWN：欠費停服。 ARREARS_RECOVERING：欠費停服恢複中。 OFFLINING：服務下線中。
output.base_capacity	Number	基礎資源單元數量。
output.capacity	Number	當前資源單元數量。
output.ready_capacity	Number	已就緒的資源單元數量。
output.workspace_id	String	阿里雲百鍊 API Key 所屬的業務空間 ID。請參見擷取Workspace ID。
output.charge_type	String	付費模式。post_paid 表示後付費。
output.gmt_create	String	部署任務建立時間。
output.gmt_modified	String	部署任務更新時間。
output.creator	String	建立人的阿里雲帳號 ID。
output.modifier	String	修改人的阿里雲帳號 ID。
output.plan	String	部署方式。

擷取可部署模型列表

擷取百鍊平台上有資格部署的候選模型清單，即哪些模型可以用來建立部署。

地址

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/models

請求樣本

通過下面的命令可以查詢支援部署的模型，推薦使用version=v1.0擷取包含部署方案和模板資訊的完整響應。

curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=base" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

查詢使用者調優模型：

curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=custom" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

請求參數

參數	類型	必選	說明
page_no	Number	否	頁碼，預設值為1。
page_size	Number	否	頁大小，預設為50，最大值為100，最小值為1。
model_source	String	否	模型來源。`base`表示系統模型（預設），`custom`表示使用者調優模型。
version	String	否	API 版本，推薦使用`v1.0`。使用`v1.0`時，響應中將包含完整的部署方案和模板資訊。

響應樣本

命令執行完成後，獲得以下結果：

{
    "request_id": "f7da015c-ea90-4d96-af89-2f8d7604026a",
    "output": {
        "page_no": 1,
        "page_size": 100,
        "total": 5,
        "models": [
            {
                "model_name": "qwen3-8b",
                "plans": [
                    {
                        "plan": "mu",
                        "templates": [
                            {
                                "template_id": "MU1",
                                "template_name": "單機部署-標準推理型",
                                "template_type": "COUPLED",
                                "template_version": "v1",
                                "template_desc": "適用於標準推理情境",
                                "roles": {
                                    "unified": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            },
                            {
                                "template_id": "MU1-PD",
                                "template_name": "PD分離部署-標準推理型",
                                "template_type": "SEPERATED",
                                "template_version": "v1",
                                "template_desc": "適用於PD分離推理情境",
                                "roles": {
                                    "prefill": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    },
                                    "decode": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            }
                        ]
                    },
                    {
                        "plan": "lora"
                    }
                ]
            }
        ]
    }
}

響應參數

參數	類型	說明
models	Array	可部署模型列表。
models[].model_name	String	模型名稱。
models[].plans	Array	該模型支援的部署方案列表。使用`version=v1.0`時返回。
models[].plans[].plan	String	部署方案類型：`mu`（模型單元）、`cu`（算力單元）、`ptu`（預置輸送量）、`lora`（LoRA共用部署）。
models[].plans[].templates	Array	部署模板列表（`plan=mu`時返回）。
models[].plans[].templates[].template_id	String	模板 ID，在建立模型部署任務時作為`deploy_spec`參數傳入。
models[].plans[].templates[].template_name	String	模板顯示名稱。
models[].plans[].templates[].template_type	String	模板類型：`COUPLED`（非 PD 分離，使用`capacity`參數）、`SEPERATED`（PD 分離，使用`prefill_capacity`和`decode_capacity`參數）。
models[].plans[].templates[].template_version	String	模板版本。
models[].plans[].templates[].template_desc	String	模板描述。
models[].plans[].templates[].roles	Object	節點角色配置。COUPLED 模式包含`unified`節點，SEPERATED 模式包含`prefill`和`decode`節點。
models[].plans[].templates[].roles.{role}.model_unit_spec	String	模型單元規格。
models[].plans[].templates[].roles.{role}.capacity_unit_per_instance	Number	單一實例容量單元數，即 base_capacity。建立部署時`capacity`必須是該值的整數倍。
page_no	Number	查詢頁碼。
page_size	Number	查詢頁大小。
total	Long	滿足查詢條件的所有模型個數。

擷取已部署模型列表

擷取已建立的部署執行個體列表，即當前工作空間下實際運行或已部署的模型服務。

地址

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments

請求樣本

通過以下命令可以擷取專屬服務列表：

curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments?page_no=1&page_size=100" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

請求參數

參數	類型	傳參方式	必選	說明
page_no	Number	query	否	頁碼，預設值為1。
page_size	Number	query	否	頁大小，預設為50，最大值為200，最小值為1。

響應樣本

命令執行完成後，返回以下結果：

{
  "request_id": "7efdd3a7-a90d-96c6-b477-70055d59edf7",
  "output": {
    "page_no": 1,
    "page_size": 10,
    "total": 1,
    "deployments": [
      {
        "deployed_model": "emo-35b3f106-sample01",
        "gmt_create": "2025-06-17T11:00:38",
        "gmt_modified": "2025-06-17T11:06:13",
        "status": "RUNNING",
        "model_name": "emo",
        "base_model": "emo",
        "base_capacity": 1,
        "capacity": 1,
        "ready_capacity": 1,
        "workspace_id": "llm-v71tlv3d***",
        "charge_type": "post_paid",
        "creator": "175805416***",
        "modifier": "175805416***"
      }
    ]
  }
}

響應參數

欄位	類型	描述
request_id	String	本次請求的系統唯一碼。
output.page_no	Number	當前頁碼。
output.page_size	Number	每頁數量。
output.total	Number	部署總數。
output.deployments	Array	部署模型列表，每個元素的欄位與查詢部署模型狀態的 output 欄位一致。

修改部署模型的限流

修改指定部署模型的 RPM（每分鐘請求數）和 TPM（每分鐘 Token 數）限流設定。

說明僅模型單元部署方式的部分模型支援修改設定 rpm 和 tpm。

地址

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/update

請求樣本

通過以下命令可以修改指定部署的限流設定：

curl -X PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen-plus-2025-12-01-b6d61c71/update" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "rpm_limit": 1000,
    "tpm_limit": 200
}'

請求參數

參數	類型	傳參方式	必選	說明
deployed_model	String	path	是	部署模型的唯一標識，可通過部署模型或查詢部署模型列表介面擷取。
rpm_limit	Number	body	至少填寫一個參數	Requests per minute，每分鐘請求數。
tpm_limit	Number	body	至少填寫一個參數	Token per minute，每分鐘 Token 使用量。

響應樣本

命令執行完成後，返回如下結果：

{
    "request_id": "1d121fd9-876c-40ad-bc40-a9e68ef3b986",
    "output":
    {
        "deployed_model": "qwen-plus-2025-12-01-b6d61c71",
        "gmt_create": "2026-01-07T13:52:44",
        "gmt_modified": "2026-01-07T14:01:41",
        "status": "PENDING",
        "model_name": "qwen-plus-2025-12-01",
        "base_model": "qwen-plus-2025-12-01",
        "base_capacity": 4,
        "capacity": 4,
        "ready_capacity": 0,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "creator": "16542902******",
        "modifier": "16542902********",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "enable_thinking": true,
        "max_context_length": 1,
        "rpm_limit": 1000,
        "tpm_limit": 200
    }
}

響應參數

除查詢部署模型狀態中列出的基礎欄位外，還可能包含以下欄位：

欄位	類型	描述
output.plan	String	部署方式。
output.model_unit_spec	String	模型單元部署模板，如 MU1。
output.enable_thinking	Boolean	是否開啟思考模式。
output.max_context_length	Number	最大上下文長度。
output.rpm_limit	Number	每分鐘請求數限制。
output.tpm_limit	Number	每分鐘 Token 數限制。

擴縮容部署服務

通過更新操作調整專屬服務使用的資源單元數量。

地址

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/scale

請求樣本

通過以下命令可以將指定的服務進行擴縮容：

curl --request PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01/scale" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json' \
    --data '{
                "capacity":2
            }'

請求參數

參數	類型	必選	說明
deployed_model	String	是	部署模型的唯一標識（path 參數），可通過部署模型或查詢部署模型列表介面擷取。
capacity	Integer	條件必選	僅`"plan": "mu"`時生效。具體支援情況請參考模型單元部署的功能支援情況。更新後模型所使用的資源單元數量，必須是`base_capacity`的整數倍。
ptu_capacity	Object	條件必選	僅`"plan": "ptu"`時生效。具體支援情況請參考PTU部署的功能支援情況。範例：`"ptu_capacity": { "input_tpm": 10000, "output_tpm": 1000 }`。
ptu_capacity.input_tpm	Number	條件必選	僅`"plan": "ptu"`時生效。具體支援情況請參考PTU部署的功能支援情況。部署的模型每分鐘支援的最大輸入 Token 量（input tokens per minute）。所有模型支援。
ptu_capacity.output_tpm	Number	條件必選	僅`"plan": "ptu"`時生效。具體支援情況請參考PTU部署的功能支援情況。部署的模型每分鐘支援的最大輸出 Token 量（output tokens per minute）。所有模型支援。
ptu_capacity.thinking_output_tpm	Number	否	僅`"plan": "ptu"`時生效。具體支援情況請參考PTU部署的功能支援情況。部署的模型每分鐘支援的預置思考最大輸出 Token 量（thinking output tokens per minute）。部分模型支援。

響應樣本

命令執行完成後，返回以下結果：

{
  "request_id": "6c6b7676-3fea-423b-bc26-c9e2337e1142",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02.311",
    "status": "UPDATING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3dezezp2en",
    "charge_type": "post_paid",
    "creator": "17580541***",
    "modifier": "17580541***"
  }
}

響應參數

響應欄位與查詢部署模型狀態一致，請參考查詢部署模型狀態的響應參數。

刪除部署

刪除指定的部署模型，釋放對應的計算資源。

重要執行該操作後，模型部署服務將立即下線且不可恢複：

模型將無法調用。
部署服務停止計費。

地址

DELETE https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

請求樣本

通過以下命令可以刪除指定的部署任務。

curl --request DELETE "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

請求參數

參數	類型	傳參方式	必選	說明
deployed_model	String	path	是	部署模型的唯一標識，可通過部署模型或查詢部署模型列表介面擷取。

響應樣本

關注status欄位。當狀態變為 DELETING 時，表示正在刪除部署任務。

{
  "request_id": "5378b78b-8564-481f-a3e0-580e551df22c",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02",
    "status": "DELETING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}

之後，再調用查詢部署模型狀態進行驗證。若返回如下內容，說明部署的服務已不存在，刪除成功。

{
    "request_id": "eb619064-0c4f-4d29-aa49-xxxxxx",
    "message": "Not found.",
    "code": "NotFound"
}

響應參數

響應欄位與查詢部署模型狀態一致，請參考查詢部署模型狀態的響應參數。

異常響應

響應樣本

{
    "request_id": "ca218d57-b91b-46b2-bd35-c41c6287bcf4",
    "message": "Model: qwen-plus-20230703-cx7f not found!",
    "code": "NotFound"
}

響應參數

欄位	類型	描述
request_id	String	本次請求的系統唯一碼。
code	String	錯誤碼。
message	String	錯誤資訊。

當請求出錯時，可能返回以下錯誤：

錯誤碼	錯誤資訊	錯誤原因
NotFound	Model: xxx not found!	建立部署任務時指定了不存在的模型。查詢/更新/刪除部署任務時指定了不存在的模型。
Conflict	Deployed model xxx already exists, please specify a suffix.	建立部署任務時使用了已使用過的suffix。
InvalidParameter	Invalid capacity (xx), capacity must be larger than or equal to 0 and multiples of 1 and less than 1000!	建立/更新部署任務時指定了無效的算力單元數量。