調用 POST /api/v1/models/limits 介面更新指定業務空間下模型的限流配額(QPM / TPM),支援"合并覆蓋"與"刪除限流"兩種操作。
前提條件
已建立 API Key 並配置為環境變數 DASHSCOPE_API_KEY。配置方法請參見配置API Key到環境變數。
請求說明
-
HTTP 方法:POST
-
請求地址
調用時請將
{WorkspaceId}替換為您的業務空間 ID。地區
Endpoint
華北2(北京)
https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits -
認證方式
在請求 Header 中設定
Authorization: Bearer {API_KEY}。
請求參數
所有參數均通過請求 Body 傳遞。
參數 | 類型 | 必選 | 描述 |
|---|---|---|---|
models | Array[Object] | 是 | 逐模型限流項列表。必填,數量需為 1~200。樣本: |
models[].model | String | 是 | 模型 ID,不可為空。如 |
models[].operation_type | String | 否 | 操作類型。可選值:
預設值: |
models[].request_limit | Number | 否 | 請求次數上限(QPM),非負。每分鐘最大請求數,單位次/分鐘。 |
models[].request_limit_period | Number | 否 | 請求限流時間周期,正整數,單位秒,如 |
models[].usage_limit | Number | 否 | 用量上限(TPM),非負。每分鐘最大 Token 用量。 |
models[].usage_limit_period | Number | 否 | 用量限流時間周期,正整數,單位秒,如 |
返回參數
參數 | 類型 | 描述 |
|---|---|---|
request_id | String | 請求 ID。樣本: |
code | String | 錯誤碼,成功為 |
message | String | 錯誤資訊,成功為 |
success | Boolean | 是否成功。樣本: |
output | Object | 業務資料,本介面為 |
TPM 豁免情境
若需"只限制 RPM、豁免 TPM",推薦兩步法——先調用本介面對目標模型傳 {"model":"X","operation_type":"DELETE"} 刪除全部限流,再傳 {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} 只設定 QPM。兩步非原子,中間有短暫無限制視窗。
請求樣本
樣本一:設定 QPM=60、TPM=100000curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
--header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
--header 'Content-Type: application/json' \
--data '{
"models": [
{
"model": "qwen-plus",
"operation_type": "OVERLAY",
"request_limit": 60,
"request_limit_period": 60,
"usage_limit": 100000,
"usage_limit_period": 60
}
]
}'
樣本二:刪除限流
curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
--header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
--header 'Content-Type: application/json' \
--data '{
"models": [
{"model": "qwen-plus", "operation_type": "DELETE"}
]
}'
返回樣本
成功樣本{
"code": null,
"message": null,
"success": true,
"output": null,
"request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
失敗樣本
{
"code": "InvalidParameter",
"message": "Cannot set TPM without QPM for model qwen-plus: no existing QPM limit, please set QPM first",
"success": false,
"output": null,
"request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
錯誤碼
如果調用失敗,會返回錯誤資訊。更多錯誤碼及解決方案,請參見錯誤資訊。