全部產品
Search
文件中心

Alibaba Cloud Model Studio:限流

更新時間:Nov 21, 2026

百鍊限流規則與各模型的限流額度。主流生成模型採用動態限流(軟限流),TPM 限流值依百鍊月消費檔位調整,實際可用 TPM 不低於限流值。其他模型與地域採用靜態限流,超出限額時請求會被拒絕,通常會在一分鐘內自動回復。限流以主帳號維度計算,帳號下所有 RAM 子帳號、業務空間與 API Key 的調用量會合併計算。

限流規則

  • 帳號層級限流:限流以主帳號維度計算,帳號下所有 RAM 子帳號、業務空間與 API Key 的調用量會累計計算。
  • 模型間相互獨立的限流:不同模型擁有獨立的限流額度,詳情請見下表。
  • 限流形態:主流生成模型(如 qwen3.8-max、qwen3.8-flash、deepseek-v4-pro-0813、kimi-k3 等)採用動態限流,TPM 限流值隨百鍊月消費檔位動態調整,實際可用 TPM 不低於限流值,詳見動態限流;其餘模型與地域採用靜態限流,規則詳見靜態限流規則。

動態限流

動態限流機制

百鍊對部分模型採用動態限流機制,核心要點如下:

  • 軟限流:當調用量達到限流值時,若平台仍有閒置資源,則不會觸發限流。因此,實際可用 TPM 不低於限流值。調用時觀察到的實際限流值可能高於該限流值,屬預期行為。
  • 限流粒度:按帳號 + 模型。主帳號下所有 RAM 子帳號、業務空間與 API Key 的調用量會匯總計入該帳號對該模型的 TPM 配額,共用同一限額。
  • 業務空間:可為業務空間中的單個模型單獨設定限流值。未單獨設定的業務空間共用帳號級配額。
  • 觸發限流表現:觸發動態限流時返回 429 錯誤(錯誤碼為 Throttling.ResourceExhausted 或 Throttling.ServiceOverloaded,報錯資訊為 Too many requests.);平台資源不足時可能返回 503 錯誤(ServiceUnavailable),該情況與限流額度無關,稍後重試即可。錯誤處理建議參見錯誯碼。
  • 更多說明:業務空間限流設定請參閱許可權管理。

模型與限流檔位

百鍊會基於您的歷史消費設定您的 TPM 限流檔位,實際限流值請以模型詳情頁為準。

說明若 TPM 限流值無法滿足業務需求,可聯絡商務經理申請提額。

新加坡

百鍊平台月消費:

檔位 1(當前)≤$8,000

檔位 2 $8,000~$140,000

檔位 3 >$140,000

支援的模型

TPM 限流檔位

qwen4-max

5,000,000

10,000,000

20,000,000

qwen3.8-max

2,000,000

5,000,000

10,000,000

qwen3.8-max-0902

1,500,000

1,500,000

1,500,000

qwen3.8-flash

2,500,000

5,000,000

10,000,000

qwen3.8-omni-flash

2,000,000

5,000,000

10,000,000

qwen3.8-2.4t-a95b

5,000,000

5,000,000

5,000,000

deepseek-v4.1-flash-1017

1,200,000

1,200,000

1,200,000

deepseek-v4.1-flash

1,200,000

1,200,000

1,200,000

deepseek-v4-pro-0813

1,200,000

5,000,000

10,000,000

kimi-k3

1,200,000

5,000,000

10,000,000

glm-5.3

5,000,000

5,000,000

5,000,000

glm-5.3-prime

2,000,000

2,000,000

2,000,000

qwen3.8-27b

5,000,000

5,000,000

5,000,000

中國(北京)

百鍊平台月消費:

檔位 1(當前)≤$8,000

檔位 2 $8,000~$140,000

檔位 3 >$140,000

支援的模型

TPM 限流檔位

qwen4-max

5,000,000

10,000,000

20,000,000

qwen3.8-max

5,000,000

10,000,000

20,000,000

qwen3.8-max-0902

1,500,000

1,500,000

1,500,000

qwen3.8-flash

5,000,000

10,000,000

20,000,000

qwen3.8-omni-flash

2,000,000

5,000,000

10,000,000

qwen3.8-2.4t-a95b

5,000,000

5,000,000

5,000,000

deepseek-v4.1-flash-1017

1,200,000

1,200,000

1,200,000

deepseek-v4.1-flash

1,200,000

1,200,000

1,200,000

deepseek-v4-pro-0813

1,200,000

10,000,000

20,000,000

kimi-k3

1,200,000

5,000,000

10,000,000

glm-5.3

5,000,000

5,000,000

5,000,000

glm-5.3-prime

2,000,000

2,000,000

2,000,000

qwen3.8-27b

5,000,000

5,000,000

5,000,000

靜態限流明細

以下按模型類別列出各模型的限流值:標註動態限流的模型,其 TPM 限流值隨百鍊月消費檔位調整,參見模型與限流檔位;其餘模型為靜態限流,規則參見靜態限流規則。

靜態限流規則

未納入動態限流的模型採用靜態限流,規則如下:

  • 固定限流值:每個模型有固定的 RPM 與 TPM 限流值,各模型相互獨立。
  • 秒級執行:限流除按分鐘級 RPM/TPM 外,還可能按秒級 RPS(RPM/60)與 TPS(TPM/60)執行,短時間內的請求爆發即使未超出分鐘級上限也可能觸發限流。
  • 觸發與恢復:超出限制時請求會被拒絕並返回 429 錯誤,通常在一分鐘內自動恢復,具體錯誤資訊分類參見為什麼觸發限流?與錯誯碼。

文本產生

千問語言模型

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen4-max

國際

動態限流

qwen3.8-max

國際

動態限流

qwen3.8-max-0902

國際

動態限流

qwen3.8-flash

國際

動態限流

qwen3.7-max

國際

600

1,000,000

qwen3.7-max-2026-06-08

國際

60

1,000,000

qwen3.7-max-2026-05-20

國際

60

1,000,000

qwen3.7-max-preview

國際

600

1,000,000

qwen3.7-max-2026-05-17

國際

600

1,000,000

qwen-max

用Batch API調用服務時,不受限流限制。

國際

600

1,000,000

qwen3.7-plus

國際

15,000

5,000,000

qwen3.7-plus-2026-05-26

國際

60

1,000,000

qwen3.6-plus

國際

15,000

5,000,000

qwen3.6-plus-2026-04-02

國際

60

1,000,000

qwen3.7-flash

國際

15,000

5,000,000

qwen3.7-flash-2026-07-15

國際

15,000

5,000,000

qwen3.6-flash

國際

15,000

5,000,000

qwen3.6-flash-2026-04-16

國際

60

1,000,000

qwen3.5-plus

國際

15,000

5,000,000

qwen3.5-plus-2026-04-20

國際

600

1,000,000

qwen3.5-plus-2026-02-15

國際

60

1,000,000

qwen-plus

用Batch API調用服務時,不受限流限制。

國際

600

1,000,000

qwen-plus-latest

國際

600

1,000,000

qwen-plus-2025-12-01

國際

120

1,000,000

qwen-plus-2025-07-14

(qwen-plus-0714)

國際

60

100,000

qwen-plus-2025-04-28

(qwen-plus-0428)

國際

60

1,000,000

qwen-plus-2025-01-25

(qwen-plus-0125)

國際

60

100,000

qwen3.5-flash

國際

15,000

5,000,000

qwen3.5-flash-2026-02-23

國際

60

1,000,000

qwen-flash

用Batch API調用服務時,不受限流限制。

國際

600

5,000,000

qwen-flash-2025-07-28

國際

600

5,000,000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen4-max

全球

30,000

5,000,000

qwen4-max

維吉尼亞

15,000

3,000,000

qwen3.8-max

全球

30,000

5,000,000

qwen3.8-max

美國

30,000

5,000,000

qwen3.8-max-0902

全球

30,000

150,000

qwen3.8-flash

全球

15,000

2,500,000

qwen3.8-flash

美國

15,000

2,500,000

qwen3.7-max

全球

30,000

10,000,000

qwen3.7-max

美國

30000

10,000,000

qwen3.7-max-2026-06-08

全球

600

1,000,000

qwen3.7-max-2026-05-20

全球

600

1,000,000

qwen3.7-plus

全球

30,000

5,000,000

qwen3.7-plus

美國

30,000

5,000,000

qwen3.7-plus-2026-05-26

全球

600

1,000,000

qwen3.6-plus

全球

30,000

5,000,000

qwen3.6-plus-2026-04-02

全球

600

1,000,000

qwen3.7-flash

全球

15,000

5,000,000

qwen3.7-flash

美國

15,000

5,000,000

qwen3.7-flash-2026-07-15

全球

15000

5,000,000

qwen3.6-flash

全球

15,000

5,000,000

qwen3.6-flash-2026-04-16

全球

60

1,000,000

qwen3.6-flash

美國

15,000

5,000,000

qwen3.5-plus

全球

30,000

5,000,000

qwen3.5-plus-2026-02-15

全球

600

1,000,000

qwen-plus

全球

15,000

5,000,000

qwen-plus

美國

600

1,000,000

qwen-plus-2025-12-01

全球

60

1,000,000

qwen-plus-2025-12-01

美國

60

1,000,000

qwen3.5-flash

全球

30,000

10,000,000

qwen3.5-flash-2026-02-23

全球

600

1,000,000

qwen-flash

全球

15,000

10,000,000

qwen-flash

美國

30000

10,000,000

qwen-flash-2025-07-28

全球

60

1,000,000

qwen-flash-2025-07-28

美國

600

5,000,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen4-max

動態限流

qwen3.8-max

用Batch API調用服務時,不受限流限制。

動態限流

qwen3.8-max-0902

動態限流

qwen3.8-flash

用Batch API調用服務時,不受限流限制。

動態限流

qwen3.7-max

用Batch API調用服務時,不受限流限制。

30,000

5,000,000

qwen3.7-max-2026-06-08

600

1,000,000

qwen3.7-max-2026-05-20

600

1,000,000

qwen-max

用Batch API調用服務時,不受限流限制。

1,200

1,000,000

qwen3.7-plus

30,000

5,000,000

qwen3.7-plus-2026-05-26

600

1,000,000

qwen3.6-plus

用Batch API調用服務時,不受限流限制。

30,000

5,000,000

qwen3.6-plus-2026-04-02

600

1,000,000

qwen3.7-flash

用Batch API調用服務時,不受限流限制。

30,000

5,000,000

qwen3.7-flash-2026-07-15

30,000

5,000,000

qwen3.6-flash

用Batch API調用服務時,不受限流限制。

30,000

10,000,000

qwen3.6-flash-2026-04-16

600

1,000,000

qwen3.5-plus

用Batch API調用服務時,不受限流限制。

30,000

5,000,000

qwen3.5-plus-2026-04-20

600

1,000,000

qwen3.5-plus-2026-02-15

600

1,000,000

qwen-plus

用Batch API調用服務時,不受限流限制。

30,000

5,000,000

qwen-plus-latest

用Batch API調用服務時,不受限流限制。

15,000

1,200,000

qwen-plus-2025-12-01

120

1,000,000

qwen-plus-2025-07-14

(qwen-plus-0714)

60

100,000

qwen-plus-2025-04-28

(qwen-plus-0428)

60

1,000,000

qwen-plus-2025-01-25

(qwen-plus-0125)

60

150,000

qwen3.5-flash

用Batch API調用服務時,不受限流限制。

30,000

10,000,000

qwen3.5-flash-2026-02-23

600

1,000,000

qwen-flash

用Batch API調用服務時,不受限流限制。

30,000

10,000,000

qwen-flash-2025-07-28

60

1,000,000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen4-max

全球

30,000

5,000,000

qwen3.8-max

全球

30,000

5,000,000

qwen3.8-max-0902

全球

30,000

150,000

qwen3.8-flash

歐盟

15,000

250,000

qwen3.8-flash

全球

15,000

250,000

qwen3.7-max

全球

30,000

5,000,000

qwen3.7-max-2026-06-08

全球

600

1,000,000

qwen3.7-max-2026-05-20

全球

600

1,000,000

qwen3.7-plus

全球

30,000

5,000,000

qwen3.7-plus-2026-05-26

全球

600

1,000,000

qwen3.6-plus

全球

30,000

5,000,000

qwen3.6-plus-2026-04-02

全球

600

1,000,000

qwen3.7-flash

全球

15,000

5,000,000

qwen3.7-flash-2026-07-15

全球

15,000

5,000,000

qwen3.6-flash

全球

15,000

5,000,000

qwen3.6-flash-2026-04-16

全球

60

1,000,000

qwen3.5-plus

全球

30,000

5,000,000

qwen3.5-plus-2026-02-15

全球

600

1,000,000

qwen-plus

全球

600

1,000,000

qwen-plus

歐盟

600

1,000,000

qwen-plus-2025-12-01

全球

120

1,000,000

qwen-plus-2025-12-01

歐盟

120

1,000,000

qwen3.5-flash

全球

35,000

10,000,000

qwen3.5-flash

歐盟

35,000

10,000,000

qwen3.5-flash-2026-02-23

全球

600

1,000,000

qwen3.5-flash-2026-02-23

歐盟

600

1,000,000

qwen-flash

全球

30,000

10,000,000

qwen-flash-2025-07-28

全球

60

1,000,000

中國香港

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen4-max

全球

30,000

5,000,000

qwen3.8-max

中國香港

30,000

5,000,000

qwen3.8-max-0902

中國香港

600

150,000

qwen3.8-flash

香港

15,000

2,500,000

qwen3.8-flash

全球

15,000

2,500,000

qwen3.6-plus

全球

30,000

5,000,000

qwen3.7-flash

全球

15,000

5,000,000

qwen3.7-flash-2026-07-15

全球

15,000

5,000,000

qwen3.6-flash

全球

30,000

10,000,000

qwen-plus

中國香港

600

1,000,000

qwen-plus-2025-12-01

中國香港

60

100,000

qwen3.5-flash

中國香港

30,000

10,000,000

qwen3.5-flash-2026-02-23

中國香港

600

1,000,000

日本(東京)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen4-max

全球

30,000

5,000,000

qwen3.8-max

全球

30,000

5,000,000

qwen3.8-max-0902

全球

30,000

150,000

qwen3.8-flash

全球

15,000

250,000

qwen3.7-max

全球

600

1,000,000

qwen3.7-max-2026-05-20

全球

60

1,000,000

qwen3.7-plus

全球

15,000

5,000,000

qwen3.7-plus-2026-05-26

全球

60

1,000,000

qwen3.7-plus

日本

15,000

5,000,000

qwen3.7-plus-2026-05-26

日本

60

1,000,000

qwen3.6-plus

全球

15,000

5,000,000

qwen3.6-plus-2026-04-02

全球

60

1,000,000

qwen3.7-flash

全球

15,000

5,000,000

qwen3.7-flash-2026-07-15

全球

15,000

5,000,000

qwen3.6-flash

全球

15,000

10,000,000

qwen3.6-flash-2026-04-16

全球

60

1,000,000

千問VL(視覺理解/圖生文)

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-vl-plus

國際

1,200

1,000,000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-vl-plus

全球

6,000

10,000,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-vl-plus

用Batch API調用服務時,不受限流限制。

3,000

5,000,000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-vl-plus

全球

2,000

1,000,000

qwen3-vl-plus

歐盟

2,000

1,000,000

中國香港

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-vl-plus

中國香港

6,000

1,000,000

千問Omni(全模態)

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-omni-flash

國際

30000

動態限流

qwen3.5-omni-flash

國際

60

100,000

qwen3.5-omni-flash-2026-03-15

國際

60

100,000

qwen3.5-omni-plus

國際

60

100,000

qwen3.5-omni-plus-2026-03-15

國際

60

100,000

qwen3-omni-flash

國際

60

100,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-omni-flash

30000

動態限流

qwen3.5-omni-flash

60

100,000

qwen3.5-omni-flash-2026-03-15

60

100,000

qwen3.5-omni-plus

60

100,000

qwen3.5-omni-plus-2026-03-15

60

100,000

qwen3-omni-flash

60

100,000

中國香港

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-omni-flash

全球

30000

2000000

日本(東京)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-omni-flash

全球

30000

2000000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-omni-flash

全球

30000

2000000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-omni-flash

全球

30000

2000000

千問Omni-Realtime(即時多模態)

對 WebSocket 連線而言,RPM 限制的是每分鐘的連線請求數量。在既有連線上傳送的回應不會計入 RPM。重新連線會視為一筆新請求。目前對於同時開啟的連線總數沒有另行限制。TPM 限制仍適用。各模型的限流數值請見下方表格。

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-omni-flash-realtime

國際

60

2,000,000

qwen3.5-omni-plus-realtime

國際

60

100,000

qwen3.5-omni-plus-realtime-2026-03-15

國際

60

100,000

qwen3.5-omni-flash-realtime

國際

60

100,000

qwen3.5-omni-flash-realtime-2026-03-15

國際

60

100,000

qwen3-omni-flash-realtime-2025-09-15

國際

60

100,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-omni-flash-realtime

60

2,000,000

qwen3.5-omni-plus-realtime

60

100,000

qwen3.5-omni-plus-realtime-2026-03-15

60

100,000

qwen3.5-omni-flash-realtime

60

100,000

qwen3.5-omni-flash-realtime-2026-03-15

60

100,000

qwen3-omni-flash-realtime-2025-09-15

60

100,000

千問OCR(文字提取)

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-vl-ocr

國際

6,000

30,000,000

qwen-vl-ocr-2025-11-20

國際

6,000

30,000,000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-vl-ocr

全球

600

6,000,000

qwen-vl-ocr-2025-11-20

全球

1,200

6,000,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.5-ocr

6,000

30,000,000

qwen-vl-ocr

用Batch API調用服務時,不受限流限制。

600

6,000,000

qwen-vl-ocr-2025-11-20

6,000

30,000,000

qwen-vl-ocr-2024-10-28

600

6,000,000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-vl-ocr

全球

600

6,000,000

qwen-vl-ocr-2025-11-20

全球

1,200

6,000,000

千問Coder

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-coder-flash

國際

600

5,000,000

qwen3-coder-flash-2025-07-28

國際

600

5,000,000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-coder-flash

全球

1,200

1,000,000

qwen3-coder-flash-2025-07-28

全球

60

1,000,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-coder-flash

5,000

5,000,000

qwen3-coder-flash-2025-07-28

60

1,000,000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-coder-flash

全球

5,000

5,000,000

qwen3-coder-flash-2025-07-28

全球

60

1,000,000

千問翻譯模型

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-mt-plus

國際

60

100,000

qwen-mt-flash

國際

60

100,000

qwen-mt-lite

國際

60

100,000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-mt-plus

全球

60

25,000

qwen-mt-flash

全球

60

35,000

qwen-mt-lite

全球

60

100,000

qwen-mt-lite

美國

60

100,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-mt-plus

60

25,000

qwen-mt-flash

60

35,000

qwen-mt-lite

60

100,000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-mt-plus

全球

60

25,000

qwen-mt-flash

全球

60

35,000

qwen-mt-lite

全球

60

100,000

千問資料採礦模型

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-doc-turbo

600

3,000,000

千問深入研究模型

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-deep-research

120

1,200,000

千問語言模型開源版

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-2.4t-a95b

國際

動態限流

qwen3.8-27b

國際

動態限流

qwen3.6-35b-a3b

國際

600

1,000,000

qwen3.6-27b

國際

600

1,000,000

qwen3.5-397b-a17b

國際

600

1,000,000

qwen3.5-122b-a10b

國際

600

1,000,000

qwen3.5-27b

國際

600

1,000,000

qwen3.5-35b-a3b

國際

600

5,000,000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.5-397b-a17b

全球

600

1,000,000

qwen3.5-122b-a10b

全球

600

1,000,000

qwen3.5-27b

全球

600

1,000,000

qwen3.6-35b-a3b

全球

600

1,000,000

qwen3.5-35b-a3b

全球

600

1,000,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-2.4t-a95b

動態限流

qwen3.8-27b

動態限流

qwen3.6-35b-a3b

600

1,000,000

qwen3.6-27b

600

1,000,000

qwen3.5-397b-a17b

600

1,000,000

qwen3.5-122b-a10b

600

1,000,000

qwen3.5-27b

600

1,000,000

qwen3.5-35b-a3b

600

1,000,000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.5-397b-a17b

全球

600

1,000,000

qwen3.5-122b-a10b

全球

600

1,000,000

qwen3.5-27b

全球

600

1,000,000

qwen3.6-35b-a3b

全球

600

1,000,000

qwen3.5-35b-a3b

全球

600

1,000,000

DeepSeek

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

deepseek-v4.1-flash-1017

國際

動態限流

deepseek-v4.1-flash

國際

動態限流

deepseek-v4-pro

國際

10,000

1,200,000

deepseek-v4-pro-0813

國際

動態限流

deepseek-v4-flash-0731

國際

15,000

1,200,000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

deepseek-v4.1-flash-1017

全球

15,000

1,200,000

deepseek-v4.1-flash

全球

15,000

1,200,000

deepseek-v4-pro

全球

15,000

1,200,000

deepseek-v4-pro-0813

全球

15,000

1,200,000

deepseek-v4-pro

美國

10,000

1,200,000

deepseek-v4-flash-0731

全球

15,000

1,200,000

deepseek-v4-flash-0731

美國

15,000

1,200,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

deepseek-v4.1-flash-1017

動態限流

deepseek-v4.1-flash

動態限流

deepseek-v4-pro

15,000

1,200,000

deepseek-v4-pro-0813

動態限流

deepseek-v4-flash-0731

15,000

1,200,000

deepseek-r1-distill-qwen-1.5b

60

100,000

deepseek-r1-distill-llama-70b

60

100,000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

deepseek-v4.1-flash-1017

全球

15,000

1,200,000

deepseek-v4.1-flash

全球

15,000

1,200,000

deepseek-v4-pro

全球

15,000

1,200,000

deepseek-v4-pro-0813

全球

15,000

1,200,000

deepseek-v4-flash-0731

全球

15,000

1,200,000

日本(東京)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

deepseek-v4-pro

日本

10,000

1,200,000

deepseek-v4-pro-0813

日本

15,000

1,200,000

deepseek-v4-flash-0731

日本

15,000

1,200,000

deepseek-v4.1-flash-1017

全球

15,000

1,200,000

deepseek-v4.1-flash

全球

15,000

1,200,000

deepseek-v4-pro

全球

10,000

1,200,000

deepseek-v4-pro-0813

全球

15,000

1,200,000

deepseek-v4-flash-0731

全球

15,000

1,200,000

中國香港

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

deepseek-v4.1-flash-1017

中國香港

15,000

1,200,000

deepseek-v4.1-flash

中國香港

15,000

1,200,000

deepseek-v4-flash-0731

中國香港

15,000

1,200,000

deepseek-v4-pro-0813

中國香港

15,000

1,200,000

Kimi

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

kimi-k3.1-pro

15,000

動態限流

kimi-k3

動態限流

kimi-k2.7-code

500

1,000,000

kimi-k2.6

500

1,000,000

kimi-k2.5

500

1,000,000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

kimi-k3

kimi-k3.1-pro

全球

15,000

1,200,000

kimi-k3.1-pro

美國

限流值以所選業務空間的實際設定為準。

kimi-k3

國際

10,000

1,200,000

kimi-k2.7-code

全球

500

1,000,000

kimi-k2.5

全球

500

1,000,000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

kimi-k3

kimi-k3.1-pro

全球

15,000

1,200,000

kimi-k2.7-code

全球

500

1,000,000

kimi-k2.5

全球

500

1,000,000

中國香港

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

kimi-k3

kimi-k3.1-pro

全球

15,000

1,200,000

kimi-k2.7-code

全球

500

1,000,000

日本(東京)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

kimi-k3

kimi-k3.1-pro

全球

15,000

1,200,000

kimi-k2.7-code

全球

500

1,000,000

kimi-k2.5

全球

500

1,000,000

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

kimi-k3.1-pro

國際

10,000

動態限流

kimi-k3

國際

動態限流

kimi-k2.7-code

國際

500

1,000,000

MiniMax

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

MiniMax-M2.5

500

1,000,000

GLM

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

glm-5.3

全球

15,000

1,200,000

glm-5.3

美國

15,000

1,200,000

glm-5.2

全球

500

1,000,000

glm-5.2

美國

500

1,000,000

glm-5.1

全球

500

1,000,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

glm-5.3

動態限流

glm-5.2

500

2,000,000

glm-5.1

500

1,000,000

glm-5

500

1,000,000

德國(法蘭克福)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

glm-5.3

全球

15,000

1,200,000

glm-5.2

全球

500

1,000,000

glm-5.1

全球

500

1,000,000

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

glm-5.3

國際

動態限流

glm-5.2

國際

500

1,000,000

glm-5.1

國際

500

1,000,000

中國香港

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

glm-5.3

全球

15,000

1,200,000

glm-5.2

全球

500

1,000,000

日本(東京)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

glm-5.3

全球

15,000

1,200,000

glm-5.1

全球

500

1,000,000

GLM-Z.AI直供

新加坡

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

ZHIPU/GLM-5.3

200

3,000,000

ZHIPU/GLM-5.2

200

3,000,000

MindLab

新加坡

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

mindlab/macaron-v1-tall

300

3,000,000

mindlab/macaron-v1.1-venti

600

5,000,000

mindlab/macaron-v1.1-coding-venti

600

5,000,000

mindlab/macaron-v1.1-venti-pro

600

5,000,000

映像與視頻產生

千問(Qwen-Image)

新加坡

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

任務提交API調用限制

同時處理中的任務數(並發數)

qwen-image-3.0-pro

國際

5次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-3.0

國際

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-pro

國際

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-turbo

國際

120次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.0-pro

國際

2次/分鐘

同步介面無限制

qwen-image-2.0-pro-2026-06-22

國際

2次/分鐘

同步介面無限制

qwen-image-2.0-pro-2026-04-22

國際

2次/分鐘

同步介面無限制

qwen-image-2.0-pro-2026-03-03

國際

2次/分鐘

同步介面無限制

qwen-image-2.0

國際

2次/秒

同步介面無限制

qwen-image-2.0-2026-03-03

國際

2次/秒

同步介面無限制

qwen-mt-image-2.0

國際

60次/分鐘

同步介面無限制 / 非同步介面2

美國(維吉尼亞)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

任務提交API調用限制

同時處理中的任務數(並發數)

qwen-image-3.0-pro

全球

5次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-3.0

全球

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-pro

全球

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-turbo

全球

120次/分鐘

同步介面無限制 / 非同步介面10

華北2(北京)

模型名稱

限流條件(超出任一數值時觸發限流)

任務提交介面調用限制

同時處理中的任務數(並發數)

qwen-image-3.0-pro

5次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-3.0

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-pro

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-turbo

120次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.0-pro

2次/分鐘

同步介面無限制

qwen-image-2.0-pro-2026-06-22

2次/分鐘

同步介面無限制

qwen-image-2.0-pro-2026-04-22

2次/分鐘

同步介面無限制

qwen-image-2.0-pro-2026-03-03

2次/分鐘

同步介面無限制

qwen-image-2.0

2次/秒

同步介面無限制

qwen-image-2.0-2026-03-03

2次/秒

同步介面無限制

qwen-mt-image-2.0

60次/分鐘

同步介面無限制 / 非同步介面2

qwen-mt-image

1次/秒

同步介面無限制 / 非同步介面2

德國(法蘭克福)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

任務提交介面調用限制

同時處理中的任務數(並發數)

qwen-image-3.0-pro

全球

5次/分鐘

同步介面:無限制 / 非同步介面:10

qwen-image-3.0

全球

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-pro

全球

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-turbo

全球

120次/分鐘

同步介面無限制 / 非同步介面10

中國香港

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

任務提交介面調用限制

同時處理中的任務數(並發數)

qwen-image-3.0-pro

全球

5次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-3.0

全球

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-pro

全球

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-turbo

全球

120次/分鐘

同步介面無限制 / 非同步介面10

日本(東京)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

任務提交介面調用限制

同時處理中的任務數(並發數)

qwen-image-3.0-pro

全球

5次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-3.0

全球

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-pro

全球

20次/分鐘

同步介面無限制 / 非同步介面10

qwen-image-2.1-turbo

全球

120次/分鐘

同步介面無限制 / 非同步介面10

文生圖-Z-Image

新加坡

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒調用次數(RPS)

同時處理中的任務數(並發數)

z-image-turbo

國際

2

同步介面:無限制

華北2(北京)

模型名稱

限流條件(超出任一數值時觸發限流)

每秒調用次數(RPS)

同時處理中的任務數(並發數)

z-image-turbo

2

同步介面:無限制

萬相

新加坡

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒請求數(RPS)

同時處理中的任務數(並發數)

wan2.7-image-pro

國際

5

5

wan2.7-image

國際

5

5

wan2.6-image

國際

5

5

wan2.6-t2i

國際

5

5

wan2.5-t2i-preview

國際

5

5

wan2.2-t2i-flash

國際

2

2

wan2.2-t2i-plus

國際

2

2

wan2.1-t2i-turbo

國際

2

2

wan2.1-t2i-plus

國際

2

2

wan2.5-i2i-preview

國際

5

5

美國(維吉尼亞)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒調用次數(RPS)

同時處理中的任務數(並發數)

wan2.6-t2i

全球

5

5

wan2.6-image

全球

5

5

華北2(北京)

模型名稱

限流條件(超出任一數值時觸發限流)

每秒請求數(RPS)

同時處理中的任務數(並發數)

wan2.7-image-pro

5

5

wan2.7-image

5

5

wan2.6-image

5

5

wan2.6-t2i

1

5

wan2.5-t2i-preview

5

5

wanx2.0-t2i-turbo

2

2

wanx2.1-t2i-turbo

2

2

wanx2.1-t2i-plus

2

2

wan2.2-t2i-flash

2

2

wan2.2-t2i-plus

2

2

wan2.5-i2i-preview

5

5

wanx2.1-imageedit

2

2

德國(法蘭克福)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒請求數(RPS)

同時處理中的任務數(並發數)

wan2.6-t2i

全球

1

5

wan2.6-image

全球

5

5

Vidu系列

新加坡

模型名稱限流條件(超出任一數值時觸發限流)
每分鐘調用次數(RPM)同時處理中的任務數

vidu/vidu-image_reference2image

300

5

在單一百鍊API Key下,Vidu參考圖產生系列模型共享5個並發名額。即所有模型合計處於運行狀態的任務總數不得超過5。

HappyHorse系列

新加坡

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒調用次數(RPS)

同時處理中的任務數(並發數)

happyhorse-1.1-t2v

國際

5

5

happyhorse-1.1-i2v

國際

5

5

happyhorse-1.1-r2v

國際

5

5

happyhorse-1.0-t2v

國際

5

5

happyhorse-1.0-i2v

國際

5

5

happyhorse-1.0-r2v

國際

5

5

happyhorse-1.0-video-edit

國際

5

5

美國(維吉尼亞)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒請求數(RPS)

同時處理中的任務數(並發數)

happyhorse-1.1-t2v

全球

5

5

happyhorse-1.1-i2v

全球

5

5

happyhorse-1.1-r2v

全球

5

5

happyhorse-1.0-t2v

全球

5

5

happyhorse-1.0-i2v

全球

5

5

happyhorse-1.0-r2v

全球

5

5

happyhorse-1.0-video-edit

全球

5

5

華北2(北京)

模型名稱

限流條件(超出任一數值時觸發限流)

每秒請求數(RPS)

同時處理中的任務數(並發數)

happyhorse-1.1-t2v

5

5

happyhorse-1.1-i2v

5

5

happyhorse-1.1-r2v

5

5

happyhorse-1.0-t2v

5

5

happyhorse-1.0-i2v

5

5

happyhorse-1.0-r2v

5

5

happyhorse-1.0-video-edit

5

5

德國(法蘭克福)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒請求數(RPS)

同時處理中的任務數(並發數)

happyhorse-1.1-t2v

全球

5

5

happyhorse-1.1-i2v

全球

5

5

happyhorse-1.1-r2v

全球

5

5

happyhorse-1.0-t2v

全球

5

5

happyhorse-1.0-i2v

全球

5

5

happyhorse-1.0-r2v

全球

5

5

happyhorse-1.0-video-edit

全球

5

5

日本(東京)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒調用次數(RPS)

同時處理中的任務數(並發數)

happyhorse-1.0-video-edit

全球

5

5

萬相系列

說明wan3.0-video 和 wan3.0-video-prime 的限流值請前往 Model Studio 控制台模型廣場,切換至實際呼叫地域並查看對應模型詳情。

新加坡

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒請求數(RPS)

處理中的並發請求數

wan2.7-t2v-2026-06-12

國際

5

5

wan2.7-t2v-2026-04-25

國際

5

5

wan2.7-t2v

國際

5

5

wan2.6-t2v

國際

5

5

wan2.5-t2v-preview

國際

5

5

wan2.2-t2v-plus

國際

2

2

wan2.1-t2v-turbo

國際

2

2

wan2.1-t2v-plus

國際

2

2

wan2.7-i2v-2026-04-25

國際

5

5

wan2.7-i2v

國際

5

5

wan2.6-i2v-flash

國際

5

5

wan2.6-i2v

國際

5

5

wan2.5-i2v-preview

國際

5

5

wan2.2-i2v-flash

國際

2

2

wan2.1-i2v-plus

國際

2

2

wan2.1-i2v-turbo

國際

2

2

wan2.2-i2v-plus

國際

2

2

wan2.2-kf2v-flash

國際

2

2

wan2.1-kf2v-plus

國際

1

2

wan2.1-vace-plus

國際

2

2

wan2.7-videoedit

國際

5

5

wan2.7-r2v

國際

5

5

wan2.6-r2v-flash

國際

5

5

wan2.6-r2v

國際

5

5

wan2.2-animate-move

國際

5

1

wan2.2-animate-mix

國際

5

1

美國(維吉尼亞)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒調用次數(RPS)

同時處理中的任務數(並發數)

wan2.7-r2v-2026-06-12

全球

5

5

wan2.6-t2v

全球

5

5

wan2.6-i2v

全球

5

5

wan2.6-r2v

全球

5

5

wan2.6-t2v

美國

5

5

wan2.6-i2v

美國

5

5

華北2(北京)

模型名稱

限流條件(超出任一數值時觸發限流)

每秒請求數(RPS)

同時處理中的任務數(並發數)

wan2.7-r2v-2026-06-12

5

5

wan2.7-t2v-2026-06-12

5

5

wan2.7-t2v-2026-04-25

5

5

wan2.7-t2v

5

5

wan2.6-t2v

5

5

wan2.5-t2v-preview

5

5

wan2.2-t2v-plus

2

2

wanx2.1-t2v-turbo

2

2

wanx2.1-t2v-plus

2

2

wan2.7-i2v-2026-04-25

5

5

wan2.7-i2v

5

5

wan2.6-i2v-flash

5

5

wan2.6-i2v

5

5

wan2.5-i2v-preview

5

5

wan2.2-i2v-plus

2

2

wanx2.1-i2v-turbo

2

2

wanx2.1-i2v-plus

2

2

wan2.2-kf2v-flash

2

2

wanx2.1-kf2v-plus

2

2

wanx2.1-vace-plus

2

2

wan2.7-videoedit

5

5

wan2.7-r2v

5

5

wan2.6-r2v-flash

5

5

wan2.6-r2v

5

5

wan2.2-s2v-detect

5

同步介面無限制

wan2.2-s2v

5

1

wan2.2-animate-move

5

1

wan2.2-animate-mix

5

1

德國(法蘭克福)

模型名稱

服務部署範圍

限流條件(超出任一數值時觸發限流)

每秒調用次數(RPS)

同時處理中的任務數(並發數)

wan2.6-t2v

全球

5

5

wan2.6-i2v

全球

5

5

wan2.6-r2v

全球

5

5

聲動人像VideoRetalk

華北2(北京)

模型名稱

每秒調用次數(RPS)

同時處理中的任務數

videoretalk

1

1

任一時刻實際運行的任務只有1個,佇列中的其他任務處於排隊狀態。

視頻風格重繪

華北2(北京)

模型名稱

每秒請求數(RPS)

並發處理任務數

video-style-transform

20

2

同一時刻實際運行的任務只有1個,其他佇列中的任務處於排隊狀態。

Vidu系列

新加坡

模型名稱限流條件(超出任一數值時觸發限流)
每秒調用次數(RPS)同時處理中的任務數(並發數)

vidu/viduq3-mix_reference2video

5

5

在單一百鍊API Key下,Vidu視頻產生系列模型共享5個並發名額。即所有模型處於運行狀態的任務總數不得超過5。

vidu/viduq3-ad_reference2video

5

vidu/viduq3-drama_reference2video

5

vidu/viduq2-pro-fast_img2video

5

PixVerse系列

新加坡

模型名稱限流條件(超出任一數值時觸發限流)
每秒調用次數(RPS)同時處理中的任務數(並發數)

pixverse/pixverse-v6-t2v

5

5

在同一個百鍊API Key下,額度由這4個模型共享。即這4個模型運行中任務的總數不得超過5。

pixverse/pixverse-v6-it2v

5

pixverse/pixverse-v6-kf2v

5

pixverse/pixverse-v6-r2v

5

語音辨識

Qwen-Audio-ASR

新加坡

模型名稱

服務部署範圍

每分鐘請求次數(RPM)

qwen-audio-3.1-asr-flash

國際

600

qwen-audio-3.0-asr-flash

國際

600

中國(北京)

模型名稱

每分鐘請求次數(RPM)

qwen-audio-3.1-asr-flash

600

qwen-audio-3.0-asr-flash

600

Qwen-Audio-ASR-Streaming

新加坡

模型名稱

服務部署範圍

每分鐘請求次數(RPM)

qwen-audio-3.1-asr-flash-streaming

國際

1200

qwen-audio-3.0-asr-flash-streaming

國際

中國(北京)

模型名稱

每分鐘請求次數(RPM)

qwen-audio-3.1-asr-flash-streaming

1200

qwen-audio-3.0-asr-flash-streaming

Qwen-Audio-ASR-Filetrans

新加坡

模型名稱

服務部署範圍

每分鐘請求次數(RPM)

qwen-audio-3.1-asr-flash-filetrans

國際

600

qwen-audio-3.0-asr-flash-filetrans

國際

600

中國(北京)

模型名稱

每分鐘請求次數(RPM)

qwen-audio-3.1-asr-flash-filetrans

600

qwen-audio-3.0-asr-flash-filetrans

600

Qwen-Audio-ASR-Message

新加坡

模型名稱部署範圍每分鐘請求次數(RPM)
qwen-audio-3.1-asr-flash-message國際1200

中國(北京)

模型名稱每分鐘請求次數(RPM)
qwen-audio-3.1-asr-flash-message1200

Qwen3-ASR

新加坡

Qwen3-ASR-Flash-Filetrans

模型名稱

服務部署範圍

每分鐘調用次數(RPM)

qwen3-asr-flash-filetrans

國際

100

Qwen3-ASR-Flash

模型名稱

服務部署範圍

每分鐘調用次數(RPM)

qwen3-asr-flash

國際

100

美國(維吉尼亞)

模型名稱

服務部署範圍

每分鐘調用次數(RPM)

qwen3-asr-flash

美國

100

華北2(北京)

Qwen3-ASR-Flash-Filetrans

模型名稱

每分鐘調用次數(RPM)

qwen3-asr-flash-filetrans

100

Qwen3-ASR-Flash

模型名稱

每分鐘調用次數(RPM)

qwen3-asr-flash

100

Qwen3-ASR-Realtime

新加坡

模型名稱

服務部署範圍

每秒調用次數(RPS)

qwen3-asr-flash-realtime

國際

20

華北2(北京)

模型名稱

每秒請求次數(RPS)

qwen3-asr-flash-realtime

20

Fun-ASR

新加坡

模型名稱

服務部署範圍

每分鐘調用次數(RPM)

fun-asr

國際

600

fun-asr-flash-2026-06-15

國際

600

華北2(北京)

模型名稱

每分鐘請求次數(RPM)

fun-asr

600

fun-asr-flash-2026-06-15

Fun-ASR-Realtime

新加坡

模型名稱

服務部署範圍

每秒請求次數(RPS)

fun-asr-realtime

國際

20

華北2(北京)

模型名稱

每秒請求次數(RPS)

fun-asr-realtime

20

fun-asr-realtime-2026-02-28

fun-asr-flash-8k-realtime

fun-asr-flash-8k-realtime-2026-01-28

Paraformer

華北2(北京)

模型名稱

每秒請求次數(RPS)

paraformer-realtime-v2

20

paraformer-realtime-8k-v2

模型名稱

每分鐘請求次數(RPM)

paraformer-v2

1,200

模型名稱

每秒請求次數(RPS)

並行處理任務(並發數)

paraformer-8k-v2

20

100

語音合成

Qwen-Audio-TTS

新加坡

模型名稱服務部署範圍每分鐘請求次數(RPM)

qwen-audio-3.1-tts-plus

國際

180

qwen-audio-3.1-tts-flash

國際

180

qwen-audio-3.0-tts-plus

國際

180

qwen-audio-3.0-tts-flash

國際

180

華北2(北京)

模型名稱

每分鐘請求次數(RPM)

qwen-audio-3.1-tts-plus

180

qwen-audio-3.1-tts-flash

180

qwen-audio-3.0-tts-plus

180

qwen-audio-3.0-tts-flash

180

CosyVoice

新加坡

模型名稱

服務部署範圍

每秒請求次數(RPS)

cosyvoice-v3-plus

國際

3

cosyvoice-v3-flash

國際

華北2(北京)

模型名稱

每秒請求次數(RPS)

cosyvoice-v3.5-plus

3

cosyvoice-v3.5-flash

cosyvoice-v3-plus

cosyvoice-v3-flash

cosyvoice-v2

Qwen3-TTS

新加坡

Qwen3-TTS-Flash

模型名稱

服務部署範圍

每分鐘請求次數(RPM)

qwen3-tts-flash

國際

180

華北2(北京)

Qwen3-TTS-Flash

模型名稱

每分鐘請求次數(RPM)

qwen3-tts-flash

180

Qwen3-TTS-Realtime

新加坡

Qwen3-TTS-Flash-Realtime

模型名稱

服務部署範圍

每分鐘調用次數(RPM)

qwen3-tts-flash-realtime

國際

180

華北2(北京)

Qwen3-TTS-Flash-Realtime

模型名稱

每分鐘調用次數(RPM)

qwen3-tts-flash-realtime

180

音訊產生

Qwen-Audio-TTS-Next

新加坡

模型名稱每分鐘請求數(RPM)
qwen-audio-3.1-tts-next180

中國(北京)

模型名稱每分鐘請求數(RPM)
qwen-audio-3.1-tts-next180

語音對話

Qwen-Audio-Realtime

對 WebSocket 連線,RPM 限制的是每分鐘的連線請求次數。既有連線上的回應不計入 RPM。重新連線視為一次新的請求。目前對同時開啟的連線總數沒有單獨限制,但 TPM 限制仍然適用。各模型的限流數值請見下表。

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-audio-3.1-realtime-plus

國際

60

100,000

qwen-audio-3.1-realtime-flash

國際

60

100,000

qwen-audio-3.0-realtime-plus

國際

60

100,000

qwen-audio-3.0-realtime-flash

國際

60

100,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-audio-3.1-realtime-plus

60

100,000

qwen-audio-3.1-realtime-flash

60

100,000

qwen-audio-3.0-realtime-plus

60

100,000

qwen-audio-3.0-realtime-flash

60

100,000

音訊與視訊翻譯

Qwen3-LiveTranslate-Flash

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3-livetranslate-flash

國際

100

100,000

qwen3-livetranslate-flash-2025-12-01

國際

100

100,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘Token數(TPM)
含輸入與輸出Token

qwen3-livetranslate-flash

100

100,000

qwen3-livetranslate-flash-2025-12-01

Qwen-LiveTranslate-Flash-Realtime

對 WebSocket 連線而言,RPM 限制的是每分鐘的連線請求次數;既有連線上的回應不計入 RPM,重新連線則視為一次新的請求。目前對同時保持開啟的連線總數未另設單獨上限,但 TPM 限制仍然適用。各模型的限流值請見下方表格。

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-livetranslate-flash-realtime

國際

10

100,000

qwen3.5-livetranslate-flash-realtime

國際

qwen3.5-livetranslate-flash-realtime-2026-05-19

國際

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.8-livetranslate-flash-realtime

10

100,000

qwen3.5-livetranslate-flash-realtime

qwen3.5-livetranslate-flash-realtime-2026-05-19

音色複製/設計

Qwen-Audio-TTS/CosyVoice 聲音複製/設計

Qwen-Audio-TTS/CosyVoice 聲音複製/設計共用同一個模型,並共用限流額度。

新加坡

模型名稱

服務部署範圍

每秒請求次數(RPS)

voice-enrollment

國際

10

華北2(北京)

模型名稱

每秒請求次數(RPS)

voice-enrollment

10

Qwen3-TTS 聲音複製

新加坡

模型名稱

服務部署範圍

每分鐘調用次數(RPM)

qwen-voice-enrollment

國際

180

華北2(北京)

模型名稱

每分鐘調用次數(RPM)

qwen-voice-enrollment

180

音樂產生

Fun-Music

華北2(北京)

模型名稱

每分鐘調用次數(RPM)

fun-music-preview

180

fun-music-v1

180

向量與重排序模型

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen3.7-text-embedding

國際

24,000

1,000,000

text-embedding-v4

國際

1,800

1,000,000

text-embedding-v3

國際

6,000

24,000,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
每秒請求次數(RPS)每分鐘消耗Token數(TPM)
含輸入與輸出Token

text-embedding-v4

用Batch API調用服務時,不受限流限制。

30

1,200,000

中國香港

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

text-embedding-v4

中國香港

1,800

1,200,000

新加坡

模型名稱服務部署範圍限流條件
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
僅輸入Token

tongyi-embedding-vision-plus

國際

600

200,000

tongyi-embedding-vision-flash

國際

600

200,000

華北2(北京)

模型名稱限流條件
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
僅輸入Token

qwen3-vl-embedding

2,400

1,200,000

multimodal-embedding-v1

120

1,000,000

新加坡

模型名稱服務部署範圍限流條件
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘Token數(TPM)
僅輸入Token

qwen3-rerank

國際

5,400

5,000,000,000

華北2(北京)

模型名稱限流條件
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘Token數(TPM)
僅輸入Token

qwen3-rerank

5,400

5,000,000,000

qwen3-vl-rerank

600

9,000,000

gte-rerank-v2

5,040

4,980,000,000

行業

意圖理解

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

tongyi-intent-detect-v3

1,200

1,000,000

角色扮演

新加坡

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-plus-character

國際

120

500,000

qwen-flash-character

國際

120

500,000

qwen-plus-character-ja

國際

120

500,000

美國(維吉尼亞)

模型名稱服務部署範圍限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘調用次數(RPM)每分鐘消耗Token數(TPM)
含輸入與輸出Token

qwen-plus-character

全球

120

500,000

qwen-flash-character

全球

120

500,000

華北2(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘Token數(TPM)
含輸入與輸出Token

qwen-plus-character

120

500,000

qwen-flash-character

120

500,000

決策模型

新加坡

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘Token數(TPM)
含輸入與輸出Token

decision-model-preview

1,200

2,000,000

中國(北京)

模型名稱限流條件(超出任一數值時觸發限流)
以下為每分鐘限流條件,服務可能按 RPS(RPM/60)與 TPS(TPM/60)限制
每分鐘請求次數(RPM)每分鐘Token數(TPM)
含輸入與輸出Token

decision-model-preview

1,200

2,000,000

離線模型

更多資訊,請參見模型下線機制。

FAQ

為什麼觸發限流?

根據錯誤訊息判斷觸發的限流類型:

  • Requests rate limit exceeded 或 You exceeded your current requests list:觸發每分鐘請求數(RPM)限流。
  • Allocated quota exceeded 或 You exceeded your current quota:觸發每分鐘 Token 數(TPM)限流。
  • Request rate increased too quickly:請求頻率在短時間內激增,觸發系統穩定性保護——即使總調用次數未達 RPM 或 TPM 上限也可能觸發。
  • 其他錯誤請參見錯誤碼確認原因。

短時間內的請求爆發即使未超出分鐘級上限也可能觸發限流,秒級執行口徑參見靜態限流規則。

如何查看模型調用量?

模型調用發生後分鐘級即可在監控圖表中查看。登入監控頁面(新加坡或北京),在左側導覽列選擇維運管理 > 監控,進入監控總覽頁面,設定查詢條件(例如時間範圍、業務空間等),然後在模型區域找到目標模型並點擊查看詳情,即可查看該模型的調用統計資料。詳情請參見監控文件。

監控資料按分鐘級更新,僅供參考,不作為計費依據。

遇到限流後多久恢復?

通常會在一分鐘內恢復。如出現其他錯誤,請參見錯誤碼處理。

模型響應速度與付費有關嗎?

模型響應速度與是否付費無關。免費額度與付費調用使用相同的模型服務基礎設施,同一模型的產生速度完全相同。免費額度只控制請求是否被接受——額度用盡時返回 403 錯誤(開啟免費額度用完即停後),不會降低已接受請求的產生速度。

什麼因素影響模型響應速度?

  • 模型類型:輕量模型(如 qwen-flash)的產生速度比大模型(如 qwen-max)更快。
  • 輸出長度:輸出 Token 越多,總耗時越長。
  • 伺服器負載:尖峰時段可能出現輕微波動。

限流會降低已接受請求的產生速度嗎?

不會。限流(RPM/TPM)只會拒絕超出限額的請求(返回 429 錯誤);免費額度用盡(開啟 免費額度用完即停)時返回 403 錯誤,同樣不影響已接受請求的速度。429 是限流,403 是額度用盡,兩者都屬於拒絕機制。

如何避免限流?

  1. 選擇限流額度更寬鬆的模型:穩定版本或最新版本的限流比過時的快照版本更寬鬆。

  2. 優化調用策略
    • 降低調用頻率:收到 Requests rate limit exceeded 或 You exceeded your current requests list 時,請降低 API 調用頻率。
    • 降低 Token 消耗:收到 Allocated quota exceeded 或 You exceeded your current quota 時,請縮短輸入或限制輸出長度。
    • 平滑請求速率:收到 Request rate increased too quickly 時,請使用均速調度、指數退避或請求佇列,將請求均勻分布,避免瞬時尖峰。
  3. 增加備援模型

    觸發限流後可切換到備援模型繼續產生,降低失敗機率並提高吞吐量。以下程式碼在調用 qwen-plus 觸發限流後,自動切換到 qwen-flash 重試。您也可以選擇不同系列的模型(如 qwen-flash)作為備援模型,進一步降低主備模型同時被限流的風險。

    範例程式碼

    import os
    import asyncio
    from openai import AsyncOpenAI, APIStatusError
    
    # 配置
    API_KEY = os.getenv("DASHSCOPE_API_KEY")
    # 主用模型
    MODEL = "qwen-plus"
    # 备选模型
    BACKUP_MODEL = "qwen-flash"
    # 测试问题
    QUESTION = "你是谁?"
    # 并发设置
    NUM_REQUESTS = 10
    
    client = AsyncOpenAI(
        api_key=API_KEY,
        # 调用时请将WorkspaceId替换为真实的业务空间ID
        base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1"
    )
    
    async def send_request(model):
        """发送单个请求"""
        try:
            await client.chat.completions.create(
                model=model,
                messages=[{"role": "user", "content": QUESTION}]
            )
            return True
        except APIStatusError as e:
            if e.status_code == 429:
                print(f"[限流触发] 模型 {model}")
                return False
            raise
        except Exception as e:
            print(f"[请求失败] 模型 {model},错误:{e}")
            return False
    
    async def task(i):
        # 尝试主模型
        if await send_request(MODEL):
            return True
        # 限流时尝试备用模型
        return await send_request(BACKUP_MODEL)
    
    async def main():
        results = await asyncio.gather(*(task(i) for i in range(NUM_REQUESTS)))
        print(f"成功请求: {sum(results)}, 失败请求: {len(results) - sum(results)}")
    
    if __name__ == "__main__":
        asyncio.run(main())
    
  4. 拆分任務:長對話或大型文件會快速消耗大量 Token。請將大批次任務拆分為小批次,並在錯開的時段提交。

  5. 批量推理:不需要即時回應時,可使用批量推理(Batch API)。批量請求不受即時限流約束,但需考慮排隊與處理時間。

如何控制 Token 用量或費用支出?

限流只約束單位時間內的調用速率,不限制累計用量。如需控制 Token 用量或費用支出,可透過以下方式管理:

  • 設定消費限制與費用警示:在賬單費用卡片中設定費用警示,啟用每月消費限制並設定門檻通知,達到門檻時會收到警示,避免超額消費。詳情請參見賬單查詢與費用管理。
  • 開啟免費額度用完即停:支援免費額度的模型可開啟免費額度用完即停,免費額度用盡後調用自動停止,避免產生額外費用。詳情請參見新使用者免費額度。
  • 監控模型用量:定期檢查各模型的 Token 用量,及時發現異常增長。請參見上方如何查看模型用量?。

儲值後是否還會被限流?

儲值不會改變靜態限流模型的 RPM 與 TPM 限流門檻。限流配置在阿里雲主帳號層級,與計費無關;儲值(隨用隨付)只能確保帳號不會因欠費被停用,不會提高靜態限流額度。採用動態限流的模型,TPM 限流檔位基於百鍊月消費金額自動調整。

如需更高的限流額度,請聯絡您的業務經理申請。