Panggil endpoint POST /api/v1/models/limits untuk memperbarui kuota batas laju (QPM/TPM) model dalam ruang kerja tertentu. Operasi merge overlay dan delete rate limit didukung.
Prasyarat
Kunci API telah dibuat dan dikonfigurasi sebagai variabel lingkungan DASHSCOPE_API_KEY. Untuk informasi selengkapnya, lihat Konfigurasikan kunci API dalam variabel lingkungan.
Permintaan
-
Metode HTTP: POST
-
URL Permintaan
Ganti
{WorkspaceId}dengan ID ruang kerja Anda.Region
Endpoint
China (Beijing)
https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits -
Otentikasi
Tetapkan
Authorization: Bearer {API_KEY}di header permintaan.
Parameter permintaan
Semua parameter dikirim melalui badan permintaan.
Parameter | Type | Required | Description |
|---|---|---|---|
models | Array[Object] | Yes | Daftar item batas laju per model. Wajib diisi. Jumlah item harus antara 1 hingga 200. Contoh: |
models[].model | String | Yes | ID model. Tidak boleh kosong. Contoh: |
models[].operation_type | String | No | Jenis operasi. Nilai yang valid:
Nilai default: |
models[].request_limit | Number | No | Batas jumlah permintaan (QPM), bernilai non-negatif. Jumlah maksimum permintaan per menit, dalam satuan permintaan/menit. Harus kosong ketika |
models[].request_limit_period | Number | No | Periode waktu untuk batas laju permintaan, berupa bilangan bulat positif dalam detik. Misalnya, |
models[].usage_limit | Number | No | Batas penggunaan (TPM), bernilai non-negatif. Penggunaan token maksimum per menit. Harus kosong ketika |
models[].usage_limit_period | Number | No | Periode waktu untuk batas penggunaan, berupa bilangan bulat positif dalam detik. Misalnya, |
Parameter respons
Parameter | Type | Description |
|---|---|---|
request_id | String | ID permintaan. Contoh: |
code | String | Kode kesalahan. |
message | String | Pesan kesalahan. |
success | Boolean | Apakah pemanggilan berhasil. Contoh: |
output | Object | Data bisnis. |
Skenario pengecualian TPM
Untuk membatasi hanya RPM dan mengecualikan TPM, gunakan pendekatan dua langkah berikut: pertama, panggil endpoint ini dengan {"model":"X","operation_type":"DELETE"} untuk menghapus semua batas laju model target; kemudian, kirim {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} untuk mengatur hanya QPM. Kedua langkah ini tidak bersifat atomik, sehingga terdapat jendela singkat tanpa batas di antaranya.
Contoh permintaan
Contoh 1: Atur QPM=60 dan TPM=100000curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
--header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
--header 'Content-Type: application/json' \
--data '{
"models": [
{
"model": "qwen-plus",
"operation_type": "OVERLAY",
"request_limit": 60,
"request_limit_period": 60,
"usage_limit": 100000,
"usage_limit_period": 60
}
]
}'
Contoh 2: Hapus batas laju
curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
--header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
--header 'Content-Type: application/json' \
--data '{
"models": [
{"model": "qwen-plus", "operation_type": "DELETE"}
]
}'
Contoh respons
Contoh sukses{
"code": null,
"message": null,
"success": true,
"output": null,
"request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
Contoh Kegagalan
{
"code": "InvalidParameter",
"message": "Cannot set TPM without QPM for model qwen-plus: no existing QPM limit, please set QPM first",
"success": false,
"output": null,
"request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
Kode kesalahan
Jika pemanggilan gagal, pesan kesalahan akan dikembalikan. Untuk informasi selengkapnya tentang kode kesalahan dan solusi, lihat Pesan kesalahan.