Appelez l'endpoint POST /api/v1/models/limits pour mettre à jour les quotas de limite de taux (QPM/TPM) des modèles d'un espace de travail donné. Les opérations de fusion par superposition et de suppression de limite de taux sont prises en charge.
Prérequis
Vous avez créé une clé API et l'avez configurée comme variable d'environnement DASHSCOPE_API_KEY. Pour plus d'informations, consultez Configurer une clé API dans les variables d'environnement.
Requête
-
Méthode HTTP : POST
-
URL de la requête
Remplacez
{WorkspaceId}par votre ID d'espace de travail.Région
Endpoint
Chine (Pékin)
https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits -
Authentification
Définissez
Authorization: Bearer {API_KEY}dans l'en-tête de la requête.
Paramètres de la requête
Transmettez tous les paramètres dans le corps de la requête.
| Paramètre | Type | Obligatoire | Description |
|---|---|---|---|
models | Array[Object] | Oui | Liste des éléments de limite de taux par modèle. Obligatoire. Le nombre d'éléments doit être compris entre 1 et 200. Exemple : |
models[].model | String | Oui | ID du modèle. Ne peut pas être vide. Exemples : |
models[].operation_type | String | Non | Type d'opération. Valeurs valides :
Valeur par défaut : |
models[].request_limit | Number | Non | Limite du nombre de requêtes (QPM), valeur non négative. Nombre maximal de requêtes par minute, exprimé en requêtes/minute. Ce champ doit être vide lorsque |
models[].request_limit_period | Number | Non | Période de la limite de taux de requêtes, entier positif en secondes. Par exemple, |
models[].usage_limit | Number | Non | Limite d'utilisation (TPM), valeur non négative. Utilisation maximale de tokens par minute. Ce champ doit être vide lorsque |
models[].usage_limit_period | Number | Non | Période de la limite d'utilisation, entier positif en secondes. Par exemple, |
Paramètres de réponse
Paramètre | Type | Description |
|---|---|---|
request_id | String | ID de la requête. Exemple : |
code | String | Code d'erreur. |
message | String | Message d'erreur. |
success | Boolean | Indique si l'appel a réussi. Exemple : |
output | Object | Données métier. |
Scénario d'exemption TPM
Pour limiter uniquement le RPM et exempter le TPM, nous recommandons une approche en deux étapes. Appelez d'abord cet endpoint avec {"model":"X","operation_type":"DELETE"} pour supprimer toutes les limites de taux du modèle cible. Transmettez ensuite {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} pour définir uniquement le QPM. Ces deux étapes n'étant pas atomiques, un bref intervalle sans aucune limite subsiste entre les deux opérations.
Exemples de requêtes
Exemple 1 : Définir QPM=60 et TPM=100000curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
--header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
--header 'Content-Type: application/json' \
--data '{
"models": [
{
"model": "qwen-plus",
"operation_type": "OVERLAY",
"request_limit": 60,
"request_limit_period": 60,
"usage_limit": 100000,
"usage_limit_period": 60
}
]
}'
Exemple 2 : Supprimer les limites de taux
curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
--header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
--header 'Content-Type: application/json' \
--data '{
"models": [
{"model": "qwen-plus", "operation_type": "DELETE"}
]
}'
Exemple de réponse
Exemple de succès{
"code": null,
"message": null,
"success": true,
"output": null,
"request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
Exemple d'échec
{
"code": "InvalidParameter",
"message": "Cannot set TPM without QPM for model qwen-plus: no existing QPM limit, please set QPM first",
"success": false,
"output": null,
"request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
Codes d'erreur
En cas d'échec de l'appel, un message d'erreur s'affiche. Pour plus d'informations sur les codes d'erreur et les solutions, consultez Messages d'erreur.