Llama al endpoint POST /api/v1/models/limits para actualizar las cuotas de límite de tasa (QPM/TPM) de los modelos en un espacio de trabajo específico. Se admiten operaciones de fusión superpuesta y eliminación de límites de tasa.
Requisitos previos
Se ha creado una clave API y se ha configurado como la variable de entorno DASHSCOPE_API_KEY. Para obtener más información, consulte Configurar una clave API en variables de entorno.
Solicitud
-
Método HTTP: POST
-
URL de solicitud
Reemplace
{WorkspaceId}con su ID de espacio de trabajo.Región Endpoint China (Beijing) https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits -
Autenticación
Establezca
Authorization: Bearer {API_KEY}en el encabezado de la solicitud.
Parámetros de solicitud
Todos los parámetros se pasan a través del cuerpo de la solicitud.
Parámetro | Tipo | Obligatorio | Descripción |
|---|---|---|---|
| Array[Object] | Sí | Lista de elementos de límite de tasa por modelo. El número de elementos debe ser de 1 a 200. Ejemplo: |
| String | Sí | El ID del modelo. No puede estar vacío. Ejemplos: |
| String | No | Tipo de operación. Valores válidos:
Valor predeterminado: |
| Número | No | Límite de recuento de solicitudes (QPM), no negativo. Número máximo de solicitudes por minuto, en solicitudes/minuto. Debe estar vacío cuando |
| Número | No | Periodo de tiempo para el límite de tasa de solicitudes, un entero positivo en segundos. Por ejemplo, |
| Número | No | Límite de uso (TPM), no negativo. Uso máximo de tokens por minuto. Debe estar vacío cuando |
| Número | No | Periodo de tiempo para el límite de uso, un entero positivo en segundos. Por ejemplo, |
Parámetros de respuesta
Parámetro | Tipo | Descripción |
|---|---|---|
| String | El ID de la solicitud. Ejemplo: |
| String | Código de error. |
| String | Mensaje de error. |
| Boolean | Indica si la llamada fue exitosa. Ejemplo: |
| Object | Datos comerciales. |
Escenario de exención de TPM
Para limitar solo RPM y eximir TPM, primero llame a este endpoint con {"model":"X","operation_type":"DELETE"} para eliminar todos los límites de tasa del modelo objetivo. Luego pase {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} para establecer solo el QPM. Los dos pasos no son atómicos, por lo que hay una breve ventana sin ningún límite entre ellos.
Ejemplos de solicitudes
Ejemplo 1: Establecer QPM=60 y TPM=100000curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
--header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
--header 'Content-Type: application/json' \
--data '{
"models": [
{
"model": "qwen-plus",
"operation_type": "OVERLAY",
"request_limit": 60,
"request_limit_period": 60,
"usage_limit": 100000,
"usage_limit_period": 60
}
]
}'
Ejemplo 2: Eliminar límites de tasa
curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
--header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
--header 'Content-Type: application/json' \
--data '{
"models": [
{"model": "qwen-plus", "operation_type": "DELETE"}
]
}'
Respuesta de ejemplo
Ejemplo de éxito{
"code": null,
"message": null,
"success": true,
"output": null,
"request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
Ejemplo de fallo
{
"code": "InvalidParameter",
"message": "Cannot set TPM without QPM for model qwen-plus: no existing QPM limit, please set QPM first",
"success": false,
"output": null,
"request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
Códigos de error
Si la llamada falla, se devuelve un mensaje de error. Para obtener más información sobre códigos de error y soluciones, consulte Mensajes de error.