AI Search Open Platform le permite invocar servicios de modelos de lenguaje grande (LLM) mediante una API. Estos servicios incluyen modelos de lenguaje grande específicos para Retrieval-Augmented Generation (RAG), ajustados mediante fine-tune a partir de los modelos base propietarios de Alibaba. Puede utilizar estos modelos en escenarios de RAG junto con servicios de procesamiento y recuperación de documentos para mejorar la precisión de las respuestas y reducir la tasa de alucinaciones.
|
Servicio |
ID del servicio (service_id) |
Descripción |
Límite de QPS (tanto para cuentas de Alibaba Cloud como para usuarios de RAM) |
|
Qwen3-235B-A22B |
qwen3-235b-a22b |
Modelo de lenguaje grande (LLM) de última generación de la serie Qwen. Gracias a un entrenamiento exhaustivo, Qwen3 logra avances significativos en inference, seguimiento de instrucciones, capacidades de agente y compatibilidad multilingüe. Admite más de 100 idiomas y dialectos, y demuestra una potente capacidad de comprensión, razonamiento y generación multilingüe. |
3 Nota
Para solicitar un límite mayor de QPS de la API, envíe un ticket al soporte técnico. |
|
OpenSearch-Qwen-Turbo |
ops-qwen-turbo |
Este modelo utiliza el modelo de lenguaje grande Qwen-Turbo como base. Se ajusta mediante fine-tune con aprendizaje supervisado para mejorar las capacidades de recuperación y reducir la generación de contenido dañino. |
|
|
Qwen-Turbo |
qwen-turbo |
El modelo más rápido y rentable de la serie Qwen. Es adecuado para tareas sencillas. |
|
|
Qwen-Plus |
qwen-plus |
Un modelo equilibrado que ofrece un balance entre rendimiento, costo y velocidad respecto a Qwen-Max y Qwen-Turbo. Es adecuado para tareas de complejidad moderada. |
|
|
Qwen-Max |
qwen-max |
El modelo de mayor rendimiento de la serie Qwen. Es adecuado para tareas complejas y de múltiples pasos. |
|
|
DeepSeek-R1 |
deepseek-r1 |
Un modelo de lenguaje grande especializado en tareas de razonamiento complejo. Destaca por su capacidad para comprender instrucciones complejas, garantizar la precisión de los resultados y ser compatible con la función de búsqueda web. |
|
|
DeepSeek-V3 |
deepseek-v3 |
DeepSeek-V3 es un modelo Mixture-of-Experts (MoE) que destaca en el procesamiento de textos largos, código, matemáticas y conocimiento enciclopédico, con una competencia sobresaliente en chino. |
|
|
DeepSeek-R1-distill-qwen-7b |
deepseek-r1-distill-qwen-7b |
Modelo creado mediante destilación de conocimiento para ajustar Qwen-7B con muestras de entrenamiento generadas por DeepSeek-R1. |
|
|
DeepSeek-R1-distill-qwen-14b |
deepseek-r1-distill-qwen-14b |
Modelo creado mediante destilación de conocimiento para ajustar Qwen-14B con muestras de entrenamiento generadas por DeepSeek-R1. |
|
|
DeepSeek-V4-Pro |
deepseek-v4-pro |
Un modelo grande insignia de tipo Mixture-of-Experts (MoE) con 1.6T de parámetros totales y 49B de parámetros activados, que admite de forma nativa un contexto ultralargo de millones de tokens. Construido sobre datos de entrenamiento masivos y de alta calidad, posee capacidades de primer nivel en lógica matemática, razonamiento complejo, programación profesional y análisis profundo de textos largos. Es ideal para escenarios avanzados como investigación científica de alto nivel, tareas ofimáticas complejas y agentes inteligentes profundos. |
|
|
DeepSeek-V4-Flash |
deepseek-v4-flash |
Un modelo Mixture-of-Experts (MoE) eficiente y ligero con 284B de parámetros totales y 13B de parámetros activados, que admite de forma nativa un contexto ultralargo de millones de tokens. Ofrece inference rápida, baja latencia y bajo costo. Con capacidades generales equilibradas, está diseñado para tareas ligeras de alta concurrencia y es adecuado para escenarios de propósito general como conversaciones cotidianas, creación de contenido, RAG básico y procesamiento por lotes de texto. |
Requisitos previos
-
Obtenga las credenciales de autenticación
La plataforma abierta AI Search requiere una clave de API para la autenticación. Para obtener instrucciones, consulte Get an API key.
-
Obtenga el endpoint del servicio
Puede invocar el servicio a través de la red pública o de una VPC. Para más detalles, consulte Get the service endpoint.
Solicitud
Notas generales
El cuerpo de la solicitud no puede exceder los 8 MB.
Método HTTP
POST
URL
{host}/v3/openapi/workspaces/{workspace_name}/text-generation/{service_id}
Parámetros de ruta
-
host: El endpoint del servicio. Puede invocar la API a través de Internet o desde una VPC. Para más información, consulte Obtain a service endpoint.
En la página API keys, en la sección Access Domain Names, encontrará el Public API Domain Name y el Private API Domain Name (VPC). Seleccione el nombre de dominio apropiado como host. Puede cambiar al espacio de trabajo deseado mediante la lista desplegable en la parte superior de la página.
workspace_name: El nombre del espacio de trabajo. Ejemplo: default.
service_id: El ID del servicio integrado. Ejemplo: ops-qwen-turbo.
Parámetros de la solicitud
Parámetros de encabezado
Autenticación mediante clave de API
|
Parámetro |
Tipo |
Obligatorio |
Descripción |
Ejemplo |
|
Content-Type |
String |
Sí |
El formato de la solicitud. Debe ser |
application/json |
|
Authorization |
String |
Sí |
La clave de API para la autenticación. |
Bearer OS-d1**2a |
Parámetros del cuerpo
|
Parámetro |
Tipo |
Obligatorio |
Descripción |
Ejemplo |
|
messages |
List |
Sí |
El historial de conversación entre el usuario y el modelo. Cada elemento de la lista es un objeto con las claves
|
|
|
stream |
Boolean |
No |
Especifica si se debe devolver una respuesta en streaming. El valor predeterminado es Si se establece en |
false |
|
enable_search |
Boolean |
No |
Especifica si se debe habilitar la búsqueda web. El valor predeterminado es Cuando se establece en Nota
Actualmente, esta función solo es compatible con el modelo deepseek-r1. |
false |
|
csi_level |
String |
No |
El nivel de moderación de contenido. Valor predeterminado: Valores válidos:
|
strict |
|
parameters |
Map |
No |
Un mapa de parámetros ajustables para el modelo de lenguaje grande. |
N/A |
|
parameters.search_return_result |
Boolean |
No |
Este parámetro solo surte efecto cuando
|
false |
|
parameters.search_top_k |
Integer |
No |
El número de resultados de búsqueda web que se devolverán. Nota
Este parámetro solo surte efecto cuando |
5 |
|
parameters.search_way |
String |
No |
La estrategia de búsqueda web, idéntica a la de la API de búsqueda web.
Nota
Este parámetro solo surte efecto cuando |
normal |
|
parameters.seed |
Integer |
No |
Una semilla de números aleatorios para la generación. Controla la aleatoriedad de la salida del modelo. La semilla debe ser un entero sin signo de 64 bits. Cuando se proporciona una semilla, el modelo intenta producir resultados iguales o similares, pero no se garantiza una salida determinista. |
"parameters":{"seed":666} |
|
parameters.max_tokens |
Integer |
No |
El número máximo de tokens a generar. Para Qwen-Turbo, el valor máximo y predeterminado es 1,500. Para Qwen-Max y Qwen-Plus, el valor máximo y predeterminado es 2,000. |
"parameters":{"max_tokens":1500} |
|
parameters.top_p |
Float |
No |
El umbral de probabilidad para el muestreo de núcleo. Por ejemplo, un valor de |
"parameters":{"top_p":0.7} |
|
parameters.top_k |
Integer |
No |
El tamaño del conjunto de candidatos para el muestreo. Por ejemplo, un valor de |
"parameters":{"top_k":50} |
|
parameters.repetition_penalty |
Float |
No |
Controla la penalización por repetir tokens en una secuencia. Valores más altos reducen la repetición. Un valor de |
"parameters":{"repetition_penalty":1.0} |
|
parameters.presence_penalty |
Float |
No |
Controla la penalización por repetir tokens en cualquier parte de toda la salida. Valores más altos reducen la repetición. El valor debe estar en el rango [-2.0, 2.0]. |
"parameters":{"presence_penalty":1.0} |
|
parameters.temperature |
Float |
No |
Controla el grado de aleatoriedad y diversidad en la salida. Un valor de temperatura más alto suaviza la distribución de probabilidad de los tokens candidatos, lo que hace que las palabras menos probables sean más probables y aumenta la diversidad. Un valor más bajo agudiza el pico de la distribución, lo que hace que las palabras de alta probabilidad sean más probables y aumenta el determinismo. El valor debe estar en el rango [0, 2). No se recomienda un valor de 0. |
"parameters":{"temperature":0.85} |
|
parameters.stop |
string/array |
No |
Proporciona un control preciso al detener la generación antes de que el modelo produzca una cadena o un ID de token especificado. El contenido generado no incluirá la secuencia de parada. El valor puede ser una cadena o un arreglo.
|
"parameters":{"stop":["Hello","Weather"]} |
El límite máximo de tokens para ops-qwen-turbo es 4,000.
Parámetros de respuesta
|
Parámetro |
Tipo |
Descripción |
Ejemplo |
|
result.text |
String |
El texto generado por el modelo. |
Zhengzhou is a... |
|
result.search_results |
List<SearchResult> |
Si |
[] |
|
result.search_results[].title |
String |
El título del resultado de búsqueda. |
Today's weather in Zhengzhou |
|
result.search_results[].url |
String |
La URL del resultado de búsqueda. |
https://xxxx.com |
|
result.search_results[].snippet |
String |
Un breve fragmento del contenido de la página web del resultado de búsqueda. |
The weather in Zhengzhou is sunny today. |
|
usage.output_tokens |
Integer |
El número de tokens en el texto generado. |
100 |
|
usage.input_tokens |
Integer |
El número de tokens en el prompt de entrada. |
100 |
|
usage.total_tokens |
Integer |
El número total de tokens de la solicitud (entrada y salida). |
200 |
Ejemplo de solicitud curl
curl -X POST \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
"http://xxxx-hangzhou.opensearch.aliyuncs.com/v3/openapi/workspaces/default/text-generation/qwen-max" \
-d '{
"messages":[
{
"role":"system",
"content":"You are a helpful assistant."
},
{
"role":"user",
"content":"What is the capital of Henan Province?"
},
{
"role":"assistant",
"content":"Zhengzhou"
},
{
"role":"user",
"content":"What is the weather like in Zhengzhou today?"
}
],
"parameters":{
"search_return_result":true,
"search_top_k":5,
"search_way":"normal"
},
"stream":false,
"enable_search":true
}'
Ejemplos de respuesta
Ejemplo de respuesta exitosa
{
"request_id": "450fcb80-f796-****-8d69-e1e86d29aa9f",
"latency": 564.903929,
"result": {
"text":"According to the latest weather forecast, it will be cloudy in Zhengzhou today, with temperatures between 9°C and 19°C, and a light northeasterly breeze...",
"search_results":[
{
"url":"https://xxxxx.com",
"title":"xxxx",
"snippet":"The weather in Zhengzhou is sunny today."
}
]
},
"usage": {
"output_tokens": 934,
"input_tokens": 798,
"total_tokens": 1732
}
}
Ejemplo de respuesta de error
Si ocurre un error, la respuesta incluye un code y un message que explican el error.
{
"request_id": "45C8C9E5-6BCB-****-80D3-E298F788512B",
"latency": 0,
"code": "InvalidParameter",
"message": "JSON parse error: Unexpected character ..."
}
Códigos de estado
Para más información, consulte Status codes para AI Search Open Platform.