Parámetros de entrada y salida para llamar a Qwen-MT a través de la interfaz compatible con OpenAI o la API de DashScope.
Referencias: Traducción automática (Qwen-MT)
Compatible con OpenAI
Región de Singapore
base_url para el SDK: https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1
Endpoint HTTP: POST https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions
Región de Virginia
base_url para el SDK: https://{WorkspaceId}.us-east-1.maas.aliyuncs.com/compatible-mode/v1
Endpoint HTTP: POST https://{WorkspaceId}.us-east-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions
Región de Pekín
base_url para el SDK: https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1
Endpoint HTTP: POST https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1/chat/completions
ImportanteAlibaba Cloud Model Studio ha lanzado dominios específicos de espacio de trabajo para las regiones de China (Pekín), Singapore y China (Hong Kong). Los nuevos dominios dedicados ofrecen un rendimiento superior y una mayor estabilidad para las solicitudes de inferencia. Recomendamos migrar a los nuevos dominios:
- China (Pekín): de
https://dashscope.aliyuncs.comahttps://{WorkspaceId}.cn-beijing.maas.aliyuncs.com - Singapur: de
https://dashscope-intl.aliyuncs.comahttps://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com - China (Hong Kong): de
https://cn-hongkong.dashscope.aliyuncs.comahttps://{WorkspaceId}.cn-hongkong.maas.aliyuncs.com
{WorkspaceId} es su ID de espacio de trabajo, que se encuentra en la página Workspace Details de la consola de Alibaba Cloud Model Studio. El dominio existente permanece totalmente funcional.
Primero, cree una clave API y configúrela como variable de entorno . Si utiliza el SDK de OpenAI, instale el SDK .
Cuerpo de la solicitud | Uso básicoPythonNode.jscurlLos endpoints y las claves de API difieren según la región. El siguiente es el Singapore endpoint. Intervención de terminologíaPythonNode.jscurlLos endpoints y las claves de API difieren según la región. El siguiente es el Singapore endpoint. Memoria de traducciónPythonNode.jscurlLos endpoints y las claves de API difieren según la región. El siguiente es el Singapore endpoint. Indicaciones de dominioPythonNode.jscurlLos endpoints y las claves de API difieren según la región. El siguiente es el Singapore endpoint. |
model Nombre del modelo. Compatibles: qwen-mt-plus, qwen-mt-flash, qwen-mt-lite. | |
messages Matriz de mensajes que proporcionan contexto al modelo. Solo se admiten mensajes de usuario. | |
stream Habilita el modo de salida en streaming. Valores válidos:
Notaqwen-mt-flash y qwen-mt-lite devuelven datos de forma incremental (cada fragmento contiene solo contenido nuevo). qwen-mt-plus devuelve datos de forma no incremental (cada fragmento contiene la secuencia completa hasta la fecha). Este comportamiento no se puede cambiar. Ejemplo: I I didn I didn't I didn't laugh I didn't laugh after ... | |
stream_options Los elementos de configuración para la salida en streaming. Este parámetro solo tiene efecto cuando | |
max_tokens Número máximo de tokens a generar. Si la salida excede este valor, la respuesta se trunca. Los valores predeterminado y máximo corresponden a la longitud máxima de salida del modelo. Para obtener más información, consulte Selección de modelos. | |
seed Semilla de número aleatorio para resultados reproducibles. Usar la misma Rango de valores: | |
temperature Temperatura de muestreo que controla la diversidad del texto generado. Valores más altos producen texto más diverso. Valores más bajos producen texto más determinista. Rango de valores: [0, 2) Tanto | |
top_p Umbral de probabilidad para el muestreo de núcleo que controla la diversidad del texto generado. Valores más altos producen texto más diverso. Valores más bajos producen texto más determinista. Rango de valores: (0, 1.0] Tanto | |
top_k Tamaño del conjunto de candidatos para el muestreo durante la generación. Por ejemplo, configurar esto como 50 significa que solo los 50 tokens principales por puntuación forman el grupo de muestreo. Los valores más grandes aumentan la aleatoriedad; los valores más pequeños aumentan el determinismo. Si el valor es None o mayor que 100, top_k se desactiva y solo top_p surte efecto. El valor debe ser mayor o igual a 0. Parámetro no estándar de OpenAI. SDK de Python: colóquelo en el objeto extra_body | |
repetition_penalty Penalización por repetición en secuencias consecutivas. Los valores más altos reducen la repetición. Un valor de 1.0 no aplica ninguna penalización. Debe ser mayor que 0, sin límite superior estricto. Parámetro no estándar de OpenAI. SDK de Python: colóquelo en el objeto extra_body | |
translation_options Parámetros de traducción. Parámetro no estándar de OpenAI. SDK de Python: colóquelo en el objeto extra_body |
Objeto de respuesta de chat (salida sin streaming) | |
id ID único de solicitud. | |
choices Matriz de contenido generado por el modelo. | |
created La marca de tiempo UNIX cuando se creó la solicitud. | |
model El modelo utilizado para la solicitud. | |
object Este valor siempre es | |
service_tier Actualmente fijo en | |
system_fingerprint Actualmente fijo en | |
usage Consumo de tokens para la solicitud. Propiedades completion_tokens Número de tokens en la salida del modelo. prompt_tokens Número de tokens en la entrada. total_tokens Total de tokens consumidos, igual a completion_tokens_details Actualmente fijo en prompt_tokens_details Actualmente fijo en |
Objeto de fragmento de respuesta de chat (salida en streaming) | |
id El ID único de la llamada. Cada objeto de fragmento tiene el mismo ID. | |
choices Una matriz de contenido generado por el modelo. Si | |
created La marca de tiempo UNIX cuando se creó la solicitud. Cada fragmento tiene la misma marca de tiempo. | |
model El modelo utilizado para la solicitud. | |
object Este valor siempre es | |
service_tier Actualmente fijo en | |
system_fingerprint Actualmente fijo en | |
usage Los tokens consumidos por la solicitud. Esto se devuelve en el último fragmento solo cuando Propiedades completion_tokens El número de tokens en la salida del modelo. prompt_tokens El número de tokens de entrada. total_tokens El número total de tokens. Esta es la suma de completion_tokens_details Actualmente fijo en prompt_tokens_details Actualmente fijo en |
DashScope
Singapore
Endpoint HTTP: POST https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1/services/aigc/text-generation/generation
Defina base_url como:
Código Python
dashscope.base_http_api_url = 'https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1'
Código Java
- Método 1:
import com.alibaba.dashscope.protocol.Protocol;
Generation gen = new Generation(Protocol.HTTP.getValue(), "https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1");
- Método 2:
import com.alibaba.dashscope.utils.Constants;
Constants.baseHttpApiUrl="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1";
Virginia
Endpoint HTTP: POST https://{WorkspaceId}.us-east-1.maas.aliyuncs.com/api/v1/services/aigc/text-generation/generation
Defina base_url como:
Código Python
dashscope.base_http_api_url = 'https://{WorkspaceId}.us-east-1.maas.aliyuncs.com/api/v1'
Código Java
- Método 1:
import com.alibaba.dashscope.protocol.Protocol;
Generation gen = new Generation(Protocol.HTTP.getValue(), "https://{WorkspaceId}.us-east-1.maas.aliyuncs.com/api/v1");
- Método 2:
import com.alibaba.dashscope.utils.Constants;
Constants.baseHttpApiUrl="https://{WorkspaceId}.us-east-1.maas.aliyuncs.com/api/v1";
Beijing
Endpoint HTTP: POST https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/services/aigc/text-generation/generation
No necesita configurar base_url para llamadas al SDK. El valor predeterminado es https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1.
Debe crear una clave API y exportar la clave API como variable de entorno . Si utiliza el SDK de DashScope, instale el SDK de DashScope .
Cuerpo de la solicitud | Uso básicoPythonJavacurlLos endpoints y las claves de API difieren según la región. El siguiente es el Singapore endpoint. Intervención de terminologíaPythonJavacurlLos endpoints y las claves de API difieren según la región. El siguiente es el Singapore endpoint. Memoria de traducciónPythonJavacurlLos endpoints y las claves de API difieren según la región. El siguiente es el Singapore endpoint. Indicaciones de dominioPythonJavacurlLos endpoints y las claves de API difieren según la región. El siguiente es el Singapore endpoint. |
model Nombre del modelo. Compatibles: qwen-mt-plus, qwen-mt-flash, qwen-mt-lite. | |
messages Matriz de mensajes que proporcionan contexto al modelo. Solo se admiten mensajes de usuario. | |
max_tokens Número máximo de tokens a generar. Si la salida excede este valor, la respuesta se trunca. Los valores predeterminado y máximo corresponden a la longitud máxima de salida del modelo. Para obtener más información, consulte Selección de modelos.
| |
seed Semilla de número aleatorio para resultados reproducibles. Usar la misma Rango de valores:
| |
temperature Temperatura de muestreo que controla la diversidad del texto generado. Valores más altos producen texto más diverso. Valores más bajos producen texto más determinista. Rango de valores: [0, 2) Tanto
| |
top_p Umbral de probabilidad para el muestreo de núcleo que controla la diversidad del texto generado. Valores más altos producen texto más diverso. Valores más bajos producen texto más determinista. Rango de valores: (0, 1.0] Tanto
| |
repetition_penalty Penalización por repetición en secuencias consecutivas. Los valores más altos reducen la repetición. Un valor de 1.0 no aplica ninguna penalización. Debe ser mayor que 0, sin límite superior estricto.
| |
top_k Tamaño del conjunto de candidatos para el muestreo durante la generación. Por ejemplo, configurar esto como 50 significa que solo los 50 tokens principales por puntuación forman el grupo de muestreo. Los valores más grandes aumentan la aleatoriedad; los valores más pequeños aumentan el determinismo. Si el valor es None o mayor que 100, top_k se desactiva y solo top_p surte efecto. El valor debe ser mayor o igual a 0.
| |
stream Habilita el modo de salida en streaming. Valores válidos:
Notaqwen-mt-flash y qwen-mt-lite devuelven datos de forma incremental (cada fragmento contiene solo contenido nuevo). qwen-mt-plus devuelve datos de forma no incremental (cada fragmento contiene la secuencia completa hasta la fecha). Este comportamiento no se puede cambiar. Ejemplo: I I didn I didn't I didn't laugh I didn't laugh after ...
| |
translation_options Parámetros de traducción.
|
Objeto de respuesta de chat (igual para salida en streaming y sin streaming) | |
status_code Código de estado de la solicitud. 200 indica éxito; otros valores indican fallo.
| |
request_id ID único de solicitud.
| |
code Código de error. Vacío en caso de éxito.
| |
output Resultado de la llamada. Propiedades text Actualmente fijo en finish_reason Razón por la cual el modelo detuvo la generación de contenido. Valores válidos:
choices Salida del modelo. Propiedades finish_reason Valores válidos:
message Mensaje de salida del modelo. Propiedades role Rol del mensaje de salida. Fijo como content Resultado de la traducción. model_name Modelo utilizado para esta solicitud. | |
usage Uso de tokens para la solicitud. Propiedades input_tokens Número de tokens de entrada. output_tokens Número de tokens de salida. total_tokens Total de tokens, igual a input_tokens + output_tokens. |
Códigos de error
Si la llamada falla, consulte Códigos de error para resolver el problema.