Crea un servicio de modelo que permite a las funciones de IA invocar modelos. Puede crear un servicio para dos tipos de modelos: un modelo de Alibaba Cloud Model Studio o un modelo en un nodo de IA de Hologres. Si utiliza un nodo de IA de Hologres, debe adquirir los recursos del nodo de IA por separado.
Descripción de la operación
Para crear un servicio de modelo, debe especificar varios parámetros. Utilice la operación ListModelCatalog para buscar los parámetros de un modelo de Alibaba Cloud Model Studio, y utilice la operación GetAvailableModelsResource para un modelo en un nodo de IA de Hologres.
Pruébelo ahora
Test
Autorización de RAM
Sintaxis de la solicitud
POST /api/v1/instances/{instanceId}/createModelService HTTP/1.1
Parámetros de ruta
|
Parámetro |
Tipo |
Obligatorio |
Descripción |
Ejemplo |
| instanceId |
string |
Sí |
El ID de la instancia. |
hgpostcn-cn-lbj335xxxx |
Parámetros de la solicitud
|
Parámetro |
Tipo |
Obligatorio |
Descripción |
Ejemplo |
| body |
object |
No |
El cuerpo de la solicitud. |
|
| modelType |
string |
Sí |
El nombre del modelo. Para buscar el nombre, llame a |
qwen3.5-plus |
| cpu |
integer |
No |
El número de vCPU. Este parámetro es obligatorio solo para un nodo de IA de Hologres. |
16 |
| memory |
integer |
No |
El tamaño de memoria en GB. Este parámetro es obligatorio solo para un nodo de IA de Hologres. |
64 |
| gpu |
integer |
No |
El número de GPU. Este parámetro es obligatorio solo para un nodo de IA de Hologres. |
1 |
| serviceCount |
integer |
No |
El número de réplicas. Este parámetro es obligatorio solo para un nodo de IA de Hologres. |
2 |
| modelServiceName |
string |
Sí |
Un nombre personalizado para el servicio de modelo. |
my_model |
| gpuMemory |
integer |
No |
El tamaño de memoria de GPU en GB. Este parámetro es obligatorio solo para un nodo de IA de Hologres. |
64 |
| taskType |
string |
No |
El tipo de tarea que realiza el modelo, como |
embedding |
| provider |
string |
No |
El proveedor del modelo subyacente. Valores válidos:
|
bailian |
| apiKey |
string |
No |
La clave de API para Alibaba Cloud Model Studio. Este parámetro es obligatorio solo para modelos de Model Studio. Puede obtener esta clave desde la consola de Model Studio o mediante una llamada a la API. |
api-key-xxx |
| modelParams |
string |
No |
Los parámetros del modelo, obligatorios solo para modelos de Model Studio. Puede proporcionar los parámetros predeterminados devueltos por la operación |
{"timeout":600,"max_retries":10,"max_retry_delay":8,"initial_retry_delay":0.5} |
Elementos de la respuesta
|
Elemento |
Tipo |
Descripción |
Ejemplo |
|
object |
El esquema de la respuesta. |
||
| requestId |
string |
El ID de la solicitud. |
819A7F0F-2951-540F-BD94-6A41ECF0281F |
| data |
boolean |
Indica si la operación se realizó correctamente. Un valor de |
true |
Ejemplos
Respuesta exitosa
JSON Formato
{
"requestId": "819A7F0F-2951-540F-BD94-6A41ECF0281F",
"data": true
}
Códigos de error
Consulte Códigos de error para ver la lista completa.
Notas de la versión
Consulte Notas de la versión para ver la lista completa.