Cria um serviço de modelo que permite que funções de IA invoquem modelos. Suporta a criação de dois tipos de modelos: 1) modelos do Alibaba Cloud Model Studio e 2) nós de IA do Hologres. Para o Hologres AI, é necessário adquirir os recursos de nós de IA separadamente.
Descrição da operação
A criação de um serviço de modelo requer vários parâmetros. Para a criação de modelos do Model Studio, invoque ListModelCatalog para consultar os parâmetros do modelo. Para a criação de modelos de nós de IA do Hologres, invoque GetAvailableModelsResource para consultar os parâmetros do modelo.
Experimente agora
Testar
Autorização RAM
|
Ação |
Nível de acesso |
Tipo de recurso |
Chave de condição |
Ação dependente |
|
hologram:CreateModelService |
create |
*All resources.
|
Nenhuma | Nenhuma |
Sintaxe da solicitação
POST /api/v1/instances/{instanceId}/createModelService HTTP/1.1
Parâmetros de caminho
|
Parâmetro |
Tipo |
Obrigatório |
Descrição |
Exemplo |
| instanceId |
string |
Sim |
O ID da instância. |
hgpostcn-cn-lbj335xxxx |
Parâmetros da solicitação
|
Parâmetro |
Tipo |
Obrigatório |
Descrição |
Exemplo |
| body |
object |
Não |
O corpo da solicitação. |
|
| modelType |
string |
Sim |
O nome do modelo. Para consultar o nome de um modelo do Model Studio, chame ListModelCatalog. Para consultar o nome de um nó de IA do Hologres, chame GetAvailableModelsResource. |
qwen3.5-plus |
| cpu |
integer |
Não |
As especificações de CPU. Este parâmetro é obrigatório apenas para nós de IA do Hologres. |
16 |
| memory |
integer |
Não |
As especificações de memória. Este parâmetro é obrigatório apenas para nós de IA do Hologres. |
64 |
| gpu |
integer |
Não |
As especificações de GPU. Este parâmetro é obrigatório apenas para nós de IA do Hologres. |
1 |
| serviceCount |
integer |
Não |
O número de réplicas do serviço. Este parâmetro é obrigatório apenas para nós de IA do Hologres. |
2 |
| modelServiceName |
string |
Sim |
O nome personalizado do serviço. |
my_model |
| gpuMemory |
integer |
Não |
As especificações de memória da GPU. Este parâmetro é obrigatório apenas para nós de IA do Hologres. |
64 |
| taskType |
string |
Não |
O tipo de tarefa do modelo, como chat/completions ou embedding. Consulte os tipos retornados por ListModelCatalog e especifique o tipo conforme necessário. |
embedding |
| provider |
string |
Não |
O provedor do modelo subjacente. Valores válidos:
|
bailian |
| apiKey |
string |
Não |
A chave de API do Model Studio. Faça login no console do Model Studio ou chame a API para obter a chave. Este parâmetro é obrigatório apenas para modelos do Model Studio. |
api-key-xxx |
| modelParams |
string |
Não |
Os parâmetros do modelo. Consulte os parâmetros padrão retornados por ListModelCatalog e passe-os diretamente, ou modifique-os conforme necessário antes de passá-los. Este parâmetro é obrigatório apenas para modelos do Model Studio. |
{"timeout":600,"max_retries":10,"max_retry_delay":8,"initial_retry_delay":0.5} |
Elementos de resposta
|
Elemento |
Tipo |
Descrição |
Exemplo |
|
object |
Esquema da resposta. |
||
| requestId |
string |
O ID da solicitação. |
819A7F0F-2951-540F-BD94-6A41ECF0281F |
| data |
boolean |
Indica se a operação foi bem-sucedida. Valores válidos:\n- true: Bem-sucedida.\n- false: Falha. |
true |
Exemplos
Resposta de sucesso
JSON formato
{
"requestId": "819A7F0F-2951-540F-BD94-6A41ECF0281F",
"data": true
}
Códigos de erro
Consulte Códigos de Erro para uma lista completa.
Notas de versão
Consulte Notas de Versão para uma lista completa.