AI models and deployment - Hologres: Central de Documentação do Alibaba Cloud

Este tópico descreve como implantar e usar os modelos integrados no AI Node do Hologres e lista os modelos disponíveis. Para chamar um modelo integrado, adquira primeiro um recurso de IA. Após a implantação, chame o modelo por meio de uma função de IA.

Pré-requisitos

Chamar um modelo integrado em um AI Node exige um recurso de IA (GPU), que você deve adquirir previamente. Para mais informações, consulte Preços e compra de recursos de IA.

Implantação de modelos

Implantação

Selecione e implante o modelo adequado ao seu cenário de negócios. Cada modelo requer o mínimo especificado de recursos de IA para implantação.
É possível implantar vários modelos em uma única instância, desde que o total de recursos utilizados não ultrapasse a cota de recursos de IA adquirida. Se os recursos forem insuficientes, aumente a capacidade (scale up).
Instâncias primárias e secundárias: implante modelos e execute operações relacionadas, como alterar recursos ou excluir modelos, apenas na instância primária. A instância secundária permite visualizar os modelos implantados na primária e chamá-los usando uma função de IA.

Procedimento

Faça login no console do Hologres e selecione uma região no canto superior esquerdo.
No painel de navegação à esquerda, clique em Instances e, em seguida, clique no ID da instância desejada.
Na página Instance Details, clique na aba AI Node.
Na seção Models, clique em Deploy Model.
Na caixa de diálogo Deploy Model, insira um Model Name e selecione um Model Type. O sistema preenche automaticamente os parâmetros na seção Resource Configurations com base no Model Type escolhido. Cada modelo possui um requisito mínimo recomendado de recursos. Aloque recursos adequados para garantir o desempenho ideal.
Após concluir a configuração, clique em OK para implantar o modelo.

Visualize o status da implantação na seção Models e execute as seguintes operações:
- Para ajustar as configurações do modelo, clique em Modify Configuration na coluna Actions do modelo alvo.
- Para excluir o modelo, clique em Delete na coluna Actions do modelo alvo.
  
  Nota
  Ao excluir um modelo, o Hologres não valida se ele está em uso. Proceda com cautela.

Uso de um modelo

Após implantar um modelo com sucesso, chame-o utilizando uma função de IA no Hologres. Para mais informações, consulte Função de IA.

Modelos disponíveis

O Hologres oferece modelos integrados para diversos casos de uso de IA. Implante os modelos conforme seu cenário de negócios e chame-os por meio de uma função de IA. A tabela a seguir lista os modelos integrados disponíveis.

Categoria	Nome do modelo	vCPUs mínimos	Memória mínima (GB)	GPUs mínimas	Memória de GPU mínima (GB)	Versões suportadas	Observações
Modelo de conversão de PDF	ds4sd/docling-models	20	100	1 ou mais	48	Hologres V4.0 e posterior
Fragmentação de texto	recursive-character-text-splitter	15	30	0	0	Hologres V3.2 e posterior	Selecione a especificação de vCPU conforme sua carga de trabalho. Não é necessário especificar o número de GPUs.
Modelo multimodal	Qwen/Qwen2.5-VL-3B-Instruct	7	24	1 ou mais	24	Hologres V4.0 e posterior
Modelo multimodal	Qwen/Qwen2.5-VL-7B-Instruct	7	30	1 ou mais	48	Hologres V4.0 e posterior
Modelo multimodal	Qwen/Qwen2.5-VL-32B-Instruct	7	30	1 ou mais	96	Hologres V4.0 e posterior
Modelo de embedding de imagem	clip-ViT-B-32-multilingual-v1	7	24	1	24	Hologres V4.0 e posterior	Tamanho do patch de imagem: 32×32; Parâmetros: 88M; dimensão do vetor de saída: 512
LLM	Qwen/Qwen3-1.7B	7	30	1 ou mais	8	Hologres V3.2 e posterior
LLM	Qwen/Qwen3-4B	7	30	1 ou mais	16	Hologres V3.2 e posterior
LLM	Qwen/Qwen3-8B	7	30	1 ou mais	32	Hologres V3.2 e posterior
LLM	Qwen/Qwen3-14B	7	30	1 ou mais	48	Hologres V3.2 e posterior
LLM	Qwen/Qwen3-32B	7	30	1 ou mais	96	Hologres V3.2 e posterior
Classificação de sentimento	iic/nlp_structbert_sentiment-classification_chinese-base	7	30	1	4	Hologres V3.2 e posterior
Modelo de embedding de texto	iic/nlp_gte_sentence-embedding_chinese-base	7	30	1	12	Hologres V3.2 e posterior	dimensão do vetor de saída: 768
Modelo de embedding de texto	iic/nlp_gte_sentence-embedding_chinese-large	7	30	1	16	Hologres V3.2 e posterior	dimensão do vetor de saída: 1024
Modelo de embedding de texto	iic/nlp_gte_sentence-embedding_chinese-small	7	30	1	8	Hologres V3.2 e posterior	dimensão do vetor de saída: 512
Modelo de embedding de texto	Qwen/Qwen3-Embedding-0.6B	7	30	1	8	Hologres V3.2 e posterior
Modelo de embedding de texto	Qwen/Qwen3-Embedding-4B	7	30	1	32	Hologres V3.2 e posterior
Modelo de embedding de texto	Qwen/Qwen3-Embedding-8B	7	30	1	48	Hologres V3.2 e posterior
Modelo de embedding de texto	BAAI/bge-base-en-v1.5	7	30	1	12	Hologres V3.2 e posterior	dimensão do vetor de saída: 768
Modelo de embedding de texto	BAAI/bge-base-zh-v1.5	7	30	1	12	Hologres V3.2 e posterior	dimensão do vetor de saída: 768
Modelo de embedding de texto	BAAI/bge-large-en-v1.5	7	30	1	16	Hologres V3.2 e posterior	dimensão do vetor de saída: 1024
Modelo de embedding de texto	BAAI/bge-large-zh-v1.5	7	30	1	16	Hologres V3.2 e posterior	dimensão do vetor de saída: 1024
Modelo de embedding de texto	BAAI/bge-small-en-v1.5	7	30	1	8	Hologres V3.2 e posterior	dimensão do vetor de saída: 384
Modelo de embedding de texto	BAAI/bge-small-zh-v1.5	7	30	1	8	Hologres V3.2 e posterior	dimensão do vetor de saída: 512
Modelo de embedding de imagem	clip-ViT-B-32	7	24	1	24	Hologres V4.0 e posterior	Tamanho do patch de imagem: 32×32; Parâmetros: 88M; dimensão do vetor de saída: 512
Modelo de embedding de imagem	clip-ViT-L-14	7	24	1	24	Hologres V4.0 e posterior	Tamanho do patch de imagem: 14×14; Parâmetros: 304M; dimensão do vetor de saída: 768
Modelo de embedding de imagem	clip-ViT-B-16	7	24	1	24	Hologres V4.0 e posterior	Tamanho do patch de imagem: 16×16; Parâmetros: 88M; dimensão do vetor de saída: 512