Hologres:Managed models

Chamar modelos gerenciados por meio de AI Functions

Após a implantação, chame os modelos por meio das AI Functions em SQL. O Hologres oferece AI Functions para geração de texto, embedding, tradução, compreensão de imagens, conversão de fala em texto e geração de vídeos. Para a lista completa e detalhes de uso, consulte AI functions.

O sistema atribui um modelo padrão a cada AI Function. Para visualizar o mapeamento atual, execute:

SELECT * FROM list_ai_function_infos();

Saída de exemplo:

    function_name     |    model_name
----------------------+------------------
 ai_embed             | my_gte_embedding
 ai_classify          | my_qwen32b
 ai_extract           | my_qwen32b

Para alterar o modelo padrão de uma AI Function, execute:

SELECT set_ai_function_info('<FUNCTION_NAME>', '<MODEL_NAME>');

Exemplo:

SELECT set_ai_function_info('ai_embed', 'my_gte_embedding');

Chamar modelos gerenciados por meio da API

Além de chamar as AI Functions por meio de SQL, é possível invocar alguns modelos gerenciados por uma API HTTP. A API fornece um endpoint público para as AI Functions, permitindo que agentes de IA como OpenClaw e Hermes chamem os modelos implantados diretamente. Assim, você pode reutilizar os modelos implantados a partir de aplicações fora do Hologres.

Antes de chamar um modelo gerenciado por meio da API, observe os seguintes pontos:

• crie uma API Key no console do Hologres antes de fazer qualquer chamada. É possível criar várias API Keys.

• Atualmente, a API oferece suporte apenas ao protocolo Anthropic.

• O endpoint usa o formato hologres-token-<REGION_ID>.hologres.aliyuncs.com. Substitua <REGION_ID> pelo ID da região onde a instância está localizada.

• Para verificar se um modelo oferece suporte a chamadas de API, consulte a coluna Acesso à API em Model catalog.

Exemplo:

curl http://hologres-token-cn-hangzhou.hologres.aliyuncs.com:80/anthropic/v1/messages \
  -H "x-api-key: <API_KEY>" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2","max_tokens":1024,"messages":[{"role":"user","content":"Hello"}]}'

Monitorar o consumo de tokens

visualize o consumo detalhado de tokens no log de consultas lentas do Hologres. O campo extended_cost registra o uso de tokens de cada chamada.

Consulta de exemplo:

SELECT query, extended_cost, *
FROM hologres.hg_query_log
WHERE query LIKE '%ai_gen%'
  AND query_start >= now() - interval '1 hour'
ORDER BY query_start DESC;

O exemplo a seguir mostra o valor de extended_cost no resultado:

{
  "qe_model_usage": {
    "TokenModelUsage": {
      "qwen3.7-max": {
        "tiers": {
          "0-unlimited": {
            "input_tokens": 703,
            "output_tokens": 151,
            "cache_creation_input_tokens": 0,
            "explicit_cache_tokens": 0,
            "implicit_cached_tokens": 0,
            "total_cached_tokens": 0,
            "total_tokens": 854
          }
        },
        "total_tokens": 854
      }
    }
  }
}

1. Comprar recursos de modelos

Compre recursos de modelos de IA do Hologres na página de compra de recursos de modelos de IA. O faturamento é no modelo de pagamento conforme o uso, com base no uso real.

2. Implantar os modelos

Após a compra dos recursos, abra a página de detalhes da instância no console do Hologres, acesse a aba AI Model, selecione Hologres-managed model como provedor e implante os modelos necessários.

Este exemplo implanta os seguintes modelos para as chamadas de AI Function na etapa 3:

• qwen3.7-plus: modelo de geração de texto para tarefas de inferência.

• text-embedding-v4: modelo de embedding para representações vetoriais.

3. Chamar AI Functions

Após a implantação, chame os modelos por meio das AI Functions em SQL. Para a lista completa e detalhes de uso, consulte AI functions.

Exemplo 1: Inferência de texto (com qwen3.7-plus)

-- Use a managed model for text generation
SELECT ai_gen('qwen3.7-plus', 'Generate an engaging description for the following product: wireless noise-cancelling headphones');

Exemplo 2: Embedding (com text-embedding-v4)

-- Use a managed model to generate embeddings
SELECT ai_embed('text-embedding-v4', 'Hologres is a real-time data warehouse product');