Hologres：託管模型

執行個體版本要求

託管模型功能對 Hologres 執行個體版本有一定要求，支援的版本如下。

• Hologres V4.0.40 及以上

• Hologres V4.1.26 及以上

• Hologres V4.2.5 及以上

• Hologres V5.0 及以上

如果您的執行個體版本不符合上述要求，請先在 Hologres 管理主控台升級執行個體版本。

地區

託管模型當前支援以下地區：

• 華北地區：華北2（北京）

• 華東地區：華東1（杭州）、華東2（上海）

• 華南地區：華南1（深圳）

• 海外地區：新加坡

購買模型資源

在使用託管模型之前，您需要先購買 Hologres AI 模型資源。請前往 AI 模型資源購買頁進行購買。

購買時請注意以下事項：

• 隨用隨付：託管模型採用隨用隨付模式，根據實際使用量計費，無需預付固定費用。

• Region 選擇：購買時請選擇與您 Hologres 執行個體相同的 Region，確保模型資源與執行個體在同一地區，避免跨網域網路費用。

• 計費維度：模型調用費用根據實際調用量計算，不同模型的計費項目（如 Token 數、圖片張數、視頻時間長度、語音時間長度等）可能不同。

詳細價格

各模型詳細價格請參見託管模型計費。

託管模型列表

Hologres 託管模型當前支援文本產生、翻譯、向量嵌入、圖片產生/編輯、語音轉文本及視頻產生等類型模型。下表列出各模型的分類、model_type、task 類型、輸入輸出、備忘及是否支援 API 呼叫。

模型部署方式

購買模型資源後，您可以按以下步驟在 Hologres 管理主控台部署託管模型：

1. 登入Hologres管理主控台，進入目標執行個體詳情頁。

2. 在左側導覽列選擇 AI模型，進入模型管理頁面。

3. 單擊 部署模型。

4. 選擇模型提供方為 Hologres 託管模型。

5. 根據業務需求選擇模型類別，支援一次選擇多個模型同時部署。

6. 為每個模型設定相關參數（一般使用預設參數即可），並配置模型重試機制。

7. 單擊 確認 完成部署。

8. 部署完成後，在模型列表頁面可查看已部署的所有模型及其狀態。

模型使用

模型部署完成後，您可以通過以下兩種方式使用託管模型：

• 使用 AI Function 調用：通過 SQL 調用 AI Function，適用於在資料倉儲內直接處理資料的情境。

• 使用 API 呼叫：通過 AI Function 的對外 API 呼叫，適用於在 Hologres 之外的應用或 AI Agent 中複用已部署模型的情境。僅部分模型支援該方式，具體請參見託管模型列表中的“API 呼叫”列。

SELECT * FROM list_ai_function_infos();

    function_name     |    model_name
----------------------+------------------
 ai_embed             | my_gte_embedding
 ai_classify          | my_qwen32b
 ai_extract           | my_qwen32b

SELECT set_ai_function_info('<FUNCTION_NAME>', '<MODEL_NAME>');

SELECT set_ai_function_info('ai_embed', 'my_gte_embedding');

curl http://hologres-token-cn-hangzhou.hologres.aliyuncs.com:80/anthropic/v1/messages \
  -H "x-api-key: <API_KEY>" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2","max_tokens":1024,"messages":[{"role":"user","content":"Hello"}]}'

SELECT query, extended_cost, *
FROM hologres.hg_query_log
WHERE query LIKE '%ai_gen%'
  AND query_start >= now() - interval '1 hour'
ORDER BY query_start DESC;

{
  "qe_model_usage": {
    "TokenModelUsage": {
      "qwen3.7-max": {
        "tiers": {
          "0-unlimited": {
            "cache_creation_input_tokens": 0,
            "explicit_cache_tokens": 0,
            "implicit_cached_tokens": 0,
            "input_tokens": 703,
            "output_tokens": 151,
            "tier_key": "0-unlimited",
            "total_cached_tokens": 0,
            "total_tokens": 854
          }
        },
        "total_tokens": 854
      }
    }
  }
}

1. 購買模型資源

在使用託管模型之前，您需要先購買 Hologres AI 模型資源。請前往 AI 模型資源購買頁進行購買。託管模型採用隨用隨付模式，根據實際使用量計費。

2. 部署模型

購買資源後，在 Hologres 管理主控台執行個體詳情頁的 AI模型 頁簽中，選擇 Hologres 託管模型 並部署所需模型。

本樣本部署了以下模型，用於第三步的 AI Function 調用：

• qwen3.7-plus：文本產生模型，用於推理任務。

• text-embedding-v4：向量嵌入模型，用於產生向量表示。

3. 使用 AI Function

模型部署完成後，您可以通過 SQL 調用 AI Function 使用模型能力。AI Function 的完整列表及詳細用法請參見AI Function列表。

樣本 1：文本推理（使用 qwen3.7-plus）

-- 使用託管模型進行文本產生
SELECT ai_gen('qwen3.7-plus', '請為以下商品產生一段迷人的描述：無線降噪耳機');

樣本 2：向量嵌入（使用 text-embedding-v4）

-- 使用託管模型產生向量嵌入
SELECT ai_embed('text-embedding-v4', 'Hologres 是一款即時數倉產品');