Hologres：AI_EMBED

文本 Embedding

-- 文本 embedding
SELECT ai_embed('Hologres是阿里巴巴自主研發的一站式即時數倉引擎，支援海量資料即時寫入、即時更新、即時加工、即時分析.');

-- 結果（1024維向量樣本）
{-0.020090256,-0.009496426,-0.01584659,0.014317295,...}

圖片 Embedding（FILE 對象方式）

-- 圖片 embedding，通過 OSS 上的 FILE 對象
SELECT ai_embed('qwen3_vl_embedding', to_file('oss://****', 'oss-cn-hangzhou-internal.aliyuncs.com', 'acs:ram::****'));

-- 結果（2560維向量）
{-0.000733634,-0.00160808,0.0354091,...}

圖片 Embedding（BYTEA 二進位方式）

方式一：直接傳入位元據

-- 將圖片轉為 BYTEA 後 embedding（支援 webp、jpg、png 等多種格式）
SELECT ai_embed('qwen3_vl_embedding',
                decode('/9j/4AAQSkZJRgABAQEAYABgAAD...', 'base64'),
                'jpg');

方式二：從 Holo 內部表讀取 BYTEA 資料

-- 建立圖片儲存表
CREATE TABLE image_table (
    image_name TEXT,
    image_bin BYTEA
);

-- 插入圖片資料
INSERT INTO image_table VALUES
('concert.webp', decode('...webp_binary...', 'base64')),
('cat.png', decode('...png_binary...', 'base64'));

-- 使用 ai_embed 產生向量
SELECT image_name,
       ai_embed('qwen3_vl_embedding', image_bin,
                CASE
                  WHEN image_name LIKE '%.webp' THEN 'webp'
                  WHEN image_name LIKE '%.png' THEN 'png'
                  WHEN image_name LIKE '%.jpg' THEN 'jpg'
                END) as embedding
FROM image_table;

方式三：從 Paimon 外部表格讀取 BLOB 資料（Hologres V4.2 及以上版本）

-- Paimon 外部表格（含 BLOB 列）
CREATE EXTERNAL TABLE paimon_db.image_blob_table (
    id INT,
    image_name TEXT,
    picture BYTEA  -- Paimon BLOB 映射為 BYTEA
)
WITH (...);

-- 使用 ai_embed 直接對 Paimon BLOB 資料產生向量
SELECT id, image_name,
       ai_embed('qwen3_vl_embedding', picture, 'jpg') as embedding
FROM paimon_db.image_blob_table;

情境一：Holo 內部表圖片向量檢索

本情境中部署 qwen3-vl-embedding 模型，並且使用向量檢索實現圖片的 embed 和圖片相似檢索、文本檢索圖片的全流程。

步驟1：準備資料

-- 0. 建立源圖片表（儲存原始圖片位元據）
CREATE TABLE source_image_table (
    image_id SERIAL PRIMARY KEY,
    image_name TEXT,
    image_bin BYTEA,
    image_format TEXT
);

-- 插入圖片資料（樣本：從本地檔案讀取並插入）
INSERT INTO source_image_table (image_name, image_bin, image_format) VALUES
('concert.webp', decode('UklGRiIAAABXRUJQVlA4IBYAAAAwAQCdASo...', 'base64'), 'webp'),
('cat.png', decode('iVBORw0KGgoAAAANSUhEUgAAAAEAAAABCAYAAAAfFcSJAAAADUlEQVR42mNk+M9QDwADhgGAWjR9awAAAABJRU5ErkJggg==', 'base64'), 'png'),
('dog.jpg', decode('/9j/4AAQSkZJRgABAQEAYABgAAD//gA7Q1JFQVRPUjogZ2QtanBlZyB2MS4wICh1c2luZyBJSkcgSlBFRyB2ODAp', 'base64'), 'jpg');

-- 1. 建立帶向量索引的目標表
CREATE TABLE image_search_table (
    image_id SERIAL PRIMARY KEY,
    image_name TEXT,
    image_bin BYTEA,
    image_format TEXT,
    embedding float4[] CHECK (array_ndims(embedding) = 1 AND array_length(embedding, 1) = 2560)
) WITH (
    vectors = '{ "embedding": { "algorithm": "HGraph", "distance_method": "Euclidean", "builder_params": { "base_quantization_type": "sq8_uniform", "max_degree": 64, "ef_construction": 400 } } }'
);

-- 2. 從源表插入圖片並產生向量
INSERT INTO image_search_table (image_name, image_bin, image_format, embedding)
SELECT image_name, image_bin, image_format,
       ai_embed('qwen3_vl_embedding', image_bin, image_format)
FROM source_image_table;

步驟2：圖片相似檢索

-- 3. 圖圖相似性檢索（近似檢索）
SELECT a.image_name as query_image,
       b.image_name as result_image,
       approx_euclidean_distance(a.embedding, b.embedding) as distance
FROM image_search_table a,
     image_search_table b
WHERE a.image_id = 1
ORDER BY distance ASC;

-- 返回結果樣本
--  query_image  | result_image | distance
-- --------------+--------------+----------
--  concert.webp | concert.webp |        0
--  concert.webp | cat.png      | 15.23457
--  concert.webp | dog.jpg      | 18.45679

步驟3：文本搜圖

-- 4. 文本搜圖片（多模態檢索）
SELECT image_id, image_name,
       approx_euclidean_distance(
           embedding,
           ai_embed('qwen3_vl_embedding', '演唱會照片')
       ) as text_img_distance
FROM image_search_table
ORDER BY text_img_distance ASC;

-- 返回結果樣本
--  image_id | image_name   | text_img_distance
-- ----------+--------------+-------------------
--         1 | concert.webp |          8.123456
--         3 | dog.jpg      |         22.345678
--         2 | cat.png      |         25.678901

情境二：Paimon 外表圖片向量離線構建

本情境樣本讀取 Paimon 的 Blob 類型，實現對 Paimon Blob 類型的 embedding 和檢索全流程，助力非結構化資料的加速查詢。

步驟1：準備資料

-- 0. 建立 External Database 串連 Paimon 資料來源
CREATE EXTERNAL DATABASE paimon_blob_bj
WITH (
    catalog_type 'paimon'
    metastore_type 'dlf-rest'
    dlf_catalog 'paimon_bj'
    dlf_access_id 'xxxx'
    dlf_access_key '***'
);
-- 建立 external schema
CREATE EXTERNAL SCHEMA paimon_blob_bj.test_paimon_db;

-- 1. 建立 Paimon 外部表格（含 BLOB 列）
CREATE EXTERNAL TABLE paimon_blob_bj.test_paimon_db.image_table (
    id INT,
    image_name TEXT,
    picture BYTEA  -- Paimon BLOB 映射為 BYTEA
)
WITH (
   "table_format" = 'paimon',
    "file_format" = 'orc',
    "bucket" = '1',
    "bucket-key" = 'id'
);

-- 2. 建立 Hologres 目標向量表（帶向量索引）
CREATE TABLE public.image_vector_table (
    id SERIAL PRIMARY KEY,
    image_name TEXT,
    picture BYTEA,
    image_format TEXT,
    embedding float4[] CHECK (array_ndims(embedding) = 1 AND array_length(embedding, 1) = 2560)
) WITH (
    vectors = '{
        "embedding": {
            "algorithm": "HGraph",
            "distance_method": "Euclidean",
            "builder_params": {
                "base_quantization_type": "sq8_uniform",
                "max_degree": 64,
                "ef_construction": 400
            }
        }
    }'
);

步驟2：將 Paimon 外表資料寫入 Holo 向量表（可選）

-- 3. 從 Paimon 外表讀取 BLOB，產生向量並寫入
INSERT INTO image_vector_table (id,image_name, picture,image_format, embedding)
SELECT
    id,
    image_name,
    picture,
    'jpg',
    ai_embed('qwen3_vl_embedding', picture, 'jpg')
FROM paimon_blob_bj.test_paimon_db.image_table;

步驟3：圖片相似檢索

SELECT
    a.id as query_id,
    a.image_name as query_image,
    b.id as result_id,
    b.image_name as result_image,
    approx_euclidean_distance(a.embedding, b.embedding) as distance
FROM image_vector_table a,
     image_vector_table b
WHERE a.id = 1
ORDER BY distance ASC
LIMIT 5;

-- 返回結果樣本
--  query_id | query_image  | result_id | result_image | distance
-- ----------+--------------+-----------+--------------+----------
--         1 | concert.webp |         1 | concert.webp |        0
--         1 | concert.webp |         3 | dog.jpg      | 15.23457
--         1 | concert.webp |         2 | cat.png      | 18.45679

步驟4：文本檢索圖片

SELECT
    id,
    image_name,
    approx_euclidean_distance(
        embedding,
        ai_embed('qwen3_vl_embedding', '演唱會現場照片')
    ) as text_img_distance
FROM image_vector_table
ORDER BY text_img_distance ASC
LIMIT 5;

-- 返回結果樣本
--  id | image_name   | text_img_distance
-- ----+--------------+-------------------
--   1 | concert.webp |          8.123456
--   3 | dog.jpg      |         22.345678
--   2 | cat.png      |         25.678901