Realtime Compute for Apache Flink:Memulai analitik real-time berbasis AI

Model chat/completions

SQL berikut mendaftarkan model Qwen-turbo:

CREATE MODEL ai_analyze_sentiment
INPUT (`input` STRING)
OUTPUT (`content` STRING)
WITH (
    'provider'='openai-compat',
    'task' = 'chat/completions',
    'model'='qwen-turbo',                                                               -- Qwen-turbo model
    'system-prompt' = 'Classify the text below into one of the following labels: [positive, negative, neutral, mixed]. Output only the label.'
);

Model embedding

SQL berikut mendaftarkan model text-embedding-v3:

CREATE MODEL embedding_model
INPUT (`input` STRING)
OUTPUT (`embeddings` ARRAY<FLOAT>)
WITH (
    'provider'='openai-compat',
    'task' = 'embeddings',
    'model'='text-embedding-v3'                                                  -- text-embedding-v3 model
);

Model chat/completions

Gunakan ML_PREDICT untuk memanggil model ai_analyze_sentiment yang telah didaftarkan guna melakukan analisis sentimen pada komentar film.

Salin SQL berikut ke editor SQL.

-- Create a temporary result table
CREATE TEMPORARY TABLE print_sink(
  id BIGINT,
  movie_name VARCHAR, 
  predict_label VARCHAR, 
  actual_label VARCHAR
) WITH (
  'connector' = 'print',   -- print connector
  'logger' = 'true'        -- display results in console
);
-- Create a temporary view with test data
-- | id | movie_name | comment   | actual_label |
-- | 1  | 好东西     | 最爱小孩子猜声音那段，算得上看过的电影里相当浪漫的叙事了。很温和也很有爱。| POSITIVE |
-- | 2  | 水饺皇后   | 乏善可陈  | NEGATIVE |
CREATE TEMPORARY VIEW movie_comment(id, movie_name, user_comment, actual_label)
AS VALUES (1, '好东西', '最爱小孩子猜声音那段，算得上看过的电影里相当浪漫的叙事了。很温和也很有爱。', 'positive'), (2, '水饺皇后', '乏善可陈', 'negative');
INSERT INTO print_sink
SELECT id, movie_name, content as predict_label, actual_label 
FROM ML_PREDICT(
  TABLE movie_comment, 
  MODEL ai_analyze_sentiment,  -- The registered Qwen-turbo model
  DESCRIPTOR(user_comment));   

Model embedding

Gunakan ML_PREDICT untuk memanggil model embedding_model yang telah didaftarkan guna melakukan vektorisasi komentar film dan menuliskan hasilnya ke Milvus (pratinjau publik).

Salin SQL berikut ke editor SQL.

-- Create a temporary Milvus sink table
CREATE TEMPORARY TABLE milvus_sink
(
    id STRING,
    movie_name STRING,
    user_comment STRING,
    embeddings ARRAY<FLOAT>,
    PRIMARY KEY (id) NOT ENFORCED
)
WITH (
    'connector' = 'milvus',
    'endpoint' = '<YOUR-ENDPOINT>',
    'port' = '<YOUR-PORT>',
    'userName' = '<YOUR-USERNAME>',
    'password' = '<YOUR-PASSWORD>',
    'databaseName' = 'default',
    'collectionName' = 'movie-comment-embeddings'
);
-- Create a temporary view with test data
-- | id | movie_name | comment | actual_label|
-- | 1 | 好东西 |最爱小孩子猜声音那段，算得上看过的电影里相当浪漫的叙事了。很温和也很有爱。| POSITIVE |
-- | 2 | 水饺皇后 | 乏善可陈 | NEGATIVE |
CREATE TEMPORARY VIEW movie_comment(id, movie_name,  user_comment)
AS VALUES ('1', '好东西', '最爱小孩子猜声音那段，算得上看过的电影里相当浪漫的叙事了。很温和也很有爱。'), ('2', '水饺皇后', '乏善可陈');
INSERT INTO
    milvus_sink
SELECT
    id,
    movie_name,
    user_comment,
    embeddings
FROM
    ML_PREDICT (
        TABLE movie_comment,
        MODEL embedding_model,  -- The registered text-embedding-v3 model                   
        DESCRIPTOR (user_comment)
    );

Model chat/completions

1. Verifikasi bahwa status pekerjaan adalah Completed.

2. Pada halaman O&M Center > Job O&M, klik nama pekerjaan target.

3. Pada tab Job Logs, pilih Task Managers dan pilih TaskManager saat ini.

4. Klik Logs dan cari entri PrintSinkOutputWriter.

   Prediksi model predict_label sesuai dengan actual_label.

   Pilih tab Task Managers dan pilih Logs. Output menampilkan hasil seperti +I[1, 好东西, positive, positive] dan +I[2, 水饺皇后, negative, negative], yang mengonfirmasi bahwa predict_label sesuai dengan actual_label.

Model embedding

Hasil dituliskan ke koleksi Milvus target. Masuk ke Milvus untuk melihatnya.

1. Mengakses halaman Attu.

2. Buka koleksi target dan lihat data yang telah disinkronkan pada tab Data.

   Setelah sinkronisasi, tab Data menampilkan 1.000 catatan yang telah disinkronkan dengan bidang termasuk id, vector, dan timestamp.