Realtime Compute for Apache Flink:大規模言語モデルによるリアルタイムデータ分析のクイックスタート

チャット/completions モデル

次のサンプル SQL コードは、Flink 組み込みテキストモデルを登録する方法を示しています。

CREATE MODEL ai_analyze_sentiment
INPUT (`input` STRING)
OUTPUT (`content` STRING)
WITH (
    'provider' = 'dashscope',
    'task' = 'chat/completions',
    'model' = 'qwen3.5-flash',
    'system-prompt' = 'Classify the text below into one of the following labels: [positive, negative, neutral, mixed]. Output only the label.'
);

embedding モデル

次のサンプル SQL コードは、Flink 組み込み embedding モデルを登録する方法を示しています。

CREATE MODEL embedding_model
INPUT (`input` STRING)
OUTPUT (`embeddings` ARRAY<FLOAT>)
WITH (
    'provider' = 'dashscope',
    'task' = 'embeddings',
    'model' = 'text-embedding-v4'
);

チャット/completions モデル

ML_PREDICT AI 関数を使用して、登録された ai_analyze_sentiment モデルを呼び出し、映画レビューの感情分析を行います。

次のサンプル SQL を SQL エディターにコピーします。

-- 一時的なシンクテーブルを作成します。
CREATE TEMPORARY TABLE print_sink(
  id BIGINT,
  movie_name VARCHAR, 
  predict_label VARCHAR, 
  actual_label VARCHAR
) WITH (
  'connector' = 'print',   -- print コネクターを使用します。
  'logger' = 'true'        -- 結果をコンソールに表示します。
);

-- テストデータを構築するための一時的なデータビューを作成します。
-- | id | movie_name | comment   | actual_label |
-- | 1  | Her Story     | My favorite part was when the kid guessed the sounds. It is one of the most romantic narratives I have seen in movies. Very gentle and loving. | POSITIVE |
-- | 2  | The Dumpling Queen   | Unremarkable.  | NEGATIVE |
CREATE TEMPORARY VIEW movie_comment(id, movie_name, user_comment, actual_label)
AS VALUES (1, 'Her Story', 'My favorite part was when the kid guessed the sounds. It is one of the most romantic narratives I have seen in movies. Very gentle and loving.', 'positive'), (2, 'The Dumpling Queen', 'Unremarkable.', 'negative');

INSERT INTO print_sink
SELECT id, movie_name, content as predict_label, actual_label 
FROM ML_PREDICT(
  TABLE movie_comment, 
  MODEL ai_analyze_sentiment,  -- 登録済みの Flink 組み込みテキストモデル。
  DESCRIPTOR(user_comment));   

embedding モデル

ML_PREDICT AI 関数を使用して、登録済みの embedding_model を呼び出し、映画レビューの埋め込みを生成してから、その結果を Milvus (パブリックプレビュー) に書き込みます。

次のサンプル SQL を SQL エディターにコピーします。

-- milvus_sink という名前の一時的なシンクテーブルを作成します。
CREATE TEMPORARY TABLE milvus_sink
(
    id STRING,
    movie_name STRING,
    user_comment STRING,
    embeddings ARRAY<FLOAT>,
    PRIMARY KEY (id) NOT ENFORCED
)
WITH (
    'connector' = 'milvus',
    'endpoint' = '<YOUR-ENDPOINT>',
    'port' = '<YOUR-PORT>',
    'userName' = '<YOUR-USERNAME>',
    'password' = '<YOUR-PASSWORD>',
    'databaseName' = 'default',
    'collectionName' = 'movie-comment-embeddings'
);

-- テストデータを構築するための一時的なデータビューを作成します。
-- | id | movie_name | comment |
-- | 1 | Her Story |My favorite part was when the kid guessed the sounds. It is one of the most romantic narratives I have seen in movies. Very gentle and loving.|
-- | 2 | The Dumpling Queen | Unremarkable. |
CREATE TEMPORARY VIEW movie_comment(id, movie_name,  user_comment)
AS VALUES ('1', 'Her Story', 'My favorite part was when the kid guessed the sounds. It is one of the most romantic narratives I have seen in movies. Very gentle and loving.'), ('2', 'The Dumpling Queen', 'Unremarkable.');


INSERT INTO
    milvus_sink
SELECT
    id,
    movie_name,
    user_comment,
    embeddings
FROM
    ML_PREDICT (
        TABLE movie_comment,
        MODEL embedding_model,  -- 登録済みの Flink 組み込み embedding モデル。
        DESCRIPTOR (user_comment)
    );

チャット/completions モデル

1. ジョブのステータスが [FINISHED] であることを確認します。

   

2. [O&M] コンソールで、[デプロイ] ページに移動し、対象のジョブ名をクリックします。

3. [ログ] タブで、[Task Managers] サブタブをクリックし、[現在の TaskManager] を選択します。

4. [ログ] をクリックし、PrintSinkOutputWriter に関連するログを検索します。

   モデルの予測ラベル predict_label は、実際のラベル actual_label と一致します。

   [タスクマネージャー] タブで、左側の [実行ログ] を選択します。ログには、+I[1, Her Story, positive, positive] や +I[2, The Dumpling Queen, negative, negative] などの PrintSinkOutputWriter の出力が表示されます。これは、predict_label が actual_label と一致することを示しています。