AI_SUMMARIZE は、入力文字列のテキスト要約を生成するために大規模言語モデル (LLM) を呼び出すテーブル値関数です。
制限事項
-
Ververica Runtime (VVR) 11.4 以降が必要です。
-
スループットは、基盤となるモデルプラットフォームのレート制限によって制限されます。これらの制限に達すると、Flink ジョブにバックプレッシャーが発生し、
AI_SUMMARIZEがボトルネックになります。深刻な場合は、タイムアウトエラーがトリガーされ、ジョブが再起動します。
構文
AI_SUMMARIZE(
MODEL => MODEL <model_name>,
INPUT => <input_column>,
MAX_LENGTH => <max_length>
)位置指定引数スタイルと名前付き引数スタイルの両方をサポートします。
パラメーター
| パラメーター | データ型 | 説明 |
|---|---|---|
MODEL <model_name> |
MODEL | 登録済みモデルサービスの名前です。このモデルは、VARIANT 型の出力を返す必要があります。モデル設定項目を参照して、モデルサービスを登録してください。 |
<input_column> |
STRING | モデルによって要約される内容を持つカラムです。 |
<max_length> |
INTEGER | モデル出力の最大長です。定数値である必要があります。 |
出力
| カラム | データ型 | 説明 |
|---|---|---|
summary |
STRING | 生成された要約です。 |
使用例
テーブルデータを使用した完全な例
以下の例では、Qwen-Plus モデルを作成し、テストデータを一時ビューにロードした後、位置指定引数スタイルおよび名前付き引数スタイルの両方でテーブルカラムに対して AI_SUMMARIZE を呼び出します。
テストデータ
| id | description |
|---|---|
| 1 | What is Flink? Apache Flink is an open source distributed stream processing framework for stateful computation over real-time data streams and batch data. In simple terms: Flink is a compute engine for processing real-time data. It handles continuous data streams such as website clicks, Internet of Things sensor data, and stock trades. It provides low latency, high throughput, and exactly-once semantics. It supports both stream processing and batch processing. |
SQL
CREATE TEMPORARY MODEL general_model
INPUT (`input` STRING)
OUTPUT (`content` VARIANT)
WITH (
'provider' = 'openai-compat',
'task' = 'chat/completions',
'model' = 'qwen-plus'
);
CREATE TEMPORARY VIEW infos(id, description)
AS VALUES (1, '
What is Flink?
Apache Flink is an open source distributed stream processing framework for stateful computation over real-time data streams and batch data.
In simple terms:
Flink is a compute engine for processing real-time data.
It handles continuous data streams such as website clicks, Internet of Things sensor data, and stock trades.
It provides low latency, high throughput, and exactly-once semantics.
It supports both stream processing and batch processing.
');
-- Positional argument style
SELECT id, summary
FROM infos, LATERAL TABLE(
AI_SUMMARIZE(MODEL general_model, description, 10));
-- Named argument style
SELECT id, summary
FROM infos, LATERAL TABLE(
AI_SUMMARIZE(
MODEL => MODEL general_model,
INPUT => description,
MAX_LENGTH => 10));出力
| id | summary |
|---|---|
| 1 | Real-time stream processing engine |