PolarDB データに対して Qwen LLM を使用して推論およびインタラクションを実行する - PolarDB

PolarDB for AI は、Alibaba Cloud の Qwen LLM を PolarDB クラスターに統合します。SQL を介して組み込みの Qwen LLM を呼び出し、ご利用の PolarDB データに対して推論およびインタラクションを実行できます。

たとえば、感情分析モデル (_polar4ai_tongyi_sa) を使用してテーブルデータ内の感情を分析したり、チャットモデル (_polar4ai_tongyi) を使用して特定の入力から回答を生成したりできます。

感情分析モデル

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo LIMIT 1) WITH ();
-- データベーステーブルからのコンテンツ: この商品は見た目だけはまともだが、実際の体験は非常に悪い。購入はおすすめしない。

Output: Negative

チャットモデル

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT 'Who are you') WITH ();

Output: I am a large language model from Alibaba Cloud. My name is Qwen.

利用シーン

モデル	利用シーン
感情分析モデル	文の感情を分析します。
チャットモデル	入力コンテンツから回答を生成します。
要約モデル	記事の内容を要約します。
翻訳モデル	中国語を英語に、またはその他の言語（英語を含む）を中国語に翻訳します。
ポジティブ／ネガティブコメントモデル	入力コンテンツからポジティブまたはネガティブなコメントを生成します。

制限事項

オンライン推論は、1 つのレコードを一度に処理します。オフライン推論は、バッチ処理をサポートしています。
Qwen LLM は最大コンテキスト長が 8,000 トークンです。計算リソースの制限により、リクエストは 10 秒後にタイムアウトします。パフォーマンスを向上させるには、AI ノードを追加してください。

使用方法

構文

次の構文を使用して、組み込みの Qwen LLM を呼び出して動的推論または静的推論を実行します。完全な構文の詳細については、「推論の実行」をご参照ください。

--オンライン推論
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT columnname FROM tablename) with ()
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT text) with ()

--オフライン推論
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT columnname FROM tablename) with (mode='async')
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT text) with (mode='async')

パラメーター

パラメーター	説明
modelname	モデル名です。「利用シーン」に基づいて名前を指定します。有効な値は以下のとおりです。感情分析モデル: `_polar4ai_tongyi_sa` ポジティブ／ネガティブコメントモデル: ポジティブコメントモデル: `_polar4ai_tongyi_p_comment` ネガティブコメントモデル: `_polar4ai_tongyi_n_comment` 要約モデル: `_polar4ai_tongyi_summarize` 翻訳モデル: 中国語への翻訳: `_polar4ai_tongyi_tran_2_zh` 英語への翻訳: `_polar4ai_tongyi_tran_2_en` チャットモデル: `_polar4ai_tongyi`
tablename	テーブル名です。
columnname	テーブルの列名で、モデルの入力として使用されます。
text	プレーンテキストで、モデルの入力として使用されます。データテーブルなしで直接実行します。API 呼び出しのシナリオに適しています。
mode	推論モードです。静的推論の場合は async に設定します。動的推論の場合は省略します。

使用例

1. 環境の準備

AI ノードを追加し、データベースアカウントを設定します: 「PolarDB for AI 機能の有効化」

クラスター購入時に AI ノードを追加済みの場合は、データベースアカウントを直接設定してください。
Cluster Endpoint を使用して PolarDB クラスターに接続します: 「PolarDB for AI へのログイン」

2. データの準備

textinfo という名前のテーブルを作成します。

CREATE TABLE IF NOT EXISTS textinfo (
    id INT NOT NULL,
    content TEXT NOT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

以下のデータを textinfo テーブルに追加します。

INSERT INTO textinfo (id,content) VALUES (1,"この商品は見た目だけはまともだが、実際の体験は非常に悪い。購入はおすすめしない。");
INSERT INTO textinfo (id,content) VALUES (2,"Huawei の最新スマートフォン Mate 60 Pro は発売以来好調に売れ続けており、現在在庫切れとなっています。有名アナリストの郭明錤氏は月曜日に投稿し、Mate 60 Pro の出荷台数予想を大幅に引き上げました。同氏は、Huawei が業界および株式市場に与える影響は無視できず、その影響力が戻ってきていると述べています。");
INSERT INTO textinfo (id,content) VALUES (3,"近年、中国の映画市場は現実的なテーマへと徐々にシフトしています。2018 年、「薬神」が興行収入 31 億元で夏の興行収入チャンピオンとなりました。その後、「マカオ・ドラッグ・ウォーズ 2」、「怒火」、「中国医師」などの作品も成功を収めました。今年の夏シーズンでは、「消失的她」、「八角籠中」、「孤注一擲」などの現実的な映画が非常に人気を集め、観客が生活に密着したコンテンツに関心を持っていることを反映しています。");
INSERT INTO textinfo (id,content) VALUES (4,"あなたは誰ですか");
INSERT INTO textinfo (id,content) VALUES (5,"This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.");

3. Qwen LLM の呼び出し

動的推論

動的推論は一度に 1 レコードのみ処理します。

感情分析モデル

文の感情を分析します。一般的なユースケース: EC サイトのレビュー分析、ニュースのバイアス分析、世論モニタリング。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo WHERE id = 1) WITH ();

返された結果:

Negative

ポジティブおよびネガティブコメントモデル

コンテンツに基づいてポジティブまたはネガティブなコメントを生成します。

ポジティブなコメントを生成します:

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_p_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();

返された結果:

The Huawei Mate 60 Pro has been selling extremely well since its launch, which demonstrates strong consumer recognition and support for the Huawei brand. As a well-known technology company in China, Huawei has always attracted significant attention in the smartphone market. The post by Ming-Chi Kuo further confirms Huawei's influence in the industry and stock market, indicating that Huawei is gradually regaining its rightful position. Huawei's influence extends beyond product sales to its role in driving the entire tech industry and stock market. We should encourage and support excellent companies like Huawei to promote the continuous development of China's technology industry.

ネガティブなコメントを生成します:

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_n_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();

返された結果:

While the sales of the Huawei Mate 60 Pro may seem optimistic, from the perspective of market diversity and competition, the popularity of a single product might obscure consumer demand for other options. Over-concentration on one product could limit the market's drive for innovation, causing other potentially excellent products to not receive enough attention and development opportunities.

要約モデル

提供されたテキストを要約します。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_summarize, SELECT content FROM textinfo WHERE id = 3) WITH ();

返された結果:

In recent years, the Chinese film market has increasingly favored realistic themes. In 2018, "Dying to Survive" became the summer box office champion with a revenue of 3.1 billion. Later, films like "The White Storm 2: Drug Lords," "Raging Fire," and "Chinese Doctors" also achieved great success. This summer, realistic films such as "Lost in the Stars," "Octagonal," and "No More Bets" have been very popular with audiences, reflecting a strong interest in content that reflects real life.

翻訳モデル

中国語のコンテンツを英語に翻訳します。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_en, SELECT content FROM textinfo WHERE id = 1) WITH ();

返された結果:

This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.

その他の言語（英語を含む）を中国語に翻訳します。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_zh, SELECT content FROM textinfo WHERE id = 5) WITH ();

返された結果:

这件商品看起来还不错，实际体验却很差。我不推荐购买。

チャットモデル

明示的なプロンプトを含む入力コンテンツから回答を生成します。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT content FROM textinfo WHERE id = 4) WITH ();

返された結果:

I am a large language model from Alibaba Cloud. My name is Qwen.

プレーンテキスト text を直接入力することもできます。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT 'Who are you') WITH ();

返された結果:

I am a large language model from Alibaba Cloud. My name is Qwen.

オフライン推論

静的推論は複数レコードのバッチ処理をサポートします。この例では 感情分析モデル を使用します。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo) WITH (mode='async');

次の結果が返されます。

+--------------------------------------+
| task_id                              |
+--------------------------------------+
| 6227479c-1e82-11f0-b7cb-xxxxxxxxxxxx |
+--------------------------------------+

クエリは タスク ID を返します。この ID を使用してタスクのステータスを確認し、結果をダウンロードします。

/*polar4ai*/SHOW TASK `6227479c-1e82-11f0-b7cb-xxxxxxxxxxxx`;

taskStatus が finish を示している場合、タスクは完了しています。

+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+
| taskStatus | filePath                                                                                                                                    | results | startTime      | endTime        | errMsg | successBatch | allBatch |
+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+
| finish     | ["http://db4ai-xxx.aliyuncs.com/final_results/_polar4ai_tongyi_sa/xxx.csv?security-token=xxx&OSSAccessKeyId=xxx&Expires=xxx&Signature=xxx"] |         | 2025-04-21 xxx | 2025-04-21 xxx |        | 5            | 5        |
+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+

説明

filePath は 100 分後に有効期限切れになります。filePath 内の Expires パラメーターを確認して有効性を検証してください。有効期限前に結果をダウンロードしてください。

4. (オプション) 推論結果をデータベースに書き込む

データベースへの書き込みを減らすために、PolarDB は AI 推論結果を OSS の PolarDB for AI Augmented Table (AAT) 外部テーブルとして保存します。コールドデータアーカイブを最初に有効にする必要があります。

「コールドデータアーカイブの有効化」

PolarDB コンソール にアクセスし、構成と管理 > データとライフサイクル > コールドデータのアーカイブ (コールドデータ) ページに移動して、コールドデータアーカイブ機能を有効にします。
データベースを作成し、アカウントに権限を付与します。

utf8mb4 文字セットを使用して polar4ai という名前のデータベースを作成します。システムは自動生成された AAT を polar4ai データベースに保存します。AI ノードのデータベースアカウントに読み取りおよび書き込み権限を付与してください。

感情分析モデル を使用して静的推論を実行し、AAT を自動生成します。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo) WITH (x_cols='content', mode='async', into_type='db') INTO tongyi_sa_predict_in_db;

次の結果が返されます。

+--------------------------------------+
| task_id                              |
+--------------------------------------+
| e61aefa8-42af-11f0-92d0-xxxxxxxxxxxx |
+--------------------------------------+

クエリは タスク ID を返します。この ID を使用してタスクのステータスを確認します。

/*polar4ai*/SHOW TASK `e61aefa8-42af-11f0-92d0-xxxxxxxxxxxx`;

taskStatus が finish を示している場合、タスクは完了しています。

+------------+------------+---------+----------------+----------------+--------+--------------+----------+
| taskStatus | filePath   | results | startTime      | endTime        | errMsg | successBatch | allBatch |
+------------+------------+---------+----------------+----------------+--------+--------------+----------+
| finish     | []         |         | 2025-04-21 xxx | 2025-04-21 xxx |        | 5            | 5        |
+------------+------------+---------+----------------+----------------+--------+--------------+----------+

polar4ai データベース内の自動生成された AAT の情報を表示します。

SHOW CREATE TABLE polar4ai.tongyi_sa_predict_in_db;

次の結果が返されます。

+--------------------------+-------------------------------------------------------------------------------------------------------------+
| Table                    | Create Table                                                                                                |
+--------------------------+-------------------------------------------------------------------------------------------------------------+
| tongyi_sa_predict_in_db  | CREATE TABLE `tongyi_sa_predict_in_db` (
  `content` text,
  `content_result` text
) ENGINE=CSV DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci /*!99990 800010128 NULL_MARKER='NULL' */ CONNECTION='default_oss_server' |
+--------------------------+-------------------------------------------------------------------------------------------------------------+

AAT 内のデータを表示します。

SELECT * FROM polar4ai.tongyi_sa_predict_in_db;

次の結果が返されます。

+-------------------------------------------------------------+----------------+
| content                                                     | content_result |
+-------------------------------------------------------------+----------------+
| この商品は見た目だけはまともだが、実際の体験は非常に悪い。購入はおすすめしない。          | Negative       |
| Huawei の最新スマートフォン Mate 60 Pro は発売以来好調に売れ... | Positive       |
| 近年、中国の映画市場は現実的なテーマへと徐々にシフトしています。2018 年、「薬神」が... | Neutral        |
| あなたは誰ですか                                               | Neutral        |
| This item only looks decent; the actual experience is ve... | Negative       |
+-------------------------------------------------------------+-----------------+

利用シーン

制限事項

使用方法

構文

パラメーター

使用例

1. 環境の準備

2. データの準備

3. Qwen LLM の呼び出し

動的推論

感情分析モデル

ポジティブおよびネガティブコメント モデル

要約モデル

翻訳モデル

チャットモデル

オフライン推論

4. (オプション) 推論結果をデータベースに書き込む

ポジティブおよびネガティブコメントモデル