Use the Qwen LLM for inference and interaction with PolarDB data - PolarDB

Par exemple, utilisez le modèle d'analyse des sentiments (_polar4ai_tongyi_sa) pour analyser les sentiments dans les données d'une table, ou le modèle de discussion (_polar4ai_tongyi) pour générer des réponses à partir d'une entrée spécifique.

Modèle d'analyse des sentiments

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo LIMIT 1) WITH ();
-- Content from the database table: This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.

Output: Negative

Modèle de discussion

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT 'Who are you') WITH ();

Output: I am a large language model from Alibaba Cloud. My name is Qwen.

Cas d'usage

Modèle

Scénario

Modèle d'analyse des sentiments

Analyse le sentiment des phrases.

Modèle de discussion

Génère des réponses à partir du contenu fourni en entrée.

Modèle de résumé

Résume le contenu d'un article.

Modèle de traduction

Traduit du chinois vers l'anglais, ou d'autres langues (y compris l'anglais) vers le chinois.

Modèle de commentaires positifs/négatifs

Génère des commentaires positifs ou négatifs à partir du contenu fourni en entrée.

Limites

L'inférence en ligne traite un seul enregistrement à la fois. L'inférence hors ligne prend en charge le traitement par lots.
Le LLM Qwen prend en charge une longueur de contexte maximale de 8 000 tokens. Les requêtes expirent après 10 secondes en raison des limites de ressources de calcul. Ajoutez des nœuds AI pour améliorer les performances.

Utilisation

Syntaxe

Appelez le LLM Qwen intégré pour une inférence en ligne ou hors ligne en utilisant la syntaxe suivante. Pour plus de détails sur la syntaxe complète, consultez Exécuter une inférence.

--Online inference
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT columnname FROM tablename) with ()
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT text) with ()

--Offline inference
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT columnname FROM tablename) with (mode='async')
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT text) with (mode='async')

Paramètres

Paramètre	Description
modelname	Nom du modèle. Spécifiez un nom en fonction des Cas d'usage. Valeurs valides : Modèle d'analyse des sentiments : `_polar4ai_tongyi_sa` Modèle de commentaires positifs/négatifs : Modèle de commentaire positif : `_polar4ai_tongyi_p_comment` Modèle de commentaire négatif : `_polar4ai_tongyi_n_comment` Modèle de résumé : `_polar4ai_tongyi_summarize` Modèle de traduction : Traduire en chinois : `_polar4ai_tongyi_tran_2_zh` Traduire en anglais : `_polar4ai_tongyi_tran_2_en` Modèle de discussion : `_polar4ai_tongyi`
tablename	Nom de la table.
columnname	Nom de la colonne de la table, utilisé comme entrée du modèle.
text	Texte brut, utilisé comme entrée du modèle. S'exécute directement sans table de données. Convient aux scénarios d'appel d'API.
mode	Mode d'inférence. Définissez sur async pour l'inférence hors ligne. Omettez ce paramètre pour l'inférence en ligne.

Exemples

1. Préparer l'environnement

Ajoutez un nœud AI et configurez son compte de base de données : Activer la fonctionnalité PolarDB for AI

Si vous avez ajouté un nœud AI lors de l'achat du cluster, configurez directement le compte de base de données.
Utilisez l'Cluster Endpoint pour vous connecter au cluster PolarDB : Se connecter à PolarDB for AI

2. Préparer les données

Créez une table nommée textinfo.

CREATE TABLE IF NOT EXISTS textinfo (
    id INT NOT NULL,
    content TEXT NOT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

Ajoutez les données suivantes à la table textinfo.

INSERT INTO textinfo (id,content) VALUES (1,"这个东西只是看着还行，实际体验上非常的不好，不推荐大家购买。");
INSERT INTO textinfo (id,content) VALUES (2,"华为最新手机Mate 60 Pro自开卖后销售火爆，目前已缺货。知名分析师郭明錤周一发文称，大幅提升Mate 60 Pro的出货量预期，华为对于产业和股市的影响力不可忽视，这种影响力正在回归中。");
INSERT INTO textinfo (id,content) VALUES (3,"近年来，中国电影市场逐渐倾向于现实题材。2018年的《我不是药神》以31亿票房成为暑期档冠军。随后，《扫毒2》、《怒火·重案》和《中国医生》等影片也取得了成功。今年暑期档，现实题材如《消失的她》、《八角笼中》和《孤注一掷》等电影大受欢迎，反映了观众对贴近生活内容的兴趣。");
INSERT INTO textinfo (id,content) VALUES (4,"你是谁");
INSERT INTO textinfo (id,content) VALUES (5,"This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.");

3. Appeler le LLM Qwen

Inférence en ligne

L'inférence en ligne ne traite qu'un seul enregistrement à la fois.

Modèle d'analyse des sentiments

Analyse le sentiment des phrases. Cas d'usage courants : analyse des avis e-commerce, analyse des biais médiatiques et surveillance de l'opinion publique.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo WHERE id = 1) WITH ();

Résultat retourné :

Negative

Modèle de commentaires positifs et négatifs

Génère un commentaire positif ou négatif basé sur un contenu donné.

Génération d'un commentaire positif :

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_p_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();

Résultat retourné :

The Huawei Mate 60 Pro has been selling extremely well since its launch, which demonstrates strong consumer recognition and support for the Huawei brand. As a well-known technology company in China, Huawei has always attracted significant attention in the smartphone market. The post by Ming-Chi Kuo further confirms Huawei's influence in the industry and stock market, indicating that Huawei is gradually regaining its rightful position. Huawei's influence extends beyond product sales to its role in driving the entire tech industry and stock market. We should encourage and support excellent companies like Huawei to promote the continuous development of China's technology industry.

Génération d'un commentaire négatif :

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_n_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();

Résultat retourné :

While the sales of the Huawei Mate 60 Pro may seem optimistic, from the perspective of market diversity and competition, the popularity of a single product might obscure consumer demand for other options. Over-concentration on one product could limit the market's drive for innovation, causing other potentially excellent products to not receive enough attention and development opportunities.

Modèle de résumé

Résume le texte fourni.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_summarize, SELECT content FROM textinfo WHERE id = 3) WITH ();

Résultat retourné :

In recent years, the Chinese film market has increasingly favored realistic themes. In 2018, "Dying to Survive" became the summer box office champion with a revenue of 3.1 billion. Later, films like "The White Storm 2: Drug Lords," "Raging Fire," and "Chinese Doctors" also achieved great success. This summer, realistic films such as "Lost in the Stars," "Octagonal," and "No More Bets" have been very popular with audiences, reflecting a strong interest in content that reflects real life.

Modèle de traduction

Traduction d'un contenu chinois en anglais.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_en, SELECT content FROM textinfo WHERE id = 1) WITH ();

Résultat retourné :

This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.

Traduction d'autres langues (y compris l'anglais) en chinois.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_zh, SELECT content FROM textinfo WHERE id = 5) WITH ();

Résultat retourné :

这件商品看起来还不错，实际体验却很差。我不推荐购买。

Modèle de discussion

Génère des réponses à partir du contenu fourni en entrée, y compris des invites explicites.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT content FROM textinfo WHERE id = 4) WITH ();

Résultat retourné :

I am a large language model from Alibaba Cloud. My name is Qwen.

Vous pouvez également saisir directement du text brut.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT 'Who are you') WITH ();

Résultat retourné :

I am a large language model from Alibaba Cloud. My name is Qwen.

Inférence hors ligne

L'inférence hors ligne permet le traitement par lots de plusieurs enregistrements. Cet exemple utilise le modèle d'analyse des sentiments :

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo) WITH (mode='async');

Le résultat suivant est retourné :

+--------------------------------------+
| task_id                              |
+--------------------------------------+
| 6227479c-1e82-11f0-b7cb-xxxxxxxxxxxx |
+--------------------------------------+

La requête retourne un task ID. Utilisez cet ID pour vérifier l'état de la tâche et télécharger les résultats.

/*polar4ai*/SHOW TASK `6227479c-1e82-11f0-b7cb-xxxxxxxxxxxx`;

Lorsque taskStatus affiche finish, la tâche est terminée.

+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+
| taskStatus | filePath                                                                                                                                    | results | startTime      | endTime        | errMsg | successBatch | allBatch |
+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+
| finish     | ["http://db4ai-xxx.aliyuncs.com/final_results/_polar4ai_tongyi_sa/xxx.csv?security-token=xxx&OSSAccessKeyId=xxx&Expires=xxx&Signature=xxx"] |         | 2025-04-21 xxx | 2025-04-21 xxx |        | 5            | 5        |
+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+

Remarque

Le filePath expire après 100 minutes. Vérifiez le paramètre Expires dans le filePath pour confirmer sa validité. Téléchargez les résultats avant l'expiration.

4. (Facultatif) Écrire les résultats d'inférence dans la base de données

Pour réduire les écritures en base de données, PolarDB stocke les résultats d'inférence AI sous forme de tables externes PolarDB for AI Augmented Table (AAT) dans OSS. Vous devez d'abord activer l'archivage des données froides.

Activer l'archivage des données froides.

Accédez à la console PolarDB et naviguez vers la page Configuration and Management > Data and Lifecycle > Data Archive (Cold Data) pour activer la fonctionnalité d'archivage des données froides.
Créez une base de données et accordez des autorisations au compte.

Créez une base de données nommée polar4ai avec le jeu de caractères utf8mb4. Le système stocke les AAT générées automatiquement dans la base de données polar4ai. Accordez les permissions de lecture et d'écriture au compte de base de données du nœud AI.

Utilisez le modèle d'analyse des sentiments pour effectuer une inférence hors ligne et générer automatiquement une AAT.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo) WITH (x_cols='content', mode='async', into_type='db') INTO tongyi_sa_predict_in_db;

Le résultat suivant est retourné :

+--------------------------------------+
| task_id                              |
+--------------------------------------+
| e61aefa8-42af-11f0-92d0-xxxxxxxxxxxx |
+--------------------------------------+

La requête retourne un task ID. Utilisez cet ID pour vérifier l'état de la tâche.

/*polar4ai*/SHOW TASK `e61aefa8-42af-11f0-92d0-xxxxxxxxxxxx`;

Lorsque taskStatus affiche finish, la tâche est terminée.

+------------+------------+---------+----------------+----------------+--------+--------------+----------+
| taskStatus | filePath   | results | startTime      | endTime        | errMsg | successBatch | allBatch |
+------------+------------+---------+----------------+----------------+--------+--------------+----------+
| finish     | []         |         | 2025-04-21 xxx | 2025-04-21 xxx |        | 5            | 5        |
+------------+------------+---------+----------------+----------------+--------+--------------+----------+

Consultez les informations de l'AAT générée automatiquement dans la base de données polar4ai.

SHOW CREATE TABLE polar4ai.tongyi_sa_predict_in_db;

Le résultat suivant est retourné :

+--------------------------+-------------------------------------------------------------------------------------------------------------+
| Table                    | Create Table                                                                                                |
+--------------------------+-------------------------------------------------------------------------------------------------------------+
| tongyi_sa_predict_in_db  | CREATE TABLE `tongyi_sa_predict_in_db` (
  `content` text,
  `content_result` text
) ENGINE=CSV DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci /*!99990 800010128 NULL_MARKER='NULL' */ CONNECTION='default_oss_server' |
+--------------------------+-------------------------------------------------------------------------------------------------------------+

Consultez les données contenues dans l'AAT.

SELECT * FROM polar4ai.tongyi_sa_predict_in_db;

Le résultat suivant est retourné :

+-------------------------------------------------------------+----------------+
| content                                                     | content_result |
+-------------------------------------------------------------+----------------+
| 这个东西只是看着还行，实际体验上非常的不好，不推荐大家购买。          | Negative       |
| 华为最新手机Mate 60 Pro自开卖后销售火爆，目前已缺货。知名分析师郭... | Positive       |
| 近年来，中国电影市场逐渐倾向于现实题材。2018年的《我不是药神》以31... | Neutral        |
| 你是谁                                                       | Neutral        |
| This item only looks decent; the actual experience is ve... | Negative       |
+-------------------------------------------------------------+-----------------+