Use o Qwen LLM para inferência e interação com dados do PolarDB - PolarDB: Central de Documentação do Alibaba Cloud

Por exemplo, use o modelo de análise de sentimento (_polar4ai_tongyi_sa) para analisar sentimentos em dados de tabelas ou o modelo de chat (_polar4ai_tongyi) para gerar respostas a partir de uma entrada específica.

Modelo de análise de sentimento

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo LIMIT 1) WITH ();
-- Content from the database table: This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.

Saída: Negative

Modelo de chat

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT 'Who are you') WITH ();

Saída: I am a large language model from Alibaba Cloud. My name is Qwen.

Cenários

Modelo	Cenário
Modelo de análise de sentimento	Analisa o sentimento de frases.
Modelo de chat	Gera respostas com base no conteúdo de entrada.
Modelo de resumo	Resume o conteúdo de artigos.
Modelo de tradução	Traduz do chinês para o inglês ou de outros idiomas (incluindo inglês) para o chinês.
Modelo de comentário positivo/negativo	Gera comentários positivos ou negativos a partir do conteúdo fornecido.

Modelo de análise de sentimento: analisa o sentimento de frases.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo LIMIT 1) WITH ();
-- Query result from the textinfo table: This thing just looks okay, but the actual experience is very bad, I don't recommend everyone to buy it.

Saída: Negative

Modelo de chat: gera respostas com base no conteúdo de entrada.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT 'Who are you') WITH ();

Saída: I am a large language model from Alibaba Cloud. My name is Qwen.

Modelo de resumo: resume o conteúdo de artigos.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_summarize, SELECT content FROM textinfo WHERE id = 3) WITH ();
-- Query result from the textinfo table: In recent years, the Chinese film market has gradually shifted toward realistic themes. In 2018, "Dying to Survive" became the summer box office champion with 3.1 billion yuan in ticket sales. Subsequently, films like "Shock Wave 2", "Raging Fire", and "Chinese Doctors" also achieved success. This year's summer season saw realistic films like "Lost in the Stars", "Never Say Never", and "No More Bets" become very popular, reflecting audiences' interest in content that is close to life.

Saída: In recent years, the Chinese film market has favored realistic themes. In 2018, "Dying to Survive" topped the box office with 3.1 billion yuan. Later, films like "The White Storm 2: Drug Lords," "Raging Fire," and "Chinese Doctors" also achieved great success. This summer...

Modelo de tradução: traduz conteúdo do chinês para o inglês.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_en, SELECT content FROM textinfo ORDER BY id ASC LIMIT 1) WITH ();
-- Query result from the textinfo table: This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.

Saída: This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.

Modelo de comentário positivo: gera um comentário positivo a partir do conteúdo de entrada.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_p_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();
-- Query result from the textinfo table: Huawei's latest phone Mate 60 Pro has been selling well since its launch and is currently out of stock. Well-known analyst Ming-Chi Kuo posted on Monday that he significantly raised shipment expectations for the Mate 60 Pro, saying Huawei's influence on the industry and stock market cannot be ignored, and this influence is returning.

Saída: Since its launch, the Huawei Mate 60 Pro has quickly won the favor of consumers with its excellent performance and innovative technology. Sales have been exceptionally strong, even leading to a situation where demand exceeds supply. Renowned...

Modelo de comentário negativo: gera um comentário negativo a partir do conteúdo de entrada.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_n_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();
-- Query result from the textinfo table: Huawei's latest phone Mate 60 Pro has been selling well since its launch and is currently out of stock. Well-known analyst Ming-Chi Kuo posted on Monday that he significantly raised shipment expectations for the Mate 60 Pro, saying Huawei's influence on the industry and stock market cannot be ignored, and this influence is returning.

Saída: Although sales of the Huawei Mate 60 Pro appear strong, this short-term market reaction may not be enough to prove the product's long-term competitiveness. In the current complex global tech environment...

Limitações

A inferência online processa um registro por vez, enquanto a inferência offline oferece suporte ao processamento em lote.
O Qwen LLM aceita um comprimento máximo de contexto de 8.000 tokens. Devido aos limites de recursos computacionais, as solicitações atingem o tempo limite após 10 segundos. Adicione nós de IA para melhorar o desempenho.

Uso

Sintaxe

Invoque o Qwen LLM integrado para inferência online ou offline usando a sintaxe abaixo. Consulte os detalhes completos da sintaxe em Executar inferência.

--Online inference
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT columnname FROM tablename) with ()
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT text) with ()

--Offline inference
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT columnname FROM tablename) with (mode='async')
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT text) with (mode='async')

Parâmetros

Parâmetro	Descrição
modelname	Nome do modelo. Especifique um nome com base nos Cenários. Valores válidos: Modelo de análise de sentimento: `_polar4ai_tongyi_sa` Modelo de comentário positivo/negativo: Modelo de comentário positivo: `_polar4ai_tongyi_p_comment` Modelo de comentário negativo: `_polar4ai_tongyi_n_comment` Modelo de resumo: `_polar4ai_tongyi_summarize` Modelo de tradução: Traduzir para chinês: `_polar4ai_tongyi_tran_2_zh` Traduzir para inglês: `_polar4ai_tongyi_tran_2_en` Modelo de chat: `_polar4ai_tongyi`
tablename	Nome da tabela.
columnname	Nome da coluna da tabela, usado como entrada do modelo.
text	Texto simples, usado como entrada do modelo. Executa diretamente sem uma tabela de dados. Adequado para cenários de chamada de API.
mode	Modo de inferência. Defina como async para inferência offline. Omita para inferência online.

Exemplos

1. Preparar o ambiente

Adicione um nó de IA e configure sua conta de banco de dados: Ativar o recurso PolarDB for AI

Caso tenha adicionado um nó de IA durante a compra do cluster, configure a conta do banco de dados diretamente.
Use o Cluster Endpoint para conectar-se ao cluster PolarDB: Fazer login no PolarDB for AI

2. Preparar os dados

Crie uma tabela chamada textinfo.

CREATE TABLE IF NOT EXISTS textinfo (
    id INT NOT NULL,
    content TEXT NOT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

Adicione os seguintes dados à tabela textinfo.

INSERT INTO textinfo (id,content) VALUES (1,"这个东西只是看着还行，实际体验上非常的不好，不推荐大家购买。");
INSERT INTO textinfo (id,content) VALUES (2,"华为最新手机Mate 60 Pro自开卖后销售火爆，目前已缺货。知名分析师郭明錤周一发文称，大幅提升Mate 60 Pro的出货量预期，华为对于产业和股市的影响力不可忽视，这种影响力正在回归中。");
INSERT INTO textinfo (id,content) VALUES (3,"近年来，中国电影市场逐渐倾向于现实题材。2018年的《我不是药神》以31亿票房成为暑期档冠军。随后，《扫毒2》、《怒火·重案》和《中国医生》等影片也取得了成功。今年暑期档，现实题材如《消失的她》、《八角笼中》和《孤注一掷》等电影大受欢迎，反映了观众对贴近生活内容的兴趣。");
INSERT INTO textinfo (id,content) VALUES (4,"你是谁");
INSERT INTO textinfo (id,content) VALUES (5,"This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.");

3. Chamar o Qwen LLM

Inferência online

A inferência online processa apenas um único registro por vez.

Modelo de análise de sentimento

Analisa o sentimento de frases. Casos de uso comuns incluem análise de avaliações de e-commerce, detecção de viés em notícias e monitoramento de opinião pública.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo WHERE id = 1) WITH ();

Resultado retornado:

Negative

Modelo de comentário positivo e negativo

Gera um comentário positivo ou negativo com base em um trecho de conteúdo.

Gerar um comentário positivo:

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_p_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();

Resultado retornado:

The Huawei Mate 60 Pro has been selling extremely well since its launch, which demonstrates strong consumer recognition and support for the Huawei brand. As a well-known technology company in China, Huawei has always attracted significant attention in the smartphone market. The post by Ming-Chi Kuo further confirms Huawei's influence in the industry and stock market, indicating that Huawei is gradually regaining its rightful position. Huawei's influence extends beyond product sales to its role in driving the entire tech industry and stock market. We should encourage and support excellent companies like Huawei to promote the continuous development of China's technology industry.

Gerar um comentário negativo:

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_n_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();

Resultado retornado:

While the sales of the Huawei Mate 60 Pro may seem optimistic, from the perspective of market diversity and competition, the popularity of a single product might obscure consumer demand for other options. Over-concentration on one product could limit the market's drive for innovation, causing other potentially excellent products to not receive enough attention and development opportunities.

Modelo de resumo

Resume o texto fornecido.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_summarize, SELECT content FROM textinfo WHERE id = 3) WITH ();

Resultado retornado:

In recent years, the Chinese film market has increasingly favored realistic themes. In 2018, "Dying to Survive" became the summer box office champion with a revenue of 3.1 billion. Later, films like "The White Storm 2: Drug Lords," "Raging Fire," and "Chinese Doctors" also achieved great success. This summer, realistic films such as "Lost in the Stars," "Octagonal," and "No More Bets" have been very popular with audiences, reflecting a strong interest in content that reflects real life.

Modelo de tradução

Traduzir um conteúdo do chinês para o inglês.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_en, SELECT content FROM textinfo WHERE id = 1) WITH ();

Resultado retornado:

This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.

Traduzir outros idiomas (incluindo inglês) para o chinês.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_zh, SELECT content FROM textinfo WHERE id = 5) WITH ();

Resultado retornado:

这件商品看起来还不错，实际体验却很差。我不推荐购买。

Modelo de chat

Gera respostas a partir do conteúdo de entrada, incluindo prompts explícitos.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT content FROM textinfo WHERE id = 4) WITH ();

Resultado retornado:

I am a large language model from Alibaba Cloud. My name is Qwen.

Também é possível inserir text simples diretamente.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT 'Who are you') WITH ();

Resultado retornado:

I am a large language model from Alibaba Cloud. My name is Qwen.

Inferência offline

A inferência offline permite o processamento em lote de vários registros. Este exemplo utiliza o modelo de análise de sentimento:

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo) WITH (mode='async');

O seguinte resultado é retornado:

+--------------------------------------+
| task_id                              |
+--------------------------------------+
| 6227479c-1e82-11f0-b7cb-xxxxxxxxxxxx |
+--------------------------------------+

A consulta retorna um task ID. Use esse ID para verificar o status da tarefa e baixar os resultados.

/*polar4ai*/SHOW TASK `6227479c-1e82-11f0-b7cb-xxxxxxxxxxxx`;

Quando taskStatus exibir finish, a tarefa estará concluída.

+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+
| taskStatus | filePath                                                                                                                                    | results | startTime      | endTime        | errMsg | successBatch | allBatch |
+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+
| finish     | ["http://db4ai-xxx.aliyuncs.com/final_results/_polar4ai_tongyi_sa/xxx.csv?security-token=xxx&OSSAccessKeyId=xxx&Expires=xxx&Signature=xxx"] |         | 2025-04-21 xxx | 2025-04-21 xxx |        | 5            | 5        |
+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+

Nota

O filePath expira após 100 minutos. Verifique o parâmetro Expires no filePath para confirmar a validade. Baixe os resultados antes da expiração.

4. (Opcional) Gravar resultados da inferência no banco de dados

Para reduzir gravações no banco de dados, o PolarDB armazena os resultados da inferência de IA como tabelas externas PolarDB for AI Augmented Table (AAT) no OSS. É necessário ativar primeiro o arquivamento de dados frios.

Ativar arquivamento de dados frios.

Acesse o console do PolarDB e navegue até a página Configuration and Management > Data and Lifecycle > Data Archive (Cold Data) para ativar o recurso de arquivamento de dados frios.
Crie um banco de dados e conceda permissões à conta.

Crie um banco de dados chamado polar4ai com o conjunto de caracteres utf8mb4. O sistema armazena as AATs geradas automaticamente no banco de dados polar4ai. Conceda permissões de leitura e escrita à conta de banco de dados do nó de IA.

Utilize o modelo de análise de sentimento para executar inferência offline e gerar automaticamente uma AAT.

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo) WITH (x_cols='content', mode='async', into_type='db') INTO tongyi_sa_predict_in_db;

O seguinte resultado é retornado:

+--------------------------------------+
| task_id                              |
+--------------------------------------+
| e61aefa8-42af-11f0-92d0-xxxxxxxxxxxx |
+--------------------------------------+

A consulta retorna um task ID. Use esse ID para verificar o status da tarefa.

/*polar4ai*/SHOW TASK `e61aefa8-42af-11f0-92d0-xxxxxxxxxxxx`;

Quando taskStatus exibir finish, a tarefa estará concluída.

+------------+------------+---------+----------------+----------------+--------+--------------+----------+
| taskStatus | filePath   | results | startTime      | endTime        | errMsg | successBatch | allBatch |
+------------+------------+---------+----------------+----------------+--------+--------------+----------+
| finish     | []         |         | 2025-04-21 xxx | 2025-04-21 xxx |        | 5            | 5        |
+------------+------------+---------+----------------+----------------+--------+--------------+----------+

Visualize as informações sobre a AAT gerada automaticamente no banco de dados polar4ai.

SHOW CREATE TABLE polar4ai.tongyi_sa_predict_in_db;

O seguinte resultado é retornado:

+--------------------------+-------------------------------------------------------------------------------------------------------------+
| Table                    | Create Table                                                                                                |
+--------------------------+-------------------------------------------------------------------------------------------------------------+
| tongyi_sa_predict_in_db  | CREATE TABLE `tongyi_sa_predict_in_db` (
  `content` text,
  `content_result` text
) ENGINE=CSV DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci /*!99990 800010128 NULL_MARKER='NULL' */ CONNECTION='default_oss_server' |
+--------------------------+-------------------------------------------------------------------------------------------------------------+

Visualize os dados na AAT.

SELECT * FROM polar4ai.tongyi_sa_predict_in_db;

O seguinte resultado é retornado:

+-------------------------------------------------------------+----------------+
| content                                                     | content_result |
+-------------------------------------------------------------+----------------+
| 这个东西只是看着还行，实际体验上非常的不好，不推荐大家购买。          | Negative       |
| 华为最新手机Mate 60 Pro自开卖后销售火爆，目前已缺货。知名分析师郭... | Positive       |
| 近年来，中国电影市场逐渐倾向于现实题材。2018年的《我不是药神》以31... | Neutral        |
| 你是谁                                                       | Neutral        |
| This item only looks decent; the actual experience is ve... | Negative       |
+-------------------------------------------------------------+-----------------+