E-MapReduce:AI center

Exigences relatives à la version du noyau

• 3.3.20-2.1.1 et versions ultérieures

• 3.5.16-2.1.1 et versions ultérieures

Configurer l'accès réseau

Les nœuds BE de StarRocks nécessitent un accès Internet sortant pour atteindre les endpoints des services de modèles externes. Configurez une passerelle NAT sur le VPC où votre cluster s'exécute :

1. Créez une passerelle NAT et associez-lui une adresse IP élastique (EIP).

2. Ajoutez une règle SNAT qui achemine le trafic depuis le bloc CIDR des nœuds BE via la passerelle NAT.

3. Vérifiez que les tables de routage de votre VPC et les politiques de groupe de sécurité autorisent le trafic sortant.

Pour plus de détails sur la configuration, consultez la rubrique Passerelle NAT Internet.

ai_sentiment

Classifie le sentiment du texte d'entrée.

Syntaxe

ai_sentiment(text)

Paramètres

Valeur de retour

VARCHAR — 'positive', 'negative', 'neutral', 'mixed' ou 'unknown'. Renvoie NULL si le sentiment ne peut pas être déterminé.

Exemples

Test sur une valeur unique :

SELECT ai_sentiment('I am happy');
-- Returns: 'positive'

Application à une colonne de table :

SELECT
  review_id,
  review_text,
  ai_sentiment(review_text) AS sentiment
FROM customer_reviews
LIMIT 10;

ai_classify

Attribue un libellé issu d'une liste que vous définissez.

Syntaxe

ai_classify(text, labels)

Paramètres

Valeur de retour

JSON — contient le résultat de la classification. Renvoie NULL si la classification échoue.

Exemples

Test sur une valeur unique :

SELECT ai_classify('My password is leaked.', ['urgent', 'not urgent']);
-- Returns: {"labels": ["urgent"]}

Étiquetage en masse des descriptions de produits :

SELECT
  product_id,
  description,
  ai_classify(description, ['clothing', 'shoes', 'accessories', 'furniture']) AS category
FROM products
LIMIT 10;

ai_extract

Extrait les entités nommées du texte et les renvoie sous forme d'objet JSON.

Syntaxe

ai_extract(text, entity_labels)

Paramètres

Valeur de retour

Objet JSON dont les clés sont les types d'entités et les valeurs sont le texte extrait.

Exemple

SELECT ai_extract(
  'John Doe lives in New York and works for Acme Corp.',
  ['person', 'location', 'organization']
);
-- Returns: {"person":"John Doe","location":"New York","organization":"Acme Corp"}

ai_redact

Remplace les catégories PII spécifiées par [REDACTED].

Syntaxe

ai_redact(text, categories)

Paramètres

Valeur de retour

VARCHAR avec les entités correspondantes remplacées par [REDACTED].

Exemples

Test sur une valeur unique :

SELECT ai_redact(
  'John Doe lives in New York. His email is john.doe@example.com.',
  ['person', 'email']
);
-- Returns: "[REDACTED] lives in New York. His email is [REDACTED]."

Anonymisation des données PII dans une table de journaux avant exportation :

SELECT
  log_id,
  ai_redact(log_text, ['person', 'email', 'phone']) AS redacted_log
FROM audit_logs
LIMIT 10;

ai_fix_grammar

Corrige la grammaire et l'orthographe du texte.

Syntaxe

ai_fix_grammar(text)

Paramètres

Valeur de retour

VARCHAR avec la grammaire et l'orthographe corrigées.

Exemple

SELECT ai_fix_grammar('This sentence have some mistake');
-- Returns: "This sentence has some mistake"

ai_summarize

Génère un résumé concis du texte d'entrée.

Syntaxe

ai_summarize(text)

Paramètres

Valeur de retour

Résumé VARCHAR.

Exemple

SELECT ai_summarize(
  'Apache Spark is a unified analytics engine for large-scale data processing...',
  10
);
-- Returns: "Spark: unified engine for large-scale data processing with APIs and tools."

ai_translate

Traduit le texte d'une langue vers une autre.

Syntaxe

ai_translate(text, source_lang, target_lang)

Paramètres

Codes de langue courants :

Valeur de retour

VARCHAR traduit.

Exemple

SELECT ai_translate('Hello, how are you?', 'en', 'es');
-- Returns: "Hola, ¿cómo estás?"

ai_similarity

Calcule la similarité sémantique entre deux textes.

Syntaxe

ai_similarity(text1, text2)

Paramètres

Valeur de retour

FLOAT compris entre 0 et 1. Un score de 1,0 signifie que les textes sont identiques. Ce score est principalement utilisé pour le tri.

Exemple

SELECT ai_similarity(
  'I enjoy hiking in the mountains.',
  'I love walking through mountain trails.'
);
-- Returns: 0.82

ai_complete

Génère du contenu à l'aide d'un modèle spécifié. Cette fonction prend en charge deux surcharges : une forme simple et une forme paramétrée.

Syntaxe

-- Overload 1: Simple
ai_complete(model, prompt)
-- Overload 2: With parameters
ai_complete(model, prompt, params)

Paramètres

Valeur de retour

VARCHAR — le texte généré.

Exemples

Forme simple :

SELECT ai_complete('qwen-plus', 'Write a catchy email subject for a summer bike sale with a 20% discount');
-- Returns: "Summer Cycling Carnival: 20% Off for a Limited Time!"

Avec paramètres :

SELECT ai_complete('qwen-plus', 'Summarize the benefits of cloud computing', map{'temperature':'0.7', 'max_tokens':'200'});
-- Returns: "Cloud computing offers scalable resources, cost efficiency..."

ai_filter

Évalue une condition en langage naturel par rapport à un texte et renvoie TRUE ou FALSE. Cette fonction est utile pour filtrer les lignes dans les clauses WHERE.

Syntaxe

ai_filter(text, condition)

Paramètres

Valeur de retour

BOOLEAN — TRUE si le texte satisfait la condition, FALSE sinon.

Exemple

SELECT * FROM reviews WHERE ai_filter(review_text, 'mentions product quality issues');
-- Returns rows where the review text discusses product quality problems

ai_custom_query

Exécute une requête sur une ressource personnalisée ou une base de connaissances.

Syntaxe

ai_custom_query(resource, prompt)

Paramètres

Valeur de retour

VARCHAR.

Exemple

SELECT ai_custom_query('my_knowledge_base', 'What is StarRocks?');
-- Returns: "StarRocks is a high-performance analytical data warehouse..."

ai_complete (compréhension et génération)

Interface d'invocation de modèle polyvalente prenant en charge l'inférence textuelle et la compréhension multimodale. Il s'agit de la fonction la plus flexible parmi les fonctions IA de StarRocks. Elle gère l'inférence textuelle simple ainsi que les entrées multimodales telles que les images, les vidéos et la fusion de contenus multiples. Pour la génération de texte, consultez ai_complete dans la section des fonctions textuelles. Cette section décrit la compréhension et la génération multimodales.

Compréhension et génération multimodales

Vous pouvez transmettre des données d'image binaires, une URL accompagnée d'une modalité ou un tableau de contenus multiples pour piloter un LLM multimodal afin d'effectuer des tâches de compréhension et de génération.

Syntaxe

-- Binary image input
ai_complete(prompt, binary_image)
ai_complete(prompt, binary_image, extra_params)
ai_complete(model, prompt, binary_image)
ai_complete(model, prompt, binary_image, extra_params)

-- URL + modality input
ai_complete(model, prompt, input, modality)
ai_complete(model, prompt, input, modality, extra_params)

-- Multi-content fusion input
ai_complete(model, prompt, contents)
ai_complete(model, prompt, contents, extra_params)

Paramètres

• model : Il est recommandé de le spécifier explicitement pour la génération multimodale (par exemple, qwen-vl-max). Les formes URL/vidéo et multi-contenus ne disposent pas de surcharge avec un modèle par défaut non ambigu ; vous devez donc passer le modèle explicitement.

• prompt : Obligatoire. L'invite.

• binary_image : Données d'image binaires de type VARBINARY.

• input : Une URL ou une entrée encodée en base64 de type VARCHAR. Doit être utilisé conjointement avec la modalité.

• modality : Le type de modalité d'entrée. Valeurs valides : image et text. Remarque : La transmission de video renvoie actuellement NULL (vous devez extraire les images en externe et les traiter comme des images).

• contents : Entrée de fusion de contenus multiples de type ARRAY<MAP<VARCHAR,VARCHAR>>. Permet de transmettre plusieurs images ou un contenu mixte en un seul appel.

• extra_params : Facultatif. Paramètres de génération sous forme de MAP.

Valeur de retour

Renvoie la réponse du modèle de type VARCHAR.

Exemples

-- Understand an image from a URL
SELECT ai_complete('qwen-vl-max',
  'Describe the main content of this image',
  'https://bucket.oss-cn-hangzhou.aliyuncs.com/demo.jpg',
  'image');

-- Understand a binary image
SELECT ai_complete('qwen-vl-max', 'Recognize the text in the image', image_binary)
FROM scanned_docs LIMIT 10;

-- Multi-content fusion (image and text)
SELECT ai_complete('qwen-vl-max', 'Compare the differences between these two images',
  array[
    map{'type': 'image_url', 'image_url': 'https://bucket.oss-cn-hangzhou.aliyuncs.com/img1.jpg'},
    map{'type': 'image_url', 'image_url': 'https://bucket.oss-cn-hangzhou.aliyuncs.com/img2.jpg'}
  ]);

ai_embed

Convertit du texte en un vecteur sémantique de dimension fixe.

Syntaxe

ai_embed(text)
ai_embed(model, text)
ai_embed(model, text, extra_params)

Paramètres

• model : Facultatif. Le nom du modèle d'embedding.

• text : Obligatoire. Le texte à vectoriser.

• extra_params : Facultatif (par exemple, la dimension).

Valeur de retour

Vecteur ARRAY<FLOAT>. Renvoie NULL si le texte est NULL.

ai_custom_embedding

Appelle un modèle d'embedding personnalisé via une Resource pour générer des vecteurs de texte.

Syntaxe

ai_custom_embedding(resource_name, text)
ai_custom_embedding(resource_name, text, extra_params)

Valeur de retour

Vecteur ARRAY<FLOAT>.

ai_embed_multimodal

Convertit des images, des vidéos ou du texte en vecteurs sémantiques dans un espace vectoriel unifié, prenant en charge la recherche intermodale et la fusion de contenus multiples.

Syntaxe

ai_embed_multimodal(input, modality)
ai_embed_multimodal(model, input, modality)
ai_embed_multimodal(binary_image)
ai_embed_multimodal(contents)

Paramètres

• input : URL ou entrée encodée en Base64. Doit être utilisé avec la modalité.

• modality : L'une des valeurs suivantes : image, video ou text.

• binary_image : Données d'image binaires, de type VARBINARY.

• contents : Entrée de fusion de contenus multiples, ARRAY<MAP<VARCHAR,VARCHAR>>.

Valeur de retour

Vecteur ARRAY<FLOAT>.

ai_custom_multimodal_embedding

Appelle un modèle d'embedding multimodal personnalisé via une Resource.

Syntaxe

ai_custom_multimodal_embedding(resource_name, input, modality)
ai_custom_multimodal_embedding(resource_name, binary_image)
ai_custom_multimodal_embedding(resource_name, contents)

Valeur de retour

Vecteur ARRAY<FLOAT>.

ai_agg

Effectue une agrégation basée sur un LLM sur un groupe de textes à l'aide d'une invite (fonction d'agrégat GROUP BY).

Syntaxe

ai_agg(text, instruction)
ai_agg(model, text, instruction)

Paramètres

• text : Obligatoire. La colonne de texte à agréger.

• instruction : Obligatoire. L'instruction d'agrégation.

Valeur de retour

VARCHAR — le résultat agrégé (un par groupe).

ai_agg_summary

Génère un résumé agrégé pour un groupe de textes — il s'agit d'un wrapper pratique autour de ai_agg pour la synthèse.

Syntaxe

ai_agg_summary(text)
ai_agg_summary(model, text)

Valeur de retour

VARCHAR — le résumé agrégé (un par groupe).

Pour orienter la direction du résumé, utilisez plutôt ai_agg et décrivez les exigences spécifiques dans l'instruction.

Filtrage sémantique + routage par classification

Utilisez ai_filter dans la clause WHERE pour sélectionner les enregistrements sémantiquement pertinents, puis appliquez ai_classify pour attribuer des libellés, ce qui permet un routage sémantique pour les tickets ou les avis. Idéal pour la distribution automatique des tickets, la catégorisation des retours utilisateurs et des scénarios similaires.

-- Step 1: Semantically filter complaint tickets
-- Step 2: Classify complaints by business line
SELECT ticket_id, content,
       ai_classify(content, ['logistics', 'product quality', 'after-sales', 'pricing dispute']) AS category
FROM tickets
WHERE ai_filter(content, 'the content expresses a customer complaint or dissatisfaction');

Construction d'un jeu de données pour la recherche multimodale

Utilisez ai_embed_multimodal pour vectoriser des images et des vidéos à grande échelle, écrivez-les dans des colonnes vectorielles et combinez les index vectoriels avec des index en texte intégral pour une recherche hybride. Les données ne quittent jamais le lakehouse. Idéal pour la recherche visuelle de produits, la recherche de contenu vidéo et la construction de bases de connaissances RAG multimodales.

-- Batch-vectorize product images
INSERT INTO product_vectors (product_id, image_vec)
SELECT product_id,
       ai_embed_multimodal('qwen3-vl-embedding', image_url, 'image') AS image_vec
FROM products;

-- Text-to-image search: find products most similar to a description
SELECT product_id, image_url
FROM product_vectors
ORDER BY cosine_similarity(image_vec,
  ai_embed_multimodal('qwen3-vl-embedding', 'red summer dress', 'text'))
DESC LIMIT 10;

Synthèse IA au niveau client/produit

Utilisez ai_agg / ai_agg_summary dans une clause GROUP BY pour consolider plusieurs textes par entité en un profil ou un résumé, produisant ainsi des colonnes de sortie prêtes pour l'analyse. Idéal pour le profilage client, la synthèse des avis produits et l'extraction de notes de réunion.

-- Generate a problem profile for each customer
SELECT customer_id,
       ai_agg(content, 'Summarize all tickets for this customer in one sentence, covering main issues and sentiment') AS customer_profile
FROM support_tickets
GROUP BY customer_id;

-- Aggregate product review summaries
SELECT product_id,
       ai_agg_summary(review_text) AS review_digest
FROM product_reviews
GROUP BY product_id;

Anonymisation des données personnelles (PII) avant analyse

Utilisez ai_redact pour anonymiser le texte avant de le stocker pour analyse, équilibrant ainsi la conformité et l'utilisabilité. Idéal pour la préparation des données de développement/test, l'assainissement des journaux d'audit et les scénarios de conformité en matière de confidentialité.

-- Redact user feedback and write to an analysis table
INSERT INTO feedback_anonymized (ticket_id, content_clean)
SELECT ticket_id,
       ai_redact(content, ['name', 'phone', 'ID number', 'email', 'bank card']) AS content_clean
FROM user_feedback;

Génération de contenu et traduction par lots

Utilisez ai_complete pour la génération par lots de copies marketing, combinée à ai_translate pour la localisation multilingue, le tout directement en SQL, sans outils externes.

-- Batch-generate marketing slogans and translate to English
SELECT product_name,
       ai_complete('qwen3.6-plus',
         concat('Write a promotional slogan (15 words max) for: ', product_name)) AS slogan,
       ai_translate(
         ai_complete('qwen3.6-plus',
           concat('Write a promotional slogan (15 words max) for: ', product_name)),
         'en', 'ja') AS slogan_ja
FROM products
WHERE category = 'summer_new';

SELECT * FROM information_schema.be_configs WHERE NAME LIKE 'ai_%';

Connexion au modèle

Tailles des lots

Chaque fonction envoie des requêtes au modèle par lots. Des lots plus grands réduisent le nombre d'appels au modèle et peuvent raccourcir le temps de réponse total.

Modèles d'invite

Chaque fonction utilise un modèle d'invite configurable. Les espaces réservés du modèle utilisent $0, $1, etc.