StarRocks AI işlevleri, büyük dil modeli (LLM) yeteneklerini doğrudan SQL içine gömer; böylece verileri harici bir işlem hattına taşımanıza gerek kalmadan metin analizi, dönüşüm ve oluşturma işlemlerini herhangi bir OLAP sorgusunun parçası olarak çalıştırabilirsiniz.
Tüm 12 yerleşik işlev, JOIN, GROUP BY, toplama ve filtreleme işlemleriyle doğal bir şekilde birleşen türü belirtilmiş değerler (VARCHAR, FLOAT, JSON veya BOOLEAN) döndürür. Ham veriler StarRocks içinde kalır; modele yalnızca işleve ilettiğiniz alanlar gönderilir.
Her kullanıcıya 1 milyon tokenlık ücretsiz deneme kotası sunulur. Ücretsiz deneme kotasını aştıktan sonra ek kullanım, gerçek token tüketimine göre ücretlendirilir. Fiyatlandırma ayrıntıları için AI işlevi fiyatlandırması bölümüne bakın.
Özellik avantajları
Yüksek eşzamanlılık verimliliği: Dört iş parçacığı yüzlerce eşzamanlı LLM çağrısını yönetir. İstemci tarafında aynı yükü karşılamak için eşdeğer sayıda süreç gerekir ve işletim sistemi zamanlayıcısı iş tamamlanmadan çok önce tıkanır.
Sıfır hız sınırlaması yönetimi: Dahili üç katmanlı koruma ve DashScope uyumlu işleme sayesinde müşterilerin RPM veya TPM mekanizmalarını düşünmesine gerek kalmaz.
Veriler yerinde kalır: Tüm işlem hattı veritabanı içinde SQL olarak çalışır; ETL süreci veya veri sızdırma riski bulunmaz.
Daha düşük token maliyeti: Yüklem itme (predicate pushdown) çağrı hacmini azaltır, önbelleğe alma yinelenen istekleri ortadan kaldırır ve doğru muhasebe her tokenı izler. Aynı iş yükünün maliyeti %30 veya daha fazla düşebilir.
Endüstriyel düzeyde güvenilirlik: Satır düzeyinde hata toleransı, akıllı yeniden denemeler ve Profil tabanlı gözlemlenebilirlik sayesinde milyon satırlık toplu işler gözetimsiz olarak çalışabilir.
Kullanım senaryoları
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Desteklenen modeller
StarRocks AI Center, farklı AI işlevi türleri için farklı modeller atar. Aşağıdaki modeller şu anda desteklenmektedir:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
qwen3-vl-embeddinghem metin hem de çok modlu gömme listesinde yer alır çünkü birleşik bir vektör uzayı üretir; metin vektörleri ile görüntü/video vektörleri modüller arasında doğrudan karşılaştırılabilir, bu da çapraz modlu erişim için idealdir.Özel modellere, AI Center'da kayıtlı Kaynaklar üzerinden erişilir. Bu modelleri çağırmak için
ai_custom_query/ai_custom_embedding/ai_custom_multimodal_embeddingkullanın.
Ön koşullar
Başlamadan önce çekirdek ve ağ gereksinimlerini karşıladığınızdan emin olun:
Çekirdek sürümü gereksinimleri
3.3.20-2.1.1 ve üzeri
3.5.16-2.1.1 ve üzeri
Ağ erişimini yapılandırma
StarRocks BE düğümlerinin harici model hizmeti uç noktalarına ulaşabilmesi için giden internet erişimine ihtiyacı vardır. Kümenizin çalıştığı VPC üzerinde bir NAT Gateway ayarlayın:
Bir NAT Gateway oluşturun ve buna bir Elastic IP Address (EIP) bağlayın.
BE düğümü CIDR bloğundaki trafiği NAT Gateway üzerinden yönlendiren bir SNAT kuralı ekleyin.
VPC rota tablolarınızın ve güvenlik grubu ilkelerinizin giden trafiğe izin verdiğini onaylayın.
Kurulum ayrıntıları için Internet NAT gateway bölümüne bakın.
İşlev referansı
Tüm işlevler standart SQL ile çağrılır. Sonuçlar türü belirtilmiş değerler olarak döndürülür ve sonraki sorgu ifadelerinde doğrudan kullanılabilir.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
İşlev ayrıntıları
ai_sentiment
Girdi metninin duygusunu sınıflandırır.
Sözdizimi
ai_sentiment(text)
Parametreler
|
|
|
|
|
|
|
|
Döndürür
VARCHAR — 'positive', 'negative', 'neutral', 'mixed' veya 'unknown'. Duygu belirlenemezse NULL döndürür.
Örnekler
Tek değer testi:
SELECT ai_sentiment('I am happy');
-- Returns: 'positive'
Tablo sütununa uygulama:
SELECT
review_id,
review_text,
ai_sentiment(review_text) AS sentiment
FROM customer_reviews
LIMIT 10;
ai_classify
Tanımladığınız bir listeden bir etiket atar.
Sözdizimi
ai_classify(text, labels)
Parametreler
|
|
|
|
|
|
|
|
|
|
|
|
Döndürür
JSON — sınıflandırma sonucunu içerir. Sınıflandırma başarısız olursa NULL döndürür.
Örnekler
Tek değer testi:
SELECT ai_classify('My password is leaked.', ['urgent', 'not urgent']);
-- Returns: {"labels": ["urgent"]}
Ürün açıklamalarını toplu olarak etiketleme:
SELECT
product_id,
description,
ai_classify(description, ['clothing', 'shoes', 'accessories', 'furniture']) AS category
FROM products
LIMIT 10;
ai_extract
Metinden adlandırılmış varlıkları çıkarır ve bunları bir JSON nesnesi olarak döndürür.
Sözdizimi
ai_extract(text, entity_labels)
Parametreler
|
|
|
|
|
|
|
|
|
|
|
|
Döndürür
Anahtarların varlık türleri, değerlerin ise çıkarılan metin olduğu JSON nesnesi.
Örnek
SELECT ai_extract(
'John Doe lives in New York and works for Acme Corp.',
['person', 'location', 'organization']
);
-- Returns: {"person":"John Doe","location":"New York","organization":"Acme Corp"}
ai_redact
Belirtilen kişisel bilgi kategorilerini [REDACTED] ile değiştirir.
Sözdizimi
ai_redact(text, categories)
Parametreler
|
|
|
|
|
|
|
|
|
|
|
|
Döndürür
Eşleşen varlıkların [REDACTED] ile değiştirildiği VARCHAR.
Örnekler
Tek değer testi:
SELECT ai_redact(
'John Doe lives in New York. His email is john.doe@example.com.',
['person', 'email']
);
-- Returns: "[REDACTED] lives in New York. His email is [REDACTED]."
Dışa aktarmadan önce günlük tablosundaki kişisel bilgileri gizleme:
SELECT
log_id,
ai_redact(log_text, ['person', 'email', 'phone']) AS redacted_log
FROM audit_logs
LIMIT 10;
ai_fix_grammar
Metindeki dilbilgisi ve yazım hatalarını düzeltir.
Sözdizimi
ai_fix_grammar(text)
Parametreler
|
|
|
|
|
|
|
|
Döndürür
Dilbilgisi ve yazımı düzeltilmiş VARCHAR.
Örnek
SELECT ai_fix_grammar('This sentence have some mistake');
-- Returns: "This sentence has some mistake"
ai_summarize
Girdi metninin kısa bir özetini oluşturur.
Sözdizimi
ai_summarize(text)
Parametreler
|
|
|
|
|
|
|
|
|
|
Döndürür
VARCHAR özet.
Örnek
SELECT ai_summarize(
'Apache Spark is a unified analytics engine for large-scale data processing...',
10
);
-- Returns: "Spark: unified engine for large-scale data processing with APIs and tools."
ai_translate
Metni bir dilden diğerine çevirir.
Sözdizimi
ai_translate(text, source_lang, target_lang)
Parametreler
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Yaygın dil kodları:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Döndürür
Çevrilmiş VARCHAR.
Örnek
SELECT ai_translate('Hello, how are you?', 'en', 'es');
-- Returns: "Hola, ¿cómo estás?"
ai_similarity
İki metin arasındaki anlamsal benzerliği hesaplar.
Sözdizimi
ai_similarity(text1, text2)
Parametreler
|
|
|
|
|
|
|
|
|
|
|
|
Döndürür
0 ile 1 arasında FLOAT. 1,0 puanı metinlerin aynı olduğunu gösterir. Bu puan öncelikle sıralama için kullanılır.
Örnek
SELECT ai_similarity(
'I enjoy hiking in the mountains.',
'I love walking through mountain trails.'
);
-- Returns: 0.82
ai_complete
Belirtilen modeli kullanarak içerik oluşturur. Basit form ve parametreli form olmak üzere iki aşırı yükleme destekler.
Sözdizimi
-- Overload 1: Simple
ai_complete(model, prompt)
-- Overload 2: With parameters
ai_complete(model, prompt, params)
Parametreler
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Döndürür
VARCHAR — oluşturulan metin.
Örnekler
Basit form:
SELECT ai_complete('qwen-plus', 'Write a catchy email subject for a summer bike sale with a 20% discount');
-- Returns: "Summer Cycling Carnival: 20% Off for a Limited Time!"
Parametrelerle:
SELECT ai_complete('qwen-plus', 'Summarize the benefits of cloud computing', map{'temperature':'0.7', 'max_tokens':'200'});
-- Returns: "Cloud computing offers scalable resources, cost efficiency..."
ai_filter
Metne karşı doğal dil koşulunu değerlendirir ve TRUE veya FALSE döndürür. WHERE yan tümcelerinde satırları filtrelemek için kullanışlıdır.
Sözdizimi
ai_filter(text, condition)
Parametreler
|
|
|
|
|
|
|
|
|
|
|
|
Döndürür
BOOLEAN — Metin koşulu karşılıyorsa TRUE, aksi takdirde FALSE.
Örnek
SELECT * FROM reviews WHERE ai_filter(review_text, 'mentions product quality issues');
-- Returns rows where the review text discusses product quality problems
ai_custom_query
Özel bir kaynağa veya bilgi tabanına karşı sorgu çalıştırır.
Sözdizimi
ai_custom_query(resource, prompt)
Parametreler
|
|
|
|
|
|
|
|
|
|
|
|
Döndürür
VARCHAR.
Örnek
SELECT ai_custom_query('my_knowledge_base', 'What is StarRocks?');
-- Returns: "StarRocks is a high-performance analytical data warehouse..."
Çok modlu ve AI toplama
ai_complete (anlama ve oluşturma)
Metin çıkarımı ve çok modlu anlamayı destekleyen genel amaçlı bir model çağırma arayüzüdür. StarRocks AI İşlevleri arasında en esnek işlevdir. Basit metin çıkarımının yanı sıra görüntüler, videolar ve çoklu içerik birleştirme gibi çok modlu girdileri de işler. Metin oluşturma için metin işlevleri bölümündeki ai_complete işlevine bakın. Bu bölümde çok modlu anlama ve oluşturma açıklanmaktadır.
Çok modlu anlama ve oluşturma
Anlama ve oluşturma için çok modlu bir LLM'yi çalıştırmak amacıyla ikili görüntü verisi, bir modülite ile birlikte URL veya çoklu içerik dizisi iletebilirsiniz.
Sözdizimi
-- Binary image input
ai_complete(prompt, binary_image)
ai_complete(prompt, binary_image, extra_params)
ai_complete(model, prompt, binary_image)
ai_complete(model, prompt, binary_image, extra_params)
-- URL + modality input
ai_complete(model, prompt, input, modality)
ai_complete(model, prompt, input, modality, extra_params)
-- Multi-content fusion input
ai_complete(model, prompt, contents)
ai_complete(model, prompt, contents, extra_params)
Parametreler
model: Çok modlu oluşturma için açıkça belirtilmesi önerilir (örneğin,qwen-vl-max). URL/video ve çoklu içerik formlarında belirsiz bir varsayılan model aşırı yüklemesi olmadığından modeli açıkça iletmeniz gerekir.prompt: Zorunlu. İstem.binary_image: VARBINARY türünde ikili görüntü verisi.input: VARCHAR türünde URL veya base64 kodlu girdi. Modülite ile birlikte kullanılmalıdır.modality: Girdi modülitesi türü. Geçerli değerler:imagevetext. Not:videoiletmek şu anda NULL döndürür (kareleri harici olarak çıkarıp görüntüye düşürmeniz gerekir).contents: ARRAY<MAP<VARCHAR,VARCHAR>> türünde çoklu içerik birleştirme girdisi. Tek bir çağrıda birden çok görüntü veya karışık içerik iletmeyi destekler.extra_params: İsteğe bağlı. MAP olarak oluşturma parametreleri.
Döndürür
VARCHAR türünde model yanıtını döndürür.
Örnekler
-- Understand an image from a URL
SELECT ai_complete('qwen-vl-max',
'Describe the main content of this image',
'https://bucket.oss-cn-hangzhou.aliyuncs.com/demo.jpg',
'image');
-- Understand a binary image
SELECT ai_complete('qwen-vl-max', 'Recognize the text in the image', image_binary)
FROM scanned_docs LIMIT 10;
-- Multi-content fusion (image and text)
SELECT ai_complete('qwen-vl-max', 'Compare the differences between these two images',
array[
map{'type': 'image_url', 'image_url': 'https://bucket.oss-cn-hangzhou.aliyuncs.com/img1.jpg'},
map{'type': 'image_url', 'image_url': 'https://bucket.oss-cn-hangzhou.aliyuncs.com/img2.jpg'}
]);
ai_embed
Metni sabit boyutlu anlamsal bir vektöre dönüştürür.
Sözdizimi
ai_embed(text)
ai_embed(model, text)
ai_embed(model, text, extra_params)
Parametreler
model: İsteğe bağlı. Gömme modelinin adı.text: Zorunlu. Vektörleştirilecek metin.extra_params: İsteğe bağlı (örn., boyut).
Döndürür
ARRAY<FLOAT> vektörü. Metin NULL ise NULL döndürür.
ai_custom_embedding
Bir Kaynak üzerinden özel bir gömme modelini çağırarak metin vektörleri oluşturur.
Sözdizimi
ai_custom_embedding(resource_name, text)
ai_custom_embedding(resource_name, text, extra_params)
Döndürür
ARRAY<FLOAT> vektörü.
ai_embed_multimodal
Görüntüleri, videoları veya metni birleşik bir vektör uzayında anlamsal vektörlere dönüştürür; çapraz modlu erişimi ve çoklu içerik birleştirmeyi destekler.
Sözdizimi
ai_embed_multimodal(input, modality)
ai_embed_multimodal(model, input, modality)
ai_embed_multimodal(binary_image)
ai_embed_multimodal(contents)
Parametreler
input: URL veya Base64 kodlu girdi. Modülite ile birlikte kullanılmalıdır.modality: image, video veya text değerlerinden biri.binary_image: İkili görüntü verisi, VARBINARY türü.contents: Çoklu içerik birleştirme girdisi, ARRAY<MAP<VARCHAR,VARCHAR>>.
Döndürür
ARRAY<FLOAT> vektörü.
ai_custom_multimodal_embedding
Bir Kaynak üzerinden özel bir çok modlu gömme modelini çağırır.
Sözdizimi
ai_custom_multimodal_embedding(resource_name, input, modality)
ai_custom_multimodal_embedding(resource_name, binary_image)
ai_custom_multimodal_embedding(resource_name, contents)
Döndürür
ARRAY<FLOAT> vektörü.
ai_agg
Bir istem kullanarak bir metin grubu üzerinde LLM tabanlı toplama gerçekleştirir (GROUP BY toplama işlevi).
Sözdizimi
ai_agg(text, instruction)
ai_agg(model, text, instruction)
Parametreler
text: Zorunlu. Toplanacak metin sütunu.instruction: Zorunlu. Toplama talimatı.
Döndürür
VARCHAR — toplanmış sonuç (grup başına bir tane).
ai_agg_summary
Bir metin grubu için toplu özet oluşturur — özetleme için ai_agg etrafında kolaylık sağlayan bir sarmalayıcıdır.
Sözdizimi
ai_agg_summary(text)
ai_agg_summary(model, text)
Döndürür
VARCHAR — toplu özet (grup başına bir tane).
Özet yönünü yönlendirmek için bunun yerine ai_agg kullanın ve talimatta belirli gereksinimleri açıklayın.
En iyi uygulamalar
Temel işlevleri birleştirerek, verileri harici hizmetlere aktarmaya gerek kalmadan tek bir SQL ifadesinde uçtan uca AI veri işleme işlem hatları oluşturabilirsiniz.
Anlamsal filtreleme + sınıflandırma yönlendirme
WHERE içinde ai_filter kullanarak anlamsal olarak ilgili kayıtları seçin, ardından etiket atamak için ai_classify uygulayın; bu, talepler veya incelemeler için anlamsal yönlendirmeyi mümkün kılar. Otomatik talep dağıtımı, kullanıcı geri bildirimi kategorilendirme ve benzeri senaryolar için idealdir.
-- Step 1: Semantically filter complaint tickets
-- Step 2: Classify complaints by business line
SELECT ticket_id, content,
ai_classify(content, ['logistics', 'product quality', 'after-sales', 'pricing dispute']) AS category
FROM tickets
WHERE ai_filter(content, 'the content expresses a customer complaint or dissatisfaction');
Çok modlu erişim veri kümesi oluşturma
ai_embed_multimodal kullanarak görüntüleri/videoları büyük ölçekte vektörleştirin, bunları vektör sütunlarına yazın ve hibrit erişim için vektör dizinlerini tam metin dizinleriyle birleştirin. Veriler lakehouse'dan ayrılmaz. Görsel ürün araması, video içerik erişimi ve çok modlu RAG bilgi tabanı oluşturma için idealdir.
-- Batch-vectorize product images
INSERT INTO product_vectors (product_id, image_vec)
SELECT product_id,
ai_embed_multimodal('qwen3-vl-embedding', image_url, 'image') AS image_vec
FROM products;
-- Text-to-image search: find products most similar to a description
SELECT product_id, image_url
FROM product_vectors
ORDER BY cosine_similarity(image_vec,
ai_embed_multimodal('qwen3-vl-embedding', 'red summer dress', 'text'))
DESC LIMIT 10;
Müşteri/ürün düzeyinde AI özetleme
GROUP BY içinde ai_agg / ai_agg_summary kullanarak her varlık başına birden çok metni bir profile veya özette birleştirin; analiz için hazır çıktı sütunları üretin. Müşteri profilleme, ürün incelemesi özetleme ve toplantı notu çıkarma için idealdir.
-- Generate a problem profile for each customer
SELECT customer_id,
ai_agg(content, 'Summarize all tickets for this customer in one sentence, covering main issues and sentiment') AS customer_profile
FROM support_tickets
GROUP BY customer_id;
-- Aggregate product review summaries
SELECT product_id,
ai_agg_summary(review_text) AS review_digest
FROM product_reviews
GROUP BY product_id;
Analiz öncesi kişisel bilgi gizleme
Analiz için saklamadan önce metni anonimleştirmek amacıyla ai_redact kullanın; uyumluluk ile kullanılabilirliği dengeler. Geliştirme/test verisi hazırlama, denetim günlüğü sanitizasyonu ve gizlilik uyumluluğu senaryoları için idealdir.
-- Redact user feedback and write to an analysis table
INSERT INTO feedback_anonymized (ticket_id, content_clean)
SELECT ticket_id,
ai_redact(content, ['name', 'phone', 'ID number', 'email', 'bank card']) AS content_clean
FROM user_feedback;
Toplu içerik oluşturma ve çeviri
Toplu pazarlama metni oluşturma için ai_complete kullanın, çok dilli yerelleştirme için ai_translate ile birleştirin; hepsi SQL içinde, harici araç gerekmez.
-- Batch-generate marketing slogans and translate to English
SELECT product_name,
ai_complete('qwen3.6-plus',
concat('Write a promotional slogan (15 words max) for: ', product_name)) AS slogan,
ai_translate(
ai_complete('qwen3.6-plus',
concat('Write a promotional slogan (15 words max) for: ', product_name)),
'en', 'ja') AS slogan_ja
FROM products
WHERE category = 'summer_new';
Küme yapılandırması
AI işlevi davranışı BE dinamik parametreleri ile kontrol edilir. Bunları çalışma zamanında ADMIN SET CONFIG kullanarak değiştirin; yeniden başlatma gerekmez.
Geçerli değerleri görüntülemek için:
SELECT * FROM information_schema.be_configs WHERE NAME LIKE 'ai_%';
Model bağlantısı
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Toplu iş boyutları
Her işlev, modele istekleri toplu halde gönderir. Daha büyük toplu işler model çağrılarının sayısını azaltır ve toplam yanıt süresini kısaltabilir.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
İstem şablonları
Her işlev yapılandırılabilir bir istem şablonu kullanır. Şablon yer tutucuları $0, $1 vb. kullanır.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|