MaxCompute, EMR Hive ve Hologres gibi veri kaynaklarından verileri hızlıca sorgulamak ve analiz etmek için SQL deyimlerini kullanabilirsiniz. Bu konuda, SQL deyimleriyle veri kaynaklarının nasıl sorgulanacağı açıklanmaktadır.
DataWorks, en son özelliklere erişmek ve daha iyi bir kullanıcı deneyimi sunmak için Veri Analizinin yeni sürümünü denemenizi önerir.
Desteklenen veri kaynakları
SQL sorgusu özelliği; MaxCompute, Hologres, EMR, CDH, StarRocks, ClickHouse, SelectDB, Doris, AnalyticDB for MySQL 3.0, AnalyticDB for PostgreSQL, Tablestore, MySQL, PostgreSQL, Oracle ve SQL Server dahil olmak üzere veri kaynaklarını destekler.
Bu özellik yalnızca çalışma alanına eklenen veri kaynaklarını destekler.
Veri kaynağı izinleri
Veri kaynağı kapsamı
Yalnızca izinlerinizin bulunduğu çalışma alanlarındaki veri kaynaklarından veri sorgulayabilirsiniz. Bir yöneticiyle iletişime geçerek kendinizi veri analisti, model tasarımcısı, geliştirici, operatör, çalışma alanı yöneticisi veya proje sahibi olarak bir çalışma alanına eklemesini isteyin.
Veri kaynağı erişim izinleri
Veri kaynağı erişimi aşağıdaki iki kimlik modunu destekler.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
MaxCompute projesinde izin listesine dayalı erişim kontrolü etkinleştirilmişse, gerekli IP adreslerini MaxCompute projesinin IP izin listesine ekleyin.
Özelliğe erişim
DataWorks Veri Analizi sayfasında oturum açın, hedef bölgeye geçiş yapın ve Enter Data Analysis seçeneğini tıklayın.
Gezinme çubuğunda Switch to New DataAnalysis seçeneğini görüyorsanız, eski Veri Analizi sayfasındasınız demektir.
(Önerilmez) Gezinme çubuğunda Return to Legacy DataAnalysis seçeneğini görüyorsanız, eski Veri Analizi sayfasına geri dönmek için bu seçeneği tıklayın.
Adım 1: Dizin ekleme
Sistem tarafından önerilen dizinlerden ve yetkili veri kaynaklarından tabloları kendi dizininize ekleyebilirsiniz. Bir dizin ekledikten sonra dizindeki tabloları hızla görüntüleyebilir, tablo şemalarını inceleyebilir ve SQL sorguları oluşturabilirsiniz.
-
SQL analizi sayfasında, bir dizin eklemek için dizinin üzerindeki arama kutusunun sağındaki
düğmesini tıklayın.DataMap - Metadata: Data Map'te toplanan tablo meta verileri. Her veri kaynağı veya hesaplama kaynağı bir veri kümesi olarak eklenebilir.
DataMap - Data Album: Data Map'te belirli konulara ait tabloları bir araya getiren Veri Koleksiyonları. Her Veri Koleksiyonu bir veri kümesi olarak eklenebilir.
My Favorites: Data Map'te favorilere eklediğiniz tablolar.
My MaxCompute Tables: Mevcut oturum açma hesabının sahibi olduğu tüm MaxCompute tabloları.
Public Data: MaxCompute tarafından sağlanan ve test verilerini hızlıca oluşturmak için kullanılabilecek Genel veri kümeleri.
NotEn fazla 12 veri kümesi ekleyebilirsiniz. Artık ihtiyaç duyulmayan veri kümelerini kaldırabilirsiniz.
Adım 2: SQL sorgusu oluşturma
Veri kataloğuna dayalı sorgu
Veri dizinlerini ekledikten sonra ilgili veri kümeleri soldaki dizin ağacında görüntülenir.
Soldaki dizin ağacında, eklenen bir veri kümesini (örneğin, my MaxCompute tables) genişletmek için tıklayın.
Analiz etmek istediğiniz tablonun adına sağ tıklayın ve bağlam menüsünden Generate SQL Statement seçeneğini belirleyin. Tabloya dayalı önerilen bir SQL deyimi otomatik olarak bir geçici dosya olarak oluşturulur.
SQL deyimini gerektiği gibi değiştirin ve geçici dosyayı My Files bölümüne kaydetmek için Save seçeneğini tıklayın.
Veri kaynaklarına dayalı sorgu
Soldaki dizin ağacında, My Files öğesinin üzerine gelin ve bir dosya oluşturmak için sağ taraftaki
düğmesini tıklayın.-
Yeni dosyaya bir SQL sorgu deyimi yazın ve bunu My Files bölümüne kaydedin.
NotSQL deyimlerini düzenlerken DataWorks, MaxCompute'te izinlerinizin olduğu tabloları otomatik olarak önerir.
Paylaşılan SQL'e dayalı sorgu
Soldaki dizin ağacında, diğer kullanıcılar tarafından paylaşılan SQL dosyalarını görüntülemek için Shared Files seçeneğini tıklayın. Bir SQL dosyasını tıklayın ve sağ taraftaki ayrıntılar sayfasında Copy SQL seçeneğini tıklayın.
Genel veri kümelerine dayalı sorgu
Genel bir veri kümesini dizine ekledikten sonra veri kümesini tıklayın. Sağ taraftaki ayrıntılar sayfasının üst çubuğunda, farklı bir motor seçerek Generate SQL Statement seçeneğini belirleyebilirsiniz. Test amacıyla genel veri kümelerini kullanabilirsiniz.
Adım 3: Sorgu motorunu yapılandırma ve sorguyu çalıştırma
-
SQL sorgu motorunu yapılandırmak için SQL ayrıntıları sayfasının sağ üst köşesindeki
düğmesini tıklayın.Parametre
Açıklama
Workspace
Yürütme motorunun bulunduğu çalışma alanı.
ÖnemliÇalışma alanında erişim izinlerinizin olduğundan emin olun. Aksi takdirde, çalışma alanı yöneticisiyle iletişime geçerek çalışma alanı üyesi olarak eklenmenizi isteyin.
Datasource Type
Yürütme motorunun türü ve adı.
ÖnemliSQL deyimi belirli bir proje belirtmiyorsa yürütme motoru varsayılan veri kaynağı olarak hizmet verir.
Data Source Name
Access Identity Mode
SQL sorguları için erişim modunu seçin:
Executor Identity: Yalnızca MaxCompute ve Hologres motorları için desteklenir. MaxCompute projesinin veya Hologres örneğinin üyesiyseniz ve SELECT izinleriniz varsa bu mod önerilir.
Data Source Default Access Identity: Mevcut hesabınız veri kaynağı oluşturulurken yapılandırılan varsayılan erişim kimliğinden farklıysa mevcut hesabınıza bu kimliği atayın.
-
SQL deyimini yazdıktan sonra tüm betiği doğrudan çalıştırabilir veya bir kısmını seçerek kısmen çalıştırabilirsiniz. Çalıştırma modunu değiştirmek için çalıştırma düğmesinin yanındaki açılır simgeyi
tıklayın. Farklı senaryolar için farklı modlar seçebilirsiniz.MaxCompute SQL deyimi çalıştırılmadan önce tahmini maliyet görüntülenir. Ayrıca SQL dosyasının üzerindeki araç çubuğunda seçeneğini tıklayarak maliyeti tahmin edebilirsiniz.
Çalıştırma modu
Senaryo
Tetikleme koşulu
Uygulanabilir motorlar
Sorgu modu (LIMIT 10000)
Verileri hızla önizleme ve sorgu mantığını doğrulama. Bu mod, yalnızca ön veri keşfi için sonuçların küçük bir örneğini görüntülemek istediğiniz senaryolar için uygundur.
Sorgu sonucu ≤ 10.000 satır ve ≤ 10 MB gösterir.
Sınır yok
Sorgu modu (tam veri)
Analiz veya dışa aktarma için tam sonuç kümesini elde etme. Tüm verileri işlemek ve görüntülemeniz gerektiğinde bu moda geçin.
Sorgu sonucu > 10.000 satır veya > 10 MB gösterir.MaxCompute,Hologres,StarRocks,ClickHouse,MySQL
Geçici tablo modu
Çok aşamalı karmaşık sorgularda sonuçları yeniden kullanma. Geliştirme ve hata ayıklama verimliliğini artırmak için bir sorgunun çıktısını sonraki sorgunun girişi olarak kullanın.
Sorgu sonucu ≤ 10.000 satır ve ≤ 10 MB gösterir ve otomatik olarak geçici bir tabloya yazılır.
YalnızcaMaxCompute -
SQL deyimi yürütüldükten sonra sorgu sonucu sayfasında çalışma zamanı günlüğünü, sonuçları ve ilgili SQL deyimi görüntüleyebilirsiniz.
Sayfa düzenini yan yana ve alt alta arasında değiştirmek için sorgu sonucu alanının sağ üst köşesindeki düğmeleri tıklayabilirsiniz.
Adım 4: Sorgu sonuçlarını görselleştirme
Sorgu sonuçlarının solundaki araç çubuğunda, sonuçlardan otomatik olarak görsel grafikler oluşturmak için düğmeyi tıklayın.
Copilot özelliğini denemek için grafiğin üzerindeki Copilot düğmesini tıklayabilirsiniz.
Adım 5: Dışa aktarma ve paylaşma
Verileri yerel makinenize dışa aktarıp başka bir veri kaynağına aktarmanız gerekiyorsa daha verimli ve kararlı veri geçişi ve senkronizasyonu için Data Integration toplu senkronizasyon görevlerini kullanmanızı öneririz.
SQL sorgu sonuçları aşağıdaki biçimlerde dışa aktarılabilir:
-
Yerel dosya: Sorgu sonuçlarını CSV, TXT veya XLS biçiminde yerel makinenize indirin. Temel bilgiler aşağıdadır:
Öğe
Açıklama
İndirme sınırlamaları
Yalnızca MaxCompute ve EMR motorları desteklenir. Daha fazla bilgi için bkz. Satır sayısı indirme sınırlamaları.
MaxCompute projesinde veri indirme kısıtlamaları etkinleştirilmişse (veri indirme yasaklanmışsa) Veri Analizi aracılığıyla veri indirme işlemi başarısız olur.
ÖnemliBu seçenek görünmüyorsa sorun giderme için bkz. SSS.
Scope
Only Data Displayed in Table veya All Data seçeneklerinden birini seçerek indirme yapabilirsiniz.
Only Data Displayed in Table: Yalnızca geçerli sayfada görüntülenen verileri indirir; varsayılan olarak en fazla
10000satır.All Data: İndirme sınırı içindeki tüm sorgulanan sonuç verilerini dışa aktarır.
İndirme yöntemi
İki indirme yöntemi desteklenir: Download After Approval ve Download Without Approval.
Onay sonrası indirme: Veri indirme işlemlerindeki riskleri belirlemek için risk tanımlama kuralları yapılandırabilirsiniz. Veri indirirken veri uyumluluğunu ve güvenliğini sağlamak için bir indirme onay isteği göndermeniz gerekir.
NotRisk tanımlama kurallarını yapılandırmak ve etkinleştirmek yalnızca DataWorks Enterprise Edition tarafından desteklenir.
Onaysız indirme: Varsayılan olarak indirmeler onay gerektirmez. İndirme işlemi sırasında herhangi bir izin isteğine gerek yoktur.
-
OSS: Sorgu sonuçlarını belirtilen bir biçimde (CSV veya Parquet gibi) Alibaba Cloud Object Storage Service (OSS) öğesine dışa aktarın. Bu yöntem, büyük hacimli verilerin arşivlenmesi veya diğer cloud hizmetleriyle entegrasyon için uygundur.
Bu özelliği ilk kez kullanırken DataWorks'ün OSS kaynaklarınıza erişmesine izin vermeniz gerekir. File Path açılır listesinde istemde bulunan Authorize bağlantısını tıklayın ve RAM yetkilendirmesini tamamlamak için talimatları izleyin.
Parametre
Açıklama
Dosya yolu
Sonuç dosyasını saklamak istediğiniz OSS paketini ve dizinini seçmek için sağ taraftaki klasör düğmesini tıklayın.
Dosya adı
Bir dosya adı otomatik olarak oluşturulur. İsterseniz manuel olarak da değiştirebilirsiniz.
Dosya türü
Dışa aktarma dosyası biçimini seçin. Desteklenen biçimler arasında
csv,text,orcveparquetbulunur.Ayırıcı
Sütunlar arasındaki ayırıcıyı belirtin. Varsayılan ayırıcı virgüldür (
,).Kodlama
Dosya için kodlama biçimini seçin; örneğin
UTF-8veyaGBK.CU
Bu dışa aktarma görevi için hesaplama birimi (CU) sayısını yapılandırın. Varsayılan değer 1 CU'dur.
Kaynak grubu
Bu dışa aktarma görevini yürütmek için sunucusuz kaynak grubunu seçin. Kaynak grubu seçilmezse varsayılan olarak Veri Analizi > Sistem Yönetimi bölümünde yapılandırılan Data Integration kaynak grubu kullanılır.
Yapılandırmayı tamamladıktan sonra dışa aktarma görevini başlatmak için OK seçeneğini tıklayın. Görev yürütme sayfasında dışa aktarma ilerlemesini, çalışma zamanı günlüğünü ve yapılandırma ayrıntılarını görüntüleyebilirsiniz. Görev başarıyla tamamlandıktan sonra dışa aktarılan dosyayı yerel makinenize indirmek için OSS konsoluna gidin.
-
MaxCompute tablosu: Sorgu sonuçlarını öncelikle verileri yerel makinenize indirmeden doğrudan bir MaxCompute tablosuna dışa aktarabilirsiniz. Tablonun yaşam döngüsünü gerektiği gibi ayarlayabilirsiniz.
Bu seçenek yalnızca MaxCompute motor içeriğini sorgularken kullanılabilir.
Elektronik tablo: Sonuçları daha derinlemesine veri analizi için bir elektronik tabloya kaydedebilirsiniz. Ayrıca en son analiz sonuçlarını başkalarıyla paylaşabilirsiniz.
-
Diğer işlemler
SQL dosyası sürüm yönetimi
SQL dosyası düzenleme sayfasında araç çubuğunda seçeneğini tıklayarak otomatik kaydedilen kod ile manuel olarak kaydedilen kod arasındaki farkları görüntüleyebilir ve kaydetmek istediğiniz sürümü seçebilirsiniz.
Kod arama
Soldaki dizin ağacının üzerinde anahtar kelimeye göre kod aramak için
seçeneğini tıklayın. Bu özellik yalnızca DataWorks Standard Edition ve üzeri sürümlerde kullanılabilir.
Çalıştırma geçmişini görüntüleme
Soldaki dizin ağacının üzerinde SQL sorgusu yürütme geçmişini görüntülemek için
seçeneğini tıklayın.
SSS
Veri kaynağı varsayılan erişim kimliğini kullanarak erişim nasıl verilir?
-
Security Center'a gidin.
DataWorks konsolunda oturum açın. Hedef bölgede sol gezinme bölmesinde seçeneğini tıklayın. Görüntülenen sayfada Go to Security Center seçeneğini tıklayın.
Sol gezinme bölmesinde Veri Analizi erişim kontrolü sayfasına gitmek için seçeneğini tıklayın.
Hedef çalışma alanına geçiş yapın, hedef veri kaynağını bulun ve erişim izni vermek için sağ taraftaki yetkilendirme düğmesini tıklayın.
SQL sorgusu yürütme hatası?
Yürütme sırasında This node can only run on exclusive resource groups ile ilgili bir hatayla karşılaşırsanız bölümünde ilgili motor için Resource Group for Scheduling ve Resource Group for Data Integration öğelerini yapılandırın.
Sorgu sonucu görüntüleme veya indirme kısıtlandı mı?
SQL sorgu sonuçları yalnızca sınırlı sayıda satır görüntüler. Görüntüleme sınırını maksimuma ayarlamak için aşağıdaki adımları izleyin. İndirme yeteneklerini de yönetebilirsiniz. Daha fazla bilgi için bkz. Sorgu sonucu görüntüleme ve indirme sınırlamalarını yapılandırma.
-
Security Center'a gidin.
DataWorks konsolunda oturum açın. Hedef bölgede sol gezinme bölmesinde seçeneğini tıklayın. Görüntülenen sayfada Go to Security Center seçeneğini tıklayın.
Sol gezinme bölmesinde Veri Analizi erişim kontrolü sayfasına gitmek için seçeneğini tıklayın.
Query Result Control sekmesine geçiş yapın ve Maximum rows per display, Maximum rows per copy, Maximum rows per download ve Allow download ayarlarını düzenleyin.