Anda dapat menggunakan Pernyataan SQL untuk melakukan kueri dan menganalisis data secara cepat dari berbagai Sumber data seperti MaxCompute, EMR Hive, dan Hologres. Topik ini menjelaskan cara melakukan kueri Sumber data menggunakan Pernyataan SQL.
DataWorks menyarankan Anda untuk mencoba versi baru Analisis Data guna mengakses fitur terbaru dan mendapatkan pengalaman pengguna yang lebih baik.
Sumber data yang didukung
Fitur kueri SQL mendukung berbagai Sumber data, termasuk MaxCompute, Hologres, EMR, CDH, StarRocks, ClickHouse, SelectDB, Doris, AnalyticDB for MySQL 3.0, AnalyticDB untuk PostgreSQL, Tablestore, MySQL, PostgreSQL, Oracle, dan SQL Server.
Fitur ini hanya mendukung Sumber data yang telah ditambahkan ke ruang kerja.
Izin sumber data
Cakupan sumber data
Anda hanya dapat melakukan kueri data dari Sumber data di dalam ruang kerja yang memiliki izin akses bagi Anda. Hubungi administrator untuk menambahkan Anda ke ruang kerja sebagai analis data, perancang model, developer, operator, administrator ruang kerja, atau pemilik proyek.
Izin akses sumber data
Akses Sumber data mendukung dua mode identitas berikut.
|
Mode akses identitas |
Deskripsi |
Sumber data yang didukung |
Otorisasi |
|
Executor Identity |
Akun Alibaba Cloud yang saat ini masuk ke DataWorks. |
MaxCompute dan Hologres. |
Minta administrator dari proyek MaxCompute atau instans Hologres yang ditentukan untuk memberikan izin akses anggota kepada Anda. |
|
Data Source Default Access Identity |
Identitas akses yang dikonfigurasi saat sumber data dibuat. |
Semua sumber data. |
Jika akun login Anda saat ini bukan merupakan identitas akses default dari sumber data tersebut, minta pengguna dengan role administrator ruang kerja untuk memberikan akses ke akun Alibaba Cloud Anda saat ini. |
Jika proyek MaxCompute telah mengaktifkan kontrol akses berbasis allowlist, tambahkan alamat IP yang diperlukan ke dalam IP allowlist proyek MaxCompute tersebut.
Mengakses fitur
Masuk ke Analisis Data DataWorks, pilih wilayah target, lalu klik Enter Data Analysis.
-
Jika Anda melihat Switch to New DataAnalysis di bilah navigasi, berarti Anda telah memasuki halaman Analisis Data versi legacy.
-
(Tidak disarankan) Jika Anda melihat Return to Legacy DataAnalysis di bilah navigasi, klik tombol tersebut untuk kembali ke halaman Analisis Data versi legacy.
Langkah 1: Menambahkan direktori
Anda dapat menambahkan tabel dari direktori yang direkomendasikan sistem dan Sumber data yang terotorisasi ke dalam direktori Anda. Setelah menambahkan direktori, Anda dapat melihat tabel di dalamnya dengan cepat, melihat skema tabel, serta menghasilkan kueri SQL.
-
Pada halaman analisis SQL, klik tombol
di sebelah kanan kotak pencarian di atas direktori untuk menambahkan direktori.-
DataMap - Metadata: Metadata tabel yang dikumpulkan di Peta Data. Setiap Sumber data atau resource komputasi dapat ditambahkan sebagai set data.
-
DataMap - Data Album: Koleksi Data yang menggabungkan tabel-tabel dengan topik tertentu di Peta Data. Setiap Koleksi Data dapat ditambahkan sebagai set data.
-
My Favorites: Tabel yang telah Anda tandai sebagai favorit di Peta Data.
-
My MaxCompute Tables: Semua tabel MaxCompute yang dimiliki oleh akun login saat ini.
-
Public Data: Dataset publik yang disediakan oleh MaxCompute, yang dapat digunakan untuk menghasilkan data pengujian secara cepat.
CatatanAnda dapat menambahkan hingga 12 set data. Set data yang tidak lagi diperlukan dapat dihapus.
-
Langkah 2: Membuat kueri SQL
Kueri berdasarkan katalog data
Setelah Anda menambahkan direktori data, set data yang sesuai akan ditampilkan di pohon direktori di sebelah kiri.
-
Di pohon direktori sebelah kiri, klik untuk memperluas set data yang telah ditambahkan (misalnya, tabel MaxCompute saya).
-
Klik kanan pada nama tabel yang ingin Anda analisis, lalu pilih Generate SQL Statement dari menu konteks. Pernyataan SQL yang direkomendasikan berdasarkan tabel tersebut akan dihasilkan secara otomatis sebagai file temporary.
-
Ubah Pernyataan SQL sesuai kebutuhan, lalu klik Save untuk menyimpan file temporary ke My Files.
Kueri berdasarkan sumber data
-
Di pohon direktori sebelah kiri, arahkan kursor ke My Files, lalu klik tombol
di sebelah kanan untuk membuat file. -
Tulis Pernyataan SQL di file baru tersebut, lalu simpan ke My Files.
CatatanSaat Anda mengedit Pernyataan SQL, DataWorks secara otomatis akan menyarankan tabel yang memiliki izin akses bagi Anda di MaxCompute.
Kueri berdasarkan SQL bersama
Di pohon direktori sebelah kiri, klik Shared Files untuk melihat file SQL yang dibagikan oleh pengguna lain. Klik file SQL yang diinginkan, lalu pada halaman detail di sebelah kanan, klik Copy SQL.
Kueri berdasarkan dataset publik
Setelah menambahkan dataset publik ke direktori, klik dataset tersebut. Di bilah atas halaman detail di sebelah kanan, Anda dapat memilih mesin yang berbeda untuk Generate SQL Statement. Anda dapat menggunakan dataset publik untuk keperluan pengujian.
Langkah 3: Mengonfigurasi mesin kueri dan menjalankan kueri
-
Klik tombol
di pojok kanan atas halaman detail SQL untuk mengonfigurasi mesin kueri SQL.Parameter
Deskripsi
Workspace
Ruang kerja tempat mesin eksekusi berada.
PentingPastikan Anda memiliki izin akses ke ruang kerja tersebut. Jika belum, hubungi administrator ruang kerja untuk menambahkan Anda sebagai anggota ruang kerja.
Datasource Type
Jenis dan nama mesin eksekusi.
PentingJika tidak ada proyek spesifik yang ditentukan dalam pernyataan SQL, mesin eksekusi akan berfungsi sebagai sumber data default.
Data Source Name
Access Identity Mode
Pilih mode akses untuk kueri SQL:
-
Executor Identity: Hanya didukung untuk mesin MaxCompute dan Hologres. Mode ini disarankan jika Anda merupakan anggota proyek MaxCompute atau instans Hologres dan memiliki izin SELECT.
-
Data Source Default Access Identity: Jika akun Anda saat ini berbeda dari identitas akses default yang dikonfigurasi saat sumber data dibuat, berikan identitas tersebut ke akun Anda saat ini.
-
-
Setelah menulis Pernyataan SQL, Anda dapat langsung menjalankan seluruh skrip atau memilih sebagian kode untuk dijalankan secara parsial. Klik ikon drop-down
di sebelah tombol jalankan untuk mengganti mode eksekusi. Anda dapat memilih mode yang berbeda untuk berbagai skenario.Sebelum Pernyataan SQL MaxCompute dijalankan, estimasi biaya akan ditampilkan. Anda juga dapat mengeklik di bilah alat di atas file SQL untuk memperkirakan biaya.
Mode eksekusi
Skenario
Kondisi pemicu
Mesin yang berlaku
Mode kueri (LIMIT 10000)
Pratinjau data secara cepat dan memverifikasi logika kueri. Mode ini cocok untuk skenario ketika Anda hanya ingin melihat sampel kecil hasil untuk eksplorasi data awal.
Hasil kueri menampilkan ≤ 10.000 baris dan ≤ 10 MB.
Tanpa batasan
Mode kueri (data lengkap)
Mendapatkan set hasil lengkap untuk dianalisis atau diekspor. Beralihlah ke mode ini ketika Anda perlu memproses dan melihat seluruh data.
Hasil kueri menampilkan > 10.000 baris atau > 10 MB.
MaxCompute,Hologres,StarRocks,ClickHouse,MySQLMode tabel temporary
Menggunakan kembali hasil dalam kueri kompleks multi-langkah. Gunakan output dari satu kueri sebagai input untuk kueri berikutnya guna meningkatkan efisiensi pengembangan dan debugging.
Hasil kueri menampilkan ≤ 10.000 baris dan ≤ 10 MB, serta secara otomatis ditulis ke tabel temporary.
Hanya
MaxCompute -
Setelah Pernyataan SQL dieksekusi, Anda dapat melihat log waktu proses, hasil, dan Pernyataan SQL yang sesuai pada halaman hasil kueri.
Anda dapat mengeklik tombol di pojok kanan atas area hasil kueri untuk mengubah tata letak halaman menjadi berdampingan atau atas-bawah.
Langkah 4: Memvisualisasikan hasil kueri
Di bilah alat sebelah kiri hasil kueri, klik tombol untuk menghasilkan grafik visual secara otomatis dari hasil tersebut.
Anda dapat mengeklik tombol Copilot di atas grafik untuk mencoba fitur Copilot.
Langkah 5: Ekspor dan berbagi
Jika Anda perlu mengekspor data ke mesin lokal lalu mengimpornya ke Sumber data lain, kami menyarankan penggunaan Data Integration tugas sinkronisasi Batch untuk migrasi dan sinkronisasi data yang lebih efisien dan stabil.
Hasil kueri SQL dapat diekspor dalam bentuk berikut:
-
File lokal: Unduh hasil kueri ke mesin lokal Anda dalam format CSV, TXT, atau XLS. Informasi utamanya adalah sebagai berikut:
Item
Deskripsi
Batas download
-
Hanya engine MaxCompute dan EMR yang didukung. Untuk informasi selengkapnya, lihat Batas jumlah baris download.
-
Jika pembatasan download data diaktifkan pada Proyek MaxCompute (download data dilarang), proses download data melalui Data Analysis akan gagal.
PentingJika opsi ini tidak muncul, lihat FAQ untuk troubleshooting.
Scope
Anda dapat memilih untuk mendownload Only Data Displayed in Table atau All Data.
-
Only Data Displayed in Table: Hanya mendownload data yang ditampilkan di halaman saat ini, dengan batas default hingga
10.000baris. -
All Data: Mengekspor seluruh data hasil kueri dalam batas download yang berlaku.
Metode download
Terdapat dua metode download yang didukung: Download After Approval dan Download Without Approval.
-
Download setelah persetujuan: Anda dapat mengonfigurasikan aturan identifikasi risiko untuk mendeteksi risiko dalam operasi download data. Saat mendownload data, Anda harus mengajukan permintaan persetujuan download guna memastikan kepatuhan dan keamanan data.
CatatanHanya DataWorks Edisi Perusahaan yang mendukung konfigurasi dan pengaktifan aturan identifikasi risiko.
-
Download tanpa persetujuan: Secara default, proses download tidak memerlukan persetujuan. Tidak diperlukan permintaan izin selama proses download berlangsung.
-
-
OSS: Ekspor hasil kueri dalam format tertentu (seperti CSV atau Parquet) ke Object Storage Service (OSS) Alibaba Cloud. Metode ini cocok untuk mengarsipkan data dalam volume besar atau berintegrasi dengan layanan cloud lainnya.
Saat pertama kali menggunakan fitur ini, Anda perlu mengotorisasi DataWorks untuk mengakses resource OSS Anda. Di daftar drop-down File Path, klik tautan Authorize pada prompt, lalu ikuti petunjuk untuk menyelesaikan otorisasi RAM.
Parameter
Deskripsi
Jalur file
Klik tombol folder di sebelah kanan untuk memilih Bucket OSS dan direktori tempat Anda ingin menyimpan file hasil.
Nama file
Nama file akan dihasilkan secara otomatis. Anda juga dapat mengubahnya secara manual.
Jenis file
Pilih format file ekspor. Format yang didukung meliputi
csv,text,orc, danparquet.Pemisah
Tentukan pemisah antar kolom. Pemisah default adalah koma (
,).Encoding
Pilih format encoding untuk file, seperti
UTF-8atauGBK.CU
Konfigurasikan jumlah unit komputasi (CU) untuk task ekspor ini. Nilai defaultnya adalah 1 CU.
Grup sumber daya
Pilih kelompok resource arsitektur tanpa server untuk menjalankan task ekspor ini. Jika tidak ada kelompok resource yang dipilih, kelompok resource Data Integration yang dikonfigurasi di Data Analysis > System Management akan digunakan secara default.
Setelah selesai mengonfigurasi, klik OK untuk memulai task ekspor. Anda dapat melihat progres ekspor, log waktu proses, dan detail konfigurasi di halaman eksekusi task. Setelah task berhasil, buka Konsol OSS untuk mengunduh file yang diekspor ke mesin lokal Anda.
-
Tabel MaxCompute: Anda dapat mengekspor hasil kueri langsung ke tabel MaxCompute tanpa perlu mengunduh data ke mesin lokal terlebih dahulu. Anda dapat mengatur lifecycle tabel sesuai kebutuhan.
Opsi ini hanya tersedia saat Anda melakukan kueri konten mesin MaxCompute.
-
Spreadsheet: Anda dapat menyimpan hasilnya ke spreadsheet untuk Analisis Data mendalam lebih lanjut. Anda juga dapat membagikan hasil analisis terbaru kepada orang lain.
Operasi lainnya
Management versi file SQL
Di halaman pengeditan file SQL, Anda juga dapat mengeklik di bilah alat untuk melihat perbedaan antara kode yang disimpan otomatis dan kode yang disimpan secara manual, serta memilih versi yang ingin Anda simpan.
Pencarian kode
Di atas pohon direktori sebelah kiri, klik
untuk mencari kode berdasarkan kata kunci. Fitur ini hanya tersedia untuk DataWorks Edisi Standar dan versi di atasnya.
Melihat riwayat eksekusi
Di atas pohon direktori sebelah kiri, klik
untuk melihat riwayat eksekusi kueri SQL.
FAQ
Bagaimana cara memberikan akses menggunakan identitas akses default sumber data?
-
Buka Pusat Keamanan.
Masuk ke Konsol DataWorks. Di wilayah target, klik di panel navigasi sebelah kiri. Pada halaman yang muncul, klik Go to Security Center.
-
Di panel navigasi sebelah kiri, klik untuk membuka halaman kontrol akses Analisis Data.
-
Beralih ke ruang kerja target, temukan Sumber data yang dituju, lalu klik tombol otorisasi di sebelah kanan untuk memberikan akses.
Error eksekusi kueri SQL?
Jika Anda mengalami error terkait This node can only run on exclusive resource groups selama eksekusi, konfigurasikan Resource Group for Scheduling dan Resource Group for Data Integration untuk mesin yang sesuai di .
Tampilan atau unduhan hasil kueri dibatasi?
Hasil kueri SQL hanya menampilkan jumlah baris yang terbatas. Ikuti langkah-langkah berikut untuk menyesuaikan batas tampilan ke nilai maksimum. Anda juga dapat mengelola kemampuan unduhan. Untuk informasi selengkapnya, lihat Mengonfigurasi batas tampilan dan unduhan hasil kueri.
-
Buka Pusat Keamanan.
Masuk ke Konsol DataWorks. Di wilayah target, klik di panel navigasi sebelah kiri. Pada halaman yang muncul, klik Go to Security Center.
-
Di panel navigasi sebelah kiri, klik untuk membuka halaman kontrol akses Analisis Data.
-
Beralih ke tab Query Result Control, lalu sesuaikan pengaturan Maximum rows per display, Maximum rows per copy, Maximum rows per download, dan Allow download.