Node SQL MaxCompute di DataWorks memungkinkan Anda menjadwalkan tugas SQL MaxCompute secara berkala. Node ini dapat diintegrasikan dengan jenis node lain untuk penjadwalan gabungan. Tugas SQL MaxCompute menggunakan sintaks mirip SQL dan ideal untuk pemrosesan data masif (skala terabyte) secara terdistribusi dalam skenario yang tidak memerlukan kinerja real-time tinggi. Topik ini menjelaskan cara mengembangkan tugas node SQL MaxCompute di DataWorks.
Pengenalan
SQL MaxCompute digunakan untuk memproses dan mengkueri data di MaxCompute. SQL ini mendukung operasi SQL umum, seperti SELECT, INSERT, UPDATE, dan DELETE, serta sintaks dan fungsi khusus MaxCompute. Dengan demikian, Anda dapat menulis pernyataan mirip SQL untuk mengkueri dan memproses data tanpa harus menulis logika pemrosesan data yang kompleks. Untuk informasi lebih lanjut tentang sintaks SQL, lihat Ikhtisar SQL.
Prasyarat
Sumber daya komputasi MaxCompute telah disambungkan ke ruang kerja DataWorks.
(Opsional) Jika Anda adalah pengguna Resource Access Management (RAM), Anda harus menjadi anggota ruang kerja dengan peran Developer atau Workspace Admin. Karena peran Workspace Admin mencakup izin yang luas, peran ini harus diberikan dengan hati-hati. Untuk informasi lebih lanjut tentang cara menambahkan anggota ke ruang kerja, lihat Menambahkan anggota ke ruang kerja.
CatatanJika Anda menggunakan Akun Alibaba Cloud, Anda dapat melewati langkah ini.
Batasan
Batasan berikut berlaku saat Anda menggunakan node SQL MaxCompute:
Kategori | Deskripsi |
Komentar | Komentar satu baris yang diawali dengan Untuk informasi lebih lanjut, lihat Komentar SQL MaxCompute. Batasan berikut juga berlaku untuk komentar.
|
Pengiriman SQL | Dalam ODPS SQL, Anda tidak dapat menjalankan pernyataan yang hanya berisi SET atau USE. Kata kunci ini harus digunakan bersama dengan pernyataan SQL tertentu. |
Pengembangan SQL | Ukuran kode SQL tidak boleh melebihi 128 KB. Jumlah perintah SQL tidak boleh melebihi 200. |
Hasil kueri | Hanya pernyataan SQL yang diawali dengan SELECT atau WITH yang dapat menghasilkan set hasil terformat. Batasan berikut berlaku untuk hasil kueri:
Catatan Jika Anda menghadapi batasan ini, Anda dapat mengunduh hasil kueri ke komputer lokal untuk dilihat menggunakan salah satu metode berikut:
|
Catatan
Pastikan akun yang digunakan untuk menjalankan tugas SQL MaxCompute memiliki izin yang diperlukan untuk proyek MaxCompute terkait. Untuk informasi lebih lanjut, lihat Kontrol akses DataWorks pada MaxCompute dan Izin MaxCompute.
Eksekusi tugas SQL MaxCompute bergantung pada sumber daya kuota. Jika suatu tugas berjalan lama, buka konsol MaxCompute untuk memeriksa konsumsi kuota dan pastikan tersedia sumber daya yang cukup untuk menjalankan tugas tersebut. Untuk informasi lebih lanjut, lihat Sumber daya komputasi - Manajemen kuota.
Saat mengembangkan tugas node SQL MaxCompute, jika tugas tersebut melibatkan parameter khusus seperti alamat OSS, Anda harus membungkusnya dengan tanda kutip ganda (""). Jika tidak, tugas mungkin gagal diurai dan dijalankan.
Urutan eksekusi pernyataan yang berisi kata kunci seperti SET dan USE bervariasi tergantung pada lingkungan di DataWorks. Untuk informasi lebih lanjut, lihat Lampiran: Urutan eksekusi SQL di lingkungan berbeda.
Buat MaxCompute SQL node
Untuk informasi tentang cara membuat node SQL MaxCompute, lihat Membuat node SQL MaxCompute.
Mengembangkan node MaxCompute SQL
Di halaman pengeditan node, ikuti langkah-langkah berikut untuk mengembangkan node tersebut.
Kembangkan kode SQL
DataWorks menyediakan parameter penjadwalan yang memungkinkan Anda meneruskan nilai secara dinamis ke variabel dalam kode Anda. Di node SQL MaxCompute, Anda dapat mendefinisikan variabel dalam format ${variable_name}. Kemudian, Anda dapat memberikan nilai ke variabel tersebut di bagian Scheduling Parameters pada tab Schedule. Untuk informasi lebih lanjut tentang format parameter penjadwalan yang didukung, lihat Format parameter penjadwalan yang didukung. Perintah SQL MaxCompute mirip dengan sintaks SQL standar. Perintah ini mendukung pernyataan Data Definition Language (DDL), Data Manipulation Language (DML), dan Data Query Language (DQL), serta sintaks khusus MaxCompute. Untuk informasi lebih lanjut tentang sintaks dan contohnya, lihat Ikhtisar SQL.
Bagian berikut memberikan contoh untuk berbagai skenario:
Jika Anda menggunakan tipe data baru dalam fungsi ekstensi MaxCompute V2.0, Anda harus menambahkan
SET odps.sql.type.system.odps2=true;sebelum pernyataan SQL fungsi tersebut dan mengeksekusinya bersama-sama. Hal ini memastikan bahwa tipe data baru dapat digunakan. Untuk informasi lebih lanjut tentang tipe data MaxCompute V2.0, lihat Edisi tipe data.Urutan eksekusi pernyataan SQL MaxCompute berbeda antara lingkungan Pengembangan Data dan Pusat Operasi. Untuk informasi lebih lanjut, lihat Lampiran: Urutan eksekusi SQL di lingkungan berbeda.
Buat tabel
Anda dapat menggunakan pernyataan CREATE TABLE untuk membuat tabel non-partisi, tabel partisi, tabel eksternal, dan tabel terkluster. Untuk informasi lebih lanjut, lihat CREATE TABLE. Kode berikut memberikan contoh:
-- Buat tabel partisi bernama siswa.
CREATE TABLE IF NOT EXISTS siswa
( id BIGINT,
nama STRING,
usia BIGINT,
tanggal_lahir DATE)
partitioned BY (jenis_kelamin STRING); Masukkan data
Anda dapat menggunakan pernyataan INSERT INTO atau INSERT OVERWRITE untuk memasukkan atau memperbarui data di tabel tujuan. Untuk informasi lebih lanjut, lihat Memasukkan atau menimpa data (INSERT INTO | INSERT OVERWRITE).
GunakanINSERT OVERWRITEdaripadaINSERT INTOuntuk mencegah duplikasi data yang tidak diinginkan. Untuk informasi lebih lanjut, lihat Memasukkan atau menimpa data.
Kode berikut memberikan contoh:
-- Memasukkan data.
INSERT OVERWRITE students PARTITION(gender='boy') VALUES (1,'ZhangSan',15,DATE '2008-05-15') ;Pernyataan INSERT dapat memicu fitur Compare DDL Fields. Fitur ini memeriksa dan membandingkan bidang dalam klausa SELECT dengan bidang tabel tujuan.
Fitur ini tidak didukung jika proyek MaxCompute telah mengaktifkan model skema Lapisan 3, tetapi penyewa belum mengaktifkannya.

Kueri data
Anda dapat menggunakan pernyataan SELECT untuk melakukan operasi seperti kueri bersarang, kueri kelompok, dan pengurutan. Untuk informasi lebih lanjut, lihat Sintaks SELECT. Kode berikut memberikan contoh:
-- Mengaktifkan pemindaian tabel penuh. Pengaturan ini hanya berlaku untuk sesi saat ini.
SET odps.sql.allow.fullscan=true;
-- Mengkueri informasi semua siswa laki-laki dan mengurutkan hasil berdasarkan ID secara menaik.
SELECT * FROM students WHERE gender='boy' ORDER BY id;Secara default, pengguna RAM tidak memiliki izin untuk mengkueri data dari tabel produksi. Untuk mengkueri data dari tabel produksi, Anda harus mengajukan izin yang diperlukan di Security Center. Untuk informasi lebih lanjut tentang izin data preset dan kontrol akses MaxCompute di DataWorks, lihat Detail kontrol izin data untuk MaxCompute. Untuk informasi lebih lanjut tentang cara memberikan izin menggunakan perintah di MaxCompute, lihat Mengelola izin pengguna menggunakan perintah.
Menggunakan fungsi SQL
MaxCompute mendukung fungsi bawaan dan user-defined function (UDF) untuk pengembangan dan analisis data. Anda dapat membuat dan menggunakan fungsi SQL sesuai kebutuhan. Untuk informasi lebih lanjut tentang fungsi bawaan, lihat Fungsi bawaan. Untuk informasi lebih lanjut tentang UDF, lihat UDF MaxCompute. Contoh berikut menjelaskan cara menggunakan fungsi SQL.
Fungsi bawaan: MaxCompute menyediakan fungsi bawaan yang dapat Anda panggil langsung. Berdasarkan contoh sebelumnya, perintah berikut menggunakan fungsi
dateadduntuk memodifikasi nilai dalam kolombirthdengan menambahkan interval waktu tertentu:-- Mengaktifkan pemindaian tabel penuh. Pengaturan ini hanya berlaku untuk sesi saat ini. SET odps.sql.allow.fullscan=true; SELECT id, name, age, birth, dateadd(birth,1,'mm') AS birth_dateadd FROM students;User-defined functions (UDF): Untuk menggunakan UDF, Anda harus menulis kode fungsi, mengunggah kode tersebut sebagai sumber daya, dan mendaftarkan fungsi tersebut. Untuk informasi lebih lanjut, lihat Resource Management.
Men-debug node SQL MaxCompute
Di sisi kanan halaman pengeditan node, konfigurasikan parameter di bagian Debug Configuration.
Parameter
Deskripsi
Sumber daya komputasi
Pilih sumber daya komputasi MaxCompute yang telah Anda sambungkan.
Kuota komputasi
Pilih kuota yang telah Anda buat. Kuota ini menyediakan sumber daya komputasi (CPU dan memori) yang diperlukan untuk pekerjaan komputasi.
Jika tidak ada kuota komputasi yang tersedia, klik Create Computing Quota dalam daftar drop-down untuk membuka Konsol MaxCompute dan mengonfigurasi kuota.
Kelompok sumber daya
Pilih kelompok sumber daya penjadwalan yang telah lulus uji konektivitas dengan sumber daya komputasi. Untuk informasi lebih lanjut, lihat Solusi koneksi jaringan.
Di kotak dialog parameter pada bilah alat, pilih sumber data MaxCompute yang telah Anda buat dan klik Run untuk mengeksekusi tugas SQL MaxCompute.
Menampilkan hasil
Hasil eksekusi ditampilkan dalam Buku kerja. Anda dapat membuka hasil di Buku kerja, melakukan operasi lain di DataWorks, atau menyalin dan menempel kontennya ke file Excel lokal.
CatatanKarena penyesuaian informasi zona waktu Tiongkok yang dirilis oleh Organisasi Internasional untuk Standardisasi, Anda mungkin mengalami selisih waktu untuk periode tertentu saat menjalankan pernyataan SQL terkait di DataWorks. Selisihnya adalah 5 menit 52 detik untuk tanggal dan waktu dari tahun 1900 hingga 1928, dan 9 detik untuk tanggal dan waktu sebelum tahun 1900.
Untuk melihat log berjalan, klik tautan LogView pada tab
di hasil berjalan. Untuk informasi lebih lanjut, lihat Menggunakan Logview V2.0 untuk melihat informasi berjalan pekerjaan.Untuk mengurutkan hasil di halaman hasil, klik panah drop-down untuk suatu bidang, pilih urutan menaik atau menurun dari daftar Sort, lalu klik OK.
Apa yang harus dilakukan selanjutnya
Menjadwalkan node: Untuk menjadwalkan node di folder proyek, atur Scheduling Policy dan konfigurasikan properti penjadwalannya di bagian Schedule di sisi kanan node.
Menerbitkan node: Jika tugas perlu dijalankan di lingkungan produksi, klik ikon
untuk menerbitkan tugas ke lingkungan produksi. Node di folder proyek hanya dapat dijalankan sesuai jadwal setelah diterbitkan ke lingkungan produksi.
Lampiran: Urutan eksekusi SQL di lingkungan berbeda
Urutan eksekusi pernyataan yang berisi kata kunci seperti SET dan USE dalam node SQL MaxCompute bervariasi tergantung pada lingkungan eksekusi di DataWorks.
Di DataStudio: Semua pernyataan yang berisi kata kunci seperti SET dan USE dalam kode tugas saat ini digabungkan dan dieksekusi sebelum semua pernyataan SQL lainnya.
Di lingkungan penjadwalan: Pernyataan dieksekusi sesuai urutan penulisannya.
Asumsikan kode berikut didefinisikan dalam node.
SET a=b;
CREATE TABLE name1(id string);
SET c=d;
CREATE TABLE name2(id string);Urutan eksekusi di lingkungan berbeda adalah sebagai berikut:
Pernyataan SQL yang dieksekusi | DataStudio | Scheduling O&M |
Pernyataan SQL pertama | | |
Pernyataan SQL kedua | | |
Referensi
Untuk contoh tambahan tugas SQL MaxCompute, lihat topik-topik berikut: