全部产品
Search
文档中心

E-MapReduce:Konfigurasikan pekerjaan Spark SQL

更新时间:Jul 02, 2025

Topik ini menjelaskan cara mengonfigurasi pekerjaan Spark SQL.

Prasyarat

Proyek telah dibuat. Untuk informasi lebih lanjut, lihat Kelola Proyek.

Prosedur

  1. Buka tab Data Platform.
    1. Masuk ke Konsol EMR Alibaba Cloud menggunakan akun Alibaba Cloud Anda.
    2. Di bilah navigasi atas, pilih wilayah tempat kluster Anda berada dan pilih grup sumber daya sesuai kebutuhan bisnis Anda.
    3. Klik tab Data Platform.
  2. Pada bagian Proyek halaman yang muncul, temukan proyek yang ingin Anda kelola dan klik Edit Job di kolom Tindakan.
  3. Buat pekerjaan Spark SQL.
    1. Di panel Edit Job di sebelah kiri, klik kanan folder tempat Anda ingin melakukan operasi dan pilih Create Job.
    2. Di kotak dialog Create Job, tentukan Name dan Description, lalu pilih SparkSQL dari daftar drop-down Job Type.
      Catatan Secara default, pekerjaan Spark SQL dikirim dalam mode yarn-client.
      Anda dapat menggunakan sintaks perintah berikut untuk mengirim pekerjaan Spark SQL:
      spark-sql [options] [cli options] {SQL_CONTENT}                
      Tabel berikut menjelaskan parameter dalam sintaks perintah.
      ParameterDeskripsi
      optionsPengaturan parameter SPARK_CLI_PARAMS yang Anda konfigurasi dengan melakukan operasi berikut: Klik Job Settings di pojok kanan atas halaman pekerjaan. Di panel Job Settings, klik tab Advanced Settings. Klik ikon Add di bagian Environment Variables dan tambahkan pengaturan parameter SPARK_CLI_PARAMS, seperti SPARK_CLI_PARAMS="--executor-memory 1g --executor-cores".
      cli optionsContoh:
      • -e <quoted-query-string> : menunjukkan bahwa pernyataan SQL yang diapit tanda kutip akan dieksekusi.
      • -f <filename>: menunjukkan bahwa pernyataan SQL dalam file akan dieksekusi.
      SQL_CONTENTPernyataan SQL yang Anda masukkan.
    3. Klik OK.
  4. Edit konten pekerjaan.
    1. Masukkan pernyataan Spark SQL di bidang Content.
      Contoh:
      -- Contoh pernyataan SQL 
      -- Ukuran pernyataan SQL tidak boleh melebihi 64 KB. 
      show databases;
      show tables;
      -- LIMIT 2000 secara otomatis ditambahkan ke pernyataan SELECT. 
      select * from test1;
    2. Klik Save.