Seluruh pengembangan pekerjaan dilakukan dalam ruang kerja, sehingga Anda harus membuatnya terlebih dahulu. Topik ini menjelaskan cara membuat ruang kerja di Konsol E-MapReduce.
Prasyarat
Anda telah mendaftarkan Akun Alibaba Cloud dan menyelesaikan verifikasi nama asli.
Akun yang Anda gunakan harus memiliki izin yang diperlukan untuk membuat ruang kerja:
Jika Anda menggunakan Akun Alibaba Cloud, lihat Tetapkan peran ke Akun Alibaba Cloud untuk detail otorisasi.
Jika Anda menggunakan RAM user atau RAM role, pastikan kebijakan akses AliyunEMRServerlessSparkFullAccess, AliyunOSSFullAccess, dan AliyunDLFFullAccess telah ditautkan ke RAM user atau RAM role tersebut. Kemudian, pada halaman Access Control, tambahkan RAM user atau RAM role tersebut dan berikan peran administrator. Untuk informasi selengkapnya, lihat Berikan izin kepada RAM user dan Kelola pengguna dan peran.
Data Lake Formation (DLF) telah diaktifkan. Untuk informasi selengkapnya, lihat Quick Start. Untuk daftar wilayah yang mendukung DLF, lihat Wilayah dan titik akhir.
Object Storage Service (OSS) telah diaktifkan dan sebuah bucket telah dibuat. Untuk informasi selengkapnya, lihat Aktifkan OSS dan Buat bucket.
Perhatian
Anda bertanggung jawab untuk mengelola dan mengonfigurasi lingkungan runtime untuk kode Anda.
Buat ruang kerja langganan
Buka halaman EMR Serverless Spark.
Masuk ke Konsol EMR.
Pada panel navigasi kiri, pilih EMR Serverless > Spark.
Pada bilah navigasi atas, pilih wilayah sesuai kebutuhan Anda.
PentingAnda tidak dapat mengubah wilayah ruang kerja setelah membuatnya.
Klik Create Workspace.
Pada halaman Create Workspace, konfigurasikan parameter berikut.
Parameter
Deskripsi
Contoh
Region
Pilih wilayah tempat data Anda berada.
China (Hangzhou)
Billing Method
Pilih Subscription.
subscription
Workspace Name
Nama harus terdiri dari 1 hingga 64 karakter dan hanya boleh berisi karakter Tionghoa, huruf, angka, tanda hubung (-), dan garis bawah (_).
CatatanJika Anda memasukkan nama yang sudah digunakan, sistem akan meminta Anda memberikan nama lain.
emr-serverless-spark
CU Quota
Jumlah maksimum unit komputasi (CUs) bersamaan yang tersedia untuk memproses pekerjaan di ruang kerja.
CatatanKuota CU maksimum untuk ruang kerja adalah 1.000 CU. Jika Anda memerlukan kuota lebih tinggi, .
1000
Workspace Directory
Direktori yang digunakan untuk menyimpan file data, seperti log pekerjaan, event waktu proses, dan sumber daya.
Pilih bucket dengan OSS-HDFS diaktifkan untuk kompatibilitas antarmuka HDFS native. Jika kasus penggunaan Anda tidak memerlukan HDFS, Anda dapat memilih bucket OSS standar.
CatatanAnda dapat menentukan direktori induk atau subdirektori untuk path OSS sesuai kebutuhan. Spark secara otomatis membuat direktori bernama sesuai ID ruang kerja di bawah path OSS yang ditentukan untuk menyimpan data berikut:
<workspace-ID>/spark/logs/: log pekerjaan Spark
<workspace-ID>/spark/eventlogs/: log event Spark
<workspace-ID>/spark/snapshot/: data snapshot Spark
emr-oss-hdfs
DLF for Metadata Storage
Menyimpan dan mengelola metadata Anda. Anda dapat memilih katalog DLF atau DLF-Legacy.
Jika DLF diaktifkan, EMR secara default menggunakan katalog DLF. Jika hanya DLF-Legacy yang dikonfigurasi, EMR secara default menggunakan katalog DLF-Legacy dengan nama yang identik dengan UID Anda. Untuk menggunakan katalog data berbeda untuk kluster berbeda, buat katalog baru:
Klik Create Catalog. Pada kotak dialog yang muncul, masukkan Catalog Name lalu klik Create Catalog. Untuk informasi selengkapnya, lihat Buat katalog.
Dari daftar drop-down, pilih katalog data yang telah Anda buat.
emr-dlf
Execution Role
Menentukan peran yang diasumsikan oleh Serverless Spark untuk menjalankan pekerjaan. Peran default adalah AliyunEMRSparkJobRunDefaultRole.
Serverless Spark menggunakan peran ini untuk mengakses sumber daya Anda di layanan lain, seperti OSS dan DLF. Jika Anda ingin mengontrol izin peran eksekusi, Anda dapat menggunakan peran eksekusi kustom. Untuk informasi selengkapnya, lihat Execution role.
AliyunEMRSparkJobRunDefaultRole
(Opsional) Advanced Settings
Tags: Tag adalah pengenal untuk sumber daya cloud Anda. Anda dapat menggunakan tag untuk mengklasifikasikan, mencari, dan mengagregasi sumber daya yang memiliki karakteristik sama, sehingga meningkatkan efisiensi manajemen sumber daya. Anda dapat menyambungkan hingga 20 tag ke setiap ruang kerja. Setiap tag terdiri dari kunci tag kustom dan nilai tag. Tag juga memungkinkan alokasi biaya dan manajemen detail halus untuk sumber daya bayar sesuai penggunaan.
Anda dapat menyambungkan tag saat membuat ruang kerja, atau menambahkan/mengubah tag kapan saja di halaman daftar ruang kerja. Menyambungkan tag ke sumber daya membantu Anda mengklasifikasikannya dan mengoptimalkan operasi.
Untuk informasi selengkapnya tentang tag, lihat Apa itu tag?.
Masukkan kunci tag kustom dan nilai tag
Klik Create Workspace.
Klik Confirm Order dan selesaikan pembayaran.
Setelah pembayaran selesai, Anda dapat melihat Workspace sedang dibuat pada halaman EMR Serverless > Spark. Ruang kerja biasanya dibuat dalam waktu 3 hingga 5 menit.
Buat ruang kerja bayar sesuai penggunaan
Buka halaman EMR Serverless Spark.
Masuk ke Konsol EMR.
Pada panel navigasi kiri, pilih EMR Serverless > Spark.
Pada bilah navigasi atas, pilih wilayah sesuai kebutuhan Anda.
PentingAnda tidak dapat mengubah wilayah ruang kerja setelah membuatnya.
Klik Create Workspace.
Pada halaman Create Workspace, konfigurasikan parameter berikut.
Parameter
Deskripsi
Contoh
Region
Pilih wilayah tempat data Anda berada.
China (Hangzhou)
Billing Method
Pilih Subscription.
pay-as-you-go
Workspace Name
Nama harus terdiri dari 1 hingga 64 karakter dan hanya boleh berisi karakter Tionghoa, huruf, angka, tanda hubung (-), dan garis bawah (_).
CatatanJika Anda memasukkan nama yang sudah digunakan, sistem akan meminta Anda memberikan nama lain.
emr-serverless-spark
Maximum Quota
Jumlah maksimum unit komputasi (CUs) yang dapat digunakan untuk menjalankan pekerjaan secara bersamaan di ruang kerja.
CatatanKuota burst maksimum untuk ruang kerja adalah 5.000 CU. Jika Anda memerlukan kuota lebih tinggi, .
1000
Workspace Directory
Direktori yang digunakan untuk menyimpan file data, seperti log pekerjaan, event waktu proses, dan sumber daya.
Pilih bucket dengan OSS-HDFS diaktifkan untuk kompatibilitas antarmuka HDFS native. Jika kasus penggunaan Anda tidak memerlukan HDFS, Anda dapat memilih bucket OSS standar.
CatatanAnda dapat menentukan direktori induk atau subdirektori untuk path OSS sesuai kebutuhan. Spark secara otomatis membuat direktori bernama sesuai ID ruang kerja di bawah path OSS yang ditentukan untuk menyimpan data berikut:
<workspace-ID>/spark/logs/: log pekerjaan Spark
<workspace-ID>/spark/eventlogs/: log event Spark
<workspace-ID>/spark/snapshot/: data snapshot Spark
emr-oss-hdfs
DLF for Metadata Storage
Menyimpan dan mengelola metadata Anda. Anda dapat memilih katalog DLF atau DLF-Legacy.
Jika DLF diaktifkan, EMR secara default menggunakan katalog DLF. Jika hanya DLF-Legacy yang dikonfigurasi, EMR secara default menggunakan katalog DLF-Legacy dengan nama yang identik dengan UID Anda. Untuk menggunakan katalog data berbeda untuk kluster berbeda, buat katalog baru:
Klik Create Catalog. Pada kotak dialog yang muncul, masukkan Catalog Name lalu klik Create Catalog. Untuk informasi selengkapnya, lihat Buat katalog.
Dari daftar drop-down, pilih katalog data yang telah Anda buat.
emr-dlf
Execution Role
Menentukan peran yang diasumsikan oleh Serverless Spark untuk menjalankan pekerjaan. Peran default adalah AliyunEMRSparkJobRunDefaultRole.
Serverless Spark menggunakan peran ini untuk mengakses sumber daya Anda di layanan lain, seperti OSS dan DLF. Jika Anda ingin mengontrol izin peran eksekusi, Anda dapat menggunakan peran eksekusi kustom. Untuk informasi selengkapnya, lihat Execution role.
AliyunEMRSparkJobRunDefaultRole
(Opsional) Advanced Settings
Tags: Tag adalah pengenal untuk sumber daya cloud Anda. Anda dapat menggunakan tag untuk mengklasifikasikan, mencari, dan mengagregasi sumber daya yang memiliki karakteristik sama, sehingga meningkatkan efisiensi manajemen sumber daya. Anda dapat menyambungkan hingga 20 tag ke setiap ruang kerja. Setiap tag terdiri dari kunci tag kustom dan nilai tag. Tag juga memungkinkan alokasi biaya dan manajemen detail halus untuk sumber daya bayar sesuai penggunaan.
Anda dapat menyambungkan tag saat membuat ruang kerja, atau menambahkan/mengubah tag kapan saja di halaman daftar ruang kerja. Menyambungkan tag ke sumber daya membantu Anda mengklasifikasikannya dan mengoptimalkan operasi.
Untuk informasi selengkapnya tentang tag, lihat Apa itu tag?.
Masukkan kunci tag kustom dan nilai tag
Klik Create Workspace.
Dokumen terkait
Setelah membuat ruang kerja, Anda dapat mulai mengembangkan pekerjaan, seperti pekerjaan SparkSQL. Untuk informasi selengkapnya, lihat Quick start pengembangan SparkSQL.