Alibaba Cloud E-MapReduce (EMR) adalah platform data besar open source yang dapat mengirimkan log EMR ke Simple Log Service untuk kueri dan analisis. Pelajari tentang aset, penagihan, batasan, serta cara mengaktifkan pengiriman log di Konsol EMR.
Detail Aset
-
Proyek kustom dan penyimpanan log khusus
Saat Anda membuat proyek kustom, sistem secara otomatis membuat Logstore spesifikasi khusus bernama
emr_nama layanan EMR_logdalam proyek tersebut. Misalnya, jika Anda mengirimkan log dari layanan host, nama Logstore-nya adalahemr_host_log.Penting-
Jangan hapus proyek atau Logstore Simple Log Service terkait sebelum menonaktifkan fitur log. Jika tidak, log yang tersimpan akan di-purge dan log baru tidak dapat dikirimkan ke Simple Log Service.
-
Jika Anda mengaktifkan mode penagihan pay-by-ingested-data, sistem akan membuat Logstore spesifikasi khusus yang secara default menggunakan mode ini. Untuk beralih ke mode pay-by-feature, Anda dapat memodifikasi konfigurasi Logstore. Untuk informasi selengkapnya, lihat Modifikasi konfigurasi Logstore.
-
-
Dasbor spesifikasi khusus
Tidak tersedia dasbor spesifikasi khusus. Anda dapat membuat dasbor kustom untuk menampilkan hasil kueri. Untuk informasi selengkapnya, lihat Buat dasbor.
Penagihan
-
Saat ini, EMR tidak membebankan biaya untuk fitur manajemen log.
-
Jika Logstore menggunakan mode penagihan pay-by-feature, Simple Log Service membebankan biaya untuk penyimpanan log, lalu lintas baca, permintaan, transformasi data, dan pengiriman data. Untuk informasi selengkapnya, lihat Item yang dikenai biaya pada mode pay-by-feature.
-
Jika Logstore menggunakan mode penagihan pay-by-ingested-data, Simple Log Service membebankan biaya berdasarkan jumlah data mentah yang diingest. Untuk informasi selengkapnya, lihat Item yang dikenai biaya pada mode pay-by-ingested-data.
Batasan
-
Fitur manajemen log hanya tersedia untuk kluster dalam skenario DataLake, DataFlow, Pemrosesan Analitik Online (OLAP), DataServing, dan Hadoop yang baru.
-
Pengiriman log didukung untuk layanan berikut: HDFS, YARN, yarn_application, Hive, Spark, JindoData, Tez, Flink, HBase, ZooKeeper, Kafka, Presto, Kudu, Impala, Flume, StarRocks, ClickHouse, Kyuubi, Remote Shuffle Service (RSS), dan host.
Aktifkan pengiriman log
Catatan penggunaan
-
Simple Log Service (SLS) membebankan biaya secara terpisah untuk item seperti penyimpanan log dan lalu lintas terindeks sesuai tarif standar. Untuk informasi selengkapnya, lihat Item yang dikenai biaya.
-
Jika Anda menggunakan RAM user, login ke Konsol RAM dengan Akun Alibaba Cloud Anda dan berikan izin AliyunLogFullAccess kepada RAM user tersebut. Untuk informasi selengkapnya, lihat Kelola izin untuk RAM user.
-
Buka halaman Manajemen Log.
-
Login ke Konsol E-MapReduce.
-
Di bilah navigasi atas, pilih wilayah dan kelompok sumber daya sesuai kebutuhan.
-
Di halaman EMR on ECS, klik Cluster ID kluster target.
-
Klik tab Logs.
-
-
Konfigurasikan cakupan pengiriman log.
-
Di halaman Logs, klik Set Log Shipping Scope di pojok kanan atas.
-
Pada kotak dialog yang muncul, konfigurasikan Project untuk penyimpanan log.
Anda dapat memilih Project yang sudah ada atau membuat yang baru.
PentingAnda tidak dapat mengubah Project setelah dipilih.
-
Pilih layanan yang log-nya ingin Anda kirimkan, lalu klik OK.
-
-
Lihat log layanan.
-
Dari daftar drop-down Please select EMR service, pilih layanan yang log-nya ingin Anda lihat.
-
Analisis log di halaman log.
Anda dapat menentukan rentang waktu dan pernyataan kueri untuk melakukan kueri waktu nyata. Misalnya, Anda dapat menganalisis distribusi bidang tertentu selama periode tertentu atau memfilter dan mengagregasi catatan akses berdasarkan kondisi yang ditentukan.
-
Nonaktifkan pengiriman log
Menonaktifkan pengiriman log waktu nyata tidak secara otomatis menghapus Project. Untuk menghindari biaya yang tidak perlu setelah menonaktifkan pengiriman log, buka Konsol Simple Log Service dan hapus Project yang telah dikonfigurasi. Untuk informasi selengkapnya, lihat Kelola Project.
Jika Anda tidak lagi memerlukan data log, ikuti langkah-langkah berikut untuk menonaktifkan pengiriman log.
-
Di halaman Logs, klik Disable Log Shipping di pojok kanan atas.
-
Pada kotak dialog yang muncul, klik OK.
Operasi terkait
|
Operasi |
Deskripsi |
|
Set log delivery scope |
Di tab Log Management, klik Set Log Delivery Scope untuk memodifikasi layanan yang log-nya dikirimkan. |
|
Disable log delivery |
Di tab Log Management, klik Disable Log Delivery. Penting
Setelah Anda menonaktifkan pengiriman log, sistem tidak secara otomatis menghapus proyek atau log yang telah dikirimkan. Untuk menghindari biaya yang tidak perlu, hapus proyek terkait di Konsol Simple Log Service. Untuk informasi selengkapnya, lihat Hapus proyek. |
Langkah selanjutnya
Setelah Anda mengirimkan log EMR ke Simple Log Service, Anda dapat melakukan kueri dan analisis log, mengunduh data, mengirimkan dan mentransformasi data, serta mengonfigurasi alert. Untuk informasi selengkapnya, lihat Operasi umum untuk log layanan cloud.