Komponen open-source dalam E-MapReduce (EMR) menghasilkan banyak log selama operasi. Fitur Manajemen Log mengintegrasikan EMR dengan Simple Log Service (SLS), sehingga Anda dapat melakukan kueri terhadap log komponen tersebut langsung di Konsol EMR.
Prasyarat
-
Anda telah membuat kluster di Konsol EMR. Untuk informasi selengkapnya, lihat Buat kluster.
-
Anda telah mengaktifkan Simple Log Service (SLS).
Batasan
-
Topik ini hanya berlaku untuk kluster dalam skenario berikut: DataLake, DataFlow, Online Analytical Processing (OLAP), DataServing, dan DataLake (Hadoop).
-
Pengiriman log didukung untuk layanan berikut: hdfs, yarn, yarn_application, hive, spark, jindodata, tez, flink, hbase, zookeeper, kafka, presto, kudu, impala, flume, starrocks, clickhouse, kyuubi, rss, dan host.
Catatan penggunaan
-
Simple Log Service (SLS) membebankan biaya terpisah untuk item seperti penyimpanan log dan traffic terindeks sesuai tarif standar. Untuk informasi selengkapnya, lihat Item yang dikenai biaya.
-
Jika Anda menggunakan RAM user, login ke Konsol RAM dengan Akun Alibaba Cloud Anda dan berikan izin AliyunLogFullAccess kepada RAM user tersebut. Untuk informasi selengkapnya, lihat Kelola izin untuk RAM user.
Aktifkan pengiriman log
-
Buka halaman Manajemen Log.
-
Login ke Konsol E-MapReduce.
-
Di bilah navigasi atas, pilih wilayah dan kelompok sumber daya sesuai kebutuhan.
-
Di halaman EMR on ECS, klik Cluster ID dari kluster target.
-
Klik tab Logs.
-
-
Konfigurasikan cakupan pengiriman log.
-
Di halaman Logs, klik Set Log Shipping Scope di pojok kanan atas.
-
Di kotak dialog yang muncul, konfigurasikan Project untuk penyimpanan log.
Anda dapat memilih Project yang sudah ada atau membuat Project baru.
PentingAnda tidak dapat mengubah Project setelah dipilih.
-
Pilih layanan yang log-nya ingin Anda kirim, lalu klik OK.
-
-
Lihat log layanan.
-
Dari daftar drop-down Please select EMR service, pilih layanan yang log-nya ingin Anda lihat.
-
Analisis log di halaman log.
Anda dapat menentukan rentang waktu dan pernyataan kueri untuk melakukan kueri waktu nyata. Misalnya, Anda dapat menganalisis distribusi bidang tertentu dalam suatu periode secara cepat, atau memfilter dan mengagregasi catatan akses berdasarkan kondisi tertentu.
-
Nonaktifkan pengiriman log
Menonaktifkan pengiriman log waktu nyata tidak secara otomatis menghapus Project. Untuk menghindari biaya yang tidak perlu setelah menonaktifkan pengiriman log, buka Konsol Simple Log Service dan hapus Project yang telah dikonfigurasi. Untuk informasi selengkapnya, lihat Kelola Project.
Jika Anda tidak lagi memerlukan penyimpanan data log, ikuti langkah-langkah berikut untuk menonaktifkan pengiriman log.
-
Di halaman Logs, klik Disable Log Shipping di pojok kanan atas.
-
Di kotak dialog yang muncul, klik OK.
Kelola Project SLS
Di halaman Logs, Anda dapat mengklik Go to Log Service Console di pojok kanan atas untuk membuka Konsol Simple Log Service (SLS). Di Konsol SLS, Anda dapat mengatur periode retensi log dan memodifikasi konfigurasi Logstore.
Bidang log
|
Parameter |
Deskripsi |
|
|
Alamat IP pribadi node. |
|
|
Hostname node. |
|
|
Jalur penyimpanan log. |
|
|
Pengenal kustom yang ditentukan SLS untuk kluster. |
|
|
UID Akun Alibaba Cloud. |
|
|
ID Instance ECS. |
|
|
ID kluster EMR. |
|
|
Nama node. Contohnya, |
|
|
Topik log, digunakan untuk mengkategorikan entri log. |
|
|
Konten mentah dari entri log. |
|
|
Tingkat log, yang menunjukkan tingkat keparahan entri log, seperti |
|
|
Pesan log utama, biasanya diekstraksi setelah penguraian. |
|
|
Thread yang menghasilkan entri log. |
|
|
Timestamp saat entri log dihasilkan. |
Aset
-
Project kustom dan Logstore spesifikasi khusus
Anda dapat menentukan Project kustom. Sistem kemudian akan membuat Logstore spesifikasi khusus bernama
emr_<service_name>_logdi Project tersebut. Misalnya, jika Anda mengirim log layanan host, Logstore yang sesuai adalahemr_host_log.Penting-
Sebelum menonaktifkan fitur Manajemen Log, jangan menghapus Project dan Logstore SLS yang digunakan untuk log EMR. Jika tidak, log yang ada akan dihapus dan log baru tidak dapat dikirim ke SLS.
-
Jika sebelumnya Anda menggunakan metode penagihan pay-by-ingested-data, sistem akan membuat Logstore spesifikasi khusus yang secara default menggunakan metode ini. Untuk beralih ke metode penagihan pay-by-feature, Anda harus memodifikasi konfigurasi Logstore. Untuk informasi selengkapnya, lihat Modifikasi konfigurasi Logstore.
-
-
Dasbor spesifikasi khusus
Tidak tersedia dasbor spesifikasi khusus. Anda dapat membuat dasbor kustom untuk menampilkan hasil kueri. Untuk informasi selengkapnya, lihat Buat dasbor.
Penagihan
-
Fitur Manajemen Log saat ini gratis di EMR.
-
Jika Logstore menggunakan metode penagihan pay-by-feature, SLS membebankan biaya untuk log EMR yang dikirim berdasarkan item seperti storage space, read traffic, permintaan, pemrosesan data, dan pengiriman data. Untuk informasi selengkapnya, lihat Item yang dikenai biaya pada metode penagihan pay-by-feature.
-
Jika Logstore menggunakan metode penagihan pay-by-ingested-data, SLS membebankan biaya untuk log EMR yang dikirim berdasarkan volume data mentah yang diingest. Untuk informasi selengkapnya, lihat Item yang dikenai biaya pada metode penagihan pay-by-ingested-data.
FAQ
T: Saya telah mengaktifkan SLS dan memberikan izin yang diperlukan. Mengapa konsol masih menampilkan pesan "Pengumpulan log layanan belum diaktifkan untuk resource ini. Buka halaman Manajemen Log kluster di Konsol EMR untuk mengaktifkannya."?
J: Tidak ada layanan yang dikonfigurasi untuk pengiriman log di kluster saat ini. Klik Set Log Shipping Scope di pojok kanan atas untuk menyelesaikan konfigurasi.