Kafka Manager adalah alat manajemen kluster berbasis web untuk Kafka. Gunakan alat ini untuk mengelola kluster Dataflow Kafka Anda di E-MapReduce (EMR) dengan mudah.
Prasyarat
Sebelum memulai, pastikan Anda telah:
-
Membuat kluster Dataflow dengan Kafka yang dipilih saat pembuatan. Untuk informasi lebih lanjut, lihat Create a cluster.
Pemilihan Kafka saat pembuatan kluster secara otomatis menginstal Kafka Manager dengan autentikasi yang diaktifkan.
Kumpulkan nilai-nilai berikut dari Konsol EMR sebelum memulai. Di Konsol EMR, buka EMR on ECS, temukan kluster Anda, lalu klik Services di kolom Actions.
| Value | Where to find it |
|---|---|
kafka.manager.authentication.username |
Services tab → temukan Kafka Manager → Configure → tab Configure |
kafka.manager.authentication.password |
Services tab → temukan Kafka Manager → Configure → tab Configure |
zookeeper.connect |
Services tab → temukan Kafka → Configure → tab Configure → tab server.properties |
Batasan
Kafka Manager tidak mendukung pembatasan kecepatan (throttling) saat melakukan reassign partisi. Untuk mengaktifkan throttling, jalankan kafka-configs.sh guna mengonfigurasi parameter terkait throttling. Untuk informasi lebih lanjut, lihat Throttle the O&M traffic of Kafka brokers.
Akses Kafka Manager dan tambahkan kluster
-
Buka saluran data SSH ke kluster, lalu akses
http://localhost:8085di browser Anda. Untuk petunjuknya, lihat Create an SSH tunnel to access web UIs of open source components.PentingGunakan saluran data SSH daripada membuka Port 8085 secara langsung. Jika Anda harus mengakses Kafka Manager melalui alamat publik, konfigurasikan Daftar putih alamat IP untuk mencegah kebocoran data.
CatatanUbah kata sandi default saat pertama kali login.
-
Di halaman login, masukkan nilai
kafka.manager.authentication.usernamedankafka.manager.authentication.passwordyang telah Anda kumpulkan pada bagian Prasyarat. -
Pilih Cluster > Add Cluster.
-
Di halaman Add Cluster, konfigurasikan parameter berikut dan klik Save.
Parameter Description Cluster Name Nama kluster Dataflow. Cluster Zookeeper Hosts Nilai zookeeper.connectyang telah Anda kumpulkan pada bagian Prasyarat.Kafka Version Versi Kafka yang dideploy di kluster Dataflow. Jika Kafka Manager tidak mendukung versi Kafka kluster Anda, pilih versi terbaru yang didukung oleh Kafka Manager. Enable JMX Polling (Set JMX_PORT env variable before starting kafka server) Mengaktifkan pemantauan Java Management Extensions (JMX). brokerViewThreadPoolSize Jumlah thread yang digunakan untuk mengambil data broker. Atur nilai ini lebih besar dari 2. 
Setelah menambahkan kluster, Anda dapat menggunakan fitur-fitur umum Kafka.
Langkah berikutnya
Gunakan Kafka Manager untuk mengelola topik, melakukan reassign partisi, dan memantau metrik broker untuk kluster Dataflow Anda.