Kafka Manager menyediakan antarmuka web (web UI) untuk mengelola kluster Kafka. Topik ini menjelaskan cara mengakses UI tersebut dan menambahkan kluster.
Prasyarat
Anda telah membuat kluster Dataflow dengan layanan Kafka diaktifkan. Untuk petunjuknya, lihat Create a cluster.
Pemilihan layanan Kafka akan menginstal Kafka Manager dan mengaktifkan fitur otentikasinya secara default.
Catatan penggunaan
Versi Kafka Manager saat ini tidak mendukung pembatasan kecepatan (throttling) untuk penugasan ulang partisi. Jika Anda memerlukan throttling, konfigurasikan parameter secara manual menggunakan skrip kafka-configs.sh. Untuk informasi lebih lanjut, lihat Limit the traffic for Kafka maintenance operations.
Prosedur
Gunakan saluran data SSH (SSH tunnel) untuk mengakses antarmuka web. Untuk detailnya, lihat Use an SSH tunnel to access the web UIs of open-source components.
CatatanUbah kata sandi default saat pertama kali menggunakan Kafka Manager.
Untuk menghindari eksposur Port 8085, akses antarmuka web melalui SSH tunnel. Jika Anda mengakses antarmuka web di
http://localhost:8085, konfigurasikan daftar putih alamat IP untuk mencegah kebocoran data.
Pada halaman login, masukkan username dan password Anda.
Dapatkan username, password, dan alamat ZooKeeper sebagai berikut:
-
Login ke E-MapReduce console.
Pada bilah navigasi atas, pilih wilayah dan kelompok sumber daya.
Pada halaman EMR on ECS, temukan kluster target dan klik Services di kolom Actions.
Dapatkan konfigurasi berikut:
Dapatkan username dan password:
Pada halaman Services, temukan layanan Kafka Manager dan klik Configure.
Pada halaman Configure, lihat nilai parameter berikut:
kafka.manager.authentication.username: Username untuk login ke antarmuka web Kafka Manager.
kafka.manager.authentication.password: Password untuk login ke antarmuka web Kafka Manager.
Dapatkan alamat ZooKeeper kluster:
Pada halaman Services, temukan layanan Kafka dan klik Configure.
Pada halaman Configure, klik tab server.properties dan temukan nilai parameter zookeeper.connect. Ini adalah alamat ZooKeeper kluster.
-
Pada halaman Kafka Manager, pilih Cluster > Add Cluster.
Pada halaman Add Cluster, konfigurasikan parameter berikut dan klik Save.
Parameter
Deskripsi
Cluster name
Nama kluster.
Cluster ZooKeeper hosts
Alamat ZooKeeper kluster.
Masukkan nilai zookeeper.connect dari Langkah 2.
Kafka version
Pilih versi Kafka untuk kluster Anda.
CatatanKafka Manager mungkin tidak mendukung versi Kafka yang lebih baru. Pilih versi terdekat yang tersedia.
Enable JMX polling (Set JMX_PORT env variable before starting kafka server)
Mengaktifkan Java Management Extensions (JMX).
Pada contoh ini, JMX diaktifkan.
brokerViewThreadPoolSize
Ukuran kolam thread yang digunakan untuk mengambil data.
PentingMasukkan nilai lebih besar dari 2.
Setelah menambahkan kluster, Anda dapat menggunakan fitur-fitur standar Kafka. Untuk memverifikasi konfigurasi, klik menu Brokers di Kafka Manager untuk melihat daftar broker dan detailnya, seperti Id, Host, Port, JMX Port, Bytes In, dan Bytes Out. Selain itu, periksa metrik laju di bawah Combined Metrics, seperti Messages in/sec, Bytes in/sec, dan Bytes out/sec, untuk memastikan semua broker berjalan dengan baik dan mengumpulkan data JMX.