Realtime Compute for Apache Flink:Dokumen putih kinerja (benchmark Nexmark)

Langkah 1: Unduh tool pengujian

Unduh dan ekstrak paket tool pengujian Nexmark nexmark-flink.tar.gz.

Struktur direktori setelah diekstrak adalah sebagai berikut:

nexmark-flink/
├── run_nexmark.sh          # Skrip entri pengujian
├── nexmark_env.sh          # File konfigurasi variabel lingkungan (perlu diedit)
├── bin/                    # Skrip waktu proses
├── conf/                   # Konfigurasi pekerjaan Flink
├── lib/                    # File JAR (akan diunggah ke Konsol)
└── queries-vvp/            # File SQL Kueri Nexmark

Langkah 2: Unggah JAR Nexmark

1. Login ke Konsol Realtime Compute for Apache Flink.

2. Klik ruang proyek target. Di bilah navigasi kiri, pilih File Management > Upload Resource.

3. Pilih dan unggah file nexmark-flink-0.2-SNAPSHOT.jar. File tersebut berada di direktori nexmark-flink/lib dari tool pengujian.

4. Setelah pengunggahan selesai, klik nama file untuk menyalin alamat OSS-nya. Anda akan memerlukan alamat ini untuk langkah konfigurasi selanjutnya. Format path file bervariasi tergantung jenis penyimpanan:

   • Penyimpanan OSS Bucket: oss://<nama OSS Bucket>/artifacts/namespaces/<nama ruang proyek>/<nama file>

     Contoh: oss://oss-test/artifacts/namespaces/flink-default/nexmark-flink-0.2-SNAPSHOT.jar

   • Penyimpanan fully managed: oss://flink-fullymanaged-<ID ruang kerja>/artifacts/namespaces/<nama ruang proyek>/<nama file>

     Contoh: oss://flink-fullymanaged-e6a123456789/artifacts/namespaces/flink-default/nexmark-flink-0.2-SNAPSHOT.jar

   Untuk melihat jenis penyimpanan ruang kerja Anda, buka Konsol manajemen Realtime Compute for Apache Flink, temukan ruang kerja target, lalu klik Details di kolom Actions.

Langkah 3: Konfigurasikan parameter waktu proses

Edit file nexmark-flink/nexmark_env.sh dan atur parameter berikut.

Langkah 4: Jalankan pengujian

1. Di direktori nexmark-flink, jalankan perintah berikut.

   ./run_nexmark.sh

2. Tool pengujian secara otomatis membuat dan menjalankan pekerjaan Nexmark menggunakan OpenAPI.

3. Setelah pengujian selesai, durasi untuk setiap kueri ditampilkan dalam milidetik. Contoh berikut menunjukkan output sampel:

   INFO  com.github.nexmark.flink.vvp.Nexmark - q0 13078
   ============================================================================
   ✓ Benchmark execution completed successfully
   ============================================================================

Persiapan lingkungan

Buat kluster Flink menggunakan EMR di ECS dengan konfigurasi berikut:

• Versi EMR: EMR-5.21.0

• Spesifikasi perangkat keras: Tiga instans ecs.g6a.xlarge (4 vCPU / 16 GiB), termasuk satu node master dan dua node core.

• Aktifkan layanan Hadoop dan HDFS.

• Konfigurasikan login tanpa kata sandi antar semua node. Misalnya, unggah file kunci privat Anda (seperti key.pem) ke node master. Lalu, tambahkan konfigurasi berikut ke file ~/.ssh/config di node master. Ganti alamat IP dan path file dengan nilai aktual Anda.

  Host 192.168.0.0
      HostName 192.168.0.0
      User root
      IdentityFile /path/to/key.pem
      StrictHostKeyChecking no
  Host 192.168.0.1
      HostName 192.168.0.1
      User root
      IdentityFile /path/to/key.pem
      StrictHostKeyChecking no
  Host 192.168.0.2
      HostName 192.168.0.2
      User root
      IdentityFile /path/to/key.pem
      StrictHostKeyChecking no

  Gunakan ssh untuk memverifikasi bahwa login tanpa kata sandi antar node berfungsi dengan baik. Jika muncul error "bad permissions", jalankan chmod 600 /path/to/key.pem untuk memperbaiki izin.

Persiapan perangkat lunak

1. Unduh paket Flink target (Apache Flink Downloads) dan paket pengujian Nexmark (nexmark-flink.tgz). Unggah paket ke node master dan ekstrak.

   tar -zxvf flink-1.20.4-bin-scala_2.12.tgz
   tar -zxvf nexmark-flink.tgz
   mv flink-1.20.4 flink
   mv nexmark-flink nexmark

2. Salin file JAR di direktori nexmark/lib ke flink/lib. File JAR ini berisi generator data Nexmark.

   cp nexmark/lib/* flink/lib/

3. Atur variabel lingkungan. Edit ~/.bashrc, tambahkan konfigurasi berikut, lalu jalankan source ~/.bashrc agar perubahan berlaku.

   Konfigurasikan path sesuai dengan lingkungan aktual Anda.

   export JAVA_HOME=/etc/alternatives/java_sdk_11
   export PATH=$JAVA_HOME/bin:$PATH
   export FLINK_HOME=/mnt/disk1/flink
   export HADOOP_CLASSPATH=$(/opt/apps/HADOOP-COMMON/hadoop-common-current/bin/hadoop classpath)

Konfigurasi dan startup klaster

1. Konfigurasikan worker Flink. Pengujian ini menggunakan delapan Pengelola Tugas, ditempatkan sebagai berikut: dua di node master dan tiga di setiap node core.

   Edit flink/conf/workers, pastikan untuk mengganti alamat IP dengan nilai aktual.

   192.168.0.0
   192.168.0.0
   192.168.0.1
   192.168.0.1
   192.168.0.1
   192.168.0.2
   192.168.0.2
   192.168.0.2

2. Ganti flink/conf/config.yaml dengan nexmark/conf/config.yaml, dan perbarui item konfigurasi berikut:

   • jobmanager.rpc.address: Alamat IP node master, misalnya 192.168.0.0.

   • state.checkpoints.dir: Path HDFS, misalnya hdfs:///checkpoints

   • taskmanager.memory.process.size: 4G

3. Edit nexmark/conf/nexmark.yaml dan atur nexmark.metric.reporter.host ke alamat IP node master.

4. Sebarkan direktori flink dan nexmark serta konfigurasi variabel lingkungan ke setiap node core.

   Ganti alamat IP dengan nilai aktual Anda.

   scp -r flink 192.168.0.1:/mnt/disk1/
   scp -r flink 192.168.0.2:/mnt/disk1/
   scp -r nexmark 192.168.0.1:/mnt/disk1/
   scp -r nexmark 192.168.0.2:/mnt/disk1/
   scp ~/.bashrc 192.168.0.1:~/
   scp ~/.bashrc 192.168.0.2:~/

   Setelah distribusi selesai, jalankan source ~/.bashrc di setiap node core agar variabel lingkungan berlaku.

5. Di node master, mulai kluster Flink.

   flink/bin/start-cluster.sh

6. Inisialisasi lingkungan pengujian Nexmark. Skrip ini mengonfigurasi Metric Reporter yang diperlukan di setiap node.

   nexmark/bin/setup_cluster.sh

Atur batas sumber daya

Setelah kluster Flink dimulai, Anda harus menggunakan cgroups untuk membatasi penggunaan CPU setiap proses Pengelola Tugas hingga 75%. Hal ini mencegah Pengelola Tugas kehilangan koneksi akibat timeout heartbeat yang disebabkan oleh konflik sumber daya.

Jalankan perintah berikut di semua node tempat Pengelola Tugas berjalan, termasuk node master:

yum install -y libcgroup libcgroup-tools
cgcreate -t root:root -a root:root -g cpu,memory:mygroup
echo 100000 > /sys/fs/cgroup/cpu/mygroup/cpu.cfs_period_us
echo 300000 > /sys/fs/cgroup/cpu/mygroup/cpu.cfs_quota_us
echo $((12 * 1024 * 1024 * 1024)) > /sys/fs/cgroup/memory/mygroup/memory.limit_in_bytes
jps | grep TaskManagerRunner | awk '{print $1}' | xargs cgclassify -g cpu,memory:mygroup

Di sini, cpu.cfs_quota_us / cpu.cfs_period_us = 300000 / 100000 = 3, artinya cgroup dapat menggunakan maksimal 3 core CPU (75% dari 4 vCPU).

Jalankan Nexmark

Di node master, jalankan perintah berikut dan tunggu hingga selesai untuk melihat hasilnya:

nexmark/bin/run_query.sh q0,q1,q2,q3,q4,q5,q7,q8,q9,q10,q11,q12,q14,q15,q16,q17,q18,q19,q20,q21,q22