All Products
Search
Document Center

Elastic Compute Service:Mempercepat aplikasi TCP dengan NetACC

Last Updated:Nov 04, 2026

NetACC adalah library user-mode yang mempercepat aplikasi TCP melalui eRDMA menggunakan antarmuka socket yang kompatibel, tanpa memerlukan perubahan kode.

Penting

NetACC saat ini berada dalam tahap pratinjau publik.

Kasus penggunaan

NetACC cocok untuk skenario dengan overhead jaringan tinggi.

  • Workload dengan paket per detik (PPS) tinggi, terutama traffic paket kecil. NetACC mengurangi overhead CPU dan meningkatkan throughput, misalnya saat Redis memproses permintaan.

  • Workload sensitif latensi: eRDMA memberikan latensi yang lebih rendah dibandingkan TCP, sehingga mempercepat respons jaringan.

  • Koneksi singkat yang sering: NetACC mempercepat pembentukan koneksi, mengurangi waktu pembuatan, dan meningkatkan performa.

Menginstal NetACC

  • Metode instalasi

    • Instal NetACC menggunakan driver eRDMA

      NetACC diinstal secara otomatis bersama driver eRDMA. Lihat Mengaktifkan eRDMA pada topik "Menggunakan eRDMA".

    • Instalasi terpisah

      Untuk menginstal versi spesifik NetACC atau menggunakannya sementara pada instans ECS, jalankan perintah berikut:

      sudo curl -fsSL https://netacc-release.oss-cn-hangzhou.aliyuncs.com/release/netacc_download_install.sh | sudo sh
  • File konfigurasi dan parameter yang dioptimalkan

    Setelah instalasi, file konfigurasi /etc/netacc.conf dibuat secara otomatis. Anda dapat menyesuaikan parameter berikut berdasarkan workload Anda:

    • NACC_SOR_MSG_SIZE: Ukuran buffer.

    • NACC_RDMA_MR_MIN_INC_SIZE: Ukuran Memory Region (MR) pertama yang didaftarkan oleh RDMA.

    • NACC_RDMA_MR_MAX_INC_SIZE: Ukuran MR maksimum yang didaftarkan oleh RDMA.

    • NACC_SOR_CONN_PER_QP: Jumlah koneksi per Queue Pair (QP).

    • NACC_SOR_IO_THREADS: Jumlah thread NetACC.

    Contoh berikut menunjukkan sampel file konfigurasi:

    Sampel file konfigurasi /etc/netacc.conf

    [netacc]
    # Ukuran buffer. Jika blok data yang akan dikirim berukuran besar, Anda dapat menambah ukurannya untuk meningkatkan performa atau menguranginya untuk menghemat memori. 
    # int
    NACC_SOR_MSG_SIZE=16384
    
    # Ukuran MR pertama yang didaftarkan oleh RDMA. Anda dapat mengurangi ukurannya untuk menghemat memori.
    # Tetapkan parameter ini ke nilai yang merupakan kelipatan pangkat N dari 2 terhadap nilai NACC_SOR_MSG_SIZE. Kelipatan minimum adalah 1.
    NACC_RDMA_MR_MIN_INC_SIZE=16384
    
    # Ukuran maksimum MR yang didaftarkan oleh RDMA, berkisar antara 1 MB hingga 512 MB. Anda dapat mengurangi ukurannya untuk menghemat memori.
    # Tetapkan parameter ini ke nilai yang merupakan kelipatan pangkat N dari 2 terhadap nilai NACC_RDMA_MR_MIN_INC_SIZE. Kelipatan minimum adalah 1.
    NACC_RDMA_MR_MAX_INC_SIZE=8388608
    
    # Jumlah koneksi per QP. Anda dapat menambah nilainya untuk meningkatkan performa. Dalam skenario tertentu, tetapkan parameter ini ke 1.
    # int
    NACC_SOR_CONN_PER_QP=1
    
    # Jumlah thread NetACC. Jika throughput tinggi, naikkan nilainya.
    # int
    NACC_SOR_IO_THREADS=1
    
    # Waktu kedaluwarsa QP kosong. Satuan: milidetik. Nilai 0 berarti QP kosong segera kedaluwarsa. Nilai -1 berarti QP kosong tidak pernah kedaluwarsa.
    NACC_EMPTY_QP_EXPIRE_MS=60000
    
    # Jumlah maksimum QP kosong yang diizinkan.
    NACC_EMPTY_QP_MAX_ALL=100
    
    # Jumlah maksimum QP kosong yang diizinkan untuk setiap alamat tujuan.
    NACC_EMPTY_QP_MAX_PER=10
    
    # Probabilitas penggunaan RDMA untuk membangun koneksi. Nilai yang valid: 0 hingga 100.
    NACC_CONNECT_RDMA_PERCENT=100
    
    # Menentukan apakah RDMA diaktifkan secara default.
    NACC_ENABLE_RDMA_DEFAULT=1
    
    # Tingkat log.
    # 0: TRACE
    # 1: DEBUG
    # 2: INFO
    # 3: WARN
    # 4: ERROR
    # 5: FATAL
    NACC_LOG_LEVEL=3
    
    # Path log.
    NACC_LOG_PATH="/tmp/netacc.log"
    
    # Parameter berikut jarang digunakan atau tidak perlu dikonfigurasi.
    
    # Afinitas thread.
    # string
    NACC_SOR_AFFINITY=""
    
    # Menentukan apakah akan menggunakan TCP secara prioritas untuk membangun koneksi.
    # bool
    NACC_CONN_TCP_FIRST=0

Gunakan NetACC

Gunakan NetACC dalam aplikasi dengan menjalankan perintah netacc_run atau mengatur Variabel lingkungan LD_PRELOAD. Baca bagian Catatan Penggunaan sebelum melanjutkan.

Menjalankan perintah netacc_run

netacc_run memuat NetACC saat startup aplikasi. Tambahkan awalan netacc_run pada perintah aplikasi Anda untuk memulai aplikasi dengan NetACC aktif.

netacc_run menerima parameter seperti -t (thread I/O) dan -p (koneksi per QP). Parameter yang ditentukan saat menjalankan perintah netacc_run akan menimpa pengaturan dalam file konfigurasi.

Parameter perintah netacc_run

netacc_run -h
Usage: netacc_run [ OPTIONS ] COMMAND

Run COMMAND using NetACC for TCP sockets

OPTIONS:
   -f <path>   set config file, default /etc/netacc.conf
   -p <num>    set max connections per QP, default 1
   -t <num>    set netacc io threads, default 4
   -s <num>    set netacc message size, default 16384
   -F <num>    fast connect mode, default 0
   -d          enable debug mode
   -T          use TCP first in connect
   -P <num>    polling cq time ms
   -A <str>    affinity CPU list, 0 | 1-3 | 1,3,4
   -i <num>    set cq comp_vector, default 0
   -h          display this message
   -v          display version info
  • Contoh:

    Contoh berikut menggunakan Redis. Tambahkan awalan netacc_run pada perintah Redis untuk memulai Redis dengan NetACC.

    • Mulai Redis dengan NetACC:

      netacc_run redis-server
    • Mulai redis-benchmark dengan NetACC:

      netacc_run redis-benchmark

Mengonfigurasi variabel lingkungan LD_PRELOAD

Variabel lingkungan LD_PRELOAD menentukan shared library yang dimuat sebelumnya saat startup program. Atur variabel LD_PRELOAD ke library NetACC untuk mengotomatiskan pemuatan.

  1. Cari lokasi dynamic library NetACC:

    ldconfig -p | grep netacc

    Contoh output:

    [ecs-user@i          ~]$ ldconfig -p | grep netacc
    libnetacc-preload.so (libc6,x86-64) => /lib64/libnetacc-preload.so
    libnetacc_cx.so (libc6,x86-64) => /lib64/libnetacc_cx.so
    [ecs-user@i          ~]$
  2. Atur Variabel lingkungan LD_PRELOAD ke shared library NetACC:

    LD_PRELOAD=/lib64/libnetacc-preload.so your_application

    Ganti your_application dengan aplikasi target.

    Contoh (Redis):

    • Mulai Redis dengan NetACC:

      LD_PRELOAD=/lib64/libnetacc-preload.so redis-server
    • Mulai redis-benchmark dengan NetACC:

      LD_PRELOAD=/lib64/libnetacc-preload.so redis-benchmark

    Mengonfigurasi Variabel lingkungan LD_PRELOAD dalam skrip

    Untuk memuat NetACC secara otomatis bagi aplikasi yang sering digunakan atau mengelola beberapa aplikasi dengan skrip, atur LD_PRELOAD dalam wrapper script. Misalnya, buat skrip bernama run_with_netacc.

    #!/bin/bash
    LD_PRELOAD=/lib64/libnetacc-preload.so $@

    Mulai aplikasi dengan NetACC:

    ./run_with_netacc.sh your_application

    Contoh (Redis):

    • Mulai Redis dengan NetACC:

      ./run_with_netacc.sh redis-server
    • Mulai redis-benchmark dengan NetACC:

      ./run_with_netacc.sh redis-benchmark

Memantau NetACC

netacc_ss adalah tool pemantauan NetACC. Jalankan perintah netacc_ss untuk memeriksa status transfer data proses TCP yang dipercepat oleh NetACC. Anda dapat menjalankannya di server maupun client.

Perintah netacc_ss

netacc_ss -h
Usage:
 netacc_ss: [-p] <pid> [options]...
 Show monitoring information of specified netacc process

Options:
 -c   clear unused sock file
 -h   display this help
 -s   display specified monitoring metric[s]. [all|cfg|cnt|mem|qp|sock]
      all: all monitoring information
      cfg: configuration information
      cnt: counter information[default]
      mem: memory information
      qp : queue pair information
      sock: socket information
 -v   display netacc version

Examples:
 netacc_ss -p 12345 -s mem,cnt

Kueri status transfer data proses TCP yang dipercepat NetACC:

netacc_ss -s all -p <Process ID>
Catatan

Untuk mencari ID proses, jalankan ps -ef | grep <Process name>.

Catatan penggunaan

  • Hanya koneksi TCP yang dibangun melalui ENI dengan fitur eRDMA Interface (ERI) aktif yang dikonversi menjadi koneksi RDMA. Koneksi lainnya tetap menggunakan TCP.

    Catatan

    Jika tidak ada ujung komunikasi yang memiliki ENI dengan ERI aktif, NetACC akan kembali menggunakan TCP.

  • Deskriptor file socket RDMA tidak dapat dikirim ke proses lain melalui IPC kernel.

    Catatan

    Koneksi RDMA terikat pada QP spesifik yang tidak dapat dibagikan antarproses.

  • NetACC tidak mendukung IPv6. Untuk mencegah konflik, nonaktifkan IPv6 dengan menjalankan sysctl net.ipv6.conf.all.disable_ipv6=1.

  • NetACC tidak mendukung pembaruan hot update. Hentikan semua proses yang dipercepat NetACC sebelum memperbarui NetACC.

  • NetACC tidak mendukung opsi socket TCP tertentu, seperti SO_REUSEPORT, SO_ZEROCOPY, dan TCP_INQ.

  • NetACC bergantung pada glibc dan tidak dapat berjalan di lingkungan non-glibc, seperti Golang.

  • Sebelum menggunakan NetACC, atur memori yang dapat dikunci maksimum ke unlimited dengan menjalankan ulimit -l unlimited.

    Catatan

    Jika nilai ulimit -l terlalu kecil, RDMA mungkin gagal mendaftarkan MR yang melebihi batas.

  • Saat aplikasi yang dipercepat NetACC mendengarkan pada Port TCP, NetACC juga mendengarkan pada Port RDMA (Port TCP + 20.000) untuk transfer data RDMA.

    Catatan

    Jika Port RDMA terpakai atau berada di luar rentang yang valid, koneksi akan gagal. Alokasikan Port dengan benar untuk menghindari konflik.

  • Proses anak tidak mewarisi koneksi socket yang dibangun oleh proses induk setelah panggilan fork().

    Catatan

    Proses anak harus membangun koneksi socket baru.

  • Penggunaan ulang QP dinonaktifkan secara default.

    • Untuk mengaktifkan penggunaan ulang QP, atur koneksi per QP (-p) ke nilai lebih besar dari 1 melalui parameter NACC_SOR_CONN_PER_QP dalam file konfigurasi NetACC atau perintah netacc_run.

    • Penggunaan ulang QP mengurangi jumlah QP, overhead manajemen, dan konsumsi resource, sehingga meningkatkan efisiensi komunikasi dalam skenario konkurensi tinggi.

    • Dengan penggunaan ulang QP yang diaktifkan, beberapa koneksi RDMA mungkin berbagi nomor Port lokal karena nomor Port mengidentifikasi QP, bukan koneksi individual.

      Catatan

      Jika aplikasi Anda memerlukan nomor Port lokal yang berbeda (misalnya, untuk layanan yang berbeda), nonaktifkan penggunaan ulang QP untuk menghindari konflik Port.

Menggunakan NetACC dalam aplikasi Redis

Manfaat NetACC untuk aplikasi Redis

  • Peningkatan throughput sistem

    NetACC mengurangi overhead CPU dan meningkatkan throughput untuk workload Redis dengan PPS tinggi.

  • Respons jaringan yang lebih cepat

    NetACC memanfaatkan latensi rendah eRDMA untuk mempercepat respons jaringan Redis.

NetACC dalam benchmark performa Redis

Redis-benchmark adalah utilitas bawaan Redis yang mengukur performa server dengan mensimulasikan permintaan client bersamaan.

Skenario pengujian

Gunakan NetACC dengan redis-benchmark untuk mensimulasikan 100 client dalam 4 thread yang mengirimkan 5 juta permintaan SET.

Parameter umum yang digunakan bersama perintah redis-server

Perintah redis-server memulai server Redis. Jalankan redis-server -h untuk melihat parameter yang tersedia. Contoh:

redis-server --port 6379 --protected-mode no
  • --port 6379: Port untuk memulai Redis. Default: 6379.

  • --protected-mode no: Menonaktifkan protected mode. Saat protected mode aktif, Redis hanya menerima koneksi dari localhost (127.0.0.1) dan menolak koneksi eksternal. Mengatur ini ke no memungkinkan koneksi dari semua Alamat IP.

    Penting

    Menonaktifkan protected mode di lingkungan produksi mengekspos server terhadap risiko keamanan. Berhati-hatilah di lingkungan jaringan terbuka.

Parameter perintah umum yang digunakan bersama redis-benchmark

redis-benchmark adalah tool uji stres Redis yang mensimulasikan beberapa client yang mengirimkan permintaan. Jalankan redis-benchmark --help untuk melihat parameter yang tersedia. Contoh:

redis-benchmark -h 172.17.0.90 -p 6379 -c 100 -n 5000000 -r 10000 --threads 4 -d 512 -t set
  • -h 172.17.0.90: Hostname atau Alamat IP server Redis. Dalam contoh ini, diatur ke 172.17.0.90.

  • -p 6379: Port Redis. Default: 6379.

    Catatan

    Untuk memeriksa Port Redis, jalankan sudo grep "^port" /<Path tempat file redis.conf disimpan>/redis.conf. Secara default, redis.conf berada di /etc/redis.conf.

  • -c 100: Jumlah koneksi bersamaan.

  • -n 5000000: Jumlah total permintaan.

  • -r 10000: Rentang kunci acak. Perintah SET menggunakan bilangan bulat acak dari 0 hingga 9.999 sebagai bagian dari kunci.

  • --threads 4: Jumlah thread. Secara default, redis-benchmark menggunakan satu thread.

  • -d 512: Ukuran data per permintaan SET dalam byte.

  • -t set: Hanya menjalankan pengujian yang ditentukan. -t diikuti dengan nama perintah yang akan di-benchmark. Di sini set hanya melakukan benchmark pada perintah SET.

Perintah ini menggunakan 4 thread untuk membangun 100 koneksi bersamaan ke server Redis di 172.17.0.90 dan mengirimkan 5 juta permintaan SET dengan muatan 512 byte menggunakan kunci acak dari 0 hingga 9.999.

Metrik umum dalam hasil benchmark redis-benchmark

  • Ringkasan throughput:

    rps: Permintaan yang diproses server Redis per detik. Misalnya, 332933.81 requests per second berarti ~332.934 permintaan/detik.

  • Ringkasan latensi (satuan: milidetik):

    • avg: Waktu respons rata-rata di semua permintaan.

    • min: Waktu respons minimum di semua permintaan.

    • p50: 50% permintaan selesai dalam latensi ini.

    • p95: 95% permintaan selesai dalam latensi ini.

    • p99: 99% permintaan selesai dalam latensi ini.

    • max: Waktu respons maksimum di semua permintaan.

Prasyarat

Buat dua instans ECS yang mendukung eRDMA. Pilih Auto-install eRDMA Driver dan eRDMA Interface untuk mengaktifkan ERI pada ENI primer. Gunakan satu instans sebagai server Redis dan yang lainnya sebagai client.

Konfigurasi instans:

  • Image: Alibaba Cloud Linux 3

  • Tipe instans: ecs.g8ae.4xlarge

  • Alamat IP pribadi ENI primer: 172.17.0.90 (server) dan 172.17.0.91 (client). Ganti dengan nilai aktual dalam benchmark Anda.

    Catatan
    • Benchmark ini mengaktifkan ERI pada ENI primer. 172.17.0.90 adalah Alamat IP pribadi ENI primer dari instans server Redis.

    • Jika ERI diaktifkan pada ENI sekunder, gunakan Alamat IP pribadinya. Lihat Mengaktifkan eRDMA pada topik "Menggunakan eRDMA".

Contoh cara mengonfigurasi parameter spesifik selama pembuatan instans ECS

Perhatikan parameter berikut saat membuat instans. Untuk parameter lainnya, lihat Meluncurkan instans ECS secara kustom.

  • Instances & Images: Pilih Tipe instans yang mendukung eRDMA dan instal driver eRDMA.

    • Instance: Lihat Batasan.

    • Images: Pilih Public Image lalu pilih Install eRDMA Driver. Driver eRDMA akan diinstal secara otomatis saat instans dimulai.

  • ENIs: Di sebelah kanan Primary ENI, aktifkan fitur ERI untuk mengikat ERI ke instans ECS.

    Catatan

    Saat membuat instans level enterprise, Anda hanya dapat mengaktifkan fitur ERI untuk ENI primer. Jika Anda perlu mengonfigurasi eRDMA untuk ENI sekunder, Anda dapat mengaktifkan fitur ERI untuk ENI sekunder di Konsol atau dengan memanggil Operasi API. Untuk informasi selengkapnya, lihat Antarmuka jaringan Elastic RDMA (ERI).

Prosedur

  1. Hubungkan kedua instans ECS (server dan client Redis).

    Lihat Menggunakan Workbench untuk login ke instans Linux melalui SSH.

  2. Verifikasi bahwa driver eRDMA telah terinstal.

    Setelah instans dimulai, jalankan ibv_devinfo untuk memeriksa status driver eRDMA.

    • Output berikut menunjukkan driver telah terinstal.

      [root@redis-server ~]# ibv_devinfo
      hca_id: erdma_0
      	transport:			eRDMA (1)
      	fw_ver:				0.2.0
      	node_guid:			0216:3eff:fe10:d924
      	sys_image_guid:			0216:3eff:fe10:d924
      	vendor_id:			0x1ded
      	vendor_part_id:			4223
      	hw_ver:				0x0
      	phys_port_cnt:			1
      		port:	1
      			state:			PORT_ACTIVE (4)
      			max_mtu:		1024 (3)
      			active_mtu:		1024 (3)
      			sm_lid:			0
      			port_lid:		0
      			port_lmc:		0x00
      			link_layer:		Ethernet
      
      [root@redis-server ~]#
    • Output berikut menunjukkan driver sedang diinstal. Tunggu beberapa menit dan coba lagi.

      [root@ixxxxxxxxxxxxx Z ~]# ibv_deninfo
      -bash: ibv_deninfo: command not found
  3. Instal Redis di kedua instans:

    sudo yum install -y redis

    Output berikut menunjukkan Redis telah terinstal.

    [root@redis-server ~]# sudo yum install -y redis
    Last metadata expiration check: 0:06:35 ago on Tue 03 Sep 2024 10:50:07 AM CST.
    Dependencies resolved.
    ================================================================================
     Package          Architecture       Version              Repository       Size
    ================================================================================
    Installing:
     redis            x86_64             6.2.7-1.0.2.al8      alinux3-updates  1.2 M
    
    Transaction Summary
    ================================================================================
    Install  1 Package
    
    Total download size: 1.2 M
    Installed size: 4.3 M
    Downloading Packages:
    redis-6.2.7-1.0.2.al8.x86_64.rpm                    15 MB/s | 1.2 MB     00:00
    --------------------------------------------------------------------------------
    Total                                                15 MB/s | 1.2 MB     00:00
    Running transaction check
    Transaction check succeeded.
    Running transaction test
    Transaction test succeeded.
    Running transaction
      Preparing        :                                                        1/1
      Running scriptlet: redis-6.2.7-1.0.2.al8.x86_64                           1/1
      Installing       : redis-6.2.7-1.0.2.al8.x86_64                           1/1
      Running scriptlet: redis-6.2.7-1.0.2.al8.x86_64                           1/1
      Verifying        : redis-6.2.7-1.0.2.al8.x86_64                           1/1
    
    Installed:
      redis-6.2.7-1.0.2.al8.x86_64
    
    Complete!
    [root@redis-server ~]#
  4. Lakukan benchmark performa Redis dengan redis-benchmark.

    Melakukan benchmark menggunakan NetACC
    1. Pada instans server Redis, mulai Redis dengan NetACC:

      netacc_run redis-server --port 6379 --protected-mode no
      Catatan

      Output berikut menunjukkan Redis berhasil dimulai.

      [root@redis-server ~]# netacc_run redis-server --port 6379 --protected-mode no
      114379:C 03 Sep 2024 10:59:24.477 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
      114379:C 03 Sep 2024 10:59:24.477 # Redis version=6.2.7, bits=64, commit=00000000, modified=0, pid=114379, just started
      114379:C 03 Sep 2024 10:59:24.477 # Configuration loaded
      114379:M 03 Sep 2024 10:59:24.478 * monotonic clock: POSIX clock_gettime
      114379:M 03 Sep 2024 10:59:24.479 # A key '__redis__compare_helper' was added to Lua globals which is not on the globals allow list nor listed on the deny list.
      
                      Redis 6.2.7 (00000000/0) 64 bit
      
                      Running in standalone mode
                      Port: 6379
                      PID: 114379
      
                      https://redis.io
      
      114379:M 03 Sep 2024 10:59:24.479 # Server initialized
      114379:M 03 Sep 2024 10:59:24.479 # WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.
      114379:M 03 Sep 2024 10:59:24.479 * Ready to accept connections
    2. Pada instans client Redis, mulai redis-benchmark dengan NetACC:

       netacc_run redis-benchmark -h 172.17.0.90 -p 6379 -c 100 -n 5000000 -r 10000 --threads 4 -d 512 -t set
      Catatan

      Sampel hasil benchmark Redis

      ====== SET ======                                                      
        5000000 requests completed in 6.52 seconds
        100 parallel clients
        512 bytes payload
        keep alive: 1
        host configuration "save": 3600 1 300 100 60 10000
        host configuration "appendonly": no
        multi-thread: yes
        threads: 4
      
      Latency by percentile distribution:
      0.000% <= 0.039 milliseconds (cumulative count 3)
      50.000% <= 0.127 milliseconds (cumulative count 2677326)
      75.000% <= 0.143 milliseconds (cumulative count 3873096)
      87.500% <= 0.151 milliseconds (cumulative count 4437348)
      93.750% <= 0.159 milliseconds (cumulative count 4715347)
      96.875% <= 0.175 milliseconds (cumulative count 4890339)
      98.438% <= 0.183 milliseconds (cumulative count 4967042)
      99.609% <= 0.191 milliseconds (cumulative count 4991789)
      99.902% <= 0.207 milliseconds (cumulative count 4995847)
      99.951% <= 0.263 milliseconds (cumulative count 4997733)
      99.976% <= 0.303 milliseconds (cumulative count 4998853)
      99.988% <= 0.343 milliseconds (cumulative count 4999403)
      99.994% <= 0.367 milliseconds (cumulative count 4999704)
      99.997% <= 0.391 milliseconds (cumulative count 4999849)
      99.998% <= 2.407 milliseconds (cumulative count 4999924)
      99.999% <= 5.407 milliseconds (cumulative count 4999962)
      100.000% <= 6.847 milliseconds (cumulative count 4999981)
      100.000% <= 8.423 milliseconds (cumulative count 4999991)
      100.000% <= 8.919 milliseconds (cumulative count 4999996)
      100.000% <= 9.271 milliseconds (cumulative count 4999998)
      100.000% <= 9.471 milliseconds (cumulative count 4999999)
      100.000% <= 9.583 milliseconds (cumulative count 5000000)
      100.000% <= 9.583 milliseconds (cumulative count 5000000)
      
      Cumulative distribution of latencies:
      18.820% <= 0.103 milliseconds (cumulative count 941003)
      99.917% <= 0.207 milliseconds (cumulative count 4995847)
      99.977% <= 0.303 milliseconds (cumulative count 4998853)
      99.998% <= 0.407 milliseconds (cumulative count 4999879)
      99.998% <= 0.503 milliseconds (cumulative count 4999903)
      99.998% <= 0.703 milliseconds (cumulative count 4999904)
      99.998% <= 0.807 milliseconds (cumulative count 4999905)
      99.998% <= 0.903 milliseconds (cumulative count 4999906)
      99.998% <= 1.007 milliseconds (cumulative count 4999908)
      99.998% <= 1.103 milliseconds (cumulative count 4999909)
      99.998% <= 1.207 milliseconds (cumulative count 4999912)
      99.998% <= 1.407 milliseconds (cumulative count 4999913)
      99.998% <= 1.503 milliseconds (cumulative count 4999915)
      99.998% <= 1.607 milliseconds (cumulative count 4999916)
      99.998% <= 1.703 milliseconds (cumulative count 4999917)
      99.998% <= 1.807 milliseconds (cumulative count 4999918)
      99.998% <= 1.903 milliseconds (cumulative count 4999919)
      99.998% <= 2.103 milliseconds (cumulative count 4999920)
      99.999% <= 3.103 milliseconds (cumulative count 4999931)
      99.999% <= 4.103 milliseconds (cumulative count 4999944)
      99.999% <= 5.103 milliseconds (cumulative count 4999958)
      99.999% <= 6.103 milliseconds (cumulative count 4999971)
      100.000% <= 7.103 milliseconds (cumulative count 4999984)
      100.000% <= 8.103 milliseconds (cumulative count 4999989)
      100.000% <= 9.103 milliseconds (cumulative count 4999996)
      100.000% <= 10.103 milliseconds (cumulative count 5000000)
      
      Summary:
        throughput summary: 767341.94 requests per second
        latency summary (msec):
                avg       min       p50       p95       p99       max
              0.126     0.032     0.127     0.167     0.183     9.583

      Ringkasan menunjukkan ~770.000 permintaan/detik. Untuk detail metrik, lihat Metrik umum dalam hasil benchmark redis-benchmark.

    Gunakan netacc_ss untuk memantau server Redis selama benchmark

    Selama benchmark, gunakan netacc_ss pada instans server Redis untuk memantaunya.

    • Cari ID proses Redis (redis-server):

      ps -ef | grep redis-server

      Output berikut menunjukkan ID proses redis-server adalah 114379.

      [root@redis-server ~]# ps -ef | grep redis-server
      root    114379  51259  8 10:59 pts/0    00:00:09 redis-server *:6379
      root    114628  114601  0 11:01 pts/2    00:00:00 grep --color=auto redis-server
      [root@redis-server ~]#
    • Kueri status koneksi dan transfer data Redis:

      netacc_ss -p 114379 -s all
      Catatan

      Ganti 114379 dengan ID proses Redis yang sebenarnya. Lihat Perintah netacc_ss.

      Output menunjukkan koneksi RDMA karena ERI diaktifkan pada kedua instans. Empat kolom paling kanan menunjukkan jumlah dan volume pesan.

      [root@redis-server ~]# netacc_ss -p 114379 -s all
      ************ messages below from process 114379 ************
      [NACC_AUTO_BIND] = [1]
      [NACC_CONNECT_RDMA_PERCENT] = [100]
      [NACC_CONN_TCP_FIRST] = [0]
      [NACC_CQ_COMP_VECTOR] = [-1]
      [NACC_CQ_FLUSH_BACH_SIZE] = [64]
      [NACC_DIS_MONITOR] = [0]
      [NACC_EMPTY_QP_EXPIRE_MS] = [60000]
      [NACC_EMPTY_QP_MAX_ALL] = [100]
      [NACC_EMPTY_QP_MAX_PER_GROUP] = [10]
      [NACC_ENABLE_RDMA_DEFAULT] = [1]
      [NACC_FAST_CONN_MODE] = [0]
      [NACC_INIT_MODE] = [0]
      [NACC_LOG_LEVEL] = [3]
      [NACC_LOG_TO_STDERR] = [0]
      [NACC_MEM_SIZE_FALLBACK_MB] = [-1]
      [NACC_POLLING_TIME_US] = [0]
      [NACC_RDMA_FORK_SAFE] = [1]
      [NACC_RDMA_MAX_INLINE_SIZE] = [64]
      [NACC_RDMA_MAX_QP_WR] = [32]
      [NACC_RDMA_MR_MAX_INC_SIZE] = [8388608]
      [NACC_RDMA_MR_MIN_INC_SIZE] = [524288]
      [NACC_SINGLE_THREAD_MODE] = [0]
      [NACC_SOR_CONN_PER_QP] = [1]
      [NACC_SOR_IO_THREADS] = [1]
      [NACC_SOR_MSG_SIZE] = [16384]
      [NACC_SOR_WR_PER_CONN] = [32]
      [NACC_ALLOW_CONNECT_PORTS] = []
      [NACC_ALLOW_LISTEN_PORTS] = []
      [NACC_LOG_PATH] = [/tmp/netacc.log]
      [NACC_SOR_AFFINITY] = []
      GIT_COMMIT_HASH = bdc5dbec27bc0f1670121b379c0d7300b1bd8887
      
      type    fd    state    qp-id    local-address        peer-address          pid      conn-id  send_buffers    recv_messages            recv_bytes    send_messages    send_bytes
      socket  223   10       200      172.17.0.90:26379    172.17.0.91:54509     114379   0        0               13055       7258580      13055        65275
      socket  221   10       199      172.17.0.90:26379    172.17.0.91:55931     114379   0        0               13060       7261360      13060        65300
      socket  219   10       198      172.17.0.90:26379    172.17.0.91:40734     114379   0        0               13056       7259136      13056        65280
      socket  217   10       197      172.17.0.90:26379    172.17.0.91:56005     114379   0        0               13065       7264140      13065        65325
      socket  215   10       196      172.17.0.90:26379    172.17.0.91:37587     114379   0        0               13058       7260248      13058        65290
      socket  213   10       195      172.17.0.90:26379    172.17.0.91:56468     114379   0        0               13062       7262472      13062        65310
      socket  211   10       194      172.17.0.90:26379    172.17.0.91:53755     114379   0        0               13055       7258580      13055        65275
    Melakukan benchmark tanpa NetACC
    1. Pada instans server Redis, mulai Redis:

      redis-server --port 6379 --protected-mode no --save
      Catatan

      Ganti 6379 dengan Port aktual Anda. Lihat Parameter umum yang digunakan bersama perintah redis-server.

      Output berikut menunjukkan Redis berhasil dimulai.

      [root@redis-server ~]# redis-server --port 6379 --protected-mode no --save
      114198:C 03 Sep 2024 10:57:28.957 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
      114198:C 03 Sep 2024 10:57:28.957 # Redis version=6.2.7, bits=64, commit=00000000, modified=0, pid=114198, just started
      114198:C 03 Sep 2024 10:57:28.957 # Configuration loaded
      114198:M 03 Sep 2024 10:57:28.958 * monotonic clock: POSIX clock_gettime
      114198:M 03 Sep 2024 10:57:28.958 # A key '__redis__compare_helper' was added to Lua globals which is not on the globals allow list nor listed on the deny list.
      
                      Redis 6.2.7 (00000000/0) 64 bit
                      Running in standalone mode
                      Port: 6379
                      PID: 114198
      
                      https://redis.io
      
      114198:M 03 Sep 2024 10:57:28.958 # Server initialized
      114198:M 03 Sep 2024 10:57:28.958 # WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.
      114198:M 03 Sep 2024 10:57:28.958 * Ready to accept connections
    2. Pada instans client Redis, mulai redis-benchmark:

       redis-benchmark -h 172.17.0.90 -c 100 -n 5000000 -r 10000 --threads 4 -d 512 -t set
      Catatan

      Sampel hasil benchmark Redis

      ====== SET ======                                                         
        5000000 requests completed in 15.02 seconds
        100 parallel clients
        512 bytes payload
        keep alive: 1
        host configuration "save": 
        host configuration "appendonly": no
        multi-thread: yes
        threads: 4
      
      Latency by percentile distribution:
      0.000% <= 0.055 milliseconds (cumulative count 27)
      50.000% <= 0.287 milliseconds (cumulative count 2635010)
      75.000% <= 0.335 milliseconds (cumulative count 3782931)
      87.500% <= 0.367 milliseconds (cumulative count 4459136)
      93.750% <= 0.391 milliseconds (cumulative count 4720397)
      96.875% <= 0.415 milliseconds (cumulative count 4855130)
      98.438% <= 0.439 milliseconds (cumulative count 4936478)
      99.219% <= 0.455 milliseconds (cumulative count 4965765)
      99.609% <= 0.471 milliseconds (cumulative count 4984031)
      99.805% <= 0.487 milliseconds (cumulative count 4993326)
      99.902% <= 0.495 milliseconds (cumulative count 4995579)
      99.951% <= 0.511 milliseconds (cumulative count 4997659)
      99.976% <= 0.551 milliseconds (cumulative count 4998848)
      99.988% <= 0.599 milliseconds (cumulative count 4999468)
      99.994% <= 0.631 milliseconds (cumulative count 4999722)
      99.997% <= 0.663 milliseconds (cumulative count 4999862)
      99.998% <= 0.695 milliseconds (cumulative count 4999924)
      99.999% <= 0.759 milliseconds (cumulative count 4999964)
      100.000% <= 0.807 milliseconds (cumulative count 4999982)
      100.000% <= 1.935 milliseconds (cumulative count 4999993)
      100.000% <= 2.071 milliseconds (cumulative count 4999996)
      100.000% <= 2.111 milliseconds (cumulative count 4999998)
      100.000% <= 2.119 milliseconds (cumulative count 4999999)
      100.000% <= 2.143 milliseconds (cumulative count 5000000)
      100.000% <= 2.143 milliseconds (cumulative count 5000000)
      
      Cumulative distribution of latencies:
      0.028% <= 0.103 milliseconds (cumulative count 1377)
      0.985% <= 0.207 milliseconds (cumulative count 49228)
      60.094% <= 0.303 milliseconds (cumulative count 3004705)
      96.325% <= 0.407 milliseconds (cumulative count 4816230)
      99.938% <= 0.503 milliseconds (cumulative count 4996887)
      99.991% <= 0.607 milliseconds (cumulative count 4999546)
      99.999% <= 0.703 milliseconds (cumulative count 4999927)
      100.000% <= 0.807 milliseconds (cumulative count 4999982)
      100.000% <= 0.903 milliseconds (cumulative count 4999987)
      100.000% <= 1.903 milliseconds (cumulative count 4999990)
      100.000% <= 2.007 milliseconds (cumulative count 4999995)
      100.000% <= 2.103 milliseconds (cumulative count 4999997)
      100.000% <= 3.103 milliseconds (cumulative count 5000000)
      
      Summary:
        throughput summary: 332955.97 requests per second
        latency summary (msec):
                avg       min       p50       p95       p99       max
              0.292     0.048     0.287     0.399     0.447     2.143

      Ringkasan menunjukkan ~330.000 permintaan/detik. Untuk detail metrik, lihat Metrik umum dalam hasil benchmark redis-benchmark.