All Products
Search

This Product

    Elastic Compute Service:eRDMA

    Document Center

    Elastic Compute Service:eRDMA

    Last Updated:Aug 21, 2026

    Dibandingkan dengan Remote Direct Memory Access (RDMA) tradisional, elastic RDMA (eRDMA) dapat digunakan dalam berbagai skenario, seperti cache database berbasis Redis, analitik data besar berbasis Spark, Weather Research and Forecasting Model (WRF) dalam komputasi berkinerja tinggi (HPC), serta pelatihan AI. Anda dapat menggunakan eRDMA untuk menerapkan aplikasi HPC di cloud guna membangun klaster aplikasi berkinerja tinggi yang elastis dan berbiaya rendah. Selain itu, Anda juga dapat mengganti VPC dengan jaringan eRDMA untuk mempercepat aplikasi.

    Apa itu eRDMA?

    eRDMA adalah jaringan Remote Direct Memory Access (RDMA) elastis yang dikembangkan oleh Alibaba Cloud untuk lingkungan cloud. eRDMA menggunakan kembali virtual private cloud (VPC) sebagai tautan dasar dan menerapkan algoritma congestion control (CC) yang dikembangkan oleh Alibaba Cloud. Berdasarkan dukungan RDMA, eRDMA menawarkan throughput tinggi dan latensi rendah. Dibandingkan dengan RDMA konvensional, eRDMA memungkinkan penerapan jaringan RDMA berskala besar dalam hitungan detik. eRDMA mendukung aplikasi HPC tradisional, aplikasi AI, serta aplikasi berbasis Transmission Control Protocol/Internet Protocol (TCP/IP).

    Mengapa eRDMA?

    Tumpukan protokol TCP/IP menyediakan protokol komunikasi jaringan utama yang menjadi dasar banyak aplikasi. Seiring perkembangan bisnis terkait pusat data, persyaratan terhadap kinerja jaringan—seperti latensi lebih rendah dan throughput lebih tinggi—menjadi semakin ketat. Namun, TCP/IP kini menjadi hambatan yang membatasi kinerja jaringan karena keterbatasannya, seperti overhead copy yang tinggi, pemrosesan lintas tumpukan protokol, algoritma CC yang kompleks, serta switching konteks yang sering terjadi.

    RDMA membantu mengatasi permasalahan tersebut dengan menyediakan fitur seperti zero-copy dan kernel bypass untuk menghindari overhead akibat penyalinan data dan switching konteks yang berulang. Dibandingkan dengan komunikasi TCP/IP, RDMA menawarkan latensi rendah, throughput tinggi, dan pemanfaatan CPU yang efisien. Namun, adopsi RDMA terbatas karena biaya perangkat keras yang tinggi serta biaya operasional dan pemeliharaan (O&M) yang mahal.

    eRDMA dari Alibaba Cloud dirancang agar kompatibel secara inklusif dengan berbagai lingkungan cloud. eRDMA menyediakan latensi rendah dan menurunkan ambang adaptasi bagi berbagai aplikasi untuk beroperasi di lingkungan cloud guna meningkatkan kinerjanya.

    Manfaat eRDMA

    • Kinerja tinggi

      RDMA melewati stack kernel untuk mentransfer data langsung dari program mode pengguna ke Host Channel Adapter (HCA) guna transmisi jaringan. Pendekatan ini secara signifikan mengurangi beban CPU dan latensi. eRDMA memadukan keunggulan antarmuka RDMA tradisional dengan penerapan RDMA pada VPC, sehingga menyediakan latensi ultra-rendah khas RDMA di lingkungan cloud.

      Catatan

      HCA adalah kartu antarmuka jaringan hardware (NIC) yang menghubungkan server ke jaringan dan menyediakan dukungan untuk RDMA.

      eRDMA mendukung komunikasi lintas zona. Namun, dalam skenario lintas zona, latensi jaringan meningkat signifikan hingga setara dengan VPC. Jika beban kerja Anda memerlukan jaringan berlatensi rendah dengan konsistensi kuat, hindari penerapan lintas zona.

    • Inklusivitas

      Anda dapat mengaktifkan eRDMA secara gratis. Cukup pilih opsi Elastic RDMA Interface saat membeli instance ECS.

    • Penerapan berskala besar

      RDMA tradisional bergantung pada jaringan lossless, sehingga penerapannya berskala besar menjadi mahal dan kompleks. eRDMA menggunakan algoritma CC yang dikembangkan oleh Alibaba Cloud untuk mengontrol kualitas transmisi di VPC, termasuk latensi dan kehilangan paket. Dengan demikian, eRDMA tetap memberikan kinerja optimal bahkan di jaringan lossy.

    • Skalabilitas

      Berbeda dengan RDMA konvensional yang memerlukan NIC hardware terpisah, eRDMA memanfaatkan kartu RDMA HCA berbasis arsitektur Shenlong yang memiliki atribut cloud-native. eRDMA memungkinkan penambahan perangkat secara dinamis saat menggunakan ECS dan mendukung migrasi panas, sehingga memungkinkan penerapan yang fleksibel.

    • VPC bersama

      eRDMA bergantung pada elastic network interfaces (ENIs) dan menggunakan kembali jaringan tempat ENIs berada. Hal ini memungkinkan Anda mengaktifkan fitur RDMA di jaringan yang sudah ada tanpa perlu memodifikasi infrastruktur jaringan layanan.

    Implementasikan komunikasi eRDMA

    • Aktifkan eRDMA untuk instance Elastic Compute Service (ECS): Alibaba Cloud menyediakan opsi konfigurasi yang fleksibel dan mudah untuk segera mengonfigurasi eRDMA pada instance ECS, mengaktifkan fitur RDMA di VPC, serta membuat koneksi RDMA untuk komunikasi. Untuk mengaktifkan eRDMA pada instance ECS, Anda harus memilih tipe instans yang mendukung eRDMA, menginstal driver eRDMA pada instans tersebut, dan mengikat elastic RDMA interfaces (ERIs) ke instans tersebut. Untuk informasi selengkapnya, lihat Aktifkan eRDMA pada instance ECS.

    • Adaptasi cepat aplikasi ke eRDMA: Jika Anda ingin menerapkan dan mengonfigurasi logika terkait RDMA dalam aplikasi Anda untuk memenuhi persyaratan latensi rendah, bandwidth tinggi, dan pemanfaatan CPU rendah, Anda dapat menggunakan Network Accelerator (NetACC) atau Server Migration Center (SMC) untuk mengadaptasi aplikasi Anda. Untuk informasi selengkapnya, lihat Adaptasi eRDMA dan aplikasi.

    Kemampuan dasar dan spesifikasi eRDMA

    Dalam komunikasi jaringan RDMA, Queue Pair (QP), Completion Queue (CQ), Memory Region (MR), dan verbs Opcode merupakan komponen inti. Komponen-komponen ini memainkan peran penting dalam komunikasi RDMA dan menjamin efisiensi tinggi serta latensi rendah.

    Bagian ini menjelaskan spesifikasi eRDMA. Pastikan persyaratan spesifikasi layanan terpenuhi saat menggunakan eRDMA; jika tidak, aplikasi Anda mungkin tidak berfungsi sebagaimana mestinya.

    QP

    QP adalah entitas komunikasi dasar dalam RDMA, terdiri dari Send Queue (SQ) dan Receive Queue (RQ), serta digunakan untuk mengelola data yang dikirim dan diterima.

    • Fitur: QP memungkinkan aplikasi mengirim dan menerima data, serta merupakan inti dari komunikasi RDMA. Mesin keadaan QP mengelola status koneksi mulai dari inisialisasi hingga terminasi.

    • Spesifikasi QP eRDMA:

      Item

      Spesifikasi

      Deskripsi

      Metode pembentukan koneksi

      RDMA_CM

      • RDMA_CM digunakan untuk mengelola pembentukan, maintenance, dan penutupan koneksi RDMA. RDMA_CM menyederhanakan proses manajemen koneksi RDMA dan mempermudah aplikasi dalam menggunakan fitur RDMA. RDMA_CM umum digunakan dalam skenario seperti Message Passing Interface (MPI), Shared Memory Communications over Remote Direct Memory Access (SMC-R), dan PolarDB SCC. Untuk informasi selengkapnya, lihat Linux rdma_cm.

        Penting

        Secara default, keluarga instans berbasis CPU yang mendukung eRDMA menginstal driver eRDMA mode kernel dalam mode Standard. Dalam mode ini, hanya metode pembentukan koneksi RDMA_CM yang didukung.

      • eRDMA menyediakan mode Compat untuk aplikasi dalam skenario out-of-band (OOB), seperti TensorFlow, NVIDIA Collective Communications Library (NCCL), dan better Remote Procedure Call (bRPC).

        Penting

      Tipe QP

      RC

      QP tipe RC menyediakan layanan koneksi andal. QP tipe RC mendukung operasi send, operasi RDMA write, operasi RDMA read, dan operasi atomik.

      Shared Receive Queue (SRQ)

      Tidak didukung.

      Tidak ada.

      Jumlah maksimum QP (max_qp_num)

      Parameter ini bervariasi berdasarkan keluarga instans. Hingga 131.071 QP dapat dibuat.

      • Jumlah maksimum QP yang dapat dibuat pada perangkat RDMA atau antarmuka jaringan.

      • Parameter ini menentukan jumlah maksimum koneksi bersamaan yang dapat dibuat dalam jaringan RDMA, yang memengaruhi skalabilitas dan kemampuan pemrosesan bersamaan jaringan.

      Kedalaman maksimum Work Request (WR) kirim (max_send_wr)

      8.192

      • Jumlah maksimum work request pada antrian kirim QP.

      • Parameter ini menentukan jumlah operasi transmisi yang dapat diinisiasi QP secara bersamaan, yang memengaruhi kinerja transmisi dan throughput QP.

      Kedalaman maksimum WR terima (max_recv_wr)

      32.768

      • Jumlah maksimum work request dalam antrian terima QP.

      • Parameter ini menentukan jumlah operasi penerimaan yang dapat ditangani QP secara bersamaan, yang memengaruhi kinerja penerimaan dan throughput QP.

      Jumlah maksimum SGE dalam WR kirim (max_send_sge)

      Catatan

      6

      • Jumlah maksimum scatter-gather elements (SGEs) dalam WR kirim.

      • Parameter ini menentukan jumlah maksimum segmen memori yang dapat ditangani QP dalam satu operasi kirim, yang memengaruhi efisiensi dan fleksibilitas transfer data.

      Jumlah maksimum SGE dalam WR terima (max_recv_sge)

      1

      • Jumlah maksimum SGE dalam WR terima.

      • Parameter ini menentukan jumlah maksimum segmen memori yang dapat diproses QP dalam satu operasi terima, yang memengaruhi efisiensi dan fleksibilitas penerimaan data.

    CQ

    CQ digunakan untuk memberi notifikasi kepada aplikasi tentang penyelesaian Work Request (WR). Ketika operasi RDMA—seperti pengiriman atau penerimaan data—selesai, informasi penyelesaian terkait dimasukkan ke dalam CQ.

    • Fitur: CQ merupakan kunci dalam notifikasi penyelesaian operasi asinkron pada RDMA. CQ membantu aplikasi mengelola event asinkron dan menangani error dengan menyediakan mekanisme notifikasi tentang operasi mana yang telah selesai—elemen penting dalam manajemen operasi asinkron.

    • Spesifikasi CQ eRDMA:

      Item

      Spesifikasi

      Deskripsi

      CQs

      Jumlah CQ bervariasi berdasarkan tipe instans. Jumlah maksimum CQ adalah dua kali jumlah QP.

      Tidak ada.

      Vektor dalam CQ (vector_num)

      Jumlah vektor dalam CQ bervariasi berdasarkan tipe instans. Jumlah maksimum vektor dalam CQ adalah 31. Jumlah CPU berkaitan dengan jumlah QP.

      • Setiap vektor berkorespondensi dengan interrupt hardware. Dalam penggunaan aktual, setiap CPU dapat dikonfigurasi dengan maksimal satu vektor untuk memenuhi kebutuhan komunikasi.

      • Setiap vektor dikaitkan dengan completion event queue (CEQ) dalam eRDMA.

      Kedalaman maksimum CEQ

      4.096

      • Kedalaman maksimum CEQ adalah 256 pada versi 0.2.34.

      • Dalam mode event, kami menyarankan agar Anda tidak mengikat lebih dari 4.096 CQ ke setiap vektor. Jika tidak, overflow CEQ dapat terjadi.

      Kedalaman maksimum CQ

      1.048.576

      Tidak ada.

    Manajemen memori RDMA

    MR dan Memory Window (MW) merupakan konsep penting dalam manajemen memori RDMA.

    • MR: menentukan area memori yang dapat diakses oleh RDMA. Setelah MR diregistrasi, aplikasi dapat memberikan akses langsung perangkat keras RDMA ke area memori tersebut.

      • Fitur: MR memungkinkan RDMA melakukan operasi langsung—seperti baca dan tulis—pada memori host jarak jauh. Ini merupakan dasar dari fitur zero-copy RDMA.

      • Spesifikasi MR eRDMA:

        Item

        Spesifikasi

        MRs

        Jumlah MR bervariasi berdasarkan tipe instans. Jumlah maksimum MR adalah dua kali jumlah QP.

        Ukuran maksimum MR

        Ukuran MR bervariasi berdasarkan hardware dasar. Ukuran MR minimum yang didukung adalah 2 GB dan ukuran MR maksimum yang didukung adalah 64 GB.

    • MW: Alibaba Cloud tidak mendukung MW.

    Antarmuka verb

    verbs adalah fondasi pemrograman RDMA yang mendefinisikan serangkaian antarmuka untuk mengontrol perilaku perangkat RDMA. Opcode adalah kode yang digunakan dalam antarmuka ini untuk menentukan jenis operasi tertentu.

    • Fitur: Opcode mendefinisikan jenis operasi RDMA, seperti SEND, RECEIVE, READ, dan WRITE. Opcode memberikan instruksi spesifik kepada perangkat keras RDMA untuk dieksekusi, memungkinkan aplikasi berinteraksi langsung dengan perangkat keras RDMA guna transfer data yang efisien.

    • Dukungan Opcode:

      Opcode

      Apakah operasi didukung

      RDMA Write

      Didukung

      RDMA Write with Immediate

      Didukung

      RDMA Read

      Didukung

      Send

      Didukung

      Send with Invalidate

      Didukung

      Send with Immediate

      Didukung

      Send with Solicited Event

      Didukung

      Local Invalidate

      Didukung

      Atomic Operation

      Didukung