PolarDB:Overload protection

Latar Belakang

Dalam skenario konkurensi tinggi seperti acara promosi, sumber daya CPU pada node primary rentan mengalami overload. Untuk mengatasi masalah ini, biasanya diperlukan scale-up (upgrade) database. Namun, gangguan sementara atau penurunan performa hingga nol dapat terjadi selama perubahan spesifikasi, yang menyebabkan semua permintaan dialihkan ke node primary. Hal ini berpotensi menyebabkan overload CPU pada node primary serta memengaruhi kontinuitas dan stabilitas layanan. Guna mengurangi risiko tersebut, PolarDB for MySQL menyediakan fitur overload protection pada lapisan database proxy. Fitur ini melindungi node primary dengan membatasi jumlah permintaan konkuren ketika semua node read-only mengalami anomali, sehingga memastikan ketersediaan layanan secara keseluruhan tetap terjaga.

Batasan

• Fitur ini memerlukan PolarProxy versi 2.8.1 atau lebih baru dan mendukung PolarDB for MySQL 5.6, 5.7, dan 8.0.

• Fitur ini saat ini hanya mendukung endpoint read/write.

• Overload protection hanya dipicu ketika semua node read-only mengalami anomali (crash atau replikasi dengan database utama terputus). Skenario lain belum didukung untuk saat ini.

Catatan Penggunaan

Pada bagian Cluster Endpoint di halaman Overview, klik Configure untuk membuka halaman Modify Endpoint Settings, tempat Anda dapat mengaktifkan Overload Protection.

Berdasarkan algoritma leaky bucket, ketika PolarProxy mendeteksi bahwa semua node read-only dalam kluster mengalami anomali, sistem secara proaktif membatasi permintaan konkuren ke kluster guna melindungi database utama. Pembatasan ini dicabut ketika node read-only pulih atau setelah batas waktu berakhir (secara default 60 detik).

Untuk menentukan batas throttling, kluster PolarDB for MySQL memilih rentang yang sesuai berdasarkan data historis. Selama operasi normal, PolarProxy mencatat sampel jumlah permintaan konkuren ke node primary selama 24 jam terakhir.

Ketika overload protection dipicu, PolarProxy menggunakan median dari data historis sebagai batas atas untuk melakukan throttle terhadap koneksi aktif.

Contoh

Saat pengujian, replikasi pada semua node read-only terputus, sehingga memicu overload protection. Trafik tetap dapat masuk selama periode ini tanpa mengalami lonjakan lebih lanjut.

Setelah node read-only pulih, overload protection berakhir dan trafik diteruskan secara normal.