Deskripsi masalah
Selama uji stres menggunakan Performance Testing Service (PTS), Anda mungkin mengalami error atau timeout meskipun server backend menunjukkan pemanfaatan CPU, memori, dan I/O yang rendah. Hal ini biasanya menandakan adanya kemacetan pada lapisan akses jaringan antara PTS dan backend Anda, bukan pada server aplikasi.
Penyebab
Permintaan dari PTS melewati satu atau beberapa layanan perantara sebelum mencapai backend, seperti load balancer, firewall, Perlindungan DDoS, dan node CDN. Setiap layanan tersebut memiliki batas kapasitas dan kebijakan keamanan sendiri. Ketika batas tersebut tercapai, permintaan akan di-drop atau ditolak sebelum sampai ke backend Anda, sehingga metrik backend tetap rendah sementara jumlah error melonjak.
Diagnosis cepat
Gunakan tabel berikut untuk mengidentifikasi lapisan akses jaringan yang menyebabkan error:
| Gejala | Kemungkinan penyebab | Bagian |
|---|---|---|
| Error HTTP 503; backend tidak menerima traffic atau log | Pembatasan kecepatan SLB | Pembatasan kecepatan SLB |
| Lonjakan error mendadak di tengah pengujian; log keamanan menunjukkan permintaan diblokir | Anti-DDoS atau WAF memblokir | Pemblokiran oleh Anti-DDoS atau WAF |
| Error saat traffic mendekati atau melebihi puncak historis | Batas kapasitas CDN atau ESA | Kapasitas CDN atau ESA |
Solusi
Identifikasi produk lapisan akses jaringan yang berada di depan backend Anda, lalu ikuti bagian yang sesuai.
Pembatasan kecepatan Server Load Balancer (SLB)
Gejala
-
Error HTTP 503 selama uji stres
-
Server backend tidak menunjukkan traffic atau entri log yang sesuai
-
Error muncul pada beban kerja HTTPS atau ketika persistensi session layer 7 diaktifkan
Penyebab
Instans SLB menerapkan batas pembatasan kecepatan per IP. Ketika SLB menjadi lapisan layanan paling luar dan API menggunakan HTTPS atau persistensi session layer 7, overhead pemrosesan SLB meningkat. Alamat IP tunggal dari instans SLB dapat mencapai ambang batas pembatasannya, sehingga menghasilkan error 503 alih-alih meneruskan permintaan ke backend.
Resolusi
-
Periksa batas spesifikasi instans SLB Anda:
Metrik Deskripsi Jumlah koneksi maksimum Total koneksi bersamaan yang didukung oleh instans Koneksi per detik (CPS) Koneksi baru yang dibuat per detik Queries per second (QPS) Permintaan HTTP/HTTPS yang diproses per detik -
Verifikasi bahwa alokasi bandwidth sesuai dengan volume uji stres berdasarkan tipe penagihan yang Anda beli.
-
Jika spesifikasi SLB menjadi bottleneck, lakukan upgrade ke instans dengan spesifikasi lebih tinggi sebelum menjalankan ulang pengujian.
Untuk detail mengenai error 503 dari SLB, lihat 503 (Service Unavailable).
Anti-DDoS atau WAF memblokir traffic pengujian
Gejala
-
Lonjakan error mendadak di tengah uji stres
-
Log Anti-DDoS atau Web Application Firewall (WAF) menunjukkan permintaan diblokir
-
Hasil uji stres tidak konsisten, atau pengujian gagal sepenuhnya
Penyebab
Pola traffic uji stres—laju permintaan tinggi dari sekumpulan IP terbatas—sangat mirip dengan serangan Challenge Collapsar (CC) dan DDoS. Kebijakan perlindungan Anti-DDoS dan WAF mendeteksi pola ini dan memblokir traffic tersebut.
Resolusi
-
Periksa log Anti-DDoS atau WAF untuk memastikan bahwa traffic yang diblokir merupakan traffic uji stres PTS yang sah.
-
Evaluasi dampaknya terhadap lingkungan produksi Anda.
-
Nonaktifkan sementara kebijakan perlindungan terkait, atau tambahkan traffic uji stres PTS ke daftar izin (allowlist).
-
Aktifkan kembali kebijakan perlindungan setelah uji stres selesai.
Untuk informasi lebih lanjut, lihat:
Batas kapasitas CDN atau ESA
Gejala
-
Error atau penurunan performa saat traffic uji stres mendekati atau melebihi puncak historis Anda
-
Content Delivery Network (CDN) atau Edge Security Acceleration (ESA) points of presence (POPs) mengembalikan error
Penyebab
POPs CDN dan ESA mengalokasikan kapasitas berdasarkan pola traffic historis Anda. Uji stres yang melebihi puncak traffic yang ada dapat melampaui kapasitas yang dialokasikan di POP tertentu.
Resolusi
Jika uji stres Anda diperkirakan akan mendekati atau melebihi level traffic puncak saat ini, submit a ticket sebelum menjalankan pengujian untuk melaporkan POP CDN dan POP ESA target Anda.