Anipop, game single-player populer di Tiongkok, kerap mengalami lonjakan traffic dan konkurensi tinggi. Untuk mendistribusikan traffic sesuai kebutuhan, Anipop menggunakan Application Load Balancer (ALB) guna meneruskan permintaan dan melakukan penskalaan elastis tanpa perencanaan kapasitas manual. Topik ini mencakup tantangan yang dihadapi Anipop serta arsitektur dan manfaat solusi ALB.
Tantangan
Saat festival dan acara promosi, Anipop mengalami lonjakan traffic yang tajam. Pusat datanya menganalisis metrik performa game dan mendistribusikan traffic berdasarkan kebutuhan bisnis. Namun, karena volume traffic sulit diprediksi sebelumnya, insinyur harus melakukan penskalaan layanan secara manual selama acara berdasarkan wilayah, waktu, dan jumlah perangkat yang terhubung.
Insinyur IT O&M sering menghadapi tantangan berikut:
-
Workload O&M tinggi: Menangani lonjakan traffic, konkurensi tinggi, dan QPS tinggi memerlukan pengelolaan beberapa server group untuk load balancing, yang meningkatkan workload O&M.
-
Intervensi manual untuk layanan kritis: Selama jam sibuk, insinyur O&M harus menerapkan dua server group dan secara manual mengarahkan permintaan berdasarkan URL untuk melindungi layanan kritis.
-
Kemampuan routing Lapisan 7 terbatas: Beberapa layanan memerlukan routing berbasis Header, tetapi keterbatasan kemampuan Lapisan 7 memaksa logika ini dijalankan di sisi server.
Arsitektur
Satu instans ALB dapat memproses hingga satu juta permintaan Lapisan 7 per detik dan secara otomatis menskalakan sesuai traffic. Anipop mengadopsi ALB untuk meningkatkan penjadwalan traffic serta menangani lonjakan dan konkurensi tinggi tanpa intervensi manual. Gambar berikut menunjukkan arsitektur solusi tersebut.
Manfaat
-
Performa tinggi dan skalabilitas tinggi: Setiap instans ALB dapat memproses hingga satu juta permintaan per detik, sehingga tidak perlu lagi memperkirakan traffic puncak. ALB secara otomatis menangani lonjakan traffic berdasarkan kebutuhan bisnis.
-
O&M lebih sederhana dan tenaga kerja berkurang: Traffic yang telah dibersihkan oleh Anti-DDoS langsung diarahkan ke ALB. Satu instans ALB menggantikan beberapa instans load balancer, sehingga mengurangi kompleksitas O&M.
-
Latensi lebih rendah dan pengalaman lebih baik: Aturan pengalihan berbasis URL pada server group mengarahkan traffic berdasarkan prioritas layanan, memenuhi kebutuhan penjadwalan traffic yang disesuaikan.
-
Peningkatan mudah dan desain siap masa depan: ALB dapat berfungsi sebagai Ingress kontainer, memungkinkan peningkatan mulus ke teknologi kontainerisasi terbaru.