Skalabilitas native Kubernetes bersifat reaktif secara desain: sumber daya hanya diskalakan setelah ambang batas metrik terlampaui, yang berarti Pod baru dibuat setelah lonjakan lalu lintas telah terjadi. ACS mendukung predictive scaling berbasis Advanced Horizontal Pod Autoscaler (AHPA), yang mengatasi keterlambatan ini dengan menganalisis data metrik historis untuk memprediksi jumlah Pod yang dibutuhkan oleh workload—per menit—selama 24 jam ke depan, dan menyediakannya sebelum permintaan mencapai puncaknya.
Mengapa pendekatan skalabilitas yang ada kurang memadai
| Metode | Keterbatasan |
|---|---|
| Jumlah Pod manual | Pod menganggur membuang resource selama jam sepi |
| Horizontal Pod Autoscaler (HPA) | Hanya bereaksi setelah ambang batas metrik terlampaui; skala keluar dipicu hanya ketika penggunaan resource melebihi ambang batas, dan skala-masuk hanya ketika turun di bawahnya — sehingga kapasitas selalu tertinggal dari permintaan |
| CronHPA | Memerlukan jadwal terpisah untuk setiap slot waktu — hingga 1.440 entri untuk mencakup 24 jam dengan granularitas per menit — serta pembaruan manual setiap kali pola traffic berubah |
AHPA mengatasi keterbatasan ini melalui predictive scaling: menyediakan Pod sebelum permintaan meningkat, sehingga menghilangkan jeda antara lonjakan lalu lintas dan ketersediaan kapasitas.
Diagram di bawah ini membandingkan kedua pendekatan tersebut. Dengan HPA tradisional, Pod dibuat setelah lonjakan workload terjadi. Dengan AHPA, Pod mencapai status Ready sebelum lonjakan tersebut.
Cara kerja
AHPA menggabungkan tiga mekanisme untuk menjamin ketersediaan sumber daya yang cukup bagi aplikasi: prediksi proaktif, prediksi pasif, dan penurunan layanan.
Diagram di atas menunjukkan bagaimana controller AHPA berkoordinasi dengan HPA dan Deployment untuk menjadwalkan Pod sebelum permintaan meningkat.
| Mekanisme | Perilaku |
|---|---|
| Prediksi proaktif | Menganalisis data metrik historis untuk memperkirakan tren workload dan menjadwalkan Pod lebih awal. Paling cocok untuk workload dengan pola fluktuasi periodik atau dapat diprediksi |
| Prediksi pasif | Mendeteksi dan merespons fluktuasi workload secara real time, dengan menyebarkan resource saat fluktuasi terjadi |
| Penurunan layanan | Memungkinkan Anda menentukan jumlah maksimum dan minimum Pod dalam satu atau beberapa periode waktu, memberikan operator lantai dan plafon yang dijamin terlepas dari hasil prediksi |
Metrik yang didukung: CPU, GPU, memory, queries per second (QPS), response time (RT), dan metrik eksternal.
Eksekusi skalabilitas: AHPA bekerja melalui HPA — menyederhanakan konfigurasinya dan mengkompensasi keterlambatan skalabilitas bawaan — atau langsung melalui Deployment.
Kinerja
| Metrik | Nilai |
|---|---|
| Deteksi fluktuasi workload | Dalam hitungan milidetik |
| Provisioning sumber daya | Dalam hitungan detik |
| Akurasi prediksi | Lebih dari 95%, menggabungkan prediksi proaktif dan pasif |
| Granularitas penjadwalan | Jumlah Pod ditentukan hingga tingkat per menit |
Kasus penggunaan
Workload periodik: Aplikasi dengan siklus lalu lintas yang dapat diprediksi—seperti live streaming, pendidikan daring, dan gaming—paling diuntungkan oleh prediksi proaktif, yang memanaskan kapasitas sebelum setiap puncak permintaan.
Garis dasar tetap dengan lonjakan lalu lintas: Jika deployment Anda sudah menjalankan jumlah Pod tetap untuk lalu lintas steady-state, AHPA menangani lonjakan tak terduga tanpa mengharuskan Anda mengelola beberapa kebijakan skalabilitas.
Integrasi autoscaling kustom: Jika tim platform Anda perlu mengintegrasikan rekomendasi skalabilitas ke dalam tooling internal atau pipeline CI/CD, AHPA menyediakan API Kubernetes standar sehingga Anda dapat mengambil hasil prediksi dan bertindak secara terprogram.