All Products
Search

This Product

    Serverless App Engine:Praktik terbaik untuk parameter lanjutan dalam kebijakan auto scaling

    Document Center

    Serverless App Engine:Praktik terbaik untuk parameter lanjutan dalam kebijakan auto scaling

    Last Updated:Jun 21, 2026

    Topik ini menjelaskan cara mengonfigurasi berbagai parameter lanjutan dalam kebijakan auto scaling dan memverifikasi dampaknya terhadap perilaku sistem.

    Prasyarat

    Uji stres dilakukan terhadap sebuah aplikasi di Performance Testing Service (PTS) untuk memverifikasi dampak parameter lanjutan dalam kebijakan auto scaling terhadap penskalaan instans aplikasi. Anda harus menyelesaikan langkah-langkah berikut sebelum melakukan uji stres.

    1. Buat aplikasi Serverless App Engine (SAE).

      Catatan

      Untuk menyederhanakan uji stres, atur jumlah instans aplikasi menjadi 1.

    2. Ikatkan instans Classic Load Balancer (CLB) yang dideploy di Internet ke aplikasi dan aktifkan fitur access log CLB.

      Catatan

      Setelah Anda mengaktifkan fitur access log CLB, Anda akan dikenai biaya tambahan.

    Parameter lanjutan

    Saat mengonfigurasi kebijakan auto scaling berbasis metrik atau kebijakan auto scaling hibrida untuk sebuah aplikasi, Serverless App Engine menyediakan lima parameter lanjutan. Berikut penjelasannya.

    • Scale-out Step Size: jumlah maksimum instans yang dapat diperluas kapasitasnya per satuan waktu.

    • Scale-in Step Size: jumlah maksimum instans yang dapat dikurangi kapasitasnya per satuan waktu.

    • Scale-out Stabilization Window: periode waktu selama penskalaan keluar (scale-out) stabil. Algoritma auto scaling memastikan bahwa jumlah minimum instans yang diharapkan, yang dihitung dalam interval tertentu, digunakan saat operasi scale-out dilakukan.

    • Scale-in Stabilization Window: periode waktu selama penskalaan masuk (scale-in) stabil. Algoritma auto scaling memastikan bahwa jumlah maksimum instans yang diharapkan, yang dihitung dalam interval tertentu, digunakan saat operasi scale-in dilakukan.

    • Disable Scale-in: menentukan bahwa instans aplikasi tidak dapat diskalakan masuk.

    Konfigurasikan kebijakan auto scaling untuk aplikasi

    Saat mengonfigurasi kebijakan auto scaling berbasis metrik atau kebijakan auto scaling hibrida, Anda dapat mengatur parameter lanjutan untuk kebijakan auto scaling. Bagian ini hanya menjelaskan langkah-langkah utamanya.

    Kebijakan auto scaling berbasis metrik yang dikonfigurasi dalam bagian ini hanya digunakan untuk uji stres. Di lingkungan produksi, sesuaikan pengaturan tersebut berdasarkan kebutuhan bisnis Anda.

    1. Pada halaman Basic Information aplikasi target, klik tab Auto Scaling, lalu klik Create Auto Scaling Policy.

    2. Pada panel yang muncul, konfigurasikan kebijakan auto scaling berdasarkan metrik public CLB QPS dan atur nilai target menjadi 10.

      Catatan

      Tidak ada parameter lanjutan yang ditentukan.

      Untuk Policy Type, pilih metric-based auto scaling policy, atur Policy Name menjadi demo, Minimum Number of Instances menjadi 1, dan Maximum Number of Instances menjadi 5. Untuk Minimum Number of Ready Instances, pilih By Ratio dan atur nilainya menjadi 50%.

    3. Setelah menambahkan kebijakan auto scaling berbasis metrik, aktifkan kebijakan tersebut.

    Verifikasi dampak parameter lanjutan

    Penting

    Sebelum memverifikasi setiap parameter lanjutan, pastikan tidak ada parameter lanjutan yang ditentukan dalam kebijakan auto scaling berbasis metrik.

    Verifikasi parameter Scale-out Step Size

    Karena logika scale-out step size mirip dengan logika scale-in step size, bagian ini hanya memverifikasi parameter scale-out step size.

    Verifikasi efek scale-out tanpa parameter Scale-out Step Size

    1. Masuk ke Konsol PTS dan lakukan uji stres pada aplikasi SAE.

      Catatan

      URL yang digunakan dalam uji stres adalah alamat IP instans CLB yang diikatkan ke aplikasi SAE dan dideploy di Internet. Format URL-nya adalah http://<Alamat IP publik>:<Port>.

    2. Setelah uji stres dimulai, Anda dapat melihat event auto scaling aplikasi SAE.

      Filter berdasarkan Source Type dan pilih auto scaling (HorizontalPodAutoscaler). Anda dapat melihat catatan dengan alasan SuccessfulRescale. Perluas detailnya untuk melihat bahwa scale-out dipicu karena metrik eksternal slb_incall_qps melebihi nilai target.

      Event auto scaling menunjukkan bahwa pengontrol HPA telah memperluas aplikasi SAE menjadi 5 instans.

    Verifikasi efek scale-out dengan parameter Scale-out Step Size ditentukan

    1. Konfigurasikan parameter scale-out step size dalam kebijakan auto scaling berbasis metrik.

      1. Pada halaman Basic Information aplikasi target, klik tab Auto Scaling, lalu klik Edit di kolom Actions untuk kebijakan auto scaling yang telah ditambahkan.

      2. Pada panel Edit Auto Scaling Policy, klik Advanced Settings untuk membuka area konfigurasi parameter lanjutan.

      3. Di area Advanced Settings, atur scale-out step size menjadi 1, biarkan parameter lanjutan lainnya tidak dikonfigurasi, lalu klik OK.

    2. Gunakan PTS untuk melakukan uji stres pada aplikasi SAE.

    3. Setelah uji stres dimulai, buka halaman Application Events untuk melihat event auto scaling aplikasi SAE target.

      Event auto scaling menunjukkan bahwa instans dalam aplikasi SAE diperluas satu per satu, bukan langsung menjadi lima instans sekaligus. Hal ini menunjukkan bahwa parameter Scale-out Step Size berfungsi dan membatasi jumlah instans yang diperluas setiap kali, sehingga mencapai keseimbangan antara stabilitas sistem dan kecepatan respons dengan mengontrol ritme scale-out.

    Verifikasi parameter Scale-out Stabilization Window

    Mengingat logika parameter scale-out stabilization window mirip dengan logika parameter scale-in stabilization window, bagian ini hanya memverifikasi parameter scale-out stabilization window.

    Verifikasi efek scale-out tanpa Scale-out Stabilization Window

    1. Masuk ke Konsol Performance Testing Service (PTS) dan jalankan uji stres cepat pada aplikasi SAE target.

      Catatan

      URL yang digunakan untuk uji stres adalah alamat akses instans CLB publik yang diikatkan ke aplikasi SAE. Format URL-nya adalah http://<Alamat IP publik>:<Port>.

    2. Setelah uji stres dimulai, Anda dapat membandingkan waktu mulai uji stres dan waktu mulai scale-out aplikasi SAE.

      Waktu mulai uji stres

      Waktu mulai penskalaan keluar aplikasi SAE

      Lihat waktu di halaman Report List.

      Anda dapat melihat informasi seperti Test Time, Report Name, Report ID, Duration, Peak Concurrency, dan VUMs Consumed untuk setiap catatan uji stres. Temukan catatan dengan waktu uji 2025-03-07 17:36:55 dan klik tautan View Report yang sesuai untuk melihat hasil pengujian.

      2025-03-07 17:36:55

      Lihat waktu di halaman Application Events.

      2025-03-07 17:37:21

      Pengujian menunjukkan bahwa tanpa parameter scale-out stabilization window dikonfigurasi, instans langsung diperluas kapasitasnya sekitar 20 detik setelah aplikasi SAE mulai menangani traffic.

    Verifikasi efek scale-out dengan Scale-out Stabilization Window ditentukan

    1. Konfigurasikan parameter scale-out stabilization window dalam kebijakan auto scaling berbasis metrik.

      1. Pada halaman Basic Information aplikasi target, klik tab Auto Scaling, lalu klik Edit di kolom Actions untuk kebijakan auto scaling yang telah ditambahkan.

      2. Pada panel Edit Auto Scaling Policy, klik Advanced Settings untuk membuka area konfigurasi parameter lanjutan.

      3. Di area Advanced Settings, atur scale-out stabilization window menjadi 300 detik, biarkan parameter lanjutan lainnya tidak dikonfigurasi, lalu klik OK.

    2. Gunakan tool PTS untuk menjalankan uji stres cepat pada aplikasi SAE target.

    3. Setelah uji stres dimulai, Anda dapat membandingkan waktu mulai uji stres dan waktu mulai scale-out aplikasi SAE.

      Waktu mulai uji stres

      Waktu mulai penskalaan keluar aplikasi SAE

      Lihat waktu di halaman Report List.

      Temukan catatan laporan uji stres target, konfirmasi Test Time, lalu klik View Report di kolom Actions untuk melihat hasil pengujian.

      2025-03-10 09:50:35

      Lihat waktu di halaman Application Events.

      Daftar event menunjukkan catatan dengan tingkat event Normal, alasan SuccessfulRescale, dan tipe sumber HorizontalPodAutoscaler. Hal ini menunjukkan bahwa jumlah Pod berhasil disesuaikan menjadi 5 berdasarkan metrik eksternal slb_incall_qps.

      Hasil pengujian menunjukkan bahwa ketika parameter Scale-out Stabilization Window diatur menjadi 300, operasi scale-out instans tidak langsung dipicu setelah aplikasi SAE menerima traffic. Sebaliknya, operasi scale-out baru dimulai setelah jendela stabilisasi yang ditentukan berakhir. Hal ini menunjukkan bahwa parameter Scale-out Stabilization Window secara efektif dapat menunda operasi scale-out dan menghindari pemborosan resource akibat fluktuasi traffic jangka pendek.

    Verifikasi parameter Disable Scale-in

    Verifikasi efek penskalaan tanpa Disable Scale-in diaktifkan

    1. Masuk ke Konsol Performance Testing Service (PTS) dan jalankan uji stres cepat pada aplikasi SAE target.

      Catatan

      URL yang digunakan untuk uji stres adalah alamat akses instans CLB publik yang diikatkan ke aplikasi SAE. Format URL-nya adalah http://<Alamat IP publik>:<Port>.

    2. Setelah uji stres selesai, buka halaman Application Events untuk melihat event penskalaan aplikasi.

      Setelah difilter berdasarkan Source Type untuk auto scaling (HorizontalPodAutoscaler), daftar event menunjukkan dua event SuccessfulRescale. Yang pertama adalah scale-out menjadi 5 instans selama pengujian, dipicu ketika metrik eksternal slb_incall_qps melebihi targetnya. Yang kedua adalah scale-in kembali ke 1 instans setelah pengujian, dipicu ketika semua metrik turun di bawah targetnya.

      Pengujian menunjukkan bahwa jika parameter disable scale-in tidak diaktifkan, aplikasi akan kembali diskalakan ke satu instans setelah uji stres selesai.

    Verifikasi efek penskalaan dengan Disable Scale-in diaktifkan

    1. Dalam kebijakan auto scaling berbasis metrik, aktifkan disable scale-in.

      1. Pada halaman Basic Information aplikasi target, klik tab Auto Scaling, lalu klik Edit di kolom Actions untuk kebijakan auto scaling yang telah ditambahkan.

      2. Di area Advanced Settings, aktifkan disable scale-in.

    2. Gunakan tool PTS untuk menjalankan uji stres cepat pada aplikasi SAE target.

      Catatan

      Durasi uji stres yang ditentukan adalah 10 menit.

    3. Setelah uji stres selesai (traffic menjadi 0), periksa apakah instans aplikasi telah diskalakan masuk.

      Daftar instans menunjukkan bahwa kelima instans berada dalam status Running. Empat instans telah berjalan sekitar 15 menit (dibuat saat scale-out), dan satu instans telah berjalan sekitar 5 jam (instans awal). Tidak ada instans yang diskalakan masuk.

      Hasil pengujian menunjukkan bahwa jumlah instans aplikasi tetap 5 selama sekitar 5 menit setelah uji stres selesai, dan tidak terjadi operasi scale-in. Hal ini menunjukkan bahwa parameter Disable Scale-in telah berfungsi. Ini secara efektif dapat menghindari pelepasan resource berlebihan akibat fluktuasi traffic atau kesalahan penilaian, sehingga menjamin stabilitas layanan.