Konfigurasikan jumlah minimum instans untuk menyediakan resource elastis dan menjamin kapasitas - Function Compute

Tetapkan jumlah minimum instans suatu fungsi ke nilai lebih dari 0 untuk mengalokasikan resource elastis secara awal. Langkah ini membantu mencegah latensi akibat cold start selama jam sibuk. Anda juga dapat mengonfigurasi kebijakan agar jumlah minimum instans diskalakan secara otomatis berdasarkan jadwal atau ambang batas metrik, sehingga memastikan performa tinggi dan meningkatkan pemanfaatan instans.

Penting

Saat Anda menetapkan Minimum Instances ke nilai lebih dari 0, instans yang dialokasikan sebelumnya akan berjalan terus-menerus (24/7). Anda dikenai biaya untuk instans tersebut meskipun fungsi tidak menerima permintaan pemanggilan. Biaya dihitung berdasarkan harga satuan instans elastis aktif atau idle, dan aturan penagihan minimum per jam mungkin berlaku. Untuk informasi lebih lanjut tentang cara penagihan instans elastis aktif dan idle, lihat Ikhtisar penagihan.
Untuk menghentikan biaya dari instans yang telah dialokasikan sebelumnya, tetapkan Minimum Instances ke 0, atau hapus kebijakan elastis atau fungsi yang sesuai.
Jika Anda tidak mengonfigurasi kebijakan elastis (Minimum Instances bernilai 0), fungsi Anda tetap dapat dipanggil secara normal. Satu-satunya dampak adalah terjadinya cold start saat permintaan tiba, yang dapat menyebabkan latensi tambahan.
Anda hanya dapat mengonfigurasi kebijakan elastis untuk jumlah minimum instans pada alias fungsi atau versi LATEST.

Tetapkan jumlah minimum instans

Masuk ke Konsol Function Compute. Di panel navigasi kiri, pilih Function Management > Functions.
Di bilah navigasi atas, pilih wilayah. Pada halaman Functions, klik Create Function.
Pada halaman Create Function, di bagian Scaling Policy, atur Minimum Instances, konfigurasi parameter lain yang diperlukan, lalu klik Create.

Konfigurasi kebijakan elastis

Pada halaman detail fungsi target, klik tab Scaling Policy. Di bagian Elastic policy, temukan kebijakan target dan klik Modify di kolom Actions.

Pada panel Edit elastic policy, konfigurasi kebijakan elastis dinamis untuk jumlah minimum instans.

Catatan

Jika Anda mengonfigurasi beberapa kebijakan elastis, sistem menghitung Minimum Instances untuk setiap kebijakan yang dipicu. Sistem kemudian menggunakan nilai maksimum dari Minimum Instances semua kebijakan aktif saat ini sebagai jumlah minimum instans saat ini. Untuk informasi lebih lanjut, lihat Bagaimana jumlah minimum instans saat ini dihitung?.
Selama kebijakan elastis aktif, pengaturan awal Minimum Instances diabaikan. Jika tidak ada kebijakan elastis yang aktif, jumlah minimum instans saat ini kembali ke nilai awal yang Anda tetapkan untuk Minimum Instances.

Konfigurasi kebijakan Scheduled Scaling atau Water-level Scaling

Scheduled scaling

Kebijakan scheduled scaling cocok untuk fungsi dengan pola periodik yang jelas atau puncak traffic yang dapat diprediksi. Saat jumlah konkurensi pemanggilan fungsi melebihi jumlah minimum instans, permintaan tambahan secara otomatis ditangani oleh instans elastis on-demand. Untuk informasi lebih lanjut, lihat Scheduled scaling.

Contoh ini menetapkan Time zone ke Asia/Shanghai (UTC+8). Kebijakan bersifat jangka panjang dan melakukan scale out jumlah minimum instans menjadi 50 pada pukul 10.00 dari Senin hingga Jumat, serta melakukan scale in menjadi 5 pada pukul 22.00.

Threshold-based scaling

Sistem secara berkala mengumpulkan metrik seperti Provisioned concurrency utilization, Memory utilization, atau metrik pemanfaatan resource untuk instans GPU. Saat kondisi tertentu terpenuhi, sistem menskalakan Minimum Instances sesuai kebutuhan. Untuk informasi lebih lanjut, lihat Threshold-based scaling.

Tetapkan Minimum Number of Instances ke 1. Kemudian, di bagian Minimum Number of Instances Dynamic Policy, pilih tab Threshold-based Scaling untuk mengonfigurasi kebijakan.

Contoh ini menetapkan Time zone ke Asia/Shanghai (UTC+8). Kebijakan aktif mulai 00.00 pada 15 Juli 2025 hingga 00.00 pada 31 Juli 2025. Kebijakan ini melacak metrik Provisioned concurrency utilization dengan nilai target 60%. Saat pemanfaatan melebihi 60%, sistem melakukan scale out hingga maksimum 100 instans. Saat pemanfaatan turun di bawah 60%, sistem melakukan scale in hingga minimum 10 instans.

Untuk fungsi CPU, threshold-based scaling memantau metrik seperti Provisioned concurrency utilization dan Memory utilization. Untuk fungsi GPU, kebijakan mendukung pemantauan Provisioned concurrency utilization dan metrik pemanfaatan resource terkait GPU lainnya, sebagaimana dijelaskan dalam tabel berikut.

CPU functions	GPU functions
Dalam konfigurasi threshold-based scaling, daftar dropdown Utilization Type mendukung dua jenis pemanfaatan: instance concurrency utilization dan memory utilization. Tab Trigger Method juga mencakup scheduled scaling.	Dalam konfigurasi threshold-based scaling untuk fungsi GPU, Utilization Type mendukung lima opsi: instance concurrency utilization, GPU SM utilization, GPU memory utilization, GPU hardware encoder utilization, dan GPU hardware decoder utilization.

Konfigurasi penskalaan periodik menggunakan CRON Expression
Jika aplikasi Anda memiliki pola traffic yang dapat diprediksi, Anda juga dapat menggunakan ekspresi CRON untuk menskalakan jumlah minimum instans secara periodik. Misalnya, Anda dapat menetapkan Time zone ke Asia/Shanghai (UTC+8) untuk melakukan scale out jumlah minimum instans menjadi 10 pada pukul 10.00 setiap Senin dan melakukan scale in menjadi 1 pada pukul 22.00 setiap Jumat.

Ubah atau hapus kebijakan elastis untuk jumlah minimum instans

Masuk ke Konsol Function Compute. Di panel navigasi kiri, pilih Function Management > Elastic policy. Pada halaman Elastic policy, temukan kebijakan yang ingin Anda kelola. Di kolom Actions, klik Modify atau Delete untuk mengubah atau menghapus kebijakan elastis untuk jumlah minimum instans.

Penting

Menghapus kebijakan elastis untuk jumlah minimum instans suatu alias akan melepaskan semua instans yang telah dialokasikan sebelumnya untuk alias tersebut. Fungsi kemudian secara otomatis beralih ke penskalaan on-demand, yang mungkin melibatkan cold start. Untuk layanan berbasis CPU, waktu rata-rata cold start biasanya ratusan milidetik, tergantung pada kecepatan startup aplikasi. Untuk layanan berbasis GPU, waktu rata-rata cold start bisa mencapai beberapa menit, tergantung pada ukuran model dan kecepatan pemuatan.

FAQ

Bagaimana cara memeriksa apakah suatu fungsi telah dikonfigurasi dengan jumlah minimum instans dan melihat konfigurasi historisnya?

Periksa konfigurasi saat ini

Masuk ke konsol Function Compute. Di panel navigasi sebelah kiri, klik Elastic policy. Pada halaman Elastic policy, temukan fungsi target. Jika kolom Minimum Instances menampilkan nilai lebih dari 0, berarti fungsi tersebut telah dikonfigurasi dengan instans pra-alokasi. Namun, jika kolom tersebut menampilkan - (tidak dikonfigurasi) atau 0, maka tidak ada instans pra-alokasi yang aktif.

Periksa konfigurasi historis

Masuk ke Konsol Function Compute. Di panel navigasi sebelah kiri, klik Monitoring Metrics. Pada dasbor pemantauan, temukan grafik metrik Minimum Instances. Sesuaikan rentang waktu kueri (misalnya, ubah dari 2 minggu menjadi 1 minggu) agar sesuai dengan siklus penagihan yang ingin Anda verifikasi. Jika grafik menunjukkan nilai lebih dari 0 selama periode tertentu, berarti jumlah instans minimum telah dikonfigurasi pada periode tersebut.

Referensi

Untuk membatasi jumlah instans untuk fungsi tertentu, Anda dapat mengonfigurasi kuota fungsi. Jika jumlah total instans yang sedang berjalan untuk fungsi tersebut melebihi batas yang dikonfigurasi, Function Compute mengembalikan error pembatasan kecepatan.