Function Compute：Konfigurasikan instans yang disediakan dan aturan penskalaan otomatis

Batasan penskalaan instans

Scaling limits for on-demand instances

Secara default, semua fungsi dalam akun Alibaba Cloud di wilayah yang sama berbagi batas penskalaan yang sama. Untuk mengonfigurasi jumlah maksimum instans untuk fungsi tertentu, lihat Ikhtisar Konfigurasi Jumlah Maksimum Instans On-Demand. Ketika jumlah instans yang berjalan melebihi jumlah maksimum yang dikonfigurasi, Function Compute mengembalikan kesalahan throttling.

Scaling limits for provisioned instances

Batasan pada kecepatan penskalaan instans di wilayah berbeda

Konfigurasikan aturan penskalaan otomatis

Buat aturan penskalaan otomatis

1. Masuk ke Konsol Function Compute. Di panel navigasi kiri, klik Services & Functions.

2. Di bilah navigasi atas, pilih wilayah. Di halaman Services, klik layanan yang diinginkan.

3. Di halaman Functions, klik fungsi yang ingin Anda modifikasi.

4. Di halaman Function Details, klik tab Auto Scaling dan klik Create Rule.

5. Di halaman yang muncul, konfigurasikan parameter berikut dan klik Create.

   • Untuk instans on-demand

     Atur parameter Minimum Number of Instances ke 0 dan parameter Maximum Number of Instances ke nilai yang sesuai dengan kebutuhan bisnis Anda. Jika Anda tidak mengatur parameter Maximum Number of Instances, jumlah maksimum yang diizinkan akan didasarkan pada batasan yang berlaku untuk akun Alibaba Cloud Anda dan wilayah saat ini.

     Catatan

     Parameter Idle Mode, Scheduled Setting Modification, dan Metric-based Setting Modification hanya berlaku untuk instans yang disediakan.

   • Untuk instans yang disediakan

     Parameter	Deskripsi
     Basic Settings
     Version or Alias	Pilih versi atau alias untuk mana Anda ingin membuat instans yang disediakan. Catatan Anda hanya dapat membuat instans yang disediakan untuk versi LATEST.
     Minimum Number of Instances	Masukkan jumlah instans yang disediakan yang ingin Anda buat. Jumlah minimum instans sama dengan jumlah instans yang disediakan yang akan dibuat. Catatan Dengan menetapkan jumlah minimum instans fungsi, Anda dapat mengurangi cold start dan waktu respons untuk permintaan pemanggilan fungsi. Ini membantu meningkatkan kinerja layanan online Anda, terutama yang sensitif terhadap latensi respons.
     Idle Mode	Aktifkan atau nonaktifkan fitur mode idle berdasarkan kebutuhan bisnis Anda. Secara default, fitur ini dinonaktifkan. Perhatikan hal-hal berikut: Jika Anda mengaktifkan fitur ini, instans yang disediakan dialokasikan sumber daya vCPU hanya saat mereka memproses permintaan. Ketika mereka berhenti memproses permintaan, sumber daya vCPU dibekukan. Function Compute terus mengirimkan permintaan masuk ke instans yang sama berdasarkan pengaturan konkurensi instans hingga instans tersebut mencapai kapasitas. Misalnya, jika Anda mengatur konkurensi instans menjadi 50 dan memiliki 10 instans yang disediakan dalam mode idle, ketika 40 permintaan tiba, mereka dikirim ke instans yang sama, dan hanya instans itu yang beralih ke status aktif. Jika Anda menonaktifkan fitur ini, instans yang disediakan tetap aktif setiap saat, artinya mereka dialokasikan sumber daya vCPU terlepas dari apakah mereka memproses permintaan atau tidak.
     Maximum Number of Instances	Tetapkan jumlah maksimum instans yang paling sesuai dengan kebutuhan bisnis Anda. Baik instans yang disediakan maupun instans on-demand harus dihitung. Jumlah maksimum instans sama dengan jumlah instans yang disediakan yang akan dibuat ditambah jumlah maksimum instans on-demand yang diizinkan. Catatan Dengan menetapkan jumlah maksimum instans, Anda dapat mencegah satu fungsi mendominasi terlalu banyak instans karena pemanggilan berlebihan. Ini membantu melindungi sumber daya backend dan menghindari biaya tak terduga. Jika Anda tidak mengatur parameter ini, jumlah maksimum instans yang diizinkan akan didasarkan pada batasan yang berlaku untuk akun Alibaba Cloud Anda dan wilayah saat ini.
     (Opsional) Scheduled Setting Modification: Anda dapat membuat aturan penskalaan terjadwal untuk mengonfigurasi instans yang disediakan secara lebih fleksibel. Kebijakan penskalaan terjadwal secara otomatis menyesuaikan jumlah instans yang disediakan ke nilai tertentu pada waktu yang ditentukan, memenuhi persyaratan konkurensi spesifik layanan Anda. Untuk informasi lebih lanjut tentang prinsip konfigurasi dan contoh, lihat Modifikasi Pengaturan Terjadwal.
     Policy Name	Masukkan nama kebijakan.
     Minimum Number of Instances	Masukkan jumlah instans yang disediakan yang Anda inginkan untuk rentang waktu tertentu.
     Schedule Expression (UTC)	Masukkan ekspresi jadwal. Contoh: cron(0 0 20 * * *). Untuk informasi lebih lanjut, lihat Deskripsi Parameter.
     Effective Time (UTC)	Tentukan waktu mulai dan akhir untuk aturan penskalaan terjadwal berlaku.
     (Opsional) Metric-based Setting Modification: Kebijakan penskalaan berbasis metrik secara otomatis menyesuaikan jumlah instans yang disediakan setiap menit berdasarkan pemanfaatan konkurensi instans dan berbagai sumber daya fungsi. Untuk informasi lebih lanjut tentang prinsip konfigurasi dan contoh, lihat Modifikasi Pengaturan Berbasis Metrik.
     Policy Name	Masukkan nama kebijakan.
     Minimum Range of Instances	Tentukan rentang untuk jumlah minimum instans yang disediakan.
     Utilization Type	Parameter ini hanya tersedia untuk instans yang dipercepat GPU. Pilih tipe metrik yang akan menentukan cara kerja kebijakan penskalaan. Untuk informasi lebih lanjut tentang kebijakan penskalaan otomatis instans yang dipercepat GPU, lihat Buat kebijakan penskalaan otomatis untuk instans yang dipercepat GPU yang disediakan.
     Concurrency Usage Threshold	Konfigurasikan ambang batas yang memicu penskalaan. Ketika pemanfaatan konkurensi instans atau sumber daya fungsi yang ditentukan jatuh di bawah ambang batas yang Anda tetapkan, Function Compute mengurangi jumlah instans yang disediakan. Sebaliknya, ketika pemanfaatan melebihi ambang batas, Function Compute menambah instans.
     Effective Time (UTC)	Tentukan waktu mulai dan akhir untuk aturan penskalaan berbasis metrik berlaku.

Ubah atau hapus aturan penskalaan otomatis

Di tab Auto Scaling, temukan aturan yang ingin Anda kelola, dan klik Modify atau Delete di kolom Actions untuk mengubah atau menghapus aturan.

Penskalaan otomatis instans yang disediakan

Selain menetapkan jumlah tetap instans yang disediakan, Anda dapat melakukan penyesuaian fleksibel dengan mengonfigurasi parameter Modifikasi Pengaturan Terjadwal dan Modifikasi Pengaturan Berbasis Metrik. Pendekatan ini membantu meningkatkan pemanfaatan instans.

Modifikasi Pengaturan Terjadwal

• Definisi: Kebijakan penskalaan terjadwal secara otomatis menyesuaikan jumlah instans yang disediakan ke nilai tertentu pada waktu yang ditentukan, memenuhi persyaratan konkurensi spesifik layanan Anda.

• Skenario yang berlaku: Pilih penskalaan terjadwal ketika layanan Anda memiliki pola periodik yang jelas atau puncak lalu lintas yang dapat diprediksi. Ketika jumlah pemanggilan konkuren melebihi kapasitas yang didefinisikan oleh kebijakan penskalaan terjadwal, semua permintaan berlebih akan diarahkan ke instans on-demand untuk diproses. Untuk informasi lebih lanjut, lihat Tipe Instans dan Mode Penggunaan.

• Contoh: Gambar berikut menunjukkan dua tindakan terjadwal untuk penskalaan instans. Tindakan terjadwal pertama menambah instans yang disediakan sebelum puncak lalu lintas, dan tindakan terjadwal kedua mengurangi instans yang disediakan setelah puncak lalu lintas.

{
  "ServiceName": "service_1",
  "FunctionName": "function_1",
  "Qualifier": "alias_1",
  "ScheduledActions": [
    {
      "Name": "action_1",
      "StartTime": "2022-11-01T10:00:00Z",
      "EndTime": "2022-11-30T10:00:00Z",
      "TargetValue": 50,
      "ScheduleExpression": "cron(0 0 20 * * *)"
    },
    {
      "Name": "action_2",
      "StartTime": "2022-11-01T10:00:00Z",
      "EndTime": "2022-11-30T10:00:00Z",
      "TargetValue": 10,
      "ScheduleExpression": "cron(0 0 22 * * *)"
    }
  ]
}

Modifikasi Pengaturan Berbasis Metrik

• Definisi: Kebijakan penskalaan otomatis berbasis metrik secara dinamis menyesuaikan jumlah instans yang disediakan berdasarkan metrik yang dilacak.

• Fungsionalitas: Setelah mengonfigurasi kebijakan penskalaan berbasis metrik, Function Compute secara berkala mengumpulkan metrik pemanfaatan konkurensi atau metrik pemanfaatan sumber daya untuk instans yang disediakan. Metrik ini digunakan bersama dengan nilai pemicu penskalaan yang telah ditentukan untuk mengontrol penskalaan instans, memastikan jumlah instans sesuai dengan penggunaan sumber daya aktual.

• Prinsip: Jumlah instans yang disediakan disesuaikan setiap menit berdasarkan nilai metrik.

  • Ketika nilai metrik melebihi ambang batas yang ditentukan untuk penskalaan keluar, Function Compute meningkatkan jumlah instans yang disediakan ke target penskalaan keluar yang telah ditentukan.

  • Sebaliknya, ketika nilai metrik turun di bawah ambang batas yang ditentukan untuk penskalaan masuk, Function Compute menyesuaikan jumlah instans yang disediakan menuju target penskalaan masuk yang telah ditentukan.

  Jika jumlah maksimum dan minimum instans yang disediakan dikonfigurasi, Function Compute menskalakan instans dalam rentang tersebut. Penskalaan berhenti ketika jumlah instans mencapai batas maksimum atau minimum.

• Contoh: Gambar berikut menunjukkan contoh penskalaan otomatis berdasarkan pemanfaatan konkurensi instans.

  • Ketika volume lalu lintas meningkat, ambang batas penskalaan keluar dipicu dan Function Compute mulai meningkatkan jumlah instans yang disediakan. Penskalaan keluar berhenti ketika jumlah mencapai batas atas. Permintaan berlebih dikirim ke instans on-demand untuk diproses.

  • Ketika volume lalu lintas menurun, ambang batas penskalaan masuk dipicu dan Function Compute mulai mengurangi jumlah instans yang disediakan.

  

Metrik pemanfaatan konkurensi hanya mencakup instans yang disediakan dan tidak termasuk instans on-demand.

Metrik dihitung menggunakan rumus berikut: Jumlah permintaan konkuren yang ditangani oleh instans yang disediakan dibagi dengan jumlah maksimum permintaan konkuren yang dapat ditangani oleh semua instans yang disediakan. Nilai metrik berkisar antara 0 hingga 1.

{
  "ServiceName": "service_1",
  "FunctionName": "function_1",
  "Qualifier": "alias_1",
  "TargetTrackingPolicies": [
    {
      "Name": "action_1",
      "StartTime": "2022-11-01T10:00:00Z",
      "EndTime": "2022-11-30T10:00:00Z",
      "MetricType": "ProvisionedConcurrencyUtilization",
      "MetricTarget": 0.6,
      "MinCapacity": 10,
      "MaxCapacity": 100,
    }
  ]
}

Referensi

• Untuk informasi lebih lanjut mengenai konsep dasar serta metode penagihan untuk instans on-demand dan instans yang disediakan, lihat: Tipe Instans dan Mode Penggunaan.

• Setelah mengonfigurasi kebijakan penskalaan otomatis untuk instans yang disediakan, Anda dapat memeriksa metrik FunctionProvisionedCurrentInstance untuk melihat jumlah instans yang digunakan dalam eksekusi fungsi. Untuk detail lebih lanjut, lihat Metrik Spesifik Fungsi.