Function Compute:Penyesuaian skala otomatis untuk mode sesuai permintaan dan mode yang disediakan

Batas penskalaan instans

Scaling limits for on-demand instances

Secara default, batas penskalaan di atas dibagi oleh semua fungsi di bawah satu Akun Alibaba Cloud dalam wilayah yang sama. Untuk membatasi jumlah instans untuk fungsi tertentu, Anda dapat mengonfigurasi kontrol penskalaan tingkat fungsi untuk instans sesuai permintaan. Setelah dikonfigurasi, jika jumlah total instans yang sedang berjalan untuk fungsi tersebut melebihi batas, Function Compute akan mengembalikan error pembatasan kecepatan.

Scaling limits for provisioned instances

Batas kecepatan penskalaan regional

Aturan penyesuaian skala otomatis

Buat aturan penyesuaian skala otomatis

1. Masuk ke Konsol Function Compute. Di panel navigasi kiri, klik Services & Functions.

2. Di bilah navigasi atas, pilih wilayah. Di halaman Services, klik layanan yang diinginkan.

3. Di halaman Functions, klik fungsi yang ingin Anda ubah.

4. Di halaman Function Details, klik tab Auto Scaling, lalu klik Create Rule.

5. Di halaman Create Auto Scaling Rule, konfigurasikan parameter terkait, lalu klik Create.

   • Konfigurasi penskalaan untuk instans sesuai permintaan

     Atur Minimum Number of Instances menjadi 0 dan Maximum Number of Instances menjadi jumlah maksimum instans sesuai permintaan. Jika Anda tidak mengonfigurasi Maximum Number of Instances, batasnya secara default mengacu pada batas instans maksimum akun Anda di wilayah saat ini.

     Catatan

     Idle Mode, Scheduled Setting Modification, dan Metric-based Setting Modification hanya berlaku di mode yang disediakan.

   • Konfigurasi penskalaan untuk instans yang disediakan

     Parameter	Deskripsi
     Basic Settings
     Version or Alias	Pilih versi atau alias untuk mana Anda ingin membuat instans yang disediakan. Catatan Instans yang disediakan hanya dapat dibuat untuk versi LATEST.
     Minimum Number of Instances	Masukkan jumlah instans yang disediakan. Minimum Number of Instances = Jumlah instans yang disediakan. Catatan Dengan membatasi jumlah minimum instans tingkat fungsi, Anda dapat memastikan respons cepat terhadap pemanggilan, mengurangi cold start, dan melayani bisnis online yang sensitif terhadap latensi dengan lebih baik.
     Idle mode	Pilih apakah akan mengaktifkan atau menonaktifkan idle mode. Fitur ini dinonaktifkan secara default. Berikut penjelasan opsi-opsinya: Jika Anda mengaktifkan fitur ini, vCPU dialokasikan ke instans yang disediakan hanya saat instans tersebut memproses permintaan. Di waktu lain, CPU instans dibekukan. Ketika idle mode diaktifkan, Function Compute memprioritaskan pengarahan permintaan ke instans yang sama berdasarkan konkurensi instans fungsi hingga instans tersebut mencapai kapasitas penuh. Misalnya, asumsikan sebuah fungsi memiliki konkurensi instans sebesar 50 dan Anda memiliki 10 instans burstable yang menganggur. Jika Function Compute menerima 40 permintaan secara simultan, ke-40 permintaan tersebut diarahkan ke satu instans, yang kemudian bertransisi dari idle menjadi aktif. Jika Anda menonaktifkan fitur ini, instans yang disediakan dialokasikan vCPU terlepas dari apakah instans tersebut sedang memproses permintaan atau tidak.
     Maximum Number of Instances	Masukkan jumlah maksimum instans. Maximum Number of Instances = Jumlah instans yang disediakan + Jumlah maksimum instans sesuai permintaan. Catatan Dengan membatasi jumlah maksimum instans tingkat fungsi, Anda dapat mencegah satu fungsi mendominasi terlalu banyak instans akibat pemanggilan berlebihan. Hal ini melindungi sumber daya backend dan menghindari biaya tak terduga. Jika Anda mengosongkan parameter ini, batasnya secara default mengacu pada batas instans maksimum akun Anda di wilayah saat ini.
     (Opsional) Scheduled Setting Modification: Anda dapat membuat aturan penskalaan terjadwal untuk mengonfigurasi instans yang disediakan secara lebih fleksibel. Aturan ini menetapkan jumlah instans yang disediakan ke nilai tertentu pada waktu yang ditentukan agar lebih selaras dengan kebutuhan konkurensi bisnis Anda. Untuk informasi lebih lanjut tentang cara kerjanya dan contoh konfigurasi, lihat Scheduled scaling.
     Policy Name	Masukkan nama kebijakan kustom.
     Minimum Number of Instances	Tetapkan jumlah instans yang disediakan sesuai kebutuhan.
     Schedule expression (UTC)	Informasi jadwal. Contoh: cron(0 0 20 * * *). Untuk informasi lebih lanjut, lihat Parameter description.
     Effective time (UTC)	Periode berlakunya aturan penyesuaian skala otomatis terjadwal.
     (Opsional) Metric-based Setting Modification: Menskalakan sumber daya yang disediakan sekali per menit berdasarkan pemanfaatan berbagai metrik instans atau pemanfaatan konkurensi instans yang disediakan. Untuk informasi lebih lanjut tentang cara kerjanya dan contoh konfigurasi, lihat Metric-based scaling.
     Policy Name	Masukkan nama kebijakan kustom.
     Minimum range of instances	Tetapkan rentang yang diizinkan (minimum dan maksimum) untuk jumlah instans yang disediakan yang disesuaikan oleh kebijakan ini.
     Utilization type	Parameter ini hanya berlaku ketika tipe instans fungsi adalah instans GPU. Pilih jenis metrik untuk kebijakan penyesuaian skala otomatis berbasis pemanfaatan. Untuk informasi lebih lanjut tentang kebijakan penyesuaian skala otomatis untuk instans GPU, lihat Auto scaling policies for provisioned GPU mode.
     Concurrency Usage Threshold	Tetapkan ambang batas pemanfaatan target. Ketika pemanfaatan turun di bawah ambang batas ini, terjadi scale-in. Ketika pemanfaatan melebihi ambang batas ini, terjadi scale-out.
     Effective time (UTC)	Periode berlakunya aturan penyesuaian skala otomatis berbasis metrik.

Ubah atau hapus aturan penyesuaian skala otomatis

Di halaman Auto Scaling, Anda dapat melihat daftar aturan yang telah dibuat. Temukan aturan target di daftar tersebut, lalu klik Modify atau Delete di kolom Actions.

Metode penyesuaian skala otomatis untuk mode yang disediakan

Untuk menghindari pemanfaatan rendah yang dapat terjadi akibat jumlah instans yang disediakan tetap, Anda dapat menggunakan penskalaan terjadwal dan berbasis metrik.

Scheduled scaling

• Definisi: Scheduled scaling menetapkan jumlah instans yang disediakan ke nilai tertentu pada waktu terjadwal, yang membantu menyelaraskan kapasitas dengan kebutuhan konkurensi yang dapat diprediksi.

• Kasus penggunaan: Metode ini cocok untuk fungsi dengan pola siklus yang jelas atau puncak trafik yang dapat diprediksi. Ketika konkurensi pemanggilan fungsi melebihi nilai yang ditetapkan secara terjadwal, beban berlebih ditangani oleh instans mode sesuai permintaan.

• Contoh konfigurasi: Gambar berikut menunjukkan konfigurasi dengan dua aksi terjadwal. Sebelum trafik pemanggilan fungsi tiba, konfigurasi terjadwal pertama memperluas kapasitas instans yang disediakan ke nilai yang lebih besar. Setelah trafik menurun, konfigurasi terjadwal kedua mengurangi kapasitas instans yang disediakan ke nilai yang lebih kecil.

{
  "ServiceName": "service_1",
  "FunctionName": "function_1",
  "Qualifier": "alias_1",
  "ScheduledActions": [
    {
      "Name": "action_1",
      "StartTime": "2022-11-01T10:00:00Z",
      "EndTime": "2022-11-30T10:00:00Z",
      "TargetValue": 50,
      "ScheduleExpression": "cron(0 0 20 * * *)"
    },
    {
      "Name": "action_2",
      "StartTime": "2022-11-01T10:00:00Z",
      "EndTime": "2022-11-30T10:00:00Z",
      "TargetValue": 10,
      "ScheduleExpression": "cron(0 0 22 * * *)"
    }
  ]
}

Metric-based scaling

• Definisi: Menskalakan instans fungsi secara dinamis dalam mode yang disediakan dengan melacak metrik pemantauan.

• Kasus penggunaan: Sistem Function Compute secara berkala mengumpulkan metrik tentang konkurensi atau pemanfaatan sumber daya instans yang disediakan. Sistem menggunakan metrik ini, bersama dengan nilai pemicu scale-out dan scale-in yang Anda konfigurasi, untuk mengontrol penskalaan instans fungsi dalam mode yang disediakan. Proses ini memastikan bahwa jumlah instans yang disediakan selaras erat dengan penggunaan sumber daya aktual Anda.

• Cara kerja: Penyesuaian skala otomatis berbasis pelacakan metrik menyesuaikan sumber daya yang disediakan sekali per menit berdasarkan kondisi metrik.

  • Ketika metrik melebihi ambang batas scale-out, kebijakan agresif mulai memperluas jumlah instans yang disediakan, dengan cepat mencapai nilai target.

  • Ketika metrik turun di bawah ambang batas scale-in, kebijakan konservatif mulai mengurangi jumlah instans yang disediakan, secara bertahap mendekati target scale-in.

  Jika Anda telah menetapkan nilai penskalaan maksimum dan minimum di sistem, jumlah instans fungsi yang disediakan akan diskalakan di antara nilai-nilai tersebut. Penskalaan keluar berhenti ketika mencapai nilai maksimum, dan penskalaan masuk berhenti ketika mencapai nilai minimum.

• Contoh konfigurasi: Gambar berikut menunjukkan contoh penskalaan berdasarkan metrik pemanfaatan instans yang disediakan.

  • Saat trafik meningkat, ambang batas scale-out terpicu, dan instans fungsi yang disediakan mulai memperluas kapasitas. Ketika mencapai nilai maksimum yang dikonfigurasi, penskalaan keluar berhenti, dan permintaan berlebih dialokasikan ke instans fungsi sesuai permintaan.

  • Saat trafik menurun, ambang batas scale-in terpicu, dan instans fungsi yang disediakan mulai mengurangi kapasitas.

  

Pemanfaatan konkurensi instans fungsi yang disediakan hanya didasarkan pada konkurensi instans yang disediakan dan tidak mencakup data dari mode sesuai permintaan.

Perhitungan metrik: Rasio jumlah permintaan konkuren yang sedang ditangani oleh instans fungsi yang disediakan terhadap jumlah maksimum permintaan konkuren yang dapat ditangani oleh semua instans fungsi yang disediakan. Nilainya berkisar antara 0 hingga 1.

{
  "ServiceName": "service_1",
  "FunctionName": "function_1",
  "Qualifier": "alias_1",
  "TargetTrackingPolicies": [
    {
      "Name": "action_1",
      "StartTime": "2022-11-01T10:00:00Z",
      "EndTime": "2022-11-30T10:00:00Z",
      "MetricType": "ProvisionedConcurrencyUtilization",
      "MetricTarget": 0.6,
      "MinCapacity": 10,
      "MaxCapacity": 100,
    }
  ]
}

Dokumen terkait

• Untuk konsep dasar dan metode penagihan mode sesuai permintaan dan mode yang disediakan: Instance types and usage modes.

• Untuk melihat jumlah instans yang disediakan yang sedang digunakan setelah Anda mengonfigurasi penyesuaian skala otomatis, periksa metrik FunctionProvisionedCurrentInstance: Function-level metrics.