Ketika lalu lintas ke aplikasi Anda berfluktuasi, jumlah instans yang tetap dapat menyebabkan pemborosan sumber daya selama periode lalu lintas rendah atau penurunan kinerja saat terjadi lonjakan lalu lintas. Penyesuaian Skala Otomatis di Enterprise Distributed Application Service (EDAS) memantau metrik tingkat instans dan secara otomatis menambah atau menghapus instans sesuai permintaan, menjaga waktu respons tetap stabil sekaligus meminimalkan biaya akibat sumber daya menganggur. Dibangun di atas teknologi manajemen lonjakan lalu lintas yang digunakan Alibaba Group selama Double 11, EDAS menyediakan penyesuaian skala dalam hitungan detik.
Cara kerja penyesuaian skala otomatis
Penyesuaian Skala Otomatis berlaku untuk aplikasi yang dideploy di ECS Clusters. EDAS mengevaluasi metrik berikut setiap satu menit dan memicu event scale-out atau scale-in ketika ambang batas dilampaui secara terus-menerus selama durasi tertentu.
| Metric | What it measures | Value format |
|---|---|---|
| CPU | Utilisasi CPU instans | Persentase |
| RT | Waktu respons per permintaan | Milidetik |
| Load | Beban sistem pada instans | Bilangan bulat positif |
Perilaku penskalaan:
Lingkungan single-instance — Penyesuaian Skala Otomatis memastikan bahwa satu instans tetap berjalan.
Lingkungan multi-instans — EDAS menambah atau menghapus instans berdasarkan aturan penskalaan dan nilai metrik yang Anda konfigurasikan.
Anda mengonfigurasi aturan terpisah untuk scale-out dan scale-in. Setiap aturan menentukan metrik yang dipantau, durasi ambang batas harus dilampaui sebelum tindakan diambil, serta jumlah instans yang akan ditambahkan atau dihapus.
Saat mengonfigurasi aturan scale-in dan scale-out secara bersamaan, pastikan nilai metrik pada aturan scale-in tidak lebih besar daripada nilai metrik pada aturan scale-out. Jika tidak, sistem akan menampilkan error saat Anda mengklik Save.
Selama proses scale-in, instans yang dibuat dari elastic resources akan dilepas terlebih dahulu.
Konfigurasi aturan penyesuaian skala otomatis
Langkah-langkah berikut menjelaskan cara mengonfigurasi aturan scale-out. Konfigurasikan aturan scale-in dengan cara yang sama, namun gunakan nilai ambang batas yang lebih rendah.
Masuk ke Konsol EDAS.
Pada panel navigasi kiri, pilih Application Management > Applications.
Pada bilah navigasi atas, pilih wilayah tempat aplikasi Anda berada. Di bagian atas halaman Applications, pilih ruang mikroservis dari daftar drop-down Microservices Namespace, lalu klik nama aplikasi.
Pada panel navigasi kiri halaman detail aplikasi, klik Auto Scaling.
Di pojok kanan atas bagian Scale-out Rule, aktifkan sakelar untuk mengaktifkan aturan tersebut.
Konfigurasikan parameter aturan seperti dijelaskan dalam tabel berikut, lalu klik Save di pojok kiri bawah halaman Auto Scaling.
Metrik dan kondisi pemicu
Tetapkan ambang batas untuk CPU, RT, dan Load di bawah Trigger Metrics, lalu tentukan kapan penskalaan dipicu.
| Parameter | Description |
|---|---|
| Trigger Conditions | Pilih Any One of the Metrics untuk memicu penskalaan ketika salah satu metrik melampaui ambang batasnya, atau All Metrics untuk memicu hanya jika semua metrik melampaui ambang batasnya secara bersamaan. |
| Last for More Than | Durasi (dalam menit) rata-rata nilai metrik harus melebihi ambang batas sebelum penskalaan dipicu. EDAS mengevaluasi metrik setiap satu menit. Tetapkan durasi lebih pendek untuk layanan yang sensitif terhadap latensi dan durasi lebih panjang untuk workload yang dapat mentoleransi lonjakan singkat. |
Sumber aplikasi
Pilih sumber instans baru selama proses scale-out.
| Option | Behavior |
|---|---|
| Existing Resources | Menggunakan instans ECS menganggur dalam kluster. Jika jumlah instans menganggur yang tersedia lebih sedikit daripada yang dibutuhkan, EDAS melakukan scale-out dengan jumlah instans yang tersedia. |
| Elastic Resources | Membeli instans ECS baru berdasarkan spesifikasi yang ada atau template peluncuran, lalu menambahkannya ke kluster. Konfigurasikan parameter elastic resource dalam tabel di bawah ini. |
| Existing Resources First | Menggunakan instans menganggur terlebih dahulu. Jika instans menganggur tidak mencukupi, instans tambahan akan dibeli secara otomatis. |
Parameter elastic resource
Saat Elastic Resources atau Existing Resources First dipilih sebagai sumber aplikasi, konfigurasikan parameter berikut:
| Parameter | Description |
|---|---|
| Creation Method | Purchase Based on Existing Instance Specifications: Membeli instans yang sesuai dengan spesifikasi yang sudah ada di kluster. Purchase Based on Instance Launch Template: Membeli instans berdasarkan template peluncuran yang dibuat di Konsol ECS. |
| Template Host atau Launch Template | Muncul berdasarkan metode pembuatan yang Anda pilih. Pilih set spesifikasi instans yang sudah ada (untuk Template Host) atau template peluncuran (untuk Launch Template). |
| Password | Diperlukan saat Anda memilih Purchase Based on Existing Instance Specifications. Pilih pasangan kunci logon untuk instans baru. |
| Terms of Service | Pilih Elastic Compute Service Terms of Service | Terms of Service for Images untuk melanjutkan. |
Batas instans
| Parameter | Description |
|---|---|
| Number of Instances to Add for Each Scale-Out | Jumlah instans yang ditambahkan setiap kali scale-out dipicu. |
| Maximum Number of Instances in Group | Batas atas jumlah total instans. Tidak ada scale-out yang dipicu setelah batas ini tercapai. Tetapkan nilai ini berdasarkan anggaran sumber daya Anda. |
Verifikasi hasil penyesuaian skala otomatis
Setelah scale-out atau scale-in dipicu, pastikan aturan telah diterapkan:
Periksa jumlah instans — Buka halaman basic information aplikasi Anda. Verifikasi bahwa jumlah instans yang berjalan telah bertambah (scale-out) atau berkurang (scale-in) sesuai ekspektasi.
Periksa catatan perubahan — Pada panel navigasi kiri halaman detail aplikasi, klik Change Records. Cari catatan dengan nilai berikut:
Field Expected value Change type Scale Out atau Scale in Application Source auto_scale Klik View pada kolom Actions untuk melihat detail perubahan lengkap.
Jika jumlah instans tidak berubah setelah durasi yang dikonfigurasi, verifikasi bahwa ambang batas metrik dan nilai Last for More Than Anda sesuai dengan beban kerja aktual. Pastikan juga tersedia cukup instans menganggur untuk scale-out.