Server Load Balancer:Gunakan Auto Scaling untuk mengelola server backend

Contoh

Ketika sebuah situs berita menerbitkan berita utama, lonjakan tiba-tiba pada jumlah tampilan halaman (PVs) dapat melebihi kapasitas server saat ini dan menyebabkan server gagal merespons permintaan. Trafik kembali normal seiring berita tersebut mulai memudar, tetapi fluktuasi semacam ini tidak dapat diprediksi dan sulit dikelola secara manual.

Untuk mengatasi hal ini, Anda dapat membuat tugas berbasis peristiwa yang menggunakan CloudMonitor untuk melacak penggunaan resource, seperti utilisasi CPU. Sistem kemudian secara otomatis menambah atau menghapus instans ECS dalam grup server ALB. Setelah grup penskalaan dikaitkan dengan grup server ALB, aktivitas penskalaan disinkronkan, dan permintaan didistribusikan ke instans ECS berdasarkan volume trafik dan status pemeriksaan kesehatan.

Pada contoh berikut, ALB mendistribusikan permintaan ke ECS01 berdasarkan aturan pengalihan. Ketika penggunaan CPU ECS01 mencapai ambang batas yang ditentukan, instans ECS baru dibuat dan ditambahkan ke grup server. Ketika penggunaan CPU turun di bawah ambang batas, instans tersebut dihapus dan dilepas.

Prasyarat

• Setidaknya satu instans ALB telah dibuat dan berstatus Active. Untuk informasi selengkapnya, lihat Create and manage ALB instances.

• Grup server telah dibuat untuk instans ALB dan satu instans ECS telah ditambahkan ke grup server tersebut. Grup server berada dalam status Available. Pada contoh ini, grup server diberi nama RS1 dan instans ECS diberi nama ECS01.

• Gambar kustom telah dibuat untuk ECS01. Untuk informasi selengkapnya, lihat Create a custom image from an instance.

• Pemeriksaan kesehatan telah diaktifkan untuk instans ALB. Untuk informasi selengkapnya, lihat Configure and manage health checks.

• Setidaknya satu listener telah dibuat untuk instans ALB. Untuk informasi selengkapnya, lihat Add an HTTP listener.

• Instans ALB dan grup penskalaan ditempatkan di virtual private cloud (VPC) yang sama.

Langkah 1: Buat grup penskalaan

1. Login ke Auto Scaling console.

2. Di panel navigasi kiri, klik Scaling Groups.

3. Di bilah navigasi atas, pilih wilayah.

4. Pada halaman Scaling Groups, klik tombol Create Scaling Group untuk membuka halaman Create Scaling Group.

5. Atur parameter berikut. Untuk petunjuk lengkap, lihat Create an ECS scaling group.

   Parameter	Deskripsi
   Instance Configuration Source	Pilih Create from Scratch.
   Minimum Number of Instances	Auto Scaling secara otomatis melakukan skala keluar ketika jumlah instans turun di bawah nilai ini. Pada contoh ini, 1 dipilih, artinya setidaknya satu instans ECS diperlukan.
   Maximum Number of Instances	Auto Scaling secara otomatis melakukan skala-masuk ketika jumlah instans melebihi nilai ini. Pada contoh ini, 2 dipilih, artinya paling banyak satu instans ECS tambahan dapat ditambahkan ke grup server.
   Default cooldown (seconds)	Periode cooldown setelah aktivitas penskalaan selesai, di mana tidak ada aktivitas penskalaan baru yang dipicu. Parameter ini hanya berlaku untuk tugas berbasis peristiwa. Pada contoh ini, 0 dipilih. Tentukan nilai sesuai kebutuhan bisnis Anda.
   VPC dan vSwitch	Pilih VPC dan vSwitch dari ECS01.
   Associated ALB, NLB, and GWLB Server Groups	Pilih grup server dan tentukan port serta bobot.

6. Atur parameter lainnya sesuai kebutuhan bisnis Anda dan klik Create. Anda dapat melihat grup penskalaan di halaman Scaling Groups.

Langkah 2: Buat templat konfigurasi untuk grup penskalaan

1. Pada halaman Scaling Groups, klik Details di kolom Actions. Di tab Instance Configuration Sources, klik Scaling Configurations.

2. Di tab Scaling Configurations, klik Create Scaling Configuration dan atur parameter. Tabel berikut menjelaskan beberapa parameter tersebut. Atur parameter lainnya dengan mengacu pada Create a scaling configuration (ECS instance).

   Parameter	Deskripsi
   Billing Method	Pilih metode penagihan untuk instans ECS. Pada contoh ini, Pay-as-you-go dipilih.
   Select Image	Pada contoh ini, gambar kustom dari ECS01 dipilih.
   Instance Configuration Mode	Pada contoh ini, Specify Instance Type dipilih.
   Select Instance Type	Pada contoh ini, tipe ECS01 dipilih.
   Security Group	Pada contoh ini, security group dari ECS01 dipilih.

3. Klik Create. Di pesan Preview Scaling Configuration, klik Confirm.

4. Pada kotak dialog The scaling configuration is created, klik Enable Configuration untuk mengaktifkan konfigurasi dan grup penskalaan.

Langkah 3: Buat aturan penskalaan

1. Pada halaman Scaling Groups, temukan grup penskalaan yang ingin Anda kelola dan klik Details di kolom Actions. Di tab Scaling Rules and Event-triggered Tasks, klik tab Scaling Rules.

2. Buat aturan skala keluar otomatis. Di tab Scaling Rules, klik Create Scaling Rule, atur beberapa parameter berdasarkan tabel berikut, atur parameter lainnya dengan mengacu pada Configure scaling rules, lalu klik OK.

   Parameter	Deskripsi
   Rule Name	Masukkan nama untuk aturan penskalaan, misalnya Automatically Adds One ECS Instance.
   Rule Type	Pada contoh ini, Simple Scaling Rule dipilih.
   Scaling Activity	Pada contoh ini, Add 1 Instance dipilih.

3. Buat aturan skala-masuk otomatis. Di tab Scaling Rules, klik Create Scaling Rule, atur parameter berikut, lalu klik OK.

   Parameter	Deskripsi
   Rule Name	Masukkan nama untuk aturan penskalaan, misalnya Automatically Removes One ECS Instance.
   Rule Type	Pada contoh ini, Simple Scaling Rule dipilih.
   Scaling Activity	Pada contoh ini, Remove 1 Instance dipilih.

Langkah 4: Buat tugas berbasis peristiwa dan kaitkan dengan aturan penskalaan

1. Di panel navigasi kiri, pilih Scaling Tasks > Event-Triggered Tasks.

2. Pada halaman Alert Task, di tab System Monitoring, klik Create Event-triggered Task.

3. Buat tugas berbasis peristiwa yang memicu skala keluar otomatis. Klik Create Event-triggered Task. Di kotak dialog yang muncul, atur beberapa parameter berdasarkan tabel berikut, atur parameter lainnya dengan mengacu pada Configure event-triggered tasks, lalu klik OK.

   Parameter	Deskripsi
   Name	Masukkan nama untuk tugas tersebut, misalnya Automatically Adds One ECS Instance.
   Resource Monitored	Pilih grup penskalaan yang dibuat di Langkah 1.
   Alert Condition	Pada contoh ini, kondisi alert diatur menjadi (Agent) CPU Utilization, Maximum (Maximum) >= 60%.
   Reference Period	Pada contoh ini, 1 Minute dipilih.
   Trigger After	Pada contoh ini, 1 Times dipilih.
   Scaling Rule Triggered Upon Alerting	Pilih aturan skala keluar otomatis yang dibuat di Langkah 3.

4. Buat tugas berbasis peristiwa yang memicu skala-masuk otomatis. Klik Create Event-triggered Task. Di kotak dialog yang muncul, atur parameter dan klik OK. Tabel berikut menjelaskan beberapa parameter tersebut.

   Parameter	Deskripsi
   Name	Masukkan nama untuk tugas tersebut, misalnya Automatically Removes One ECS Instance.
   Resource Monitored	Pilih grup penskalaan yang dibuat di Langkah 1.
   Alert Condition	Pada contoh ini, kondisi alert diatur menjadi (Agent) CPU Utilization, Maximum (Maximum) <= 30%.
   Reference Period	Pada contoh ini, 1 Minute dipilih.
   Trigger After	Pada contoh ini, 1 Times dipilih.
   Scaling Rule Triggered Upon Alerting	Pilih aturan skala-masuk otomatis yang dibuat di Langkah 3.

Langkah 5: Tambahkan instans ECS ke grup penskalaan

Agar Auto Scaling dapat memantau dan menyesuaikan server backend, Anda harus menambahkan instans ECS target ke grup penskalaan.

1. Pada halaman Scaling Groups, temukan grup penskalaan yang ingin Anda kelola dan klik Details di kolom Actions. Di tab Instances, klik tab Manually Added.

2. Kemudian, klik Add Existing Instance. Di halaman yang muncul, pilih ECS01 dan klik Add.

3. Anda dapat melihat ECS01 di tab Manually Added.

Langkah 6: Uji apakah server backend dapat ditambahkan dan dihapus secara otomatis

Gunakan alat uji stres untuk meningkatkan penggunaan CPU ECS01 hingga 60% dan memicu tugas skala keluar. Lalu verifikasi di konsol ALB bahwa instans ECS baru ditambahkan ke grup server. Setelah uji stres selesai dan penggunaan CPU turun di bawah 30%, verifikasi bahwa tugas skala-masuk menghapus instans tersebut secara otomatis.

1. Login ke ECS01 dan jalankan perintah berikut untuk menginstal alat uji stres:

   sudo yum install -y epel-release 
   sudo yum install -y stress 

2. Jalankan perintah berikut untuk melakukan uji stres pada ECS01. Uji stres berlangsung selama 60 detik.

   sudo stress --cpu 1 --io 4 --vm 2 --vm-bytes 128M --timeout 60s &

3. Kembali ke halaman Alert Task dan tunggu beberapa menit hingga Status tugas berbasis peristiwa berubah menjadi Alert.

4. Buka halaman Scaling Groups. Anda dapat melihat bahwa Total Instances yang ditampilkan di kolom Instances/Capacity bertambah satu setelah aktivitas skala keluar. Hal ini menunjukkan bahwa instans ECS telah dibuat dan ditambahkan ke grup penskalaan.

5. Login ke ALB console.

6. Di panel navigasi kiri, pilih ALB > Server Groups.

7. Klik ID grup server, lalu klik tab Backend Servers. Di tab ini, Anda dapat melihat bahwa grup server berisi dua server backend. Instans ECS dengan format nama ESS-XX ditambahkan oleh Auto Scaling.

8. Setelah uji stres 60 detik selesai, Anda dapat login ke konsol Auto Scaling dan ALB untuk memeriksa apakah instans ECS secara otomatis dihapus dari grup server.