Auto Scaling:Deploy a high-availability computing cluster with a balanced policy

Use cases

Scenario

Beban kerja komputasi data besar terdistribusi dan pelatihan AI sering kali membutuhkan lonjakan sumber daya komputasi selama jam-jam puncak, sehingga penting untuk dapat membuat kluster komputasi berbasis ketersediaan tinggi secara cepat.

Sebagai contoh, penyedia iklan online yang menggunakan pembelajaran mesin untuk penargetan iklan perlu meningkatkan sumber daya komputasi saat trafik mencapai puncaknya. Membuat kluster Instance ECS secara manual bersifat lambat dan rentan kesalahan—Anda mungkin mengalami kegagalan pembuatan instans akibat stok tidak mencukupi di satu zona ketersediaan tertentu atau gangguan layanan jika zona tersebut mengalami kegagalan.

Solution

Gunakan Auto Scaling untuk membuat Instance ECS secara otomatis dalam jumlah besar. Kebijakan distribusi seimbang akan menyebarkan instans-instans tersebut secara merata di beberapa zona ketersediaan, sedangkan spot instance membantu mengurangi biaya Anda.

Benefits

Pendekatan ini memberikan manfaat berikut:

• Tidak ada beban operasional

  Auto Scaling secara otomatis melakukan penskalaan masuk atau keluar Instance ECS tanpa intervensi manual.

• Ketersediaan tinggi bawaan

  Kebijakan distribusi seimbang mendistribusikan Instance ECS di berbagai zona ketersediaan, mencegah kegagalan skala keluar akibat stok tidak mencukupi di satu zona. Fitur pemeriksaan kesehatan instans, yang diaktifkan secara default, memastikan semua Instance ECS dalam grup penskalaan tetap tersedia.

• Efisiensi biaya yang sangat baik

  Spot instance untuk node komputasi dapat mengurangi biaya sumber daya secara signifikan.

Procedure

1. Masuk ke Auto Scaling console.

2. Buat grup penskalaan.

   1. Di panel navigasi sebelah kiri, klik Scaling Groups.

   2. Di bilah navigasi atas, pilih wilayah.

   3. Di pojok kiri atas halaman, klik Create.

   4. Pada tab Create by Form, konfigurasikan parameter untuk grup penskalaan, lalu klik Create.

      Tabel berikut menjelaskan parameter yang dikonfigurasi dalam tutorial ini. Untuk parameter yang tidak tercantum, gunakan pengaturan default. Untuk informasi lebih lanjut tentang cara mengonfigurasi grup penskalaan, lihat Create a scaling group.

      Parameter	Contoh	Deskripsi
      Scaling Group Name	test	Masukkan nama untuk grup penskalaan. Untuk informasi tentang persyaratan format, lihat petunjuk di layar.
      Type	ECS	Pilih ECS untuk mengelola Instance ECS dalam grup penskalaan.
      Instance Configuration Source	Create from scratch	Jangan tentukan templat untuk pembuatan instans otomatis. Setelah grup penskalaan dibuat, Anda harus membuat konfigurasi penskalaan.
      Minimum Number of Instances	100	Jumlah minimum instans dalam grup penskalaan. Jika jumlah instans turun di bawah nilai ini, Auto Scaling akan menambahkan instans hingga mencapai jumlah minimum tersebut.
      Maximum Number of Instances	120	Jumlah maksimum instans dalam grup penskalaan. Jika jumlah instans melebihi nilai ini, Auto Scaling akan menghapus instans hingga mencapai jumlah maksimum tersebut.
      Show Advanced Settings > Scaling Policy	Balanced distribution policy	Pilih Balanced Distribution Policy. Kebijakan ini hanya berlaku setelah Anda memilih beberapa vSwitch.
      VPC	vpc-2zeghwzptn5zii0w7****	Pilih VPC untuk Instance ECS dalam grup penskalaan.
      vSwitch	vsw-2ze23nqzig8inprou**** vsw-2zeet2ksvw7f14ryz**** vsw-2ze94pjtfuj9vaymf****	Pilih vSwitch tempat Instance ECS dalam grup penskalaan akan ditempatkan. Pilih beberapa vSwitch untuk mengaktifkan kebijakan distribusi seimbang. Hal ini akan mendistribusikan Instance ECS di berbagai zona ketersediaan dan meningkatkan tingkat keberhasilan event skala keluar.

3. Buat konfigurasi penskalaan.

   1. Di halaman Scaling Groups, temukan grup penskalaan yang telah Anda buat dan klik ID grup penskalaan tersebut.

   2. Klik tab Instance Configuration Source.

   3. Di tab Scaling Configurations, klik Create Scaling Configuration.

   4. Di halaman Create Scaling Configuration, konfigurasikan parameter, lalu klik Create.

      Tabel berikut menjelaskan parameter yang dikonfigurasi dalam tutorial ini. Untuk parameter yang tidak tercantum, gunakan pengaturan default. Untuk informasi lebih lanjut tentang cara mengonfigurasi konfigurasi penskalaan, lihat Create a scaling configuration for ECS instances.

      Bagian	Parameter	Contoh	Deskripsi
      Basic Information	Scaling Configuration Name	test	Masukkan nama untuk konfigurasi penskalaan. Untuk informasi tentang persyaratan format, lihat petunjuk di layar.
      	Billing Method	Spot instance	Auto Scaling adalah layanan gratis, tetapi Anda dikenai biaya untuk Instance ECS yang ditambahkan. Dalam tutorial ini, digunakan spot instance. Untuk informasi lebih lanjut, lihat Billing overview.
      Image and instance	Instance Configuration Mode	Specify instance pattern	Pilih Specify instance pattern untuk mengonfigurasi spesifikasi Instance ECS.
      	Instance Attribute Combination	2 vCPUs, 4 GiB memory, Enterprise-level	Tentukan kebutuhan vCPU dan memori untuk Instance ECS.
      	Select Image	test	Pilih gambar untuk men-deploy Instance ECS. Untuk lingkungan produksi, gunakan custom image yang berisi aplikasi Anda.
      Storage	System Disk	ESSD, 40 GiB, PL0	Pilih disk sistem untuk Instance ECS.
      Network and security group	Security Group	sg-bp18kz60mefsicfg****	Pilih grup keamanan yang telah Anda buat. Untuk membuat grup keamanan, lihat Create a security group.
      Management settings	Logon Credentials	Set later	Tentukan kata sandi untuk instans secara manual setelah instans dibuat.

4. Setelah membuat konfigurasi penskalaan, ikuti petunjuk di layar untuk mengaktifkan konfigurasi penskalaan dan grup penskalaan.

Results

Dengan jumlah instans minimum diatur ke 100, grup penskalaan secara otomatis men-deploy 100 Instance ECS setelah diaktifkan, menyeimbangkannya di zona ketersediaan yang dipilih untuk membentuk kluster komputasi. Ketersediaan tinggi dan penghematan biaya dicapai sebagai berikut:

• Jika suatu zona ketersediaan memiliki stok tidak mencukupi, Auto Scaling secara otomatis mencoba men-deploy Instance ECS di zona lain yang dipilih, sehingga meminimalkan dampak terhadap aplikasi Anda.

• Ketika spot instance ditarik kembali, grup penskalaan secara otomatis membuat penggantinya. Grup penskalaan juga menghapus instans yang tidak sehat dan menggantinya.

Next steps

Jika stok tidak mencukupi mencegah distribusi Instance ECS yang merata, Anda dapat menyeimbangkan ulang grup penskalaan untuk memperbaiki distribusi di berbagai zona ketersediaan. Untuk informasi lebih lanjut, lihat Rebalance ECS instances.