Elastic High Performance Computing:Konfigurasikan auto scaling

Manfaat

• Menambah compute node berdasarkan workload real-time untuk meningkatkan ketersediaan kluster.

• Menghapus compute node untuk mengurangi biaya sekaligus memastikan ketersediaan kluster.

• Meningkatkan fault tolerance dengan menghentikan node yang tidak sehat dan membuat node baru sebagai penggantinya.

Limitasi

• Auto scaling hanya didukung untuk kluster yang semua nodenya menjalankan sistem operasi Linux.

• Auto scaling hanya didukung untuk kluster yang menggunakan PBS, Slurm, Deadline, atau SGE (Open Grid Scheduler) sebagai scheduler.

• Auto scaling berdasarkan metrik memori tidak didukung.

  Penting

  Kami merekomendasikan agar Anda menentukan jumlah vCPU yang diperlukan saat mengirimkan job untuk mengaktifkan auto scaling. Ukuran memori untuk job tersebut tidak boleh melebihi kapasitas memori Instance ECS.

Catatan penggunaan

• Layanan auto scaling memerlukan scheduler dan layanan akun domain agar beroperasi secara normal. Setelah Anda mengaktifkan auto scaling, node manajemen harus tetap dalam status Running.

  Penting

  Jika Anda mematikan atau melakukan restart pada node manajemen, pastikan tidak ada job yang sedang berjalan di compute node dan auto scaling telah melepas semua node idle. Kami merekomendasikan agar Anda terlebih dahulu menonaktifkan auto scaling, lalu mengaktifkannya kembali setelah node manajemen selesai restart.

• Spesifikasi node manajemen yang direkomendasikan dan batas job bervariasi tergantung ukuran kluster. Untuk informasi selengkapnya, lihat Ikhtisar kluster.

  Ukuran kluster	Konfigurasi yang direkomendasikan untuk node manajemen	Rekomendasi Pekerjaan
  Jumlah compute node ≤ 100	vCPU ≥ 16 Memori ≥ 64 GiB	Jumlah job dalam antrian < 5.000 Jumlah job belum selesai < 10.000
  Jumlah compute node ≤ 500	vCPU ≥ 32 Memori ≥ 128 GiB	Jumlah job dalam antrian < 10.000 Jumlah job belum selesai < 20.000
  Jumlah compute node > 500	vCPU ≥ 64 Memori ≥ 256 GiB	Jumlah job dalam antrian < 10.000 Jumlah job belum selesai < 20.000

Prosedur

1. Buka halaman Auto Scale.

   1. Login ke Konsol E-HPC.

   2. Pada bilah navigasi atas, pilih wilayah.

   3. Pada panel navigasi kiri, pilih Elasticity > Auto Scale.

2. Pada halaman Auto Scale, pilih kluster tempat Anda ingin mengonfigurasi auto scaling dari daftar kluster.

3. Pada bagian Global Configurations, konfigurasikan parameter-parameter berikut.

   Parameter	Deskripsi
   Enable Autoscale	Mengaktifkan scale-out dan scale-in otomatis untuk semua queue dalam kluster. Catatan Jika pengaturan spesifik queue bertentangan dengan pengaturan global, pengaturan spesifik queue akan diutamakan.
   Compute Nodes	Rentang jumlah compute node yang diizinkan dalam kluster setelah aktivitas penskalaan. Batas atas adalah jumlah total maksimum node yang ditentukan untuk semua queue dalam kluster. Batas bawah adalah jumlah total minimum node yang ditentukan untuk semua queue.
   Scale-in Time (minutes)	Sistem melepas compute node jika waktu idle terus-menerus melebihi nilai ini. Waktu idle terus-menerus = Interval scale-in × Jumlah pemeriksaan idle berturut-turut. Interval scale-in default adalah 2 menit. Jumlah pemeriksaan idle berturut-turut adalah jumlah kali suatu node ditemukan idle selama pemeriksaan penyusutan resource.
   ImageType	Tipe image untuk node baru. Hanya image yang sesuai dengan image compute node yang sudah ada dalam kluster yang didukung.
   Exception Node List	Node yang dikecualikan dari auto scaling. Jika Anda ingin mempertahankan suatu node secara permanen, Anda dapat menambahkannya ke daftar exception. Sistem tidak akan melepas node exception, meskipun node tersebut idle.
   Hyper-threading	Secara default, Hyper-Threading (HT) diaktifkan untuk semua Instance ECS. Untuk beberapa tipe instans, Anda dapat menonaktifkan HT untuk mencapai kinerja yang lebih baik. Untuk informasi selengkapnya, lihat Ubah opsi CPU dan Nonaktifkan Hyper-Threading CPU untuk meningkatkan kinerja kluster.

4. Pada bagian Queue Configuration, pilih sebuah queue, lalu klik Edit untuk mengonfigurasi parameter.

   Parameter	Deskripsi
   Auto Grow dan Auto Shrink	Menentukan apakah akan mengaktifkan scale-out dan scale-in otomatis. Fitur ini dinonaktifkan secara default. Catatan Jika pengaturan spesifik queue bertentangan dengan pengaturan global, pengaturan spesifik queue akan diutamakan.
   Queue Compute Nodes	Rentang jumlah compute node yang diizinkan dalam queue. Maximum: Nilai ini memengaruhi scale-out. Nilai valid: 0 hingga 5.000. Minimum: Nilai ini memengaruhi scale-in. Nilai valid: 0 hingga 1.000. Penting Jika Anda menetapkan jumlah minimum node ke nilai selain 0, sistem akan mempertahankan jumlah node yang ditentukan dalam queue selama event scale-in, meskipun node tersebut idle. Atur parameter ini dengan hati-hati untuk mencegah pemborosan resource dan biaya yang tidak perlu.
   Hostname Prefix	Awalan hostname node, digunakan untuk membedakan node di queue yang berbeda.
   Maximum Nodes in Each Round of Scale-out	Jumlah maksimum node yang ditambahkan dalam setiap siklus auto scaling. Nilai default adalah 0, yang berarti tidak ada batasan. Jika Anda memiliki batasan biaya, atur parameter ini untuk membatasi jumlah node yang ditambahkan. Asumsikan Anda menetapkan parameter ini ke A dan jumlah node yang dibutuhkan oleh job dalam antrian adalah B. Aturan berikut berlaku: Jika B ≤ A, maka B node ditambahkan. Jika B > A, hanya A node yang ditambahkan. Catatan Jumlah node yang akan ditambahkan juga dibatasi oleh jumlah maksimum node yang diizinkan untuk queue dan kluster.
   Minimum Nodes in Each Round of Scale-out	Jumlah minimum node yang ditambahkan dalam setiap siklus auto scaling. Nilai default adalah 1. Dalam beberapa skenario, Anda mungkin perlu menambahkan jumlah minimum node untuk memastikan layanan Anda dapat berjalan. Dalam kasus ini, Anda dapat mengatur parameter ini. Jika resource tidak mencukupi untuk menambah jumlah minimum node yang ditentukan, sistem tidak akan menambahkan node apa pun. Hal ini mencegah pemborosan resource. Asumsikan Anda menetapkan parameter ini ke A dan jumlah node yang dibutuhkan oleh job dalam antrian adalah B. Aturan berikut berlaku: Jika B ≤ A, maka B node ditambahkan. Jika resource tidak mencukupi untuk menambahkan B node, tidak terjadi scale-out. Jika B > A, maka B node ditambahkan. Jika resource tidak mencukupi untuk menambahkan B node, sistem mencoba menambahkan minimal A node. Jika A node tidak dapat ditambahkan, tidak terjadi scale-out.
   Automatic Configuration of the Minimum Node Number for Each Scale-out	Jika Anda mengaktifkan sakelar ini, jumlah minimum node untuk setiap scale-out sama dengan jumlah node yang dibutuhkan oleh job, hingga maksimal 99.
   Hostname Suffix	Akhiran hostname node, digunakan untuk membedakan node di queue yang berbeda.
   ImageType	Tipe image untuk node yang ditambahkan ke satu queue. Anda dapat mengonfigurasi tipe image yang berbeda untuk queue yang berbeda.
   Image ID	ID image untuk node baru. Anda dapat mengonfigurasi ID image yang berbeda untuk queue yang berbeda. Catatan Parameter ini spesifik untuk queue saat ini. Jika Anda tidak menentukan tipe image atau Image ID untuk queue, image node yang ditambahkan bergantung pada tipe image yang ditentukan dalam konfigurasi global. Jika Anda tidak menentukan tipe image dalam konfigurasi global, node yang ditambahkan menggunakan tipe image default kluster.
   Whether instance types are unordered	Jika Anda mengaktifkan sakelar ini, auto scaling memprioritaskan tipe instans dengan ketersediaan tertinggi.
   Configuration List	Konfigurasi untuk instans baru. Daftar konfigurasi mencakup informasi berikut: Zone: Zona ketersediaan dalam wilayah kluster. vSwitch ID: ID vSwitch yang berada di zona ketersediaan dan terkait dengan VPC kluster. Instance Type: Tipe instans untuk compute node baru dalam sebuah queue. Catatan Jika beberapa tipe instans dikonfigurasi untuk sebuah queue, auto scaling memilih tipe instans untuk scale-out berdasarkan urutan konfigurasi, ketersediaan stok, dan kebutuhan job terhadap task dan GPU. Misalnya, sebuah job dalam antrian memerlukan satu node dengan 16 core. Queue dikonfigurasi dengan tipe instans 8-core, 16-core, dan 32-core. Auto scaling memilih tipe instans 16-core untuk scale-out. Namun, jika tipe instans 16-core kehabisan stok, auto scaling memilih tipe instans 32-core. Bid Strategy: Strategi penawaran untuk instans baru. Anda dapat membuat preemptible instance. Maximum Hourly Price: Parameter ini tersedia hanya ketika Anda menetapkan Bid Strategy ke Set Maximum Price untuk preemptible instance.
   System Disk	Konfigurasi disk sistem untuk instans baru.
   Data Disk	Disk data yang akan disambungkan ke instans baru. Anda dapat mengonfigurasi tipe disk data, ukuran, dan tingkat kinerja sesuai kebutuhan bisnis, serta menentukan apakah akan mengenkripsi disk data dan melepaskannya bersama instans.

5. Di pojok kanan atas halaman, baca dan pilih Alibaba Cloud International Website Product Terms of Service, lalu klik OK.

6. (Opsional) Lihat diagram auto scaling kluster.

   Diagram auto scaling kluster menunjukkan bagaimana jumlah node berubah seiring waktu dan durasi event scale-out serta scale-in instans pada titik-titik kunci dalam proses auto scaling, berdasarkan kebijakan penskalaan yang Anda konfigurasikan.

   Catatan

   Anda juga dapat menetapkan jumlah node konkuren di area diagram untuk mensimulasikan perubahan compute node selama auto scaling.