Aktifkan penskalaan otomatis untuk kelompok node - Container Service for Kubernetes

Jika sumber daya yang dialokasikan di kluster Anda tidak mencukupi untuk menjadwalkan pod aplikasi akibat permintaan tinggi, Anda dapat mengaktifkan fitur penskalaan otomatis pada kluster terdaftar ACK One guna memperluas kapasitas node secara otomatis dan menambah sumber daya yang tersedia untuk penjadwalan. Tersedia dua solusi elastisitas: penyesuaian otomatis node dan penskalaan instan node. Solusi kedua menawarkan penskalaan lebih cepat, efisiensi pengiriman lebih tinggi, serta kompleksitas operasional lebih rendah.

Prasyarat

Anda telah membuat kelompok node.
Anda telah membaca penskalaan node untuk memahami prinsip kerja dan fitur-fiturnya.

Langkah 1: Konfigurasi izin RAM

Buat pengguna RAM dan berikan kebijakan kustom berikut kepada pengguna tersebut. Untuk informasi selengkapnya, lihat Gunakan RAM untuk memberikan otorisasi akses ke kluster dan sumber daya cloud.

Klik untuk melihat dokumen kebijakan kustom

{
  "Version": "1",
  "Statement": [
    {
      "Action": [
        "ess:DescribeScalingGroups",
        "ess:DescribeScalingInstances",
        "ess:DescribeScalingActivities",
        "ess:DescribeScalingConfigurations",
        "ess:DescribeScalingRules",
        "ess:DescribeScheduledTasks",
        "ess:DescribeLifecycleHooks",
        "ess:DescribeNotificationConfigurations",
        "ess:DescribeNotificationTypes",
        "ess:DescribeRegions",
        "ess:CreateScalingRule",
        "ess:ModifyScalingGroup",
        "ess:RemoveInstances",
        "ess:ExecuteScalingRule",
        "ess:ModifyScalingRule",
        "ess:DeleteScalingRule",
        "ecs:DescribeInstanceTypes",
        "ess:DetachInstances",
        "ess:CompleteLifecycleAction",
        "ess:ScaleWithAdjustment",
        "ess:DescribePatternTypes",
        "vpc:DescribeVSwitches",
        "cs:DeleteClusterNodes",
        "cs:DescribeClusterNodes",
        "cs:DescribeClusterNodePools",
        "cs:DescribeClusterNodePoolDetail",
        "cs:DescribeTaskInfo",
        "cs:ScaleClusterNodePool",
        "cs:RemoveNodePoolNodes",
        "ecs:DescribeAvailableResource",
        "ecs:DescribeInstanceTypeFamilies",
        "ecs:DescribeInstances",
        "cs:GetClusterAddonInstance",
        "cs:DescribeClusterDetail",
        "ecs:DescribeCapacityReservations",
        "ecs:DescribeElasticityAssurances",
        "ecs:DescribeImages"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

Masuk ke Konsol ACK. Di panel navigasi kiri, klik Clusters.
Di halaman Clusters, klik nama kluster yang ingin Anda ubah. Di panel navigasi kiri, pilih Configurations > Secrets.

Langkah 2: Konfigurasi solusi penskalaan node

Aktifkan penyesuaian otomatis node

Masuk ke Konsol ACK. Di panel navigasi kiri, klik Clusters.
Di halaman Clusters temukan kluster yang akan dikelola lalu klik namanya. Di panel navigasi kiri, pilih Nodes > Node Pools.
Jika Anda menggunakan fitur penyesuaian otomatis node untuk pertama kalinya, ikuti petunjuk di layar untuk mengaktifkan layanan ESS.

Aktifkan penskalaan instan node

Masuk ke Konsol ACK. Di panel navigasi kiri, klik Clusters.
Di halaman Clusters, temukan kluster yang akan dikelola lalu klik namanya. Di panel navigasi kiri, pilih Nodes > Node Pools.
Jika Anda menggunakan fitur penskalaan otomatis kluster untuk pertama kalinya, ikuti petunjuk di layar untuk mengaktifkan layanan ESS.

Di halaman Node Scaling Configuration, atur Node Scaling Solution menjadi Instant Elasticity, konfigurasi parameter penskalaan, lalu klik OK.

Saat penskalaan elastis dilakukan, komponen penskalaan secara otomatis memicu skala keluar berdasarkan status penjadwalan.

Anda dapat mengganti solusi penskalaan node setelah dipilih. Untuk mengganti solusi, ubah menjadi Penyesuaian Otomatis Node. Baca dengan cermat pesan di layar dan ikuti instruksinya. Fitur ini hanya tersedia bagi pengguna dalam daftar putih. Untuk menggunakannya, ajukan tiket.

Item konfigurasi	Deskripsi
Scale-in Threshold
GPU Scale-in Threshold
Scale-in Trigger Delay

Lihat deskripsi item konfigurasi lanjutan

Item konfigurasi	Deskripsi
Pod Deletion Timeout	Jumlah maksimum waktu yang ditunggu hingga pod pada suatu node dihentikan selama skala-masuk node. Satuan: detik.
Minimum Pod Replicas	Jumlah minimum pod yang diizinkan dalam setiap Set Replika sebelum skala-masuk node. Jika jumlah replika aktual dalam Set Replika tempat pod berada lebih kecil dari nilai ini, node tidak akan diskala-masukkan.
Enable DaemonSet Pod Draining	Jika Anda mengaktifkan fitur ini, pod DaemonSet pada suatu node akan diusir saat node tersebut diskala-masukkan.
Skip Nodes With Pods In The Kube-system Namespace	Jika Anda mengaktifkan fitur ini, sistem dapat mengabaikan node yang menjalankan pod di namespace kube-system selama skala-masuk node otomatis. Hal ini memastikan bahwa node tersebut tidak terpengaruh oleh skala-masuk. Catatan Fitur ini tidak berlaku untuk pod DaemonSet dan pod cermin.

Langkah 3: Konfigurasi kelompok node dengan penskalaan otomatis diaktifkan

Anda dapat memodifikasi kelompok node yang sudah ada dengan mengubah Scaling Mode menjadi Auto, atau membuat kelompok node baru dengan penskalaan otomatis diaktifkan. Konfigurasi utamanya adalah sebagai berikut:

Parameter	Deskripsi
Scaling Mode	Dukungan mode penskalaan Manual dan Auto. Sumber daya komputasi disesuaikan secara otomatis sesuai kebutuhan dan kebijakan untuk mengurangi biaya kluster. Manual: ACK menyesuaikan jumlah node dalam kelompok node berdasarkan nilai parameter Expected Nodes. Jumlah node selalu sama dengan nilai parameter Expected Nodes. Untuk informasi selengkapnya, lihat Penskalaan manual kelompok node. Auto: Ketika perencanaan kapasitas kluster tidak dapat memenuhi kebutuhan penjadwalan pod, ACK secara otomatis memperluas kapasitas node berdasarkan jumlah minimum dan maksimum instans yang dikonfigurasi. Secara default, penskalaan instan node diaktifkan untuk kluster yang menjalankan Kubernetes 1.24 dan versi lebih baru, sedangkan penyesuaian otomatis node diaktifkan untuk kluster yang menjalankan versi Kubernetes sebelum 1.24. Untuk informasi selengkapnya, lihat Penskalaan node.
Instances	Parameter Min. Instances dan Max. Instances yang ditentukan untuk kelompok node tidak termasuk instans yang sudah ada. Catatan Jika Anda mengatur Min. Instances di atas nol, grup penskalaan akan secara otomatis membuat jumlah instans ECS yang ditentukan saat perubahan diterapkan. Konfigurasikan Max. Instances agar tidak lebih rendah dari jumlah node saat ini dalam kelompok node. Jika tidak, skala turun akan langsung dipicu begitu penskalaan otomatis mulai berlaku.
Parameter terkait instans	Pilih instans ECS yang digunakan oleh kelompok node pekerja berdasarkan tipe instans atau atributnya. Anda dapat menyaring keluarga instans berdasarkan atribut seperti vCPU, memori, keluarga instans, dan arsitektur. Untuk informasi selengkapnya tentang spesifikasi instans yang tidak didukung oleh ACK dan cara mengonfigurasi node, lihat Rekomendasi tipe instans ECS. Saat kelompok node diperluas kapasitasnya, instans ECS dengan tipe instans yang dipilih akan dibuat. Kebijakan penskalaan kelompok node menentukan tipe instans mana yang digunakan untuk membuat node baru selama aktivitas skala keluar. Pilih beberapa tipe instans untuk meningkatkan tingkat keberhasilan operasi skala keluar kelompok node. Tipe instans dari node dalam kelompok node. Jika Anda hanya memilih satu tipe, fluktuasi stok instans ECS akan memengaruhi tingkat keberhasilan penskalaan. Kami merekomendasikan memilih beberapa tipe instans untuk meningkatkan tingkat keberhasilan penskalaan. Pilih instans ECS yang digunakan oleh kelompok node pekerja berdasarkan tipe instans atau atributnya. Anda dapat menyaring keluarga instans berdasarkan atribut seperti vCPU, memori, keluarga instans, dan arsitektur. Untuk informasi selengkapnya tentang spesifikasi instans yang tidak didukung oleh ACK dan cara mengonfigurasi node, lihat Rekomendasi spesifikasi ECS untuk kluster ACK. Saat kelompok node diperluas kapasitasnya, instans ECS dengan tipe instans yang dipilih akan dibuat. Kebijakan penskalaan kelompok node menentukan tipe instans mana yang digunakan untuk membuat node baru selama aktivitas skala keluar. Pilih beberapa tipe instans untuk meningkatkan tingkat keberhasilan operasi skala keluar kelompok node.
Operating System	Saat Anda mengaktifkan penskalaan otomatis, Anda dapat memilih citra berbasis Alibaba Cloud Linux, Windows, atau Windows Core. Jika Anda memilih citra berbasis Windows atau Windows Core, sistem secara otomatis menambahkan taint `{ effect: 'NoSchedule', key: 'os', value: 'windows' }` ke node dalam kelompok node.
Node Labels	Label node secara otomatis ditambahkan ke node yang ditambahkan ke kluster melalui aktivitas skala keluar. Penting Penskalaan otomatis hanya dapat mengenali label node dan taint setelah label node dan taint tersebut dipetakan ke tag kelompok node. Kelompok node hanya dapat memiliki jumlah tag terbatas. Oleh karena itu, Anda harus membatasi jumlah total tag ECS, taint, dan label node dari kelompok node yang memiliki penskalaan otomatis diaktifkan menjadi kurang dari 12.
Scaling Policy	Priority: Sistem menskalakan kelompok node berdasarkan prioritas vSwitch yang Anda pilih untuk kelompok node tersebut. Daftar yang Anda pilih ditampilkan dalam urutan prioritas menurun. Jika Auto Scaling gagal membuat instans ECS di zona vSwitch dengan prioritas tertinggi, Auto Scaling akan mencoba membuat instans ECS di zona vSwitch dengan prioritas berikutnya. Cost Optimization: Sistem membuat instans berdasarkan harga satuan vCPU secara menaik. Jika parameter Billing Method kelompok node diatur ke Spot Instance, instans tersebut akan dibuat secara preferensial. Anda juga dapat mengatur parameter Percentage Of Pay-as-you-go Instances. Jika instans spot tidak dapat dibuat karena alasan seperti stok tidak mencukupi, instans berbayar sesuai penggunaan akan secara otomatis dibuat sebagai pelengkap. Distribution Balancing: Kebijakan distribusi merata hanya berlaku ketika Anda memilih beberapa vSwitch. Kebijakan ini memastikan bahwa instans ECS tersebar merata di antara zona (vSwitch) dalam grup penskalaan. Jika distribusi tidak merata karena alasan seperti stok tidak mencukupi, Anda dapat melakukan operasi penyeimbangan ulang.
Use Pay-as-you-go Instances When Preemptible Instances Are Insufficient	Anda harus mengatur parameter Metode Penagihan ke Instans Preemptible. Setelah fitur ini diaktifkan, jika instans preemptible yang cukup tidak dapat dibuat karena kendala harga atau inventaris, ACK secara otomatis membuat instans berbayar sesuai penggunaan untuk memenuhi jumlah instans ECS yang diperlukan.
Enable Supplemental Spot Instances	Anda harus mengatur parameter Metode Penagihan ke Instans Spot. Setelah fitur ini diaktifkan, ketika sistem menerima pesan bahwa instans spot akan ditarik kembali (5 menit sebelum penarikan), ACK akan mencoba memperluas kapasitas dengan membuat instans baru sebagai kompensasi. Jika kompensasi berhasil, ACK akan mengosongkan dan menghapus node lama dari kluster. Jika kompensasi gagal, ACK tidak akan mengosongkan node lama tersebut. Pelepasan aktif instans spot dapat menyebabkan gangguan layanan. Setelah kegagalan kompensasi, ketika stok tersedia kembali atau kondisi harga terpenuhi, ACK akan secara otomatis membeli instans untuk mempertahankan jumlah node yang diharapkan. Untuk detailnya, lihat Praktik terbaik untuk kelompok node berbasis instans spot. Untuk meningkatkan tingkat keberhasilan kompensasi, kami merekomendasikan mengaktifkan Use Pay-as-you-go Instances When Spot Instances Are Insufficient secara bersamaan.
Scaling Mode	Anda harus mengaktifkan Node Scaling di halaman Node Pools dan mengatur Scaling Mode kelompok node menjadi Auto. Standard: Penskalaan otomatis diimplementasikan dengan membuat dan melepaskan instans ECS. Swift: Penskalaan otomatis diimplementasikan dengan membuat, menghentikan, dan menjalankan kembali instans ECS. Instans dalam status dihentikan dapat langsung dijalankan kembali untuk mempercepat penskalaan. Saat instans ECS dihentikan, hanya biaya disk yang dikenakan. Biaya komputasi tidak dikenakan. Aturan ini tidak berlaku untuk keluarga instans yang menggunakan disk lokal, seperti keluarga instans data besar dan SSD lokal. Untuk informasi selengkapnya tentang aturan penagihan dan batasan mode hemat, lihat mode hemat.
Taints	Setelah Anda menambahkan taint ke suatu node, ACK tidak lagi menjadwalkan pod ke node tersebut.

Langkah 4: (Opsional) Verifikasi hasil

Setelah menyelesaikan langkah-langkah di atas, Anda dapat menggunakan fitur penyesuaian otomatis node. Kelompok node menunjukkan bahwa penskalaan otomatis telah dimulai dan komponen cluster-autoscaler secara otomatis diinstal di kluster.

Penskalaan otomatis diaktifkan untuk kelompok node

Di halaman Node Pools, kelompok node yang memiliki penskalaan otomatis diaktifkan ditampilkan dalam daftar kelompok node.

Komponen cluster-autoscaler diinstal

Di panel navigasi kiri halaman detail, pilih Workloads > Deployments.
Pilih namespace kube-system untuk melihat komponen cluster-autoscaler.