Container Service for Kubernetes:Elastisitas serverless pada virtual node

Apa itu virtual node

Dalam Kluster ACK, node merupakan unit dasar yang menyediakan resource komputasi dan penyimpanan untuk menjalankan beban kerja. Sebagian besar Kluster ACK memiliki setidaknya satu node pool ECS. Saat Pod dibuat, kubelet akan menjadwalkannya ke node ECS dalam node pool tersebut. Mode penjadwalan ini ideal untuk aplikasi dengan traffic stabil, namun kurang efektif menangani lonjakan traffic karena proses pembuatan dan pengaktifan instans ECS memakan waktu. Virtual node memungkinkan Anda menjadwalkan Pod secara langsung di Alibaba Cloud Elastic Container Instance (ECI), sehingga mengurangi beban operasional manajemen node dan menurunkan biaya dengan menghindari resource node yang menganggur.

Virtual node menggunakan Komponen ack-virtual-node untuk mengenkapsulasi resource komputasi, sehingga memungkinkan Anda men-deploy beban kerja tanpa mengelola infrastruktur yang mendasarinya. Komponen ini secara otomatis menjadwalkan Pod aplikasi untuk berjalan di ECI. ECI adalah layanan kontainer serverless di mana setiap instans ECI setara dengan sebuah Pod. Saat menggunakan ECI untuk men-deploy aplikasi terkontainerisasi, Anda cukup menyediakan container image dan hanya membayar resource yang dikonsumsi oleh kontainer Anda.

Manfaat

Virtual node memberikan manfaat sebagai berikut:

• Dikelola sepenuhnya: Anda tidak perlu membuat pool resource dasar, sehingga mengurangi beban kerja O&M. Virtual node merupakan resource yang dikelola penuh dan tidak memerlukan operasi O&M rutin untuk node Kubernetes, seperti upgrade sistem atau instalasi patch keamanan.

• Kapasitas besar: Anda dapat melakukan scale-out hingga maksimal 50.000 Pod tanpa perencanaan kapasitas.

  Penting

  Jika banyak Pod dikaitkan dengan layanan, sebaiknya batasi jumlah Pod dalam kisaran 20.000.

• Elastisitas dalam hitungan detik: Anda dapat membuat ribuan Pod dalam waktu singkat. Hal ini mencegah latensi pembuatan Pod memengaruhi layanan selama lonjakan traffic.

• Isolasi aman: Pod dibuat berdasarkan ECI. Setiap instans kontainer terisolasi secara kuat dari yang lain menggunakan teknologi kontainer sandbox ringan.

• Hemat biaya: Aplikasi dibuat sesuai permintaan dan ditagih berdasarkan metode pay-as-you-go. Anda tidak dikenakan biaya untuk resource yang menganggur. Arsitektur serverless juga mengurangi biaya O&M.

Skenario

Virtual node cocok untuk skenario berikut:

• Layanan online

  Untuk layanan online yang sering mengalami lonjakan traffic, seperti pendidikan online dan e-commerce, virtual node mendukung penskalaan dalam hitungan detik. Hal ini mencegah kegagalan sistem akibat scale-out yang lambat selama lonjakan traffic dan menghindari pemborosan resource yang menganggur.

• Pemrosesan data

  Untuk memproses banyak task data online secara konkuren, seperti task Spark dan Presto, konkurensi tidak lagi dibatasi oleh biaya resource dasar. Anda dapat dengan cepat melakukan scale-out ke ribuan Pod untuk memenuhi kebutuhan pemrosesan big data.

• Task AI

  Untuk task AI seperti pelatihan model dan inferensi model yang tidak berjalan terus-menerus namun memerlukan resource komputasi signifikan, Anda tidak perlu mencadangkan resource. Gunakan resource sesuai permintaan dan bayar per detik untuk mengurangi biaya inferensi AI. Selain itu, elastisitas tingkat detik memungkinkan Anda merespons beban kerja mendadak dengan cepat.

• Lingkungan staging CI/CD

  Untuk task pengujian batch dalam proses CI/CD, seperti pengemasan CI, uji stres, dan pengujian simulasi, Anda dapat menggunakan virtual node untuk membuat dan melepaskan instans kontainer kapan saja. Anda dapat menggunakan resource sesuai permintaan dan dikenakan biaya per detik. Pendekatan ini menyediakan resource berskala besar dengan biaya rendah.

• Job dan CronJob

  Job dan CronJob tidak perlu berjalan terus-menerus. Setelah job selesai, job akan berhenti dan Pod terkait akan dihapus. Dengan virtual node, penagihan berhenti dan resource komputasi dilepaskan secara otomatis saat job selesai, sehingga menghindari pemborosan akibat resource yang menganggur.