Lapisan kontrol kluster ACK Pro menggunakan arsitektur autoscaling. Pada kluster ultra-besar atau skenario dengan lonjakan lalu lintas konkurensi tinggi secara tiba-tiba, latensi respons dari autoscaling dapat memengaruhi kelangsungan bisnis. Lapisan kontrol preset ACK Pro menghilangkan ketidakpastian ini dengan mengalokasikan dan mendedikasikan sumber daya lapisan kontrol sejak awal, sehingga memastikan kapasitas konkurensi permintaan API dan penjadwalan Pod tetap berada pada tingkat yang tinggi dan dapat diprediksi. Fitur ini ideal untuk pelatihan dan inferensi AI, kluster ultra-besar, serta workload penting.
Kluster ACK Pro dapat menyesuaikan konfigurasi sumber daya komponen lapisan kontrol seperti API Server dan etcd secara dinamis berdasarkan beban aktual kluster. Pendekatan ini cocok untuk sebagian besar skenario umum. Namun, untuk kluster ultra-besar atau skenario dengan lonjakan lalu lintas konkurensi tinggi secara tiba-tiba, latensi respons dari autoscaling dapat memengaruhi kelangsungan bisnis. Misalnya, saat Anda menjalankan sejumlah besar Pod secara batch untuk pelatihan AI berskala besar, Anda mungkin mengalami antrean penjadwalan atau bahkan Pod yang tidak valid. Selama jam sibuk, respons API yang lambat dapat berdampak pada kelangsungan bisnis.
Lapisan kontrol preset ACK Pro menghilangkan ketidakpastian autoscaling dengan mendedikasikan sumber daya lapisan kontrol dan menetapkan konfigurasi garis dasar untuk API Server. Alih-alih mengandalkan mekanisme reaktif untuk mengejar ketinggalan, pendekatan ini memastikan bahwa kinerja lapisan kontrol selalu dapat diprediksi.
Lapisan kontrol preset ACK Pro berjalan secara paralel dengan lapisan kontrol ACK Pro standar. Pengenalan mode preset tidak memengaruhi operasi kluster yang sudah ada.
Kasus penggunaan
Pelatihan dan inferensi AI
Pekerjaan pelatihan AI berskala besar dapat melibatkan pembuatan dan penjadwalan puluhan ribu Pod secara konkuren, dan sering kali memerlukan komputasi yang dimulai segera setelah penjadwalan. Latensi autoscaling pada lapisan kontrol standar dapat menyebabkan Pod tidak valid atau mengganggu proses pelatihan. Lapisan kontrol preset memastikan kapasitas penjadwalan yang diperlukan siap sejak pelatihan dimulai.
Penerapan kluster berskala besar
Untuk skenario yang secara konsisten menangani konkurensi permintaan API tinggi, seperti aplikasi berbasis agen dan kluster layanan mikro, lapisan kontrol preset menyederhanakan O&M kluster besar melalui spesifikasi terstandarisasi.
Aplikasi web penting
Untuk layanan inti yang sensitif terhadap latensi, latensi respons lapisan kontrol dapat secara langsung memengaruhi ketersediaan layanan. Lapisan kontrol preset menyediakan konkurensi permintaan API dan laju penjadwalan Pod yang deterministik guna memastikan kelangsungan bisnis.
Tingkat
Spesifikasi tingkat
Lapisan kontrol preset tersedia dalam tiga tingkat. Setiap tingkat menentukan kapasitas lapisan kontrol berdasarkan tiga metrik inti.
Tabel berikut mencantumkan batas atas kapasitas lapisan kontrol. Kinerja aktual juga bergantung pada pola workload, konfigurasi, dan kepatuhan terhadap praktik terbaik Kubernetes. Kami merekomendasikan agar Anda mengonfigurasi kluster dan workload sesuai dengan praktik terbaik kami.
Akses ke tingkat Pro 4XL memerlukan daftar izin (allowlist). Hubungi dukungan pelanggan untuk meminta akses.
Metrik kinerja | Pro XL | Pro 2XL | Pro 4XL |
Concurency permintaan API (Seats)① | 3.900 | 7.800 | 15.600 |
Laju penjadwalan Pod (Pod/detik)② | 200 | 400 | 600 |
Ukuran database etcd (GB)③ | 16 | 16 | 16 |
Deskripsi metrik:
① Concurency permintaan API (Seats): Mengukur kapasitas pemrosesan permintaan konkuren maksimum dari API Server, yang dinyatakan dalam Seats. Lapisan kontrol preset memastikan kapasitas penanganan permintaan yang konsisten dalam skenario konkurensi tinggi dengan mendedikasikan sumber daya garis dasar ke API Server.
② Laju penjadwalan Pod (Pod/detik): Laju penugasan Pod ke node oleh penjadwal kluster. Lapisan kontrol preset menjamin laju penjadwalan yang dapat diprediksi melalui kuota sumber daya tetap.
③ Ukuran database etcd: Kapasitas database key-value yang menyimpan seluruh status kluster. Lapisan kontrol preset menggunakan arsitektur etcd khusus (kluster Pro standar berbagi 8 GB). Beberapa tingkat juga mendukung penyimpanan terpisah untuk data Event guna mencegah tulisan Event frekuensi tinggi memengaruhi operasi status inti.
Aturan perpindahan tingkat
Anda dapat melakukan peningkatan dan penurunan antara tingkat Pro, Pro XL, Pro 2XL, dan Pro 4XL, misalnya dari Pro ke Pro XL atau dari Pro XL ke Pro 2XL.
Untuk mengaktifkan tingkat Pro 4XL, hubungi dukungan pelanggan agar akun Anda ditambahkan ke daftar izin (allowlist).
Anda tidak dapat beralih ke kluster ACK Basic.
Perpindahan tingkat otomatis tidak didukung. Setelah suatu tingkat dipilih, lapisan kontrol beroperasi pada spesifikasi tetap tersebut untuk memastikan kinerja yang dapat diprediksi. Untuk menyesuaikan kapasitas sesuai workload Anda, Anda harus memantau metrik lapisan kontrol dan secara manual melakukan peningkatan atau penurunan tingkat.
Lapisan kontrol standar vs. lapisan kontrol preset
Dimensi | Lapisan kontrol ACK Pro standar | Lapisan kontrol preset ACK Pro |
Konfigurasi sumber daya lapisan kontrol | Auto scaling, disesuaikan secara dinamis berdasarkan beban | Kapasitas tetap yang dialokasikan di awal, selalu mencukupi |
Jaminan konkurensi API | Dinamis, dibatasi hingga tingkat Pro XL | Setiap tingkat memiliki spesifikasi Seats yang ditentukan |
Jaminan laju penjadwalan Pod | Dinamis, dibatasi hingga tingkat Pro XL | Setiap tingkat memiliki nilai Pod/detik yang ditentukan |
Konfigurasi etcd | 8 GB | 16 GB |
Metode penagihan | paket sumber daya atau bayar sesuai pemakaian | hanya bayar sesuai pemakaian |
Kasus penggunaan | Workload umum yang dapat mentoleransi latensi auto scaling | Workload berskala besar dan konkurensi tinggi yang memerlukan kinerja yang dapat diprediksi |
Penagihan
Lapisan kontrol preset menggunakan logika penagihan yang sama dengan kluster ACK Pro.
Penagihan dilakukan per jam. Di awal setiap jam, sistem menagih Anda berdasarkan tingkat lapisan kontrol kluster Anda saat ini.
Setelah Anda mengganti tingkat, tarif penagihan baru berlaku mulai awal jam saat pergantian tersebut dilakukan. Misalnya, jika Anda beralih dari Pro ke Pro XL pada pukul 10:20, Anda akan ditagih dengan tarif Pro XL untuk seluruh siklus penagihan 10:00 hingga 11:00.
Hanya metode penagihan bayar sesuai pemakaian yang didukung. Paket sumber daya prabayar yang ada untuk kluster ACK Pro hanya berlaku untuk kluster ACK Pro standar dan tidak berlaku untuk tingkat lapisan kontrol preset yang baru.
Untuk informasi lebih lanjut, lihat Biaya manajemen kluster.
Perencanaan kapasitas dan pemantauan metrik
Untuk memutuskan apakah akan mengganti tingkat dan memilih kapasitas yang tepat, kami merekomendasikan untuk memantau dasbor berikut.
Metrik kapasitas inti
Pada halaman Cluster Information kluster Anda, buka tab Cluster Monitoring. Fokus pada metrik kapasitas berikut dan bandingkan dengan spesifikasi tingkat lapisan kontrol preset untuk memilih tingkat yang tepat:
Concurency permintaan API: Sesuai dengan spesifikasi Seats untuk setiap tingkat dan mencerminkan tekanan pemrosesan konkuren pada API Server.
Laju penjadwalan Pod: Amati jumlah permintaan penjadwalan Pod yang diproses per detik untuk menentukan apakah penjadwal menjadi bottleneck.
Ukuran database: Pantau penggunaan penyimpanan etcd untuk memastikan volume data berada dalam batas aman tingkat saat ini.
Penggunaan sumber daya
Pada panel navigasi kiri halaman detail kluster, pilih .
Buka tab Key Component Monitoring, lalu alihkan antar tab komponen di bawah ini untuk melihat detailnya. Kami merekomendasikan agar Anda memantau penggunaan sumber daya memori dan CPU komponen API Server, etcd, dan scheduler. Jika tingkat penggunaan berada dalam kondisi
tinggi(utilisasi ≥ 80%) dalam periode yang berkelanjutan, hal ini menunjukkan bahwa sumber daya lapisan kontrol saat ini sedang mengalami tekanan. Segera lakukan peningkatan kluster ke tingkat yang lebih tinggi.Untuk deskripsi metrik lebih rinci, lihat dokumentasi terkait.
Catatan penggunaan
Untuk menemukan tingkat optimal bagi kluster Anda, alihkan ke tingkat yang lebih tinggi, jalankan uji stres yang mensimulasikan beban puncak, dan amati penggunaan sumber daya lapisan kontrol. Kemudian, pilih tingkat yang paling sesuai dengan data kinerja tersebut.
Batasan rollback: Database etcd lapisan kontrol ACK Pro standar memiliki batas kapasitas 8 GB. Jika penggunaan database etcd melebihi 8 GB saat kluster Anda berjalan dalam mode lapisan kontrol preset, Anda harus terlebih dahulu mengurangi ukuran database hingga di bawah 8 GB sebelum dapat kembali ke lapisan kontrol ACK Pro standar.
Scaling komponen bidang data: Setelah Anda mengaktifkan lapisan kontrol preset, kami merekomendasikan agar Anda juga memantau penggunaan sumber daya komponen bidang data, seperti CoreDNS dan metrics-server. Lakukan scaling komponen-komponen tersebut secara tepat berdasarkan beban aktual guna mencegah bidang data menjadi bottleneck kinerja.
Mulai
Anda dapat mengonfigurasi tingkat lapisan kontrol preset saat membuat kluster baru atau untuk kluster yang sudah ada.
Untuk meningkatkan kluster, lihat Tingkatkan kluster.
Kluster baru
Secara default, proses pembuatan sama seperti untuk kluster ACK Pro. Anda harus secara eksplisit memilih tingkat lapisan kontrol preset untuk mengaktifkan fitur ini.
Masuk ke Konsol Container Service for Kubernetes (ACK). Pada panel navigasi kiri, pilih Clusters, lalu klik Create Kubernetes Cluster.
Untuk informasi lebih lanjut, lihat Buat kluster ACK Pro.
Pada langkah Cluster Configurations, atur Cluster Specification ke tingkat lapisan kontrol preset (Pro XL, Pro 2XL, atau Pro 4XL) sesuai petunjuk.
Setelah kluster dibuat, lapisan kontrol berjalan dengan spesifikasi tingkat yang dipilih.
Kluster yang sudah ada
Untuk kluster ACK Pro yang sudah ada, periksa penggunaan sumber daya saat ini di dasbor pemantauan komponen lapisan kontrol. Anda kemudian dapat meningkatkan tingkat berdasarkan peringatan penggunaan sumber daya atau sebagai persiapan menghadapi trafik puncak.
Pada halaman Kluster ACK, klik nama kluster Anda. Pada panel navigasi kiri, klik Cluster Information.
Klik tab Basic Information. Pada bagian Basic Information, temukan area Cluster Specification dan ikuti petunjuk untuk mengaktifkan atau mengonfigurasi tingkat lapisan kontrol preset.
Referensi
Perjanjian Tingkat Layanan (SLA):
Fitur lapisan kontrol preset menambahkan tingkat kinerja baru ke kluster ACK Pro. Tingkat-tingkat ini menawarkan jaminan layanan yang sama seperti kluster ACK Pro standar.
Pemantauan komponen lapisan kontrol: