Container Service for Kubernetes:Ringkasan praktik terbaik untuk kluster ACK yang dikelola dan kluster khusus ACK

Kategori

Referensi

Inferensi LLM

• Men-deploy layanan inferensi model distilled DeepSeek di ACK

• Memulai penggunaan model bahasa besar di ACK

• Menggunakan vLLM untuk men-deploy layanan inferensi model Qwen

• Menggunakan rtp-llm untuk men-deploy layanan inferensi model Qwen

• Menggunakan Triton untuk men-deploy layanan inferensi model Qwen

• Menggunakan TGI untuk men-deploy layanan inferensi model Qwen

AIGC

• Mempercepat pembuatan dan penarikan citra AI

• Men-deploy layanan Stable Diffusion tingkat produksi berbasis Knative

• Menggunakan CPU untuk mempercepat inferensi teks-ke-gambar untuk Stable Diffusion XL Turbo

Otorisasi

Praktik terbaik untuk otorisasi

Klaster

• Konfigurasi yang direkomendasikan untuk tipe instans ECS

• Konfigurasi yang direkomendasikan untuk arsitektur kluster ketersediaan tinggi

• Perencanaan jaringan untuk Kluster ACK yang dikelola

• Rekomendasi untuk menggunakan kluster berskala besar

Node dan pool node

• Praktik terbaik untuk set penyebaran kelompok node

• Praktik terbaik untuk kelompok node instans spot

• Migrasi node mandiri ke kelompok node

• Perbandingan runtime containerd, kontainer sandbox, dan Docker

Jaringan

• Mengoptimalkan ekstensibilitas NetworkPolicy di kluster Terway berskala besar

• Menggunakan ALB untuk mengekspos Layanan melalui Gateway API

• Praktik terbaik untuk layanan DNS

• Rekomendasi untuk menggunakan Nginx Ingress Controller

Manajemen Aplikasi

• Konfigurasi yang direkomendasikan untuk beban kerja

• Mempercepat pembuatan dan penarikan citra AI

• Men-deploy Jenkins di kluster ACK untuk membangun dan men-deploy aplikasi

• Menggunakan GitLab CI untuk menjalankan GitLab Runner dan mengeksekusi pipeline

Knative

• Mengaktifkan pemantauan dan peringatan untuk Layanan Knative

• Menerapkan pengumpulan log pada Knative

• Menggunakan sumber daya ECI

• Gunakan HPA dalam Knative

• Menerapkan penskalaan layanan otomatis berdasarkan jumlah permintaan lalu lintas

• Melihat dasbor pemantauan layanan Knative

• Men-deploy layanan Stable Diffusion tingkat produksi berbasis Knative

Penyimpanan

• Menggunakan disk sebagai volume penyimpanan sementara

• Konfigurasi ketersediaan tinggi yang direkomendasikan untuk volume disk

• Praktik terbaik untuk throttling penyimpanan blok

• Praktik terbaik untuk keamanan data penyimpanan disk

• Migrasi aplikasi stateful yang menggunakan volume disk lintas zona

• Menggunakan multi-attach dan reservasi untuk disk NVMe

• Menerapkan penyimpanan persisten untuk StatefulSet

• Praktik terbaik untuk pemisahan baca/tulis untuk penyimpanan OSS

• Secara otomatis mengumpulkan file dump JVM dari keluaran abnormal menggunakan CNFS

Observabilitas

• Menggunakan KubeSkoop untuk menemukan masalah jaringan

• Menggunakan Prometheus Client untuk memantau aplikasi

• Praktik terbaik untuk mengonfigurasi aturan peringatan di Prometheus

• Gunakan SysOM untuk menemukan masalah memori kontainer

Suite manajemen biaya

Menggunakan Cost Insight untuk manajemen dan optimalisasi biaya

Penyesuaian Skala Otomatis

• Menerapkan penskalaan kontainer tingkat detik berdasarkan ack-autoscaling-placeholder

• Mengoptimalkan elastisitas dengan gambar kustom

• Menerapkan skala keluar elastis cepat dan simultan di beberapa zona

• Menerapkan penskalaan beban kerja berdasarkan UnitedDeployment

• Menerapkan skalabilitas elastis berbasis HPA melalui Pemantauan Aplikasi ARMS

• Menerapkan penskalaan elastis berdasarkan metrik GPU

Service Mesh

• Mengelola aplikasi Pod ECI pada node virtual ACK menggunakan ASM

• Mengelola aplikasi di kluster terdaftar menggunakan ASM

• Menggunakan gerbang serverless ASM untuk menerapkan ingress multi-kluster

• Skenario pemulihan bencana untuk beberapa kluster ACK di VPC berbeda (jaringan VPC terhubung melalui CEN)

• Menggunakan metrik ASM untuk menerapkan penskalaan elastis otomatis untuk beban kerja

• Mengakses layanan gRPC dalam mesh melalui gerbang masuk ASM

Aplikasi grafis

• Praktik terbaik untuk aplikasi grafis Linux

• Praktik terbaik untuk rendering jarak jauh Unity