Saat instans baru mulai menerima traffic sebelum menyelesaikan inisialisasi, atau saat instans offline di tengah permintaan selama deployment, aplikasi layanan mikro Anda berisiko kehilangan permintaan. SAE terintegrasi dengan Microservices Engine (MSE) untuk mengatasi masalah ini melalui tata kelola layanan mikro—termasuk graceful start yang meningkatkan traffic secara bertahap dan graceful shutdown yang menguras permintaan yang sedang berjalan sebelum instans offline. Topik ini menjelaskan cara mengaktifkan tata kelola layanan mikro dan mengonfigurasi graceful start untuk aplikasi Java Anda.
Prasyarat
Sebelum memulai, pastikan Anda telah memiliki:
Aplikasi Java yang telah dideploy atau siap untuk dideploy di SAE
MSE Professional Edition untuk tata kelola layanan mikro yang telah diaktifkan
MSE menghasilkan biaya terpisah saat digunakan melalui SAE.
Cara kerja tata kelola layanan mikro
Agen tata kelola
Saat Anda mengaktifkan tata kelola layanan mikro, SAE secara otomatis menyuntikkan agen MSE bawaan ke setiap instans aplikasi. Agen tersebut menyediakan:
Service discovery dan manajemen konfigurasi
Graceful start dan shutdown
Tata kelola traffic
Proteksi sistem
Pesan grayscale
Tracing tautan penuh
Pemutusan sirkuit cerdas
Kebijakan downgrade
Prioritas zona yang sama
Agen mengonsumsi sekitar 0,2 core dan 200 MB per instans. Rencanakan sumber daya Anda sebelum mengaktifkan fitur ini.
Graceful start
Saat instans baru bergabung, instans tersebut mendaftar ke service registry dan mulai menerima traffic. Jika aplikasi masih memerlukan waktu untuk menyelesaikan inisialisasi—seperti memuat connection pool database—traffic dapat tiba sebelum instans siap, sehingga menyebabkan error.
Graceful start mencegah hal ini dengan dua mekanisme:
| Mekanisme | Cara kerja |
|---|---|
| Warm-up | Meningkatkan traffic secara bertahap dari tingkat rendah selama durasi yang telah ditentukan, memberi waktu bagi aplikasi Java untuk mencapai kapasitas pemrosesan penuh dari cold start. Traffic berhenti meningkat setelah durasi yang telah ditentukan berakhir. |
| Delayed registration | Menunda pendaftaran ke service registry selama durasi tertentu, sehingga traffic hanya tiba setelah inisialisasi selesai. |
Graceful shutdown
Graceful shutdown diaktifkan secara default saat Anda mengaktifkan tata kelola layanan mikro—tidak diperlukan konfigurasi tambahan. Saat sebuah instans offline selama deployment, stop, scale-in, restart, rollback, atau reset, sistem menguras traffic yang sedang berjalan sebelum mematikan instans, sehingga mencegah error permintaan akibat pemutusan koneksi yang tiba-tiba.
Akses pengaturan tata kelola layanan mikro
Jalur menuju bagian Microservices Governance bergantung pada status aplikasi Anda saat ini:
| Skenario | Langkah-langkah |
|---|---|
| Creating a new application | Masuk ke Konsol SAE. Buka Application Management > Application List, pilih wilayah dan namespace Anda, lalu klik Create Application. Pada halaman Application Basic Information, klik Next: Advanced Settings. |
| Memodifikasi aplikasi yang sedang berjalan | Buka Application Management > Application List, pilih wilayah dan namespace Anda, lalu klik nama aplikasi. Pada halaman Basic Information, klik Deploy Application. |
| Memodifikasi aplikasi yang telah dihentikan | Buka Application Management > Application List, pilih wilayah dan namespace Anda, lalu klik nama aplikasi. Pada halaman Basic Information, klik Modify Application Configuration. |
Redeploy aplikasi yang sedang berjalan akan menyebabkan aplikasi tersebut restart. Untuk menghindari gangguan bisnis, lakukan deployment selama jam sepi.
Temukan dan buka bagian Microservices Governance, lalu ikuti langkah-langkah di bawah ini.
Aktifkan tata kelola layanan mikro
Nyalakan toggle Microservices Governance.
Konfigurasi graceful start
Setelah mengaktifkan tata kelola layanan mikro, konfigurasikan graceful start di bagian Microservices Governance yang sama.
Aktifkan sakelar mulai mulus.
Atur parameter Warm-up Duration dan Delayed Registration.
PentingJika Delayed Registration tidak bernilai 0, konfigurasikan readiness probe dalam deployment aplikasi Anda dengan access path diatur ke
/healthdan port diatur ke54199. Readiness probe memberi sinyal kepada Kubernetes untuk menjaga instans tetap di luar endpoint layanan hingga instans tersebut terdaftar sepenuhnya di registri—mencegah penurunan traffic akibat konsumen mengarahkan ke penyedia yang belum siap. Jangan aturLivenessProbeke path yang sama/health, karena hal ini menyebabkan loop restart tak berujung.Parameter Deskripsi Warm-up Duration (seconds) Durasi selama traffic masuk meningkat dari tingkat rendah ke kapasitas penuh. Gunakan ini untuk melindungi aplikasi Java dari lonjakan waktu respons selama cold start. Traffic meningkat secara otomatis dan berhenti setelah durasi yang telah ditentukan berakhir. Delayed Registration Jumlah detik untuk menunda pendaftaran layanan setelah startup. Gunakan ini saat aplikasi Anda memuat dataset besar atau melakukan inisialisasi asinkron yang memakan waktu sebelum dapat menangani permintaan. 