Perbandingan Edisi Basic dan HA Multi-Zona - Vector Retrieval Service for Milvus

Untuk mencegah kegagalan tingkat zona menyebabkan seluruh layanan Vector Retrieval Service for Milvus (Milvus) tidak tersedia, Milvus menyediakan mode penyebaran cross-zone. Topik ini menjelaskan arsitektur mode penyebaran tersebut dan menguraikan perbedaannya.

Latar Belakang

Pada instans Milvus zona tunggal, semua layanan diterapkan di satu zona. Dalam kasus ekstrem, seperti kegagalan pusat data, satu availability zone (AZ) dapat menjadi tidak tersedia, sehingga menyebabkan seluruh layanan Milvus tidak tersedia.

Untuk instans Multi-zone Deployment (basic) dan Multi-zone Deployment (HA), layanan metadata, Message Service, dan data didistribusikan di beberapa pusat data. Desain ini menjamin integritas data dan ketersediaan layanan metadata meskipun terjadi kegagalan pada suatu zona. Ketersediaan layanan secara keseluruhan bergantung pada sumber daya komputasi dan penyimpanan di zona aktif yang tersisa.

Perbedaan utama antara Multi-zone Deployment (basic) dan Multi-zone Deployment (HA) adalah sebagai berikut:

Multi-zone Deployment (basic): Edisi ini memiliki satu set sumber daya komputasi dan lebih hemat biaya. Pemulihan dari kegagalan memerlukan waktu tertentu, dengan recovery time objective (RTO) kurang dari 1 jam.
Multi-zone Deployment (HA): Edisi ini memiliki dua set sumber daya komputasi. Jika terjadi kegagalan layanan, sistem melakukan failover ke kluster secondary. RTO-nya kurang dari 3 menit.

Arsitektur Penyebaran

Multi-zone Deployment (basic)

Arsitektur edisi Multi-zone Deployment (basic) menjamin ketersediaan tinggi untuk data dan layanan melalui pendekatan berikut:

Penyebaran cross-data center untuk layanan metadata: Semua node metadata ditempatkan di tiga pusat data untuk menjamin ketersediaan tinggi metadata.
Penyebaran cross-data center untuk Message Service: Semua node Message Service ditempatkan di tiga pusat data untuk menjamin ketersediaan tinggi data pesan.
Penempatan node komputasi di satu pusat data: Node komputasi ditempatkan di zona primary secara default untuk meminimalkan latensi antar layanan. Jika zona primary gagal, node komputasi akan diluncurkan ulang di zona secondary.
Mode penyebaran OSS yang ditingkatkan: OSS ditingkatkan untuk menggunakan zone-redundant storage, yang menjamin stabilitas penyimpanan dingin dan ketersediaan tinggi data.

Multi-zone Deployment (HA)

Arsitektur edisi Multi-zone Deployment (HA) menjamin ketersediaan tinggi untuk data dan layanan melalui pendekatan berikut:

Penyebaran cross-data center untuk layanan metadata: Semua node metadata ditempatkan di tiga pusat data untuk menjamin ketersediaan tinggi metadata.
Penyebaran cross-data center untuk Message Service: Semua node Message Service ditempatkan di tiga pusat data untuk menjamin ketersediaan tinggi data pesan.
Penyebaran dua zona untuk node komputasi: Node komputasi ditempatkan di zona primary secara default untuk meminimalkan latensi layanan. Node komputasi cadangan ditempatkan di zona secondary dan memuat data secara sinkron. Jika zona primary gagal, backend vector retrieval service for Milvus menukar peran zona primary dan secondary, sehingga zona secondary terus menyediakan layanan baca dan tulis.
Mode penyebaran OSS yang ditingkatkan: OSS ditingkatkan untuk menggunakan zone-redundant storage, yang menjamin stabilitas penyimpanan dingin dan ketersediaan tinggi data.

Arsitektur Edisi HA Cross-region

Arsitektur edisi Cross-region HA menjamin ketersediaan tinggi untuk data dan layanan melalui pendekatan berikut:

Penyebaran cross-region untuk layanan metadata: Semua node metadata ditempatkan di beberapa wilayah untuk menjamin ketersediaan tinggi metadata.
Penyebaran cross-region untuk Message Service: Semua node Message Service ditempatkan di beberapa wilayah untuk menjamin ketersediaan tinggi data pesan.
Penyebaran cross-region untuk node komputasi: Node komputasi ditempatkan di wilayah primary secara default untuk meminimalkan latensi layanan. Node komputasi cadangan ditempatkan di wilayah secondary dan memuat data secara sinkron. Jika wilayah primary gagal, backend Milvus menukar peran wilayah primary dan secondary, sehingga wilayah secondary terus menyediakan layanan baca dan tulis.
Mode penyebaran OSS yang ditingkatkan: OSS ditingkatkan untuk menggunakan zone-redundant storage, yang menjamin stabilitas penyimpanan dingin dan ketersediaan tinggi data.

Perbandingan Ketersediaan Tinggi

Tabel berikut membandingkan instans zona tunggal, instans Multi-zone Deployment (basic), instans Multi-zone Deployment (HA), dan instans cross-region HA Vector Retrieval Service for Milvus dari segi ketersediaan, performa, dan karakteristik lainnya. Pilih mode penyebaran sesuai kebutuhan bisnis Anda.

Item	Zona Tunggal	Multi-zona (basic)	Multi-zona (HA)	Cross-region (HA)
Jumlah AZ untuk node komputasi	1	2	2	Wilayah >= 2, AZ >= 3
RPO dan RTO saat terjadi kegagalan data center	Tidak memiliki kemampuan disaster recovery tingkat data center	RPO = 0 RTO < 1 jam (dengan inventaris sumber daya yang mencukupi)	RPO = 0 RTO < 3 menit	RPO < 10 detik RTO < 3 menit
SLA	99,9%	99,9%	99,95%	99,99%
Biaya	1	1 hingga 1,2x Penyimpanan: +20% Komputasi: Tidak berubah	2x Penyimpanan: +20% Komputasi: +100% (active-standby ketat)	3x atau lebih Penyimpanan: +100% atau lebih Compute: +200% atau lebih Jaringan: Biaya tambahan untuk traffic sinkronisasi cross-region
Performa	1	Latensi layanan metadata mungkin sedikit meningkat akibat komunikasi cross-data center. Latensi query dan latensi insert tetap sebagian besar tidak terpengaruh.	Latensi layanan metadata mungkin sedikit meningkat akibat komunikasi cross-data center. Latensi query dan latensi insert tetap sebagian besar tidak terpengaruh.	Performa baca dan tulis normal tetap sebagian besar tidak terpengaruh. Sinkronisasi cross-region memiliki latensi replikasi tingkat detik. Latensi akses setelah failover bergantung pada jarak jaringan ke wilayah secondary. Performa komputasi setelah failover sebagian besar konsisten dengan spesifikasi yang sama.

Batasan

Multi-zone Deployment (HA) memerlukan satu set node komputasi di masing-masing zona primary dan secondary. Oleh karena itu, jumlah node harus merupakan kelipatan 2 saat membuat atau melakukan scale out instans.
Multi-zone Deployment (HA) tidak mendukung versi Milvus 2.4.
Wilayah primary dan secondary pada edisi Cross-region HA harus berada di wilayah yang berbeda. Saat membuat atau melakukan scale out instans, pastikan wilayah target memiliki inventaris sumber daya yang mencukupi.