Vector Retrieval Service for Milvus:コンピューティングノードの仕様とパフォーマンスの比較

CU タイプ

Milvus のコンピューティングノードは、次の CU タイプをサポートしています。

• コンピューティング最適化：検索、レコメンデーションシステム、生成 AI、チャットボットなど、高 QPS で低レイテンシーのワークロードに最適です。

• ストレージ最適化：大容量データで、検索パフォーマンス要件が中程度のシナリオに最適です。ストレージ最適化インスタンスは、コンピューティング最適化インスタンスの 4 倍のストレージ容量を提供し、ほとんどのシナリオのニーズを満たす優れたパフォーマンスも実現します。大規模な非構造化データの検索、著作権検出、モデルデータの準備に適しています。

  重要

  現在、ストレージ最適化 CU には次の制限があります。

  • スケールアウトとスケールインのみがサポートされています。スケールアップやスケールダウンはサポートされていません。購入前に CU の仕様を慎重に確認してください。

  • DiskANN インデックスのみを推奨します。このインデックスタイプは float ベクターデータのみをサポートします。ベクター間の距離測定では、ユークリッド距離 (L2)、内積 (IP)、またはコサイン類似度 (COSINE) のみがサポートされています。

ストレージ容量の比較

検索パフォーマンスの比較

コンピューティングノード数

コンピューティングノード (クエリノード) の数は 1 から 50 までスケールできます。QPS はノード数に比例して増加します。ノード数が多いほど、サービス可用性も向上するため、高可用性が必要な本番環境では、少なくとも 2 つのノードを使用してください。

シナリオ分析

2,000 万枚の画像を含む画像検索システムを構築するとします。各画像は 768 ディメンションのベクターで表現されます。目標は、1 秒あたり 2,000 件の検索リクエストを処理し、10 ミリ秒以内に上位 100 件の結果を返すことです。次のように選択肢を評価します。

1. レイテンシー評価：レイテンシー要件に基づいて CU タイプを選択します。たとえば、10 ミリ秒未満のレイテンシーが必要な場合、この要件を満たすのはコンピューティング最適化 CU のみです。

2. 容量の検討：データ量とディメンションに基づいて、必要な CU 数を計算します。単一の 16 vCPU 64 GiB (16 CU) のコンピューティング最適化 CU は、1,200 万個の 960 ディメンションベクターを処理できます。2,000 万個の 768 ディメンションベクターに対応するには、このような CU を少なくとも 2 つ構成し、合計 32 CU にする必要があります。

3. スループットの検証：指定した top-k 設定でのノードごとのスループットを検証します。たとえば、top-k を 100 に設定すると、コンピューティング最適化ノードは 1,200 QPS を提供します。2,000 QPS の持続的なパフォーマンスを実現するには、ノード数を 2 倍にする必要があります。

この分析に基づいて、コンピューティング最適化 CU を選択し、それぞれ 16 vCPU 64 GiB (16 CU) の仕様で 2 つのノードを構成します。