ハッシュシャーディングは、複数の検索メソッドとデータの型にわたって、Proxima CE と Proxima CE 取得率ツールの取得率を比較することで、Proxima CE のエンドツーエンドの正確性を検証します。
テスト結果
テストされたすべてのデータの型と検索メソッドにおいて、Proxima CE の取得率は取得率ツールの結果とほぼ一致しています。正確性テストは期待を満たしています。
テスト手順
テスト方法の設計
データ準備
FLOAT、BINARY、INT8 の 3 種類のデータの型のランダムデータセットを準備します。
Proxima CE の場合: データセットを MaxCompute テーブルに変換します。
C++ ベースラインの場合: Proxima カーネルで提供されているベンチ性能テストツールを使用してデータを処理します。
アルゴリズム比較
各データセットに対して、グラフ検索、階層型クラスタリング検索、Satellite System Graph (SSG)、グラフクラスタリング (GC)、量子化クラスタリング (QC)、および線形検索を実行し、Proxima CE と C++ ベースラインの両方の取得率を収集します。Top K を 100 に設定します。Proxima CE の取得率ツールは、クエリテーブル内の 100 個のサンプルレコードから取得率を計算します。Proxima CE と取得率ツールの主な比較は、線形検索メソッドに基づいています。
データとパラメーターの準備
データセット
各クエリテーブルは、ドキュメントテーブルから 100 個のデータレコードを抽出します。
| データの型 | 次元 | レコード | 値の範囲 |
|---|---|---|---|
| FLOAT | 128 | 100,000 | (0,1) |
| INT8 | 128 | 100,000 | (-128,127) |
| BINARY | 512 | 100,000 | 0/1 |
検索パラメーター
| 検索メソッド | パラメーター |
|---|---|
| グラフ検索 |
|
| 階層型クラスタリング検索 |
|
| Satellite System Graph (SSG) |
|
| グラフクラスタリング (GC) |
|
| 量子化クラスタリング (QC) |
|
| 線形検索 | — |
テスト結果の表示
FLOAT、二乗ユークリッド距離
| 検索メソッド | Proxima CE 取得率 | 取得ツールの取得率 |
|---|---|---|
| グラフ検索 | 89.03% | 88.62% |
| 階層型クラスタリング検索 | 98.91% | 98.14% |
| Satellite System Graph (SSG) | 96.00% | 95.76% |
| グラフクラスタリング (GC) | 97.87% | 97.64% |
| 量子化クラスタリング (QC) | 97.70% | 97.77% |
| 線形検索 | 100% | 100% |
INT8、二乗ユークリッド距離
| 検索メソッド | Proxima CE 取得率 | 取得ツール 取得率 |
|---|---|---|
| グラフ検索 | 89.89% | 89.93% |
| 階層型クラスタリング検索 | 98.27% | 97.69% |
| Satellite System Graph (SSG) | 95.58% | 95.75% |
| グラフクラスタリング (GC) | 97.72% | 97.36% |
| 量子化クラスタリング (QC) | 97.68% | 97.71% |
| 線形検索 | 100% | 100% |
BINARY、ハミング距離
| 検索メソッド | Proxima CE 取得率 | 取得ツールの取得率 |
|---|---|---|
| グラフ検索 | 85.33% | 88.09% |
| 階層型クラスタリング検索 | 91.45% | 95.27% |
| Satellite System Graph (SSG) | 75.89% | 77.83% |
| グラフクラスタリング (GC) | 90.01% | 93.99% |
| 量子化クラスタリング (QC) | 90.51% | 93.78% |
| 線形検索 | 100% | 100% |
結果の分析
FLOAT および INT8 のデータの型では、Proxima CE の取得率はすべての検索メソッドで取得率ツールの結果と一致しており、差は 1 パーセンテージポイント以内です。BINARY データの場合、差はわずかに大きく (一部のメソッドでは約 4 パーセンテージポイントまで)、Proxima CE の各検索メソッドとデータの型の取得結果は、取得率ツールを使用して得られた取得結果と類似しています。