OpenSearch:Konfigurasi CAGRA

Parameter

Tipe

Nilai default

Deskripsi

proxima.cagra.index.graph_degree

int

64

Jumlah sisi yang berdekatan dengan sebuah node dalam graf tetangga terdekat selama fase query. Nilai besar meningkatkan laju recall tetapi menurunkan performa.

proxima.cagra.index.intermediate_graph_degree

int

128

Jumlah sisi yang berdekatan dengan sebuah node dalam graf tetangga terdekat yang dibuat pada fase pembuatan graf. Selama fase query, jumlah tersebut dikurangi menjadi nilai yang ditunjukkan oleh parameter proxima.cagra.index.graph_degree. Nilai parameter ini harus tidak kurang dari dan tidak lebih dari 1,5 kali nilai proxima.cagra.index.graph_degree.

proxima.cagra.index.mode.fp16

int

0

Menentukan apakah akan mengaktifkan kuantisasi FP16. Untuk menghindari dampak pada laju recall, kami sarankan Anda mengatur parameter ini ke 1.

Parameter

Tipe

Nilai default

Deskripsi

proxima.cagra.search.use_batchable_searcher

int

0

Menentukan apakah akan mengaktifkan pemrosesan batch. Kami sarankan Anda mengatur parameter ini ke 1 untuk mengaktifkan pemrosesan batch. Dengan cara ini, sistem dapat memproses permintaan query yang tiba dalam waktu singkat secara bersamaan. Ini secara signifikan meningkatkan efisiensi pemrosesan query dan performa query.

proxima.cagra.search.use_gpu_built_index

int

0

Menentukan apakah menggunakan graf yang dibangun dari CPU. Anda hanya dapat mengatur parameter ini ke 0. Ini menunjukkan bahwa graf yang dibangun dari CPU digunakan.

proxima.cagra.search.itopk_size

int

64

Parameter ini terkait dengan ukuran set kandidat selama iterasi algoritma. Nilainya harus merupakan kelipatan dari 32 dan lebih besar atau sama dengan nilai topK yang diperlukan. Jika 100 dokumen teratas perlu dikembalikan, nilai parameter ini harus lebih besar atau sama dengan 100. Nilai besar meningkatkan laju recall tetapi menurunkan performa.