Cara melakukan uji Tanya & Jawab - OpenSearch - Alibaba Cloud Documentation Center

Halaman Tanya & Jawab (Q&A Test) di konsol OpenSearch LLM-Based Conversational Search Edition memverifikasi cara basis pengetahuan Anda menjawab pertanyaan. Setelah Anda memasukkan pertanyaan, model mencocokkan hasil yang relevan dan mengembalikan jawaban. Atur parameter sesuai skenario dan hasil yang diharapkan, lakukan uji Tanya & Jawab, lalu pilih nilai parameter optimal.

Prasyarat

Instans OpenSearch LLM-Based Conversational Search Edition. Untuk petunjuknya, lihat Buat instans.
Konfigurasi data telah selesai untuk instans tersebut. Untuk petunjuknya, lihat Konfigurasi data.

Prosedur

Prosedur ini menggunakan file video sebagai contoh. Anda mengunggah video ke basis pengetahuan, menunggu penguraian otomatis, lalu menjalankan uji Tanya & Jawab berdasarkan konten video untuk mendapatkan hasil yang relevan.

Impor file ke basis pengetahuan

Impor file video agar basis pengetahuan dapat mengurai kontennya.

Masuk ke konsol OpenSearch dan pilih LLM-Based Conversational Search Edition.
Di panel navigasi sebelah kiri, klik Instance Management.
Pada kolom Actions instans target, klik Manage. Halaman Instance Details akan muncul.
Klik Configuration Center, lalu buka Data Configuration.
Klik File Import dan pilih file yang akan diunggah.
Klik Upload File. File tersebut diimpor ke basis pengetahuan.
Tunggu hingga unggahan file selesai. Jangan lanjutkan hingga status kueri data selesai.

Jalankan uji Tanya & Jawab

Setelah file diurai, ajukan pertanyaan ke model dan sesuaikan parameter hingga jawabannya sesuai ekspektasi Anda.

Di panel navigasi sebelah kiri, klik Q&A Test.
Di pojok kanan atas, klik Model Configuration dan atur parameter yang dibutuhkan oleh skenario pencarian Anda.
Masukkan pertanyaan di kotak dialog, lalu klik Send.
Lihat hasil uji Tanya & Jawab. Model mencocokkan konten relevan dari basis pengetahuan yang diunggah dan mengembalikan jawaban.
search_hits

Parameter

Konfigurasikan parameter berikut di Model Configuration pada halaman Q&A Test. Parameter dikelompokkan berdasarkan kategori.

Parameter Tanya & Jawab

Parameter	Tipe	Wajib	Nilai default	Nilai valid	Deskripsi
options.chat.model	String	Ya	opensearch-qwen		Memilih model bahasa besar (LLM). Panjang konteks yang didukung serta jumlah maksimum token input dan output bervariasi tergantung model.
Prompt	String	Tidak	Templat default sistem	-	Prompt yang digunakan untuk pencarian ini. Untuk daftar prompt yang tersedia, lihat Prompt yang tersedia.
question.session	Boolean	Tidak	true	true, false	false: Menonaktifkan percakapan multi-putaran. true: Mengaktifkan percakapan multi-putaran dan mengembalikan hasil berdasarkan n putaran percakapan terbaru. session: Mengidentifikasi sumber percakapan. Percakapan dengan sumber yang sama menggunakan konteksnya untuk mengembalikan hasil.
options.chat.enable_deep_search	Boolean	Tidak	false	true, false	Mengaktifkan Deep search. true: Mengaktifkan deep search, yang menggunakan penalaran multi-putaran untuk mengonsolidasi data dan mengembalikan hasil. Setiap percakapan mengonsumsi waktu dan sumber daya komputasi yang relatif lebih banyak. false: Menonaktifkan deep search.
options.retrieve.web_search.enable	Boolean	Tidak	false	true, false	Mengaktifkan pencarian web. true: Mengaktifkan pencarian web dan mengembalikan hasil berdasarkan data pencarian web. Setiap percakapan mengonsumsi waktu dan sumber daya komputasi yang relatif lebih banyak. false: Menonaktifkan pencarian web.
options.chat.stream	Boolean	Tidak	true	true, false	Mengaktifkan respons streaming. true: Mengembalikan respons sebagai aliran. false: Mengembalikan respons tanpa streaming.

Parameter prompt

Parameter	Tipe	Wajib	Nilai default	Nilai valid	Deskripsi
options.chat.prompt_config.attitude	String	Tidak	normal	normal, polite, patience	Parameter templat bawaan sistem yang mengatur nada percakapan. normal: Tidak ada. polite: Menggunakan nada ramah dan sopan. patience: Menggunakan nada bijak dan sabar.
options.chat.prompt_config.rule	String	Tidak	detailed	detailed, stepbystep	Tingkat detail dalam percakapan. detailed: Detail dan profesional. stepbystep: Detail dan langkah demi langkah.
options.chat.prompt_config.noanswer	String	Tidak	sorry	sorry, uncertain	Respons ketika pertanyaan tidak dapat dijawab. sorry: Maaf, saya tidak dapat menjawab pertanyaan ini berdasarkan informasi yang tersedia. uncertain: Saya tidak tahu.
options.chat.prompt_config.language	String	Tidak	Chinese	Chinese, English, Thai, Korean	Bahasa yang digunakan untuk menjawab pertanyaan.
options.chat.prompt_config.role	Boolean	Tidak	-	-	Menentukan apakah peran jawaban diaktifkan. Saat diaktifkan, peran jawaban dikustomisasi.
options.chat.prompt_config.role_name	String	Tidak	-	-	Peran jawaban yang dikustomisasi. Contoh: AI Assistant.
options.chat.prompt_config.out_format	String	Tidak	text	text, table, list, markdown	Format konten output.

Parameter recall dokumen

Parameter	Tipe	Wajib	Nilai default	Nilai valid	Deskripsi
options.retrieve.doc.filter	String	Tidak	Kosong	-	Saat mengambil data yang memenuhi kondisi filter dari basis pengetahuan, tentukan secara eksplisit bidang dan kondisinya. Untuk contoh filter, lihat Contoh filter. Bidang yang didukung: table: Tabel yang berisi dokumen. raw_pk: Kunci primer dokumen. category: Kategori dokumen. score: Skor dokumen. timestamp: Timestamp dokumen.
options.retrieve.doc.top_n	Integer	Tidak	5	(0, 50]	Jumlah dokumen yang diambil.
options.retrieve.doc.sf	Float	Tidak	1,3 saat vektor jarang dinonaktifkan 0,35 saat vektor jarang diaktifkan	[0, 2,0] saat vektor jarang dinonaktifkan	Mengontrol ambang batas skor vektor untuk pengambilan dokumen. Saat vektor jarang dinonaktifkan, nilai yang lebih kecil membuat hasil lebih relevan tetapi mengembalikan lebih sedikit hasil. Sebaliknya, dokumen yang kurang relevan mungkin diambil. Saat vektor jarang diaktifkan, nilai yang lebih besar membuat hasil lebih relevan tetapi mengembalikan lebih sedikit hasil. Sebaliknya, hasilnya mungkin kurang relevan.
options.retrieve.doc.dense_weight	Float	Tidak	0,7	(0,0; 1,0)	Saat vektor jarang diaktifkan, mengontrol bobot vektor padat selama pengambilan dokumen.
options.retrieve.doc.formula	String	Tidak	-	-	Menentukan formula untuk peringkat dokumen selama pengambilan. Untuk sintaksnya, lihat Sintaks formula peringkat. Fitur Relevansi algoritma dan Relevansi geografis tidak didukung.
options.retrieve.doc.operator	String	Tidak	AND	AND, OR	Menentukan hubungan antar kata kunci setelah `question.text` ditokenisasi selama pengambilan dokumen basis pengetahuan. Parameter ini hanya berlaku saat vektor jarang tidak diaktifkan. AND: Semua kata kunci harus muncul agar dokumen diambil. OR: Dokumen dapat diambil jika salah satu kata kunci muncul.

Contoh berikut menunjukkan format options.retrieve.doc.filter:

"filter" : "raw_pk=\"123\""   # Ambil data hanya dari dokumen yang ID-nya 123
"filter" : "category=\"value1\""   # Ambil data hanya dari dokumen yang kategorinya value1
"filter" : "category=\"value1\" OR category=\"value2\"" # Ambil data hanya dari dokumen yang kategorinya value1 atau value2
"filter" : "score>1.0"   # Ambil data hanya dari dokumen yang skornya lebih besar dari 1,0
"filter" : "timestamp>1356969600"   # Ambil data hanya dari dokumen yang timestamp-nya lebih baru dari 2013-1-1

Parameter gambar referensi

Parameter	Type	Wajib	Nilai default	Nilai valid	Deskripsi
options.retrieve.image.sf	Float	Tidak	1 saat vektor jarang dinonaktifkan 0,5 saat vektor jarang diaktifkan	[0, 2,0] saat vektor jarang dinonaktifkan	Mengontrol ambang batas skor vektor untuk pengambilan gambar. Saat vektor jarang dinonaktifkan, nilai yang lebih kecil membuat hasil lebih relevan tetapi mengembalikan lebih sedikit hasil. Sebaliknya, hasil yang kurang relevan mungkin diambil. Saat vektor jarang diaktifkan, nilai yang lebih besar membuat hasil lebih relevan tetapi mengembalikan lebih sedikit hasil. Sebaliknya, hasilnya mungkin kurang relevan.
options.retrieve.image.dense_weight	Float	Tidak	0,7	(0,0; 1,0)	Saat vektor jarang diaktifkan, mengontrol bobot vektor padat selama pengambilan gambar.

Parameter

Type

Wajib

Nilai default

Nilai valid

Deskripsi

options.retrieve.image.sf

Float

Tidak

1 saat vektor jarang dinonaktifkan
0,5 saat vektor jarang diaktifkan

[0, 2,0] saat vektor jarang dinonaktifkan

Mengontrol ambang batas skor vektor untuk pengambilan gambar.

Saat vektor jarang dinonaktifkan, nilai yang lebih kecil membuat hasil lebih relevan tetapi mengembalikan lebih sedikit hasil. Sebaliknya, hasil yang kurang relevan mungkin diambil.
Saat vektor jarang diaktifkan, nilai yang lebih besar membuat hasil lebih relevan tetapi mengembalikan lebih sedikit hasil. Sebaliknya, hasilnya mungkin kurang relevan.

options.retrieve.image.dense_weight

Float

Tidak

0,7

(0,0; 1,0)

Saat vektor jarang diaktifkan, mengontrol bobot vektor padat selama pengambilan gambar.

Parameter pemahaman kueri

Parameter	Tipe	Wajib	Nilai default	Nilai valid	Deskripsi
options.retrieve.qp.query_extend	Boolean	Tidak	false	true, false	Menentukan apakah kueri pengguna diperluas. Kueri yang diperluas digunakan untuk mengambil chunk dokumen dari mesin. false: Konsisten dengan perilaku asli. Kueri tidak diperluas. true: Model dipanggil sekali lagi, sehingga respons lebih lambat. Jangan aktifkan opsi ini untuk aplikasi yang sensitif terhadap latensi.
options.retrieve.qp.query_extend_num	Integer	Tidak	5	(0,+∞)	Jumlah maksimum kueri yang diperluas saat perluasan kueri serupa diaktifkan.

Parameter

Tipe

Wajib

Nilai default

Nilai valid

Deskripsi

options.retrieve.qp.query_extend

Boolean

Tidak

false

true, false

Menentukan apakah kueri pengguna diperluas. Kueri yang diperluas digunakan untuk mengambil chunk dokumen dari mesin.

false: Konsisten dengan perilaku asli. Kueri tidak diperluas.
true: Model dipanggil sekali lagi, sehingga respons lebih lambat. Jangan aktifkan opsi ini untuk aplikasi yang sensitif terhadap latensi.

options.retrieve.qp.query_extend_num

Integer

Tidak

(0,+∞)

Jumlah maksimum kueri yang diperluas saat perluasan kueri serupa diaktifkan.

Parameter intervensi manual

Parameter	Tipe	Wajib	Nilai default	Nilai valid	Deskripsi
options.retrieve.entry.sf	Float	Tidak	0,3	[0, 2.0]	Mengontrol ambang batas skor vektor untuk pengambilan entri intervensi manual. Nilai yang lebih kecil membuat hasil lebih relevan tetapi mengembalikan lebih sedikit hasil. Sebaliknya, entri yang kurang relevan mungkin diambil.

Parameter deep search

Parameter	Tipe	Wajib	Nilai default	Nilai valid	Deskripsi
options.chat.agent.think_process	Boolean	Tidak	-	-	Menentukan apakah proses berpikir dikembalikan.
options.chat.agent.max_think_round	Integer	Tidak	-	-	Jumlah putaran berpikir. Nilai maksimum adalah 20.
options.chat.agent.language	String	Tidak	-	AUTO, CN, EN	Bahasa untuk proses berpikir dan jawaban. AUTO: Menentukan apakah menggunakan Bahasa Mandarin atau Inggris berdasarkan kueri pengguna. CN: Bahasa Mandarin. EN: Bahasa Inggris.

Parameter lainnya

Parameter	Jenis	Wajib	Nilai default	Nilai valid	Deskripsi
options.retrieve.return_hits	Boolean	Tidak	-	-	Menentukan apakah hasil pengambilan dokumen dikembalikan, yaitu `search_hits` dalam respons.
options.chat.history_max	Integer	Tidak	1	-	Jumlah maksimum riwayat percakapan multi-putaran. Nilai maksimum adalah 20.
options.chat.link	Boolean	Tidak	false	true, false	Menentukan apakah tautan dikembalikan. Mengontrol apakah konten yang dihasilkan model mengidentifikasi sumber referensi konten. true: Konten menyertakan sumber. false: Konten tidak menyertakan sumber.
options.chat.rich_text_strategy	String	Tidak	Kosong	inside_response, extend_response	Menentukan metode post-processing untuk output LLM teks kaya. Jika konfigurasi ini tidak ada atau kosong, teks kaya tidak diaktifkan, yang merupakan perilaku default: inside_response: Tag dalam jawaban langsung dikembalikan ke teks asli dalam format Markdown. Tabel langsung dimasukkan ke dalam Markdown dalam format HTML. extend_response: Jawaban berisi tag teks kaya, dan konten aktual setiap tag dikembalikan secara terpisah dalam `rich_text_ref`: konten gambar sebagai URL, konten tabel dalam format HTML, dan konten kode dalam format teks. Untuk informasi lebih lanjut, lihat Respons teks kaya.
options.retrieve.graph	Boolean	Tidak	-	-	Menggunakan hubungan graf untuk asosiasi dan pengambilan kueri. Parameter ini hanya berlaku setelah GraphRAG diaktifkan dalam konfigurasi data.
options.chat.enable_llm_knowledge	Boolean	Tidak	-	true, false	Saat diaktifkan, LLM memberikan jawaban cadangan jika tidak ada hasil pencarian yang dikembalikan.

Saat options.chat.link diatur ke true, contoh respons yang menyertakan sumber adalah sebagai berikut:

Disk cloud ECS dapat diperluas secara online atau offline[^1^]. Perluasan online tidak memerlukan restart instans, sedangkan perluasan offline memerlukannya[^1^]. Untuk memperluas disk, pilih disk yang akan diperluas di konsol ECS, pilih Expand di kolom Actions, lalu pilih metode perluasan sesuai kebutuhan[^1^]. Jika partisi dan sistem file juga perlu diperluas, gunakan konsol atau gunakan konsol[^2^]. Setelah kapasitas disk diperluas, kapasitas baru tidak dapat dikurangi setelah diterapkan. Rencanakan storage space dengan tepat[^3^].

Angka yang diapit oleh [^ dan ^] menunjukkan nomor urut dokumen dalam hasil referensi. Misalnya, [^1^] menunjukkan dokumen pertama dalam referensi.

Langkah selanjutnya

Anda juga dapat memanggil Uji Tanya & Jawab melalui API dan SDK.