Comment effectuer un test de questions-réponses - OpenSearch

La page Q&A Test de la console OpenSearch LLM-Based Conversational Search Edition vous permet de vérifier comment votre base de connaissances répond aux questions. Après avoir saisi une question, le modèle identifie les résultats pertinents et renvoie une réponse. Définissez les paramètres adaptés à votre scénario et aux résultats attendus, testez les résultats du test de questions-réponses, puis sélectionnez les valeurs de paramètres optimales.

Prérequis

Une instance OpenSearch LLM-Based Conversational Search Edition. Pour obtenir des instructions, consultez la rubrique Créer une instance.
Configuration des données terminée pour l'instance. Pour obtenir des instructions, consultez la rubrique Configurer les données.

Procédure

Cette procédure utilise un fichier vidéo à titre d'exemple. Téléchargez la vidéo dans la base de connaissances, attendez l'analyse automatique, puis exécutez un test de questions-réponses basé sur le contenu de la vidéo afin d'obtenir des résultats pertinents.

Importer le fichier dans la base de connaissances

Importez le fichier vidéo afin que la base de connaissances puisse analyser son contenu.

Connectez-vous à la console OpenSearch console et sélectionnez LLM-Based Conversational Search Edition.
Dans le volet de navigation de gauche, cliquez sur Instance Management.
Dans la colonne Actions de l'instance cible, cliquez sur Manage. La page Instance Details s'affiche.
Cliquez sur Configuration Center et ouvrez Data Configuration.
Cliquez sur File Import et sélectionnez le fichier à télécharger.
Cliquez sur Upload File. Le fichier est importé dans la base de connaissances.
Attendez la fin du téléchargement du fichier. Ne poursuivez pas tant que l'état de la requête de données n'est pas terminé.

Exécuter un test de questions-réponses

Une fois le fichier analysé, posez une question au modèle et ajustez les paramètres jusqu'à ce que les réponses correspondent à vos attentes.

Dans le volet de navigation de gauche, cliquez sur Q&A Test.
Dans le coin supérieur droit, cliquez sur Model Configuration et définissez les paramètres requis par votre scénario de recherche.
Saisissez la question dans la zone de dialogue et cliquez sur Send.
Consultez les résultats du test de questions-réponses. Le modèle identifie les résultats pertinents issus du contenu de la base de connaissances téléchargée et renvoie une réponse. Selon les paramètres définis, la réponse peut également inclure les documents récupérés (search_hits) ainsi que les sources du contenu référencé.

Paramètres

Configurez les paramètres suivants dans Model Configuration sur la page Q&A Test. Les paramètres sont regroupés par catégorie.

Paramètres de questions-réponses

Paramètre	Type	Obligatoire	Valeur par défaut	Valeurs valides	Description
options.chat.model	String	Oui	opensearch-qwen		Sélectionne le grand modèle de langage (LLM). La longueur de contexte prise en charge ainsi que le nombre maximal de jetons d'entrée et de sortie varient selon le modèle.
Prompt	String	Non	Modèle système par défaut	-	L'invite utilisée pour cette recherche. Pour consulter les invites disponibles, reportez-vous à la section Invites disponibles.
question.session	Boolean	Non	true	true, false	false : Désactive les conversations multi-tours. true : Active les conversations multi-tours et renvoie les résultats en fonction des n derniers tours de conversation. session : Identifie la source de la conversation. Les conversations provenant de la même source utilisent leur contexte pour renvoyer les résultats.
options.chat.enable_deep_search	Boolean	Non	false	true, false	Active la Recherche approfondie. true : Active la recherche approfondie, qui utilise un raisonnement multi-tours pour consolider les données et renvoyer les résultats. Chaque conversation consomme relativement plus de temps et de ressources de calcul. false : Désactive la recherche approfondie.
options.retrieve.web_search.enable	Boolean	Non	false	true, false	Active la recherche web. true : Active la recherche web et renvoie les résultats basés sur les données de recherche web. Chaque conversation consomme relativement plus de temps et de ressources de calcul. false : Désactive la recherche web.
options.chat.stream	Boolean	Non	true	true, false	Active les réponses en flux continu. true : Renvoie les réponses sous forme de flux. false : Renvoie les réponses sans flux continu.

Paramètres d'invite

Paramètre	Type	Obligatoire	Valeur par défaut	Valeurs valides	Description
options.chat.prompt_config.attitude	String	Non	normal	normal, polite, patience	Un paramètre du modèle intégré au système qui contrôle le ton de la conversation. normal : Aucun. polite : Utilise un ton amical et poli. patience : Utilise un ton diplomatique et patient.
options.chat.prompt_config.rule	String	Non	detailed	detailed, stepbystep	Le niveau de détail de la conversation. detailed : Détaillé et professionnel. stepbystep : Détaillé et étape par étape.
options.chat.prompt_config.noanswer	String	Non	sorry	sorry, uncertain	La réponse lorsqu'une question ne peut pas recevoir de réponse. sorry : Désolé, je ne peux pas répondre à cette question sur la base des informations disponibles. uncertain : Je ne sais pas.
options.chat.prompt_config.language	String	Non	Chinese	Chinese, English, Thai, Korean	La langue utilisée pour répondre aux questions.
options.chat.prompt_config.role	Boolean	Non	-	-	Indique s'il faut activer un rôle de réponse. Lorsqu'il est activé, le rôle de réponse est personnalisé.
options.chat.prompt_config.role_name	String	Non	-	-	Le rôle de réponse personnalisé. Par exemple : AI Assistant.
options.chat.prompt_config.out_format	String	Non	text	text, table, list, markdown	Le format du contenu de sortie.

Paramètres de rappel de document

Paramètre	Type	Obligatoire	Valeur par défaut	Valeurs valides	Description
options.retrieve.doc.filter	String	Non	Vide	-	Lors de la récupération des données répondant aux conditions de filtrage depuis la base de connaissances, spécifiez explicitement le champ et les conditions. Pour des exemples de filtres, consultez la section Exemples de filtres. Champs pris en charge : table : La table contenant le document. raw_pk : La clé primaire du document. category : La catégorie du document. score : Le score du document. timestamp : L'horodatage du document.
options.retrieve.doc.top_n	Integer	Non	5	(0, 50]	Le nombre de documents récupérés.
options.retrieve.doc.sf	Float	Non	1,3 lorsque les vecteurs clairsemés sont désactivés 0,35 lorsque les vecteurs clairsemés sont activés	[0, 2,0] lorsque les vecteurs clairsemés sont désactivés	Contrôle le seuil de score vectoriel pour la récupération des documents. Lorsque les vecteurs clairsemés sont désactivés, une valeur plus faible rend les résultats plus pertinents mais renvoie moins de résultats. Inversement, des documents moins pertinents peuvent être récupérés. Lorsque les vecteurs clairsemés sont activés, une valeur plus élevée rend les résultats plus pertinents mais renvoie moins de résultats. Inversement, les résultats peuvent être moins pertinents.
options.retrieve.doc.dense_weight	Float	Non	0,7	(0,0, 1,0)	Lorsque les vecteurs clairsemés sont activés, contrôle le poids des vecteurs denses lors de la récupération des documents.
options.retrieve.doc.formula	String	Non	-	-	Spécifie la formule de classement des documents lors de la récupération. Pour connaître la syntaxe, consultez la section Syntaxe de la formule de classement. Les fonctionnalités Pertinence algorithmique et Pertinence géographique ne sont pas prises en charge.
options.retrieve.doc.operator	String	Non	AND	AND, OR	Spécifie la relation entre les termes après la tokenisation de `question.text` lors de la récupération des documents de la base de connaissances. Ce paramètre prend effet uniquement lorsque les vecteurs clairsemés ne sont pas activés. AND : Tous les termes doivent apparaître pour qu'un document soit récupéré. OR : Un document peut être récupéré si l'un des termes apparaît.

Les exemples suivants illustrent le format de options.retrieve.doc.filter :

"filter" : "raw_pk=\"123\""   # Retrieve data only from the document whose ID is 123
"filter" : "category=\"value1\""   # Retrieve data only from documents whose category is value1
"filter" : "category=\"value1\" OR category=\"value2\"" # Retrieve data only from documents whose category is value1 or value2
"filter" : "score>1.0"   # Retrieve data only from documents whose score is greater than 1.0
"filter" : "timestamp>1356969600"   # Retrieve data only from documents whose timestamp is later than 2013-1-1

Paramètres d'image de référence

Paramètre

Type

Obligatoire

Valeur par défaut

Valeurs valides

Description

options.retrieve.image.sf

Float

Non

1 lorsque les vecteurs clairsemés sont désactivés
0,5 lorsque les vecteurs clairsemés sont activés

[0, 2,0] lorsque les vecteurs clairsemés sont désactivés

Contrôle le seuil de score vectoriel pour la récupération des images.

Lorsque les vecteurs clairsemés sont désactivés, une valeur plus faible rend les résultats plus pertinents mais renvoie moins de résultats. Inversement, des résultats moins pertinents peuvent être récupérés.
Lorsque les vecteurs clairsemés sont activés, une valeur plus élevée rend les résultats plus pertinents mais renvoie moins de résultats. Inversement, les résultats peuvent être moins pertinents.

options.retrieve.image.dense_weight

Float

Non

0,7

(0,0, 1,0)

Lorsque les vecteurs clairsemés sont activés, contrôle le poids des vecteurs denses lors de la récupération des images.

Paramètres de compréhension de requête

Paramètre

Type

Obligatoire

Valeur par défaut

Valeurs valides

Description

options.retrieve.qp.query_extend

Boolean

Non

false

true, false

Indique s'il faut étendre la requête utilisateur. Les requêtes étendues sont utilisées pour récupérer des fragments de documents depuis le moteur.

false : Conforme au comportement d'origine. La requête n'est pas étendue.
true : Le modèle est appelé une fois de plus, ce qui ralentit les réponses. N'activez pas cette option pour les applications sensibles à la latence.

options.retrieve.qp.query_extend_num

Integer

Non

(0,+∞)

Le nombre maximal de requêtes à étendre lorsque l'extension par requêtes similaires est activée.

Paramètres d'intervention manuelle

Paramètre	Type	Obligatoire	Valeur par défaut	Valeurs valides	Description
options.retrieve.entry.sf	Float	Non	0,3	[0, 2,0]	Contrôle le seuil de score vectoriel pour la récupération des entrées d'intervention manuelle. Une valeur plus faible rend les résultats plus pertinents mais renvoie moins de résultats. Inversement, des entrées moins pertinentes peuvent être récupérées.

Paramètres de recherche approfondie

Paramètre	Type	Obligatoire	Valeur par défaut	Valeurs valides	Description
options.chat.agent.think_process	Boolean	Non	-	-	Indique s'il faut renvoyer le processus de réflexion.
options.chat.agent.max_think_round	Integer	Non	-	-	Le nombre de tours de réflexion. La valeur maximale est 20.
options.chat.agent.language	String	Non	-	AUTO, CN, EN	La langue du processus de réflexion et des réponses. AUTO : Détermine s'il faut utiliser le chinois ou l'anglais en fonction de la requête utilisateur. CN : Chinois. EN : Anglais.

Autres paramètres

Paramètre	Type	Obligatoire	Valeur par défaut	Valeurs valides	Description
options.retrieve.return_hits	Boolean	Non	-	-	Indique s'il faut renvoyer les résultats de récupération des documents, qui correspondent à `search_hits` dans la réponse.
options.chat.history_max	Integer	Non	1	-	Le nombre maximal de tours d'historique de conversation multi-tours. La valeur maximale est 20.
options.chat.link	Boolean	Non	false	true, false	Indique s'il faut renvoyer des liens. Contrôle si le contenu généré par le modèle identifie les sources des références de contenu. true : Le contenu inclut les sources. false : Le contenu n'inclut pas les sources.
options.chat.rich_text_strategy	String	Non	Vide	inside_response, extend_response	Spécifie la méthode de post-traitement pour la sortie LLM en texte enrichi. Si cette configuration n'existe pas ou est vide, le texte enrichi n'est pas activé, ce qui correspond au comportement par défaut : inside_response : Les balises dans la réponse sont directement restaurées au texte original au format Markdown. Les tableaux sont directement insérés dans le Markdown au format HTML. extend_response : La réponse contient des balises de texte enrichi, et le contenu réel de chaque balise est renvoyé séparément dans `rich_text_ref` : le contenu des images sous forme d'URL, le contenu des tableaux au format HTML et le contenu du code au format texte. Pour plus d'informations, consultez la section Réponses en texte enrichi.
options.retrieve.graph	Boolean	Non	-	-	Utilise les relations graphiques pour l'association et la récupération de requêtes. Ce paramètre prend effet uniquement après l'activation de GraphRAG dans la configuration des données.
options.chat.enable_llm_knowledge	Boolean	Non	-	true, false	Lorsqu'il est activé, le LLM fournit une réponse de secours si aucun résultat de recherche n'est renvoyé.

Lorsque options.chat.link est défini sur true, voici un exemple de réponse incluant les sources :

An ECS cloud disk can be expanded online or offline[^1^]. Online expansion does not require restarting the instance, whereas offline expansion does[^1^]. To expand the disk, select the disk to expand in the ECS console, choose Expand in the Actions column, and then select an expansion method as needed[^1^]. If partitions and file systems also need to be expanded, use the console or use the console[^2^]. After the disk capacity is expanded, the new capacity cannot be reduced after it takes effect. Plan storage space appropriately[^3^].

Le nombre compris entre [^ et ^] indique le numéro ordinal du document dans les résultats de référence. Par exemple, [^1^] indique le premier document dans la référence.

Étapes suivantes

Vous pouvez également appeler Q&A Test via l'API et le SDK.