Les modèles de prompt déterminent la façon dont le grand modèle de langage (LLM) interprète les documents récupérés et génère les réponses. OpenSearch LLM-Based Conversational Search Edition inclut un modèle de prompt par défaut. Créez des modèles personnalisés pour adapter le comportement du LLM à votre cas d’usage spécifique : par exemple, autoriser des réponses fondées sur des connaissances générales lorsque le contexte récupéré est insuffisant, ou définir un message de secours configurable.
Aperçu du flux de travail
Créez un modèle de prompt avec une liste structurée de messages (rôles system, user et assistant).
Utilisez les variables intégrées (
{docs},{question}) pour injecter le contexte récupéré et la saisie de l’utilisateur dans le prompt au moment de l’exécution.Ajoutez éventuellement des variables personnalisées pour rendre certaines parties du prompt configurables sans modifier le modèle.
Testez le modèle sur la page Q&A Test et modifiez-le si nécessaire.
Intégrez le modèle à votre application en appelant l’opération API appropriée et en transmettant les valeurs des variables personnalisées.
Prérequis
Avant de commencer, assurez-vous de disposer des éléments suivants :
Une instance OpenSearch LLM-Based Conversational Search Edition
Un accès à Configuration Center > Prompt Management dans la console
Créer un modèle de prompt
Sur la page des détails de l’instance, choisissez Configuration Center > Prompt Management.
Cliquez sur Create Template.
Dans le panneau Create Prompt Template, configurez les paramètres décrits ci-dessous, puis cliquez sur OK.
Paramètres
Prompt Template Name (obligatoire)
Identifiant unique du modèle. Le nom doit comporter entre 1 et 30 caractères, commencer par une lettre et contenir uniquement des lettres, des chiffres et des traits de soulignement (_).
Template Overview (facultatif)
Brève description. Elle doit comporter entre 1 et 30 caractères, commencer par une lettre ou un chiffre et contenir uniquement des lettres, des chiffres, des traits de soulignement (_) et des traits d’union (-).
message
Liste des paires rôle-contenu envoyées au LLM. Cliquez sur + pour ajouter d’autres paires. Chaque champ de contenu :
Est obligatoire
Ne peut pas contenir
<#ni[#Est limité à 1 024 caractères
Le tableau ci-dessous décrit les rôles pris en charge et leur comportement.
| Role | Required | Behavior |
|---|---|---|
system |
No | Instructions de priorité la plus élevée. Définit la personnalité, les contraintes ou le format de sortie du LLM. Si ce rôle est inclus, il doit s’agir du premier message de la liste. |
user |
Yes | Prompt envoyé au LLM, incluant généralement le contexte récupéré et la question de l’utilisateur. La liste des messages doit se terminer par un message user. |
assistant |
No | Simule une réponse antérieure du modèle. Alternez les messages user et assistant pour représenter une conversation multi-tours. |
Référence des variables
Variables intégrées
Ces variables sont renseignées automatiquement au moment de l’exécution. N’utilisez pas leurs noms pour les variables personnalisées.
| Variable | Replaced by | Restriction |
|---|---|---|
{question} |
La question originale saisie par l’utilisateur | Réservé ; ne peut pas être utilisé comme nom de variable personnalisée |
{docs} |
Le contenu généré par la fusion des documents récupérés | Réservé ; ne peut pas être utilisé comme nom de variable personnalisée |
Variables personnalisées
Définissez les variables personnalisées directement dans le contenu du message au format ${parameters.VariableName}. Les noms de variables doivent comporter entre 1 et 64 caractères et contenir uniquement des lettres, des chiffres et des traits de soulignement (_).
Pour définir une valeur par défaut, utilisez l’un des formats suivants :
| Format | Behavior |
|---|---|
${(parameters.name)!} |
Aucune valeur par défaut |
${(parameters.name)!"LLM"} |
La valeur par défaut est LLM |
Pour transmettre une valeur au moment de l’exécution, appelez l’opération API appropriée et fournissez la valeur de la variable. Les variables personnalisées et leurs valeurs actuelles apparaissent dans l’onglet Prompt Parameters de la page Q&A Test, où vous pouvez les remplacer pour les tests.
Exemples de modèles
Après avoir créé un modèle, cliquez sur Q&A Test dans la colonne Actions pour le tester. La base de connaissances par défaut contient du contenu relatif à OpenSearch LLM-Based Conversational Search Edition.
Modèle 1 : Par défaut — répondre uniquement à partir du contexte
| Role | Content |
|---|---|
system |
You are a helpful assistant. |
user |
The context contains multiple independent documents, each of which is placed between the <article> and </article> tags. Context: "${docs}" Answer the question in a detailed and organized manner based on the preceding context. Make sure that the question is adequately answered based on the context. If the information provided by the context is insufficient to answer the question, return the following message: I cannot answer this question based on the known information. Do not use content that is not included in the context to generate answers. Make sure that each statement in the answer is supported by the corresponding content in the context. Answer the question in English. Question: "${question}" |
Comportement : Le LLM répond uniquement à partir du contexte récupéré. Si aucun document pertinent n’est trouvé, il renvoie un message de refus fixe plutôt que de s’appuyer sur des connaissances générales.
Modèle 2 : Personnalisé — autoriser les réponses issues des connaissances générales
| Role | Content |
|---|---|
system |
You are a helpful assistant. |
user |
The context contains multiple independent documents, each of which is placed between the <article> and </article> tags. Context: "${docs}" You have a large amount of knowledge, including knowledge related to mathematical calculation. Answer the following question accurately. Question: "${question}" |
Comportement : Lorsque le contexte récupéré est insuffisant, le LLM s’appuie sur ses connaissances générales pour répondre à la question.
Modèle 3 : Personnalisé — message de secours configurable avec une variable personnalisée
| Role | Content |
|---|---|
system |
You are a helpful assistant. |
user |
The context contains multiple independent documents, each of which is placed between the <article> and </article> tags. Context: "${docs}" Answer the question in a detailed and organized manner based on the preceding context. Make sure that the question is adequately answered based on the context. If the information provided by the context is insufficient to answer the question, return the following message: ${(parameters.no_answer)!"I cannot answer this question based on the known information"}. Do not use content that is not included in the context to generate answers. Make sure that each statement in the answer is supported by the corresponding content in the context. Answer the question in English. Question: "${question}" |
Comportement : La variable personnalisée no_answer contrôle le message de secours. Sa valeur par défaut est I cannot answer this question based on the known information. Remplacez la valeur dans l’onglet Prompt Parameters de la page Q&A Test, par exemple en la changeant pour Sorry, afin de voir comment le LLM répond avec un message différent.
L’exemple suivant utilise le modèle opensearch-qwen. Sur la page Q&A Test, vous pouvez afficher les variables personnalisées dans l’onglet Prompt Parameters.
La variable no_answer a une valeur par défaut de I cannot answer this question based on the known information.
Modifiez la valeur de la variable no_answer dans Prompt Parameters pour Sorry.
Gérer les modèles de prompt
Tous les modèles de prompt sont répertoriés sur la page Prompt Management. À partir de là, vous pouvez consulter, modifier et supprimer des modèles.
Modifier un modèle
Cliquez sur Edit dans la colonne Actions du modèle. Tous les champs, à l’exception de Prompt Template Name, peuvent être modifiés.
Le modèle de prompt par défaut ne peut pas être modifié.
Supprimer un modèle
Cliquez sur Delete dans la colonne Actions du modèle et confirmez la suppression.
Tester un modèle
Cliquez sur Q&A Test dans la colonne Actions pour ouvrir la page Q&A Test. Saisissez une question pour voir comment le modèle répond en utilisant la base de connaissances par défaut. Si le modèle contient des variables personnalisées, définissez des valeurs de test dans l’onglet Prompt Parameters.