Configuration de l'interface web PAI-RAG - Platform For AI - Centre de documentation Alibaba Cloud

L'interface web PAI-RAG vous permet de configurer les modèles, le découpage de la base de connaissances, le bac à sable de code (Code sandbox), les services de recherche et les outils MCP. Ces paramètres affinent le comportement de récupération et de réponse aux questions de votre système RAG.

Configurer les modèles

Cliquez sur Settings > Model dans le coin inférieur gauche. Dans l'onglet LLM, ajoutez un modèle.

Remarque

Les déploiements tout-en-un génèrent automatiquement un enregistrement de configuration de modèle. Vous pouvez ajouter des modèles provenant d'autres sources.

Model ID : identifie une configuration de modèle.
Endpoint URL : point de terminaison du service du modèle.
Remarque
- Les modèles Alibaba Cloud Model Studio sont facturés séparément. Facturation d'Alibaba Cloud Model Studio.
- Pour les services de modèle EAS, accédez à la page des détails du service, cliquez sur Basic Information, puis cliquez sur View Endpoint Information. Ajoutez /v1 à l'URL du point de terminaison.
  - Les points de terminaison Internet nécessitent que le service RAG dispose de l'accès au réseau public configuré dans le VPC.
  - Les points de terminaison VPC exigent que le service RAG et le service LLM se trouvent dans le même VPC.
API Key : pour Alibaba Cloud Model Studio, obtenez une clé API. Pour les services EAS, saisissez le jeton issu des informations du point de terminaison.
Model Name : la valeur dépend de votre déploiement. Si votre service LLM est déployé sur EAS avec le moteur d'inférence vLLM, saisissez le nom spécifique du modèle, que vous pouvez récupérer via l'API /v1/models. Pour tous les autres modes de déploiement, définissez cette valeur sur default.
Multimodal model : sélectionnez cette option si vous utilisez un modèle multimodal. Cette option est désactivée par défaut.
Thinking model : pour les modèles prenant en charge les modes avec et sans réflexion (thinking), utilisez cette option pour activer ou désactiver la fonction de réflexion. Cette option est désactivée par défaut.

Après avoir configuré le modèle, testez-le. Cliquez sur New Chat dans le volet de navigation de gauche, sélectionnez le modèle en haut de la page de discussion et démarrez une conversation.

Configurer MCP

Cliquez sur Settings > MCP dans le coin inférieur gauche pour ajouter un MCP.

MCP Link : URL du point de terminaison du service MCP.
MCP Type : SSE, STDIO ou Streamable HTTP.
Bearer Token : (facultatif) jeton d'accès pour l'authentification par jeton Bearer.

Saisissez le MCP Name (obligatoire, par exemple amaps), sélectionnez Enable by Default selon vos besoins, puis cliquez sur Add.

Configurer la recherche

Si la base de connaissances ne contient pas les informations nécessaires pour répondre à la question d'un utilisateur, ou si la réponse requiert des informations en temps réel, activez un service de recherche (Tavily ).

Cliquez sur Settings > Search dans le coin inférieur gauche.

Recherche Tavily

Inscrivez-vous sur le site officiel de Tavily et obtenez une clé API.

Sélectionnez Tavily Search dans la liste déroulante Select Search Engine.
Saisissez la clé API dans le champ Tavily API Key.
Utilisez le curseur pour définir le Number of Search Results.
Cliquez sur Save Search Configuration.

Configurer le bac à sable de code (Code sandbox)

Le bac à sable de code fournit un environnement sécurisé pour l'exécution de code Python. Lorsqu'il est activé, l'assistant IA utilise automatiquement le bac à sable de code pour exécuter le code.

Scénarios

Analyse de données : statistiques, agrégation et filtrage. Exemple : « Analysez les données de ventes et calculez la moyenne des ventes par région. »
Visualisation de données : génération de graphiques et tracé de tendances. Exemple : « Tracez la tendance des ventes sur l'année écoulée. »
Opérations mathématiques : calculs complexes et résolution d'équations. Exemple : « Calculez l'écart-type de cette séquence. »
Traitement de fichiers : analyse de fichiers CSV, Excel et autres pour extraire et transformer les données.
Autres tâches nécessitant l'exécution de code

Prérequis

Avant de configurer le bac à sable de code, suivez les étapes suivantes :

Activez Function Compute : accédez à la console Function Compute et suivez les instructions pour l'activer.
Créez un interpréteur AgentRun : accédez à la console AgentRun. Choisissez Sandbox dans le volet de navigation de gauche. Créez un modèle de bac à sable de type Code Interpreter.

Remarque
Le type de réseau par défaut est Allow the default NIC to access the public network, ce qui nécessite que le service RAG dispose d'un accès au réseau public.

Vous pouvez également sélectionner Allow access to VPC et configurer le même VPC pour le service RAG.
Obtenez l'Alibaba Cloud account ID et le Sandbox ID. Si vous avez configuré des identifiants d'accès, obtenez également une clé API.

Configuration

Cliquez sur Settings > Code Sandbox dans le coin inférieur gauche et configurez les paramètres suivants :

Enable Sandbox : active ou désactive la fonctionnalité de bac à sable.
Sandbox Type : seuls les bacs à sable Alibaba Cloud FC sont pris en charge.
Alibaba Cloud ID : votre ID de compte Alibaba Cloud.
Interpreter ID : l'ID du bac à sable.
Interpreter Name : le nom de l'interpréteur de code.
API Key : la paire AccessKey utilisée pour la vérification d'identité.
Default Timeout (s) : durée maximale d'exécution du code en secondes. Par défaut : 50.

Après la configuration, téléchargez un fichier (tel que titanic.csv) dans l'interface de discussion et posez une question. L'assistant IA invoque l'interpréteur de code pour exécuter du code Python afin d'analyser les données et renvoie les résultats. Par exemple, la question « Quel est le ratio hommes/femmes ? » incite l'assistant IA à lire les données avec pandas et à retourner : 577 hommes, 314 femmes, soit un ratio d'environ 1,84:1.

Configurer la politique de découpage des fichiers

Les paramètres de découpage définissent la méthode de découpage des documents dans une base de connaissances. Cela détermine comment les documents sont divisés en fragments pour la vectorisation et la récupération. Des paramètres de découpage appropriés peuvent améliorer le rappel et la qualité des réponses.

Le découpage peut être configuré à deux niveaux :

Paramètres de découpage de la base de connaissances : les fichiers téléchargés dans la base de connaissances sont analysés à l'aide de ses paramètres par défaut.

Paramètres de découpage au niveau de la base de connaissances : dans la zone Chunking Settings de l'onglet Knowledge Base Settings, configurez les paramètres suivants :
- Chunk Type : par exemple, structuré (structure)
- Chunk Size : valeur recommandée 1000
- Chunk Overlap : valeur recommandée 50
- Image Understanding Model
- Embedding Model : par exemple, BAAI/bge-m3
Niveau fichier :
- Lors du téléchargement d'un fichier, vous pouvez spécifier individuellement ses paramètres de découpage.
  
  Dans la zone Chunking Configuration de la boîte de dialogue de téléchargement de fichier, définissez les paramètres suivants :
  - Chunk Type : sélectionnez la méthode de découpage, par exemple structured (structure)
  - Chunk Size : définissez la taille de chaque fragment, par exemple 1000
  - Chunk Overlap : définissez le chevauchement entre les fragments, par exemple 60
  - Image Understanding Model : sélectionnez si vous souhaitez utiliser un modèle de compréhension d'image
  Après la configuration, cliquez sur le bouton Start Parsing pour commencer l'analyse.
- Lorsque vous effectuez une opération de réanalyse sur un fichier existant, vous pouvez également spécifier de nouveaux paramètres de découpage pour déclencher le retraitement.
  
  Les paramètres de découpage incluent :
  - Chunk Type : sélectionnez la méthode de découpage, par exemple structuré (structure)
  - Chunk Size : valeur recommandée 1000
  - Chunk Overlap : valeur recommandée 50
  - Image Understanding Model : utilisé pour comprendre le contenu des images ; vous pouvez choisir de ne pas l'utiliser

Prérequis

Avant de configurer les paramètres de découpage, assurez-vous de remplir les conditions préalables suivantes :

Une base de connaissances : une base de connaissances active existe dans le système.
Une configuration d'embedding : au moins un modèle d'embedding est configuré.
(Facultatif) Un modèle multimodal : requis pour la compréhension d'image. Configurez un modèle de vision dans le système.

Description des paramètres

Paramètre	Description
Chunk Type	Sélectionnez un type de découpage en fonction des caractéristiques du document : Structured : découpe par structure (titres, paragraphes). Convient à la plupart des fichiers Markdown, PDF et Word. By token : découpe par nombre de jetons. Convient aux exigences strictes de longueur. Table : découpe par structure de tableau. Convient aux fichiers Excel et CSV. Configurez Max table header row index, Merge rows, Row delimiter et Format as JSON. Paragraph : découpe par séparateur personnalisé, tel que `\n\n`. Vous pouvez également définir la taille du fragment et le chevauchement.
Chunk Size	Longueur maximale de chaque fragment en caractères ou en jetons, selon le type de découpage. Recommandé : 1000.
Chunk Overlap	La longueur du chevauchement entre les fragments adjacents. Cela préserve le contexte et évite les ruptures sémantiques. Recommandé : 50. Important La taille du fragment doit être supérieure au chevauchement.
Image Understanding Model	Interprète le contenu des images dans les documents, telles que les images intégrées dans les fichiers PDF ou Markdown. Sélectionnez un modèle de vision configuré dans la liste déroulante, ou choisissez de ne pas en utiliser. Lorsqu'il est sélectionné, les images sont interprétées lors de l'analyse et incluses dans le découpage et la récupération.
Vector Model	Convertit le texte découpé et les résultats de la compréhension d'image en vecteurs pour la récupération. Sélectionnez un modèle d'embedding configuré dans le système, tel que BAAI/bge-m3.

Remarque

Suggestion d'optimisation : commencez par télécharger quelques documents avec les paramètres par défaut. Analysez le rappel et la précision dans le module d'évaluation, puis ajustez les paramètres en fonction des résultats.

Suggestions d'utilisation

RAG pour les longs documents : définissez Chunk Type sur Structured, Chunk Size sur 1000 et Chunk Overlap sur 50. Cela permet de contrôler la longueur des fragments tout en préservant le contexte.
Découpage strict par séparateur : utilisez le découpage Paragraph avec un séparateur personnalisé.
Données tabulaires : sélectionnez le type de découpage Table (table), puis configurez les lignes d'en-tête et le délimiteur de ligne. Si vous ne sélectionnez pas Merge rows, le système découpe les données par ligne. Si vous sélectionnez Merge rows, le système fusionne les lignes en blocs en fonction de la limite de taille de fragment.
Documents multimodaux : activez Image Understanding Model pour inclure le contenu des images des PDF et autres documents dans la récupération et la génération de réponses.

Configurer la FAQ de l'application

La fonctionnalité FAQ maintient une base de connaissances de questions et réponses par application. Utilisez-la pour les manuels de produit, les scripts de service client et les questions fréquemment posées.

Lorsque la FAQ est activée et que les entrées sont configurées, les conversations suivent ce flux :

L'assistant IA récupère l'entrée FAQ la plus similaire à la question de l'utilisateur.
Si une correspondance atteint le seuil de similarité, le système soit renvoie directement la réponse de la FAQ, soit génère une réponse avec le modèle sur la base du résultat de la FAQ, selon la configuration.
Si aucune correspondance n'est trouvée ou si l'option de retour direct n'est pas activée, le système se rabat sur d'autres capacités telles que la base de connaissances et la recherche.

Configuration :

Connectez-vous au système et accédez à la page de configuration de l'application cible.
Activer la FAQ : dans la configuration de l'application, activez l'interrupteur Enable FAQ et enregistrez vos modifications.
Ouvrez la page de gestion de la FAQ pour effectuer les actions suivantes :
- Paramètres de réponse de la FAQ : cliquez sur Settings. Configurez le seuil de score de similarité (recommandé entre 0,8 et 1,0), le modèle d'embedding, l'inclusion ou non des questions ou des réponses dans la récupération et l'affichage, et la possibilité de renvoyer directement les résultats des outils.
- Gérer les FAQ :
  - Ajouter, modifier ou supprimer une entrée FAQ unique.
    - Cliquez sur + Add FAQ, saisissez la Question et la Answer dans la boîte de dialogue, puis cliquez sur Create pour ajouter l'entrée.
    - Dans la liste des FAQ, cliquez sur l'icône de modification pour modifier une entrée, ou sur l'icône de suppression pour la retirer.
  - Supprimer des entrées par lots.
    
    Suppression par lot : cochez les cases des entrées FAQ cibles et cliquez sur Delete selected dans le coin supérieur droit pour supprimer toutes les entrées sélectionnées.
  - Importation par lot : téléchargez un fichier Excel, mappez les colonnes de questions et de réponses, puis importez les entrées en un clic.
    
    Dans la boîte de dialogue Upload File , sélectionnez un fichier xlsx ou xls et configurez les paramètres d'analyse suivants :
    - Header Row Index : spécifiez la position de la ligne d'en-tête. Laissez vide pour utiliser les indices de colonne numériques (0, 1, 2...)
    - Question Column : spécifiez l'indice de colonne pour les questions
    - Answer Column : spécifiez l'indice de colonne pour les réponses
    Après la configuration, cliquez sur Upload.
Après l'enregistrement, les conversations dans cette application privilégient automatiquement la récupération via la FAQ.