Platform For AI:Gérer les bases de connaissances

Fonctionnement

Une base de connaissances convertit les fichiers OSS en contenu récupérable par un LLM en trois étapes :

1. Lecture des données et découpage : Le système lit les fichiers sources depuis OSS et les divise en unités traitables.

   • Les documents non structurés sont analysés et divisés en blocs de texte plus petits et sémantiquement complets (chunks).

   • Les données structurées sont découpées par ligne.

   • Les images sont traitées dans leur intégralité sans être découpées.

2. Vectorisation : Le système appelle un modèle d'embedding pour convertir chaque chunk ou image en un vecteur numérique représentant sa signification sémantique.

3. Stockage et indexation : Le système stocke les données vectorielles dans une base de données vectorielle et crée un index pour la récupération.

Prise en main

Créez une base de connaissances de type Document et utilisez-la dans un flux d'application :

1. Créer une base de connaissances. Accédez à LangStudio et sélectionnez un espace de travail. Dans l'onglet Knowledge Base, cliquez sur Create Knowledge Base. Configurez les paramètres suivants et cliquez sur OK.

   Paramètre		Description
   Basic Configuration	Name	Saisissez un nom personnalisé pour la base de connaissances, par exemple test_kg.
   	Data Source OSS Path	Emplacement de stockage des fichiers sources. Par exemple : oss://examplebucket.oss-cn-hangzhou-internal.aliyuncs.com/test/original/.
   	Output OSS Path	Stocke les résultats d'analyse intermédiaires et les données d'index. La sortie finale dépend du type de base de données vectorielle sélectionné. Par exemple : oss://examplebucket.oss-cn-hangzhou-internal.aliyuncs.com/test/output/. Important Si le Instance RAM Role pour l'exécution est le rôle par défaut PAI, définissez ce paramètre sur un répertoire situé dans le bucket OSS du chemin de stockage par défaut de l'espace de travail actuel.
   	Type	Sélectionnez Document.
   Embedding Model and Database	Embedding Type	Sélectionnez Alibaba Cloud Model Studio Service (créez d'abord une connexion, voir Connection Configuration), puis sélectionnez la connexion et le modèle.
   	Vector Database Type	Sélectionnez FAISS pour des tests rapides.

2. Télécharger des fichiers.

   1. Dans l'onglet Knowledge Base, cliquez sur la base de connaissances. Sur la page Overview, basculez vers l'onglet Documents. Cet onglet affiche les documents provenant de la source de données OSS configurée.

   2. Ajoutez ou mettez à jour des fichiers à l'aide du bouton Upload, ou téléchargez des fichiers directement dans la source de données OSS. Par exemple, téléchargez rag_test_doc.txt via la page. Pour connaître les formats de fichiers pris en charge, consultez Types de bases de connaissances.

      

3. Mettre à jour l'index. Après avoir téléchargé des fichiers, cliquez sur Update Index dans le coin supérieur droit. Dans la boîte de dialogue, configurez les ressources de calcul et le réseau. Lorsque la tâche réussit, l'état du fichier passe à Indexed. Cliquez sur un fichier pour prévisualiser ses chunks. Pour les bases de connaissances d'images, le système renvoie des listes d'images.

   Remarque

   Pour les chunks de documents stockés dans Milvus, définissez leur statut individuellement sur Enabled ou Disabled. Les chunks désactivés ne sont pas récupérés lors des recherches.

   

4. Exécuter un test de récupération. Après la mise à jour de l'index, basculez vers l'onglet Recall Test. Saisissez une requête et ajustez les paramètres de récupération pour tester les performances.

   

5. Utiliser la base de connaissances dans un flux d'application. Après les tests, récupérez les informations de la base de connaissances dans un flux d'application. Dans le nœud de la base de connaissances, activez les fonctionnalités de réécriture de requête et de reclassement des résultats, et consultez la requête réécrite dans la trace d'exécution.

   

   Le résultat est un List[Dict]. Chaque Dict contient les clés content et score, représentant le chunk récupéré et son score de similarité avec la requête.

   [
     {
       "score": 0.8057173490524292,
       "content": "Due to the uncertainty caused by the pandemic, XX Bank proactively increased provisions for impairment losses on loans, advances, and non-credit assets based on economic trends and forecasts for China or the Chinese mainland. The bank also increased the write-off and disposal of non-performing assets to improve the provision coverage ratio. In 2020, the net profit reached 28.928 billion CNY, a year-on-year increase of 2.6%, and profitability gradually improved.\n(CNY in millions) 2020 2019 Change (%)\nOperating Results and Profitability\nOperating Income 153,542 137,958 11.3\nOperating Profit Before Impairment Losses 107,327 95,816 12.0\nNet Profit 28,928 28,195 2.6\nCost-to-Income Ratio(1)(%) 29.11 29.61 down 0.50 percentage points\nAverage Return on Total Assets (%) 0.69 0.77 down 0.08 percentage points\nWeighted Average Return on Equity (%) 9.58 11.30 down 1.72 percentage points\nNet Interest Margin(2)(%) 2.53 2.62 down 0.09 percentage points\nNote: (1) Cost-to-Income Ratio = Business and management fees / Operating income.",
       "id": "49f04c4cb1d48cbad130647bd0d75f***1cf07c4aeb7a5d9a1f3bda950a6b86e",
       "metadata": {
         "page_label": "40",
         "file_name": "2021-02-04_XX_Insurance_Group_Co_Ltd_XX_China_XX_2020_Annual_Report.pdf",
         "file_path": "oss://my-bucket-name/datasets/chatglm-fintech/2021-02-04__XX_Insurance_Group_Co_Ltd__601318__China_XX__2020_Annual_Report.pdf",
         "file_type": "application/pdf",
         "file_size": 7982999,
         "creation_date": "2024-10-10",
         "last_modified_date": "2024-10-10"
       }
     },
     {
       "score": 0.7708036303520203,
       "content": "7.2 billion CNY, a year-on-year increase of 5.2%.\n2020\n(CNY in millions) Life and Health Insurance Business, Property and Casualty Insurance Business, Banking Business, Trust Business, Securities Business, Other Asset Management Business, Technology Business, Other Business and Consolidation Elimination, Group Consolidated\nNet profit attributable to shareholders of the parent company 95,018 16,083 16,766 2,476 2,959 5,737 7,936 (3,876) 143,099\nMinority interest 1,054 76 12,162 3 143 974 1,567 281 16,260\nNet profit (A) 96,072 16,159 28,928 2,479 3,102 6,711 9,503 (3,595) 159,359\nItems excluded:\n Short-term investment fluctuation(1)(B) 10,308 – – – – – – – 10,308\n Impact of discount rate change (C) (7,902) – – – – – – – (7,902)\n One-time significant items and others excluded by management as not part of daily operating income and expenditure (D) – – – – – – 1,282 – 1,282\nOperating profit (E=A-B-C-D) 93,666 16,159 28,928 2,479 3,102 6,711 8,221 (3,595) 155,670\nOperating profit attributable to shareholders of the parent company 92,672 16,",
       "id": "8066c16048bd722d030a85ee8b1***36d5f31624b28f1c0c15943855c5ae5c9f",
       "metadata": {
         "page_label": "19",
         "file_name": "2021-02-04_XX_Insurance_Group_Co_Ltd_XXX_China_XX_2020_Annual_Report.pdf",
         "file_path": "oss://my-bucket-name/datasets/chatglm-fintech/2021-02-04__XX_Insurance_Group_Co_Ltd__601318__China_XX__2020_Annual_Report.pdf",
         "file_type": "application/pdf",
         "file_size": 7982999,
         "creation_date": "2024-10-10",
         "last_modified_date": "2024-10-10"
       }
     }
   ]

Fonctionnalités

Configurer les paramètres de récupération

• Top K : Nombre maximal de chunks pertinents à récupérer. Plage : 1 à 100.

• Seuil de score : Seuil de score de similarité (0 à 1). Seuls les chunks dont le score est supérieur à cette valeur sont renvoyés.

• Mode de récupération : La valeur par défaut est Dense (vectoriel). La récupération hybride (vectorielle + mot-clé) nécessite Milvus 2.4.x+ ou Elasticsearch. Sélectionner un mode de récupération.

• Condition de filtre de métadonnées : Réduit la portée de la recherche à l'aide des métadonnées. Utiliser les métadonnées.

• Réécriture de requête : Utilise un LLM pour clarifier les requêtes vagues ou dépendantes du contexte, améliorant ainsi la précision de la récupération. Réécriture de requête.

• Reclassement des résultats : Utilise un modèle de reclassement pour réorganiser les résultats, plaçant les plus pertinents en haut. Reclassement des résultats.

  Remarque

  Nécessite un modèle de reclassement. Types de connexion pris en charge : Model Studio, AI Search Open Platform Model Service et General Reranker Model Service.

Optimiser les performances de récupération

FAQ