Platform For AI:ナレッジベースの管理

仕組み

ナレッジベースは、次の 3 つの手順で、OSS のファイルを LLM で検索可能なコンテンツに変換します：

1. データの読み取りとチャンキング：OSS からソースファイルを読み取り、処理可能な単位に分割します。

   • 非構造化ドキュメントを解析し、意味的に完結した小さなテキストブロック (チャンク) に分割します。

   • 構造化データは行単位でチャンキングします。

   • 画像はチャンキングせず、全体を 1 つの単位として処理します。

2. ベクトル化：埋め込みモデルを呼び出し、各チャンクまたは画像をその意味を表す数値ベクトルに変換します。

3. 保存とインデックス作成：ベクトルデータをベクトルデータベースに保存し、検索用のインデックスを作成します。

クイックスタート

ドキュメントタイプのナレッジベースを作成し、アプリケーションフローで使用します。

1. ナレッジベースの作成。 LangStudio に移動し、ワークスペースを選択します。 ナレッジベース タブで、ナレッジベースの作成 をクリックします。 これらのパラメーターを設定し、[OK] をクリックします。

   パラメータ		説明
   [基本設定]	[ナレッジベース名]	ナレッジベースのカスタム名を入力します。例： test_kg
   	[データソース OSS パス]	ソースファイルが保存されている場所を指定します。例： oss://examplebucket.oss-cn-hangzhou-internal.aliyuncs.com/test/original/
   	[出力 OSS パス]	中間的な解析結果とインデックスデータを保存します。最終的な出力は、選択したベクトルデータベースタイプによって異なります。例： oss://examplebucket.oss-cn-hangzhou-internal.aliyuncs.com/test/output/ 重要 ランタイムの [インスタンス RAM ロール] が PAI デフォルトロールである場合は、このパラメーターを、現在のワークスペースのデフォルトストレージパス の OSS バケット内のディレクトリに設定してください。
   	[データ型]	[ドキュメント] を選択します。
   [埋め込みモデルとデータベース]	[Embedding タイプ]	Model Studio 大規模言語モデル (LLM) サービス接続 を選択し（まず接続を作成します。作成方法については、「接続設定」をご参照ください）、次に接続とモデルを選択します。
   	[ベクトルデータベースタイプ]	クイックテスト用に [FAISS] を選択します。

2. ファイルをアップロードします。

   1. ナレッジベース タブで、ナレッジベースをクリックします。概要 ページで、[ドキュメント] タブに切り替えます。このタブには、設定された OSS データソースのドキュメントが表示されます。

   2. アップロード ボタンを使用してファイルを追加または更新するか、OSS データソースにファイルを直接アップロードします。 たとえば、ページから rag_test_doc.txt をアップロードします。 サポートされているファイル形式については、「ナレッジベースのタイプ」をご参照ください。

      

3. インデックスの更新。ファイルをアップロードした後、右上隅にあるインデックスの更新をクリックします。ダイアログボックスで、コンピューティングリソースとネットワークを設定します。タスクが成功すると、ファイルステータスがインデックス済みに変わります。ファイルをクリックすると、そのチャンクをプレビューできます。画像ナレッジベースの場合、システムは画像リストを返します。

   説明

   Milvus に保存されているドキュメントチャンクについては、それぞれのステータスを [Enabled] または [Disabled] に設定できます。無効化されたチャンクは、検索時に取得されません。

   

4. 検索テストの実行。インデックスを更新した後、リコールテスト タブに切り替えます。クエリを入力し、検索パラメーターを調整してパフォーマンスをテストします。

   

5. アプリケーションフローでナレッジベースを使用します。テスト後、アプリケーションフローでナレッジベースから情報を検索します。ナレッジベースノードで、クエリ書き換えと結果の再ランキング機能を有効にし、実行トレースで書き換えられたクエリを確認します。

   

   結果は List[Dict] です。各 Dict には content と score のキーがあり、それぞれ取得されたチャンクとクエリとの類似度スコアを表します。

   [
     {
       "score": 0.8057173490524292,
       "content": "Due to the uncertainty caused by the pandemic, XX Bank proactively increased provisions for impairment losses on loans, advances, and non-credit assets based on economic trends and forecasts for China or the Chinese mainland. The bank also increased the write-off and disposal of non-performing assets to improve the provision coverage ratio. In 2020, the net profit reached 28.928 billion CNY, a year-on-year increase of 2.6%, and profitability gradually improved.\n(CNY in millions) 2020 2019 Change (%)\nOperating Results and Profitability\nOperating Income 153,542 137,958 11.3\nOperating Profit Before Impairment Losses 107,327 95,816 12.0\nNet Profit 28,928 28,195 2.6\nCost-to-Income Ratio(1)(%) 29.11 29.61 down 0.50 percentage points\nAverage Return on Total Assets (%) 0.69 0.77 down 0.08 percentage points\nWeighted Average Return on Equity (%) 9.58 11.30 down 1.72 percentage points\nNet Interest Margin(2)(%) 2.53 2.62 down 0.09 percentage points\nNote: (1) Cost-to-Income Ratio = Business and management fees / Operating income.",
       "id": "49f04c4cb1d48cbad130647bd0d75f***1cf07c4aeb7a5d9a1f3bda950a6b86e",
       "metadata": {
         "page_label": "40",
         "file_name": "2021-02-04_XX_Insurance_Group_Co_Ltd_XX_China_XX_2020_Annual_Report.pdf",
         "file_path": "oss://my-bucket-name/datasets/chatglm-fintech/2021-02-04__XX_Insurance_Group_Co_Ltd__601318__China_XX__2020_Annual_Report.pdf",
         "file_type": "application/pdf",
         "file_size": 7982999,
         "creation_date": "2024-10-10",
         "last_modified_date": "2024-10-10"
       }
     },
     {
       "score": 0.7708036303520203,
       "content": "7.2 billion CNY, a year-on-year increase of 5.2%.\n2020\n(CNY in millions) Life and Health Insurance Business, Property and Casualty Insurance Business, Banking Business, Trust Business, Securities Business, Other Asset Management Business, Technology Business, Other Business and Consolidation Elimination, Group Consolidated\nNet profit attributable to shareholders of the parent company 95,018 16,083 16,766 2,476 2,959 5,737 7,936 (3,876) 143,099\nMinority interest 1,054 76 12,162 3 143 974 1,567 281 16,260\nNet profit (A) 96,072 16,159 28,928 2,479 3,102 6,711 9,503 (3,595) 159,359\nItems excluded:\n Short-term investment fluctuation(1)(B) 10,308 – – – – – – – 10,308\n Impact of discount rate change (C) (7,902) – – – – – – – (7,902)\n One-time significant items and others excluded by management as not part of daily operating income and expenditure (D) – – – – – – 1,282 – 1,282\nOperating profit (E=A-B-C-D) 93,666 16,159 28,928 2,479 3,102 6,711 8,221 (3,595) 155,670\nOperating profit attributable to shareholders of the parent company 92,672 16,",
       "id": "8066c16048bd722d030a85ee8b1***36d5f31624b28f1c0c15943855c5ae5c9f",
       "metadata": {
         "page_label": "19",
         "file_name": "2021-02-04_XX_Insurance_Group_Co_Ltd_XXX_China_XX_2020_Annual_Report.pdf",
         "file_path": "oss://my-bucket-name/datasets/chatglm-fintech/2021-02-04__XX_Insurance_Group_Co_Ltd__601318__China_XX__2020_Annual_Report.pdf",
         "file_type": "application/pdf",
         "file_size": 7982999,
         "creation_date": "2024-10-10",
         "last_modified_date": "2024-10-10"
       }
     }
   ]

機能

取得パラメーターの設定

• Top K：取得する関連性の高いチャンクの最大数です。範囲：1～100。

• スコアのしきい値：類似度スコアのしきい値 (0～1) です。この値を超えるスコアのチャンクのみを返します。

• 取得パターン：デフォルトはデンス (ベクトル) です。ハイブリッド検索 (ベクトル + キーワード) には、Milvus 2.4.x 以降または Elasticsearch が必要です。取得モードの選択。

• メタデータフィルター条件：メタデータを使用して検索範囲を絞り込みます。メタデータの使用。

• クエリリライト：LLM を使用して、曖昧なクエリや文脈に依存するクエリを明確にし、取得精度を向上させます。クエリリライト。

• 結果の再ランキング：再ランキングモデルを使用して結果を並べ替え、最も関連性の高いものを先頭に配置します。結果の再ランキング。

  説明

  再ランキングモデルが必要です。対応接続タイプ： Model Studio、AI Search Open Platform Model Service、および General Reranker Model Service。

検索パフォーマンスの最適化

よくある質問