Platform For AI:PAI-EAS に大規模言語モデル RAG 会話システムをデプロイ

Elasticsearch インスタンスの準備

Elasticsearch インスタンスがない場合は、Alibaba Cloud Elasticsearch コンソールにログインし、次の構成でインスタンスを作成します。詳細については、「Alibaba Cloud Elasticsearch インスタンスの作成」をご参照ください。

• [リージョンと可用性ゾーン]: ご使用の PAI-EAS サービスと同じリージョンを選択します。

• VPC: PAI-EAS サービスと同じ VPC を選択して、内部ネットワーク経由でのアクセスを有効にします。

• インスタンスタイプ： [標準] を選択します。

• シナリオ初期化構成: [汎用] を選択します。

サービス構成

• Vector Database Type: Elasticsearch を選択します。

• Private Endpoint and Port: Elasticsearch インスタンスの詳細ページに移動します。基本情報セクションで、プライベートエンドポイントとポートを確認できます。フォーマットは http://<private IP address>:<port> です。

• Index Name: システムは、お客様の入力内容に応じて異なる操作を実行します。

  • 新しい名前を入力: PAI-EAS は、デプロイ中に PAI-RAG と互換性のあるインデックスを自動的に作成します。

    重要

    デフォルトでは、Alibaba Cloud Elasticsearch では自動インデックス作成が許可されていません。Elasticsearch インスタンスの [設定管理] > [ES クラスタ設定] ページで、Modify Configurations をクリックし、YML ファイルを更新して、[自動インデックス作成] を [許可] に設定します。詳細な手順については、「YML パラメーターの設定」をご参照ください。

  • 既存の名前を入力: PAI-EAS は既存のインデックスを使用します。構造的互換性を維持するために、インデックスが PAI-RAG サービスによって作成されたことを確認してください。

• Account および Password: Elasticsearch インスタンスを作成した際に設定したユーザー名とパスワードを入力します。デフォルトのユーザー名は elastic です。パスワードを忘れてしまった場合は、インスタンスのパスワードをリセットすることができます。

• OSS Path: 現在のリージョンにある既存の OSS ストレージディレクトリを選択します。これにより、OSS パスをマウントすることでナレッジベースを管理できます。

Kibana を使用したインデックス管理

Elasticsearch はインデックス管理機能を提供します。詳細については、「Kibana クライアントを使用した Elasticsearch クラスターへの接続」をご参照ください。

OpenSearch Vector Search Edition インスタンスの準備

OpenSearch インスタンスをお持ちでない場合は、以下のリンクから OpenSearch コンソール にログインし、以下の構成でインスタンスを作成してください。詳細については、「OpenSearch Vector Search Edition インスタンスの購入」をご参照ください。

• 製品バージョン： Vector Search Edition を選択します。

• リージョンおよび可用性ゾーン と VPC： OpenSearch はパブリックインターネット経由でのみアクセスが可能です。したがって、これらの設定は PAI-EAS サービスと一致させる必要はありません。

サービス構成

• Vector Database Type： OpenSearch を選択します。

• Endpoint： ご利用の OpenSearch Vector Search Edition インスタンスのパブリックエンドポイントです。

  説明

  OpenSearch Vector Search Edition インスタンスのパブリックアクセスを有効化し、EAS のパブリック IP アドレス を許可リストに追加する必要があります。

• Instance ID： OpenSearch Vector Search Edition のインスタンス一覧より取得します。

• Username および Password： OpenSearch Vector Search Edition インスタンス作成時に設定したユーザー名とパスワードを入力します。

• Table Name: まず、互換インデックステーブルを作成する必要があります。「インスタンスの設定」を参照して、以下の主要パラメーターで作成します。

  • 汎用シナリオテンプレートを選択し、以下の構成ファイルをインポートしてフィールドを定義します。

    フィールド構成ファイル

    {
    	"schema": {
    		"summarys": {
    			"parameter": {
    				"file_compressor": "zstd"
    			},
    			"summary_fields": [
    				"id",
    				"embedding",
    				"file_path",
    				"file_name",
    				"file_type",
    				"node_content",
    				"node_type",
    				"doc_id",
    				"text",
    				"source_type"
    			]
    		},
    		"file_compress": [
    			{
    				"name": "file_compressor",
    				"type": "zstd"
    			},
    			{
    				"name": "no_compressor",
    				"type": ""
    			}
    		],
    		"indexs": [
    			{
    				"index_fields": [
    					{
    						"boost": 1,
    						"field_name": "id"
    					},
    					{
    						"boost": 1,
    						"field_name": "embedding"
    					}
    				],
    				"indexer": "aitheta2_indexer",
    				"index_name": "embedding",
    				"parameters": {
    					"enable_rt_build": "true",
    					"min_scan_doc_cnt": "20000",
    					"vector_index_type": "Qc",
    					"major_order": "col",
    					"builder_name": "QcBuilder",
    					"distance_type": "SquaredEuclidean",
    					"embedding_delimiter": ",",
    					"enable_recall_report": "true",
    					"ignore_invalid_doc": "true",
    					"is_embedding_saved": "false",
    					"linear_build_threshold": "5000",
    					"dimension": "1536",
    					"rt_index_params": "{\"proxima.oswg.streamer.segment_size\":2048}",
    					"search_index_params": "{\"proxima.qc.searcher.scan_ratio\":0.01}",
    					"searcher_name": "QcSearcher",
    					"build_index_params": "{\"proxima.qc.builder.quantizer_class\":\"Int8QuantizerConverter\",\"proxima.qc.builder.quantize_by_centroid\":true,\"proxima.qc.builder.optimizer_class\":\"BruteForceBuilder\",\"proxima.qc.builder.thread_count\":10,\"proxima.qc.builder.optimizer_params\":{\"proxima.linear.builder.column_major_order\":true},\"proxima.qc.builder.store_original_features\":false,\"proxima.qc.builder.train_sample_count\":3000000,\"proxima.qc.builder.train_sample_ratio\":0.5}"
    				},
    				"index_type": "CUSTOMIZED"
    			},
    			{
    				"has_primary_key_attribute": true,
    				"index_fields": "id",
    				"is_primary_key_sorted": false,
    				"index_name": "id",
    				"index_type": "PRIMARYKEY64"
    			},
    			{
    				"index_fields": "file_path",
    				"index_name": "file_path",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_name",
    				"index_name": "file_name",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_type",
    				"index_name": "file_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_content",
    				"index_name": "node_content",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_type",
    				"index_name": "node_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "doc_id",
    				"index_name": "doc_id",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "text",
    				"index_name": "text",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "source_type",
    				"index_name": "source_type",
    				"index_type": "STRING"
    			}
    		],
    		"attributes": [
    			{
    				"file_compress": "no_compressor",
    				"field_name": "id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "embedding"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_path"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_name"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_content"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "doc_id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "text"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "source_type"
    			}
    		],
    		"fields": [
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "id"
    			},
    			{
    				"user_defined_param": {
    					"multi_value_sep": ","
    				},
    				"multi_value": true,
    				"compress_type": "uniq",
    				"field_type": "FLOAT",
    				"field_name": "embedding"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_path"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_name"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_content"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "doc_id"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "text"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "source_type"
    			}
    		],
    		"table_name": "abc"
    	},
    	"extend": {
    		"description": [],
    		"vector": [
    			"embedding"
    		],
    		"embeding": []
    	}
    }

  • インデックススキーマ では、ベクターのディメンションがナレッジベースの埋め込みモデルで使用されるディメンションと一致していることを確認してください。距離タイプ については、InnerProduct を選択することを推奨します。

インデックステーブルおよびデータの管理

1. Alibaba Cloud OpenSearch Vector Search Edition コンソール にログインし、作成済みのインスタンスの ID をクリックして、インスタンスの詳細 ページに移動します。

2. テーブル管理ページに移動し、インデックステーブルに対して管理操作を実行します。詳細については、「テーブル管理」をご参照ください。

3. ベクター管理ページでは、クエリテストの実行やデータ管理が可能です。詳細については、「ベクター管理」をご参照ください。

RDS for PostgreSQL インスタンスの準備

1. ApsaraDB RDS for PostgreSQL (RDS for PostgreSQL) インスタンスをお持ちでない場合は、RDS インスタンス作成ページに移動し、以下の主要なパラメーターを構成し、画面の指示に従って購入を完了します。詳細については、「ApsaraDB RDS for PostgreSQL インスタンスの作成」をご参照ください。

   • エンジン： [PostgreSQL] を選択します。

   • VPC: ご利用の PAI-EAS サービスと同じ VPC を選択し、内部ネットワーク経由のアクセスを有効にします。

   • [特権アカウント]: [詳細設定] セクションで、特権アカウントを設定します。[今すぐ設定] を選択し、データベースアカウントおよびパスワードを設定します。

2. データベースを作成します。

   1. 作成済みのインスタンスの名前をクリックします。左側のナビゲーションウィンドウで、[データベース管理] をクリックし、次に [データベースの作成] をクリックします。

   2. [データベースの作成] パネルで、[データベース (DB) 名] を設定します。[承認済みアカウント] では、作成した特権アカウントを選択します。その他のパラメーターについて詳しくは、「データベースとアカウントの作成」をご参照ください。

   3. パラメーターを設定したら、Create をクリックします。

サービス構成

RDS for PostgreSQL インスタンスを作成済みであることを確認してください。

• Vector Database Type: [RDS PostgreSQL] を選択します。

• Host address: お使いの RDS for PostgreSQL インスタンスの内部エンドポイントです。この情報は、ApsaraDB RDS for PostgreSQL コンソール のインスタンスの [データベース接続] ページで確認できます。

• Port: デフォルトは 5432 です。異なる場合は実際のポートを入力します。

• Database: データベースの [承認済みアカウント] は、[特権アカウント] である必要があります。詳細については、「データベースとアカウントを作成する」をご参照ください。また、データベースに vector 拡張と jieba 拡張をインストールする必要があります。

• Table Name: データベーステーブルのカスタム名です。

• AccountとPasswordは、データベースの作成時に設定した許可されたユーザー名とパスワードです。特権アカウントの作成方法については、「データベースとアカウントの作成」をご参照ください。[アカウントタイプ] には [特権アカウント] を選択します。

• OSS Path: 現在のリージョンにある既存の OSS ストレージディレクトリを選択します。これにより、OSS パスをマウントすることでナレッジベースを管理できます。

RDS for PostgreSQL データベース管理

1. RDS インスタンスリストに移動し、ご利用のインスタンスが配置されているリージョンに切り替えてから、インスタンス名をクリックしてインスタンス詳細ページに移動します。

2. 左側のナビゲーションウィンドウで、[データベース管理] を選択します。対象のデータベースの Actions 列で、[SQL クエリ] をクリックします。

3. [データベースアカウント] と [データベースパスワード] に、RDS for PostgreSQL インスタンスの作成時に設定した特権ユーザー名とパスワードを入力し、Sign in をクリックします。

4. ログイン後、インポートされたナレッジベースのリストをクエリします。