ApsaraDB RDS:PAI-EAS および RDS for PostgreSQL を使用した RAG サービスのデプロイ

背景情報

前提条件

• Virtual Private Cloud (VPC)、vSwitch、およびセキュリティグループを作成済みである必要があります。詳細については、「VPC の作成と管理」および「セキュリティグループの作成」をご参照ください。

• カスタムファインチューニング済みモデルを使用してサービスをデプロイする場合は、モデルファイルを保存するための Object Storage Service (OSS) バケットまたは Apsara File Storage NAS (NAS) ファイルシステムを準備してください。詳細については、「コンソールの概要」または「ファイルシステムの作成」をご参照ください。

注意事項

このプロシージャは LLM サービスの最大トークン制限の影響を受け、RAG ベースの対話システムにおける基本的な取得機能を確認するのに役立ちます。

• LLM サービスのサーバーリソースおよびデフォルトのトークン制限により、最大会話長が決定されます。

• マルチターン対話を必要としない場合は、RAG サービスの with chat history 機能を無効にすることを推奨します。これにより、トークン制限に達するのを回避できます。詳細については、「RAG サービスで「チャット履歴あり」機能を無効にする方法」をご参照ください。

ステップ 1：ApsaraDB RDS for PostgreSQL ベクトルデータベースの準備

ApsaraDB RDS for PostgreSQL を使用して RAG 向けのベクトルデータベースを構築できます。データベース接続に必要な構成パラメーターを準備してください。

1. ApsaraDB RDS for PostgreSQL インスタンスを迅速に作成します。

   ApsaraDB RDS for PostgreSQL インスタンスと RAG サービスを同一リージョンにデプロイすることを推奨します。これにより、VPC 内部ネットワーク経由での通信が可能になります。

2. RDS インスタンス用のアカウントおよびデータベースを作成します。詳細については、「アカウントおよびデータベースの作成」をご参照ください。

   注：

   • アカウント作成時に、アカウントタイプ: を 特権アカウント に設定します。

   • データベース作成時に、所属アカウント として作成済みの特権アカウントを選択します。

3. データベース接続を構成します。

   1. インスタンス ページに移動します。上部ナビゲーションバーで RDS インスタンスが配置されているリージョンを選択し、該当の RDS インスタンスを見つけてインスタンス ID をクリックします。

   3. [データベース接続] ページで、データベースエンドポイントおよびポート番号を確認します。

4. 適用中のパラメーター値 の shared_preload_libraries に pg_jieba を追加します。たとえば、適用中のパラメーター値 を 'pg_stat_statements,auto_explain,pg_cron' に変更します。詳細については、「インスタンスパラメーターの設定」をご参照ください。

   説明

   ApsaraDB RDS for PostgreSQL は、キーワードベースの取得および再現率向上のために中国語テキストのセグメンテーションに pg_jieba 拡張を使用します。

ステップ 2：RAG サービスのデプロイ

1. モデルオンラインサービスページに移動します。

   1. PAI コンソール にログインします。

   2. 左側のナビゲーションウィンドウで、Workspaces をクリックします。[ワークスペース] ページで、管理対象のワークスペース名をクリックします。

      ワークスペースがない場合は、「ワークスペースの作成と管理」をご参照ください。

   3. ワークスペースの左側ナビゲーションウィンドウで、Model Deployment > Elastic Algorithm Service (EAS) の順に選択して、Elastic Algorithm Service (EAS) ページを開きます。

2. Elastic Algorithm Service (EAS) ページで、Deploy Service をクリックします。[Scenario-based Model Deployment] セクションで、RAG-based Smart Dialogue Deployment をクリックします。

3. RAG-based LLM Chatbot Deployment ページで、以下の主要パラメーターを構成します。

   • 基本情報

     パラメーター	説明
     Service Name	任意のサービス名を指定します。
     Model Source	有効な値：Open Source Model および Custom Fine-tuned Model。
     Model Type	シナリオに応じてモデルタイプを選択します。 カスタムファインチューニング済みモデルを使用する場合、モデルのパラメーターサイズおよび精度を構成する必要があります。
     モデル構成	カスタムファインチューニング済みモデルを使用する場合、ファインチューニング済みモデルのファイルパスを構成する必要があります。以下の 2 つの方法がサポートされています。 説明 モデルファイル形式が HuggingFace Transformers と互換性があることを確認してください。 Object Storage Service (OSS) 経由：ファインチューニング済みモデルファイルが保存されている OSS パスを選択します。 Apsara File Storage NAS 経由：ファインチューニング済みモデルファイルが保存されている NAS ファイルシステムおよび NAS ソースパスを選択します。

   • リソース構成

     パラメーター	説明
     Resource Configuration	オープンソースモデル を使用する場合、選択したモデルカテゴリに基づき、システムが適切なインスタンスタイプを自動的に推奨・選択します。 カスタムファインチューニング済みモデル を使用する場合、モデルに適合するインスタンスタイプを選択します。詳細については、「他のオープンソース大規模モデルへの切り替え方法」をご参照ください。
     Inference Acceleration	A10 または GU30 シリーズインスタンス上でデプロイされた Qwen、Llama2、ChatGLM、または Baichuan2 シリーズモデルでは、推論アクセラレーションがサポートされています。以下の 2 種類のアクセラレーションが利用可能です。 BladeLLM Inference Acceleration：BladeLLM は非常にコスト効率の高い LLM 推論アクセラレーションを提供し、ワンクリックで高い同時実行性と低遅延を実現します。 Open-source vLLM Inference Acceleration

   • ベクトルデータベース設定

     パラメーター	説明
     バージョンタイプ	ApsaraDB RDS for PostgreSQL を選択します。
     Host Address	ApsaraDB RDS for PostgreSQL インスタンスの内部エンドポイントまたはパブリックエンドポイントを設定します。 内部エンドポイントを使用：RAG アプリケーションとデータベースが同一リージョンにある場合、内部エンドポイントを使用してインスタンスに接続できます。 パブリックエンドポイントを使用：RAG アプリケーションとデータベースが異なるリージョンにある場合、ApsaraDB RDS for PostgreSQL インスタンスにパブリックエンドポイントを申請する必要があります。詳細については、「パブリックエンドポイントの申請または解放」をご参照ください。
     ポート	デフォルト値は 5432 です。必要に応じて別の値を入力します。
     データベース	ApsaraDB RDS for PostgreSQL データベースの名前です。
     テーブル名	新しいテーブル名または既存のテーブル名を入力します。既存のテーブルの構造は PAI-RAG の要件を満たしている必要があります。たとえば、以前に EAS を使用して RAG サービスをデプロイした際に自動作成されたテーブル名を入力できます。
     アカウント	ApsaraDB RDS for PostgreSQL インスタンスの特権アカウントです。
     パスワード	ApsaraDB RDS for PostgreSQL インスタンスの特権アカウントのパスワードです。

   • VPC 構成

     パラメーター	説明
     VPC	ホストアドレスに内部エンドポイントを使用する場合、RAG サービスを ApsaraDB RDS for PostgreSQL インスタンスと同じ VPC で構成する必要があります。 ホストアドレスにパブリックエンドポイントを使用する場合、RAG サービス用に VPC および vSwitch を構成し、さらに VPC に NAT ゲートウェイおよび Elastic IP アドレス (EIP) を構成して、RAG アプリケーションにインターネットアクセスを提供する必要があります。詳細については、「パブリック NAT ゲートウェイの SNAT 機能を使用したインターネットアクセス」をご参照ください。また、バインドされた EIP を ApsaraDB RDS for PostgreSQL インスタンスのパブリック IP アドレスホワイトリストに追加する必要があります。詳細については、「IP アドレスホワイトリストの設定」をご参照ください。
     VSwitch
     Security Group Name	セキュリティグループを構成します。 重要 created_by_rds という名前のセキュリティグループは使用しないでください。このセキュリティグループは内部システム専用に予約されています。

4. Deploy をクリックします。

   Service Status が 実行中 に変わると、サービスのデプロイが完了します。

ステップ 3：Web UI による推論の検証

このセクションの手順に従って、まず Web UI 上でサービスをデバッグできます。Web UI で目的の Q&A パフォーマンスが得られたら、PAI が提供する API を使用して、サービスを自社の業務システムに統合できます。詳細については、「ステップ 4：API を使用したモデル推論の検証」をご参照ください。

1. RAG サービスの構成

1. RAG サービスのデプロイ後、[View Web App] 列の Service Type をクリックして Web UI を開きます。

2. 機械学習モデルを構成します。

   • 埋め込みモデル名：4 つの組み込みモデルが利用可能です。システムが最も適切なモデルを自動的に選択・構成します。

   • 埋め込み次元：埋め込みモデル名 を選択すると、システムがこのパラメーターを自動的に構成します。操作は不要です。

3. ベクトルデータベース接続をテストします。

   システムはサービスデプロイ時に構成したベクトルデータベース設定を自動的に検出して適用し、これらの設定は変更できません。Connect PostgreSQL をクリックして、ApsaraDB RDS for PostgreSQL への接続性を確認します。

2. 業務データファイルのアップロード

3. モデル推論パラメーターの構成

4. モデル推論の検証

ステップ 4：API による推論の検証

RDS for PostgreSQL でのナレッジベースの確認

ベクトルデータベースとして機能する ApsaraDB RDS for PostgreSQL データベースに接続後、インポートされたナレッジベースの内容を確認できます。データベースへの接続方法については、「PostgreSQL インスタンスへの接続」をご参照ください。

次のステップ

EAS を使用して、以下のシナリオベースのデプロイも実行できます。

• Web UI および API 呼び出しをサポートする LLM アプリケーションをデプロイします。アプリケーションのデプロイ後、LangChain フレームワークを使用して企業のナレッジベースを統合し、インテリジェントな Q&A および自動化を実現できます。詳細については、「EAS を使用した LLM アプリケーションの迅速なデプロイ」をご参照ください。

• ComfyUI および Stable Video Diffusion モデルに基づく AI 動画生成サービスをデプロイして、ソーシャルメディアプラットフォーム向けのショートビデオコンテンツやアニメーションを生成できます。詳細については、「AI 動画生成 - ComfyUI デプロイ」をご参照ください。

よくある質問

RAG サービスでチャット履歴を無効にする方法

RAG サービスの Web UI で、Chat history チェックボックスをオフにします。