×
Community Blog Compute NestでLLMを使用してPAI-EASとAnalyticDB for PostgreSQLでRAGサービスを構築する

Compute NestでLLMを使用してPAI-EASとAnalyticDB for PostgreSQLでRAGサービスを構築する

本記事では、Compute Nestを使用し、PAI-EAS上のLLM、ベクトルストアとしてのAnalyticDB for PostgreSQL、ウェブUIとしてのGradio、オーケストレーションとしてのLangchainを使用してRAGサービスを作成する方法について説明します。

1

はじめに

このガイドでは、Alibaba CloudのAIプラットフォームであるPAI-EAS上の大規模言語モデル(LLM)を使用して、Retrieval-Augmented Generation(RAG)サービスを作成するプロセスを説明します。ベクトルストアとしてのAnalyticDB for PostgreSQL、Web UIとしてのGradio、オーケストレーションとしてのLangchainを使用します。

前提条件

  • Alibaba Cloudアカウント
  • クラウドサービスとAIモデルについての知識

ステップ 1: Alibaba Cloudアカウントの設定

Alibaba Cloudアカウントを持っていることを確認してください。まだアカウントを作成していない場合は、こちら からサインアップしてください。

ステップ 2: Compute Nestへのアクセス

アリババクラウドのアカウントでログインし、ナビゲーションメニューからCompute Nestを見つけます。サービスGenAI-LLM-RAGにアクセスして、正式使用をクリックしてください。

2

ステップ 3:インスタンスとそのパラメータの設定

必要なインスタンスのパラメータを設定します:

3

  1. サービスインスタンス名を入力する
  2. Elastic Computing Services (ECS)のパラメータを選択する。ecs.c6.2xlargeの選択を推奨します。この場合、アップロードされたドキュメントの処理が早くなります
  3. インスタンスのパスワードを挿入する

ステップ 4: LLM用のPAI-EASサービスを作成

PAI-EAS上で事前トレーニング済みのLLMをデプロイします:

  1. メニューから適切なLLMを選択する
  2. インスタンスタイプを設定する
  3. デプロイを実行し、APIエンドポイントを記録する

4

ステップ 5: AnalyticDB for PostgreSQLの設定

  1. AnalyticDB for PostgreSQLインスタンスのスペックを選択してください。
  2. セグメントストレージのサイズ:ドキュメントのサイズは、あなたの知識に応じて決定できます。
  3. デフォルトのデータベースユーザー名はkbsuserです。通常、データベース名はユーザー名と同じになります。他のユーザー名を自由に設定しても構いません。
  4. 強力なパスワードを作成する必要があります。例:パスワードに「@」記号は使用しないでください。

5

ステップ 6: WebUIの認証とネットワーク構成

1.  デフォルトのユーザー名はadminです。別のユーザー名を選択することもできます。

2.  強力なパスワードを作成する必要があります。

6

3.  VPCは既存のVPCから選択できます。新しいVPCを作成する場合は、スライダーをアクティベートして関連情報を入力してください。

4.  「Next: Confirm Order」を押してください。

7

ステップ 7: GradioをWeb UIに統合する

Gradioを使用してWeb UIを作成してください:

  1. Gradioを設定します。
  2. バックエンドサービス(PAI-EAS、ベクトルストア)に接続します。

ステップ 8: RAGサービスのデプロイ

関連情報をすべて確認し、Create Nowを押して利用規約に同意すると、サービスがデプロイされます。すべてのステップが完了するまでしばらくお待ちください。

8

RAGサービスの使用方法

9

一般的な質問応答

ユーザーはGradioのWeb UIを通じて質問をすることができ、LLMが処理して回答を提供します。

検索拡張のためのドキュメントのアップロード

ユーザーはベクトルストアに変換されたドキュメントをアップロードし、AnalyticDB for PostgreSQLに保存することができます。

ECSを通じたサービスの変更

承認されたユーザーはECSにアクセスして、サービスを変更または更新することができます。

結論

このガイドに従うことで、PAI-EAS、AnalyticDB、Gradio、Langchainの強力な機能を活用し、Compute Nest上で機能的なRAGサービスを構築することができるはずです。

本文はAIによって翻訳されました。ここで表明されている意見は参考までにお読みいただくものであり、必ずしもAlibaba Cloudの公式の意見を代表するものではありません。原文はこちらです。

0 0 0
Share on

Regional Content Hub

23 posts | 0 followers

You may also like

Comments

Regional Content Hub

23 posts | 0 followers

Related Products