Data Management:DMS AI プラグインを使用してモデルを Dify に統合する

非公開 LLM サービスを統合する

1. Dify ワークスペースに移動します。[Studio] タブで、右上隅のアカウント名をクリックし、[設定] をクリックします。

   

2. [モデルプロバイダー] ページで、[モデル名]、[API キー]、[エンドポイント URL] などの関連パラメーターを構成し、[保存] をクリックします。

   [エンドポイント URL] は、http://172.17.XXX.XXX: XX/V1 形式です。

Alibaba Cloud Model Studio が提供する LLM サービスを統合する

1. ワークスペースに移動し、左側のナビゲーションペインにある アイコンをクリックして、[Studio] タブをクリックします。

2. [Studio] タブで、右上隅のアカウント名をクリックし、[設定] をクリックします。

3. [モデルプロバイダー] ページで、[モデルタイプ] パラメーターを LLM に設定し、[モデル名]、[APIキー]、[エンドポイント URL] などの関連パラメーターを構成します。次に、[保存] をクリックします。

   • [モデル名]: Alibaba Cloud Model Studio にデプロイされたモデルの名前。

   • [API キー]: API キーを取得する。

   • [エンドポイント URL]: Alibaba Cloud Model Studio サーバーに接続するために使用するエンドポイント。Alibaba Cloud Model Studio が提供するモデルサービスのエンドポイントは https://dashscope.aliyuncs.com/compatible-mode/v1 です。

   

非公開の Embedding または Rerank サービスを使用する

DMS AI では、以下の Embedding サービスと Rerank サービスがサポートされています。

手順 1: DMS AI にモデル情報を登録する

1. Dify ワークスペースに移動します。[Studio] タブで、右上隅のアカウント名をクリックし、[設定] をクリックします。

2. [モデルプロバイダー] ページで、[モデルタイプ] パラメーターを [テキスト Embedding] または プラグインをインストールして構成します。[Rerank] に設定し、関連パラメーターを構成します。次に、[保存] をクリックします。

   説明

   [モデル名]、[サービスプロバイダー]、[API キー]、[エンドポイント URL] パラメーターのみを構成する必要があります。

   

手順 2: ナレッジベース構成ページでモデルを選択する

1. Dify ワークスペースに移動します。

2. [ナレッジ] タブで、[ナレッジの作成] をクリックします。

   

3. 表示されるナレッジベース構成ページで、Dify に統合するモデルを選択します。

注:AnalyticDB for PostgreSQL が提供する Embedding または Rerank サービスを使用する

手順 1: DMS AI にモデル情報を登録する

1. Dify ワークスペースに移動します。[Studio] タブで、右上隅のアカウント名をクリックし、[設定] をクリックします。

2. [モデルプロバイダー] ページで、[モデルタイプ] パラメーターを [テキスト Embedding] または App Service プランを作成する[Rerank] に設定し、関連パラメーターを構成します。次に、[保存] をクリックします。

   説明

   • [モデル名]、[サービスプロバイダー]、[アクセスキー]、[シークレットキー]、[インスタンス ID]、[リージョン ID]、[コンテキストサイズ] パラメーターのみを構成する必要があります。詳細については、「RAM ユーザーの AccessKey ペアに関する情報を表示する」および「Rerank」をご参照ください。

   • 最大コンテキストサイズは 2048 です。

   モデルのパラメーター記述の詳細については、「Rerank」をご参照ください。

手順 2: ナレッジベース構成ページでモデルを選択する

1. Dify ワークスペースに移動します。

2. [ナレッジ] タブで、[ナレッジの作成] をクリックします。

   

3. 表示されるナレッジベース構成ページで、Dify に統合するモデルを選択します。