検索および対話エクスペリエンスを向上させるために、OpenSearch LLM-Based Conversational Search Edition では、事前トレーニング済みの汎用 LLM を特定のビジネスシナリオに合わせてファインチューニングできます。この記事では、カスタム LLM を作成してトレーニングする方法について説明します。
カスタム LLM の作成
カスタム LLM 機能は、OpenSearch LLM-Based Conversational Search Edition の Professional Edition インスタンスでのみ利用できます。
-
[モデル管理] > [LLM] に移動し、[カスタム LLM の作成] をクリックして構成ページを開きます。
-
[モデル名]、[ベースモデル]、[既存の Q&A ペア] に必要な情報を入力します。
-
[モデル名]： 1 ～ 30 文字で、英字で始まり、英字、数字、アンダースコアのみを含めることができます。名前は一意である必要があります。
-
[ベースモデル]： 現在、opensearch-llama2-13b のみがサポートされています。
-
[既存の Q&A ペア]： XLSX ファイルをアップロードします。ファイルサイズは 128 MB を超えることはできません。ファイル名には、英字、数字、アンダースコア、ハイフンのみを含めることができます。必要な形式を確認するには、[サンプルデータ] をダウンロードできます。
形式の例：
[クエリ]
[回答]
OpenSearch とは何ですか?
OpenSearch は、Alibaba が開発した大規模分散検索エンジンをベースに構築された、ワンストップのインテリジェント検索サービス開発プラットフォームです。
LLM-Based Conversational Search Edition のユースケースは何ですか?
OpenSearch LLM-Based Conversational Search Edition は、企業内部のナレッジベース、インテリジェントカスタマーサービス、e コマース、コンテンツコミュニティなど、さまざまなシナリオに適しています。
-
[課金方法]： 詳細については、LLM-Based Conversational Search Edition Professional Edition の課金の概要をご参照ください。
説明制限： 作成できるカスタム LLM の最大数は、インスタンス内の GPU の数と同じです。GPU の数は、インスタンスの詳細ページで確認できます。1 つのインスタンスには、最大 10 個の GPU を含めることができます。
-
-
[送信] をクリックしてカスタム LLM を作成します。モデルの作成後、[トレーニング] をクリックしてすぐにトレーニングを開始するか、[完了] をクリックしてモデル管理ページに戻ることができます。
カスタム LLM のトレーニング
-
カスタム LLM を作成した後、モデル管理ページに移動し、[詳細] をクリックしてモデルの [基本情報]、[構成情報]、[トレーニング履歴] を表示します。この時点で、[モデルステータス] は利用不可で、[最新バージョンステータス] は [トレーニング待機中] です。[構成] をクリックして Q&A データを更新できます。
-
モデル管理ページで [トレーニング] をクリックし、確認ダイアログで [OK] をクリックしてモデルのトレーニングを開始します。
-
[詳細] をクリックしてモデルのステータスを確認します。[モデルステータス] は引き続き利用不可で、[最新バージョンステータス] は [トレーニング中] に変わります。
-
モデルのトレーニングが完了したら、[効果のテスト] をクリックしてパフォーマンスを評価します。