OpenSearch-LLMベースの対話型検索エディションは、カスタムLLM機能を導入することで、ユーザーの検索とQ&Aエクスペリエンスを向上させます。これにより、事前トレーニング済みの汎用LLMを特定のビジネスシナリオに合わせて微調整できます。このトピックでは、カスタムLLMの作成とトレーニングのプロセスについて概説します。
カスタムLLMの作成
カスタムLLM機能は、OpenSearch-LLMベースの対話型検索エディションインスタンスのProfessional Editionでのみ使用できます。
モデル管理 > LLMに移動し、カスタムLLMの作成をクリックします。
モデル名、ベースモデル、既存のQ&Aペアパラメータを入力します。
モデル名: 名前は1～30文字の長さにすることができます。文字で始まり、文字、数字、アンダースコア(_)を含めることができます。モデル名は一意である必要があります。
ベースモデル: 現在、opensearch-llama2-13bのみがサポートされています。
既存のQ&Aペア: 最大サイズが128MBのXLSXファイル。ファイル名には、文字、数字、アンダースコア(_)、ハイフン(-)のみを含めることができます。フォーマットの参照として使用できるサンプルデータファイルをダウンロードできます。
フォーマット例:
query
answer
OpenSearchとは何ですか
OpenSearchは、インテリジェント検索サービスを開発するために使用されるワンストッププラットフォームです。アリババクラウドが開発した大規模分散型検索エンジン・プラットフォームをベースに構築されています。
インテリジェントQ&Aエディションの典型的なシナリオは何ですか
OpenSearch LLMベースの対話型検索エディションには、大規模言語モデル（LLM）が組み込まれています。企業がビジネスデータに基づいて専用の検索モデルを構築するのに役立ち、さまざまな形式のデータをすばやくインポートでき、会話、リンク、画像など、複数のモデルの検索サービスを提供します。これにより、開発者はエンドツーエンドの対話型検索システムを迅速に構築できます。
課金方法: 詳細については、OpenSearch LLMベースの対話型検索エディションの課金概要を参照してください。
説明数量制限: カスタムLLMの最大数は、インスタンスのGPUの数に対応し、インスタンスの詳細インターフェースで確認できます。インスタンスごとにレンタルできるGPUの最大数は10です。
送信をクリックして、カスタムLLMを作成します。作成後、トレーニングをクリックしてすぐにトレーニングを開始するか、完了をクリックしてモデル管理ページに戻ることができます。
カスタムLLMのトレーニング
カスタムLLMを作成した後、モデル管理ページの詳細をクリックして、基本情報、構成情報、トレーニング履歴を確認します。この時点では、モデルステータスは利用不可で、最新バージョンのステータスはトレーニング待ちです。構成をクリックして、既存のQ&Aペアを調整します。
モデル管理ページに戻り、アクション列のトレーニングをクリックします。次に、OKをクリックしてトレーニングを開始します。
詳細をクリックして、モデルのステータスを確認します。モデルステータスは利用不可で、最新バージョンのステータスはトレーニング中です。
トレーニングが完了したら、効果のテストをクリックしてパフォーマンスを評価します。