OpenSearch:教育向けの質問応答検索

テスト問題専用アナライザ

OpenSearch には、テスト問題クエリ専用に構築されたアナライザが含まれています。上記で説明した6段階のパイプライン全体を適用します。ご自身のクエリ用語をアップロードして、ご利用の質問ライブラリ向けにカスタム語彙でアナライザを拡張します。

カテゴリ予測

カテゴリ予測は、各クエリを科目分野と質問タイプに分類します。クエリに画像が含まれている場合、モデルは画像情報と光学文字認識 (OCR) の結果を取り込み、分野と質問タイプを決定します。

予測されたカテゴリスコアはソート式に直接供給されます。カテゴリがクエリの予測された分野と一致するドキュメントは、より高いソートスコアを受け取り、上位にランク付けされます。

カテゴリ予測は、質問内でフィールドタイプも識別し、質問の説明と回答オプションを区別します。

用語の重み分析

形態素の重み付けは、クエリ内の各トークンに重要度スコアを割り当てます。

モデルは、どの用語が質問にとって意味的に中心的であり、どの用語が構造的なコネクタであるかを学習するシーケンスラベリングモデルを使用して、ユーザー行動データに基づいてトレーニングされます。

例: クエリ「The factors of 35 are () and the multiples of 24 within 100 are ()」の場合:

OpenSearch は「factors」と「multiples」を主要な取得用語として使用し、「35」と「24」を副次的な用語として使用します。低重みトークンは除外され、これにより、取得される関連ドキュメントの数が増加し、ノイズが低減されます。

OCR は画像から質問以外の要素 (ウォーターマーク、ページ番号、パブリッシャー名) をキャプチャすることがよくあります。形態素の重み付けはこれらの要素にスコア 1 を割り当て、取得を妨げないようにします。

クエリ書き換えとシノニム拡張

クエリ書き換えは、単一のパスで複数の介入 (介入辞書、スペル修正、シノニム拡張、形態素の重み付け調整) を適用します。これらの介入は組み合わせ可能です。たとえば、「cubic meters」が「tons」を同等の単位として含むようにシノニム辞書を構成し、同時に、形態素の重み付けを適用して、同じクエリ内の低関連性の構造トークンを抑制します。

カスタムソート

OpenSearch は、再現率の幅とランキング精度のバランスを取るために、2段階ソートを使用します。

1. 粗いソート: すべてのマッチするドキュメントを取得し、形態素の重み付けスコアを組み合わせた基本関連性スコアを使用して、上位N候補を選択します。

2. 詳細ソート: 形態素の重み付けスコア、カテゴリ予測スコア、および質問の品質や最新性などの追加のビジネスシグナルを組み込んだカスタムソート式を使用して、上位N候補を再ランキングします。

ソート式の構成方法:

必要な信号を組み合わせたソート式を記述し、それをアプリケーションに割り当てます。テスト問題検索の典型的な式は、3つのコンポーネントを組み合わせます。

これにより、基盤となるインデックスを変更することなく、取得の幅とランキング精度の間のトレードオフを調整できます。