Word2Vec コンポーネントは、ニューラルネットワークを使用して単語を K 次元のベクターにマッピングします。これらのベクターは意味的な関係を捉えるため、言語的な意味に対応する算術演算を実行できます。このコンポーネントは、入力として単語列またはテキストコーパスを受け入れ、単語ベクターテーブルと語彙を生成します。
注意事項
Word2Vec コンポーネントを 単語頻度統計 コンポーネントの出力に接続します。
単語頻度統計コンポーネントの出力は、単語とそのカウントを含む 3つ組 (トリプル) のセットです。Word2Vec コンポーネントはこの出力を受け取り、データを単一の単語のリストに変換し、リスト全体を単一のドキュメントとして処理します。
コンポーネントの設定
Word2Vec コンポーネントは、以下のいずれかの方法で設定できます。
方法 1：GUI での設定
ビジュアルモデリングのパイプラインページで、コンポーネントパラメーターを設定します。
|
タブ |
パラメーター |
説明 |
|
[フィールド設定] |
単語列を選択 |
トレーニングに使用する単語列です。最高のパフォーマンスを得るには、単語数が 1,000 万を超えないようにすることを推奨します。 |
|
[パラメーター設定] |
単語の特徴ディメンション |
単語特徴のディメンション数です。有効値：0～1,000。デフォルト値：100。 |
|
言語モデル |
トレーニングに使用する言語モデルです。有効値：[skip-gram モデル] および [CBOW モデル]。デフォルト値：[skip-gram モデル]。 |
|
|
[単語ウィンドウサイズ] |
単語ウィンドウのサイズです。値は正の整数である必要があります。デフォルト値：5。 |
|
|
ランダムウィンドウを使用 |
ランダムウィンドウを使用するかどうかを指定します。デフォルトで有効になっています。 |
|
|
[最小単語頻度] |
値は正の整数である必要があります。デフォルト値：5。 |
|
|
[階層的ソフトマックスの使用] |
階層的ソフトマックスを使用するかどうかを指定します。デフォルトで有効になっています。 |
|
|
[ネガティブサンプリング] |
使用する負のサンプルの数です。値 0 はこの機能を無効にします。デフォルト値：0。 |
|
|
[ダウンサンプリングのしきい値] |
頻出単語をダウンサンプリングするためのしきい値です。値 0 はこの機能を無効にします。デフォルト値：0。 |
|
|
初期学習率 |
値は 0 より大きい必要があります。デフォルト値：0.025。 |
|
|
[反復回数] |
値は 1 以上である必要があります。デフォルト値：1。 |
|
|
チューニング |
[コア数] |
デフォルトでは、システムがリソースを自動的に割り当てます。 |
|
[コアあたりのメモリサイズ] |
デフォルトでは、システムがリソースを自動的に割り当てます。 |
方法 2：PAI コマンドの使用
PAI コマンドを使用してコンポーネントを設定します。SQL スクリプト コンポーネントで PAI コマンドを実行できます。詳細については、「SQL スクリプト」をご参照ください。
pai -name Word2Vec
-project algo_public
-DinputTableName=w2v_input
-DwordColName=word
-DoutputTableName=w2v_output;|
パラメーター |
必須 |
説明 |
デフォルト値 |
|
inputTableName |
はい |
入力語彙テーブルの名前です。 |
なし |
|
inputTablePartitions |
いいえ |
形態素解析のための入力テーブルのパーティションです。フォーマット： |
なし |
|
wordColName |
はい |
単語列の名前です。この列の各行には、単一の単語が含まれている必要があります。</s> 文字列は改行文字を表します。 |
なし |
|
inVocabularyTableName |
いいえ |
入力語彙に対する単語数カウント操作からの出力テーブルです。 |
システムは入力テーブルに対して単語数カウント操作を実行します。 |
|
inVocabularyPartitions |
いいえ |
単語数カウント操作からの出力テーブルのパーティションです。 |
inVocabularyTableName で指定されたテーブルのすべてのパーティション。 |
|
layerSize |
いいえ |
単語特徴のディメンション数です。有効値：0～1,000。 |
100 |
|
cbow |
いいえ |
トレーニングモデルを指定します。skip-gram モデルの場合は 0、CBOW モデルの場合は 1 に設定します。 |
0 |
|
window |
いいえ |
単語ウィンドウのサイズです。正の整数である必要があります。 |
5 |
|
minCount |
いいえ |
切り捨てのための最小単語頻度です。正の整数である必要があります。 |
5 |
|
hs |
いいえ |
階層的ソフトマックスを使用するかどうかを指定します。有効にする場合は 1、無効にする場合は 0 に設定します。 |
1 |
|
negative |
いいえ |
負のサンプルの数です。正の整数である必要があります。値 0 はこの機能を無効にします。 |
0 |
|
sample |
いいえ |
ダウンサンプリングのしきい値です。有効値は 1e-3 から 1e-5 です。値 0 はこの機能を無効にします。 |
0 |
|
alpha |
いいえ |
初期学習率です。0 より大きい必要があります。 |
0.025 |
|
iterTrain |
いいえ |
トレーニングの反復回数です。1 以上である必要があります。 |
1 |
|
randomWindow |
いいえ |
単語ウィンドウのタイプを指定します。値 0 は window パラメーターで設定された固定ウィンドウサイズを示します。値 1 は 1 から 5 までのランダムなウィンドウサイズを示します。 |
1 |
|
outVocabularyTableName |
いいえ |
語彙の出力テーブルの名前です。 |
なし |
|
outputTableName |
はい |
単語ベクターの出力テーブルの名前です。 |
なし |
|
lifecycle |
いいえ |
出力テーブルのライフサイクル (日数) です。正の整数である必要があります。 |
なし |
|
coreNum |
いいえ |
コア数です。このパラメーターは memSizePerCore も設定されている場合にのみ有効です。正の整数である必要があります。 |
自動的に割り当てられます |
|
memSizePerCore |
いいえ |
コアあたりのメモリサイズ (MB) です。このパラメーターは coreNum も設定されている場合にのみ有効です。正の整数である必要があります。 |
自動的に割り当てられます |
よくある質問
「Vocab size is zero! vocab_size: 0」というエラーメッセージが表示された場合、語彙が空であることを示します。この問題を解決するには、minCount パラメーターの値を小さくしてください。