LVM-画像テキスト類似度フィルタリング (DLC) コンポーネントは、画像とテキストのデータセットをフィルタリングし、画像とその説明テキストとの類似度が低いエントリを削除します。
サポート対象のコンピューティングリソース
アルゴリズム
clip-vit-base-patch32 モデルを使用して、画像の説明とトレーニングデータ内の説明テキストとの間の類似度を計算します。説明テキストは、サンプル トレーニングデータ ファイル内の <_dj__image> タグに続く内容です。このプロセスでは、類似度の低い画像をフィルタリングして画質を確保します。これは、後続の画像生成モデルをトレーニングするための一般的なステップです。トレーニングデータファイルの形式は以下のとおりです。
入力データは JSONL ファイル である必要があります。'text' フィールドでは、<_dj__image> と <|__dj__eoc|> がそれぞれ画像の説明の開始と終了を示します。
{"images":["oss://bucket_name.oss-cn-hangzhou.aliyuncs.com/image/data/image1.jpg"],"text":"<_dj__image> オプションの画像キャプション <|__dj__eoc|>"}
{"images":["oss://bucket_name.oss-cn-hangzhou.aliyuncs.com/image/data/image2.jpg"],"text":"<_dj__image><|__dj__eoc|>"}
{"images":["oss://bucket_name.oss-cn-hangzhou.aliyuncs.com/image/data/image3.jpg"],"text":"<_dj__image> a person pointing to a piece of wood on the ground<|__dj__eoc|>"}
{"images":["oss://bucket_name.oss-cn-hangzhou.aliyuncs.com/image/data/image4.jpg", "oss://bucket_name.oss-cn-hangzhou.aliyuncs.com/image/data/image5.jpg"],"text":"<_dj__image> 複数の画像を含むサンプル <|__dj__eoc|>"}
-
'images' フィールドには、画像の OSS パスが含まれます。
-
'text' フィールドには、上記の「アルゴリズム」セクションで説明したテキストが含まれます。
入力と出力
入力ポート
-
[OSS データの読み取り] コンポーネントを使用して、OSS パスからトレーニングデータファイルを読み取ります。
-
[画像データの OSS パス] パラメーターを設定して、トレーニングデータファイルを選択します。
トレーニングデータの形式の詳細については、「アルゴリズム」をご参照ください。
出力ポート
このポートはフィルタリングされた結果を出力します。詳細については、以下のパラメーターの説明をご参照ください。
コンポーネントの設定
[デザイナー] ワークフローで、[LVM-Image Text Similarity Filtering (DLC)] コンポーネントを追加し、右側のペインでそのパラメーターを設定します。
|
パラメータータイプ |
パラメーター |
必須 |
説明 |
デフォルト |
|
|
フィールド設定 |
画像データの OSS パス |
いいえ |
トレーニングデータファイルです。必要な形式の詳細については、「アルゴリズム」をご参照ください。 |
なし |
|
|
出力データを保存する OSS ディレクトリ |
いいえ |
フィルタリングされた結果が格納される OSS ディレクトリです。結果には以下のファイルが含まれます。
|
なし |
||
|
出力ファイルの名前 |
いいえ |
出力ファイルのベース名です。この名前は、 |
result |
||
|
パラメーター設定 |
テキストと画像の最小類似度 |
はい |
エントリが出力に含まれるために必要な、最小の類似度スコアです。 |
0.1 |
|
|
テキストと画像の最大類似度 |
はい |
エントリが出力に含まれるために必要な、最大の類似度スコアです。通常は 1 に設定します。 |
1 |
||
|
実行チューニング |
プロセス数 |
いいえ |
プロセス数です。 |
4 |
|
|
シングルノード/マルチノード |
いいえ |
シングルノードまたはマルチノードモードです。デフォルト値は single-node です。マルチノードモードは Ray フレームワークのみをサポートします。 |
single-node |
||
|
リソースグループを選択 |
いいえ |
パブリックリソースグループまたはリソースクォータを選択します (分散モードを使用する場合は、ヘッドノードとワーカーノードのリソースパラメーターを個別に設定する必要があります) 。
|
なし |
||
|
最大ランタイム |
いいえ |
ジョブの最大ランタイムです。この期間を超えると、ジョブは自動的に終了します。 |
なし |
||