Content Moderation は、ビジネスニーズに検出結果をより適合させるために、カスタムテキストライブラリをサポートしています。カスタムテキストライブラリは、画像内のテキスト違反検出、テキストスパム対策、ファイルスパム対策、音声スパム対策などのシナリオに適用されます。これらのライブラリを使用して、ブロックやフィルターの対象とするテキスト、または人によるレビューに送信するテキストを管理し、新しいモデレーション要件に適応するのに役立ちます。
背景情報
カスタムテキストライブラリを使用する前に、このドキュメントをよくお読みになり、テキストライブラリの仕組みを理解してください。これにより、不適切なキーワードの追加などの設定ミスを防ぎ、誤検出や検出精度への影響を避けることができます。
カスタムテキストライブラリには、フィードバックベースのテキストライブラリと自己管理テキストライブラリがあります。
フィードバックベースのテキストライブラリは、人によるレビューの記録から自動的に生成され、デフォルトで同じタイプのすべての検出シナリオに適用されます。このライブラリ内のテキストは管理できますが、ライブラリ自体を無効化したり削除したりすることはできません。人によるレビューの詳細については、「人によるレビュー」をご参照ください。
自己管理テキストライブラリは、特定の検出シナリオまたはそのカテゴリで使用するために作成します。ライブラリ内のテキストとライブラリ自体の両方を管理できます。
最大 10 個の自己管理テキストライブラリを作成できます。この制限には、フィードバックベースのテキストライブラリは含まれません。
このドキュメントでは、Content Moderation コンソールでカスタムテキストライブラリを管理する方法について説明します。コンソールの使用に加えて、API や SDK を使用してこれらの操作を実行することもできます。詳細については、次のドキュメントをご参照ください。
テキストタイプ
カスタムテキストライブラリには、テキストと類似テキストの 2 種類のテキストを含めることができます。
テキスト
キーワードは、コンテンツの制御に使用される特定の短い単語またはフレーズです。テキストに事前定義されたキーワードが含まれている場合、一致と判定されます。ビジネスシナリオごとに異なるキーワードを設定できます。
Content Moderation では、画像内のテキスト違反検出とテキストスパム対策のシナリオでキーワードを使用できます。設定はシナリオによって若干異なる場合があります。
中国語キーワードでは、 AND (
&) と NOT (~) の論理演算子がサポートされています。例:「A&B」を定義した場合、テキストに「A」と「B」の両方が含まれている場合にのみ一致します。
「A~B」を定義した場合、テキストに「A」が含まれ、「B」が含まれていない場合にのみ一致します。テキストに「A」と「B」の両方が含まれている場合、一致しません。
説明AND (
&) 演算子は、NOT (~) 演算子より前に記述する必要があります。たとえば、「A&B~C」をキーワードとして設定できますが、「A~C&B」は設定できません。類似テキスト
類似テキスト機能は、文または段落間の意味的な類似性を評価します。2 つのテキストがわずかに異なっていても、全体として同じ意味を伝えていたり、同じ事象を説明していたりする場合があります。システムは、スキャン対象のテキストが、事前定義されたテキストサンプルと非常に類似しているかどうかをチェックします。類似度スコアが特定のしきい値に達すると、一致と判定されます。
類似テキストライブラリは、テキストスパム対策シナリオ用です。ビジネスに合わせて、ブロックリスト、信頼リスト、レビューリストを定義できます。レビューリストには、人によるレビューが必要なテキストが含まれます。ライブラリに関連するテキストサンプルを管理することで、テキストスパム対策サービスがこれらのサンプルに一致するコンテンツをフィルタリングするように設定できます。
制限事項
タイプ | 項目 | 制限 |
テキストライブラリ | ライブラリ数 | 自己管理テキストライブラリは最大 10 個。 |
テキストライブラリ | ライブラリ名の長さ | 最大 20 文字。 |
キーワード | キーワードタイプ |
|
キーワード | ライブラリあたりのキーワード数 | 最大 10,000 件。 |
キーワード | キーワードの最大長 | 50 文字 (記号を含む)。 |
キーワード | 中国語キーワードのエンコーディング | UTF-8。 |
キーワード | キーワードの形式 | キーワードには、全角または半角の次の特殊文字を含めることはできません：
|
類似テキスト | 類似テキストの長さ | 20～10,000 文字。 説明 誤検出を避けるため、テキストは 200 文字以下にすることを推奨します。 |
類似テキスト | ライブラリあたりの類似テキストエントリ数 | 最大 10,000 件。 |
類似テキスト | テキストのエンコーディング形式 | UTF-8。 |
類似テキスト | 類似テキストのコンテンツ | テキストサンプルには、明確で抽出可能な中国語の意味的特徴が含まれている必要があります。分析エンジンがサンプルの特徴が少なすぎると判断した場合、エンジンはそのサンプルを無視します。 説明 たとえば、無意味な英数字やさまざまな絵文字のみで構成されるサンプルは無視されることがあります。 |
操作手順
Content Moderation コンソールにログインします。
左側のナビゲーションペインで、[Machine audit V1.0] > リスクライブラリ管理 を選択します。
カスタムテキストライブラリ タブで、テキストライブラリの作成 をクリックします。
カスタムキーワードライブラリの作成 ダイアログボックスで、表 1 に従ってパラメーターを設定し、保存 をクリックします。
表 1. カスタムテキストライブラリ作成のパラメーター
パラメーター
説明
[名称]
テキストライブラリの名前。名前の重複は許可されますが、ビジネスに一意の名前を使用することを推奨します。
[使用シナリオ]
テキストライブラリのユースケース。有効値：
[テキストタイプ]
ライブラリ内のテキストのタイプ。有効値：
[キーワード]：キーワード照合を使用します。コンテンツにキーワードが含まれている場合に一致します。これにより、広範な検出が可能になります。
[類似テキスト]：テキストの類似性照合を使用します。テキストのセグメント全体がサンプルに類似している場合にのみ一致します。これにより、高い精度が実現されます。
説明このオプションは、使用シナリオ が テキストスパム に設定されている場合にのみ使用できます。
[照合方式]
テキストタイプ が キーワード に設定されている場合、ライブラリの一致モードを選択します。有効値：
完全一致：スキャンされたテキストにライブラリ内のキーワードと同一のコンテンツが含まれている場合にのみ、一致します。
あいまい一致：スキャンされたテキストとキーワードを照合する前に正規化します。正規化のロジックは次のとおりです：
大文字は小文字に変換されます。たとえば、入力テキストが「bitCoin」の場合、キーワード「bitcoin」と一致します。
繁体字中国語は一律に簡体字中国語に変換されます。たとえば、「中國」というテキストを入力すると、キーワード「中国」と一致します。
視覚的に類似した文字は変換されます。たとえば、入力テキスト「②」はキーワード「2」と一致します。
説明類似テキストライブラリの場合、デフォルトで正規化後の照合が使用されます。
[検出結果]
テキストライブラリの目的。
テキストタイプ が キーワード の場合、有効値は次のとおりです：
脅威リスト：一致が見つかった場合、自動レビュー結果は
suggestion=blockとなります。疑似リスト：一致が見つかった場合、自動レビュー結果は
suggestion=reviewとなります。無視リスト：このリスト内のキーワードは無視されますが、他のコンテンツは引き続きスキャンされます。
テキストタイプ が 類似テキスト の場合、有効値は次のとおりです：
脅威リスト：一致が見つかった場合、自動レビュー結果は
suggestion=blockとなります。疑似リスト：一致が見つかった場合、自動レビュー結果は
suggestion=reviewとなります。ホワイトリスト：一致が見つかった場合、自動レビュー結果は
suggestion=passとなります。
BizType
BizTypeパラメーターを使用すると、特定の検出にテキストライブラリを指定するなど、さまざまなビジネス要件に応じて異なるテキストライブラリを設定および適用できます。ロジックは次のとおりです：テキストライブラリの
BizTypeを "A" に設定し、API リクエストでもBizType="A"を渡した場合、検出ではそのBizTypeを持つ有効なライブラリのみが使用されます。それ以外の場合、検出では有効なすべてのテキストライブラリが使用されます。
テキストライブラリを作成すると、テキストライブラリリストに表示されます。
テキストライブラリ内のコンテンツ (キーワードまたは類似テキスト) を管理します。
カスタムテキストライブラリ リストには、すべてのカスタムテキストライブラリが表示されます。フィードバックベースのテキストライブラリは システム タグで識別され、
SCENE_FEEDBACK_WHITE/BLACKという命名形式に従います。たとえば、ANTISPAM_FEEDBACK_BLACK は、テキストスパム対策シナリオ用にシステムが生成したブロックリストです。管理したいライブラリを見つけ、[Actions] 列の 管理 をクリックします。
テキストライブラリ管理 ページで、ライブラリ内のキーワードを管理します。
テキストライブラリ管理 ページには、追加されたすべてのキーワードと、最近 7 日間のヒット 列にヒット数が表示されます。このカウントには当日は含まれません。
説明キーワードを追加または削除した後、変更が有効になるまでに約 15 分かかります。
キーワードの追加 または インポート をクリックし、画面の指示に従ってライブラリにキーワードを追加します。
キーワードを削除するには、削除したいキーワードを選択し、バッチ削除 をクリックします。個々のキーワードの横にある 削除 をクリックして削除することもできます。
関連操作
自己管理テキストライブラリの場合、カスタムテキストライブラリ ページの 操作 列にある 削除、編集、または 無効化 をクリックしてライブラリを管理できます。