AI Guardrails:カスタムテキストライブラリ

テキストタイプ

カスタムテキストライブラリには、キーワードと類似テキストの 2 種類のテキストを含めることができます。

• キーワード

  キーワードは、コンテンツ制御に使用される特定の短い単語またはフレーズです。テキストに事前定義されたキーワードが含まれている場合、一致がトリガーされます。ビジネスシナリオごとに異なるキーワードを設定できます。

  Content Moderation では、画像内のテキストの違反検出とテキストのスパム対策のシナリオでキーワードを使用できます。シナリオによって設定が若干異なる場合があります。

  中国語のキーワードは、AND (&) および NOT (~) 論理演算子をサポートしています。例：

  • 「A&B」を定義した場合、テキストに「A」と「B」の両方が含まれている場合にのみ一致します。

  • 「A~B」を定義した場合、テキストに「A」が含まれているが「B」が含まれていない場合にのみ一致します。テキストに「A」と「B」の両方が含まれている場合、一致はトリガーされません。

  説明

  AND (&) 演算子は NOT (~) 演算子より先に記述する必要があります。たとえば、「A&B~C」はキーワードとして設定できますが、「A~C&B」は設定できません。

• 類似テキスト

  類似テキスト機能は、文または段落間の意味的類似性を評価します。2 つのテキストは若干の違いがあっても、全体的な意味が同じであったり、同じ事象を説明していたりする場合があります。システムは、スキャンされたテキストが事前定義されたテキストサンプルと高い類似性を持つかどうかをチェックします。類似度スコアが特定のしきい値に達すると、一致がトリガーされます。

  類似テキストライブラリは、テキストのスパム対策シナリオ用です。ビジネスに応じて、ブロックリスト、信頼リスト、レビューリストを定義できます。レビューリストには、人間によるレビューが必要なテキストが含まれます。ライブラリ内に関連するテキストサンプルを維持することで、これらのサンプルに一致するコンテンツをフィルタリングするようにテキストのスパム対策サービスを誘導できます。

制限事項

操作手順

1. Content Moderation コンソールにログインします。

2. 左側のナビゲーションペインで、[マシン監査 V1.0] > Risk Libraries を選択します。

3. Custom Text Library タブで、Create Text Library をクリックします。

4. In the [Create Custom Text Library] dialog box, configure the parameters as described in Table 1, and then click [OK].

   Table 1. Parameters for creating a custom text library

   Parameter	Description
   [Name]	The name of the text library. Duplicate names are allowed, but we recommend using a unique name for your business.
   [Detection Scene]	The use case for the text library. Valid values: [Text Anti-spam]: Applicable to text anti-spam (when the scenes parameter includes antispam). [Texts or Objects on Image]: Applicable to image moderation (when the scenes parameter includes ad).
   [Type]	The type of text in the library. Valid values: [Text]: Uses keyword matching. Triggers a match if the content contains a keyword. This provides broad coverage. [Similar Text]: Uses text similarity matching. Triggers a match only if the entire segment of text is similar to a sample. This provides high precision. 説明 This option is available only when [Detection Scene] is set to [Text Anti-spam].
   [Match Mode]	When [Type] is set to [Text], select the match mode for the library. Valid values: [Precise]: A match is triggered only if the scanned text contains content that is identical to a keyword in the library. [Check after Preprocess Texts ]: Normalizes the scanned text and keywords before matching. The normalization logic is as follows: Uppercase letters are converted to lowercase. For example, if the input text is "bitCoin", it will match the keyword "bitcoin". Traditional Chinese characters are uniformly converted to Simplified Chinese characters. For example, if you enter the text "中國", it will match the keyword "中国". Visually similar characters are converted. For example, the input text "②" will match the keyword "2". 説明 For a similar text library, match after normalization is used by default.
   [Suggestion]	The purpose of the text library. If [Type] is [Text], valid values are: [Block list]: If a match is found, the automated review result is suggestion=block. [Review List]: If a match is found, the automated review result is suggestion=review. [Filter List]: Keywords in this list are ignored, but other content is still scanned. If [Type] is [Similar Text], valid values are: [Block list]: If a match is found, the automated review result is suggestion=block. [Review List]: If a match is found, the automated review result is suggestion=review. [Trust list]: If a match is found, the automated review result is suggestion=pass.
   BizType	The BizType parameter allows you to configure and apply different text libraries for different business requirements, such as specifying a text library for a specific detection. The logic is as follows: If you set BizType to "A" for a text library and also pass BizType="A" in your API request, the detection uses only enabled libraries with that BizType. Otherwise, the detection uses all enabled text libraries.

   After you create the text library, it appears in the text library list.

5. テキストライブラリ内のコンテンツ (キーワードまたは類似テキスト) を管理します。

   Custom Text Library リストには、すべてのカスタムテキストライブラリが表示されます。フィードバックベースのテキストライブラリは、System タグで識別され、命名形式 SCENE_FEEDBACK_WHITE/BLACK に従います。たとえば、ANTISPAM_FEEDBACK_BLACK は、テキストアンチスパムシナリオ用にシステムによって生成されたブロックリストです。

   1. 管理するライブラリを見つけ、操作列のModifyをクリックします。

   2. Text Libraries ページで、ライブラリ内のキーワードを管理します。

      Text Libraries ページには、追加されたすべてのキーワードと、Detected in Last Seven Days 列のヒット数が表示されます。この数には当日は含まれません。

      説明

      キーワードを追加または削除すると、変更は約 15 分後に有効になります。

      • Add Keyword または Import をクリックし、画面の指示に従ってライブラリにキーワードを追加します。

      • キーワードを削除するには、削除するキーワードを選択し、Batch Delete をクリックします。また、個々のキーワードの横にある Delete をクリックして削除することもできます。

関連操作

セルフマネージドテキストライブラリについては、Custom Text Library ページの Actions 列で Delete、Modify、または Disable をクリックしてライブラリを管理できます。