Guardrails コンソールでキーワードライブラリを管理および設定し、コンテンツモデレーションポリシーをカスタマイズできます。
キーワードライブラリの管理
リスクのあるコンテンツにフラグを立てたり、特定の用語を審査から除外したりするためのキーワードライブラリを作成し、これらのライブラリをサービスルールにアタッチします。
-
Guardrails コンソールにログインします。
-
左側のナビゲーションウィンドウで、 を選択します。
-
辞書管理 タブで、単語ライブラリの作成 をクリックします。
-
単語ライブラリの作成 パネルで、ライブラリの詳細を入力します。
1. 複数のキーワードを 1 つの論理式に組み合わせることができます。たとえば、
WeChat&part-timeは、両方の用語が出現した場合にのみマッチします。論理式では、&演算子は~演算子より前に配置する必要があります。&演算子は AND を意味し、~演算子は NOT (除外) を意味します。2. 1 行につき 1 つのキーワードを入力します。各キーワードは最大 50 文字です。
3. 一度に最大 1,000 行まで追加できます。1 回のバッチで 1,000 行を超える行を追加するには、[Import From File] を使用します。
4. アカウントごとに最大 20 個のライブラリを作成でき、合計 100,000 個のキーワードを追加できます。
-
保存 をクリックします。
ライブラリの作成に失敗した場合は、詳細なエラーメッセージが表示されます。メッセージ内の指示に従って、再度試行してください。
-
キーワードライブラリの設定
-
左側のナビゲーションウィンドウで、 を選択します。対象のサービスを見つけ、辞書の設定 列で 操作 をクリックします。
-
必要に応じて、用語ブラックリスト タブまたは ホワイトリストライブラリ タブを選択します。
-
用語ブラックリスト： 辞書の追加 をクリックして、新しいブラックリストライブラリを追加します。ライブラリを削除するには、ブラックリストから削除 をクリックします。
-
ホワイトリストライブラリ： 辞書の追加 をクリックして、新しいホワイトリストライブラリを追加します。ライブラリを削除するには、ホワイトリスト解除 をクリックします。
キーワードブラックリスト
テキストがキーワードブラックリスト内のキーワードと一致する場合、Text Moderation API は API レスポンスの
labelsにC_customized(カスタムライブラリとの一致を示す) を返します。これを使用して、特定のポリシーに違反するコンテンツを検出できます。たとえば、キーワード [マイクロ融資] と [in-person service] をキーワードブラックリストに追加したとします。"[Our campus offers small loans, safe, fast, convenient, no collateral, borrow anytime, same-day funding, in-person service]" というテキストを審査のために送信すると、システムは [マイクロ融資] と [in-person service] の両方との一致を検出します。API レスポンスの
labelsには、組み込み検出ルールからのラベルとともにC_customizedが含まれます。キーワードホワイトリスト
テキストがキーワードホワイトリスト内のキーワードと一致する場合、システムは審査中にそのキーワードを無視します。これを使用して、ビジネスコンテキストで安全な用語の誤検出を防ぐことができます。
たとえば、キーワード [convenient] と [fast] をキーワードホワイトリストに追加したとします。"[Our campus offers small loans, safe, fast, convenient, no collateral, borrow anytime, same-day funding, in-person service]" というテキストを審査のために送信すると、システムは [convenient] と [fast] を無視します。その後、残りのテキスト "[Our campus offers small loans, safe, no collateral, borrow anytime, same-day funding, in-person service]" のみを分析します。
-
-
用語ブラックリスト または ホワイトリストライブラリ タブでライブラリを追加または削除した後、OK をクリックして、サービスルールの設定を保存します。