Content Moderation は、Alibaba Cloud のデフォルトのモデレーションポリシーを使用してコンテンツをスキャンします。デフォルトのポリシーがビジネス要件に対して厳しすぎる、または緩すぎる場合は、カスタムのモデレーションポリシーを作成できます。本トピックでは、カスタムのモデレーションポリシーを設定する方法について説明します。
背景情報
モデレーションポリシーは、ビジネスシナリオ (BizType) に基づいて設定します。各シナリオには一連のモデレーションルールがあります。カスタムポリシーを作成しない場合、Content Moderation はデフォルトのビジネスシナリオとそれに対応するポリシーを使用します。カスタムのビジネスシナリオを作成した後、カスタムルールを適用するには、Content Moderation の API コールでその BizType を渡す必要があります。
操作手順
Content Moderation コンソールにログインします。
ナビゲーションペインで、 の順に選択します。
ビジネスシナリオを作成します。
すでにビジネスシナリオを作成している場合は、この手順をスキップしてください。
機械審査 ページの 業務シナリオの管理 タブで、ビジネスシナリオの作成 をクリックします。
ビジネスシナリオの作成 ダイアログボックスで、次の表の説明に従ってパラメーターを設定します。
パラメーター
説明
BizType name
ビジネスシナリオの名前。数字、文字、アンダースコア (_) を含めることができ、長さは 32 文字以内である必要があります。
[Industry template configuration]
業界標準に準拠したポリシー設定です。業界テンプレートを使用する場合、モデレーションポリシーの一部の機能はカスタマイズできません。テンプレートを使用しない場合は、すべての設定を自分で設定できます。
[業界分類]
お客様のビジネスが属する業界。業界を指定することで、ポリシー設定の精度が向上します。
[既存のものからインポート]
すでにビジネスシナリオを作成している場合は、その設定をインポートできます。
[説明]
ビジネスシナリオの説明。漢字、英字、数字、アンダースコア (_) を含めることができ、長さは 32 文字以内である必要があります。
保存 をクリックしてビジネスシナリオを作成します。
ビジネスシナリオを設定します。
[機械審査基準]と[審査データ]を設定できます。
[機械審査基準]
モデレーションポリシーは検出シナリオによって異なります。コンソールに表示されるオプションが最終的なものです。
機械審査 ページで、対象のビジネスシナリオを見つけ、[Actions] 列の 編集 をクリックします。
要件に基づいて設定したいモデレーションポリシーを選択します。
画像、動画、テキスト、音声のモデレーションポリシーを設定できます。画像と動画については、ポリシーはポルノ、テロ関連コンテンツ、不快なシーン、画像に埋め込まれたテキストを対象とします。テキストと音声については、モデレーションポリシーはポルノ、政治、罵倒、広告、禁止コンテンツに関連する内容を対象とします。
特定の検出シナリオがビジネスに関連しない場合は、そのポリシーを設定する必要はありません。たとえば、広告をスキャンする必要がない場合は、モデレーションポリシーで広告関連の設定を構成しないでください。
説明画像のモデレーションポリシーを設定する際、右側の 関連ライブラリ と テキストライブラリの関連付け オプションを使用して、リスクライブラリの設定をリンクできます。
保存 をクリックして、モデレーションポリシーのカスタマイズを完了します。
API を呼び出す際、カスタムのモデレーションポリシーを有効にするには、対応するビジネスシナリオを渡す必要があります。たとえば、ポルノコンテンツの画像をスキャンする場合 (詳細については、「同期スキャン」をご参照ください) 、リクエストパラメーター scene を porn に設定する必要があります。
[審査データ]
審査データ をクリックします。
審査データ タブで、人間によるレビューに送信するデータタイプを選択します。
人間によるレビューの詳細については、「人間によるレビュー」をご参照ください。