Content Moderation コンソールには、Content Moderation API オペレーションの呼び出し後に返されるモデレーション結果が表示されます。必要に応じて、人的レビュー機能を使用して、機械によるモデレーション結果をレビューできます。特定のコンテンツの機械によるモデレーション結果をレビューすると、Content Moderation API は、設定した人的レビュー結果に基づいて同じコンテンツのモデレーションを開始します。このトピックでは、機械によるモデレーション結果をレビューする方法について説明します。
背景情報
デフォルトでは、Alibaba Cloud Content Moderation コンソールの[監査]ページには、人的レビューのために機械によるモデレーション結果がレビューまたはブロックである結果データのみが表示されます。[監査]ページで、機械によるモデレーション結果がパスである結果データを表示する場合は、コンソールの設定を変更できます。詳細については、「機械によるモデレーションのポリシーのカスタマイズ」をご参照ください。
人的レビュー中に、画像、動画、テキストをレビューできます。レビューした画像とテキストのみが、サンプルライブラリに自動的に追加されます。
Alibaba Cloud Content Moderation コンソールは、機械によるモデレーション結果を最大 7 日間保持します。できるだけ早く結果データをレビューすることをお勧めします。
手順
Content Moderation コンソール にログインします。
左側のナビゲーションペインで、 を選択します。
[監査]ページで、レビューするデータのタイプに基づいて、[画像]、[動画]、または [テキスト] タブをクリックします。対応するレビュータブが表示されます。
次の方法を使用して、結果データをレビューします。
説明この例では、画像をレビューする方法を示します。他のタイプのデータのレビュー方法も同様です。
モデレーション結果がレビューまたはブロックで、正常なコンテンツと見なされる画像の場合は、[パス] をクリックできます。
モデレーション結果がレビューまたはパスで、違反と見なされる画像の場合は、[ブロック] をクリックできます。次に、表示されるダイアログボックスで、[ポルノ]、[テロリズム]、[広告]、または [好ましくないシーン] を選択します。
複数の画像を選択して、一度にレビューできます。これを行うには、必要に応じて画像を選択し、[一括マークパス] または [一括マークブロック] をクリックします。
画像をクリックして詳細を表示できます。
レビューされた画像と類似の画像のモデレーション結果は、人的レビュー結果に基づいて変更されます。モデレーション結果が変更された画像は、人的レビュー結果に基づいて対応するサンプルライブラリに追加されます。