Content Moderation:画像審査拡張版コンソールのユーザーガイド

初めてサービスを使用する際、コンソールの [ルール] ページにログインして、デフォルトの検出範囲設定を表示できます。

シナリオ

お客様のビジネスに以下の要件がある場合、Alibaba Cloud 画像審査 V2.0 コンソールを使用して、検出ルールと範囲をカスタマイズできます。また、コンソールを使用して検出結果をクエリしたり、使用状況の統計を表示したりすることもできます。

前提条件

画像のリスク検出範囲を調整する

一般的な業界慣行またはビジネスニーズに基づいて、リスク検出の検出範囲と特定の項目を調整できます。

1. コンテンツモデレーションコンソールにログインします。

2. 左側のナビゲーションウィンドウで、[自動審査 V2.0] > [画像審査] > [ルール] を選択します。

3. Rules Management タブで、管理したいサービスを見つけます。この例では、通常ベースライン審査 (baselineCheck_global) サービスを使用します。[操作] 列の Settings をクリックします。

4. Detection Scope ページで、調整する検出タイプを選択します。この例では、Prohibited Content Detection を使用します。

   1. [禁止コンテンツ検出] タブの [詳細シナリオ設定] セクションで、デフォルトの設定を表示します。たとえば、次の図は、デフォルトで 4 つの項目が検出されることを示しています。項目がヒットした場合、対応するラベルが返されます。

      

   2. [編集] をクリックして編集モードに入ります。必要に応じて [検出ステータス] を変更します。たとえば、次の図は、3 番目の項目の検出スイッチがオフになっていることを示しています。

      

   3. ラベルの [中リスクスコア] と [高リスクスコア] を調整して、返されるリスクレベルを決定することもできます。

      説明

      リスクレベルのルール:

      1. リスクラベルが検出され、信頼度スコアが高リスクスコアの範囲内にある場合、リスクレベルは高です。

      2. リスクラベルが検出され、信頼度スコアが中リスクスコアの範囲内にある場合、リスクレベルは中です。

      3. リスクラベルが検出され、信頼度スコアが中リスクスコアの範囲を下回る場合、リスクレベルは低です。

      4. 異なるリスクレベルの複数のラベルがヒットした場合、最も高いリスクレベルが返されます。

      5. リスクラベルがヒットしない場合、リスクレベルは安全です。

      6. カスタムブロックリストがヒットした場合、リスクレベルは高です。

   4. [保存] をクリックして、新しい検出範囲を保存します。新しい設定は約 2〜5 分で有効になり、本番環境に適用されます。

複数のビジネスシナリオに異なるリスク検出範囲を設定する

サービスをコピーし、異なるリスク検出範囲を設定して、ビジネスシナリオのさまざまな審査要件を満たすことができます。

1. コンテンツモデレーションコンソールにログインします。

2. 左側のナビゲーションウィンドウで、[自動審査 V2.0] > [画像審査] > [ルール] を選択します。

3. [ルール管理] タブで、コピーしたいサービスを見つけます。この例では、通常ベースライン審査 (baselineCheck_global) サービスを使用します。

   1. サービスリストページで、通常ベースライン審査サービスの [操作] 列にある Copy をクリックします。

   2. [サービスのコピー] パネルで、[サービス名] と [サービスの説明] を入力します。

      

   3. [作成] をクリックして、コピーしたサービス情報を保存します。新しいサービスは作成後 1〜2 分で呼び出すことができます。

   4. サービスが作成された後、コピーされた baselineCheck_global_01 サービスを設定および編集できます。baselineCheck_global_01 サービスと baselineCheck_global サービスを個別に呼び出して、異なるリスク検出範囲を必要とするさまざまなビジネスシナリオのニーズを満たすことができます。

特定の既知の画像に対して特別または緊急の審査を実行する

リスクがある可能性のある画像に対してカスタム画像ライブラリを設定できます。ユーザーがアップロードした画像が設定されたライブラリ内の画像と一致する場合、リスクラベルが返されます。

1. コンテンツモデレーションコンソールにログインします。

2. カスタム画像ライブラリを設定する前に、ライブラリを作成して維持する必要があります。既存のライブラリがビジネス要件を満たしている場合は、このステップをスキップできます。

   説明

   各アカウントは最大 10 個の画像ライブラリを作成できます。すべてのライブラリの画像総数は 100,000 を超えることはできません。

   • 画像ライブラリの作成と画像のアップロード

     1. 左側のナビゲーションウィンドウで、[自動審査 V2.0] > [画像審査] > [画像ライブラリ] を選択します。

     2. [画像ライブラリの作成] をクリックします。[画像ライブラリの作成] ダイアログボックスで、ライブラリ名と説明を入力し、[OK] をクリックします。

     3. 作成したライブラリを見つけ、[操作] 列の [画像の管理] をクリックします。

     4. [画像の追加] をクリックします。[画像の追加] ダイアログボックスで、[画像の選択] をクリックし、指示に従って画像をアップロードします。

        一度に最大 10 枚の画像をアップロードできます。各画像は 4 MB 以下である必要があります。画像の解像度は 256 × 256 ピクセル以上を推奨します。アップロードリストには最大 10 枚の画像のアップロードステータスが表示されます。さらに画像をアップロードするには、[リストをクリアしてアップロードを続行] をクリックします。

        

     5. 画像ライブラリの詳細ページで、アップロードされた画像のリストを表示できます。画像をクエリしたり削除したりすることもできます。

        • 画像のクエリ: [画像 ID] または [追加時間] で画像を検索できます。

        • 画像の削除: バッチ処理を含め、ライブラリから画像を削除できます。

        

   • 既存の画像ライブラリの維持

     1. 左側のナビゲーションウィンドウで、[自動審査 V2.0] > [画像審査] > [画像ライブラリ] を選択します。

     2. 維持したいライブラリを見つけます。[操作] 列の [編集] をクリックしてライブラリ名と説明を変更します。[操作] 列の [画像の管理] をクリックして画像をアップロードまたは削除します。

3. 左側のナビゲーションウィンドウで、[自動審査 V2.0] > [画像審査] > [ルール] を選択します。

4. [ルール管理] タブで、管理したいサービスを見つけます。この例では、通常ベースライン審査 (baselineCheck_global) サービスを使用します。[操作] 列の Settings をクリックします。

5. [検出範囲] ページで、調整する検出タイプを選択します。この例では、[禁止コンテンツ検出] を使用します。

   1. [禁止コンテンツ検出] タブの Set Labels by Customized Libraries セクションで、設定されたカスタム画像ライブラリに関する情報を表示します。

      

   2. [編集] をクリックして編集モードに入り、設定したいカスタム画像ライブラリを選択します。

      

   3. [保存] をクリックして、新しいカスタム画像ライブラリの設定を保存します。

      新しい設定は約 2〜5 分で有効になり、本番環境に適用されます。ユーザーがアップロードした画像が設定されたライブラリ内の画像と一致する場合、「contraband_drug_lib」ラベルが返されます。

信頼できる画像をリスク検出から除外する

信頼できる画像ライブラリをリスク検出から除外して、コンテンツモデレーションのアルゴリズムによって画像がリスクとしてフラグ付けされるのを防ぐことができます。

1. コンテンツモデレーションコンソールにログインします。

2. 左側のナビゲーションウィンドウで、[自動審査 V2.0] > [画像審査] > [ルール] を選択します。

3. [ルール管理] タブで、管理したいサービスを見つけ、[操作] 列の Settings をクリックします。

4. [除外画像] タブをクリックして設定を変更します。

   1. [除外画像] タブで、カスタム画像ライブラリのリストとその除外ステータスを表示します。

      たとえば、次の図は、すべての画像ライブラリの除外スイッチがオフになっていることを示しています。

   2. [編集] をクリックし、必要な画像ライブラリの除外スイッチをオンにします。

      

   3. [保存] をクリックして、除外画像の新しい設定を保存します。

      除外ライブラリの設定は約 2〜5 分で有効になります。Alibaba Cloud コンテンツモデレーションは、入力画像を、選択されたライブラリ内の各画像と類似性について比較します。アルゴリズムが同一と見なす画像については、コンテンツモデレーションシステムは「nonLabel_lib」ラベルを返し、他のリスクラベルは返しません。

画像内のテキストの検出設定をカスタマイズする

画像審査の効果をオンラインでテストする

最近の画像検出に関する統計を表示する

最近の画像検出の量に関する統計を表示して、特定の画像コンテンツに対するさらなる審査またはガバナンス措置を策定できます。

1. コンテンツモデレーションコンソールにログインします。

2. 左側のナビゲーションウィンドウで、[自動審査 V2.0] > [画像審査] > [使用状況統計] を選択します。

3. [使用状況統計] ページで、時間範囲を選択して使用状況データをクエリまたはエクスポートします。

   • 使用状況のクエリ: 日単位または月単位で使用状況の統計を表示できます。統計データは 1 年間保存されます。最大 2 か月間のデータをクエリできます。

   • 使用状況のエクスポート: 右上隅の アイコンをクリックして、日単位または月単位で使用状況データをエクスポートします。

     エクスポートされたレポートは Excel 形式で、呼び出し量のあるデータのみが含まれます。次の表は、エクスポートされたレポートの行ヘッダーについて説明しています。

     名前	説明	単位
     アカウント UID	データをエクスポートしたアカウントの UID。	なし
     サービス	呼び出された検出サービスに関する情報。	なし
     使用量	呼び出しの総数。	カウント
     日付	統計が収集された日付。	日/月

   • サービスヒット詳細の表示: 使用状況統計が生成された後、呼び出された各サービスのラベルヒット詳細が表示されます。詳細は、日次呼び出し量の縦棒グラフとラベル比率のツリーマップチャートとして表示されます。

     • 日次呼び出し量の縦棒グラフ: リスクラベルにヒットした日次リクエスト数と、リスクラベルにヒットしなかったリクエスト数を示します。

     • ラベル比率のツリーマップチャート: 全体的なラベルヒット状況を、ラベル比率の降順で示します。同じプレフィックスを持つラベルは同じ背景色になります。