AI Guardrails:Image Moderation Enhanced Edition コンソール

サービスを初めて使用する際は、コンソールにログインし、ルール設定ページに移動して、デフォルトの検出範囲の設定を確認します。

シナリオ

ビジネスに以下のニーズがある場合は、Image Moderation 2.0 コンソールを使用して、検出ルールをカスタマイズし、結果を照会し、利用統計を表示します。

前提条件

リスク検出範囲の調整

ビジネス要件に合わせて、検出範囲とリスク項目を調整します。

1. Content Moderation コンソールにログインします。

2. 左側のナビゲーションペインで、機械審査 V2.0 > 画像審査 > ルールの設定 の順に選択します。

3. ルール管理 タブで、管理するサービス (例: ベースラインチェック (baselineCheck_global)) を見つけ、操作 列の ルールの設定項目 をクリックします。

4. 審査範囲構成 ページで、調整する検出カテゴリを選択します。この例では、不適切なコンテンツの検出 を使用します。

   1. 不適切なコンテンツの検出 タブで、シナリオごとの設定 セクションの現在のデフォルト設定を確認します。デフォルトでは、4 つのチェックが有効になっており、一致が見つかった場合、サービスは対応するラベルを返します。

      デフォルト設定には、次の 4 つのチェックが含まれています: contraband_drug (薬物や医薬品を含む疑いのある画像)、contraband_drug_tii (禁止薬物を記述している疑いのある画像内のテキスト)、contraband_gamble (ギャンブル関連のアイテムを含む疑いのある画像)、および contraband_gamble_tii (ギャンブル行為を記述している疑いのある画像内のテキスト)。デフォルトの中リスクスコア範囲は 50.00～79.99 で、高リスクスコア範囲は 80.00～100.00 です。すべてのチェックの検出ステータスは オン です。

   2. 編集 をクリックして編集モードに入り、検出状態 の設定を変更します。例えば、3 番目の項目の検出スイッチをオフにします。

      3 番目の項目は contraband_gamble (ギャンブル関連のコンテンツが含まれている疑いのある画像) です。オフにした後、[保存] をクリックします。

   3. [中リスクスコア] と [高リスクスコア] のしきい値を調整して、返されるリスクレベルを定義することもできます。

      説明

      リスクレベルは、次のルールに基づいて決定されます：

      1. 検出されたリスクラベルの信頼度スコアが高リスクの範囲内にある場合、結果は「高リスク」になります。

      2. 検出されたリスクラベルの信頼度スコアが中リスクスコアの範囲内にある場合、結果は「中リスク」になります。

      3. 検出されたリスクラベルの信頼度スコアが中リスクスコアの範囲の開始値を下回る場合、結果は「低リスク」になります。

      4. 異なるリスクレベルを持つ複数のラベルが検出された場合、最も高いリスクレベルが返されます。

      5. リスクラベルが検出されない場合、結果は「リスクなし」になります。

      6. 画像がカスタムブロックリストのエントリと一致する場合、結果は「高リスク」になります。

   4. [保存] をクリックします。新しい設定は約 2～5 分で有効になります。

ビジネスシナリオに応じた差別化されたスコープの設定

サービスをコピーし、ビジネスシナリオごとに異なるリスク検出スコープを設定します。

1. Content Moderation コンソールにログインします。

2. 左側のナビゲーションペインで、[機械審査 [V2.0] > 画像審査 > ルールの設定 を選択します。

3. ルール管理 タブで、異なる検出範囲を設定したいサービスをコピーします。 この例では ベースラインチェック (baselineCheck_global) を使用します。

   1. サービス一覧で、ベースラインチェックサービスを見つけ、[操作] 列のコピーをクリックします。

   2. [サービスのコピー] パネルで、サービス名 と サービス説明 を入力します。

      [サービス] フィールドには、現在のサービス名が表示されます。[サービス名] (最大 32 文字) および [サービスの説明] (最大 64 文字) フィールドをカスタマイズできます。

   3. 作成 をクリックしてコピーしたサービス情報を保存すると、1～2 分後に新しいサービスが API 呼び出しで利用可能になります。

   4. サービスが作成されたら、コピーした baselineCheck_global_01 サービスのルールを [設定] および [編集] できます。baselineCheck_global_01 と元の baselineCheck_global サービスを個別に呼び出すことで、異なるリスク検出スコープを必要とする、さまざまなビジネスシナリオのニーズを満たすことができます。

ターゲットモデレーションと緊急モデレーション

カスタム画像ライブラリを設定して、特定のリスクのある画像にフラグを立てます。ユーザーがアップロードした画像がライブラリ内のエントリと一致する場合、サービスはリスクラベルを返します。

1. Content Moderation コンソールにログインします。

2. カスタム検出用に設定する前に、画像ライブラリを管理します。既存のライブラリがビジネス要件を満たしている場合、この手順は省略できます。

   説明

   各アカウントは最大 10 個の画像ライブラリを作成でき、すべてのライブラリで合計 100,000 枚までの画像を保存できます。

   • イメージライブラリの作成と画像のアップロード

     1. 左側のナビゲーションペインで、マシンモデレーション [V2.0] > 画像審査 > 画像ライブラリ管理 の順に選択します。

     2. グラフギャラリーの作成 をクリックします。グラフギャラリーの作成 タブで、ライブラリ名とメモを入力し、保存 をクリックします。

     3. 作成したライブラリを見つけ、操作 列の 画像管理 をクリックします。イメージライブラリリストには、[イメージライブラリ名]、[備考]、[イメージ数]、および [更新日時] の列が含まれます。

     4. 画像の追加 をクリックします。画像の追加 ダイアログボックスで、クリックして画像を選択 をクリックし、指示に従って画像をアップロードします。

        一度にアップロードできる画像は最大 10 枚です。各画像のサイズは 4 MB 以下で、解像度は 256x256 ピクセル以上を推奨します。アップロードリストには、最大 10 枚の画像のステータスが表示されます。さらに画像をアップロードするには、リストをクリアしてアップロードを続行 をクリックします。

        対応している画像形式は、PNG、JPG、JPEG、BMP、WEBP です。画像をアップロード領域に直接ドラッグすることもできます。

     5. ライブラリの詳細ページで、アップロードされた画像のリストを表示できます。画像の検索と削除も可能です。

        • 画像のクエリ: 画像ID または 追加日時 で画像を検索します。

        • 画像の削除：ライブラリから 1 つ以上の画像を削除します。一括削除に対応しています。

   • 既存のイメージライブラリの管理

     1. 左側のナビゲーションペインで、マシンモデレーション [V2.0] > 画像審査 > 画像ライブラリ管理 の順に選択します。

     2. メンテナンスするライブラリを探します。操作 列の 編集 をクリックして、名前とメモを変更します。操作 列の 画像管理 をクリックして、イメージをアップロードまたは削除します。イメージライブラリリストには、イメージライブラリ名、メモ、イメージ数、更新時間 の列が含まれています。

3. 左側のナビゲーションペインで、機械審査 [V2.0] > 画像審査 > ルールの設定を選択します。

4. ルール管理 タブで、管理するサービス (たとえば、ベースラインチェック (baselineCheck_global)) を探し、操作 列の ルールの設定項目 をクリックします。

5. 審査範囲構成 ページで、調整する検出カテゴリを選択します。この例では 不適切なコンテンツの検出 を使用します。

   1. 不適切なコンテンツの検出 タブの 画像/単語ライブラリのカスタム設定 セクションで、現在のカスタムライブラリ設定を表示できます。

      このページは、[サブシーン設定] セクションと [カスタムライブラリ/語彙設定] セクションに分かれています。[カスタムライブラリ/語彙設定] セクションには、禁止コンテンツ検出に関連する画像ライブラリと語彙の設定項目が表示されます。_lib (contraband_drug_lib など) で終わるラベルの場合、[画像ライブラリ] ドロップダウンリストが利用可能です。_tii_lib (contraband_drug_tii_lib など) で終わるラベルの場合、[語彙] ドロップダウンリストが利用可能です。カスタム画像ライブラリまたは語彙を選択して、一致した場合に対応するラベルを付与できます。

   2. 編集 をクリックして編集モードに入り、設定するカスタムイメージライブラリを選択します。

      この例の contraband_drug_lib では、[画像ライブラリ] ドロップダウンリストから目的のカスタム画像ライブラリを選択します。

   3. 保存 をクリックして、新しいカスタム画像ライブラリ設定を適用します。

      新しい設定は約 2〜5 分で本番環境に反映されます。ユーザーがアップロードした画像が設定されたライブラリ内の画像と一致する場合、サービスは「contraband_drug_lib」ラベルを返します。

信頼されたイメージのリスク検出からの除外

信頼された画像ライブラリをリスク検出から除外して、安全なコンテンツに対する誤検出を防ぎます。

1. Content Moderation コンソールにログインします。

2. 左側のナビゲーションペインで、[機械審査[ V2.0] > 画像審査 > ルールの設定 の順に選択します。

3. ルール管理 タブで、関連するサービスの 操作 列の ルールの設定項目 をクリックします。

4. 審査不要画像設定 タブをクリックして、除外設定を変更します。

   1. 審査不要画像設定 タブで、カスタム画像ライブラリのリストとその除外ステータスを確認します。

      デフォルトでは、すべてのライブラリの除外スイッチはオフになっています。[除外設定] タブにはライブラリが一覧表示され、各ライブラリの [除外スイッチ] を使用して除外ステータスを設定できます。

   2. 編集 をクリックし、除外するライブラリのスイッチをオンにします。

      スイッチをオンにすると、対応するライブラリの [除外スイッチ] が [オン] と表示されます。[保存] をクリックして設定を適用します。

   3. 保存 をクリックして、新しい除外設定を適用します。

      この設定は約 2~5 分で有効になります。Alibaba Cloud Content Moderation サービスは、入力された画像を選択されたライブラリ内の画像と比較します。アルゴリズムが一致を検出した場合、システムは「nonLabel_lib」ラベルを返し、他のリスクラベルを抑制します。

画像内テキスト検出のカスタマイズ

画像のモデレーションのオンラインテスト

使用状況の統計の表示

最近の画像検出量を追跡し、モデレーションおよびガバナンス戦略の策定に役立ちます。

1. Content Moderation コンソール にログインします。

2. 左側メニューで、[Machine Moderation [[V2.0]] > 画像審査 > 使用量統計 の順に選択します。

3. 使用量統計 ページで、時間範囲を選択して使用状況データを照会またはエクスポートします。

   • 使用状況の照会：日次または月次の使用状況の統計を表示できます。データは 1 年間保存され、一度に最大 2 か月分のデータを照会できます。ページには、選択した時間範囲内の各サービスのコール数を示す棒グラフが表示されます。

   • 使用状況のエクスポート：右上隅の アイコンをクリックして、使用状況データを日次または月次でエクスポートします。

     エクスポートされたレポートは Excel 形式で、コールがあったサービスのみが含まれます。次の表でフィールドについて説明します。

     フィールド	説明	単位
     アカウント UID	データをエクスポートしたアカウントの UID。	なし
     service	呼び出された検出サービス。	なし
     Usage	合計コール数。	回数
     Date	統計の収集日。	日/月

   • サービスヒット詳細の表示：使用状況の統計の下に、呼び出された各サービスのラベルヒット詳細が、日次コール数グラフとラベル比率のツリーマップとしてコンソールに表示されます。

     • コール数縦棒グラフ：リスクラベルにヒットしたリクエストの日次件数と、ヒットしなかったリクエストの日次件数を示します。

     • ラベル比率のツリーマップ：比率の降順に配置された、ヒットラベルの全体的な分布を示します。同じプレフィックスを持つラベルは同じ背景色になります。