デフォルトでは、内容検閲は Alibaba Cloud のグローバルリスクイメージライブラリを使用して検閲サービスを提供します。このライブラリは、ほとんどの検閲ニーズを満たすことができます。内容検閲はカスタムイメージライブラリをサポートしています。イメージライブラリをカスタマイズして、検閲結果が特定のビジネスニーズを満たすようにすることができます。特定の管理ニーズに合わせて、異なるカスタムイメージライブラリでブロック、パス、またはレビューするイメージを指定できます。
背景情報
カスタムイメージライブラリは、さまざまな目的に合わせて、ブラックリスト、ホワイトリスト、レビューリストに分類できます。カスタムイメージライブラリがモデレーションに使用される場合、カスタムイメージライブラリのサンプルに一致するモデレート対象のイメージには、対応するカテゴリのモデレーション結果のタグが付けられます。ブラックリストのサンプルに一致する画像のモデレーション結果はブロックです。ホワイトリストのサンプルに一致する画像のモデレーション結果はパスです。レビューリストのサンプルに一致する画像のモデレーション結果はレビューです。カスタムイメージライブラリには、フィードバックベースの画像ライブラリと自己管理型の画像ライブラリが含まれます：
フィードバックベースの画像ライブラリは、レビュー対象の画像を格納するために自動的に作成されます。デフォルトでは、フィードバックベースの画像ライブラリを使用して、同じタイプのすべてのモデレーションシナリオで画像をモデレートできます。フィードバックベースの画像ライブラリ内の画像は管理できます。ただし、フィードバックベースの画像ライブラリに対して操作を実行することはできません。たとえば、フィードバックベースの画像ライブラリを無効化または削除することはできません。
自己管理型イメージライブラリは、特定のモデレーションシナリオまたは特定の種類のモデレーションシナリオで画像をモデレートするために作成するライブラリです。自己管理型イメージライブラリ内の画像を管理し、自己管理型イメージライブラリに対して操作を実行できます。
最大 10 個の自己管理型イメージライブラリを作成し、各自己管理型イメージライブラリに最大 10,000 個の画像を追加できます。
内容検閲 API を使用する場合、カスタムイメージライブラリを使用して、画像や動画のわいせつなコンテンツ、テロコンテンツ、広告違反、および好ましくないシーンをモデレートできます。
このトピックでは、Alibaba Cloud 内容検閲コンソールで内容検閲 API のカスタムイメージライブラリを管理する方法について説明します。 API オペレーションを呼び出したり、内容検閲 SDK を使用したりして、カスタムイメージライブラリを管理することもできます。詳細については、以下のトピックをご参照ください。
手順
Alibaba Cloud 内容検閲コンソール にログインします。
左側のナビゲーションペインで、 を選択します。
[リスクライブラリ] ページで、[カスタムイメージライブラリ] タブをクリックし、[イメージライブラリの作成] をクリックします。
[イメージライブラリの作成] ダイアログボックスで、パラメータを設定し、[OK] をクリックします。
表 1. パラメータの説明
パラメータ
説明
名前
カスタムイメージライブラリの名前。名前は最大 20 文字まで入力できます。
シーン
カスタムイメージライブラリが適用されるモデレーションシナリオ。有効な値：
わいせつなコンテンツ：画像または動画のわいせつなコンテンツをモデレートします。
暴力またはテロコンテンツ：画像または動画のテロコンテンツをモデレートします。
広告：画像または動画の広告違反をモデレートします。
好ましくないシーン：画像または動画の好ましくないシーンをモデレートします。
リストカテゴリ
カスタムイメージライブラリに基づいて返されるモデレーション結果のカテゴリ。有効な値：
ブロックリスト：モデレート対象の画像がイメージライブラリのサンプルに一致する場合、機械支援モデレーション結果はブロックです。
レビューリスト：モデレート対象の画像がイメージライブラリのサンプルに一致する場合、機械支援モデレーション結果はレビューです。
信頼リスト：モデレート対象の画像がイメージライブラリのサンプルに一致する場合、機械支援モデレーション結果はパスです。
BizType
カスタムイメージライブラリが適用されるビジネスシナリオ。ビジネスニーズに合わせて、API リクエストで異なるイメージライブラリを指定できます。たとえば、bizType パラメータを使用して、特定のモデレーションシナリオで適用するイメージライブラリを指定できます。 bizType パラメータは、次の方法で有効になります：
モデレーションリクエストの bizType パラメータが A に設定されている場合、bizType パラメータが A に設定されているイメージライブラリがモデレーションに使用されます。これらのイメージライブラリは、有効になっている場合にのみ使用できます。
それ以外の場合、有効なすべてのイメージライブラリがモデレーションに使用されます。
カスタムイメージライブラリが作成されます。作成されたイメージライブラリはデフォルトで有効になっています。
[カスタムイメージライブラリ] タブで、作成したイメージライブラリを見つけ、[アクション] 列の [管理] をクリックします。
[カスタムイメージライブラリ] タブには、すべてのカスタムイメージライブラリが一覧表示されます。[システム] とマークされ、SCENARIO_FEEDBACK_WHITE または SCENARIO_FEEDBACK_BLACK 形式で名前が付けられたライブラリは、フィードバックベースの画像ライブラリです。たとえば、[LIVE_FEEDBACK_BLACK] ライブラリは、システムによって追加されたサンプルで構成されるブラックリストであり、好ましくないシーンの画像をモデレートするために使用されます。
[イメージライブラリ] ページで、必要に応じて次の操作を実行して画像を管理します。
説明画像を追加および削除できます。操作は約 15 分で有効になります。
[画像 ID]、[時間]、[サンプル ID] パラメータを設定して画像をクエリします。
画像をクリックします。[詳細] パネルで、画像に一致する画像または動画の数、画像が追加された時刻、画像の ID を表示します。
[ファイルを選択] をクリックして、現在のイメージライブラリに画像をアップロードします。
説明PNG、JPG、JEPG、BMP 形式の画像がサポートされています。単一ファイルのサイズは 5 MB 未満である必要があります。一度に最大 20 枚の画像をアップロードできます。
画像の [削除] をクリックして画像を削除します。または、複数の画像を選択し、ページの下部にある [一括削除] をクリックします。
イメージライブラリの削除、変更、または無効化
[カスタムイメージライブラリ] タブで、[アクション] 列の [削除]、[編集]、または [無効化] をクリックして、カスタムイメージライブラリを削除、変更、または無効化できます。