Content Moderation のドキュメント審査 2.0 サービスには、豊富なコンテンツ管理経験と一般的な業界標準に基づいたドキュメント審査の一般的なポリシーが含まれています。デフォルトのポリシーがビジネス要件を満たさない場合は、カスタマイズできます。このトピックでは、ドキュメント審査の脅威検出ポリシーを調整する方法について説明します。
シナリオ
ドキュメント審査 2.0 コンソールを使用して、次のシナリオで、検出ルールと範囲のカスタマイズ、検出結果のクエリ、および使用状況統計の表示ができます。
初めてサービスを使用する場合は、Content Moderation コンソールにログインして、ドキュメント審査のデフォルトの検出ポリシー設定を表示します。
アプリケーションシナリオ | 説明 |
ビジネスニーズや一般的な業界の属性に基づいて、ドキュメント検出ポリシーを調整できます。次の検出ポリシーを調整できます:
たとえば、ドキュメント画像内のレッドライン違反のみを検出したい場合は、コンソールで画像検出ルールを調整できます。 | |
複数のビジネスシナリオが同じサービスを使用しているが、異なる脅威検出ポリシーが必要な場合は、サービスをコピーして、コピーごとに一意のポリシーを設定できます。 たとえば、A、B、C の 3 つのビジネスシナリオがあるとします。これらはすべて一般ドキュメント検出 (document_detection_global) サービスを必要としますが、審査基準は異なります。コンソールで document_detection_global サービスをコピーして、document_detection_global_01 と document_detection_global_02 を作成できます。その後、これら 3 つのサービスに異なる脅威検出ポリシーを設定して、各ビジネスシナリオの要件を満たすことができます。 | |
ドキュメントのスクリーンショットからの画像を長期保存したい場合は、画像を OSS バケットに転送するようにサービスを設定できます。 説明 デフォルトでは、ドキュメントのスクリーンショットからの画像は 30 分間一時的に保存されます。一時的な URL は API 操作によって返されます。 | |
結果クエリページで、最近審査されたドキュメントの詳細を表示および分析できます。 | |
使用状況統計ページで、最近のドキュメント検出量を確認および追跡できます。 |
サービスの有効化
ドキュメント審査 2.0 サービスを有効化するには、Content Moderation 2.0 ページに移動します。
ドキュメント審査 2.0 サービスを有効化する前に、ドキュメント審査 2.0 の課金ルールを理解していることを確認してください。
脅威検出ポリシーの調整
ビジネスニーズや一般的な業界の属性に基づいて、検出範囲と結果の返却方法を調整できます。
Content Moderation コンソールにログインします。
左側のナビゲーションウィンドウで、 を選択します。
[ルール設定] ページで、General Document Moderation (document_detection_global) サービスを見つけ、[操作] 列の Settings をクリックします。
[一般ドキュメント検出] サービスのルール設定ページで、必要に応じて設定を調整します。
ドキュメントの最大ページ数を 1 から 1,000 までの値に設定します。
ドキュメントページの画像審査ルールは、デフォルトで [共通ベースライン検出] に設定されています。画像審査ルールの詳細については、「画像審査 2.0 の概要」をご参照ください。
テキストページのテキスト審査ルールは、デフォルトで [国際的なビジネスシナリオでの多言語審査] に設定されています。テキスト審査ルールの詳細については、「テキスト審査 2.0 の概要」をご参照ください。
複数のビジネスシナリオに異なるポリシーを設定する
さまざまなビジネスシナリオの異なる審査要件を満たすために、サービスをコピーして、コピーごとに一意の脅威検出ポリシーを設定できます。
Content Moderation コンソールにログインします。
左側のナビゲーションウィンドウで、 を選択します。
[ルール設定] ページで、カスタマイズしたいサービスをコピーします。
サービスリストで、[一般ドキュメント検出] (document_detection_global) サービスを見つけ、[操作] 列の [コピー] をクリックします。
[サービスのコピー] ダイアログボックスで、[サービス名] と [サービス備考] を入力します。
[OK] をクリックします。サービスが作成されたら、新しいサービス (document_detection_global_01) を見つけます。[操作] 列で Settings をクリックし、必要に応じてルールを設定します。
新しいサービス (document_detection_global_01) は、作成後 1〜2 分で呼び出し可能になります。複数のサービスをコピーし、それらのルールを調整して、さまざまな脅威検出シナリオの要件を満たすことができます。
ドキュメントのスクリーンショットから画像を転送して保存する
ドキュメントのスクリーンショットからの画像を OSS バケットに保存して、長期保存できます。
Content Moderation コンソールにログインします。
左側のナビゲーションウィンドウで、 を選択します。
[ルール設定] ページで、設定したいサービスを見つけ、[操作] 列の [ルール設定] をクリックします。この例では、[一般ドキュメント検出] (document_detection_global) サービスを使用します。
[一般ドキュメント検出] (document_detection_global) サービスのルール設定ページで、[結果処理設定] タブをクリックします。
たとえば、ドキュメントのスクリーンショットから画像を OSS バケットの test フォルダに転送し、すべてのスクリーンショット結果を転送するには、次の手順を実行します。
[OSS への転送] スイッチをオンにします。このスイッチを初めてオンにするときは、OSS への権限付与が必要です。[転送用バケット] を選択し、[転送ディレクトリ] を入力し、[アクセス URL 有効期間] と [転送範囲] を設定します。
[保存] をクリックして転送設定を保存します。
新しい検出ルールは約 2〜5 分で有効になります。
詳細な検出結果のクエリ
タスク ID、データ ID、画像ラベル、またはテキストラベルによって、審査されたドキュメントの詳細な検出結果をクエリできます。
Content Moderation コンソールにログインします。
左側のナビゲーションウィンドウで、 を選択します。
[結果クエリ] ページで、クエリ条件を入力して検出レコードを検索します。
ヒットしたすべてのレコードを検索するには、クエリ条件を [画像ラベルが nonLabel と等しくない] に設定します。カンマ (,) で区切って複数のラベルを指定できます。
説明デフォルトでは、結果は逆時系列で表示され、最大 50,000 件のデータエントリが表示されます。Content Moderation コンソールを使用して、過去 30 日間の結果をクエリできます。各 API 呼び出しの応答からデータまたはログを保存することをお勧めします。これにより、より長期間にわたってデータ分析を実行し、統計を表示できます。
結果の [操作] 列で、[詳細] をクリックして、ドキュメント審査の詳細情報を表示します。
結果の [操作] 列で、[ドキュメントページの結果] をクリックして、ドキュメント内の画像とテキストの詳細な審査結果を表示します。
使用状況統計の表示
最近のドキュメント検出量を確認して、さらなる審査または管理措置を策定するのに役立てることができます。
Content Moderation コンソールにログインします。
左側のナビゲーションウィンドウで、 を選択します。
[使用状況統計] ページで、期間を選択して使用状況データをクエリまたはエクスポートします。
脅威統計: 選択した期間の高脅威、中脅威、低脅威、および脅威なしのコンテンツの統計を表示します。このセクションでは、脅威の傾向と分布も示します。
使用状況のクエリ: 日単位または月単位で使用状況の統計を表示できます。統計データは 1 年間保存されます。最大 2 か月間のデータをクエリできます。
使用状況のエクスポート:
アイコンをクリックして、日単位または月単位で使用状況データをエクスポートします。エクスポートされたレポートは Excel フォーマットで、API 呼び出しが行われた期間のデータのみが含まれます。