Content Moderation:通知の設定

概念

コールバック通知を設定する前に、次の表で説明する概念を理解しておく必要があります。

スキャン結果のコールバック通知

Content Moderation のすべての非同期検出 API 操作は、非同期画像スキャンや非同期動画スキャンなど、スキャン結果のコールバックをサポートしています。非同期呼び出しを行う際に、Content Moderation からスキャン結果を受信するには、リクエストに callback (Webhook アドレス) と seed (チェックサム文字列) パラメーターを含める必要があります。

手順

1. スキャン結果を受信するための HTTP Webhook アドレスと seed パラメーターを準備します。

2. 非同期の Content Moderation API 操作を呼び出すときに、対応する callback および seed リクエストパラメーターを渡します。詳細については、API 操作ドキュメントのパラメーターの説明をご参照ください。

人工レビューのコールバック通知

人工レビュー API 操作は、検出結果をリアルタイムで返しません。代わりに、システムはコールバックを使用して呼び出し元に通知します。

• 機械支援による人的レビュー

  Alibaba Cloud の人工レビューサービスを機械支援モデレーションサービスと組み合わせて使用する場合、人工レビューモジュールからコールバックを受信するには、コンソールで通知を設定する必要があります。次の手順に従ってください。

  1. Content Moderation コンソールにログインします。

  2. 左側のナビゲーションウィンドウで、[機械監査 V1.0] > [ルール設定] を選択します。

  3. [機械監査] ページで、[通知] タブをクリックし、[通知の追加] をクリックします。

  4. [通知の追加] ダイアログボックスで、[プラン名] と [Webhook アドレス] を入力します。[暗号化アルゴリズム]、[通知タイプ]、[レビュー結果] を選択し、[OK] をクリックします。

     設定を保存すると、システムは自動的に seed を生成します。seed 値は、Webhook アドレスで受信したリクエストが Alibaba Cloud からのものであることを確認するために使用されます。自動生成された seed を保存する必要があります。

     重要

     • 機械支援モデレーションのコールバック通知サービスをすでに設定している場合は、既存の設定を再利用するか、必要に応じて新しい設定を作成できます。

     • システムはすべてのレビュー結果のコールバックをサポートしています。ビジネスシナリオに応じて、一部のレビュー結果のコールバックのみを受信するように選択することもできます。

     • [通知タイプ] には、[Alibaba Cloud 人工レビュー結果] を選択します。

     • 以下の暗号化アルゴリズムメソッドが利用可能です:

       • SHA256: HMAC-SHA256 暗号化アルゴリズムを使用します。

       • SM3: SM3 暗号化アルゴリズムを使用し、小文字の英数字からなる 16 進数文字列を返します。

         たとえば、[abc] を SM3 で暗号化すると、[66c7f0f462eeedd9d1f2d46bdc10e4e24167c4875cf2f7a2297da02b8f4ba8e0] が返されます。

  5. [ビジネスシナリオ管理] タブで、ターゲットのビジネスシナリオを見つけ、[アクション] 列の [通知の関連付け] をクリックし、設定した [コールバック通知プラン] を関連付けます。

content の説明

コールバック通知を有効にすると、Content Moderation は設定に基づいてコールバック通知を送信します。コールバック通知には、content フィールドにフォームデータが含まれています。次の表に、content フィールドの構造を示します。

{
    "scanResult": {
        "code": 200,
        "msg": "OK",
        "taskId": "fdd25f95-4892-4d6b-aca9-7939bc6e9baa-1486198766695",
        "url": "http://1.jpg",
        "results": [
            {
                "rate": 100,
                "scene": "porn",
                "suggestion": "block",
                "label": "porn"
            }
        ]
    },
    "auditResult": {
        "suggestion": "block",
        "labels": [
            "porn",
            "ad",
            "terrorism"
        ]
    },
    "humanAuditResult": {
        "suggestion": "pass",
          "dataId": "yyyy",
          "labels": [
              "porn",
              "vulgar"
        ],
        "taskId": "xxxxxx"
    }
}