Content Moderation:コールバック通知を有効にする

用語

次の表に、コールバック通知に関連する概念を示します。

機械によるモデレーション結果のコールバック通知

内容安全 API のすべての非同期モデレーション操作は、非同期画像モデレーションや非同期ビデオモデレーションなど、コールバック通知をサポートしています。詳細については、非同期画像モデレーションと非同期ビデオモデレーションをご参照ください。非同期操作を呼び出し、内容安全にモデレーション結果を返却する必要がある場合は、モデレーションリクエストで callback パラメーターと seed パラメーターを設定します。 callback パラメーターはコールバック URL を指定し、seed パラメーターはコールバック通知リクエストを検証するために使用される文字列を指定します。

手順

1. モデレーション結果の受信に使用する HTTP コールバック URL と seed パラメーターを準備します。

2. コンテンツモデレーションの非同期操作を呼び出すときは、モデレーションリクエストで callback パラメーターと seed パラメーターを設定します。詳細については、関連する API 操作のパラメーターの説明をご参照ください。

人間のレビュー結果のコールバック通知

人間のレビューリクエストを送信した場合、レビュー結果はリアルタイムで返されません。人間のレビュー結果を受信するには、コールバック通知を設定する必要があります。

• 機械によるモデレーションと人間のレビューサービスの両方を使用する

  機械によるモデレーションと人間のレビューサービスの両方を使用する場合は、内容安全コンソールで人間のレビュー結果のコールバック通知を設定する必要があります。コンソールでコールバック通知を設定するには、次の手順を実行します。

  1. 内容安全コンソールにログオンします。

  2. 左側のナビゲーションペインで、[機械審査 V1.0] > [設定] を選択します。

  3. [機械審査] ページで、[通知] タブをクリックします。次に、このタブの [新しい通知を作成] をクリックします。

  4. [新しい通知を作成] ダイアログボックスで、[タイトル]、[コールバック URL]、[暗号化アルゴリズム]、[通知タイプ]、[審査結果] パラメーターを設定します。次に、[OK] をクリックします。

     コールバック通知を設定すると、システムは seed パラメーターの値を自動的に生成します。 seed パラメーターの値を使用して、コールバック通知リクエストが Alibaba Cloud から送信されたかどうかを確認できます。生成された seed パラメーターの値を保存します。

     重要

     • 機械によるモデレーション結果のコールバック通知を設定している場合は、コールバック通知の設定を再利用するか、ビジネス要件に基づいて別のコールバック通知を設定できます。

     • ビジネスシナリオに基づいて、すべてのモデレーション結果を受信するためのコールバック通知を設定するか、指定されたモデレーション結果のみを受信するためのコールバック通知を設定できます。

     • 通知タイプパラメーターには [alibabacloud による手動レビュー結果] を選択します。

     • 暗号化アルゴリズムパラメーターの有効な値:

       • [SHA256]: HMAC-SHA256 暗号化アルゴリズムが使用されます。

       • [SM3]: HMAC-SM3 暗号化アルゴリズムが使用され、16 進数文字列が返されます。文字列は小文字と数字で構成されます。

         たとえば、[66c7f0f462eeedd9d1f2d46bdc10e4e24167c4875cf2f7a2297da02b8f4ba8e0] は、HMAC-SM3 暗号化アルゴリズムを使用して [abc] を暗号化した後に返されます。

  5. [biztype 管理] タブで、管理するビジネスシナリオを見つけ、[アクション] 列の [通知プランを選択] をクリックし、ビジネスシナリオの [コールバック通知スキーム] ドロップダウンリストからコールバック通知スキームを選択します。

content パラメーターの説明

コールバック通知を有効にすると、内容安全は内容安全 API によって生成されたモデレーション結果をコールバック通知で指定されたコールバック URL に送信します。コールバック通知には content パラメーターが含まれています。次の表に、content パラメーターの構造を示します。

{
    "scanResult": {
        "code": 200,
        "msg": "OK",
        "taskId": "fdd25f95-4892-4d6b-aca9-7939bc6e9baa-1486198766695",
        "url": "http://1.jpg",
        "results": [
            {
                "rate": 100,
                "scene": "porn",
                "suggestion": "block",
                "label": "porn"
            }
        ]
    },
    "auditResult": {
        "suggestion": "block",
        "labels": [
            "porn",
            "ad",
            "terrorism"
        ]
    },
    "humanAuditResult": {
        "suggestion": "pass",
          "dataId": "yyyy",
          "labels": [
              "porn",
              "vulgar"
        ],
        "taskId": "xxxxxx"
    }
}