Content Moderation：Aktifkan notifikasi callback

Istilah

Tabel berikut memperkenalkan konsep-konsep terkait notifikasi callback.

Notifikasi callback untuk hasil moderasi berbantuan mesin

Semua operasi moderasi asinkron API Content Moderation mendukung notifikasi callback, termasuk moderasi gambar asinkron dan moderasi video asinkron. Untuk informasi lebih lanjut, lihat Moderasi Gambar Asinkron dan Moderasi Video Asinkron. Jika Anda memanggil operasi asinkron dan memerlukan Content Moderation untuk mengembalikan hasil moderasi, atur parameter callback dan seed dalam permintaan moderasi Anda. Parameter callback menentukan URL callback, dan parameter seed menentukan string yang digunakan untuk memverifikasi permintaan notifikasi callback.

Prosedur

1. Siapkan URL callback HTTP dan parameter seed yang digunakan untuk menerima hasil moderasi.

2. Saat memanggil operasi asinkron untuk moderasi konten, atur parameter callback dan seed dalam permintaan moderasi Anda. Untuk informasi lebih lanjut, lihat deskripsi parameter dari operasi API terkait.

Notifikasi callback untuk hasil tinjauan manual

Jika Anda mengirimkan permintaan tinjauan manual, hasil tinjauan tidak dikembalikan secara real-time. Anda harus mengonfigurasi notifikasi callback untuk menerima hasil tinjauan manual.

• Menggunakan Layanan Moderasi Berbantuan Mesin dan Tinjauan Manual

  Jika Anda menggunakan layanan moderasi berbantuan mesin dan tinjauan manual, Anda harus mengonfigurasi notifikasi callback untuk hasil tinjauan manual di Konsol Content Moderation. Untuk mengonfigurasi notifikasi callback di konsol, ikuti langkah-langkah berikut:

  1. Masuk ke Konsol Content Moderation.

  2. Di panel navigasi sisi kiri, pilih Machine audit V1.0 > Settings.

  3. Di halaman Machine audit, klik tab Notification. Lalu klik Create New Notification di tab ini.

  4. Di kotak dialog Create New Notification, atur parameter Title, Callback URL, Encryption algorithm, Notification type, dan Audit Result. Lalu, klik OK.

     Setelah Anda mengonfigurasi notifikasi callback, sistem secara otomatis menghasilkan nilai untuk parameter seed. Anda dapat menggunakan nilai parameter seed untuk memverifikasi apakah permintaan notifikasi callback dikirim dari Alibaba Cloud. Simpan nilai yang dihasilkan dari parameter seed.

     Penting

     • Jika Anda telah mengonfigurasi notifikasi callback untuk hasil moderasi berbantuan mesin, Anda dapat menggunakan kembali konfigurasi notifikasi callback atau mengonfigurasi notifikasi callback lain berdasarkan kebutuhan bisnis Anda.

     • Anda dapat mengonfigurasi notifikasi callback untuk menerima semua hasil moderasi atau hanya hasil moderasi tertentu berdasarkan skenario bisnis Anda.

     • Pilih Manual Review Results by AlibabaCloud untuk parameter Jenis notifikasi.

     • Nilai valid untuk parameter Algoritma enkripsi:

       • SHA256: Algoritma enkripsi HMAC-SHA256 digunakan.

       • SM3: Algoritma enkripsi HMAC-SM3 digunakan dan string heksadesimal dikembalikan. String terdiri dari huruf kecil dan digit.

         Sebagai contoh, 66c7f0f462eeedd9d1f2d46bdc10e4e24167c4875cf2f7a2297da02b8f4ba8e0 dikembalikan setelah Anda mengenkripsi abc menggunakan algoritma enkripsi HMAC-SM3.

  5. Di tab BizType Manage, temukan skenario bisnis yang ingin Anda kelola, klik Choose Notification Plan di kolom Actions, dan kemudian pilih skema notifikasi callback dari daftar drop-down Callback notification scheme untuk skenario bisnis tersebut.

Deskripsi parameter content

Setelah Anda mengaktifkan notifikasi callback, Content Moderation mengirimkan hasil moderasi yang dihasilkan oleh API Content Moderation dalam notifikasi callback ke URL callback yang ditentukan. Notifikasi callback berisi parameter content. Tabel berikut menjelaskan struktur parameter content.

{
    "scanResult": {
        "code": 200,
        "msg": "OK",
        "taskId": "fdd25f95-4892-4d6b-aca9-7939bc6e9baa-1486198766695",
        "url": "http://1.jpg",
        "results": [
            {
                "rate": 100,
                "scene": "porn",
                "suggestion": "block",
                "label": "porn"
            }
        ]
    },
    "auditResult": {
        "suggestion": "block",
        "labels": [
            "porn",
            "ad",
            "terrorism"
        ]
    },
    "humanAuditResult": {
        "suggestion": "pass",
          "dataId": "yyyy",
          "labels": [
              "porn",
              "vulgar"
        ],
        "taskId": "xxxxxx"
    }
}