Content Moderation：Sesuaikan kebijakan untuk moderasi berbantuan mesin

Prosedur

1. Masuk ke Konsol Content Moderation.

2. Di panel navigasi sebelah kiri, pilih Machine audit V1.0 > Settings.

3. Buat skenario bisnis.

   Jika Anda telah membuat skenario bisnis, lewati langkah ini.

   1. Pada tab BizType Manage halaman Machine audit, klik Create BizType.

   2. Di kotak dialog Create bizType, atur parameter-parameter yang dijelaskan dalam tabel berikut. Anda dapat mengatur nama serta menentukan template industri dan kategori industri untuk skenario bisnis.

      Parameter	Deskripsi
      Name	Nama dari skenario bisnis. Nama tersebut dapat berisi angka, huruf, dan garis bawah (_). Panjangnya bisa mencapai 32 karakter.
      Apply Template	Menentukan apakah akan mengimpor konfigurasi dari template industri. Jika Anda menggunakan template industri, fitur tertentu dari kebijakan moderasi tidak dapat disesuaikan. Jika Anda tidak menggunakan template industri, Anda dapat menyesuaikan kebijakan moderasi.
      Industry Category	Kategori industri dari skenario bisnis. Kategori industri yang tepat memungkinkan Alibaba Cloud membantu Anda menyesuaikan kebijakan moderasi.
      Copy from	Jika Anda telah membuat skenario bisnis, Anda dapat mengimpor konfigurasi dari skenario bisnis yang ada.
      Description	Deskripsi dari skenario bisnis. Deskripsi tersebut dapat berisi huruf, angka, dan garis bawah (_). Panjangnya bisa mencapai 32 karakter.

   3. Klik OK. Skenario bisnis berhasil dibuat.

4. Konfigurasikan skenario bisnis.

   Untuk mengonfigurasi skenario bisnis, lengkapi konfigurasi pada tab Moderation Policy, Audit Data, dan Evidence Storage.

   • Konfigurasi pada tab Moderation Policy.

     Template kebijakan moderasi bervariasi berdasarkan skenario moderasi. Untuk informasi lebih lanjut, lihat template di konsol.

     1. Pada halaman Machine audit, temukan skenario bisnis yang ingin dikonfigurasi dan klik Edit di kolom Aksi.

     2. Sesuaikan kebijakan untuk moderasi berbantuan mesin berdasarkan kebutuhan bisnis Anda.

        Content Moderation memungkinkan Anda menyesuaikan kebijakan moderasi untuk gambar, video, teks, dan audio. Untuk gambar dan video, moderasi berbantuan mesin mencakup deteksi pornografi, konten teroris, adegan yang tidak diinginkan, dan pelanggaran iklan. Untuk teks dan audio, moderasi berbantuan mesin mendeteksi konten pornografi, konten politik, pelecehan, iklan, dan konten terlarang.

        Jika skenario moderasi tertentu tidak diperlukan untuk bisnis Anda, jangan pilih skenario moderasi tersebut. Misalnya, jika Anda tidak ingin memoderasi iklan, Anda dapat menghapus semua skenario moderasi terkait iklan saat menyesuaikan kebijakan untuk moderasi berbantuan mesin.

        Catatan

        Saat menyesuaikan kebijakan moderasi untuk gambar, Anda dapat mengklik Associated Gallery atau Associated Text Library di pojok kanan atas bagian untuk menghubungkan kebijakan moderasi dengan konfigurasi perpustakaan gambar atau perpustakaan teks.

     3. Klik Save.

        Jika Anda perlu menggunakan kebijakan yang disesuaikan untuk skenario moderasi tertentu saat memanggil operasi API, Anda harus menentukan skenario moderasi dalam permintaan API. Misalnya, saat memanggil operasi API untuk memoderasi gambar untuk konten pornografi, atur parameter scenes menjadi porn dalam permintaan API. Dalam hal ini, kebijakan moderasi yang sesuai akan diterapkan. Untuk informasi lebih lanjut, lihat /green/image/scan.

   • Konfigurasi pada tab Audit Data

     1. Klik tab Audit Data.

     2. Pada tab Audit Data, pilih jenis data yang akan ditinjau.

        Untuk informasi lebih lanjut tentang fitur tinjauan manual, lihat Tinjau hasil moderasi berbantuan mesin.

   • Konfigurasi pada tab Evidence Storage

     Saat memanggil API Content Moderation untuk memoderasi konten, Anda dapat mengaktifkan fitur penyimpanan bukti di bucket Object Storage Service (OSS) untuk menyimpan bukti yang diperoleh dari hasil moderasi berbantuan mesin. Fitur penyimpanan bukti harus digunakan bersama dengan Alibaba Cloud OSS. Anda dapat menggunakan fitur ini untuk menyimpan konten ilegal, mencurigakan, dan normal yang terdeteksi dalam video, audio, dan gambar di bucket OSS yang ditentukan. Setelah konten disimpan, URL OSS akan dihasilkan untuk konten yang tersimpan. Bagian ini menjelaskan cara mengaktifkan dan mengonfigurasi fitur penyimpanan bukti di bucket OSS.

     Anda hanya dapat menyimpan video, audio, dan gambar yang berisi konten ilegal, mencurigakan, atau normal yang teridentifikasi di bucket OSS yang ditentukan. Konten yang disimpan mengacu pada video, audio, dan gambar yang hasil moderasi berbantuan mesinnya dikembalikan dalam parameter saran sebagai block, review, atau pass. Nilai block menunjukkan ilegal, nilai review menunjukkan mencurigakan, dan nilai pass menunjukkan normal.

     Secara default, fitur penyimpanan bukti dinonaktifkan. Untuk menggunakan fitur ini, Anda harus mengaktifkannya dan mengonfigurasi data untuk menyimpan video, audio, dan gambar yang berisi konten ilegal, mencurigakan, atau normal di bucket OSS.

     • Jika fitur penyimpanan bukti video di bucket OSS yang ditentukan diaktifkan, file video atau aliran video yang hasil moderasi berbantuan mesinnya adalah block, review, atau pass dan tangkapan layar video terkait disimpan di bucket OSS yang ditentukan.

     • Jika fitur penyimpanan bukti audio di bucket OSS yang ditentukan diaktifkan, file audio atau aliran audio yang hasil moderasi berbantuan mesinnya adalah block, review, atau pass dan fragmen audio terkait disimpan di bucket OSS yang ditentukan.

     • Jika fitur penyimpanan bukti gambar di bucket OSS yang ditentukan diaktifkan, gambar yang hasil moderasi berbantuan mesinnya adalah block, review, atau pass disimpan di bucket OSS yang ditentukan.

     1. Klik tab Evidence Storage.

     2. Pada tab Evidence Storage, aktifkan Penyimpanan Bukti di bagian Video Evidence Storage, Audio Evidence Storage, dan Image evidence transfer sesuai kebutuhan dan lengkapi konfigurasi yang diperlukan.

        Catatan

        Jika Anda masuk ke konsol Content Moderation untuk pertama kali, Anda harus memberikan izin baca dan tulis pada OSS ke akun saat ini sesuai petunjuk. Anda dapat menggunakan kebijakan izin untuk mendeteksi konten ilegal di bucket OSS. Jika akun saat ini diberi izin yang diperlukan, tab Penyimpanan Bukti akan muncul.

        Parameter	Deskripsi
        OSS Bucket	Bucket OSS yang digunakan untuk menyimpan file bukti.
        Storage Directory	Folder yang digunakan untuk menyimpan file bukti di bucket OSS yang ditentukan. Semua file bukti disimpan di folder yang ditentukan berdasarkan aturan penyimpanan. Untuk informasi lebih lanjut, lihat Aturan penyimpanan. Catatan Jika folder yang ditentukan tidak ada di bucket OSS, sistem secara otomatis membuat satu.
        URL Validity Duration	Periode validitas URL OSS setiap file bukti yang disimpan di bucket OSS. Nilai valid: 300 hingga 3600. Unit: detik.
        Transfer range	Nilai valid: Machine identification violation: menyimpan konten yang hasil moderasi berbantuan mesinnya adalah block. Machine identification is suspected: menyimpan konten yang hasil moderasi berbantuan mesinnya adalah review. The machine identification is normal.: menyimpan konten yang hasil moderasi berbantuan mesinnya adalah pass.

     3. Klik Save.

        Setelah menyelesaikan konfigurasi untuk fitur penyimpanan bukti, konten ilegal, mencurigakan, dan normal yang terdeteksi disimpan di bucket OSS yang ditentukan saat Anda memanggil operasi API untuk meninjau video dan gambar dan mendeteksi spam di audio. Anda dapat melihat URL OSS dari file terkait video yang disimpan di parameter data.extras.newUrl yang dikembalikan, URL OSS dari file terkait audio yang disimpan di parameter data.new_url dan data.result.details.url yang dikembalikan, dan URL OSS dari file gambar yang disimpan di parameter data.storedUrl yang dikembalikan. Anda juga dapat masuk ke Konsol OSS untuk melihat file yang disimpan di bucket yang ditentukan.

        Storage rules

        Tabel 1. Aturan penyimpanan untuk file terkait video

        Jenis file	Jalur penyimpanan	Konvensi penamaan
        File video	${bucket}/${Storage folder}/video/${suggestion}/${taskId}/${Video name.Suffix}	File video yang disimpan di bucket OSS diberi nama berdasarkan file video asli.
        Tangkapan layar video	${bucket}/${Storage folder}/video/${suggestion}/${taskId}/${Video snapshot name.Suffix}	File tangkapan layar video yang disimpan di bucket OSS diberi nama berdasarkan waktu saat tangkapan layar diambil. Contohnya, 00_01_02 menunjukkan bahwa tangkapan layar diambil pada 00:01:02.
        Aliran video	${bucket}/${Storage folder}/video/${suggestion}/${taskId}/${Video stream name.Suffix}	File aliran video yang disimpan di bucket OSS diberi nama berdasarkan waktu saat tinjauan dimulai. Contohnya, nama 20190102_12_02_03.wav menunjukkan bahwa tinjauan aliran video dimulai pada 12:02:03 tanggal 2 Januari 2019.

        Tabel 2. Aturan penyimpanan untuk file terkait audio

        Jenis file	Jalur penyimpanan	Konvensi penamaan
        File audio	${bucket}/${Storage folder}/audio/${suggestion}/${taskId}/${Audio name.Suffix}	File audio yang disimpan di bucket OSS diberi nama berdasarkan file audio asli.
        Fragmen audio	${bucket}/${Storage folder}/audio/${suggestion}/${taskId}/${Audio fragment name.Suffix}	File fragmen audio yang disimpan di bucket OSS diberi nama berdasarkan titik awal dan akhir fragmen audio. Contohnya, nama 00_01_02-00_10_13.mp3 menunjukkan bahwa fragmen audio dipotong dari 00:01:02 hingga 00:10:13 dari file audio asli.

        Tabel 3. Aturan penyimpanan untuk file gambar

        Jenis file	Jalur penyimpanan	Konvensi penamaan
        Gambar	${bucket}/${Storage folder}/image/${suggestion}/${taskId}/${Image name.Suffix}	File gambar yang disimpan di bucket OSS diberi nama berdasarkan file gambar asli.