Content Moderation menggunakan kebijakan moderasi default dari Alibaba Cloud untuk memindai konten Anda. Jika Anda merasa kebijakan default terlalu ketat atau terlalu longgar untuk kebutuhan bisnis Anda, Anda dapat membuat kebijakan moderasi kustom. Topik ini menjelaskan cara mengonfigurasi kebijakan moderasi kustom.
Latar Belakang
Anda mengonfigurasi kebijakan moderasi berdasarkan skenario bisnis (BizType), di mana setiap skenario memiliki serangkaian aturan moderasi. Jika Anda tidak membuat kebijakan kustom, Content Moderation akan menggunakan skenario bisnis default beserta kebijakan yang sesuai. Setelah Anda membuat skenario bisnis kustom, Anda harus meneruskan BizType-nya dalam panggilan API Content Moderation Anda agar aturan kustom Anda diterapkan.
Prosedur
Masuk ke Konsol Content Moderation.
Di panel navigasi sebelah kiri, pilih .
Buat skenario bisnis.
Jika Anda telah membuat skenario bisnis, lewati langkah ini.
Pada tab BizType Manage di halaman Machine Moderation, klik Create BizType.
Pada kotak dialog Create BizType, konfigurasikan parameter seperti yang dijelaskan dalam tabel berikut.
Parameter
Deskripsi
BizType name
Nama skenario bisnis. Nama dapat berisi angka, huruf, dan garis bawah (_) serta tidak boleh lebih dari 32 karakter.
Industry template configuration
Konfigurasi kebijakan yang mengikuti standar industri. Jika Anda menggunakan templat industri, beberapa fitur kebijakan moderasi tidak dapat dikustomisasi. Jika Anda tidak menggunakan templat, Anda dapat mengonfigurasi semua pengaturan sendiri.
Industry Category
Industri tempat bisnis Anda berada. Menentukan industri membantu meningkatkan akurasi konfigurasi kebijakan.
Copy from
Jika Anda telah membuat skenario bisnis, Anda dapat mengimpor konfigurasinya.
Description
Deskripsi skenario bisnis. Deskripsi dapat berisi karakter Tionghoa, huruf Inggris, angka, dan garis bawah (_), serta tidak boleh lebih dari 32 karakter.
Klik OK untuk membuat skenario bisnis.
Konfigurasikan skenario bisnis.
Anda dapat mengonfigurasi Moderation Policy dan Audit Data.
Moderation Policy
Kebijakan moderasi bervariasi berdasarkan skenario deteksi. Opsi yang ditampilkan di Konsol bersifat final.
Pada halaman Machine Moderation, temukan skenario bisnis yang dituju lalu klik Edit di kolom Actions.
Pilih kebijakan moderasi yang ingin Anda tetapkan sesuai kebutuhan.
Anda dapat menetapkan kebijakan moderasi untuk gambar, video, teks, dan audio. Untuk gambar dan video, kebijakan mencakup pornografi, konten terkait terorisme, adegan tidak pantas, dan teks yang disematkan dalam gambar. Untuk teks dan audio, kebijakan moderasi mencakup konten terkait pornografi, politik, penyalahgunaan, iklan, dan konten terlarang.
Jika skenario deteksi tertentu tidak relevan dengan bisnis Anda, Anda tidak perlu mengonfigurasi kebijakan untuknya. Misalnya, jika Anda tidak perlu memindai iklan, jangan konfigurasi pengaturan terkait iklan dalam kebijakan moderasi.
CatatanSaat menetapkan kebijakan moderasi untuk gambar, Anda dapat menggunakan opsi Apply Libraries dan Associated Text Library di sebelah kanan untuk menautkan konfigurasi dari pustaka risiko Anda.
Klik Save untuk menyelesaikan kustomisasi kebijakan moderasi.
Saat memanggil API, Anda harus meneruskan skenario bisnis yang sesuai agar kebijakan moderasi kustom berlaku. Misalnya, saat memindai gambar untuk konten pornografi (untuk informasi selengkapnya, lihat synchronous scan), Anda harus mengatur parameter permintaan scene menjadi porn.
Audit Data
Klik Audit Data.
Pada tab Audit Data, pilih tipe data mana yang akan dikirim untuk tinjauan manual.
Untuk informasi selengkapnya tentang tinjauan manual, lihat human review.