Perpustakaan gambar kustom - Content Moderation

Secara default, Content Moderation menyediakan layanan moderasi menggunakan perpustakaan gambar berisiko global dari Alibaba Cloud. Perpustakaan ini memenuhi sebagian besar kebutuhan moderasi. Content Moderation juga mendukung perpustakaan gambar kustom yang dapat disesuaikan untuk memastikan hasil moderasi sesuai dengan kebutuhan bisnis spesifik Anda. Anda dapat menentukan gambar yang akan diblokir, dilewati, atau ditinjau dalam berbagai perpustakaan gambar kustom guna memenuhi kebutuhan manajemen tertentu.

Informasi latar belakang

Perpustakaan gambar kustom terdiri dari daftar hitam, daftar putih, dan daftar tinjauan untuk berbagai tujuan. Jika perpustakaan gambar kustom digunakan untuk moderasi, gambar yang dimoderasi yang cocok dengan sampel dalam perpustakaan diberi tag dengan kategori hasil moderasi yang sesuai. Hasil moderasi untuk gambar yang cocok dengan sampel dalam daftar hitam adalah blokir, dalam daftar putih adalah lewati, dan dalam daftar tinjauan adalah tinjau. Perpustakaan gambar kustom mencakup perpustakaan gambar berbasis umpan balik dan perpustakaan gambar yang dikelola sendiri:

Perpustakaan gambar berbasis umpan balik dibuat secara otomatis untuk mengakomodasi gambar yang ditinjau. Secara default, Anda dapat menggunakan perpustakaan ini untuk memoderasi gambar dalam semua skenario moderasi dengan tipe yang sama. Anda dapat mengelola gambar dalam perpustakaan ini, tetapi tidak dapat melakukan operasi seperti menonaktifkan atau menghapusnya.
Perpustakaan gambar yang dikelola sendiri adalah perpustakaan yang Anda buat untuk memoderasi gambar dalam skenario moderasi tertentu atau tipe skenario moderasi tertentu. Anda dapat mengelola gambar serta melakukan operasi pada perpustakaan ini.

Catatan

Anda dapat membuat hingga 10 perpustakaan gambar yang dikelola sendiri dan menambahkan hingga 10.000 gambar ke setiap perpustakaan.

Saat menggunakan API Content Moderation, Anda dapat menggunakan perpustakaan gambar kustom untuk memoderasi gambar atau video untuk konten pornografi, konten teroris, pelanggaran iklan, dan adegan buruk.

Topik ini menjelaskan cara mengelola perpustakaan gambar kustom untuk API Content Moderation di Konsol Content Moderation Alibaba Cloud. Anda juga dapat mengelola perpustakaan gambar kustom dengan memanggil operasi API atau menggunakan SDK Content Moderation. Untuk informasi lebih lanjut, lihat topik berikut:

Prosedur

Masuk ke Konsol Content Moderation Alibaba Cloud.
Di panel navigasi sisi kiri, pilih Machine audit V1.0 > Risk Libraries.
Di halaman Risk Libraries, klik tab Custom Image Library, lalu klik Create Image Library.

Dalam kotak dialog Create Image Library, atur parameter dan klik OK.

Tabel 1. Deskripsi Parameter

Parameter	Deskripsi
Name	Nama perpustakaan gambar kustom. Nama tersebut dapat memiliki panjang hingga 20 karakter.
Scene	Skenario moderasi yang berlaku untuk perpustakaan gambar kustom. Nilai valid: Pornographic Content: memoderasi gambar atau video untuk konten pornografi. Violent or Terroristic Content: memoderasi gambar atau video untuk konten teroris. Ad: memoderasi gambar atau video untuk pelanggaran iklan. Undesirable Scene: memoderasi gambar atau video untuk adegan buruk.
List Category	Kategori hasil moderasi yang dikembalikan berdasarkan perpustakaan gambar kustom. Nilai valid: Block list: Jika gambar yang dimoderasi cocok dengan sampel dalam perpustakaan gambar, hasil moderasi bantuan mesin adalah blokir. Review List: Jika gambar yang dimoderasi cocok dengan sampel dalam perpustakaan gambar, hasil moderasi bantuan mesin adalah tinjau. Trust list: Jika gambar yang dimoderasi cocok dengan sampel dalam perpustakaan gambar, hasil moderasi bantuan mesin adalah lewati.
BizType	Skema bisnis yang berlaku untuk perpustakaan gambar kustom. Anda dapat menentukan perpustakaan gambar yang berbeda dalam permintaan API untuk memenuhi kebutuhan bisnis Anda. Misalnya, Anda dapat menggunakan parameter bizType untuk menentukan perpustakaan gambar yang akan diterapkan dalam skenario moderasi tertentu. Parameter bizType berlaku dengan cara berikut: Jika parameter bizType dalam permintaan moderasi diatur ke A, perpustakaan gambar yang parameter bizTypenya diatur ke A digunakan untuk moderasi. Perpustakaan gambar ini hanya dapat digunakan jika diaktifkan. Dalam kasus lain, semua perpustakaan gambar yang diaktifkan digunakan untuk moderasi.

Perpustakaan gambar kustom telah dibuat dan diaktifkan secara default.

Di tab Custom Image Library, temukan perpustakaan gambar yang dibuat dan klik Manage di kolom Tindakan.
Tab Custom Image Library mencantumkan semua perpustakaan gambar kustom. Perpustakaan yang ditandai dengan System dan dinamai dalam format SCENARIO_FEEDBACK_WHITE atau SCENARIO_FEEDBACK_BLACK adalah perpustakaan gambar berbasis umpan balik. Sebagai contoh, perpustakaan LIVE_FEEDBACK_BLACK adalah daftar hitam yang terdiri dari sampel yang ditambahkan oleh sistem dan digunakan untuk memoderasi gambar untuk adegan buruk.
Di halaman Image Libraries, lakukan operasi berikut untuk mengelola gambar sesuai kebutuhan.
Catatan
Anda dapat menambahkan dan menghapus gambar. Operasi tersebut berlaku dalam waktu sekitar 15 menit.
- Kueri gambar dengan menyetel parameter Image ID, Time, dan Sample ID.
- Klik sebuah gambar. Di panel Details, lihat jumlah gambar atau video yang cocok dengan gambar tersebut, waktu ketika gambar ditambahkan, dan ID gambar.
- Klik Select File dan unggah gambar ke perpustakaan gambar saat ini.
  Catatan
  Gambar dalam format PNG, JPG, JEPG, dan BMP didukung. Ukuran file tunggal harus lebih kecil dari 5 MB. Maksimal 20 gambar dapat diunggah sekaligus.
- Klik Delete untuk menghapus gambar. Atau, pilih beberapa gambar dan klik Batch Delete di bagian bawah halaman.

Hapus, ubah, atau nonaktifkan perpustakaan gambar

Di tab Custom Image Library, Anda dapat mengklik Delete, Edit, atau Disable di kolom Actions untuk menghapus, mengubah, atau menonaktifkan perpustakaan gambar kustom.