Panduan pengguna untuk konsol Image Moderation Edisi Enhanced - Content Moderation

API Image Moderation V2.0 dari Moderasi Konten menyediakan konfigurasi preset untuk cakupan deteksi risiko yang terperinci, berdasarkan pengalaman tata kelola konten yang luas dan praktik umum di industri.

Saat pertama kali menggunakan layanan ini, Anda dapat masuk ke halaman Aturan di konsol untuk melihat konfigurasi cakupan deteksi default.

Skenario

Jika bisnis Anda memiliki persyaratan berikut, Anda dapat menggunakan konsol Image Moderation Alibaba Cloud V2.0 untuk menyesuaikan aturan dan cakupan deteksi, serta mengkueri hasil deteksi dan melihat statistik penggunaan.

Skenario aplikasi	Deskripsi
Menyesuaikan cakupan deteksi risiko gambar	Anda dapat menyesuaikan cakupan deteksi dan item spesifik untuk deteksi risiko berdasarkan praktik umum di industri atau kebutuhan bisnis Anda. Baseline Check (baselineCheck_global): Cakupan yang dapat disesuaikan mencakup konten pornografi, konten sugestif, konten teroris, konten terlarang, konten bendera, konten tidak diinginkan, dan konten kasar. Sebagai contoh, jika bisnis Anda menampilkan banyak gambar pakaian renang dan Anda tidak ingin gambar tersebut ditandai sebagai berisiko, Anda dapat mematikan sakelar deteksi untuk elemen terkait di konsol.
Menetapkan cakupan deteksi risiko berbeda untuk beberapa skenario bisnis	Jika Anda memiliki beberapa skenario bisnis yang menggunakan layanan yang sama tetapi memerlukan cakupan deteksi risiko berbeda, Anda dapat menyalin layanan tersebut untuk memenuhi kebutuhan masing-masing skenario. Sebagai contoh, Anda mungkin memiliki tiga skenario bisnis (A, B, dan C) yang semuanya memerlukan layanan Common Baseline Moderation (baselineCheck), tetapi masing-masing memiliki standar berbeda. Anda dapat menyalin layanan baselineCheck di konsol untuk membuat baselineCheck_01 dan baselineCheck_02. Dengan menetapkan cakupan deteksi risiko berbeda untuk ketiga layanan ini, Anda dapat memenuhi kebutuhan setiap skenario bisnis.
Moderasi khusus atau darurat untuk gambar tertentu	Jika Anda memiliki persyaratan bisnis berikut untuk moderasi gambar, Anda dapat menggunakan konsol dan API Image Moderation V2.0 untuk melakukan moderasi khusus. Gambar dari peristiwa mendadak tertentu perlu segera diidentifikasi sebagai berisiko. Gambar tertentu yang memengaruhi operasi bisnis atau ketertiban platform perlu diidentifikasi sebagai berisiko, seperti gambar iklan yang digunakan untuk pengalihan lalu lintas. Gambar dengan makna khusus dalam komunitas privat perlu diidentifikasi sebagai berisiko, seperti gambar perundungan siber di sebuah komunitas.
Mengecualikan gambar tepercaya dari deteksi risiko	Anda dapat menetapkan gambar tertentu sebagai tepercaya berdasarkan sumber atau tujuannya. Untuk mencegah algoritma Moderasi Konten menandai gambar-gambar ini sebagai berisiko, Anda dapat mengecualikan pustaka gambar tepercaya dari deteksi risiko. Contoh gambar tersebut termasuk materi pemasaran yang dibuat oleh bisnis atau platform Anda, gambar resmi, dan foto profil resmi yang telah ditinjau secara manual.
Menyesuaikan pengaturan deteksi teks untuk gambar	Untuk teks dalam gambar, Anda dapat mengonfigurasi kosakata kustom untuk mengabaikan atau menandai kata kunci tertentu. Kata kunci yang diabaikan: Anda dapat menambahkan kata kunci yang akan diabaikan dalam teks gambar. Hal ini mencegah gambar yang berisi kata kunci tersebut ditandai sebagai tidak sesuai. Kata kunci yang ditandai: Anda dapat menambahkan kata kunci yang akan ditandai dalam teks gambar. Hal ini memungkinkan deteksi risiko yang terkait dengan istilah tertentu.
Uji moderasi gambar secara online	Anda dapat menguji kinerja moderasi layanan gambar tertentu secara visual di konsol. Anda dapat menguji gambar dengan memberikan URL gambar atau mengunggah file gambar lokal. Anda dapat menguji hingga 100 gambar sekaligus. Konsol menampilkan hasilnya secara visual.
Mengkueri hasil deteksi per gambar secara terperinci	Anda dapat melihat atau mencari gambar yang baru saja dideteksi di halaman hasil kueri untuk menganalisis detailnya.
Melihat statistik deteksi gambar terbaru	Anda dapat melihat statistik deteksi gambar terbaru di halaman Statistik Penggunaan.

Prasyarat

Buka halaman Moderasi Konten V2.0 dan aktifkan layanan Image Moderation V2.0.

Catatan

Sebelum mengaktifkan layanan Image Moderation 2.0, pastikan Anda memahami aturan penagihan Image Moderation 2.0. Untuk informasi selengkapnya, lihat Pengantar Image Moderation Enhanced Edition 2.0 dan informasi penagihannya.

Menyesuaikan cakupan deteksi risiko untuk gambar

Anda dapat menyesuaikan cakupan deteksi dan item spesifik untuk deteksi risiko berdasarkan praktik umum di industri atau kebutuhan bisnis Anda.

Masuk ke Konsol Moderasi Konten.
Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Image Moderation > Rules.
Di tab Rules Management, temukan layanan yang ingin Anda kelola. Contoh ini menggunakan layanan Common Baseline Moderation (baselineCheck_global). Klik Settings di kolom Actions.
Di halaman Detection Scope, pilih jenis deteksi yang ingin disesuaikan. Contoh ini menggunakan Prohibited Content Detection.
1. Di tab Prohibited Content Detection, lihat konfigurasi default di bagian Detailed Scenario Configuration. Sebagai contoh, gambar berikut menunjukkan bahwa empat item dideteksi secara default. Jika suatu item terdeteksi, label yang sesuai akan dikembalikan.
2. Klik Edit untuk memasuki mode edit. Ubah Detection Status sesuai kebutuhan. Sebagai contoh, gambar berikut menunjukkan bahwa sakelar deteksi untuk item ketiga dimatikan.
3. Anda juga dapat menyesuaikan Medium-risk Score dan High-risk Score untuk label guna menentukan tingkat risiko yang dikembalikan.
  Catatan
  Aturan tingkat risiko:
  1. Jika label risiko terdeteksi dan skor kepercayaannya berada dalam rentang skor risiko tinggi, tingkat risikonya tinggi.
  2. Jika label risiko terdeteksi dan skor kepercayaannya berada dalam rentang skor risiko menengah, tingkat risikonya menengah.
  3. Jika label risiko terdeteksi dan skor kepercayaannya di bawah rentang skor risiko menengah, tingkat risikonya rendah.
  4. Jika beberapa label dengan tingkat risiko berbeda terdeteksi, tingkat risiko tertinggi yang dikembalikan.
  5. Jika tidak ada label risiko yang terdeteksi, tingkat risikonya aman.
  6. Jika daftar blokir kustom terdeteksi, tingkat risikonya tinggi.
4. Klik Save untuk menyimpan cakupan deteksi baru. Konfigurasi baru akan berlaku dan diterapkan ke lingkungan produksi dalam waktu sekitar 2 hingga 5 menit.

Menetapkan cakupan deteksi risiko berbeda untuk beberapa skenario bisnis

Anda dapat menyalin layanan dan menetapkan cakupan deteksi risiko berbeda untuk memenuhi kebutuhan moderasi yang berbeda dari skenario bisnis Anda.

Masuk ke Konsol Moderasi Konten.
Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Image Moderation > Rules.
Di tab Rules Management, temukan layanan yang ingin Anda salin. Contoh ini menggunakan layanan Common Baseline Moderation (baselineCheck_global).
1. Di halaman daftar layanan, klik Copy di kolom Actions untuk layanan Common Baseline Moderation.
2. Di panel Copy Service, masukkan Service Name dan Service Description.
3. Klik Create untuk menyimpan informasi layanan yang disalin. Layanan baru dapat dipanggil 1 hingga 2 menit setelah dibuat.
4. Setelah layanan dibuat, Anda dapat mengonfigurasi dan mengedit layanan baselineCheck_global_01 yang disalin. Anda dapat memanggil layanan baselineCheck_global_01 dan layanan baselineCheck_global secara terpisah untuk memenuhi kebutuhan skenario bisnis berbeda yang memerlukan cakupan deteksi risiko berbeda.

Menjalankan moderasi khusus atau darurat pada gambar tertentu yang diketahui

Anda dapat mengonfigurasi pustaka gambar kustom untuk gambar yang mungkin berisiko. Jika gambar yang diunggah pengguna cocok dengan gambar di pustaka yang dikonfigurasi, label risiko akan dikembalikan.

Masuk ke Konsol Moderasi Konten.
Sebelum mengonfigurasi pustaka gambar kustom, Anda harus membuat dan memeliharanya. Jika pustaka yang sudah ada memenuhi kebutuhan bisnis Anda, Anda dapat melewati langkah ini.
Catatan
Setiap akun dapat membuat hingga 10 pustaka gambar. Jumlah total gambar di semua pustaka tidak boleh melebihi 100.000.
- Create an image library and upload images
  1. Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Image Moderation > Image Libraries.
  2. Klik Create Image Library. Di kotak dialog Create Image Library, masukkan nama dan deskripsi pustaka, lalu klik OK.
  3. Temukan pustaka yang Anda buat dan klik Manage Images di kolom Actions.
  4. Klik Add Image. Di kotak dialog Add Image, klik Select Image dan ikuti petunjuk untuk mengunggah gambar.
    Anda dapat mengunggah maksimal 10 gambar sekaligus. Setiap gambar harus berukuran 4 MB atau lebih kecil. Disarankan resolusi gambar minimal 256 × 256 piksel. Daftar unggahan menampilkan status unggah hingga 10 gambar. Untuk mengunggah lebih banyak gambar, klik Clear List And Continue Uploading.
  5. Di halaman detail pustaka gambar, Anda dapat melihat daftar gambar yang diunggah. Anda juga dapat mengkueri dan menghapus gambar.
    - Mengkueri gambar: Anda dapat mencari gambar berdasarkan Image ID atau Add Time.
    - Menghapus gambar: Anda dapat menghapus gambar dari pustaka, termasuk secara batch.
- Maintain an existing image library
  1. Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Image Moderation > Image Libraries.
  2. Temukan pustaka yang ingin Anda pelihara. Klik Edit di kolom Actions untuk mengubah nama dan deskripsi pustaka. Klik Manage Images di kolom Actions untuk mengunggah atau menghapus gambar.
Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Image Moderation > Rules.
Di tab Rules Management, temukan layanan yang ingin Anda kelola. Contoh ini menggunakan layanan Common Baseline Moderation (baselineCheck_global). Klik Settings di kolom Actions.
Di halaman Detection Scope, pilih jenis deteksi yang ingin disesuaikan. Contoh ini menggunakan Prohibited Content Detection.
1. Di bagian Set Labels by Customized Libraries di tab Prohibited Content Detection, lihat informasi tentang pustaka gambar kustom yang dikonfigurasi.
2. Klik Edit untuk memasuki mode edit dan pilih pustaka gambar kustom yang ingin Anda konfigurasi.
3. Klik Save untuk menyimpan konfigurasi pustaka gambar kustom baru.
  Konfigurasi baru akan berlaku dan diterapkan ke lingkungan produksi dalam waktu sekitar 2 hingga 5 menit. Jika gambar yang diunggah pengguna cocok dengan gambar di pustaka yang dikonfigurasi, label "contraband_drug_lib" akan dikembalikan.

Mengecualikan gambar tepercaya dari deteksi risiko

Anda dapat mengecualikan pustaka gambar tepercaya dari deteksi risiko untuk mencegah gambar ditandai sebagai berisiko oleh algoritma Moderasi Konten.

Masuk ke Konsol Moderasi Konten.
Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Image Moderation > Rules.
Di tab Rules Management, temukan layanan yang ingin Anda kelola dan klik Settings di kolom Actions.
Klik tab Exempted Images dan ubah konfigurasinya.
1. Di tab Exempted Images, lihat daftar pustaka gambar kustom dan status pengecualiannya.
  Sebagai contoh, gambar berikut menunjukkan bahwa sakelar pengecualian untuk semua pustaka gambar dimatikan.
2. Klik Edit dan nyalakan sakelar pengecualian untuk pustaka gambar yang Anda perlukan.
3. Klik Save untuk menyimpan konfigurasi baru untuk gambar yang dikecualikan.
  Konfigurasi pustaka pengecualian akan berlaku dalam waktu sekitar 2 hingga 5 menit. Moderasi Konten Alibaba Cloud membandingkan gambar input dengan setiap gambar di pustaka yang dipilih untuk kesamaan. Untuk gambar yang dianggap identik oleh algoritma, sistem Moderasi Konten mengembalikan label "nonLabel_lib" dan tidak mengembalikan label risiko lainnya.

Menyesuaikan pengaturan deteksi untuk teks dalam gambar

Untuk teks dalam gambar, Anda dapat mengonfigurasi kosakata kustom untuk mengabaikan atau menandai kata kunci tertentu.

Masuk ke Konsol Moderasi Konten.
Sebelum mengonfigurasi kosakata kustom, Anda harus membuat dan memeliharanya. Jika kosakata yang sudah ada memenuhi kebutuhan bisnis Anda, Anda dapat melewati langkah ini.
- Di halaman Automated Moderation V2.0 > Text Moderation > Library Management, konfigurasikan kosakata sebagai berikut.
  1. Di tab Keyword Library Management, klik Create Vocabulary.
  2. Di panel Create Vocabulary, masukkan informasi kosakata sesuai kebutuhan.
    Catatan
    Anda juga dapat membuat kosakata tanpa menambahkan kata kunci dan menambahkannya nanti sesuai kebutuhan. Satu akun dapat memiliki hingga 20 kosakata dengan total 100.000 kata kunci. Satu kata kunci tidak boleh melebihi 20 karakter. Karakter khusus tidak didukung.
  3. Klik Create Vocabulary.
    Jika pembuatan kosakata gagal, pesan kesalahan spesifik akan ditampilkan. Anda dapat mencoba membuatnya lagi berdasarkan pesan tersebut.
Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Image Moderation > Rules.
Di tab Rules Management, temukan layanan yang ingin Anda kelola. Contoh ini menggunakan layanan Common Baseline Moderation (baselineCheck). Klik Settings di kolom Actions.
Konfigurasikan kata kunci yang diabaikan untuk teks dalam gambar.
1. Di tab Ignored Keywords, lihat daftar kosakata kustom dan status konfigurasinya.
  Sebagai contoh, gambar berikut menunjukkan bahwa sakelar untuk semua kosakata dimatikan.
2. Klik Edit dan nyalakan sakelar untuk kosakata yang ingin Anda abaikan.
3. Klik Save untuk menyimpan konfigurasi kosakata yang diabaikan baru.
  Catatan
  Konfigurasi kosakata yang diabaikan akan berlaku dalam waktu sekitar 2 hingga 5 menit. Moderasi Konten Alibaba Cloud mengabaikan kata kunci dalam kosakata sebelum melakukan deteksi risiko lebih lanjut. Sebagai contoh, jika teks dalam gambar adalah "Here is a small cat" dan Anda memilih kosakata yang berisi "is" dan "a" untuk diabaikan, deteksi risiko hanya akan dilakukan pada "Here small cat".
Konfigurasikan kata kunci yang ditandai untuk teks dalam gambar.
1. Di halaman Detection Scope, pilih jenis deteksi yang ingin disesuaikan. Contoh ini menggunakan Prohibited Content Detection.
2. Di bagian Set Labels by Customized Libraries di tab Prohibited Content Detection, lihat informasi tentang kosakata kustom yang dikonfigurasi.
  Catatan
  Di bagian Custom Libraries/Vocabularies, Anda dapat menetapkan kosakata kustom untuk semua label yang diakhiri dengan "tii". Akhiran "tii" menunjukkan bahwa risiko terdeteksi dalam teks gambar.
3. Klik Edit untuk memasuki mode edit dan pilih kosakata kustom yang ingin Anda konfigurasi.
4. Klik Save untuk menyimpan konfigurasi kosakata kustom baru.
  Konfigurasi baru akan berlaku dan diterapkan ke lingkungan produksi dalam waktu sekitar 2 hingga 5 menit. Jika teks dalam gambar yang diunggah pengguna cocok dengan kata kunci di kosakata yang dikonfigurasi, label "contraband_drug_tii_lib" akan dikembalikan.

Menguji efek moderasi gambar secara online

Di Konsol Moderasi Konten, Anda dapat langsung menguji efek moderasi URL gambar atau file gambar lokal Anda.

Masuk ke Konsol Moderasi Konten.
Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Online Test.
Di halaman Online Test, klik tab Image.
Uji moderasi gambar.
1. Dari daftar drop-down Service, pilih layanan yang ingin Anda uji.
  Catatan
  Sebelum menguji, kami sarankan Anda menyesuaikan aturan layanan di halaman konfigurasi aturan. Untuk informasi selengkapnya, lihat Menyesuaikan cakupan deteksi risiko untuk gambar.
2. Parameter DataId dan Auxiliary Information bersifat opsional. Anda dapat memasukkan atau memilihnya sesuai kebutuhan. Untuk deskripsi parameter, lihat dokumentasi API moderasi gambar.
3. Anda dapat memberikan gambar dengan memasukkan URL Gambar atau dengan mengunggah gambar lokal. Anda dapat memasukkan hingga 100 gambar sekaligus.
4. Klik Test untuk menguji gambar input. Hasil moderasi ditampilkan di area hasil moderasi.

Mengkueri hasil deteksi terperinci untuk setiap gambar

Untuk gambar yang terdeteksi, Anda dapat mengkueri hasil deteksi terperinci berdasarkan ID permintaan, ID data, atau label yang dikembalikan.

Masuk ke Konsol Moderasi Konten.
Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Image Moderation > Detection Results.
Di halaman Detection Results, masukkan kondisi kueri untuk mencari hasil deteksi.
- Kondisi kueri yang didukung meliputi ID permintaan, ID data, layanan, dan label yang dikembalikan.
Catatan
Secara default, hasil ditampilkan dalam urutan kronologis terbalik, dengan maksimal 50.000 entri data yang ditampilkan. Konsol Moderasi Konten menyediakan hasil kueri dari 30 hari terakhir. Kami sarankan Anda menyimpan data atau log dari setiap panggilan API. Hal ini memungkinkan analisis data dan statistik dalam periode yang lebih panjang.
Jika Anda tidak setuju dengan hasil moderasi, Anda dapat mengirimkan umpan balik dengan memilih False Positive atau Missed Violation dari daftar drop-down Feedback di kolom Actions untuk hasil tersebut.
- Item pencarian Returned Label memungkinkan Anda mencari berdasarkan label. Anda dapat memasukkan beberapa label yang dipisahkan dengan koma (,).
Sebagai contoh, untuk mencari semua catatan yang memiliki label hit, atur Returned Label menjadi !=nonLabel.
- Anda dapat mengklik gambar tertentu atau mengklik Details di kolom Actions untuk melihat informasi terperinci.

Menampilkan statistik deteksi gambar terbaru

Anda dapat melihat statistik volume deteksi gambar terbaru untuk merumuskan langkah moderasi atau tata kelola lebih lanjut untuk konten gambar tertentu.

Masuk ke Konsol Moderasi Konten.
Di panel navigasi sebelah kiri, pilih Automated Moderation V2.0 > Image Moderation > Usage Statistics.

Di halaman Usage Statistics, pilih rentang waktu untuk mengkueri atau mengekspor data penggunaan.

Query Usage: Anda dapat melihat statistik penggunaan berdasarkan hari atau bulan. Data statistik disimpan selama satu tahun. Anda dapat mengkueri data yang mencakup hingga dua bulan.

Export Usage: Klik ikon di pojok kanan atas untuk mengekspor data penggunaan berdasarkan hari atau bulan.

Laporan yang diekspor dalam format Excel dan hanya mencakup data dengan volume panggilan. Tabel berikut menjelaskan header baris dalam laporan yang diekspor.

Nama	Deskripsi	Satuan
ID Akun UID	UID akun yang mengekspor data.	Tidak ada
Layanan	Informasi tentang layanan deteksi yang dipanggil.	Tidak ada
Penggunaan	Jumlah total panggilan.	Jumlah
Tanggal	Tanggal pengumpulan statistik.	Hari/Bulan

Lihat detail hit layanan: Setelah statistik penggunaan dihasilkan, detail hit label untuk setiap layanan yang dipanggil ditampilkan. Detailnya ditunjukkan sebagai grafik kolom volume panggilan harian dan grafik treemap proporsi label.
- Grafik kolom volume panggilan harian: Menunjukkan jumlah permintaan harian yang mengenai label risiko dan jumlah permintaan yang tidak mengenai label risiko.
- Grafik treemap proporsi label: Menunjukkan situasi hit label secara keseluruhan, diurutkan berdasarkan proporsi label secara menurun. Label dengan awalan yang sama memiliki warna latar belakang yang sama.