Moderasi Gambar 2.0 menggunakan model bahasa besar (LLM) Qwen yang dilatih khusus dikombinasikan dengan model ahli untuk mendeteksi konten tidak sesuai dalam gambar, termasuk pornografi, konten sugestif, konten sensitif secara politis, kekerasan dan terorisme, barang selundupan, konten agama, traffic iklan dan spam, konten tidak pantas, serta kategori risiko lainnya. Layanan ini juga mendukung pengembalian hasil mentah dari LLM. Topik ini menjelaskan cara mengaktifkan dan memanggil layanan moderasi gambar.
Model moderasi gambar sedang dalam pengembangan aktif. Hubungi manajer bisnis Anda untuk memberikan masukan.
Cara kerja
Moderasi Gambar 2.0 menggunakan LLM Qwen yang dilatih khusus berdasarkan karakteristik risiko konten gambar, menyediakan layanan moderasi gambar berikut:
Image Moderation for Large and Small Model Integration:
Combines large and expert models to detect a wide range of non-compliant content in images, such as pornography, suggestive material, politically sensitive content, violence, terrorism, prohibited items, religious content, spam, and other undesirable content. (Note: All large model inference is processed in the Singapore region.) Untuk detail kategori deteksi, lihat Rules.
Edisi Tiongkok Daratan dari Layanan Moderasi Gambar Fusion Model Besar dan Kecil (postImageCheckByVL_ec):
Uses large models and expert models to comprehensively detect non-compliant content in images, including pornography, suggestive material, political content, violence and terrorism, prohibited items, religious content, spam, and other harmful content. Layanan moderasi gambar yang disesuaikan untuk wilayah Tiongkok daratan, menyediakan label risiko detail halus dan pemahaman konten lokal. Untuk detail kategori deteksi, lihat Rules.
Untuk wilayah AS (Virginia), Jerman (Frankfurt), dan Tiongkok (Hong Kong), inferensi LLM dijalankan di Singapura. Data dan log disimpan secara lokal di wilayah masing-masing (Frankfurt dan Hong Kong).
Pilih layanan Anda
Layanan | Deskripsi | Wilayah yang didukung | Kasus penggunaan |
Image Moderation for Large and Small Model Integration ( | Menggabungkan LLM dan model ahli untuk memberikan label yang lebih rinci, seperti subkategori pornografi, perilaku spesifik, dan objek spesifik. Menawarkan cakupan deteksi lebih luas dan label lebih kaya. Memberikan tingkat false positive dan false negative yang rendah. | Singapura, Tiongkok (Hong Kong), AS (Virginia), Jerman (Frankfurt) | Bisnis media sosial, streaming langsung, gaming, e-commerce, dan pendidikan yang memerlukan kontrol risiko ketat dan kebijakan detail halus. Bisnis yang membutuhkan label risiko terperinci. Sangat direkomendasikan untuk pengguna baru dengan kebutuhan performa tinggi. |
postImageCheckByVL_ec | Dirancang untuk bisnis lintas batas yang memasuki Tiongkok daratan. Memperluas layanan Image Moderation for Large and Small Model Integration dengan optimasi untuk konteks berbahasa Tiongkok dan persyaratan kepatuhan regulasi domestik. | Tiongkok (Shanghai), Tiongkok (Hangzhou), Tiongkok (Beijing), Tiongkok (Shenzhen), Tiongkok (Chengdu) |
|
Prasyarat
Sebelum memulai, pastikan Anda telah memiliki:
Langganan aktif Image Moderation 2.0 (pay-as-you-go)
Akun Alibaba Cloud atau Pengguna RAM dengan kebijakan
AliyunYundunGreenWebFullAccessPasangan Kunci Akses untuk otentikasi
Mulai
Langkah 1: Aktifkan layanan
Kunjungi halaman aktivasi layanan dan aktifkan Image Moderation 2.0. Setelah aktivasi, metode penagihan default adalah pay-as-you-go. Biaya diselesaikan harian berdasarkan penggunaan aktual. Anda tidak dikenai biaya jika tidak memanggil layanan. Untuk detail metode penagihan, lihat Penagihan.
Langkah 2: Berikan izin kepada Pengguna RAM
Buat Pasangan Kunci Akses untuk Akun Alibaba Cloud Anda atau Pengguna RAM. Pengguna RAM harus memiliki kebijakan AliyunYundunGreenWebFullAccess untuk memanggil API Content Moderation.
Login ke Konsol RAM menggunakan Akun Alibaba Cloud Anda atau sebagai administrator RAM.
Buat Pengguna RAM. Lihat Buat Pengguna RAM.
Lampirkan kebijakan
AliyunYundunGreenWebFullAccesske Pengguna RAM. Lihat Kelola izin untuk Pengguna RAM.
Langkah 3: Instal SDK
Ikuti Panduan SDK dan integrasi Moderasi Gambar untuk menginstal SDK dan mengonfigurasi titik akhir Anda.
Tabel berikut mencantumkan semua wilayah dan titik akhir yang didukung:
Wilayah | Titik akhir publik | Titik akhir VPC | Layanan yang didukung |
Tiongkok (Shanghai) | green-cip.cn-shanghai.aliyuncs.com | green-cip-vpc.cn-shanghai.aliyuncs.com | postImageCheckByVL_ec |
Tiongkok (Hangzhou) | green-cip.cn-hangzhou.aliyuncs.com | green-cip-vpc.cn-hangzhou.aliyuncs.com | postImageCheckByVL_ec |
Tiongkok (Beijing) | green-cip.cn-beijing.aliyuncs.com | green-cip-vpc.cn-beijing.aliyuncs.com | postImageCheckByVL_ec |
Tiongkok (Shenzhen) | green-cip.cn-shenzhen.aliyuncs.com | green-cip-vpc.cn-shenzhen.aliyuncs.com | postImageCheckByVL_ec |
Tiongkok (Chengdu) | green-cip.cn-chengdu.aliyuncs.com | N/A | postImageCheckByVL_ec |
Singapura | green-cip.ap-southeast-1.aliyuncs.com | green-cip-vpc.ap-southeast-1.aliyuncs.com | postImageCheckByVL_global |
Tiongkok (Hong Kong) | green-cip.cn-hongkong.aliyuncs.com | green-cip-vpc.cn-hongkong.aliyuncs.com | |
AS (Virginia) | green-cip.us-east-1.aliyuncs.com | green-cip-vpc.us-east-1.aliyuncs.com | |
Jerman (Frankfurt) | green-cip.eu-central-1.aliyuncs.com | green-cip-vpc.eu-central-1.aliyuncs.com |
Di wilayah Jerman (Frankfurt) dan Tiongkok (Hong Kong), inferensi LLM dijalankan di wilayah Singapura. Data dan log disimpan secara lokal di wilayah masing-masing (Frankfurt dan Hong Kong).
Langkah 4: Konfigurasi aturan deteksi (opsional)
Di Konsol Content Moderation, konfigurasikan aturan deteksi: aktifkan atau nonaktifkan kategori deteksi, salin layanan, konfigurasi pustaka gambar kustom, konfigurasi glosarium kustom, kueri catatan deteksi, dan tinjau data penggunaan. Lihat Panduan konsol.
Referensi API
Ikhtisar API
API:
ImageModerationKode layanan:
postImageCheckByVL_global,postImageCheckByVL_ecBatas QPS: 50 panggilan/detik per pengguna. Melebihi batas ini akan mengendalikan aliran permintaan. Hubungi manajer bisnis Anda untuk peningkatan kuota.
Penagihan: Ditagih per permintaan sukses (HTTP 200), diselesaikan harian. Harga bervariasi berdasarkan layanan. Untuk detailnya, lihat bagian Penagihan.
Debug API
Sebelum integrasi, Anda dapat menggunakan debugging online Alibaba Cloud OpenAPI untuk mencoba API dan Moderasi Gambar 2.0. Anda juga dapat melihat contoh kode dan informasi dependensi SDK untuk mendapatkan gambaran tentang cara menggunakan API ini dan parameter-parameternya.
Panggilan API melalui debugger online dikenai biaya.
Persyaratan gambar
Batasan | Batas |
Format yang didukung | PNG, JPG, JPEG, BMP, WEBP, TIFF, SVG, HEIC (tepi terpanjang < 8.192 px), GIF (frame pertama), ICO (gambar terakhir) |
Ukuran file maksimal | 20 MB |
Dimensi maksimal | 16.384 px (tinggi atau lebar); total 250 juta piksel |
Resolusi optimal | Minimal 200 x 200 px (resolusi lebih rendah mengurangi akurasi) |
Timeout unduhan | 3 detik |
Batasan URL | Dapat diakses publik; maksimal 2.048 karakter; tidak boleh mengandung karakter Tiongkok; satu URL per permintaan |
Kirim gambar
Kirim gambar menggunakan salah satu metode berikut per permintaan:
Metode | Parameter yang diperlukan | Catatan |
URL |
| URL harus dapat diakses publik |
Otorisasi OSS |
| Berikan |
Unggahan lokal | Unggah melalui SDK | File dihapus 30 menit setelah diunggah; tidak mengonsumsi penyimpanan OSS. Lihat panduan SDK Moderasi Gambar untuk contoh kode. |
Parameter permintaan
Badan permintaan adalah objek JSON. Untuk parameter permintaan umum yang diperlukan, lihat Panduan integrasi.
Parameter tingkat atas
Parameter | Tipe | Wajib | Contoh | Deskripsi |
| String | Ya |
| Layanan deteksi. Nilai yang valid:
|
| JSONString | Ya | — | String JSON yang berisi parameter deteksi konten. |
Field ServiceParameters
Parameter | Tipe | Wajib | Contoh | Deskripsi |
| String | Bersyarat |
| URL gambar yang akan dimoderasi. Diperlukan saat mengirimkan melalui URL. |
| String | Bersyarat |
| Nama bucket Object Storage Service (OSS) yang diotorisasi. Diperlukan saat mengirimkan melalui OSS. |
| String | Bersyarat |
| Kunci objek gambar di bucket OSS. Diperlukan saat mengirimkan melalui OSS. |
| String | Bersyarat |
| Wilayah tempat bucket OSS berada. Diperlukan saat mengirimkan melalui OSS. |
| String | Tidak |
| Identifikasi unik untuk mengaitkan hasil dengan data bisnis Anda. Karakter alfanumerik, garis bawah, tanda hubung, dan titik. Maksimal 64 karakter. |
| String | Tidak |
| Menentukan informasi tambahan yang akan dikembalikan. Nilai yang valid: |
| String | Tidak |
| Header permintaan |
Contoh permintaan
{
"Service": "postImageCheckByVL_global",
"ServiceParameters": {
"imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
"dataId": "img0307****"
}
}Parameter respons
Field respons tingkat atas
Parameter | Tipe | Contoh | Deskripsi |
| String |
| ID permintaan unik. Digunakan untuk troubleshooting. |
| Integer |
| Kode status. |
| String |
| Pesan respons. |
| Object | — | Hasil deteksi. |
Bidang data
Parameter | Tipe | Contoh | Deskripsi |
| String |
| Tingkat risiko keseluruhan, berdasarkan label risiko tertinggi. Nilai yang valid: |
| String |
| ID data dari permintaan. Dikembalikan hanya jika |
| Array | — | Array label risiko yang terdeteksi. Setiap entri berisi |
| Object | — | Informasi tambahan, termasuk kecocokan pustaka kustom. |
Field Result
Parameter | Tipe | Contoh | Deskripsi |
| String |
| Label risiko. Satu gambar dapat sesuai dengan beberapa label. |
| Float |
| Skor kepercayaan (0–100, dua tempat desimal). Skor lebih tinggi berarti kepercayaan lebih tinggi. |
| String |
| Deskripsi label yang dapat dibaca manusia. Gunakan |
| String |
| Tingkat risiko untuk label ini, berdasarkan ambang batas skor yang dikonfigurasi. Nilai yang valid: |
Field Ext
Parameter | Tipe | Deskripsi |
| JSONArray | Detail kecocokan pustaka kustom. Dikembalikan saat gambar yang dikirimkan sesuai dengan entri pustaka. |
CustomImage Fields
Parameter | Tipe | Contoh | Deskripsi |
| String |
| ID pustaka kustom yang sesuai. |
| String |
| Nama pustaka kustom yang sesuai. |
| String |
| ID gambar yang sesuai di pustaka. |
Contoh respons
{
"RequestId": "70ED13B0-BC22-576D-9CCF-1CC12FEAC477",
"Code": 200,
"Msg": "OK",
"Data": {
"RiskLevel": "high",
"DataId": "img0307****",
"Result": [
{
"Label": "violent_explosion",
"Confidence": 92.40,
"Description": "Fireworks content",
"RiskLevel": "high"
},
{
"Label": "violent_burning",
"Confidence": 67.15,
"Description": "Burning scenes",
"RiskLevel": "medium"
}
],
"Ext": {}
}
}Contoh permintaan dan respons diformat agar mudah dibaca. Respons API aktual tidak menyertakan line break atau indentasi.
Label risiko
Layanan ini mengembalikan label risiko yang dikelompokkan berdasarkan kategori. Setiap label memiliki skor kepercayaan (0–100). Skor lebih tinggi berarti kepercayaan lebih tinggi. Aktifkan atau nonaktifkan label individual di Konsol Content Moderation.
Memahami tingkat risiko dan menangani hasil
Setiap label memiliki RiskLevel dan Confidence. RiskLevel dalam objek Data mencerminkan risiko tertinggi di antara semua label.
Gunakan RiskLevel untuk memandu alur kerja moderasi Anda:
Tingkat risiko | Tindakan yang direkomendasikan |
| Blokir atau hapus konten segera |
| Arahkan ke Tinjauan manual |
| Proses hanya jika kasus penggunaan Anda memerlukan recall tinggi; jika tidak, perlakukan sebagai tidak ada risiko |
| Tidak ada risiko yang terdeteksi |
Menyesuaikan ambang batas kepercayaan: Ambang batas skor risiko default menentukan kapan label diberi nilai high, medium, atau low. Menurunkan ambang batas meningkatkan recall (lebih sedikit pelanggaran yang terlewat) tetapi juga meningkatkan false positive. Menaikkan ambang batas meningkatkan presisi tetapi mungkin melewatkan beberapa pelanggaran. Sesuaikan ambang batas per label di Konsol Content Moderation agar sesuai dengan toleransi platform Anda terhadap false positive versus false negative.
Simpan label risiko dan skor kepercayaan yang dikembalikan. Gunakan untuk memprioritaskan Tinjauan manual, membangun set data Anotasi, dan menerapkan kebijakan tata kelola bertingkat.
Referensi label
Label dikelompokkan ke dalam kategori di bawah ini. Akhiran _tii menunjukkan teks yang terdeteksi dalam gambar (text-in-image), bukan konten visual.
Konten pornografi (pornographic_*)
Label | Deskripsi |
| Gambar diduga mengandung konten pornografi. |
| Gambar diduga mengandung konten mainan dewasa. |
| Gambar diduga mengandung konten karya seni erotis. |
| Gambar diduga mengandung konten pornografi di bawah umur. |
| Teks gambar diduga mengandung konten pornografi. |
Konten sugestif seksual (sexual_*)
Label | Deskripsi |
| Gambar diduga mengandung konten vulgar atau isyarat seksual. |
| Gambar tersebut diduga mengandung konten yang menampilkan kontur puting. |
| Gambar diduga mengandung fitur belahan dada wanita. |
| Gambar diduga mengandung konten pakaian dalam atau pakaian renang. |
| Gambar diduga mengandung konten pria tanpa baju. |
| Gambar diduga mengandung konten seksi bahu. |
| Gambar diduga mengandung konten seksi kaki. |
| Gambar diduga mengandung konten kehamilan atau menyusui. |
| Gambar diduga mengandung konten kartun seksi. |
| Gambar diduga mengandung konten seksi di bawah umur. |
| Gambar diduga mengandung konten seksi kaki. |
Konten sensitif secara politis (political_*)
Label | Deskripsi |
| Gambar diduga melibatkan nihilisme historis atau peristiwa sejarah yang tidak pantas. |
| Teks gambar diduga nihilisme historis. |
| Teks gambar diduga mengandung metafora atau alias untuk pemimpin utama. |
| Teks gambar berisi nama pemimpin. |
| Teks gambar diduga mengandung nama pejabat yang jatuh. |
| Teks gambar diduga mengandung nama selebriti yang tercemar. |
| Gambar diduga mengandung tokoh publik yang tercemar atau sangat negatif. |
| Gambar diduga mengandung bendera nasional Tiongkok. |
| Gambar diduga mengandung bendera nasional lainnya. |
| Gambar diduga mengandung peta Tiongkok. |
| Gambar diduga mengandung logo media yang dilarang. |
| Gambar diduga mengandung seragam militer atau polisi. |
| Gambar diduga mengandung lambang nasional atau partai. |
| Gambar diduga mengandung pemimpin saat ini atau mantan. |
| Gambar diduga melibatkan anggota keluarga pemimpin. |
| Gambar diduga melibatkan personel pemerintah provinsi atau kota. |
| Gambar diduga melibatkan pemimpin asing dan anggota keluarganya. |
| Gambar diduga mengandung pejabat nasional yang jatuh. |
| Gambar diduga mengandung pejabat tingkat provinsi atau kota yang jatuh. |
| Teks gambar diduga mengandung ekspresi rasis. |
| Gambar diduga mengandung pakaian medis. |
Kekerasan dan terorisme (violent_*)
Label | Deskripsi |
| Gambar diduga mengandung kerumunan massa. |
| Gambar diduga mengandung elemen kembang api atau ledakan. |
| Gambar diduga mengandung elemen angkatan bersenjata. |
| Gambar diduga mengandung senjata api. |
| Gambar diduga mengandung pisau. |
| Teks gambar berisi deskripsi senjata api atau pisau. |
| Gambar diduga mengandung konten berdarah. |
| Gambar diduga mengandung konten mengerikan. |
| Teks gambar diduga menggambarkan konten kekerasan atau teror. |
| Gambar diduga mengandung konten terbakar. |
| Gambar diduga mengandung seragam tempur. |
Barang selundupan (contraband_*)
Label | Deskripsi |
| Gambar diduga melibatkan narkoba atau obat-obatan. |
| Teks gambar diduga menggambarkan narkoba, barang selundupan, atau barang terlarang. |
| Gambar diduga mengandung barang perjudian. |
| Teks gambar diduga menggambarkan perilaku perjudian. |
| Teks gambar diduga mengandung sertifikat atau pengalihan traffic iklan cash-out. |
| Gambar diduga mengandung barang selundupan. |
| Teks gambar diduga mengandung deskripsi barang selundupan. |
Konten agama (religion_*)
Label | Deskripsi |
| Gambar diduga mengandung konten pemakaman atau ruang duka. |
| Gambar diduga mengandung pakaian atau simbol Buddha atau Tao. |
| Gambar diduga mengandung pakaian atau simbol Kristen. |
| Gambar diduga mengandung pakaian atau simbol Muslim. |
| Teks gambar berisi elemen atau informasi agama. |
Bendera
Label | Deskripsi |
| Gambar diduga mengandung bendera nasional Tiongkok. |
| Gambar diduga mengandung bendera nasional lainnya. |
Konten spam dan promosi (pt_*)
Label | Deskripsi |
| Gambar diduga mengandung watermark platform jejaring sosial umum. |
| Gambar diduga mengandung kode QR. |
| Gambar diduga mengandung kode mini program. |
| Teks gambar berisi informasi kontak untuk pengalihan traffic. |
| Teks gambar berisi informasi pengalihan traffic platform sosial. |
| Teks gambar berisi informasi pengalihan traffic platform video pendek. |
| Teks gambar berisi informasi iklan investasi atau keuangan. |
| Teks gambar berisi informasi iklan rekrutmen paruh waktu. |
Perilaku tidak pantas (inappropriate_*)
Label | Deskripsi |
| Merokok. |
| Sedang minum. |
| Tato. |
| Gestur jari tengah. |
| Konten pemborosan makanan. |
| Konten di bawah umur. |
Kata kasar (profanity_*)
Label | Deskripsi |
| Teks gambar berisi bahasa vulgar atau ofensif. |
| Teks gambar berisi konten kasar parah. |
Label pustaka gambar kustom
Konfigurasikan pustaka gambar kustom di konsol. Saat gambar yang dikirimkan sesuai dengan gambar pustaka, sistem mengembalikan label dengan akhiran _lib (misalnya, violent_explosion_lib). Skor Confidence mencerminkan tingkat kemiripan.
Label tanpa risiko
Label | Skor kepercayaan | Deskripsi |
| Tidak dikembalikan | Tidak ada ancaman yang terdeteksi, atau semua kategori deteksi dinonaktifkan. |
| 0–100 | Gambar sangat mirip dengan gambar yang dikecualikan di pustaka kustom Anda. |
Kode status
Permintaan hanya ditagih untuk kode status 200.
Kode | Deskripsi |
| Permintaan berhasil. |
| Parameter yang diperlukan kosong. |
| Nilai parameter tidak valid. |
| Parameter melebihi panjang maksimum. Perbaiki dan coba lagi. |
| Batas QPS terlampaui. Kurangi konkurensi dan coba lagi. |
| Unduhan gambar gagal. Periksa URL atau coba lagi. |
| Timeout unduhan gambar. Verifikasi aksesibilitas dan coba lagi. |
| File gambar terlalu besar. Ubah ukuran dan coba lagi. |
| Format gambar tidak didukung. Gunakan format yang didukung dan coba lagi. |
| Izin tidak mencukupi. Verifikasi aktivasi layanan, tidak ada Pembayaran tertunda, dan Pengguna RAM memiliki kebijakan yang diperlukan. |
| Kesalahan sistem internal. Coba lagi nanti. |
Penagihan
Layanan moderasi gambar LLM Image Moderation 2.0 mendukung penagihan bayar sesuai penggunaan. Permintaan yang mengembalikan kode status non-200 tidak dikenai biaya.
Bayar sesuai penggunaan
Setelah mengaktifkan Image Moderation 2.0, metode penagihan default adalah bayar sesuai penggunaan. Biaya diselesaikan harian berdasarkan penggunaan aktual. Anda tidak dikenai biaya jika tidak memanggil layanan.
Kategori penagihan | Layanan yang disertakan | Harga satuan |
Image Moderation advanced ( |
| USD 1,20 per 1.000 calls Catatan Setiap call ke salah satu layanan yang tercantum di sebelah kiri dihitung sebagai satu unit penagihan. Biaya didasarkan pada penggunaan aktual. Misalnya, 100 call ke layanan Image Moderation for Large and Small Model Integration dikenai biaya USD 0,12. |
Image Moderation China Mainland Edition ( |
| USD 0,70 per 1.000 calls |
Penagihan bayar sesuai penggunaan Content Moderation 2.0 diselesaikan sekali harian (dalam 24 jam). Di detail tagihan, field moderationType mengidentifikasi jenis moderasi. Lihat detail tagihan Anda.
Pengurangan paket sumber daya
Untuk kebutuhan moderasi volume besar atau konsisten, beli paket sumber daya terlebih dahulu. Paket yang lebih besar menawarkan diskon lebih besar. Anda dapat membeli dan menggunakan beberapa paket secara bersamaan. Untuk informasi lebih lanjut, lihat Beli paket sumber daya untuk Content Moderation Edisi Enhanced.
Paket sumber daya ini berlaku untuk Content Moderation Edisi Enhanced. Tidak dapat dibagi dengan paket sumber daya untuk Content Moderation 1.0. Rasio pengurangan adalah sebagai berikut:
Jenis | Rasio pengurangan |
Moderasi Gambar lanjutan (image_advanced) | Rasio pengurangan: 4. Setiap panggilan API mengurangi 4 dari kuota paket sumber daya Anda. Contoh: kuota 100 panggilan dikurangi satu panggilan API menyisakan saldo 96 panggilan. |
Edisi Tiongkok Daratan Moderasi Gambar (image_vl_standard_cn) | Rasio pengurangan: 2,34. Setiap panggilan API mengurangi 2,34 dari kuota paket sumber daya Anda. Contoh: kuota 100 panggilan dikurangi satu panggilan API menyisakan saldo 97,66 panggilan. |
Kuota paket sumber daya diterapkan sebelum penagihan bayar sesuai penggunaan. Saat kuota habis, penggunaan ditagih berdasarkan metode bayar sesuai penggunaan. Pantau saldo paket sumber daya dan tagihan bayar sesuai penggunaan Anda. Anda dapat mengatur peringatan saldo rendah di sistem Paket Sumber Daya Pusat Pengguna Alibaba Cloud.