Gunakan /green/image/scan untuk moderasi gambar secara real-time - Content Moderation - Alibaba Cloud - AI Guardrails

Panggil API deteksi gambar sinkron (/green/image/scan) untuk memoderasi konten gambar. Skenario yang didukung mencakup deteksi pornografi, konten terorisme dan sensitif secara politik, pelanggaran iklan, kode QR, adegan tidak diinginkan, serta logo.

Catatan penggunaan

Operasi /green/image/scan melakukan moderasi gambar secara sinkron.

Panggil operasi ini untuk membuat tugas moderasi gambar sinkron.Untuk mempelajari cara menyusun permintaan HTTP, lihat struktur permintaan. Atau, gunakan permintaan yang telah disusun sebelumnya seperti yang ditunjukkan dalam ikhtisar SDK.

Billing:
Ini adalah operasi API berbayar. Untuk informasi lebih lanjut mengenai penagihan, lihat Harga Moderasi Konten.
Response timeout:
Waktu deteksi maksimum untuk permintaan deteksi sinkron adalah 6 detik. Jika deteksi tidak selesai dalam batas waktu ini, kesalahan timeout akan dikembalikan. Jika Anda tidak memerlukan hasil secara real-time, gunakan deteksi asinkron. Namun, jika diperlukan, gunakan deteksi sinkron karena panggilan API-nya lebih sederhana. Untuk panggilan ini, atur periode timeout menjadi 6 detik.
Returned results:
Permintaan deteksi sinkron biasanya mengembalikan hasil dalam waktu satu detik. Namun, waktu respons dapat meningkat dalam skenario tertentu, seperti beban sistem tinggi, ukuran gambar besar, atau jumlah teks yang besar untuk Pengenalan karakter optik (OCR).
Image requirements:
- URL gambar harus menggunakan protokol HTTP atau HTTPS.
- Format gambar yang didukung: PNG, JPG, JPEG, BMP, GIF, dan WEBP.
- Ukuran gambar tidak boleh melebihi 20 MB baik untuk panggilan sinkron maupun asinkron.
- Gambar harus diunduh dalam waktu 3 detik. Jika waktu unduh melebihi 3 detik, kesalahan timeout unduh akan dikembalikan.
- Untuk kinerja optimal, kami menyarankan resolusi gambar minimal 256x256 piksel. Resolusi yang lebih rendah dapat memengaruhi akurasi deteksi.
- Waktu respons API deteksi gambar bergantung pada waktu unduh gambar. Pastikan layanan penyimpanan tempat gambar disimpan stabil dan andal. Untuk kinerja terbaik, gunakan Alibaba Cloud Object Storage Service (OSS) atau Content Delivery Network (CDN).

Tabel 1. Deskripsi skenario
Skenario	Deskripsi	Kategori deteksi
pornography detection	Mendeteksi konten pornografi atau sugestif seksual dalam gambar.	normal, pornographic, sexually suggestive
terrorist content detection	Mendeteksi konten terorisme atau sensitif secara politik dalam gambar.	normal, bloody, explosions and smoke/flashes, special attire, special symbols, weapons, politics, fighting, gatherings, marches, traffic accident scenes, flags, landmarks
ad violation detection	Mendeteksi iklan atau teks yang melanggar kebijakan dalam gambar.	normal, text contains politically sensitive content, text contains pornographic content, text contains abusive content, text contains terrorist content, text contains prohibited content, text contains other spam content, small ad stickers, contains QR codes, contains mini program codes, other ads Catatan Konfigurasikan kategori deteksi berdasarkan kebutuhan bisnis Anda. Untuk informasi lebih lanjut, lihat kebijakan moderasi berbantuan mesin kustom.
QR code detection	Mendeteksi kode QR atau kode mini program dalam gambar.	normal, contains QR codes, contains mini program codes Catatan Konfigurasikan kategori deteksi berdasarkan kebutuhan bisnis Anda. Untuk informasi lebih lanjut, lihat kebijakan moderasi berbantuan mesin kustom.
undesirable scene detection	Mendeteksi adegan tidak diinginkan dalam gambar, seperti layar hitam, bingkai hitam, rekaman redup, picture-in-picture, merokok, atau siaran langsung di dalam kendaraan.	normal, no content in the image (for example, a black screen or a white screen), picture-in-picture, smoking, live streaming inside a vehicle
logo detection	Mendeteksi logo dalam gambar, seperti logo stasiun TV dan merek dagang.	normal, contains controlled logos, contains trademarks

Batas QPS

Batas permintaan per detik (QPS) untuk API ini adalah 50 per pengguna. Melebihi batas ini akan memicu pembatasan kecepatan, yang dapat berdampak pada bisnis Anda. Rencanakan panggilan Anda sesuai dengan itu.

Parameter permintaan

Parameter	Type	Wajib	Contoh	Deskripsi
bizType	String	Tidak	default	Bidang ini mengidentifikasi skenario bisnis Anda. Anda dapat membuat skenario bisnis di Konsol Moderasi Konten. Untuk informasi lebih lanjut, lihat Menyesuaikan aturan moderasi.
scenes	StringArray	Ya	["porn","terrorism","ad","live","qrcode","logo"]	Menentukan skenario moderasi. Nilai yang valid: porn: pornography detection terrorism: terrorist content detection ad: ad and violation detection qrcode: QR code detection live: undesirable scene detection Logo: logo detection Anda dapat menentukan beberapa skenario. Misalnya, `["porn", "terrorism"]` menunjukkan bahwa gambar dimoderasi untuk konten pornografi dan terorisme. Catatan Jika Anda menentukan beberapa skenario untuk moderasi, Anda akan dikenai biaya kumulatif untuk semua skenario tersebut. Biaya untuk setiap skenario dihitung dengan mengalikan jumlah gambar yang dimoderasi dengan harga satuan skenario tersebut.
tasks	JSONArray	Ya		Menentukan tugas moderasi sebagai larik objek tugas. Anda dapat mengirimkan hingga 100 tugas dalam satu permintaan. Untuk mengirimkan 100 tugas sekaligus, batas konkurensi harus diatur ke 100 atau lebih tinggi. Untuk detail struktur objek, lihat task.

Tabel 2. Task
Parameter	Type	Wajib	Contoh	Deskripsi
clientInfo	JSONObject	Tidak	{"userId":"12023****","userNick":"Mike","userType":"others"}	Informasi klien. Untuk informasi lebih lanjut, lihat parameter kueri umum di Parameter umum. Server menggabungkan clientInfo global dengan clientInfo individual yang ditentukan untuk permintaan. Catatan clientInfo individual memiliki prioritas lebih tinggi.
dataId	String	Tidak	cfd33235-71a4-468b-8137-a5ffe323****	ID data objek deteksi. ID ini dapat berisi huruf besar dan kecil, angka, garis bawah (_), tanda hubung (-), dan titik (.), serta panjangnya tidak boleh lebih dari 128 karakter. Gunakan ID ini untuk mengidentifikasi data bisnis Anda secara unik.
url	String	Ya	http://www.aliyundoc.com/xxx.jpg	URL HTTP atau HTTPS publik. Panjang URL tidak boleh melebihi 2.048 karakter.
extras	JSONObject	Tidak	{"hitLibInfo":[{"context":"Haokan Video","libCode":"2144002","libName":"Pre-release Test Ad Similar Text Librarya"}]}	Parameter tambahan untuk panggilan API. Tidak diperlukan untuk skenario moderasi gambar.
interval	Integer	Tidak	2	Interval pengambilan frame untuk memoderasi gambar GIF dan gambar panjang. intervalUntuk gambar GIF, menentukan interval pengambilan frame untuk moderasi. Pengambilan frame hanya terjadi jika parameter ini diatur. Gambar panjang diklasifikasikan sebagai tinggi (portrait) atau lebar (landscape). Untuk gambar tinggi (tinggi > 400 piksel dan rasio tinggi terhadap lebar > 2,5), gambar dibagi menjadi segmen, dan jumlah total frame dihitung dengan membulatkan hasil dari tinggi/lebar. Untuk gambar lebar (lebar > 400 piksel dan rasio lebar terhadap tinggi > 2,5), gambar dibagi menjadi segmen, dan jumlah total frame dihitung dengan membulatkan hasil dari lebar/tinggi. Secara default, hanya frame pertama dari gambar GIF atau gambar panjang yang dimoderasi. Atur parameter interval untuk mengaktifkan pengambilan frame berbasis interval dan mengurangi biaya moderasi. Catatan Anda harus menggunakan parameter interval bersama dengan parameter maxFrames. Misalnya, jika Anda mengatur interval ke 2 dan maxFrames ke 10 untuk gambar GIF atau gambar panjang, sistem akan memoderasi satu dari setiap dua frame, hingga maksimal 10 frame. Anda akan ditagih berdasarkan jumlah frame yang sebenarnya dimoderasi.
maxFrames	Integer	Tidak	10	Jumlah maksimum frame yang akan diambil. Parameter ini hanya digunakan untuk deteksi gambar GIF dan gambar panjang. Nilai default: 1. Jika `interval * maxFrames` lebih kecil daripada jumlah total frame dalam gambar GIF atau gambar panjang, interval akan secara otomatis disesuaikan menjadi `(Total frame / maxFrames)` untuk meningkatkan cakupan deteksi secara keseluruhan.

Parameter respons

Parameter	Tipe	Contoh	Deskripsi
code	Integer	200	Kode kesalahan. Sama dengan kode status HTTP. Untuk informasi lebih lanjut, lihat Kode kesalahan umum.
msg	String	OK	Pesan respons.
dataId	String	cfd33235-71a4-468b-8137-a5ffe323****	ID data objek deteksi. Catatan Jika dataId dikirim dalam permintaan deteksi, dataId yang sama akan dikembalikan di sini.
taskId	String	img4wlJcb7p4wH4lAP3111111-123456	ID tugas moderasi.
url	String	http://www.aliyundoc.com/xxx.jpg	URL HTTP atau HTTPS publik. Panjang URL tidak boleh melebihi 2.048 karakter.
storedUrl	String	http://www.aliyundoc.com	Jika Anda mengaktifkan fitur penyimpanan bukti dan tugas moderasi memenuhi aturan yang dikonfigurasi, gambar akan disimpan ke bucket OSS Alibaba Cloud Anda dan URL yang sesuai akan dikembalikan.
extras	JSONObject	{"hitLibInfo":[{"context":"Haokan Video","libCode":"2144002","libName":"Ad text library for pre-release testing a"}]}	Informasi tambahan. Dalam skenario pelanggaran iklan (ad), mungkin mengembalikan konten berikut. hitLibInfo: Jika teks dalam gambar cocok dengan pustaka teks kustom, mengembalikan larik yang berisi informasi tentang pustaka teks yang cocok. Untuk detailnya, lihat hitLibInfo.
results	JSONArray		Hasil moderasi. Jika panggilan berhasil (`code`=200), parameter ini berisi larik satu atau beberapa objek hasil. Untuk struktur objek, lihat result.

Tabel 3. result
Parameter	Tipe	Contoh	Deskripsi
scene	String	porn	Skenario moderasi gambar. Nilai ini sesuai dengan skenario yang ditentukan dalam permintaan. Nilai yang valid: porn: pornography detection terrorism: terrorist content detection ad: ad and violation detection qrcode: QR code detection live: undesirable scene detection Logo: logo detection
label	String	sexy	Kategori hasil moderasi. Kategori bervariasi tergantung skenario moderasi. Nilai yang valid: Untuk `porn` (deteksi konten pornografi): normal: konten normal sexy: konten seksi porn: konten pornografi Untuk `terrorism` (deteksi konten terorisme dan politik): normal: konten normal bloody: konten berdarah explosion: ledakan dan asap outfit: kostum khusus Logo: logo khusus weapon: senjata politics: konten politik violence: kekerasan crowd: crowd parade: parade carcrash: kecelakaan mobil flag: flag location: landmark drug: konten terkait narkoba gamble: perjudian others: konten lain yang ditentukan Untuk `ad` (pelanggaran iklan): normal: konten normal ad: iklan lainnya politics: konten politik dalam teks porn: konten pornografi dalam teks abuse: pelecehan dalam teks terrorism: konten terorisme dalam teks contraband: konten terlarang dalam teks spam: konten sampah dalam teks npx: iklan overlay qrcode: kode QR programCode: kode mini program Untuk `qrcode` (deteksi kode QR): normal: konten normal qrcode: kode QR programCode: kode mini program Untuk `live` (deteksi adegan tidak diinginkan): normal: konten normal meaningless: tidak ada konten dalam gambar, seperti layar hitam atau putih PIP: picture-in-picture smoking: merokok drivelive: siaran langsung saat mengemudi drug: konten terkait narkoba gamble: perjudian Untuk `logo` (deteksi logo): normal: konten normal TV: logo media yang diblokir trademark: merek dagang
sublabel	String	porn	Jika skenario deteksi mencakup pornografi (porn) dan terorisme/politik (terrorism), bidang ini dapat mengembalikan label detail halus untuk hasil deteksi. Bidang ini tidak dikembalikan secara default.
suggestion	String	block	Aksi yang direkomendasikan. Nilai yang valid: pass: Konten normal. Tidak diperlukan tindakan. review: Hasil tidak pasti. Lakukan tinjauan manual. block: Konten melanggar kebijakan. Hapus atau batasi akses ke konten tersebut.
rate	Float	91,54	Skor kepercayaan diri. Nilai yang valid: 0 (kepercayaan diri terendah) hingga 100 (kepercayaan diri tertinggi). Jika suggestion adalah pass, semakin tinggi skor kepercayaan diri, semakin besar kemungkinan konten tersebut sesuai. Jika suggestion adalah review atau block, semakin tinggi skor kepercayaan diri, semakin besar kemungkinan konten tersebut tidak sesuai. Penting Kami menyarankan Anda menggunakan bidang suggestion dan label (atau sublabel, untuk beberapa Operasi API) untuk menentukan apakah konten tersebut melanggar.
frames	JSONArray		Jika gambar yang dimoderasi terlalu panjang dan dipotong, mengembalikan URL sementara setiap frame dalam gambar yang dipotong. Untuk strukturnya, lihat frame.
hintWordsInfo	JSONArray		Jika gambar berisi pelanggaran iklan, mengembalikan kata kunci risiko yang cocok dari teks iklan. Untuk strukturnya, lihat hintWordsInfo. Catatan adHanya dikembalikan untuk skenario pelanggaran iklan. Contoh: `"hintWordsInfo":[{"context":"Kata sensitif"}]`
qrcodeData	StringArray	["http://www.aliyundoc.com/01ZZOliO"]	Jika gambar berisi kode QR, mengembalikan konten teks dari semua kode QR yang terdeteksi. Catatan QR codeHanya dikembalikan untuk skenario deteksi kode QR.
qrcodeLocations	JSONArray		Koordinat kode QR yang terdeteksi dalam gambar. Untuk strukturnya, lihat qrcodeLocation.
programCodeData	JSONArray		Jika gambar berisi kode mini program, mengembalikan lokasi kode tersebut. Untuk strukturnya, lihat programCodeData. Catatan QR codeHanya dikembalikan untuk skenario deteksi kode QR dan hanya jika pengenalan kode mini program diaktifkan.
logoData	JSONArray		Jika gambar berisi logo, mengembalikan informasi tentang logo yang terdeteksi. Untuk strukturnya, lihat logoData. Catatan LogoHanya dikembalikan untuk skenario deteksi logo.
sfaceData	JSONArray		Jika gambar berisi konten terorisme atau politik, mengembalikan informasi tentang wajah yang terdeteksi. Untuk strukturnya, lihat sfaceData. Catatan terrorismHanya dikembalikan untuk skenario deteksi konten terorisme dan politik.
ocrData	Array	Haokan Video	Teks lengkap yang dikenali dalam gambar. Catatan Tidak dikembalikan secara default.

Tabel 4. frame
Parameter	Tipe	Contoh	Deskripsi
rate	Float	89,85	Skor kepercayaan diri. Nilai yang valid: 0 hingga 100. Skor kepercayaan diri yang lebih tinggi menunjukkan probabilitas yang lebih tinggi bahwa hasil deteksi akurat. Hindari menggunakan skor ini dalam logika bisnis Anda.
url	String	http://www.aliyundoc.com/xxx-0.jpg	URL sementara frame gambar yang dipotong. URL berlaku selama 5 menit.

Tabel 5. programCodeData
Parameter	Tipe	Contoh	Deskripsi
x	Float	11,0	Koordinat x sudut kiri atas area kode mini program. Titik asal (0,0) adalah sudut kiri atas gambar. Satuan: piksel.
y	Float	0,0	Koordinat y sudut kiri atas area kode mini program. Titik asal (0,0) adalah sudut kiri atas gambar. Satuan: piksel.
w	Float	402,0	Lebar area kode mini program. Satuan: piksel.
h	Float	413,0	Tinggi area kode mini program. Satuan: piksel.

Tabel 6. logoData
Parameter	Tipe	Contoh	Deskripsi
type	String	TV	Jenis logo yang terdeteksi. Nilainya adalah TV, yang menunjukkan logo stasiun TV.
name	String	xxx TV	Nama logo yang terdeteksi.
x	Float	140	Koordinat x sudut kiri atas area logo. Titik asal (0,0) adalah sudut kiri atas gambar. Satuan: piksel.
y	Float	68	Koordinat y sudut kiri atas area logo. Titik asal (0,0) adalah sudut kiri atas gambar. Satuan: piksel.
w	Float	106	Lebar area logo. Satuan: piksel.
h	Float	106	Tinggi area logo. Satuan: piksel.

Tabel 7. sfaceData
Parameter	Tipe	Contoh	Deskripsi
x	Float	49	Koordinat x sudut kiri atas area wajah. Titik asal (0,0) adalah sudut kiri atas gambar. Satuan: piksel.
y	Float	39	Koordinat y sudut kiri atas area wajah. Titik asal (0,0) adalah sudut kiri atas gambar. Satuan: piksel.
w	Float	97	Lebar area wajah. Satuan: piksel.
h	Float	131	Tinggi area wajah. Satuan: piksel.
faces	JSONArray	[{"name":"Orang yang cocok","rate":91.54,"id":"AliFace_0123****"}]	Informasi tentang wajah yang terdeteksi. Setiap objek berisi bidang-bidang berikut: name: String. Nama orang yang cocok. rate: Float. Skor kepercayaan diri. Nilainya berkisar antara 0 (kepercayaan diri terendah) hingga 100 (kepercayaan diri tertinggi). Skor yang lebih tinggi menunjukkan probabilitas yang lebih tinggi bahwa hasil pengenalan wajah akurat. id: String. ID wajah.

Tabel 8. hitLibInfo
Parameter	Tipe	Contoh	Deskripsi
context	String	Haokan Video	Konten yang cocok dari pustaka teks kustom.
libCode	String	123456	Kode pustaka teks kustom yang cocok.
libName	String	abc	Nama pustaka teks kustom yang cocok.

Tabel 9. hintWordsInfo
Parameter	Tipe	Contoh	Deskripsi
context	String	Haokan Video	Kata kunci risiko yang cocok.

Tabel 10. qrcodeLocation
Parameter	Tipe	Contoh	Deskripsi
x	Float	11,0	Koordinat x sudut kiri atas area kode QR. Titik asal (0,0) adalah sudut kiri atas gambar. Satuan: piksel.
y	Float	0,0	Koordinat y sudut kiri atas area kode QR. Titik asal (0,0) adalah sudut kiri atas gambar. Satuan: piksel.
w	Float	402,0	Lebar area kode QR. Satuan: piksel.
h	Float	413,0	Tinggi area kode QR. Satuan: piksel.
qrcode	String	http://www.aliyundoc.com/0.ZZOliO	URL yang dituju oleh kode QR yang terdeteksi.

Contoh

Permintaan contoh

http(s)://[Endpoint]/green/image/scan
&<parameter permintaan umum>
{
    "scenes": [
        "porn",
        "terrorism",
        "ad",
        "live",
        "qrcode",
        "logo"
    ],
    "tasks": [
        {
            "dataId": "uuid-xxxx-xxxx-1234",
            "url": "http://www.aliyundoc.com/xxx.jpg"
        }
    ]
}

Respons sukses contoh

{
    "msg": "OK",
    "code": 200,
    "data": [
        {
            "msg": "OK",
            "code": 200,
            "dataId": "cfd33235-71a4-468b-8137-a5ffe323****",
            "extras": {

            },
            "results": [
                {
                    "rate": 99.63,
                    "suggestion": "block",
                    "label": "sexy",
                    "scene": "porn"
                },
                {
                    "label": "politics",
                    "rate": 91.54,
                    "scene": "terrorism",
                    "sfaceData": [
                        {
                            "faces": [
                                {
                                    "id": "AliFace_0123****",
                                    "name": "nama yang cocok",
                                    "rate": 91.54
                                }
                            ],
                            "h": 131,
                            "w": 97,
                            "x": 49,
                            "y": 39
                        }
                    ],
                    "suggestion": "block"
                },
                {
                    "extras": {
                        "qrcodes": "http://www.aliyundoc.com/0.ZZOliO",
                        "npx": "72.01",
                        "hitCustomLibCode": "8012345000",
                        "hitCustomLibName": "Nama pustaka gambar kustom",
                        "hitLibInfo": [
                            {
                                "context": "teks yang cocok",
                                "libCode": "123456",
                                "libName": "Nama pustaka teks"
                            }
                        ]
                    },
                    "programCodeData": [
                        {
                            "w": 402.0,
                            "h": 413.0,
                            "x": 11.0,
                            "y": 0.0
                        }
                    ],
                    "frames": [
                        {
                            "rate": 89.85,
                            "url": "http://www.aliyundoc.com/xxx-0.jpg"
                        },
                        {
                            "rate": 68.06,
                            "url": "http://www.aliyundoc.com/xxx-1.jpg"
                        }
                    ],
                    "rate": 99.91,
                    "suggestion": "block",
                    "label": "ad",
                    "scene": "ad"
                },
                {
                    "rate": 99.91,
                    "suggestion": "block",
                    "label": "drug",
                    "scene": "live"
                },
                {
                    "qrcodeData": [
                        "http://www.aliyundoc.com/01ZZOliO"
                    ],
                    "rate": 99.91,
                    "suggestion": "review",
                    "label": "qrcode",
                    "scene": "qrcode"
                },
                {
                    "logoData": [
                        {
                            "name": "xxx TV",
                            "type": "TV",
                            "x": 140,
                            "y": 68,
                            "w": 106,
                            "h": 106
                        }
                    ],
                    "rate": 99.9,
                    "suggestion": "block",
                    "label": "TV",
                    "scene": "logo"
                }
            ],
            "taskId": "img4wlJcb7p4wH4lAP3111111-123456",
            "url": "http://www.aliyundoc.com/xxx.jpg"
        }
    ],
    "requestId": "69B41AE8-1234-1234-1234-12D395695D2D"
}