Moderasi Gambar 2.0 dari Alibaba Cloud Content Moderation menyediakan layanan deteksi gambar untuk skenario yang melibatkan konten hasil AI (AIGC) dan pemalsuan. Layanan ini memungkinkan Anda menentukan apakah suatu gambar dihasilkan oleh AIGC. Topik ini menjelaskan fitur deteksi AIGC dan pemalsuan pada layanan Moderasi Gambar.
1. Kasus penggunaan
Alibaba Cloud Content Moderation menyediakan layanan deteksi khusus berikut yang dirancang untuk moderasi AIGC dan deteksi pemalsuan berbasis AI:
Deteksi Konten Hasil AI:
AIGC image detection: Seiring perkembangan teknologi AIGC, gambar yang dihasilkannya semakin sulit dibedakan dari konten buatan pengguna (UGC). Banyak platform perlu menentukan apakah suatu gambar dihasilkan oleh AI. Untuk mengatasi hal ini, Alibaba Cloud Content Moderation menawarkan deteksi gambar hasil AI. Fitur ini menganalisis gambar untuk mencari artefak sintesis guna menentukan apakah gambar tersebut mengandung konten yang diduga dihasilkan atau disintesis.
2. Deskripsi layanan
Kemampuan deteksi AIGC dan pemalsuan pada Moderasi Gambar 2.0 mendukung layanan-layanan berikut:
Skenario | Layanan | Konten Deteksi | Skenario |
Deteksi konten hasil AI | Nama layanan: AIGC image detection Layanan: aigcDetector_global | Obyek deteksi: Gambar. Konten deteksi: Mendeteksi apakah suatu gambar kemungkinan dihasilkan atau disintesis oleh AI. | Layanan ini menentukan apakah suatu gambar dihasilkan oleh AIGC. Gunakan layanan ini saat Anda perlu mengidentifikasi sumber gambar. |
Nama layanan: AI-Generated Image Detection Ultimate Edition Layanan: aigcDetector_ultra_global | Obyek deteksi: Gambar. Konten deteksi: Mendeteksi apakah suatu gambar kemungkinan dihasilkan atau disintesis oleh AI, merupakan gambar komposit yang dicurigai (termasuk wajah sintetis), atau mengandung pengeditan lokal berbasis AI yang dicurigai. | Menentukan apakah suatu gambar dipalsukan. Gunakan layanan ini untuk mendeteksi pemalsuan gambar, terutama untuk memeriksa potensi pengeditan lokal berbasis AI. |
3. Penagihan
Layanan deteksi AIGC dan pemalsuan pada Moderasi Gambar 2.0 mendukung metode penagihan .
Bayar sesuai pemakaian
Setelah Anda mengaktifkan layanan Moderasi Gambar V2.0, metode penagihan default adalah bayar sesuai pemakaian. Anda ditagih setiap hari berdasarkan penggunaan aktual Anda. Jika Anda tidak memanggil layanan, Anda tidak dikenai biaya.
Jenis Moderasi | Skema Bisnis yang Didukung (Layanan) | Harga Satuan |
moderasi gambar umum (image_standard) |
| USD 0,60 per 1.000 panggilan Catatan Setiap panggilan ke layanan Identifikasi Gambar Hasil AIGC dihitung sebagai satu panggilan. Anda dikenai biaya berdasarkan jumlah panggilan aktual. Misalnya, jika Anda memanggil layanan Identifikasi Gambar Hasil AIGC sebanyak 100 kali, Anda dikenai biaya USD 0,06. |
moderasi pemalsuan gambar tingkat lanjut (image_identify_standard_cn) |
| USD 0,60 per 1.000 panggilan Catatan Anda dikenai biaya untuk setiap panggilan ke layanan deteksi gambar aigc (Edisi Ultimate). Misalnya, jika Anda memanggil layanan deteksi gambar aigc (Edisi Ultimate) sebanyak 100 kali, Anda dikenai biaya USD 0,06. |
Tagihan untuk Content Moderation 2.0 dalam mode bayar sesuai pemakaian dibuat setiap 24 jam. Dalam rincian tagihan, moderationType sesuai dengan bidang jenis moderasi. Untuk informasi lebih lanjut, lihat Rincian Tagihan.
4. Integrasi
Langkah 1: Aktifkan layanan
Buka halaman aktivasi layanan untuk mengaktifkan layanan Moderasi Gambar 2.0.
Setelah Anda mengaktifkan layanan Moderasi Gambar 2.0, metode penagihan default adalah bayar sesuai pemakaian. Biaya diselesaikan setiap hari berdasarkan penggunaan aktual Anda. Anda tidak dikenai biaya jika tidak memanggil layanan. Setelah Anda memanggil API, sistem secara otomatis menghasilkan tagihan berdasarkan penggunaan Anda. Untuk informasi lebih lanjut, lihat Rincian Penagihan.
Langkah 2: Berikan izin kepada Pengguna RAM
Sebelum memanggil Operasi API atau menggunakan SDK, Anda harus memberikan izin kepada Pengguna RAM. Anda harus membuat Pasangan Kunci Akses untuk Akun Alibaba Cloud atau Pengguna RAM Anda. Saat memanggil Operasi API, Anda harus menggunakan Pasangan Kunci Akses untuk menyelesaikan verifikasi identitas. Untuk mendapatkan Pasangan Kunci Akses, lihat Dapatkan Pasangan Kunci Akses.
Masuk ke Konsol RAM menggunakan Akun Alibaba Cloud Anda atau sebagai administrator RAM.
Buat Pengguna RAM. Untuk informasi lebih lanjut, lihat Buat Pengguna RAM.
Berikan kebijakan sistem AliyunYundunGreenWebFullAccess kepada Pengguna RAM. Untuk informasi lebih lanjut, lihat Berikan Izin kepada Pengguna RAM. Setelah menyelesaikan konfigurasi ini, Anda dapat memanggil API Content Moderation sebagai Pengguna RAM.
Langkah 3: Instal dan integrasikan SDK
Untuk informasi lebih lanjut, lihat SDK dan Panduan Penggunaan Moderasi Gambar 2.0. Tabel berikut mencantumkan wilayah yang didukung.
Wilayah | Titik akhir publik | Titik akhir VPC | Layanan yang didukung |
Singapura | https://green-cip.ap-southeast-1.aliyuncs.com | https://green-cip-vpc.ap-southeast-1.aliyuncs.com | aigcDetector_global |
AS (Virginia) | green-cip.us-east-1.aliyuncs.com | green-cip-vpc.us-east-1.aliyuncs.com | |
AS (Silicon Valley) | green-cip.us-west-1.aliyuncs.com | Tidak tersedia | |
London | green-cip.eu-west-1.aliyuncs.com | Tidak tersedia |
Langkah 4: Sesuaikan aturan moderasi gambar (Opsional)
Di Konsol Content Moderation, Anda dapat menyesuaikan aturan deteksi untuk layanan moderasi gambar. Anda dapat mengaktifkan/menonaktifkan cakupan deteksi, menyalin layanan, mengonfigurasi pustaka gambar kustom dan kosakata, serta mengkueri catatan deteksi dan penggunaan. Untuk informasi lebih lanjut, lihat Panduan Pengoperasian Konsol.
5. API
Catatan penggunaan
Anda dapat memanggil API ini untuk membuat tugas moderasi gambar. Untuk informasi lebih lanjut tentang cara membuat permintaan HTTP, lihat Panduan Akses. Anda juga dapat menggunakan permintaan HTTP yang telah dibuat sebelumnya. Untuk informasi lebih lanjut, lihat Panduan Akses.
Operasi API: ImageModeration
Informasi Penagihan: Ini adalah operasi berbayar. Anda hanya ditagih untuk permintaan yang mengembalikan kode status HTTP 200. Permintaan yang mengembalikan kode kesalahan lainnya tidak ditagih. Untuk informasi lebih lanjut tentang metode penagihan, lihat Ikhtisar Penagihan.
Persyaratan Gambar:
Format gambar berikut didukung: PNG, JPG, JPEG, BMP, WEBP, TIFF, SVG, HEIC (sisi terpanjang harus kurang dari 8.192 piksel), GIF (hanya frame pertama yang diproses), dan ICO (hanya gambar terakhir yang diproses).
Ukuran gambar tidak boleh melebihi 20 MB. Tinggi atau lebar tidak boleh melebihi 16.384 piksel, dan jumlah total piksel tidak boleh melebihi 250 juta. Kami merekomendasikan agar Anda menggunakan gambar dengan resolusi minimal 200 × 200 piksel untuk memastikan efektivitas algoritma deteksi.
Waktu unduh gambar dibatasi hingga 3 detik. Jika pengunduhan memakan waktu lebih dari 3 detik, kesalahan timeout akan dikembalikan.
Batas QPS
Batas queries per second (QPS) untuk operasi API ini adalah 100 untuk setiap pengguna. Namun, untuk layanan aigcDetector_ultra_global, batasnya adalah 20 QPS. Panggilan API yang melebihi batas ini akan dithrottle, yang dapat berdampak pada bisnis Anda. Atur kecepatan panggilan API Anda sesuai kebutuhan. Jika Anda memiliki beban kerja tinggi atau perlu meningkatkan kapasitas secara mendesak, hubungi manajer bisnis Anda untuk meminta batas QPS yang lebih tinggi.
Debug
Sebelum memulai, Anda dapat menggunakan Alibaba Cloud OpenAPI Explorer untuk menguji API atau Moderasi Gambar 2.0 secara online. Anda juga dapat melihat contoh kode dan dependensi SDK untuk memahami cara menggunakan API dan parameternya.
Fitur debugging online memanggil operasi API Content Moderation menggunakan akun yang sedang masuk. Oleh karena itu, panggilan tersebut termasuk dalam penggunaan yang ditagihkan.
Parameter permintaan
Untuk informasi tentang parameter umum yang diperlukan dalam permintaan, lihat Panduan Akses.
Badan permintaan adalah struktur JSON yang berisi bidang-bidang berikut:
Nama | Tipe | Wajib | Contoh | Deskripsi |
Service | String | Ya | aigcDetectorFull | Layanan deteksi. Nilai yang valid:
|
ServiceParameters | JSONString | Ya | Sekumpulan parameter untuk objek moderasi konten, disediakan sebagai string JSON. Untuk deskripsi setiap string, lihat Tabel 1. ServiceParameters. |
Tabel 1. ServiceParameters
Nama | Tipe | Wajib | Contoh | Deskripsi |
imageUrl | String | Ya. Moderasi Gambar 2.0 mendukung tiga metode untuk mengunggah gambar:
| https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png | URL objek yang akan dideteksi. Pastikan URL dapat diakses melalui jaringan publik dan panjangnya tidak lebih dari 2.048 karakter. Catatan URL tidak boleh mengandung karakter Tiongkok. Pastikan Anda hanya mengirimkan satu URL per permintaan. |
ossBucketName | String | bucket_01 | Nama bucket OSS yang diotorisasi. Catatan Untuk menggunakan URL OSS internal untuk gambar, Anda harus terlebih dahulu menggunakan akun root Anda untuk membuka halaman Otorisasi Akses Resource Cloud dan memberikan peran | |
ossObjectName | String | 2022023/04/24/test.jpg | Nama file dalam bucket OSS yang diotorisasi. | |
ossRegionId | String | cn-beijing | Wilayah tempat bucket OSS berada. | |
dataId | String | Tidak | img123**** | ID data objek deteksi. ID dapat berisi huruf besar, huruf kecil, angka, garis bawah (_), tanda hubung (-), dan titik (.). Panjangnya maksimal 64 karakter dan dapat digunakan untuk mengidentifikasi data bisnis Anda secara unik. |
referer | String | Tidak | www.aliyun.com | Header permintaan referer, digunakan untuk skenario seperti perlindungan hotlink. Panjangnya tidak boleh melebihi 256 karakter. |
infoType | String | Ya | aigcData | Jenis informasi tambahan yang akan dikembalikan. Nilai yang valid:
Untuk menentukan beberapa jenis, berikan daftar yang dipisahkan koma, seperti |
Parameter respons
Nama | Tipe | Contoh | Deskripsi |
RequestId | String | 70ED13B0-BC22-576D-9CCF-1CC12FEAC477 | ID permintaan saat ini. Ini adalah pengenal unik yang dihasilkan Alibaba Cloud untuk permintaan dan dapat digunakan untuk troubleshooting. |
Data | Object | Hasil moderasi gambar. Untuk informasi lebih lanjut, lihat Tabel 2. Data. | |
Code | Integer | 200 | Kode status HTTP yang dikembalikan. Untuk informasi lebih lanjut, lihat Kode respons. |
Msg | String | OK | Pesan respons untuk permintaan saat ini. |
Tabel 2. Data
Nama | Tipe | Contoh | Deskripsi |
Result | Array | Hasil parameter moderasi gambar, seperti label risiko dan skor kepercayaan. Untuk informasi lebih lanjut, lihat Tabel 3. result. | |
RiskLevel | String | high | Tingkat risiko, yang dikembalikan berdasarkan skor risiko tinggi dan rendah yang dikonfigurasi. Nilai yang valid:
Catatan Disarankan untuk langsung menangani konten berisiko tinggi. Konten berisiko sedang harus ditinjau secara manual. Konten berisiko rendah hanya perlu ditangani jika recall tinggi diperlukan. Jika tidak, perlakukan sama seperti konten tanpa risiko yang terdeteksi. Anda dapat mengonfigurasi skor risiko di Konsol Content Moderation. |
DataId | String | img123****** | ID data objek deteksi. Catatan Jika Anda meneruskan dataId dalam parameter permintaan, dataId yang sama akan dikembalikan di sini. |
Ext | Object | Informasi tambahan untuk gambar. Untuk informasi lebih lanjut, lihat Ext. |
Tabel 3. result
Nama | Tipe | Contoh | Deskripsi |
Label | String | tm_auto | Label yang dikembalikan setelah deteksi konten gambar. Beberapa label dan skor dapat dikembalikan untuk satu gambar. Untuk label yang didukung, lihat: |
Confidence | Float | 81,22 | Skor kepercayaan berkisar dari 0 hingga 100 dan akurat hingga dua tempat desimal. Beberapa label tidak memiliki skor kepercayaan. Untuk informasi lebih lanjut, lihat Deskripsi label risiko. |
Description | String | Fireworks and pyrotechnics | Deskripsi bidang Label. Penting Bidang ini menjelaskan bidang Label dan dapat berubah. Disarankan untuk menangani hasil berdasarkan bidang Label, bukan bidang ini. |
Tabel 4: Ext
Parameter | Tipe | Nilai | Deskripsi |
CustomImage | JSONArray | Jika ditemukan kecocokan dalam pustaka kustom, parameter ini mengembalikan detail pustaka tersebut. Untuk informasi lebih lanjut, lihat CustomImage. | |
AigcData | Object | Mengembalikan hasil deteksi penanda implisit AIGC untuk gambar. Untuk informasi lebih lanjut, lihat AigcData. |
Tabel 5. CustomImage
Parameter | Tipe | Nilai contoh | Deskripsi |
LibId | String | lib0001 | ID unik pustaka gambar kustom yang cocok. |
LibName | String | Pustaka Gambar Kustom A | Nama pustaka gambar kustom yang cocok. |
ImageId | String | 20240307 | ID unik gambar kustom yang cocok. |
Tabel 6: AigcData
Parameter | Tipe | Nilai | Deskripsi |
AIGC | Object | "AIGC": {"Label": "1", "ContentPropagator": "", "ReservedCode1": "0424***", "ProduceID": "0307***", "ReservedCode2": "", "PropagateID": "", "ContentProducer": "0728***"} | Informasi watermark implisit AIGC dalam gambar sesuai dengan bidang metadata AIGC standar. Untuk informasi lebih lanjut, lihat Informasi Metadata Watermark Implisit. |
Metadata identifikasi implisit
Contoh
Permintaan contoh
{
"Service": "aigcDetector_global",
"ServiceParameters": {
"imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
"dataId": "img123****"
}
}Respons contoh
{
"Msg": "OK",
"Code": 200,
"Data": {
"DataId": "img123****",
"Result": [
{
"Label": "aigc",
"Confidence": 81,88,
"Description": "Diduga dihasilkan oleh AIGC"
}
]
},
"RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}Saat sistem menemukan kecocokan dalam pustaka gambar kustom, berikut adalah contoh respons:
Permintaan dan respons contoh dalam topik ini diformat agar mudah dibaca. Respons aktual tidak diformat dengan jeda baris atau indentasi.
Deskripsi label risiko
Tabel berikut mencantumkan label risiko, skor kepercayaan yang sesuai, dan definisinya. Anda dapat mengaktifkan atau menonaktifkan setiap label risiko di Konsol Content Moderation. Untuk beberapa label risiko, Anda juga dapat mengonfigurasi cakupan deteksi yang lebih spesifik. Untuk informasi lebih lanjut, lihat Panduan Pengguna Konsol.
Kami merekomendasikan agar Anda menyimpan label risiko dan skor kepercayaan yang dikembalikan sistem untuk periode tertentu. Data ini dapat digunakan sebagai referensi untuk tata kelola konten di masa depan. Anda dapat menetapkan prioritas untuk tinjauan manual atau anotasi dan menerapkan langkah-langkah tata kelola konten berjenjang berdasarkan label risiko.
Tabel 4.Label yang Didukung untuk Identifikasi Gambar Hasil AIGC (aigcDetector_global)
Label (label) | Kisaran skor kepercayaan (confidence) | Makna |
aigc | 0 hingga 100. Skor yang lebih tinggi menunjukkan tingkat kepercayaan yang lebih tinggi. | Gambar diduga dihasilkan oleh AIGC. |
ugc | 0 hingga 100. Skor yang lebih tinggi menunjukkan tingkat kepercayaan yang lebih tinggi. | Gambar tidak dihasilkan oleh AIGC. |
Label ugc dinonaktifkan secara default. Untuk mengaktifkannya, Anda dapat mengonfigurasi pengaturan di Konsol Content Moderation. Jika tidak ada label risiko yang terdeteksi, label nonLabel dikembalikan.
Tabel 9. Label untuk Deteksi Gambar Hasil AI (Edisi Ultimate) (aigcDetector_ultra)
Label | Kepercayaan | Deskripsi |
risk_aigc | 0 hingga 100. Skor yang lebih tinggi menunjukkan tingkat kepercayaan yang lebih tinggi. | Gambar kemungkinan dihasilkan oleh AIGC. |
risk_fake | 0 hingga 100. Skor yang lebih tinggi menunjukkan tingkat kepercayaan yang lebih tinggi. | Gambar kemungkinan merupakan gambar sintetis. |
risk_edit | 0 hingga 100. Skor yang lebih tinggi menunjukkan tingkat kepercayaan yang lebih tinggi. | Gambar kemungkinan merupakan gambar hasil edit AI. |
Deskripsi kode
Tabel berikut menjelaskan makna kode yang dikembalikan. Sistem hanya menagih permintaan yang mengembalikan kode 200. Tidak ada biaya untuk kode lainnya.
Kode | Deskripsi |
200 | Permintaan berhasil. |
400 | Parameter permintaan kosong. |
401 | Parameter permintaan tidak valid. |
402 | Panjang parameter permintaan tidak memenuhi persyaratan. Periksa dan ubah parameter. |
403 | Jumlah permintaan melebihi batas QPS. Periksa dan sesuaikan konkurensi. |
404 | Terjadi kesalahan saat mengunduh gambar yang ditentukan. Periksa gambar atau coba lagi. |
405 | Pengunduhan gambar yang ditentukan mengalami timeout. Hal ini mungkin karena gambar tidak dapat diakses. Periksa gambar dan coba lagi. |
406 | Gambar yang ditentukan terlalu besar. Periksa dan sesuaikan ukuran gambar, lalu coba lagi. |
407 | Format gambar yang ditentukan tidak didukung. Periksa dan sesuaikan format gambar, lalu coba lagi. |
408 | Akun tidak memiliki izin untuk memanggil operasi API ini. Hal ini mungkin karena layanan belum diaktifkan, akun memiliki pembayaran tertunda, atau akun tidak diotorisasi. |
500 | Terjadi kesalahan sistem. |