Content Moderation adalah layanan berbasis AI yang memanfaatkan teknologi komputasi awan untuk mengidentifikasi dan memberi label konten multimodal yang tidak pantas atau tidak sesuai. Layanan ini mampu mendeteksi risiko dalam gambar, video, teks, dan audio di berbagai industri serta skenario bisnis guna meningkatkan efisiensi moderasi, meningkatkan kualitas konten platform, dan mengoptimalkan pengalaman pengguna.
Ikhtisar
Alibaba Cloud Content Moderation adalah layanan moderasi konten cerdas tingkat enterprise. Layanan ini memanfaatkan pengalaman luas Alibaba Group dalam tata kelola konten dan algoritma large model canggih untuk secara otomatis mengidentifikasi serta memberi label akurat terhadap konten yang tidak pantas atau tidak sesuai di berbagai format media, termasuk teks, gambar, video, dan audio.
Nilai inti
Layanan ini membantu Anda membangun sistem moderasi konten yang efisien, secara signifikan mengurangi biaya tinjauan manual sekaligus meningkatkan kecepatan dan akurasi moderasi. Hal ini memastikan konten platform Anda sesuai regulasi dan aman, sehingga memberikan pengalaman pengguna yang lebih baik dan lebih aman.
Posisi produk
Dirancang untuk bisnis berbasis konten seperti situs web video, platform siaran langsung, media sosial, platform e-commerce, dan pendidikan daring, layanan ini menyediakan solusi siap pakai untuk mengidentifikasi risiko konten, sehingga Anda dapat fokus pada pengembangan bisnis inti.
Misi dan visi
Layanan ini bertujuan menciptakan ekosistem konten digital yang dapat dipercaya dengan menyediakan alat untuk menjamin keamanan konten dan kepatuhan platform, mendukung pertumbuhan berkelanjutan industri internet.
Fitur utama
Alibaba Cloud Content Moderation menyediakan tiga modul fungsional inti yang mencakup berbagai kasus penggunaan lengkap, termasuk integrasi API, deteksi penyimpanan, dan manajemen visual. Modul-modul ini memenuhi kebutuhan pengguna dengan beragam tingkat kemampuan teknis dan kebutuhan bisnis.
Content Moderation API
Menyediakan API RESTful standar yang mendukung panggilan real-time maupun asinkron. Developer dapat dengan cepat memperoleh hasil deteksi konten melalui permintaan HTTP sederhana dan SDK. API ini juga mendukung fitur lanjutan seperti pemrosesan batch dan callback asinkron, sehingga memungkinkan integrasi fleksibel dengan berbagai skenario bisnis dan arsitektur teknis.
OSS compliance detection
Terintegrasi erat dengan Alibaba Cloud OSS, fitur ini memungkinkan Anda memindai dan mengidentifikasi risiko secara otomatis pada konten yang disimpan di bucket. Tidak diperlukan pengkodean—cukup konfigurasikan pengaturan di Konsol. Fitur ini mendukung berbagai mode, termasuk deteksi inkremental dan deteksi terjadwal, sehingga mempermudah dan meningkatkan efisiensi pengelolaan konten yang tersimpan.
Visual management console
Menyediakan antarmuka manajemen berbasis web yang andal, mendukung analitik data, kueri hasil deteksi, manajemen pustaka risiko kustom, dan konfigurasi kebijakan. Dengan grafik intuitif dan alur kerja yang ramping, Konsol ini membuat manajemen keamanan konten menjadi mudah.
Alur kerja
Kemampuan deteksi
Layanan ini mendukung deteksi konten lintas berbagai modalitas dan mencakup berbagai skenario risiko umum, sehingga memberikan perlindungan keamanan konten yang komprehensif bagi bisnis Anda.
Modalitas yang didukung
Kategori risiko yang terdeteksi
Pornografi: Mengidentifikasi konten pornografi, eksplisit, dan bernuansa seksual untuk menjaga lingkungan platform yang sehat.
Konten sensitif politik: Mendeteksi topik sensitif politik serta ujaran ilegal atau tidak sesuai untuk memastikan kepatuhan dan keamanan konten.
Terrorisme: Mengidentifikasi konten terkait kekerasan berdarah, terorisme, dan tindakan berbahaya.
Konten mengganggu atau grafis: Mendeteksi konten yang mengejutkan secara visual, menjijikkan, atau ofensif.
Iklan dan informasi sampah: Mengidentifikasi promosi pemasaran, informasi penipuan, spam, dan pengalihan traffic jahat.
Penyalahgunaan dan pelecehan: Mendeteksi serangan pribadi, pernyataan diskriminatif, dan pelecehan jahat.
Konten ilegal dan dilarang: Mengidentifikasi informasi terkait perjudian, narkoba, zat terkontrol, dan aktivitas ilegal lainnya.
Kebocoran Informasi Identitas Pribadi (PII): Mendeteksi data pribadi sensitif seperti nomor KTP, nomor telepon, dan nomor kartu bank.
Deteksi konten yang dihasilkan AI (AIGC): Menentukan apakah konten teks, gambar, audio, atau video kemungkinan dihasilkan atau disintesis oleh AI. Kemampuan ini membantu Anda mengelola AIGC di platform Anda.
Konten risiko kustom: Content Moderation memungkinkan Anda membuat agen moderasi kustom yang menggunakan large model untuk mendeteksi risiko unik.
Kasus penggunaan
Layanan ini berlaku untuk berbagai platform dan skenario bisnis berbasis konten, serta menyediakan solusi keamanan konten yang disesuaikan untuk berbagai industri.
Situs web video
Melakukan moderasi awal dan inspeksi berkelanjutan terhadap video yang diunggah pengguna. Secara otomatis mengidentifikasi video yang tidak sesuai untuk mengurangi beban kerja tinjauan manual dan memastikan kepatuhan platform.
Platform siaran langsung
Memantau aliran video langsung dan komentar secara real-time. Cepat mendeteksi dan menangani pelanggaran kebijakan untuk menjaga lingkungan siaran yang sehat serta meningkatkan pengalaman pengguna.
Platform media sosial
Melakukan pemantauan komprehensif terhadap profil pengguna, unggahan, pesan pribadi, dan obrolan grup guna mencegah penyebaran informasi berbahaya serta menjaga suasana komunitas yang positif.
Berita dan media
Meninjau artikel berita dan komentar pengguna untuk memastikan kepatuhan informasi, mencegah penyebaran berita tidak pantas, dan meningkatkan kredibilitas media.
Platform e-commerce
Mendeteksi informasi tidak sesuai dalam judul produk, deskripsi, gambar, dan ulasan. Memerangi iklan berlebihan dan penjualan barang terlarang untuk mengatur pasar.
Gaming dan hiburan
Memantau obrolan dalam game, nama panggilan, dan informasi guild untuk menciptakan lingkungan gaming yang sehat serta melindungi pemain di bawah umur.
Pendidikan daring
Meninjau materi kursus, tugas yang dikirimkan, dan diskusi interaktif untuk memastikan konten edukasi bersifat positif dan memenuhi persyaratan regulasi.
Logistik dan transportasi
Memastikan kepatuhan dalam postingan pesanan, ulasan pengguna, dan pesan pribadi guna mengamankan operasi bisnis dan mengoptimalkan lingkungan platform.