Tinjauan otomatis menggunakan algoritma pembelajaran mendalam dan volume besar data yang telah dianotasi untuk mendeteksi secara akurat konten terlarang dalam video, gambar mini, dan judul. Fitur ini menganalisis konten dari berbagai dimensi—termasuk suara, teks, dan visual—untuk mengidentifikasi berbagai jenis konten terlarang, seperti pornografi, terorisme, dan materi sensitif secara politis. Fitur ini banyak digunakan dalam moderasi konten pada platform video pendek dan tinjauan media guna meningkatkan efisiensi. Topik ini menjelaskan cara menyesuaikan templat tinjauan otomatis dan melakukan tinjauan otomatis.
Skenario
Moderasi konten UGC
Untuk volume besar video konten yang dihasilkan pengguna (UGC), tinjauan video otomatis secara cepat mendeteksi konten yang tidak sesuai, mengidentifikasi masalah kualitas media, serta secara signifikan mengurangi beban kerja tinjauan manual.
Moderasi konten VOD
Fitur ini secara efisien mendeteksi adegan kekerasan dan konten sensitif secara politis dalam video sesuai permintaan (VOD). Fitur ini membantu Anda tetap memperbarui informasi mengenai peristiwa politik terkini dan mengontrol secara ketat konten yang tidak sesuai.
Jenis tinjauan
Jenis tinjauan | Deskripsi | Kategori hasil tinjauan |
Pornografi | Mendeteksi konten pornografi atau sugestif dalam file media. | Normal, pornografi, sugestif |
Terorisme dan konten sensitif secara politis | Mendeteksi konten terkait terorisme atau sensitif secara politis dalam file media. | Normal, berdarah, ledakan dan asap, pakaian khusus, logo khusus, senjata, sensitif secara politis, perkelahian, kerumunan, demonstrasi, adegan kecelakaan mobil, bendera, landmark |
Deteksi iklan | Mendeteksi iklan dan teks tidak sesuai dalam video dan gambar. | Normal, teks dengan konten sensitif secara politis, teks dengan konten pornografi, teks dengan konten kasar, teks dengan konten terkait terorisme, teks dengan konten terlarang, teks dengan konten spam lainnya, iklan spam, kode QR, kode Mini Program, iklan lainnya |
Deteksi adegan tidak diinginkan | Mendeteksi adegan tidak diinginkan dalam video dan gambar, seperti layar hitam, bilah hitam, adegan gelap, Gambar-dalam-Gambar (PiP), merokok, dan streaming langsung dari dalam mobil. | Normal, tidak ada konten dalam gambar (seperti layar hitam atau layar putih), Gambar-dalam-Gambar (PiP), merokok, streaming langsung dari dalam mobil |
Deteksi logo | Mendeteksi logo dalam video dan gambar, seperti logo stasiun TV dan merek dagang. | Normal, berisi logo terkendali, berisi merek dagang |
Anti-spam suara | Mendeteksi spam suara dalam video dan audio, seperti iklan, konten sensitif secara politis, dan konten terkait terorisme. | Normal, berisi spam, iklan, sensitif secara politis, terkait terorisme, kasar, pornografi, flooding, terlarang, tidak berarti, kustom (misalnya pencocokan kata kunci kustom) |
Rincian penagihan
Fitur tinjauan otomatis ApsaraVideo VOD merupakan layanan berbayar. Penagihan didasarkan pada durasi total video yang ditinjau. Untuk rincian penagihan, kirimkan tiket. Untuk informasi selengkapnya, lihat Hubungi kami.
Catatan
Standar tinjauan mematuhi undang-undang dan peraturan Tiongkok, termasuk namun tidak terbatas pada Hukum Pidana Republik Rakyat Tiongkok, Undang-Undang Keamanan Siber, Peraturan Administrasi Layanan Informasi Internet, Peraturan Administrasi Perlindungan Keamanan Jaringan Internasional Sistem Informasi Komputer, Ketentuan Administrasi Sintesis Mendalam dalam Layanan Informasi Internet, serta Peraturan Sementara Administrasi Layanan Kecerdasan Buatan Generatif.
Saat ini, layanan tinjauan otomatis hanya tersedia di wilayah Tiongkok (Shanghai), Tiongkok (Beijing), dan Singapura.
Wilayah Singapura saat ini hanya mendukung tinjauan untuk pornografi, terorisme dan konten sensitif secara politis, serta deteksi adegan tidak diinginkan.
Hasil moderasi akhir file audio atau video ditentukan oleh hasil moderasi otomatis dan manual. Namun, hasil moderasi manual selalu mengesampingkan hasil moderasi otomatis.
Setelah moderasi media, hanya file audio dan video dalam status Normal yang dapat diputar. File audio dan video dalam status Flagged atau Reviewing hanya dapat diputar di Konsol ApsaraVideo VOD atau menggunakan IP aman untuk moderasi. Anda tidak dapat memperoleh alamat pemutaran untuk file-file tersebut melalui API atau SDK. Namun, alamat pemutaran yang valid yang telah tersebar sebelumnya masih dapat digunakan untuk pemutaran.
Prasyarat
ApsaraVideo VOD telah diaktifkan. Untuk informasi selengkapnya, lihat Aktifkan ApsaraVideo VOD.
File audio dan video harus diunggah ke pustaka aset media ApsaraVideo VOD agar dapat ditinjau. Untuk informasi selengkapnya, lihat Unggahan media.
Cara menggunakan
Langkah 1. (Opsional) Konfigurasikan templat tinjauan otomatis
ApsaraVideo VOD menyediakan templat sistem preset untuk tinjauan otomatis yang digunakan secara default. Jika templat ini tidak memenuhi kebutuhan Anda, Anda dapat membuat templat tinjauan otomatis kustom.
Anda tidak dapat mengubah atau menghapus templat preset. Konfigurasinya sebagai berikut:
Jenis tinjauan: Terorisme dan konten sensitif secara politis, Deteksi pornografi
Cakupan tinjauan: Video, Gambar mini, Judul
Konten tinjauan: Frame video
Anda dapat menambahkan hingga 20 templat tinjauan otomatis kustom.
Langkah 2. (Opsional) Konfigurasikan notifikasi event
Sebelum memulai pekerjaan tinjauan otomatis, konfigurasikan notifikasi event untuk ApsaraVideo VOD. Hal ini memungkinkan Anda menerima pesan callback mengenai status dan hasil pekerjaan tersebut. Untuk informasi selengkapnya tentang konfigurasi notifikasi event, lihat Pengaturan callback.
Jenis notifikasi event berikut harus diaktifkan untuk tinjauan otomatis:
Aktifkan Video Analysis Completed. Setelah menerima notifikasi event Audio/Video Analysis Complete, Anda dapat memanggil operasi SubmitAIMediaAuditJob untuk memulai pekerjaan tinjauan.
Aktifkan AI Processing Completed. Pengaturan ini berlaku untuk semua tugas pemrosesan AI. Setelah mengaktifkan pengaturan ini, Anda dapat menerima notifikasi event Automated Review Complete.
Langkah 3. Mulai pekerjaan tinjauan otomatis
Fitur alur kerja ApsaraVideo VOD memungkinkan Anda memicu tinjauan otomatis secara otomatis saat mengunggah file audio atau video, atau memicu tinjauan secara manual setelah unggahan selesai.
Langkah 4. Lihat hasil tinjauan
Resource gambar dalam hasil tinjauan otomatis disimpan di penyimpanan gratis yang disediakan oleh ApsaraVideo VOD hanya selama 2 minggu. Setelah 2 minggu, resource tersebut akan dihapus secara otomatis.
Jika Anda telah mengonfigurasi notifikasi event, Anda dapat menerima pesan callback Automated Review Complete untuk memperoleh detail hasil tinjauan.