ApsaraVideo VOD menyediakan layanan moderasi media komprehensif untuk video, audio, gambar, dan teks. Layanan ini membantu Anda mendeteksi konten atau elemen berbahaya—seperti terorisme, sensitivitas politik, pornografi, iklan, penyalahgunaan, dan adegan yang tidak diinginkan—dalam aset media Anda. Dengan layanan ini, biaya tinjauan manual berkurang, kualitas konten meningkat, serta tata kelola platform dan pengalaman pengguna diperkuat. Topik ini menjelaskan manfaat, fitur, skenario penerapan, dan cara menggunakan layanan moderasi media di ApsaraVideo VOD.
Manfaat
Kemampuan moderasi dasar konsisten dengan Content Moderation Alibaba Cloud. Layanan ini mendeteksi pelanggaran dalam gambar, video, teks, dan audio, termasuk risiko terkait terorisme, sensitivitas politik, pornografi, iklan, penyalahgunaan, dan adegan yang tidak diinginkan.
Moderasi media di ApsaraVideo VOD menggabungkan hasil tinjauan dari seluruh sumber daya dalam satu aset media—termasuk video, audio, gambar (seperti snapshot dan thumbnail), serta teks (seperti judul, deskripsi, dan tag). Cukup dengan satu panggilan API, seluruh sumber daya media dapat diproses, sehingga lebih nyaman dan efisien.
ApsaraVideo VOD mendukung moderasi otomatis melalui alur kerja (workflow) dan templat konfigurasi kustom. Moderasi dapat dipicu secara otomatis setelah file media diunggah, dan hasilnya dikirimkan melalui callback real-time.
Moderasi ApsaraVideo VOD terintegrasi secara mendalam dengan seluruh tahap siklus hidup video, mencakup manajemen aset media, penyuntingan, produksi, distribusi, dan pemutaran. Integrasi ini memenuhi kebutuhan skenario kompleks. Misalnya, Anda dapat memilih untuk melakukan transcoding video hanya setelah lolos moderasi, serta membuang atau mengarsipkannya jika tidak lolos. Anda juga dapat secara otomatis memotong segmen yang tidak sesuai sebelum distribusi cepat.
Fitur
Feature | Description | References |
Automated review | Layanan automated review didasarkan pada data teranotasi dalam jumlah besar dan algoritma pembelajaran mendalam. Layanan ini secara akurat mendeteksi konten terlarang dalam video, thumbnail, dan judul dari berbagai dimensi, termasuk audio, teks, dan visual. Layanan ini mencakup modul untuk pornografi, terorisme, dan sensitivitas politik, serta dapat digunakan dalam skenario seperti platform video pendek dan moderasi media untuk secara signifikan meningkatkan efisiensi moderasi video. | |
Manual review | Layanan manual review memungkinkan Anda menonaktifkan publikasi video yang tidak sesuai lebih awal atau segera. Hal ini menghindari atau mengurangi dampak negatif setelah publikasi. | |
Reviewing security IP addresses | Layanan security IP untuk moderasi memastikan bahwa untuk video dalam status Checking atau Blocked, hanya permintaan dari IP keamanan tertentu yang dapat memperoleh alamat pemutaran. Fitur ini sering digunakan untuk tinjauan internal. |
Skenario
Untuk video pendek dan volume besar konten yang dihasilkan pengguna (UGC), Anda dapat memanfaatkan teknologi moderasi video otomatis untuk mendeteksi konten yang tidak sesuai secara cepat. Selanjutnya, lakukan tinjauan manual terhadap video yang dicurigai melanggar. Pendekatan ini secara signifikan meningkatkan efisiensi moderasi.
Untuk platform video-on-demand dan industri media, Anda dapat menggunakan teknologi moderasi video otomatis untuk mendeteksi secara efisien adegan yang melibatkan terorisme dan sensitivitas politik dalam video VOD. Hal ini membantu Anda mengatasi isu sensitivitas politik terkini dan menerapkan kontrol ketat terhadap konten yang tidak sesuai.
Catatan penggunaan
Hasil moderasi akhir file audio atau video ditentukan oleh hasil moderasi otomatis dan manual. Namun, hasil moderasi manual selalu mengesampingkan hasil moderasi otomatis.
Setelah moderasi media, hanya file audio dan video dalam status Normal yang dapat diputar. File audio dan video dalam status Flagged atau Reviewing hanya dapat diputar di Konsol ApsaraVideo VOD atau menggunakan security IP for moderation. Anda tidak dapat memperoleh alamat pemutaran untuk file-file tersebut melalui API atau SDK. Namun, alamat pemutaran yang valid yang telah tersebar tetap dapat digunakan untuk pemutaran.
Cara menggunakan
Prasyarat
ApsaraVideo VOD telah diaktifkan. Untuk informasi selengkapnya, lihat Activate ApsaraVideo VOD.
File audio atau video yang akan dimoderasi harus diunggah ke pustaka aset media ApsaraVideo VOD. Untuk informasi selengkapnya, lihat Upload media files.
Langkah 1: Konfigurasikan proses moderasi
Saat Anda mengunggah file audio atau video ke ApsaraVideo VOD, file tersebut diproses berdasarkan proses moderasi yang telah dikonfigurasi. Proses ini menentukan apakah file yang diunggah dapat diputar. Terdapat dua jenis proses moderasi: Review After Publish dan Review Before Publish. Review After Publish (default) memungkinkan file audio atau video diputar segera setelah proses seperti transcoding dan akselerasi pengiriman konten selesai. Review Before Publish mencegah file diakses setelah diunggah dan diproses; file tersebut hanya dapat diputar setelah lolos moderasi.
Masuk ke ApsaraVideo VOD console.
Pada panel navigasi sebelah kiri, pilih Review Management > Settings.
Pada halaman pengaturan moderasi, klik Modify di sebelah Review Process.
Pilih proses moderasi.
Moderation process
Process description
Review After Publish (Default)
Saat file audio atau video diunggah ke ApsaraVideo VOD, statusnya diatur ke Normal secara default setelah transcoding berhasil. File tersebut dapat langsung diputar.
Kemudian, Anda dapat memulai moderasi berbantuan mesin atau manual untuk konfirmasi di Video Moderation sesuai kebutuhan.
Selama moderasi manual, jika Anda menandai file audio atau video sebagai Blocked, file tersebut tidak dapat diputar menggunakan alamat pemutaran yang diperoleh melalui API atau SDK. File tersebut hanya dapat diputar di Konsol ApsaraVideo VOD atau menggunakan security IP for moderation. Namun, alamat pemutaran yang valid yang telah tersebar tetap dapat digunakan untuk pemutaran.
Review Before Publish
Saat file audio atau video diunggah ke ApsaraVideo VOD, file tersebut secara default memasuki proses moderasi setelah transcoding berhasil. Status file ditandai sebagai Reviewing.
Anda kemudian harus memulai moderasi manual di Video Moderation. Jika tidak, file akan tetap berada dalam status Reviewing. File dalam status Reviewing tidak dapat diputar menggunakan alamat pemutaran yang diperoleh melalui API atau SDK. File tersebut hanya dapat diputar di Konsol ApsaraVideo VOD atau menggunakan security IP for moderation. Namun, alamat pemutaran yang valid yang telah tersebar tetap dapat digunakan untuk pemutaran.
Klik OK untuk menyelesaikan konfigurasi.
Langkah 2: (Opsional) Konfigurasikan notifikasi event
Sebelum memulai moderasi media, Anda dapat mengonfigurasi notifikasi event untuk ApsaraVideo VOD agar menerima pesan callback berisi status dan hasil moderasi setelah proses selesai. Untuk informasi selengkapnya, lihat Configure callbacks. Notifikasi event berikut harus diaktifkan untuk moderasi media:
Manual moderation: ManualAuditComplete
Automated moderation:
Aktifkan Video Analysis Completed. Setelah menerima notifikasi event Audio/Video Analysis Complete, Anda dapat memanggil operasi SubmitAIMediaAuditJob untuk memulai pekerjaan tinjauan.
Aktifkan AI Processing Completed. Pengaturan ini berlaku untuk semua tugas pemrosesan AI. Setelah diaktifkan, Anda akan menerima notifikasi event Automated Review Complete.
Langkah 3: Mulai moderasi manual atau otomatis
Anda dapat terlebih dahulu melakukan moderasi otomatis sebagai tinjauan awal, lalu melakukan tinjauan manual terhadap file audio dan video yang dicurigai melanggar. Pendekatan ini mengurangi beban kerja moderasi manual sekaligus memastikan akurasi hasil moderasi. Untuk informasi selengkapnya, lihat dokumen berikut:
Anda tidak dapat memperoleh alamat pemutaran untuk video dalam status Checking atau Blocked melalui operasi API. Anda dapat mengonfigurasi security IP untuk moderasi guna memastikan hanya permintaan dari IP tersebut yang dapat memperoleh alamat pemutaran. Konfigurasi ini memenuhi kebutuhan moderasi internal. Untuk informasi selengkapnya, lihat Security IP for moderation.