ApsaraVideo Media Processing (MPS) menyediakan fitur tinjauan otomatis yang diimplementasikan berdasarkan volume besar data berlabel dan algoritma pembelajaran mendalam. Fitur ini mendukung moderasi konten dan analisis kualitas konten. Moderasi konten mendeteksi konten terlarang—termasuk pornografi, konten terorisme, konten sensitif secara politik, dan iklan—melalui berbagai dimensi seperti audio, teks, dan visual. Analisis kualitas konten mengevaluasi kualitas video. Fitur tinjauan otomatis membantu mengurangi beban kerja tinjauan manual serta meningkatkan efisiensi dan akurasi proses peninjauan. Topik ini menjelaskan fitur tinjauan otomatis dan cara membuat pekerjaan moderasi konten.
Ikhtisar
Skenario
Moderasi akurat dan efisien untuk konten yang dibuat pengguna (UGC): menggunakan teknologi tinjauan media cerdas untuk mendeteksi konten terlarang dan mengidentifikasi masalah kualitas dalam volume besar UGC, sehingga mengurangi beban kerja tinjauan manual.
Moderasi konten akurat dan real-time untuk siaran langsung: mendeteksi konten terlarang dalam audio, teks, dan gambar siaran langsung secara real-time guna mencegah risiko bisnis.
Moderasi konten efisien dan akurat untuk video on-demand: mendeteksi konten terlarang seperti adegan terkait terorisme dan adegan sensitif secara politik dalam video on-demand berdasarkan isu-isu aktual dan pertimbangan politik.
Fitur
Untuk informasi lebih lanjut tentang fitur ini, lihat bagian "Tinjauan Otomatis" pada topik Fungsi dan fitur.
Untuk informasi lebih lanjut tentang cara mencoba fitur ini secara online, kunjungi halaman Tinjauan Otomatis pada platform Multimedia AI.
Batasan
Fitur tinjauan otomatis tersedia di wilayah Asia Pacific SE 1 (Singapura). Wilayah lain tidak didukung.
Sebelum memulai
Lakukan langkah-langkah berikut sebelum membuat pekerjaan moderasi konten:
Buat Antrian MPS untuk moderasi konten. Jika tidak ada Antrian MPS untuk moderasi konten yang ditampilkan di Konsol MPS, buat dan aktifkan Antrian MPS tersebut.
Unggah video yang akan diproses ke OSS.
Jika Anda ingin membuat pekerjaan, unggah langsung video ke OSS. Untuk informasi lebih lanjut, lihat Unggah video.
Jika Anda ingin membuat alur kerja dan memicu alur kerja secara otomatis, tambahkan bucket media dan buat alur kerja sebelum mengunggah video. Setelah menentukan bucket media input dan output serta mengunggah file media ke bucket media input, MPS akan menerima notifikasi unggahan tersebut dan memicu alur kerja yang sesuai. Setelah alur kerja selesai, file media yang telah diproses akan diunggah ke bucket media output. Untuk informasi lebih lanjut, lihat Tambahkan bucket media.
Opsional. Aktifkan fitur Notifikasi. Jika Anda ingin MPS mengirim notifikasi tentang pekerjaan dan alur kerja ke topik atau antrian MNS, konfigurasikan antrian atau topik MNS sesuai kebutuhan. Untuk informasi lebih lanjut, lihat Siapkan notifikasi.
Buat pekerjaan moderasi konten di Konsol MPS
Buat pekerjaan moderasi konten
Masuk ke Konsol MPS.
Di bilah navigasi atas, pilih wilayah dari daftar drop-down.

Di panel navigasi kiri, pilih Job Management.
Klik tab Video Review, lalu klik Create Task.
Pada halaman Create Content Moderation Task, konfigurasikan parameter yang dijelaskan dalam tabel berikut.
Parameter
Deskripsi
Input File URL
Klik Select. Dari daftar drop-down Bucket, pilih sebuah bucket. Folder-folder dalam bucket tersebut ditampilkan di bawah Path. Pilih file dari folder sebagai file input.
CatatanJika tidak ada nama bucket yang ditampilkan di daftar drop-down Bucket, tambahkan bucket media di wilayah yang ditentukan. Untuk informasi lebih lanjut, lihat Tambahkan bucket media.
Jika tidak ada file yang ditampilkan setelah Anda memilih bucket OSS, buka Konsol OSS dan unggah file ke bucket yang ditentukan.
Jika muncul pesan kesalahan yang memberi tahu bahwa peran Resource Access Management (RAM) saat ini tidak valid atau Anda tidak memiliki izin yang diperlukan, buka Konsol RAM untuk memberikan Pengguna RAM izin untuk mengakses OSS. Anda dapat menyambungkan Kebijakan AliyunOSSFullAccess ke Pengguna RAM untuk memberikan Pengguna RAM izin penuh pada OSS, atau Anda dapat menyesuaikan izin berdasarkan kebutuhan bisnis Anda. Untuk informasi selengkapnya, lihat Buat Pengguna RAM dan berikan izin kepada Pengguna RAM.
Content Moderation Pipeline
Dari daftar drop-down Content Moderation Pipeline, pilih sebuah pipeline.
CatatanJika tidak ada nama Antrian MPS yang ditampilkan di daftar drop-down, buat dan aktifkan Antrian MPS untuk moderasi konten. Untuk informasi lebih lanjut, lihat Buat Antrian MPS.
Moderation Type
Secara default, Pornography dan Terrorism dipilih.
Storage Path
Klik Select. Dari daftar drop-down Bucket, pilih sebuah bucket. Folder-folder dalam bucket tersebut ditampilkan di bawah Path. Pilih folder sebagai path output.
CatatanJika path output sama dengan path input, tentukan nama file output yang berbeda dari nama file input. Dengan demikian, file input tidak ditimpa. Jika file input dan file output memiliki nama yang sama, pengaturan OSS yang relevan menentukan apakah file output menimpa file input. Untuk informasi tentang cara menonaktifkan penimpaan file, lihat Cegah objek ditimpa oleh objek dengan nama yang sama (OSS SDK for Java 1.0). Jika Anda menonaktifkan penimpaan file, file output transkoding yang memiliki nama sama dengan file input gagal ditulis ke bucket OSS. Kami menyarankan agar Anda tidak menentukan nama yang sama untuk file input dan output.
Untuk masalah umum lainnya, lihat deskripsi untuk Input File URL.
Klik Submit untuk membuat dan mengirim pekerjaan moderasi konten.
Setelah pekerjaan dikirim, Anda dapat melihat status dan konfigurasi pekerjaan tersebut. Anda juga dapat mengklik nama pekerjaan untuk melihat informasi lainnya, seperti path input dan output.
Buat alur kerja moderasi konten
Masuk ke Konsol MPS.
Di bilah navigasi atas, pilih wilayah dari daftar drop-down.

Di panel navigasi kiri, pilih Workflow > Workflow Orchestration.
Klik Create Workflow.
-
Konfigurasikan informasi dasar untuk alur kerja.
Parameter
Deskripsi
Workflow Name
Masukkan nama untuk alur kerja.
Preset
Pilih Custom dari daftar drop-down.
Konfigurasikan node Input.
Klik ikon pensil di sebelah kanan node Input untuk membuka halaman Input Settings.
Di kotak dialog Input, konfigurasikan parameter yang dijelaskan dalam tabel berikut.
Parameter
Deskripsi
Input Path
Klik Select. Dari daftar drop-down Bucket, pilih sebuah bucket. Folder-folder dalam bucket tersebut ditampilkan di bawah Path. Pilih folder sebagai path input.
CatatanJika tidak ada nama bucket yang ditampilkan di daftar drop-down Bucket, tambahkan bucket media di wilayah yang ditentukan. Untuk informasi lebih lanjut, lihat Tambahkan bucket media.
MPS Queue for Transcoding
Antrian MPS untuk moderasi konten.
CatatanAntrian MPS yang ditentukan untuk parameter ini digunakan untuk pekerjaan transkoding dan snapshot. Anda dapat menentukan Antrian MPS untuk moderasi konten saat mengonfigurasi node berikutnya.
Jika tidak ada pipeline yang tersedia di daftar drop-down MPS Queue for Transcoding, buat terlebih dahulu. Untuk informasi lebih lanjut, lihat Buat pipeline.
(Opsional) Notifications
Opsional. Menentukan apakah akan mengirim notifikasi tentang alur kerja. Jika Anda mengaktifkan Notifications, konfigurasikan parameter Message Type dan pilih antrian atau topik Simple Message Queue (SMQ) dari daftar drop-down Queue Name atau Topic Name.
CatatanJika tidak ada nama antrian atau topik SMQ yang ditampilkan di daftar drop-down, buat antrian atau topik SMQ dan aktifkan fitur notifikasi berdasarkan antrian atau topik SMQ tersebut. Untuk informasi lebih lanjut, lihat Aktifkan fitur notifikasi untuk alur kerja media.
Klik OK untuk menyelesaikan konfigurasi node Input.
Tambahkan node Content Moderation.
Klik ikon tanda plus (+) di sebelah kanan node Input dan pilih review.
Klik ikon pensil di sebelah kanan node Content Moderation.
Atur parameter Content Moderation.
Parameter
Deskripsi
Moderation Pipeline
Antrian MPS untuk moderasi konten.
CatatanJika tidak ada pipeline yang tersedia di daftar drop-down Moderation Pipeline, buat terlebih dahulu pipeline khusus untuk moderasi konten.
Output Path
Klik Select dan pilih lokasi output OSS.
Workflow Termination
Konfigurasikan parameter ini sesuai kebutuhan bisnis Anda.
Klik OK untuk menyelesaikan konfigurasi node review.
Konfigurasikan node Publish.
Klik ikon pensil di sebelah kanan node Publish.
Di kotak dialog Publish, konfigurasikan parameter yang dijelaskan dalam tabel berikut.
Parameter
Deskripsi
Publish Type
Atur Publish Type menjadi Auto.
Manual: Setelah alur kerja berhasil dijalankan, alur kerja mengatur status media menjadi unpublished. Anda kemudian dapat memublikasikan media secara manual. Untuk informasi tentang cara memublikasikan file media secara manual, lihat Kelola aset media.
Auto: Setelah alur kerja berhasil dijalankan, alur kerja mengatur status media menjadi published.
CatatanJika parameter ini diatur ke Auto, izin akses untuk semua resource terkait video output, termasuk file pemutaran dan gambar video yang diambil, sama dengan izin pada bucket OSS tempat video output berada.
Jika parameter ini diatur ke Manual, semua resource tersebut hanya dapat diakses oleh pengguna saat ini.
Klik OK untuk menyelesaikan konfigurasi node Publish.
Klik Save untuk membuat alur kerja.
Jika file diunggah ke path yang ditentukan oleh parameter Input Path setelah alur kerja dibuat, alur kerja akan dipicu.
Buat pekerjaan moderasi konten dengan memanggil operasi API
Kirim pekerjaan moderasi konten.
Anda dapat menentukan URL video, gambar, atau file audio yang disimpan di bucket OSS atau URL video yang disimpan di layanan pihak ketiga dalam permintaan saat memanggil operasi SubmitMediaCensorJob untuk mengirim pekerjaan moderasi konten. Untuk informasi lebih lanjut, lihat Kirim pekerjaan moderasi konten.
Terima notifikasi callback.
Jika fitur notifikasi diaktifkan untuk pekerjaan moderasi konten, Anda dapat menerima notifikasi di antrian atau topik Simple Message Queue (formerly MNS) yang ditentukan setelah pekerjaan moderasi konten selesai. Untuk informasi selengkapnya, lihat Menerima notifikasi.
Kueri hasil pekerjaan moderasi konten.
Anda dapat memanggil operasi QueryMediaCensorJobDetail untuk mengkueri status dan hasil pekerjaan moderasi konten berdasarkan ID pekerjaan. Untuk informasi lebih lanjut, lihat QueryMediaCensorJobDetail.