Konfigurasi Ulasan Kepatuhan Live Stream Otomatis-ApsaraVideo Live-Alibaba Cloud - ApsaraVideo Live

ApsaraVideo Live secara otomatis memeriksa kepatuhan siaran langsung dengan menganalisis video, audio, dan snapshot untuk mendeteksi potensi pelanggaran. Konten yang tidak memenuhi standar disimpan di Object Storage Service (OSS) agar Anda dapat mengkueri dan mengelolanya.

Prasyarat

Fitur tinjauan otomatis hanya tersedia di pusat siaran langsung tertentu. Untuk daftar wilayah yang didukung, lihat Wilayah.
Tinjauan video dan tinjauan audio adalah layanan berbayar. Sebelum menggunakan layanan ini, tinjau metode penagihan dan harga yang berlaku. Untuk informasi selengkapnya, lihat Biaya tinjauan otomatis.
Snapshot disimpan di OSS dan dikenai biaya penyimpanan OSS. Untuk informasi selengkapnya, lihat Biaya penyimpanan.

Latar Belakang

Layanan moderasi otomatis menggunakan pembelajaran mendalam untuk mendeteksi konten terlarang dalam audio dan video siaran langsung, mencakup pornografi, terorisme, konten sensitif secara politis, iklan, dan konten sampah. Moderasi video menganalisis snapshot untuk menemukan pelanggaran, sedangkan moderasi audio mengidentifikasi konten terlarang dalam aliran audio. Semua pelanggaran dilaporkan melalui webhook.

Konfigurasikan templat moderasi

Konsol

Masuk ke Konsol ApsaraVideo Live.
Pada panel navigasi sebelah kiri, klik Feature Management > Content Moderation.
Pilih domain streaming yang akan dikonfigurasi, lalu klik tab Video Moderation atau Audio Moderation.

Klik Add untuk mengonfigurasi templat moderasi.

Video Moderation

Tabel berikut menjelaskan parameter templat moderasi video.

Parameter	Deskripsi
Application Name	Agar templat berlaku, Application Name yang Anda tentukan harus sesuai dengan Application Name dalam URL ingest. Nilainya peka huruf besar/kecil. Anda juga dapat menentukan tanda bintang tunggal (*) untuk mencocokkan semua nama aplikasi.
Scenario	Empat skenario berikut didukung: Pornografi Terorisme dan konten sensitif secara politis Iklan Konten sampah
Snapshot Interval	Unit: detik. Nilai valid: 5 hingga 3600.
Storage Location	Pilih lokasi penyimpanan di OSS untuk snapshot.

Audio Moderation

Tabel berikut menjelaskan parameter templat moderasi audio.

Parameter	Deskripsi
Application Name	Agar templat berlaku, Application Name yang Anda tentukan harus sesuai dengan Application Name dalam URL ingest. Nilainya peka huruf besar/kecil.
StreamName	Agar templat berlaku, StreamName yang Anda tentukan harus sesuai dengan StreamName dalam URL ingest. Nilainya peka huruf besar/kecil.

Setelah mengonfigurasi parameter, klik OK.

API

Video Moderation

API	Referensi
AddLiveSnapshotDetectPornConfig	Konfigurasikan layanan moderasi siaran langsung di tingkat nama domain dan aplikasi
DeleteLiveSnapshotDetectPornConfig	Hapus konfigurasi moderasi video
UpdateLiveSnapshotDetectPornConfig	Perbarui konfigurasi moderasi video
DescribeLiveSnapshotDetectPornConfig	Kueri konfigurasi moderasi video

Audio Moderation

API	Referensi
AddLiveAudioAuditConfig	Tambahkan konfigurasi moderasi audio
DeleteLiveAudioAuditConfig	Hapus konfigurasi moderasi audio
UpdateLiveAudioAuditConfig	Perbarui konfigurasi moderasi audio
DescribeLiveAudioAuditConfig	Kueri konfigurasi moderasi audio

Konfigurasikan alamat webhook

Konsol

Pada tab Video Moderation atau Audio Moderation, atur Callback URL.

Klik ikon edit di sebelah kanan Webhook Address.
Masukkan Callback URL.
Periksa informasi callback di server webhook Anda. Untuk format pesan callback dan contohnya, lihat webhook.
Temukan konten yang terdeteksi di OSS.
Temukan konten yang ditentukan di Konsol OSS berdasarkan informasi webhook.
- Temukan konten yang ditentukan berdasarkan AppName dan StreamName.
- Temukan konten yang ditentukan berdasarkan tanggal ingest.

API

Video moderation

API	Referensi
AddLiveDetectNotifyConfig	Tambahkan konfigurasi webhook untuk moderasi video siaran langsung Untuk format default, lihat Format webhook default untuk moderasi video.
DeleteLiveDetectNotifyConfig	Hapus konfigurasi webhook untuk moderasi video siaran langsung
UpdateLiveDetectNotifyConfig	Perbarui konfigurasi webhook untuk moderasi video siaran langsung
DescribeLiveDetectNotifyConfig	Kueri konfigurasi webhook untuk moderasi video siaran langsung

Audio moderation

API	Referensi
AddLiveAudioAuditNotifyConfig	Tambahkan konfigurasi webhook untuk moderasi audio siaran langsung Anda dapat menyesuaikan format JSON webhook. Untuk format default, lihat Format webhook default untuk moderasi audio.
DeleteLiveAudioAuditNotifyConfig	Hapus konfigurasi webhook untuk moderasi audio siaran langsung
UpdateLiveAudioAuditNotifyConfig	Perbarui konfigurasi webhook untuk moderasi audio siaran langsung
DescribeLiveAudioAuditNotifyConfig	Kueri konfigurasi webhook untuk moderasi audio siaran langsung

Format webhook

Webhook default untuk tinjauan video

Notifikasi webhook hanya dikirim untuk konten video yang ditandai. Notifikasi tersebut berisi hasil moderasi dan lokasi penyimpanan snapshot yang sesuai.

{
 "DomainName": "example.com",
 "AppName": "liveApp****",
 "StreamName": "liveStream****",
 "OssEndpoint": "oss-cn-hangzhou.aliyuncs.com",
 "OssBucket": "liveBucket****",
 "OssObject": "liveObject****.jpg",
 "Result": [
     {
         "BizType": "example.com",
         "Result": [
             {"Label": "Porn", "Rate":11.1, "Suggestion": "review", "Scene":"porn", "Extent": {}},
             {"Label": "Ad", "Rate":11.1, "Suggestion": "review", "Scene":"ad", "Extent": {}}
         ]
     }
 ]
}

Parameter

Parameter	Tipe	Deskripsi
DomainName	String	Domain streaming.
AppName	String	Nama aplikasi.
StreamName	String	Nama stream.
OssEndpoint	String	Titik akhir OSS untuk objek yang disimpan.
OssBucket	String	Bucket OSS tempat objek disimpan.
OssObject	String	Nama objek.
Result	JSONArray	Hasil deteksi. Untuk informasi selengkapnya, lihat Result.

Tabel 1. Result

Parameter	Tipe	Deskripsi
BizType	String	Jenis bisnis, digunakan untuk pemilihan model. Nilai default: nama domain.
Scene	String	Skema deteksi. `porn`: Deteksi pornografi. `terrorism`: Deteksi terorisme dan konten sensitif secara politis. `ad`: Deteksi iklan. `live`: Deteksi adegan siaran langsung yang tidak diinginkan. `logo`: Deteksi logo.
Label	String	Kategori pelanggaran yang terdeteksi. Kategori yang tersedia bergantung pada skema deteksi. Untuk informasi selengkapnya, lihat Label.
Rate	Float	Skor kepercayaan, pada skala 0 (terendah) hingga 100 (tertinggi). Catatan Skor ini hanya sebagai referensi. Gunakan nilai `Label` sebagai dasar logika bisnis Anda untuk menentukan pelanggaran.
Extent	JSONObject	Bidang cadangan.

Tabel 2. Label

Parameter	Type	Deskripsi
porn	String	Kategori untuk deteksi pornografi dalam gambar: `normal`: Normal. `sexy`: Seksi. `porn`: Pornografi.
terrorism	String	Kategori untuk deteksi terorisme dan konten sensitif secara politis dalam gambar: `normal`: Normal. `bloody`: Berdarah atau mengerikan. `explosion`: Ledakan atau asap. `outfit`: Pakaian khusus. `logo`: Logo khusus. `weapon`: Senjata. `politics`: Konten sensitif secara politis. `violence`: Perkelahian. `crowd`: Kerumunan massa. `parade`: Parade atau protes. `carcrash`: Adegan kecelakaan mobil. `flag`: Bendera. `location`: Tengara. `others`: Lainnya.
ad	String	Kategori untuk deteksi iklan: `normal`: Normal. `ad`: Iklan lainnya. `npx`: Iklan spam. `qrcode`: Kode QR. `programCode`: Kode mini program.
live	String	Kategori untuk adegan siaran langsung yang tidak diinginkan: `normal`: Normal. `meaningless`: Konten tidak berarti, seperti layar hitam atau putih. `PIP`: Picture-in-picture (PIP). `smoking`: Merokok. `drivelive`: Siaran langsung dari dalam mobil.
logo	String	Kategori untuk deteksi logo dalam gambar: `normal`: Normal. `TV`: Berisi logo stasiun TV yang diatur. `trademark`: Berisi merek dagang.

Catatan

Pengguna baru menggunakan versi ini secara default, sedangkan pengguna lama tetap menggunakan versi saat ini. Untuk beralih ke versi ini, ajukan tiket. Untuk petunjuknya, lihat Hubungi kami.

Webhook default untuk tinjauan audio

Notifikasi webhook hanya dikirim untuk konten audio yang ditandai. Notifikasi tersebut mencakup transkrip segmen yang ditandai dan konteks satu menit sebelumnya.

{
    "domain": "example.com",
    "app": "liveApp****",
    "stream": "5d9747eba39b44769852d276f9ff****",
    "timestamp": 1572248095,
    "result": [
        {
            "scene": "antispam",
            "label": "ad",
            "suggestion": "block",
            "rate": 99.91,
            "details": [
                {
                    "startTime": 1572248023,
                    "endTime": 1572248040,
                    "text": "Dapatkan akomodasi gratis selama 120 hari di hotel-hotel di Dali, Longchuan, dan lainnya. Bagikan penginapan ini bersama keluarga dan teman-teman Anda. Kunjungi pusat penerimaan Hotel Internasional Komunitas Yunqi di Jalan Tuanjie No. 96, Mangshi, di sebelah Yiyi KTV. Hubungi hotline kami di 2285699.",
                    "label": "ad"
                },
                {
                    "startTime": 1572248040,
                    "endTime": 1572248070,
                    "text": "Nikmati vila klasik kami di Lianghe Jinta dan tahap kedua kota wisata Binhu Yuan. Grand opening pada 2 November! Air mata air alami, berbagai desain klasik, dan nilai luar biasa. Penawaran khusus pada hari pembukaan. Kunjungi kami di Jalan Xianfeng No. 229, Kota Zhedao, Kabupaten Ranhe. Telepon 069269557776955777.",
                    "label": "normal"
                },
                {
                    "startTime": 1572248072,
                    "endTime": 1572248077,
                    "text": "Momen bahagia terasa lebih indah bersamamu. Hari-hari santai terasa semakin mudah.",
                    "label": "normal"
                },
                {
                    "startTime": 1572248078,
                    "endTime": 1572248086,
                    "text": "fme043 Ambil jeda musikal dari kesibukanmu. Lagu-lagu hangat untuk bioskop yang kamu rindukan.",
                    "label": "normal"
                }
            ]
        }
    ]
}

Parameter	Tipe	Deskripsi
domain	String	Domain streaming.
app	String	Nama aplikasi.
stream	String	Nama stream.
timestamp	Int	Stempel waktu UNIX webhook, dalam satuan detik.
result	JSONArray	Hasil deteksi. Untuk informasi selengkapnya, lihat Result.

Tabel 3. Result

Parameter	Tipe	Deskripsi
scene	String	Skema deteksi.
label	String	Kategori pelanggaran yang terdeteksi. Nilai yang valid: `normal`: Teks normal. `spam`: Spam. `ad`: Iklan. `politics`: Konten sensitif secara politis. `terrorism`: Konten teroris. `abuse`: Bahasa kasar. `porn`: Konten pornografi. `flood`: Banjir teks. `contraband`: Konten terlarang. `meaningless`: Teks tidak berarti. `customized`: Pelanggaran yang ditentukan sendiri, seperti kecocokan dengan kata kunci kustom.
suggestion	String	Aksi yang disarankan. Parameter `suggestion` memberikan salah satu nilai berikut: `pass`: Konten normal. Tidak diperlukan tindakan lebih lanjut. `review`: Konten mungkin tidak sesuai. Disarankan untuk ditinjau secara manual. `block`: Konten tidak sesuai. Disarankan untuk memblokir atau membatasi aksesnya.
rate	Float	Skor kepercayaan, pada skala 0 (terendah) hingga 100 (tertinggi). Catatan Skor ini hanya sebagai referensi. Gunakan nilai `label` sebagai dasar logika bisnis Anda untuk menentukan pelanggaran.
details	JSONArray	Array objek, masing-masing merepresentasikan kalimat yang ditranskripsikan dari audio. Untuk struktur objek, lihat Detail.

Tabel 4. Detail

Parameter	Tipe	Deskripsi
startTime	Int	Waktu mulai kalimat, dalam bentuk stempel waktu UNIX dalam satuan detik.
endTime	Int	Waktu akhir kalimat, dalam bentuk stempel waktu UNIX dalam satuan detik.
text	String	Transkrip segmen audio.
label	String	Kategori pelanggaran yang terdeteksi. Nilai yang valid: `normal`: Teks normal. `spam`: Spam. `ad`: Iklan. `politics`: Konten sensitif secara politis. `terrorism`: Konten teroris. `abuse`: Bahasa kasar. `porn`: Konten pornografi. `flood`: Banjir teks. `contraband`: Konten terlarang. `meaningless`: Teks tidak berarti. `customized`: Pelanggaran yang ditentukan sendiri, seperti kecocokan dengan kata kunci kustom.

FAQ

Kata sensitif kustom

Tidak. Layanan tinjauan otomatis tidak mendukung kata sensitif kustom.

Stream pihak ketiga yang diautentikasi

Tidak. Layanan tinjauan otomatis tidak mendukung URL ingest stream dari platform lain.