API Moderasi Aliran Video Langsung v2.0 - AI Guardrails - Alibaba Cloud Documentation Center

Moderasi aliran video langsung 2.0 membantu Anda mendeteksi konten berisiko dalam video dan audio aliran langsung. Topik ini menjelaskan cara menggunakan Operasi API untuk melakukan moderasi aliran langsung.

Panduan onboarding

Daftarkan akun Alibaba Cloud dan ikuti petunjuk untuk menyelesaikan pendaftaran.
Aktifkan metode penagihan bayar sesuai pemakaian untuk AI Guardrails. Pastikan layanan tersebut telah diaktifkan. Untuk informasi selengkapnya, lihat Aktifkan Layanan. Tidak ada biaya untuk mengaktifkan layanan ini. Setelah menggunakan API, sistem akan secara otomatis menagih Anda berdasarkan penggunaan. Untuk informasi selengkapnya, lihat Deskripsi penagihan.
Buat AccessKey di Konsol RAM. Untuk informasi selengkapnya, lihat Buat AccessKey. Jika Anda menggunakan AccessKey Pengguna Resource Access Management (RAM), Anda harus memberikan izin AliyunYundunGreenWebFullAccess kepada Pengguna RAM tersebut melalui Akun Alibaba Cloud Anda. Untuk informasi selengkapnya, lihat Berikan izin kepada Pengguna RAM.
Kembangkan dan integrasikan layanan. Kami menyarankan Anda memanggil operasi menggunakan kit pengembangan perangkat lunak (SDK). Untuk informasi selengkapnya, lihat SDK Moderasi Video v2.0 dan panduan integrasi.
Layanan moderasi aliran video langsung mencakup tiga Operasi API berikut:
- VideoModeration: Kirim pekerjaan moderasi aliran langsung
- VideoModerationResult: Kueri hasil pekerjaan moderasi aliran langsung
- VideoModerationCancel: Batalkan pekerjaan moderasi aliran langsung

Kirim pekerjaan moderasi

Deskripsi API

Operasi API: VideoModeration. Operasi ini hanya mendukung moderasi asinkron untuk aliran video langsung.

Wilayah dan Titik akhir yang didukung:

Wilayah	Titik akhir publik	Titik akhir VPC	Layanan yang didukung
Singapura	green-cip.ap-southeast-1.aliyuncs.com	green-cip-vpc.ap-southeast-1.aliyuncs.com	liveStreamDetection_global, liveStreamDetectionByVL_global
AS (Virginia)	https://green-cip.us-east-1.aliyuncs.com	https://green-cip-vpc.us-east-1.aliyuncs.com	liveStreamDetection_global
AS (Silicon Valley)	https://green-cip.us-west-1.aliyuncs.com	Not available
Jerman (Frankfurt)	green-cip.eu-central-1.aliyuncs.com	Not available

Penagihan:
Ini adalah operasi berbayar. Anda dikenai biaya berdasarkan kebijakan moderasi yang dikonfigurasi untuk frame video dan audio langsung. Untuk frame video langsung, Anda dapat memilih beberapa layanan. Total biaya dihitung dengan mengalikan jumlah tangkapan video dengan harga satuan setiap layanan. Jika Anda juga memoderasi audio dalam aliran langsung terkait pelanggaran, Anda akan dikenai biaya tambahan yang dihitung berdasarkan durasi video dikalikan harga satuan fitur moderasi audio. Untuk informasi selengkapnya tentang metode penagihan, lihat Penagihan.
Objek deteksi: Aliran video langsung.
Tanggapan: Pekerjaan moderasi asinkron tidak mengembalikan hasil secara real time. Anda harus memperoleh hasil moderasi menggunakan callback atau polling.
- Gunakan callback untuk memperoleh hasil moderasi: Saat mengirim pekerjaan moderasi asinkron, tentukan parameter callback dalam permintaan agar hasil moderasi diterima secara otomatis.
- Gunakan polling untuk memperoleh hasil moderasi: Saat mengirim pekerjaan moderasi asinkron, jangan tentukan parameter callback. Setelah mengirim pekerjaan, panggil operasi kueri hasil untuk memperoleh hasil moderasi.
Persyaratan aliran langsung:
- Protokol yang didukung: RTMP, HLS, HTTP-FLV, dan RTSP.
- Batas durasi aliran langsung: Satu pekerjaan moderasi aliran video dapat berlangsung maksimal 24 jam. Pekerjaan akan berakhir secara otomatis jika melebihi batas ini.

Konfigurasi aturan deteksi:

Untuk panggilan pertama, Anda dapat mengonfigurasi aturan moderasi aliran langsung di Konsol Moderasi Konten.

Jika tidak menetapkan aturan apa pun, API Live Stream Moderation V2.0 menggunakan konfigurasi default berikut:

Layanan	Konfigurasi default
Deteksi aliran langsung (liveStreamDetection_global)	Frekuensi pengambilan frame tetap: 1 frame/detik Layanan deteksi frame video: Deteksi garis dasar umum (baselineCheck_global) Deteksi audio video: Diaktifkan Layanan deteksi audio video: Deteksi aliran langsung sosial dan hiburan (live_stream_detection_global) Metode pengembalian hasil: Hanya mengembalikan hasil dengan ancaman yang terdeteksi
Deteksi aliran langsung (model besar) (liveStreamDetectionByVL_global) Catatan Saat ini hanya didukung di wilayah Beijing dan Shanghai. Versi model besar dibatasi hingga 10 titik masuk ingest bersamaan.	Frekuensi pengambilan frame tetap: 1 frame/detik Layanan deteksi frame video: Layanan moderasi gambar dengan model besar dan kecil (postImageCheckByVL) Deteksi audio video: Diaktifkan Layanan deteksi audio video: Deteksi aliran langsung sosial dan hiburan untuk wilayah di luar Tiongkok (live_stream_detection_cb) Metode pengembalian hasil: Hanya mengembalikan hasil dengan ancaman yang terdeteksi

Batas QPS

Batas permintaan per detik (QPS) untuk operasi ini adalah 100 per pengguna. Jumlah aliran moderasi bersamaan dibatasi hingga 50, artinya maksimal 50 pekerjaan dapat diproses secara bersamaan. Untuk meningkatkan batas ini, hubungi manajer bisnis Anda. Jika batas dilampaui, panggilan API akan dikendalikan alirannya, yang dapat memengaruhi bisnis Anda. Panggil operasi ini secara wajar.

Debugging

Sebelum integrasi, Anda juga dapat menggunakan Alibaba Cloud OpenAPI untuk melakukan debugging API VideoModeration secara online, melihat contoh kode dan informasi dependensi SDK, serta memperoleh ikhtisar metode dan parameter API.

Penting

Fitur debugging online menggunakan akun yang sedang login untuk memanggil Operasi API AI Guardrails. Oleh karena itu, jumlah pemanggilan termasuk dalam penggunaan yang dapat ditagihkan dari akun tersebut.

Parameter permintaan

Nama

Tipe

Wajib

Contoh

Deskripsi

Service

String

liveStreamDetection_global

Jenis layanan moderasi. Nilai yang valid:

liveStreamDetection_global: moderasi aliran video langsung
liveStreamDetectionByVL_global: moderasi aliran video langsung (edisi model besar)

ServiceParameters

JSONString

Parameter yang diperlukan oleh layanan moderasi. Parameter ini berupa string JSON. Untuk informasi selengkapnya tentang parameter, lihat Tabel 1. ServiceParameters.

Tabel 1. ServiceParameters

Nama	Tipe	Wajib	Contoh	Deskripsi
url	String	Ya	http://www.aliyundoc.com/a.flv	URL objek yang akan dimoderasi. Pastikan URL tersebut dapat diakses melalui Internet. Panjang URL dapat mencapai 2.048 karakter. Catatan URL tidak boleh mengandung karakter Tionghoa. Pastikan Anda hanya menentukan satu URL dalam setiap permintaan.
callback	String	Tidak	http://www.aliyundoc.com	URL tempat hasil moderasi dikirim melalui callback. HTTP dan HTTPS didukung. Jika Anda mengosongkan parameter ini, Anda harus melakukan polling untuk memperoleh hasil moderasi. Antarmuka callback harus mendukung permintaan POST, data berkode UTF-8, serta parameter form checksum dan content. AI Guardrails menetapkan parameter checksum dan content berdasarkan aturan dan format berikut, lalu memanggil antarmuka callback Anda untuk mengembalikan hasil moderasi. checksum: String yang dihasilkan dengan menerapkan algoritma SHA256 pada string baru yang dibuat dengan menggabungkan `UID pengguna + seed + content`. UID pengguna adalah ID akun Alibaba Cloud Anda, yang dapat Anda temukan di Konsol Manajemen Alibaba Cloud. Untuk mencegah perubahan, saat menerima hasil yang didorong, Anda dapat membuat string menggunakan algoritma yang sama dan memverifikasinya terhadap checksum. Catatan UID pengguna harus merupakan UID akun Alibaba Cloud, bukan UID Pengguna RAM. content: Nilainya berupa string berformat JSON. Anda harus mengurai dan membalik string tersebut untuk memperoleh objek JSON. Untuk contoh hasil content, lihat tanggapan contoh untuk kueri deteksi. Catatan Setelah server callback Anda menerima hasil yang didorong oleh AI Guardrails, jika kode status HTTP yang dikembalikan adalah 200, hasil tersebut berhasil diterima. Kode status HTTP lainnya menunjukkan kegagalan. Jika hasil gagal diterima, AI Guardrails akan mencoba mendorong kembali hasil moderasi hingga 16 kali sampai hasil berhasil diterima. Jika hasil masih belum diterima setelah 16 kali percobaan, hasil tersebut tidak akan didorong lagi. Kami menyarankan Anda memeriksa status antarmuka callback Anda.
seed	String	Tidak	abc****	String acak yang digunakan untuk signature dalam permintaan notifikasi callback. String dapat berisi huruf, angka, dan garis bawah (_), serta panjangnya dapat mencapai 64 karakter. Anda dapat menyesuaikan nilai ini untuk memverifikasi bahwa permintaan notifikasi callback berasal dari layanan AI Guardrails Alibaba Cloud. Catatan Parameter ini wajib saat Anda menggunakan callback.
cryptType	String	Tidak	SHA256	Algoritma enkripsi untuk signature dalam notifikasi callback. AI Guardrails menghitung signature untuk hasil yang dikembalikan (string `UID pengguna + seed + content`) berdasarkan algoritma enkripsi yang Anda tentukan, lalu mengirim signature tersebut ke URL callback Anda. Nilai yang valid: SHA256 (default): menggunakan algoritma enkripsi SHA256. SM3: menggunakan algoritma kriptografi Tiongkok HMAC-SM3. String heksadesimal yang terdiri dari huruf kecil dan angka dikembalikan. Contohnya, setelah `abc` dienkripsi menggunakan algoritma SM3, `66c7f0f462eeedd9d1f2d46bdc10e4e24167c4875cf2f7a2297da02b8f4ba8e0` dikembalikan.
dataId	String	Tidak	videoId****	ID data objek. ID dapat berisi huruf kapital, huruf kecil, angka, garis bawah (_), tanda hubung (-), dan titik (.), serta panjangnya dapat mencapai 128 karakter. Anda dapat menggunakan ID ini untuk mengidentifikasi data bisnis Anda secara unik.
liveId	String	Tidak	liveId****	ID aliran video langsung. Parameter ini digunakan untuk menghapus duplikat pekerjaan moderasi aliran video langsung dan mencegah moderasi berulang. Jika Anda menentukan parameter ini, sistem akan memeriksa apakah pekerjaan moderasi aliran langsung sedang berlangsung berdasarkan kombinasi `UID+service+liveId`. Jika pekerjaan sedang berlangsung, sistem akan mengembalikan taskId pekerjaan yang ada dan tidak memulai pekerjaan baru.

Catatan

Setelah server callback Anda menerima hasil yang didorong oleh AI Guardrails, kode status HTTP 200 menunjukkan bahwa hasil tersebut berhasil diterima. Kode status HTTP lainnya menunjukkan kegagalan. Jika hasil tidak diterima, AI Guardrails akan mencoba mendorong kembali hasil moderasi hingga 16 kali. Jika hasil masih belum diterima setelah 16 kali percobaan, AI Guardrails akan berhenti mendorong hasil tersebut. Kami menyarankan Anda memeriksa status antarmuka callback Anda.

Parameter respons

Nama	Type	Contoh	Deskripsi
Code	Integer	200	Kode status. Untuk informasi selengkapnya, lihat Deskripsi kode.
Data	JSONObject	{"TaskId": "AAAAA-BBBBB"}	Data hasil moderasi.
Message	String	OK	Pesan respons untuk permintaan.
RequestId	String	ABCD1234-1234-1234-1234-123****	ID permintaan.

Contoh

Permintaan contoh

{
    "Service": "liveStreamDetection_global",
    "ServiceParameters": {
        "url": "http://www.aliyundoc.com/a.flv",
        "dataId": "videoId****",
        "liveId": "liveId****"
    }
}

Tanggapan sukses contoh

{
    "Msg": "OK",
    "Code": 200,
    "Data":
    {
        "TaskId": "AAAAA-BBBBB",
        "DataId": "videoId****"
    },
    "RequestId": "ABCD1234-1234-1234-1234-123****"
}

Kueri hasil pekerjaan moderasi aliran langsung

Deskripsi API

Operasi API: VideoModerationResult.

Penagihan: Operasi ini tidak dikenai biaya.
Timeout kueri: Anda dapat mengatur interval kueri menjadi 30 detik, artinya Anda dapat mengkueri hasil 30 detik setelah mengirim pekerjaan moderasi asinkron. Periode kueri maksimum adalah 24 jam. Setelah 24 jam, hasil akan dihapus secara otomatis.
Pengembalian hasil: Jika aliran langsung sedang berlangsung, 10 hasil moderasi terakhir dikembalikan untuk setiap kueri. Jika aliran langsung telah berakhir, semua hasil moderasi dikembalikan.

Batas QPS

Batas QPS untuk operasi ini adalah 100 per pengguna. Jika batas dilampaui, panggilan API akan dikendalikan alirannya, yang dapat memengaruhi bisnis Anda. Panggil operasi ini secara wajar.

Debugging

Sebelum integrasi, Anda juga dapat menggunakan Alibaba Cloud OpenAPI untuk melakukan debugging API VideoModerationResult secara online. Hal ini memungkinkan Anda melihat contoh kode dan informasi dependensi SDK serta memperoleh ikhtisar metode dan parameter API.

Parameter permintaan

Nama

Tipe

Wajib

Contoh

Deskripsi

Service

String

liveStreamDetection_global

Jenis layanan moderasi. Nilainya harus sama dengan jenis layanan yang Anda tentukan saat mengirim pekerjaan moderasi.

ServiceParameters

JSONString

Parameter yang diperlukan oleh layanan moderasi. Parameter ini berupa string JSON. Untuk informasi selengkapnya tentang parameter, lihat Tabel 1. ServiceParameters.

Tabel 1. ServiceParameters

Nama	Tipe	Wajib	Contoh	Deskripsi
taskId	string	Ya	abcd****	taskId pekerjaan moderasi yang akan dikueri. Anda hanya dapat menentukan satu taskId dalam satu waktu. Catatan Anda dapat memperoleh taskId pekerjaan moderasi dari data respons setelah mengirim pekerjaan.

Parameter respons

Nama	Tipe	Contoh	Deskripsi
RequestId	String	ABCD1234-1234-1234-1234-123****	ID permintaan. Ini adalah pengenal unik yang dihasilkan oleh Alibaba Cloud untuk permintaan dan dapat digunakan untuk troubleshooting.
Data	Object		Hasil moderasi konten aliran langsung. Untuk informasi selengkapnya, lihat Tabel 2. Data.
Code	String	200	Kode status. Untuk informasi selengkapnya, lihat Deskripsi kode.
Message	String	OK	Pesan respons untuk permintaan.

Tabel 2. Data

Nama	Type	Contoh	Deskripsi
DataId	String	videoId****	ID data objek. Catatan Jika Anda menentukan parameter dataId dalam permintaan moderasi, DataId yang sesuai akan dikembalikan.
LiveId	String	liveId****	ID aliran langsung. Catatan Jika Anda menentukan parameter liveId dalam permintaan moderasi, LiveId yang sesuai akan dikembalikan.
TaskId	String	AAAAA-BBBBB	ID pekerjaan moderasi.
RiskLevel	String	high	Tingkat risiko aliran langsung. Nilai ini ditentukan berdasarkan hasil moderasi frame video dan audio. Nilai yang valid: high: risiko tinggi medium: risiko menengah low: risiko rendah none: tidak ada risiko yang terdeteksi Catatan Kami menyarankan Anda menangani konten berisiko tinggi secara langsung, meninjau secara manual konten berisiko menengah, dan hanya menangani konten berisiko rendah ketika recall tinggi diperlukan. Dalam kasus lain, kami menyarankan Anda menangani konten berisiko rendah seperti konten tanpa risiko yang terdeteksi. Anda dapat mengonfigurasi skor risiko untuk frame video di Konsol AI Guardrails.
FrameResult	JSONObject		Hasil moderasi frame video. Jika panggilan berhasil (kode=200), struct dikembalikan. Untuk informasi selengkapnya tentang struct, lihat Tabel 3. FrameResult. Catatan Untuk moderasi aliran video, kode status 280 menunjukkan bahwa moderasi sedang berlangsung, dan 200 menunjukkan bahwa moderasi telah selesai. Jika moderasi sedang berlangsung, hasil moderasi berisi hasil yang terdeteksi dari awal moderasi hingga waktu saat ini.
AudioResult	JSONObject		Hasil moderasi audio. Struct dikembalikan. Untuk informasi selengkapnya tentang struct, lihat Tabel 8. audioResult.

Tabel 3. FrameResult

Nama	Tipe	Contoh	Deskripsi
FrameNum	Integer	200	Jumlah tangkapan yang dikembalikan untuk frame video.
FrameSummarys	JSONArray		Rangkuman label untuk frame video. Untuk informasi selengkapnya tentang struct, lihat Tabel 4. FrameSummarys.
RiskLevel	String	high	Tingkat risiko frame video. Nilai ini dihitung berdasarkan semua tangkapan aliran langsung. Nilai yang valid: high: risiko tinggi medium: risiko menengah low: risiko rendah none: tidak ada risiko yang terdeteksi
Frames	JSONArray		Informasi tentang frame aliran langsung yang terkena label. Untuk informasi selengkapnya tentang struct, lihat Tabel 5. Frames.

Tabel 4. FrameSummarys

Nama	Tipe	Contoh	Deskripsi
Label	String	violent_armedForces	Label frame video.
Description	String	Diduga mengandung kembang api	Deskripsi bidang Label. Penting Bidang ini memberikan penjelasan tentang bidang Label dan dapat berubah sewaktu-waktu. Kami menyarankan Anda menangani hasil berdasarkan bidang Label, bukan bidang ini.
LabelSum	Integer	8	Jumlah kemunculan label.

Tabel 5. Frames

Nama	Tipe	Contoh	Deskripsi
TempUrl	String	http://www.aliyundoc.com/test.jpg	URL sementara frame aliran langsung. URL berlaku selama 30 menit. Segera simpan frame tersebut. Catatan Jika penyimpanan bukti video diaktifkan, URL OSS frame video yang disimpan akan dikembalikan.
Offset	Float	50.5	Timestamp frame aliran langsung relatif terhadap awal aliran langsung. Satuan: detik.
Timestamp	Integer	1684559739000	Timestamp absolut saat frame diproses. Satuan: milidetik.
RiskLevel	String	high	Tingkat risiko frame aliran langsung, dikembalikan berdasarkan skor risiko tinggi dan rendah yang dikonfigurasi. Nilai yang valid: high: risiko tinggi medium: risiko menengah low: risiko rendah none: tidak ada risiko yang terdeteksi Catatan Kami menyarankan Anda menangani konten berisiko tinggi secara langsung, meninjau secara manual konten berisiko menengah, dan hanya menangani konten berisiko rendah ketika recall tinggi diperlukan. Dalam kasus lain, kami menyarankan Anda menangani konten berisiko rendah seperti konten tanpa risiko yang terdeteksi. Anda dapat mengonfigurasi skor risiko untuk frame video di konfigurasi aturan Konsol AI Guardrails.
Results	JSONArray		Hasil moderasi frame aliran langsung, termasuk label risiko dan skor kepercayaan. Untuk informasi selengkapnya, lihat Tabel 6. Results.

Tabel 6. Results

Nama	Type	Contoh	Deskripsi
Service	String	baselineCheck_global	Layanan moderasi frame yang dipanggil.
Result	Array		Hasil moderasi frame aliran langsung, termasuk label risiko dan skor kepercayaan. Untuk informasi selengkapnya, lihat Tabel 7. Result.

Tabel 7. Result

Nama	Tipe	Contoh	Deskripsi
Label	String	violent_explosion	Label risiko yang dikembalikan oleh moderasi frame aliran langsung. Label ini mengidentifikasi jenis risiko spesifik yang terdeteksi dalam frame, seperti konten politik, konten dewasa, konten kekerasan, atau pelanggaran iklan. Satu frame dapat memiliki beberapa label, masing-masing dengan skor kepercayaan yang sesuai. Label bervariasi tergantung layanan moderasi yang dikonfigurasi dalam permintaan Anda (parameter `service`): Layanan keamanan konten umum (`baselineCheck`, `baselineCheck_pro`, `baselineCheck_cb`, `baselineCheck_global`): mengembalikan label untuk kategori risiko umum seperti konten politik, pornografi, kekerasan, dan iklan. Layanan deteksi risiko aliran langsung dan umum (`liveStreamCheck`, `riskDetection`, `riskDetection_cb`): mengembalikan label untuk risiko khusus siaran langsung. Layanan deteksi konten yang dihasilkan AI (`aigcCheck`, `aigcCheck_cb`, `aigcDetector_global`): mengembalikan label yang mengidentifikasi konten yang dihasilkan AI. Layanan model bahasa-visi (`baselineCheckByVL`, dan layanan moderasi gambar berbasis model besar lainnya): mengembalikan label risiko detail halus. Layanan moderasi tertarget (`profilePhotoCheck`, `postImageCheck`, `advertisingCheck`, `tonalityImprove`): mengembalikan label spesifik untuk tipe konten yang dimoderasi. Untuk daftar lengkap label yang didukung untuk setiap layanan moderasi, lihat API Moderasi File Video Edisi Tingkat Lanjut 2.0.
Confidence	Float	81.22	Skor kepercayaan, berkisar dari 0 hingga 100. Nilai akurat hingga dua tempat desimal.
Description	String	Diduga mengandung kembang api	Deskripsi bidang Label. Penting Bidang ini memberikan penjelasan tentang bidang Label dan dapat berubah. Saat memproses hasil, gunakan bidang Label, bukan bidang ini.

Tabel 8. audioResult

Nama	Type	Contoh	Deskripsi
AudioSummarys	JSONArray		Rangkuman label audio. Untuk informasi selengkapnya tentang struct, lihat Tabel 9. AudioSummarys.
RiskLevel	String	high	Tingkat risiko audio. Nilai ini dihitung berdasarkan semua segmen audio. Nilai yang valid: high: risiko tinggi medium: risiko menengah low: risiko rendah none: tidak ada risiko yang terdeteksi
SliceDetails	JSONArray		Detail teks yang dikonversi dari audio. Setiap elemen sesuai dengan satu kalimat. Nilainya berisi satu atau lebih elemen. Untuk informasi selengkapnya tentang struct, lihat Tabel 10. SliceDetails.

Catatan

Bidang hasil risiko yang dikembalikan dalam setiap elemen SliceDetails bergantung pada versi layanan moderasi audio yang dikonfigurasi dalam aturan moderasi aliran langsung:

Versi model besar (misalnya, liveStreamDetectionByVL, liveStreamDetectionByVL_cb, atau liveStreamDetectionByVL_global): Hasil risiko dikembalikan dalam bidang result.
Versi model kecil (misalnya, liveStreamDetection, liveStreamDetection_cb, atau liveStreamDetection_global): Hasil risiko dikembalikan dalam bidang Labels, RiskLevel, RiskWords, dan RiskTips.

Tabel 9. AudioSummarys

Nama	Tipe	Contoh	Deskripsi
Label	String	profanity	Label audio video.
LabelSum	Integer	8	Jumlah kemunculan label.

Tabel 10. SliceDetails

Nama	Tipe	Contoh	Deskripsi
StartTime	Integer	0	Waktu mulai kalimat. Satuan: detik.
EndTime	Integer	4065	Waktu akhir kalimat. Satuan: detik.
StartTimestamp	Integer	1678854649720	Timestamp awal segmen. Satuan: milidetik.
EndTimestamp	Integer	1678854649720	Timestamp akhir segmen. Satuan: milidetik.
Text	String	disgusting	Konten teks yang dikonversi dari audio.
Url	String	https://aliyundoc.com/test.wav	Jika konten yang dimoderasi adalah aliran audio, parameter ini menunjukkan URL sementara aliran audio yang sesuai dengan teks. URL berlaku selama 30 menit. Segera simpan aliran audio tersebut.
RiskLevel	String	high	Tingkat risiko segmen audio. Nilai yang valid: high: risiko tinggi medium: risiko menengah low: risiko rendah none: tidak ada risiko yang terdeteksi
Labels	String	political_content,xxxx	Detail label. Beberapa label dipisahkan dengan koma. Saat versi model kecil layanan moderasi audio dipilih, hasil risiko dikembalikan dalam bidang `Labels`, `RiskWords`, `RiskTips`, dan `Extend`. Saat versi model besar dipilih, hasil risiko dikembalikan dalam bidang Result. Nilai yang valid: ad: Konten terkait iklan violence: Konten kekerasan atau teroris political_content: Konten politik specified_speaking: Konten ucapan spesifik specified_lyrics: Lirik lagu spesifik sexual_content: Konten seksual sexual_sounds: Suara seksual contraband: Konten barang selundupan profanity: Konten kasar religion: Konten agama cyberbullying: Perundungan siber negative_content: Konten negatif nontalk: Audio diam C_customized: Terkena pustaka kustom
RiskWords	String	AAA,BBB,CCC	Kata-kata berisiko yang terkena. Beberapa kata dipisahkan dengan koma.
RiskTips	String	porn_vulgar_words,porn_description	Sub-label. Beberapa label dipisahkan dengan koma.
Extend	String	{"riskTips":"porn_vulgar_words","riskWords":"pornographic_service"}	Bidang cadangan.
Result	JSONArray		Hasil deteksi risiko terperinci untuk potongan audio ini. Bidang ini hanya dikembalikan saat layanan moderasi audio dikonfigurasi untuk menggunakan versi model besar. Saat versi model kecil digunakan, bidang ini tidak dikembalikan dan hasil risiko dikembalikan dalam bidang Labels, RiskWords, RiskTips, dan bidang lainnya. Struktur bidang konsisten dengan bidang Result dari API model besar moderasi audio. Deskripsi subfield sebagai berikut.

Tabel 10-1. Hasil

Parameter	Tipe	Contoh	Deskripsi
Label	String	political_entity	Label yang dikembalikan setelah deteksi konten audio. Beberapa label dan skor dapat terdeteksi. Berisi label kebijakan teks dan label khusus audio: Untuk label kebijakan teks, lihat bagian Label Risiko Label khusus audio meliputi: specified_nontalk: Audio diam specified_speaking: Suara tertentu sexual_sounds: Suara erangan Catatan Suara tertentu dan suara erangan tidak terdeteksi secara default. Hubungi manajer akun Anda untuk mengaktifkan deteksi.
Description	String	Diduga konten pornografi	Deskripsi bidang Label. Penting Bidang ini memberikan penjelasan tentang bidang Label dan dapat berubah. Saat memproses hasil, gunakan bidang Label, bukan bidang ini.
Confidence	Float	81.22	Skor kepercayaan, berkisar dari 0 hingga 100, dibulatkan ke 2 tempat desimal. Beberapa label mungkin tidak memiliki skor kepercayaan.
RiskLevel	String	high	Tingkat risiko label saat ini. Nilai yang valid: high: Risiko tinggi medium: Risiko menengah low: Risiko rendah none: Tidak ada risiko yang terdeteksi
Riskwords	String	AA,BB,CC	Kata sensitif yang terdeteksi, dipisahkan dengan koma. Beberapa label mungkin tidak mengembalikan kata sensitif.
CustomizedHit	JSONArray	[{"LibName":"...","Keywords":"..."}]	Saat pustaka kustom cocok, Label-nya dikustomisasi, dan nama pustaka kustom serta kata kustom dikembalikan. Untuk detailnya, lihat Tabel 10-2 CustomizedHit.
RiskPositions	JSONArray		Informasi posisi kata sensitif yang terdeteksi. Untuk informasi selengkapnya, lihat Tabel 10-3 RiskPositions.

Tabel 10-2. CustomizedHit

Parameter	Tipe	Contoh	Deskripsi
LibName	String	CustomLib1	Nama pustaka kustom
Keywords	String	keyword1,keyword2	Kata kustom, dipisahkan dengan koma.

Tabel 10-3. RiskPositions

Parameter	Tipe	Contoh	Deskripsi
RiskWord	String	AA	Kata sensitif yang terdeteksi.
StartPos	Integer	10	Posisi awal kata sensitif.
EndPos	Integer	12	Posisi akhir kata sensitif.

Contoh

Permintaan contoh

{
    "Service": "liveStreamDetection_global",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

Tanggapan sukses contoh

Hanya memoderasi video aliran langsung

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "success finished",
    "Data": {
        "DataId": "dc16c28f-xxxx-xxxx-xxxx-51efe0131080",
        "LiveId": "live0307-0728-****",
        "RiskLevel": "high",
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "Diduga mengandung kembang api",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "Diduga mengandung konten telanjang atau seksual",
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "none",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "Tidak ada risiko yang terdeteksi"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg",
                    "Timestamp": 1704769999000
                },
                {
                    "Offset": 2,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 78.88,
                                    "Label": "sexual_cleavage",
                                    "Description": "Diduga mengandung konten telanjang atau seksual"
                                },
                              	{
                                    "Confidence": 74.18,
                                    "Label": "violent_explosion",
                                    "Description": "Diduga mengandung kembang api"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg",
                    "Timestamp": 1704769989000
                }
            ]
        }
    }
}

Moderasi video dan audio aliran langsung

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "success finished",
    "Data": {
        "DataId": "dc16c28f-xxxx-xxxx-xxxx-51efe0131080",
        "LiveId": "live0307-0728-****",
        "RiskLevel": "high",
        "AudioResult": {
            "AudioSummarys": [
                {
                    "Label": "sexual_sounds",
                    "LabelSum": 3
                }
            ],
            "RiskLevel": "high",
            "SliceDetails": [
                {
                    "EndTime": 60,
                    "EndTimestamp": 1698912813192,
                    "Labels": "",
                    "RiskLevel": "none",
                    "StartTime": 30,
                    "StartTimestamp": 1698912783192,
                    "Text": "AI Guardrails",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                },
                {
                    "EndTime": 30,
                    "EndTimestamp": 1698912813192,
                    "Extend": "{\"customizedWords\":\"service\",\"customizedLibs\":\"test\"}",
                    "Labels": "C_customized",
                    "RiskLevel": "high",
                    "StartTime": 0,
                    "StartTimestamp": 1698912783192,
                    "Text": "Selamat datang di layanan AI Guardrails Alibaba Cloud",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                }
            ]
        },
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "Diduga mengandung kembang api",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "Diduga mengandung konten telanjang atau seksual",
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "none",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "Tidak ada risiko yang terdeteksi"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg",
                    "Timestamp": 1704769999000
                },
                {
                    "Offset": 2,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 74.18,
                                    "Label": "violent_explosion",
                                    "Description": "Diduga mengandung kembang api"
                                },
                                {
                                    "Confidence": 78.88,
                                    "Label": "sexual_cleavage",
                                    "Description": "Diduga mengandung konten telanjang atau seksual"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg",
                    "Timestamp": 1704769989000
                }
            ]
        }
    }
}

Batalkan pekerjaan moderasi aliran langsung

Deskripsi API

Anda dapat memanggil operasi ini untuk membatalkan pekerjaan moderasi aliran langsung.

Operasi API: VideoModerationCancel.

Penagihan: Operasi ini tidak dikenai biaya.

Debugging

Sebelum integrasi, Anda juga dapat menggunakan Alibaba Cloud OpenAPI untuk melakukan debugging API VideoModerationCancel secara online dan melihat contoh kode panggilan serta informasi dependensi SDK untuk ikhtisar penggunaan dan parameter API.

Parameter permintaan

Nama

Type

Wajib

Contoh

Deskripsi

Service

String

liveStreamDetection_global

Jenis layanan moderasi. Nilainya harus sama dengan jenis layanan yang Anda tentukan saat mengirim pekerjaan moderasi.

ServiceParameters

JSONString

Parameter yang diperlukan oleh layanan. Parameter ini berupa string JSON. Untuk informasi selengkapnya tentang parameter, lihat Tabel 11. ServiceParameters.

Tabel 11. ServiceParameters

Nama

Tipe

Wajib

Contoh

Deskripsi

taskId

string

abcd****

taskId pekerjaan moderasi yang akan dibatalkan. Anda hanya dapat menentukan satu taskId dalam satu waktu.

Catatan: Anda dapat memperoleh taskId pekerjaan moderasi dari data respons setelah mengirim pekerjaan.

Parameter respons

Nama	Tipe	Contoh	Deskripsi
Code	Integer	200	Kode status. Untuk informasi selengkapnya, lihat Deskripsi kode.
Message	String	OK	Pesan respons untuk permintaan.
RequestId	String	AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****	ID permintaan.

Contoh

Permintaan contoh

{
    "Service": "liveStreamDetection",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

Tanggapan contoh

{
    "Msg": "OK",
    "Code": 200,
    "RequestId": "70ED13B0-BC22-576D-9CCF-1CC12FEAC477"
}

Deskripsi kode

Topik ini menjelaskan kode respons untuk API auditing aliran video langsung 2.0. Anda hanya dikenai biaya untuk permintaan yang mengembalikan kode respons 200 atau 280. Permintaan yang mengembalikan kode respons lainnya tidak dikenai biaya.

Kode	Deskripsi
200	Permintaan berhasil atau moderasi selesai.
280	Moderasi sedang berlangsung.
400	Parameter permintaan kosong.
401	Parameter permintaan tidak valid.
402	Panjang parameter permintaan tidak memenuhi persyaratan. Periksa parameter dan coba lagi.
403	Jumlah kueri per detik (QPS) melebihi batas. Periksa jumlah permintaan bersamaan dan coba lagi.
404	Terjadi kesalahan saat mengunduh video. Periksa video dan coba lagi.
405	Waktu tunggu unduhan video habis. Video mungkin tidak dapat diakses. Periksa video dan coba lagi.
406	Video terlalu besar. Periksa ukuran video dan coba lagi.
407	Format video tidak didukung. Periksa format dan coba lagi.
408	Anda tidak memiliki izin untuk memanggil operasi ini. Akun Anda mungkin belum mengaktifkan layanan, memiliki pembayaran tertunda, atau tidak diberikan izin yang diperlukan.
409	TaskId yang ditentukan tidak ada. Hasil mungkin telah kedaluwarsa karena disimpan lebih dari 24 jam.
480	Jumlah aliran moderasi bersamaan melebihi batas. Periksa jumlah permintaan bersamaan dan coba lagi.
500	Terjadi kesalahan sistem.