AI Guardrails:API Moderasi File Video Enhanced 2.0

Integrasi

1. Daftar akun Alibaba Cloud. Daftar sekarang. Ikuti petunjuk di layar untuk menyelesaikan pendaftaran.

2. Aktifkan model bayar sesuai penggunaan untuk Content Moderation. Untuk detailnya, lihat Aktifkan Layanan. Aktivasi gratis. Penagihan didasarkan pada penggunaan API. Untuk informasi lebih lanjut, lihat Penagihan.

3. Buat AccessKey di RAM. Untuk petunjuknya, lihat Buat AccessKey. Jika Anda menggunakan AccessKey Pengguna RAM (sub-akun), berikan izin AliyunYundunGreenWebFullAccess kepada Pengguna RAM tersebut menggunakan Akun Alibaba Cloud Anda (akun utama). Untuk petunjuknya, lihat Otorisasi RAM.

4. Kami merekomendasikan penggunaan SDK untuk memanggil API. Untuk informasi lebih lanjut, lihat SDK dan panduan integrasi Video Moderation-Enhanced 2.0.

5. Layanan moderasi file video mencakup dua API berikut:

   • VideoModeration: Mengirimkan tugas moderasi file video.

   • VideoModerationResult: Mendapatkan hasil moderasi file video.

Kirimkan tugas moderasi

API

• Operasi API: VideoModeration. Operasi ini hanya mendukung deteksi asinkron file video.

• Wilayah dan titik akhir yang didukung:

  Region	Public endpoint	Private endpoint	Services
  Singapore	green-cip.ap-southeast-1.aliyuncs.com	green-cip-vpc.ap-southeast-1.aliyuncs.com	videoDetection_global, videoDetectionByVL_global
  US (Virginia)	green-cip.us-east-1.aliyuncs.com	green-cip-vpc.us-east-1.aliyuncs.com	videoDetection_global
  US (Silicon Valley)	green-cip.us-west-1.aliyuncs.com	Not available
  Germany (Frankfurt)	green-cip.eu-central-1.aliyuncs.com	Not available

• Penagihan:

  Ini adalah operasi berbayar. Anda ditagih berdasarkan kebijakan moderasi frame video dan audio yang Anda konfigurasikan. Untuk frame video, Anda dapat memilih beberapa layanan. Total biaya adalah jumlah frame yang diambil dikalikan dengan harga satuan setiap layanan yang dipilih. Jika Anda juga mengaktifkan moderasi konten audio, Anda akan dikenai biaya tambahan. Biaya ini dihitung dengan mengalikan durasi video dengan harga satuan fitur moderasi audio. Untuk informasi lebih lanjut tentang penagihan, lihat Penagihan.

• Target moderasi: Layanan ini mendukung file video.

• Respons: Tugas deteksi asinkron tidak mengembalikan hasil secara real time. Anda dapat mengambil hasil melalui callback atau polling. Hasil disimpan maksimal selama 24 jam.

  • Ambil hasil menggunakan callback: Saat mengirimkan tugas deteksi asinkron, sertakan parameter callback dalam permintaan untuk secara otomatis menerima hasilnya.

  • Ambil hasil menggunakan polling: Saat mengirimkan tugas deteksi asinkron, jangan sertakan parameter callback. Setelah tugas dikirim, panggil API kueri hasil untuk mendapatkan hasilnya.

• Persyaratan video:

  • URL file video harus menggunakan protokol HTTP atau HTTPS.

  • Layanan ini mendukung format file video berikut: AVI, FLV, MP4, MPG, ASF, WMV, MOV, WMA, RMVB, RM, FLASH, TS, M3U8, dan lainnya.

  • Batas ukuran video: Secara default, ukuran maksimum satu file video adalah 500 MB. Jika file video Anda melebihi batas ini, Anda dapat menggunakan chunking. Atau, Anda dapat menghubungi kami untuk menambah batas ukuran.

  • Waktu moderasi video bergantung pada kecepatan unduh file. Untuk memastikan unduhan yang stabil dan andal, kami merekomendasikan agar Anda menyimpan file video di Alibaba Cloud OSS.

• Konfigurasi aturan moderasi:

  • Sebelum memanggil operasi ini untuk pertama kalinya, Anda harus mengonfigurasi aturan moderasi video di Konsol Content Moderation.

    Catatan

    Di konsol, Anda dapat mengonfigurasi pengaturan seperti metode pengambilan frame, frekuensi pengambilan frame, aturan moderasi frame, aturan moderasi audio, dan cakupan hasil. Untuk petunjuknya, lihat Panduan Pengguna Konsol.

• Secara default, API review video 2.0 menggunakan pengaturan berikut:

  Service	Default configuration
  Video File Detection (Global) (videoDetection_global)	Interval pengambilan frame: 1 detik Layanan deteksi frame video: Deteksi Garis Dasar Umum (Global) (baselineCheck_global) Deteksi audio video: Diaktifkan Layanan deteksi audio video: Deteksi Media Audio dan Video Multibahasa (audio_multilingual_global) Metode pengembalian hasil: Hanya mengembalikan hasil yang menunjukkan risiko.
  Video File Detection (Large Model Edition, Global) (videoDetectionByVL_global) Catatan Hanya tersedia di wilayah Singapura. Konkurensi dibatasi hingga 10 tugas.	Interval pengambilan frame: 1 detik Layanan deteksi frame video: Layanan Moderasi Gambar Hibrida Model Besar dan Kecil (Global) (postImageCheckByVL_global) Deteksi audio video: Diaktifkan Layanan deteksi audio video: Deteksi Media Audio dan Video Multibahasa (audio_multilingual_global) Metode pengembalian hasil: Hanya mengembalikan hasil yang menunjukkan risiko.

Batas laju

Setiap pengguna dibatasi hingga 100 QPS dan batas konkurensi 50, artinya Anda dapat memproses hingga 50 tugas sekaligus. Untuk meningkatkan batas ini, hubungi manajer akun Anda. Melebihi batas ini akan memicu pembatasan laju, yang dapat berdampak pada bisnis Anda.

Debugging

Sebelum mengintegrasikan, Anda dapat menggunakan Alibaba Cloud OpenAPI untuk melakukan debugging terhadap API VideoModeration dan meninjau contoh kode serta dependensi SDK untuk memahami penggunaan dan parameter API.

Parameter permintaan

Parameter	Type	Required	Example value	Description
Service	String	Yes	videoDetection_global	Menentukan layanan moderasi konten. Nilai yang valid: videoDetection_global: Deteksi file video. videoDetectionByVL_global: Deteksi file video (versi model besar).
ServiceParameters	JSON string	Yes		Parameter khusus layanan, diformat sebagai string JSON. Untuk detailnya, lihat Tabel 1 ServiceParameters.

Tabel 1. Parameter layanan

Parameter	Type	Required	Example value	Description
url	String	Ya. Anda dapat menyediakan video dengan salah satu dari tiga cara berikut: Untuk mendeteksi konten menggunakan URL video, tentukan parameter url. Untuk mendeteksi konten menggunakan objek OSS yang diotorisasi, Anda harus menentukan parameter ossBucketName, ossObjectName, dan ossRegionId. Unggah file video lokal. Metode ini tidak menggunakan penyimpanan OSS Anda, dan file disimpan hanya selama 30 menit. SDK menyediakan fungsionalitas untuk mengunggah video lokal. Untuk contoh kode, lihat SDK dan Panduan Integrasi Peningkatan Moderasi Video 2.0.	http://www.aliyundoc.com/a.flv	URL video yang akan dimoderasi. URL harus dapat diakses dari internet atau merupakan titik akhir OSS internal di wilayah yang sama. Catatan URL tidak boleh mengandung karakter Tionghoa atau melebihi 2.048 karakter. Kirim hanya satu URL per permintaan.
ossBucketName	String		bucket_01	Nama bucket OSS yang diotorisasi. Catatan Untuk menggunakan URL OSS internal, Anda harus terlebih dahulu menggunakan Akun Alibaba Cloud Anda untuk memberikan akses di halaman Otorisasi Akses Resource Cloud.
ossObjectName	String		20240307/07/28/test.flv	Nama file di bucket OSS yang diotorisasi.
ossRegionId	String		cn-shanghai	Wilayah tempat bucket OSS berada.
callback	String	No	http://www.aliyundoc.com	URL untuk menerima notifikasi callback dengan hasil moderasi. URL harus mendukung HTTP dan HTTPS. Jika Anda tidak menentukan parameter ini, Anda harus melakukan polling secara berkala untuk hasilnya. Titik akhir callback Anda harus mendukung metode POST, data berkode UTF-8, dan parameter formulir checksum dan content. Content Moderation menghasilkan nilai checksum dan content berdasarkan aturan berikut dan mengirimkannya ke titik akhir callback Anda. checksum: String yang dihasilkan dengan menerapkan algoritma SHA-256 pada string gabungan dari user UID + seed + content. UID pengguna adalah ID akun Alibaba Cloud Anda, yang dapat ditemukan di Konsol Alibaba Cloud. Untuk mencegah perubahan, verifikasi checksum dengan menghitung ulang signature menggunakan algoritma yang sama saat Anda menerima notifikasi callback. Catatan UID harus milik Akun Alibaba Cloud Anda, bukan Pengguna RAM. content: Nilai dalam format string JSON. Anda harus menguraikannya menjadi objek JSON. Untuk contoh hasil content, lihat contoh respons untuk mengkueri hasil deteksi. Catatan Saat titik akhir callback Anda menerima hasil dari Content Moderation, titik akhir tersebut harus mengembalikan kode status HTTP 200 untuk mengakui penerimaan. Kode status lain menunjukkan kegagalan. Jika terjadi kegagalan, Content Moderation mencoba mengirim ulang hasil hingga 16 kali. Jika semua percobaan gagal, layanan berhenti mencoba mengirim ulang. Kami merekomendasikan agar Anda memeriksa status titik akhir callback Anda.
seed	String	No	abc****	String acak yang digunakan untuk menandatangani permintaan notifikasi callback. String yang ditentukan pengguna ini dapat berisi huruf, angka, dan garis bawah (_), dan panjangnya tidak boleh melebihi 64 karakter. Nilai ini memungkinkan Anda memverifikasi bahwa notifikasi callback berasal dari layanan Content Moderation. Catatan Parameter ini wajib jika Anda menentukan parameter callback.
cryptType	String	No	SHA256	Jika Anda menggunakan notifikasi callback, parameter ini menentukan algoritma untuk menandatangani muatan callback. Content Moderation menggunakan algoritma ini untuk menghitung signature untuk string (gabungan dari user UID + seed + content) dan mengirimkan signature ke URL callback Anda. Nilai yang valid: SHA256 (Default): Menggunakan algoritma SHA-256. SM3: Menggunakan algoritma HMAC-SM3. Hasilnya adalah string heksadesimal huruf kecil. Contohnya, hash SM3 dari abc adalah 66c7f0f462eeedd9d1f2d46bdc10e4e24167c4875cf2f7a2297da02b8f4ba8e0.
dataId	String	No	videoId****	ID data yang sesuai dengan objek yang akan dimoderasi. ID ini digunakan untuk mengidentifikasi data bisnis Anda secara unik. ID ini dapat berisi huruf besar dan kecil, angka, garis bawah (_), tanda hubung (-), dan titik (.), dan panjangnya tidak boleh melebihi 128 karakter.
offline	String	No	false	Menentukan apakah akan menggunakan mode deteksi offline. false (Default): mode deteksi real-time. Permintaan yang melebihi batas konkurensi akan ditolak. true: mode deteksi offline. Tugas dimasukkan ke antrian dan tidak dijamin diproses secara real-time, tetapi deteksi dimulai dalam waktu 24 jam. Penting Parameter ini berupa string. Mode deteksi offline didukung di wilayah China (Beijing), China (Shanghai), dan China (Hangzhou).
referer	String	No	www.aliyun.com	Header permintaan Referer, digunakan untuk Perlindungan hotlink. Panjangnya tidak boleh melebihi 256 karakter.
infoType	String	No	customImage,textInImage	Menentukan jenis informasi tambahan yang akan dikembalikan. Saat parameter ini diatur, hasil moderasi untuk setiap frame yang diambil mencakup informasi tambahan yang sesuai. Nilai yang valid: customImage: Informasi hit perpustakaan gambar kustom. textInImage: Teks yang terdeteksi dalam gambar (hasil OCR). publicFigure: Informasi pencocokan tokoh publik. logoData: Informasi deteksi logo dan merek dagang. vlContent: Hasil mentah dari analisis model besar. Anda dapat menentukan beberapa nilai yang dipisahkan koma. Misalnya, customImage,textInImage mengembalikan informasi hit perpustakaan gambar kustom dan teks yang terdeteksi dalam gambar.

Nilai kembalian

Parameter		Type	Example value	Description
Code		Integer	200	Kode status. Untuk informasi lebih lanjut, lihat Deskripsi kode.
Data		JSONObject		Objek yang berisi hasil moderasi.
	TaskId	String	AAAAA-BBBBB	ID tugas deteksi.
	DataId	String	dataId0307	ID data.
Message		String	OK	Pesan respons.
RequestId		String	ABCD1234-1234-1234-1234-123****	ID permintaan.

Contoh

Contoh permintaan

{
    "Service": "videoDetection_global",
    "ServiceParameters": {
        "url": "http://www.aliyundoc.com/a.flv",
        "dataId": "videoId****"
    }
}

Contoh respons sukses

{
    "Message": "OK",
    "Code": 200,
    "Data": {
        "TaskId": "AAAAA-BBBBB",
        "DataId": "videoId****"
    },
    "RequestId": "ABCD1234-1234-1234-1234-123****"
}

Hasil moderasi video

API

• Operasi API: VideoModerationResult. Mengambil hasil tugas moderasi file video.

• Penagihan: API ini gratis.

• Timeout kueri: Kami merekomendasikan menunggu 30 detik setelah mengirimkan tugas deteksi asinkron sebelum mengkueri hasilnya. Hasil yang tidak diambil dalam waktu 24 jam akan dihapus secara otomatis.

Batas laju

API ini dibatasi hingga 100 QPS per pengguna. Panggilan yang melebihi batas ini akan dikendalikan alirannya, yang berpotensi memengaruhi bisnis Anda.

Debugging

Sebelum mengintegrasikan, Anda juga dapat menggunakan Alibaba Cloud OpenAPI untuk melakukan debugging terhadap API VideoModerationResult secara online, meninjau contoh kode dan dependensi SDK, serta mendapatkan gambaran umum tentang penggunaan dan parameternya.

Parameter permintaan

Parameter	Type	Required	Example	Description
Service	String	Yes	videoDetection_global	Jenis layanan moderasi. Harus sesuai dengan jenis yang Anda tentukan saat mengirimkan tugas moderasi.
ServiceParameters	JSON string	Yes		Kumpulan parameter yang diperlukan untuk layanan moderasi, dalam format string JSON. Untuk detail setiap bidang, lihat Tabel 1 ServiceParameters.

Tabel 1: ServiceParameters

Parameter	Type	Required	Example	Description
taskId	string	Yes	abcd****	ID tugas deteksi. Hanya satu taskId yang dapat ditentukan per permintaan. Catatan Setelah Anda mengirimkan tugas deteksi, respons berisi taskId.

Parameter respons

Parameter	Type	Example value	Description
RequestId	String	ABCD1234-1234-1234-1234-123****	Pengidentifikasi unik untuk permintaan, yang dihasilkan oleh Alibaba Cloud. Gunakan ID ini untuk memecahkan masalah dan menemukan isu.
Data	Object		Hasil moderasi konten video. Untuk detailnya, lihat Tabel 2 Data.
Code	String	200	Kode status HTTP. Untuk detailnya, lihat Deskripsi kode.
Message	String	OK	Pesan respons.

Tabel 2. Data

Parameter	Type	Example	Description
DataId	String	videoId****	ID data untuk objek deteksi. Catatan Jika Anda menentukan ID data dalam parameter permintaan deteksi, bidang ini mengembalikan ID yang sama.
TaskId	String	AAAAA-BBBBB-2024-0307	ID tugas deteksi.
RiskLevel	String	high	Tingkat risiko gabungan dari frame dan audio video. Nilai yang mungkin adalah: high: risiko tinggi medium: risiko sedang low: risiko rendah none: tidak ada risiko yang terdeteksi Catatan Tangani konten berisiko tinggi secara langsung. Untuk konten berisiko sedang, kami sarankan tinjauan manual. Tangani konten berisiko rendah hanya ketika recall tinggi diperlukan; jika tidak, perlakukan sebagai konten tanpa risiko yang terdeteksi. Anda dapat mengonfigurasi skor risiko untuk frame video di Konsol Content Moderation.
FrameResult	JSONObject		Hasil deteksi frame video. Jika panggilan berhasil (kode=200), bidang ini berisi struktur. Untuk detail struktur, lihat Tabel 3 FrameResult. Catatan Dalam skenario deteksi aliran video, kode 280 menunjukkan bahwa deteksi sedang berlangsung, sedangkan 200 menunjukkan bahwa deteksi telah selesai. Selama deteksi berlangsung, hasil mencakup semua temuan hingga waktu saat ini.
AudioResult	JSONObject		Hasil deteksi audio. Bidang ini berisi struktur. Untuk detail struktur, lihat Tabel 13 audioResult.

Tabel 3: FrameResult

Parameter	Type	Value	Description
FrameNum	Integer	200	Jumlah total frame yang diambil dari video.
FrameSummarys	JSONArray		Rangkuman label yang terdeteksi dalam frame video. Lihat Tabel 4 FrameSummary untuk strukturnya.
RiskLevel	String	high	Tingkat risiko video, dihitung dari semua framenya. Nilai yang valid adalah: high: Risiko tinggi medium: Risiko sedang low: Risiko rendah none: Tidak ada risiko yang terdeteksi
Frames	JSONArray		Informasi tentang frame video yang memicu hit label. Lihat Tabel 5 Frame untuk strukturnya.

Tabel 4: FrameSummary

Parameter	Type	Value	Description
Label	String	violent_armedForces	Label frame video.
Description	String	Unsur yang diduga terkait kembang api	Menggambarkan bidang Label. Penting Bidang ini memberikan deskripsi bidang Label dan dapat berubah. Bangun logika Anda berdasarkan bidang Label, bukan bidang ini.
LabelSum	Integer	8	Jumlah kemunculan label.

Tabel 5. frame

Parameter	Type	Example	Description
TempUrl	String	http://www.aliyundoc.com/test.jpg	URL sementara untuk frame video. URL berlaku selama 30 menit. Catatan Jika penyimpanan bukti video diaktifkan, parameter ini mengembalikan URL OSS dari frame video yang disimpan.
Offset	Float	50.5	Stempel waktu frame video dari awal video, dalam detik.
RiskLevel	String	high	Tingkat risiko frame video, berdasarkan ambang batas skor risiko yang dikonfigurasi. Nilai yang valid: high: risiko tinggi medium: risiko sedang low: risiko rendah none: tidak ada risiko yang terdeteksi Catatan Ambil tindakan segera pada konten berisiko tinggi dan tinjau manual konten berisiko sedang. Perlakukan konten berisiko rendah sama seperti konten tanpa risiko yang terdeteksi, kecuali jika Anda memerlukan recall tinggi. Anda dapat mengonfigurasi skor risiko untuk frame video di konsol Content Moderation.
Results	JSONArray		Array objek dengan hasil moderasi untuk frame video, seperti label risiko dan skor kepercayaan. Untuk informasi lebih lanjut, lihat Tabel 6. Results.

Tabel 6. Results

Parameter	Type	Value	Description
Service	String	baselineCheck_global	Layanan moderasi video yang digunakan.
Result	Array		Array objek yang berisi hasil moderasi frame demi frame, seperti label risiko dan skor kepercayaan. Untuk informasi lebih lanjut, lihat Tabel 7 Result.
CustomImage	JSONArray		Informasi hit perpustakaan gambar kustom. Dikembalikan saat infoType diatur dalam parameter permintaan dan perpustakaan gambar kustom cocok. Untuk strukturnya, lihat Tabel 8 CustomImage.
TextInImage	JSONObject		Teks yang terdeteksi dalam frame yang diambil (hasil OCR). Dikembalikan saat infoType diatur dalam parameter permintaan. Untuk strukturnya, lihat Tabel 9 TextInImage.
PublicFigure	JSONArray		Informasi pencocokan tokoh publik. Dikembalikan saat infoType diatur dalam parameter permintaan dan tokoh publik cocok. Untuk strukturnya, lihat Tabel 10 PublicFigure.
LogoData	JSONArray		Informasi deteksi logo dan merek dagang. Dikembalikan saat infoType diatur dalam parameter permintaan dan logo cocok. Untuk strukturnya, lihat Tabel 11 LogoData.
VlContent	JSONObject		Hasil analisis teks dari model besar. Dikembalikan saat infoType diatur dalam parameter permintaan dan layanan model besar (seperti videoDetectionByVL) digunakan. Untuk strukturnya, lihat Tabel 12 VlContent.

Tabel 7: Result

Parameter	Type	Example value	Description
Label	String	violent_explosion	Label untuk konten yang terdeteksi dalam frame video. Satu frame video dapat memiliki beberapa label, masing-masing dengan skor kepercayaan yang sesuai. Label yang didukung meliputi: Label yang didukung untuk baselineCheck_global
Confidence	Float	81.22	Skor kepercayaan dari 0 hingga 100, dibulatkan ke dua tempat desimal.
Description	String	Konten yang diduga terkait kembang api	Deskripsi bidang label. Penting Bidang ini menjelaskan bidang label dan dapat berubah. Bangun logika aplikasi Anda berdasarkan bidang label, bukan bidang Description.

Tabel 13: audioResult

Parameter	Type	Example value	Description
AudioSummarys	JSONArray		Koleksi ringkasan audio. Lihat Tabel 14 AudioSummarys untuk detail strukturnya.
RiskLevel	String	high	Tingkat risiko, dihitung dari semua potongan audio. Nilai yang valid: high: Risiko Tinggi medium: Risiko Sedang low: Risiko Rendah none: tidak ada risiko yang terdeteksi
SliceDetails	JSONArray		Array objek, masing-masing merinci potongan audio yang ditranskripsikan (biasanya satu ucapan). Lihat Tabel 15 SliceDetails untuk detail strukturnya.

Tabel 14. Ringkasan audio

Parameter	Type	Value	Description
Label	String	profanity	Label video dan audio.
LabelSum	Integer	8	Jumlah label.

Tabel 15: SliceDetails

Parameter	Type	Example	Description
StartTime	Integer	0	Waktu mulai segmen audio, dalam detik.
EndTime	Integer	4065	Waktu akhir segmen audio, dalam detik.
StartTimestamp	Integer	1678854649720	Stempel waktu mulai segmen, dalam milidetik.
EndTimestamp	Integer	1678854649720	Stempel waktu akhir segmen, dalam milidetik.
Text	String	Disgusting	Teks yang ditranskripsikan dari segmen audio.
Url	String	https://aliyundoc.com/test.wav	URL sementara ke file segmen audio, dikembalikan untuk input aliran audio. URL ini kedaluwarsa setelah 30 menit. Anda harus menyimpan file sebelum kedaluwarsa.
RiskLevel	String	high	Tingkat risiko segmen audio. Nilai yang mungkin meliputi: high: Risiko tinggi medium: Risiko sedang low: Risiko rendah none: Tidak ada risiko yang terdeteksi
Labels	String	political_content,xxxx	Label yang terdeteksi, dipisahkan koma. Saat versi model kecil layanan moderasi audio dipilih, hasil risiko dikembalikan dalam bidang Labels, RiskWords, RiskTips, dan Extend. Saat versi model besar dipilih, hasil risiko dikembalikan dalam bidang Result. Nilai yang mungkin meliputi: ad: Promosi Terkait Iklan violence: Konten Kekerasan dan Teroris political_content: Konten Sensitif Politik specified_speaking: Ucapan yang Ditentukan specified_lyrics: Lirik Tertentu sexual_content: Konten Porno sexual_sounds: Merintih contraband: Kontraban profanity: Kata Kasar religion: Konten Agama cyberbullying: Perundungan siber negative_content: Konten Negatif nontalk: Audio Dibisukan C_customized: Cocok dalam perpustakaan yang ditentukan pengguna
RiskWords	String	AAA,BBB,CCC	Daftar kata risiko yang cocok, dipisahkan koma.
RiskTips	String	sexual_content_vulgar_words,sexual_content_description	Daftar label detail, dipisahkan koma.
Extend	String	{"riskTips":"sexual_content_vulgar_words","riskWords":"sexual_services"}	Bidang cadangan.
Result	JSONArray	—	Hasil deteksi risiko terperinci untuk potongan audio ini. Bidang ini hanya dikembalikan saat layanan moderasi audio dikonfigurasi untuk menggunakan versi model besar. Saat versi model kecil digunakan, bidang ini tidak dikembalikan dan hasil risiko dikembalikan dalam bidang Labels, RiskWords, RiskTips, dan lainnya. Struktur bidang konsisten dengan bidang Result dari API model besar moderasi audio. Deskripsi sub-bidang sebagai berikut.

Tabel 15-1. Result

Parameter	Type	Example	Description
Label	String	political_entity	Label yang dikembalikan setelah deteksi konten audio. Beberapa label dan skor dapat terdeteksi. Berisi label kebijakan teks dan label khusus audio: Untuk label kebijakan teks, lihatLabel Risiko bagian Label khusus audio meliputi: specified_nontalk: Audio diam specified_speaking: Suara yang ditentukan sexual_sounds: Suara merintih Catatan Suara tertentu dan suara merintih tidak terdeteksi secara default. Hubungi manajer akun Anda untuk mengaktifkan deteksi.
Description	String	Konten porno yang diduga	Deskripsi bidang Label. Penting Bidang ini memberikan penjelasan bidang Label dan dapat berubah. Saat memproses hasil, gunakan bidang Label daripada bidang ini.
Confidence	Float	81.22	Skor kepercayaan, berkisar dari 0 hingga 100, dibulatkan ke 2 tempat desimal. Beberapa label mungkin tidak memiliki skor kepercayaan.
RiskLevel	String	high	Tingkat risiko label saat ini. Nilai yang valid: high: Risiko tinggi medium: Risiko sedang low: Risiko rendah none: Tidak ada risiko yang terdeteksi
Riskwords	String	AA,BB,CC	Kata sensitif yang terdeteksi, dipisahkan koma. Beberapa label mungkin tidak mengembalikan kata sensitif.
CustomizedHit	JSONArray	[{"LibName":"...","Keywords":"..."}]	Saat perpustakaan kustom cocok, Label-nya disesuaikan, dan nama perpustakaan kustom serta kata kustom dikembalikan. Untuk detailnya, lihatTabel 15-2 CustomizedHit.
RiskPositions	JSONArray		Informasi posisi kata sensitif yang terdeteksi. Untuk informasi lebih lanjut, lihatTabel 15-3 RiskPositions.

Tabel 15-2. CustomizedHit

Parameter	Type	Example	Description
LibName	String	CustomLib1	Nama perpustakaan kustom
Keywords	String	keyword1,keyword2	Kata kustom, dipisahkan koma.

Tabel 15-3. RiskPositions

Parameter	Type	Example	Description
RiskWord	String	AA	Kata sensitif yang terdeteksi.
StartPos	Integer	10	Posisi awal kata sensitif.
EndPos	Integer	12	Posisi akhir kata sensitif.

Contoh

Contoh permintaan

{
    "Service": "videoDetection_global",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

Respons sukses

• Hanya mendeteksi frame video

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "Operation successful.",
    "Data": {
        "DataId": "ABCDEF-TESTDATAID",
        "TaskId": "AAAAA-BBBBB-2024-0307-0728",
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummaries": [
                {
                    "Label": "violent_explosion",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "LabelSum": 5
                }
            ],
            "Frames": [
                {
                    "Offset": 1,
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg"
                },
                {
                    "Offset": 2,
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 1,
                                    "Label": "sexual_cleavage"
                                },
                                {
                                    "Confidence": 74.1,
                                    "Label": "violent_explosion"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg"
                }
            ]
        }
    }
}

• Analisis video dan audio

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "Success",
    "Data": {
        "DataId": "ABCDEF-TESTDATAID",
        "TaskId": "AAAAA-BBBBB-2024-0307-0728",
        "RiskLevel": "medium",
        "AudioResult": {
            "AudioSummarys": [
                {
                    "Label": "sexual_sounds",
                    "LabelSum": 3
                }
            ],
            "RiskLevel": "high",
            "SliceDetails": [
                {
                    "EndTime": 60,
                    "EndTimestamp": 1698912813192,
                    "Labels": "",
                    "RiskLevel": "none",
                    "StartTime": 30,
                    "StartTimestamp": 1698912783192,
                    "Text": "AI Guardrails",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                },
                {
                    "EndTime": 30,
                    "EndTimestamp": 1698912813192,
                    "Extend": "{\"customizedWords\":\"service\",\"customizedLibs\":\"test\"}",
                    "Labels": "C_customized",
                    "RiskLevel": "high",
                    "StartTime": 0,
                    "StartTimestamp": 1698912783192,
                    "Text": "Welcome to Alibaba Cloud AI Guardrails service",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                }
            ]
        },
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "Suspected to contain content related to fireworks",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "Suspected to contain body exposure or sexually suggestive content",
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "none",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "No risk detected"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg"
                },
                {
                    "Offset": 2,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 1,
                                    "Label": "sexual_cleavage",
                                    "Description": "Suspected to contain body exposure or sexually suggestive content"
                                },
                                {
                                    "Confidence": 74.1,
                                    "Label": "violent_explosion",
                                    "Description": "Suspected to contain content related to fireworks"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg"
                }
            ]
        }
    }
}

• Saat informasi tambahan dikembalikan

{
    "Code": 200,
    "RequestId": "ABCEDF-XXXX-XXXX-XXXX-202403070728520",
    "Message": "success finished",
    "Data": {
        "DataId": "ABCDEF-TESTDATAID",
        "TaskId": "AAAAA-BBBBB-2024-0307-0728",
        "RiskLevel": "medium",
        "FrameResult": {
            "FrameNum": 1,
            "FrameSummarys": [
                {
                    "Label": "logo_brand_lib",
                    "Description": "Trademark_custom library match",
                    "LabelSum": 1
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "CustomImage": [
                                {
                                    "LibId": "303074761XXXX",
                                    "ImageId": "94XXXX"
                                }
                            ],
                            "Service": "postImageCheckByVL",
                            "Result": [
                                {
                                    "Description": "Trademark_custom library match",
                                    "Confidence": 84.97,
                                    "Label": "logo_brand_lib"
                                }
                            ],
                            "TextInImage": {
                                "OcrDatas": [
                                    "Great Wall ORA"
                                ]
                            },
                            "PublicFigure": [
                                {
                                    "FigureId": "3647ca8a",
                                    "FigureName": "XXX",
                                    "Location": [
                                        {
                                            "W": 33,
                                            "H": 42,
                                            "X": 199,
                                            "Y": 288
                                        }
                                    ]
                                }
                            ],
                            "LogoData": [
                                {
                                    "Logo": [
                                        {
                                            "confidence": 85.17,
                                            "name": "VOLVO",
                                            "label": "logo_brand"
                                        }
                                    ],
                                    "Location": {
                                        "W": 175,
                                        "X": 151,
                                        "H": 174,
                                        "Y": 192
                                    }
                                }
                            ],
                            "VlContent": {
                                "OutputText": "Political, other. Military/police uniforms, minors, other flags, politically sensitive locations."
                            }
                        }
                    ],
                    "TempUrl": "http://abc.oss-cn-shanghai.aliyuncs.com/test1.jpg"
                }
            ]
        }
    }
}

Kode

Topik ini menjelaskan nilai Kode yang dikembalikan oleh API auditing file video 2.0. Hanya permintaan yang mengembalikan Kode 200 atau 280 yang dikenai metering dan penagihan; Anda tidak dikenai biaya untuk permintaan lainnya.

Code	Description
200	Permintaan berhasil atau deteksi selesai.
280	Deteksi sedang berlangsung.
288	Tugas dalam antrian mode near-line.
400	Permintaan kehilangan satu atau beberapa parameter yang diperlukan.
401	Permintaan berisi parameter yang tidak valid. Verifikasi format parameter dan coba lagi.
402	Panjang parameter permintaan melebihi batas API. Periksa panjang parameter dan coba lagi.
403	Laju permintaan telah melebihi batas QPS. Periksa dan sesuaikan konkurensi Anda.
404	Gagal mengunduh video. Periksa URL video dan coba lagi.
405	Waktu unduh video habis. Video mungkin tidak dapat diakses. Periksa URL video dan pengaturan jaringan Anda, lalu coba lagi.
406	Ukuran video melebihi batas yang diizinkan. Kurangi ukuran video dan coba lagi.
407	Format video tidak didukung. Konversi video ke format yang didukung dan coba lagi.
408	Akun tidak memiliki izin untuk memanggil API ini. Kesalahan ini dapat terjadi jika layanan tidak diaktifkan, akun memiliki pembayaran tertunda, atau akun tidak memiliki otorisasi.
409	TaskId yang ditentukan tidak ada, yang dapat terjadi jika hasil telah kedaluwarsa. Hasil memiliki periode validitas 24 jam.
480	Jumlah aliran deteksi konkuren telah melebihi batas. Periksa dan sesuaikan pengaturan konkurensi Anda.
500	Terjadi kesalahan sistem. Silakan coba lagi nanti. Jika masalah berlanjut, hubungi dukungan.