Content Moderation：API Moderasi File Video 2.0

Panduan integrasi

1. Daftarkan akun Alibaba Cloud dan ikuti petunjuk untuk menyelesaikan pendaftaran: Daftar sekarang.

2. Aktifkan metode penagihan pay-as-you-go untuk Content Moderation. Untuk informasi selengkapnya, lihat Aktifkan layanan. Aktivasi gratis. Setelah Anda menggunakan operasi API, Anda akan secara otomatis ditagih berdasarkan penggunaan Anda. Untuk informasi selengkapnya, lihat Penagihan.

3. Buat AccessKey menggunakan Resource Access Management (RAM). Untuk informasi selengkapnya, lihat Buat AccessKey. Jika Anda menggunakan AccessKey milik Pengguna RAM, Anda harus menggunakan Akun Alibaba Cloud Anda untuk memberikan izin AliyunYundunGreenWebFullAccess kepada Pengguna RAM tersebut. Untuk informasi selengkapnya, lihat Otorisasi RAM.

4. Kembangkan dan integrasikan layanan. Kami menyarankan agar Anda menggunakan SDK untuk memanggil operasi API. Untuk informasi selengkapnya, lihat SDK dan panduan integrasi Moderasi Video 2.0.

5. Layanan moderasi file video mencakup dua operasi API berikut:

   • VideoModeration: mengirimkan tugas moderasi file video.

   • VideoModerationResult: mengambil hasil tugas moderasi file video.

Kirimkan tugas moderasi

Deskripsi API

• Operasi API: VideoModeration. Operasi ini hanya mendukung deteksi asinkron untuk video.

• Wilayah dan titik akhir yang didukung:

  Wilayah	Titik akhir publik	Titik akhir VPC	Layanan yang didukung
  Singapura	green-cip.ap-southeast-1.aliyuncs.com	green-cip-vpc.ap-southeast-1.aliyuncs.com	videoDetection_global, videoDetectionByVL_global
  AS (Virginia)	https://green-cip.us-east-1.aliyuncs.com	https://green-cip-vpc.us-east-1.aliyuncs.com	videoDetection_global
  AS (Silicon Valley)	https://green-cip.us-west-1.aliyuncs.com	Not available
  Jerman (Frankfurt)	green-cip.eu-central-1.aliyuncs.com	Not available

• Informasi penagihan:

  Operasi API ini dikenai biaya. Anda dikenai biaya berdasarkan kebijakan deteksi frame video dan audio yang Anda tetapkan. Untuk frame video, Anda dapat memilih beberapa layanan. Anda dikenai biaya berdasarkan jumlah frame dikalikan harga satuan setiap layanan. Jika Anda juga mendeteksi pelanggaran dalam konten audio, biaya tambahan dikenakan berdasarkan durasi video dikalikan harga satuan fitur pelanggaran audio. Untuk informasi selengkapnya tentang metode penagihan, lihat Penagihan.

• Objek deteksi: File video.

• Nilai kembali: Tugas deteksi asinkron tidak mengembalikan hasil deteksi secara real time. Anda harus mengambil hasil deteksi menggunakan callback atau polling. Hasil deteksi disimpan hingga 24 jam.

  • Ambil hasil deteksi menggunakan callback: Saat mengirimkan tugas deteksi asinkron, sertakan parameter callback dalam permintaan untuk menerima hasil deteksi secara otomatis.

  • Ambil hasil deteksi menggunakan polling: Saat mengirimkan tugas deteksi asinkron, Anda tidak perlu menyertakan parameter callback. Setelah mengirimkan tugas, panggil operasi API kueri hasil untuk mengambil hasil deteksi.

• Persyaratan video:

  • URL file video mendukung protokol HTTP dan HTTPS.

  • Format file video yang didukung: AVI, FLV, MP4, MPG, ASF, WMV, MOV, WMA, RMVB, RM, FLASH, TS, dan M3U8.

  • Batas ukuran video: Secara default, satu video tidak boleh melebihi 500 MB. Jika video Anda melebihi 500 MB, Anda dapat membagi video menjadi segmen. Anda juga dapat menghubungi manajer akun Anda untuk menambah batas ukuran.

  • Waktu yang diperlukan untuk deteksi file video bergantung pada waktu unduh video. Pastikan layanan penyimpanan tempat file video berada stabil dan andal. Kami menyarankan agar Anda menggunakan Alibaba Cloud Object Storage Service (OSS) untuk menyimpan file video.

• Konfigurasi aturan deteksi:

  • Pertama kali Anda memanggil operasi ini, Anda harus mengonfigurasi aturan moderasi video di Konsol Content Moderation.

    Catatan

    Di konsol, Anda dapat mengonfigurasi pengaturan seperti metode snapshot, frekuensi snapshot, aturan moderasi citra, aturan moderasi audio, dan cakupan hasil yang akan dikembalikan. Untuk informasi selengkapnya, lihat Panduan Pengguna Konsol.

• Jika Anda tidak mengonfigurasi pengaturan apa pun, konfigurasi default untuk API Moderasi Video 2.0 adalah sebagai berikut:

  Layanan	Konfigurasi default
  Deteksi file video (videoDetection_global)	Frekuensi snapshot video: 1 frame per detik Layanan deteksi frame video: Deteksi garis dasar umum (baselineCheck_global) Deteksi audio video: Diaktifkan Layanan deteksi audio video: Deteksi media audio dan video multibahasa (audio_multilingual_global) Metode pengembalian hasil: Hanya mengembalikan hasil dengan ancaman terdeteksi
  Deteksi file video (luar China) (videoDetectionByVL_global) Catatan Saat ini hanya aktif di wilayah Singapura. Versi model besar dibatasi hingga 10 titik akhir ingest konkuren.	Frekuensi snapshot video: 1 frame per detik Layanan deteksi frame video: Layanan moderasi citra dengan fusi model besar dan kecil (postImageCheckByVL_global) Deteksi audio video: Diaktifkan Layanan deteksi audio video: Deteksi media audio dan video multibahasa (audio_multilingual_global) Metode pengembalian hasil: Hanya mengembalikan hasil dengan ancaman terdeteksi

Batas QPS

Batas permintaan per detik (QPS) untuk operasi API ini adalah 100 untuk satu pengguna, dan batas tugas moderasi konkuren adalah 50. (Artinya hanya 50 tugas yang dapat diproses secara bersamaan. Untuk meningkatkan batas tugas konkuren, hubungi manajer akun Anda.) Jika batas dilampaui, pembatasan kecepatan akan dipicu. Hal ini dapat memengaruhi bisnis Anda. Kami menyarankan agar Anda memperhatikan batas ini saat memanggil operasi ini.

Debugging

Sebelum integrasi, Anda dapat menggunakan Alibaba Cloud OpenAPI untuk melakukan debugging API VideoModeration secara online, melihat contoh kode dan informasi dependensi SDK, serta meninjau penggunaan dan parameter API.

Parameter permintaan

Tabel 1 ServiceParameters

Parameter respons

Contoh

Contoh kueri

{
    "Service": "videoDetection_global",
    "ServiceParameters": {
        "url": "http://www.aliyundoc.com/a.flv",
        "dataId": "videoId****"
    }
}

Contoh respons sukses

{
    "Message": "OK",
    "Code": 200,
    "Data": {
        "TaskId": "AAAAA-BBBBB",
        "DataId": "videoId****"
    },
    "RequestId": "ABCD1234-1234-1234-1234-123****"
}

Dapatkan hasil tugas moderasi file video

Deskripsi API

• Operasi API: VideoModerationResult. Operasi ini mengambil hasil tugas moderasi file video.

• Informasi penagihan: Operasi API ini tidak dikenai biaya.

• Timeout kueri: Interval kueri yang disarankan adalah 30 detik. Artinya Anda harus mengkueri hasil 30 detik setelah mengirimkan tugas deteksi asinkron. Hasil secara otomatis dihapus setelah 24 jam.

Batas QPS

Batas QPS untuk operasi ini adalah 100 panggilan per detik per akun. Jika jumlah panggilan per detik melebihi batas ini, pembatasan kecepatan akan dipicu. Hal ini dapat memengaruhi bisnis Anda. Kami menyarankan agar Anda memperhatikan batas ini saat memanggil operasi ini.

Debugging

Sebelum integrasi, Anda dapat menggunakan Alibaba Cloud OpenAPI untuk melakukan debugging API VideoModerationResult secara online, melihat contoh kode dan informasi dependensi SDK, serta meninjau cara menggunakan API dan parameternya.

Parameter permintaan

Tabel 1 ServiceParameters

Parameter respons

Tabel 2. Data

Tabel 3 FrameResult

Tabel 4 FrameSummary

Tabel 5 Frame

Tabel 6 Results

Tabel 7 Result

Tabel 8 audioResult

Tabel 9 AudioSummarys

Tabel 10 SliceDetails

Contoh

Contoh kueri

{
    "Service": "videoDetection_global",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

Contoh respons sukses

• Hanya deteksi frame video

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "success finished",
    "Data": {
        "DataId": "ABCDEF-TESTDATAID",
        "TaskId": "AAAAA-BBBBB-2024-0307-0728",
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "LabelSum": 5
                }
            ],
            "Frames": [
                {
                    "Offset": 1,
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg"
                },
                {
                    "Offset": 2,
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 1,
                                    "Label": "sexual_cleavage"
                                },
                                {
                                    "Confidence": 74.1,
                                    "Label": "violent_explosion"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg"
                }
            ]
        }
    }
}

• Mendeteksi frame video dan ucapan

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "success finished",
    "Data": {
        "DataId": "ABCDEF-TESTDATAID",
        "TaskId": "AAAAA-BBBBB-2024-0307-0728",
        "RiskLevel": "medium",
        "AudioResult": {
            "AudioSummarys": [
                {
                    "Label": "sexual_sounds",
                    "LabelSum": 3
                }
            ],
            "RiskLevel": "high",
            "SliceDetails": [
                {
                    "EndTime": 60,
                    "EndTimestamp": 1698912813192,
                    "Labels": "",
                    "RiskLevel": "none",
                    "StartTime": 30,
                    "StartTimestamp": 1698912783192,
                    "Text": "Content Moderation",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                },
                {
                    "EndTime": 30,
                    "EndTimestamp": 1698912813192,
                    "Extend": "{\"customizedWords\":\"service\",\"customizedLibs\":\"test\"}",
                    "Labels": "C_customized",
                    "RiskLevel": "high",
                    "StartTime": 0,
                    "StartTimestamp": 1698912783192,
                    "Text": "Welcome to Alibaba Cloud Content Moderation service",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                }
            ]
        },
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "Suspected to contain firework-type content elements",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "Suspected to contain body exposure or sexually suggestive content",
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "none",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "No risk detected"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg"
                },
                {
                    "Offset": 2,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 1,
                                    "Label": "sexual_cleavage",
                                    "Description": "Suspected to contain body exposure or sexually suggestive content"
                                },
                                {
                                    "Confidence": 74.1,
                                    "Label": "violent_explosion",
                                    "Description": "Suspected to contain firework-type content elements"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg"
                }
            ]
        }
    }
}

Deskripsi kode

Tabel berikut menjelaskan arti nilai Code yang dikembalikan oleh API Moderasi File Video 2.0. Anda hanya dikenai biaya untuk permintaan yang mengembalikan nilai Code 200 atau 280. Permintaan yang mengembalikan nilai Code lainnya tidak dikenai biaya.