Content Moderation：Moderasi Siaran Langsung 2.0 API

Petunjuk Penggunaan

1. Buat akun Alibaba Cloud: Klik Daftar Akun dan ikuti petunjuk untuk membuat akun Alibaba Cloud.

2. Aktifkan metode penagihan bayar sesuai pemakaian untuk Content Moderation: Pastikan bahwa layanan Content Moderation 2.0 telah diaktifkan. Anda tidak dikenakan biaya untuk mengaktifkan layanan ini. Setelah Anda memanggil operasi API, sistem penagihan secara otomatis akan menagih Anda berdasarkan penggunaan Anda. Untuk informasi lebih lanjut, lihat Metode Penagihan.

3. Buat pasangan AccessKey: Pastikan Anda telah membuat pasangan AccessKey sebagai Pengguna Resource Access Management (RAM). Untuk informasi lebih lanjut, lihat Buat Pasangan AccessKey. Jika Anda ingin menggunakan pasangan AccessKey dari pengguna RAM, gunakan akun Alibaba Cloud Anda untuk memberikan izin AliyunYundunGreenWebFullAccess kepada pengguna RAM. Untuk informasi lebih lanjut, lihat Berikan Izin kepada Pengguna RAM.

4. Gunakan SDK: Kami merekomendasikan Anda menggunakan SDK untuk memanggil operasi API. Untuk informasi lebih lanjut, lihat Panduan Menggunakan Video Moderation 2.0.

5. Layanan Moderasi Siaran Langsung menyediakan tiga operasi API berikut:

   • VideoModeration: untuk mengirimkan tugas moderasi siaran langsung

   • VideoModerationResult: untuk mendapatkan hasil moderasi dari tugas moderasi siaran langsung

   • VideoModerationCancel: untuk membatalkan tugas moderasi siaran langsung

Kirim Tugas Moderasi

Catatan Penggunaan

• Operasi: VideoModeration (hanya untuk moderasi asinkron)

• Wilayah dan titik akhir yang didukung

  Wilayah	Titik Akhir Publik	Titik Akhir Internal	Layanan yang Didukung
  Singapura	green-cip.ap-southeast-1.aliyuncs.com	green-cip-vpc.ap-southeast-1.aliyuncs.com	liveStreamDetection_global

• Metode Penagihan

  Anda akan dikenakan biaya untuk memanggil operasi ini. Sistem penagihan menagih Anda berdasarkan kebijakan moderasi gambar dan suara yang Anda tetapkan untuk siaran langsung. Jika beberapa layanan moderasi dipanggil untuk memoderasi gambar dalam siaran langsung, biaya akan diakumulasikan berdasarkan jumlah frame yang ditangkap dikalikan dengan harga satuan setiap layanan moderasi. Jika siaran langsung dimoderasi untuk pelanggaran konten suara pada saat yang sama, Anda juga akan dikenakan biaya untuk durasi video dikalikan dengan harga satuan moderasi suara. Untuk informasi lebih lanjut tentang metode penagihan, lihat Metode Penagihan.

• Objek Moderasi: Siaran Langsung

• Hasil yang Dikembalikan: Jika Anda mengirim permintaan moderasi asinkron, hasil moderasi tidak dikembalikan secara real-time. Untuk mendapatkan hasil moderasi, Anda dapat memantau hasil moderasi secara berkala atau mengaktifkan notifikasi callback. Hasil moderasi disimpan hingga 24 jam.

  • Aktifkan notifikasi callback untuk mendapatkan hasil moderasi: Saat Anda mengirimkan tugas moderasi asinkron, Anda dapat menentukan URL callback untuk menerima hasil moderasi dalam parameter callback dari permintaan moderasi.

  • Pantau hasil moderasi: Anda tidak perlu menyetel parameter callback saat Anda mengirimkan tugas moderasi asinkron. Setelah Anda mengirimkan tugas, Anda dapat memanggil operasi kueri hasil untuk memeriksa hasil moderasi.

• Batasan Siaran Langsung

  • Siaran langsung yang mematuhi protokol berikut didukung: RTMP, HLS, HTTP-FLV, dan RTSP.

  • Batasan durasi siaran langsung: Durasi maksimum siaran langsung tunggal yang dapat dimoderasi adalah 24 jam. Saat durasi melebihi 24 jam, tugas moderasi secara otomatis berakhir.

• Konfigurasi Aturan Moderasi

  • Sebelum Anda memanggil API Moderasi Siaran Langsung untuk pertama kali, Anda harus mengonfigurasi aturan moderasi siaran langsung di Konsol Moderasi Konten.

  • Jika Anda tidak mengonfigurasi aturan moderasi siaran langsung, Moderasi Siaran Langsung 2.0 API menggunakan konfigurasi default berikut:

    Moderasi Siaran Langsung (liveStreamDetection_global)

    • Frekuensi Penangkapan Frame: 1 detik/frame

    • Layanan Moderasi Gambar: Pendeteksian Dasar Umum (baselineCheck_global)

    • Moderasi Suara: Diaktifkan

    • Layanan Moderasi Suara: Moderasi Suara (live_stream_detection_global)

    • Hasil yang Dikembalikan: Hanya konten berisiko yang ditampilkan.

Batasan QPS

Anda dapat memanggil operasi ini hingga 100 kali per detik per akun. Hanya 50 tugas moderasi yang dapat diproses sekaligus. Jika Anda perlu meningkatkan jumlah tugas moderasi bersamaan, konsultasikan dengan manajer bisnis Anda. Jika jumlah panggilan per detik melebihi batas, throttling akan dipicu. Akibatnya, bisnis Anda mungkin terpengaruh. Kami sarankan Anda memperhatikan batas ini saat memanggil operasi ini.

Debugging

Sebelum Anda menerapkan SDK, Anda dapat menggunakan Alibaba Cloud OpenAPI Explorer untuk men-debug operasi VideoModeration secara online dan melihat contoh kode untuk panggilan dan dependensi SDK. Dengan cara ini, Anda dapat memahami cara memanggil operasi dan cara menyetel parameter terkait.

Parameter Permintaan

Tabel 1: ServiceParameters

Parameter Respons

Contoh

Contoh Permintaan

{
    "Service": "liveStreamDetection_global",
    "ServiceParameters": {
        "url": "http://www.aliyundoc.com/a.flv",
        "dataId": "videoId****",
        "liveId": "liveId****"
    }
}

Contoh Respon Sukses

{
    "Msg": "OK",
    "Code": 200,
    "Data":
    {
        "TaskId": "AAAAA-BBBBB"
        "DataId": "videoId****"
    },
    "RequestId": "ABCD1234-1234-1234-1234-123****"
}

Dapatkan Hasil Moderasi Tugas Moderasi Siaran Langsung

Catatan Penggunaan

• Operasi: VideoModerationResult

• Penagihan: Operasi ini gratis.

• Batas Waktu Respons: Kami sarankan Anda menanyakan hasil moderasi setidaknya 30 detik setelah Anda mengirim permintaan moderasi asinkron. Moderasi Konten menyimpan hasil moderasi hingga 24 jam. Setelah 24 jam, hasilnya dihapus.

• Hasil yang Dikembalikan: Jika siaran langsung sedang berlangsung, 10 hasil moderasi terbaru dikembalikan untuk setiap kueri. Jika siaran langsung telah berakhir, semua hasil moderasi dikembalikan.

Batasan QPS

Anda dapat memanggil operasi ini hingga 100 kali per detik per akun. Jika jumlah panggilan per detik melebihi batas, throttling dipicu. Akibatnya, bisnis Anda mungkin terpengaruh. Kami sarankan Anda memperhatikan batas ini saat memanggil operasi ini.

Debugging

Sebelum Anda menerapkan SDK, Anda dapat menggunakan Alibaba Cloud OpenAPI Explorer untuk men-debug operasi VideoModerationResult secara online dan melihat contoh kode untuk panggilan dan dependensi SDK. Dengan cara ini, Anda dapat memahami cara memanggil operasi dan cara menyetel parameter terkait.

Parameter Permintaan

Tabel 1: ServiceParameters

Parameter Respons

Tabel 2: Data

Tabel 3: FrameResult

Tabel 4: FrameSummary

Tabel 5: Frames

Tabel 6 Hasil

Tabel 7 Hasil

Tabel 8: audioResult

Tabel 9: AudioSummarys

Tabel 10: SliceDetails

Contoh

Contoh Permintaan

{
    "Service": "liveStreamDetection_global",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

Contoh Respon Sukses

• Moderasi hanya mencakup gambar dalam siaran langsung.

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "berhasil diselesaikan",
    "Data": {
        "DataId": "dc16c28f-xxxx-xxxx-xxxx-51efe0131080",
        "LiveId": "live0307-0728-****",
        "RiskLevel": "tinggi",
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "Konten yang diduga berisi asap atau api terdeteksi",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "Diduga mengandung konten telanjang atau seksi yang melibatkan paparan tubuh",
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "sedang",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "tidak ada",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "Tidak ada risiko yang terdeteksi"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg",
                    "Timestamp": 1704769999000
                },
                {
                    "Offset": 2,
                    "RiskLevel": "sedang",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 78.88,
                                    "Label": "sexual_cleavage",
                                    "Description": "Diduga mengandung konten telanjang atau seksi yang melibatkan paparan tubuh"
                                },
                              	{
                                    "Confidence": 74.18,
                                    "Label": "violent_explosion",
                                    "Description": "Konten yang diduga berisi asap atau api terdeteksi"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg",
                    "Timestamp": 1704769989000
                }
            ]
        }
    }
}

• Moderasi Gambar dan Suara dalam Siaran Langsung

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "success finished",
    "Data": {
        "DataId": "dc16c28f-xxxx-xxxx-xxxx-51efe0131080",
        "LiveId": "live0307-0728-****",
        "RiskLevel": "high",
        "AudioResult": {
            "AudioSummarys": [
                {
                    "Label": "sexual_sounds",
                    "LabelSum": 3
                }
            ],
            "RiskLevel": "high",
            "SliceDetails": [
                {
                    "EndTime": 60,
                    "EndTimestamp": 1698912813192,
                    "Labels": "",
                    "RiskLevel": "none",
                    "StartTime": 30,
                    "StartTimestamp": 1698912783192,
                    "Text": "Content Moderation",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                },
                {
                    "EndTime": 30,
                    "EndTimestamp": 1698912813192,
                    "Extend": "{\"customizedWords\":\"service\",\"customizedLibs\":\"test\"}",
                    "Labels": "C_customized",
                    "RiskLevel": "high",
                    "StartTime": 0,
                    "StartTimestamp": 1698912783192,
                    "Text": "Welcome to the Alibaba Cloud Content Moderation service",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                }
            ]
        },
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "Konten yang dicurigai mengandung asap atau api terdeteksi",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "Diduga mengandung konten telanjang atau seksi yang melibatkan eksposur tubuh",
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "none",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "Tidak ada risiko yang terdeteksi"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg",
                    "Timestamp": 1704769999000
                },
                {
                    "Offset": 2,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 74.18,
                                    "Label": "violent_explosion",
                                    "Description": "Konten yang dicurigai mengandung asap atau api terdeteksi"
                                },
                                {
                                    "Confidence": 78.88,
                                    "Label": "sexual_cleavage",
                                    "Description": "Diduga mengandung konten telanjang atau seksi yang melibatkan eksposur tubuh"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg",
                    "Timestamp": 1704769989000
                }
            ]
        }
    }
}

Batalkan Tugas Moderasi Siaran Langsung

Catatan Penggunaan

Anda dapat memanggil operasi ini untuk membatalkan tugas moderasi siaran langsung.

• Service: VideoModerationCancel

• Penagihan: Operasi ini gratis.

Debugging

Sebelum Anda menerapkan SDK, Anda dapat menggunakan Alibaba Cloud OpenAPI Explorer untuk men-debug operasi VideoModerationCancel secara online dan melihat contoh kode untuk panggilan dan dependensi SDK. Dengan cara ini, Anda dapat memahami cara memanggil operasi dan cara menyetel parameter terkait.

Parameter Permintaan

Tabel 11: ServiceParameters

Parameter Respons

Contoh

Contoh Permintaan

{
    "Service": "liveStreamDetection",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

Contoh Respons

{
    "Msg": "OK",
    "Code": 200,
    "RequestId": "70ED13B0-BC22-576D-9CCF-1CC12FEAC477"
}

Kode Respons

Tabel berikut menjelaskan kode respons untuk memanggil API Moderasi Siaran Langsung 2.0. Anda hanya akan dikenakan biaya untuk permintaan yang memiliki kode respons 200 dan 280 menggunakan metode penagihan bayar sesuai pemakaian.