All Products
Search
Document Center

AI Guardrails:Voice Moderation 2.0 multilingual service

Last Updated:May 28, 2026

Voice Moderation 2.0 meningkatkan model audionya untuk mendukung konten audio berbahasa Mandarin, Inggris, dan campuran Mandarin-Inggris. Layanan ini juga menyediakan kebijakan moderasi dan sistem tag yang disesuaikan dengan kebutuhan bisnis global. Topik ini menjelaskan fitur dan penggunaan layanan multibahasa Voice Moderation 2.0.

Fitur

Dibandingkan dengan Voice Moderation 1.0, Voice Moderation 2.0 menggunakan kebijakan khusus dan sistem tag yang memenuhi persyaratan bisnis global. Layanan ini juga menawarkan fitur tambahan untuk menyederhanakan integrasi dan membantu tinjauan manual.

Item perbandingan

Voice Moderation Version 2.0

Voice Moderation 1.0

Dukungan multibahasa

  • Wilayah Singapura mendukung 35 bahasa, termasuk Mandarin, Inggris, Arab, Jerman, Rusia, Prancis, Korea, Jepang, Spanyol, Italia, Indonesia, Vietnam, Melayu, Thailand, Hindi, Turki, Portugis, Belanda, Polandia, Bengali, Persia, Swedia, Denmark, Norwegia, Islandia, Finlandia, Belarusia, Lituania, Ceko, Slowakia, Hongaria, Yunani, dan Rumania.

  • Wilayah US East (Virginia) mendukung Mandarin, Inggris, dan campuran Mandarin-Inggris.

Hanya mendukung Mandarin secara default.

Kemampuan moderasi

  • Menggunakan beberapa model paralel yang dikombinasikan dengan karakteristik bahasa dan wilayah untuk kebijakan yang lebih akurat.

  • Menambahkan model deteksi fitur non-semantik baru, seperti deteksi suara erangan.

  • Menggunakan satu model yang menyeimbangkan akurasi dan recall berdasarkan karakteristik bahasa.

  • Tidak mendukung deteksi suara erangan secara default.

Sistem tag

Menggunakan sistem tag global dengan penambahan tag internasional seperti profanity dan konflik regional. Mendukung beberapa tag risiko dan sub-tag.

Menggunakan sistem tag dan hanya mendukung satu tag risiko.

Fungsionalitas API

  • Menggunakan segmentasi durasi tetap yang dapat diatur. Panjang segmen tetap meningkatkan efisiensi tinjauan manual.

  • Mengembalikan semua segmen audio beserta teks transkripsinya, serta URL sementara untuk tinjauan manual.

  • Menggunakan segmentasi berbasis kalimat semantik, menghasilkan panjang segmen variabel dari beberapa detik hingga puluhan detik.

  • Hanya mengembalikan segmen yang ditandai berisiko dan tidak menyediakan URL segmen sementara secara default.

Tag internasionalisasi

Layanan multibahasa Voice Moderation 2.0 menggunakan sistem tag global. Jika konten mengandung beberapa jenis risiko, layanan ini akan mengembalikan beberapa tag sekaligus. Kategori tag mencakup, namun tidak terbatas pada, hal-hal berikut:

Jenis tag

Kategori

Tag utama (labels)

  • violence: konten kekerasan atau terorisme

  • contraband: barang terlarang

  • sexuality: konten pornografi

  • profanity: kata kasar atau bahasa kasar

  • pullinTraffic: konten promosi atau pengarah trafik

  • regional: konflik regional

  • C_customized: cocok dengan pustaka yang ditentukan pengguna

Sub-tag (riskTips)

Sub-tag dikembalikan dalam format xxx_yyy. Contohnya: contraband_Drugs.

Kinerja Layanan

Voice Moderation 2.0 menggunakan mesin inti berkinerja tinggi yang menjalankan lusinan model dan kebijakan secara konkuren untuk memberikan hasil secara tepat waktu.

Kinerja layanan

Deskripsi

Ukuran file

2.0 meningkatkan ukuran maksimum file audio yang didukung dari 200 MB menjadi 500 MB.

Format file audio

Format audio yang didukung: MP3, WAV, AAC, WMA, OGG, M4A, AMR.

Format video yang didukung: AVI, FLV, MP4, MPG, ASF, WMV, MOV, RMVB, RM.

Aliran audio langsung

Protokol yang didukung: RTMP, HLS, HTTP-FLV, RTSP.

Laju permintaan (QPS)

Batas QPS pengiriman tugas ditingkatkan dari 50 permintaan per detik menjadi 100 permintaan per detik.

Aliran konkuren

2.0 meningkatkan batas aliran konkuren default dari 20 menjadi 50.

Catatan

QPS mengacu pada jumlah permintaan API yang dapat diproses layanan per detik. Aliran konkuren mengacu pada jumlah file audio atau aliran langsung yang sedang diproses secara bersamaan.

Penagihan

Layanan Voice Moderation 2.0 mendukung metode penagihan pay-as-you-go .

Pay-as-you-go

Setelah Anda mengaktifkan Voice Moderation 2.0, metode pay-as-you-go diaktifkan secara default. Anda ditagih setiap hari berdasarkan penggunaan aktual. Tidak ada biaya jika Anda tidak memanggil layanan tersebut.

Jenis moderasi

Skema yang didukung (layanan)

Harga satuan

Voice Moderation Standard (audio_standard)

  • Moderasi media audio dan video multibahasa: audio_multilingual_global

  • Moderasi streaming langsung multibahasa untuk hiburan sosial: stream_multilingual_global

USD 9,0 per 1.000 menit

Panduan Integrasi

Langkah 1: Aktifkan layanan

Buka Aktifkan layanan untuk mengaktifkan Voice Moderation 2.0.

Langkah 2: Berikan izin kepada Pengguna RAM

Sebelum mengintegrasikan SDK atau memanggil API, berikan izin kepada Pengguna RAM. Buat Pasangan Kunci Akses untuk Akun Alibaba Cloud atau Pengguna RAM Anda. Gunakan AccessKey ini untuk mengautentikasi permintaan API. Untuk petunjuknya, lihat Dapatkan AccessKey.

Berikan izin kepada Pengguna RAM

  1. Masuk ke Konsol RAM menggunakan Akun Alibaba Cloud Anda.

  2. Buat Pengguna RAM. Untuk detailnya, lihat Buat Pengguna RAM.

  3. Berikan kebijakan sistem AliyunYundunGreenWebFullAccess kepada Pengguna RAM. Kebijakan ini memberikan akses penuh ke Content Moderation. Untuk detailnya, lihat Kelola izin Pengguna RAM.

    Pengguna RAM kini dapat memanggil API Content Moderation.

Langkah 3: Instal dan integrasikan SDK

Wilayah yang didukung:

Wilayah

Titik akhir publik

Titik akhir privat

Singapura

https://green-cip.ap-southeast-1.aliyuncs.com

https://green-cip-vpc.ap-southeast-1.aliyuncs.com

US (Virginia)

https://green-cip.us-east-1.aliyuncs.com

https://green-cip-vpc.us-east-1.aliyuncs.com

Catatan

Untuk mendapatkan contoh kode SDK dalam bahasa lain, gunakan alat debugging online OpenAPI Developer Portal. Alat ini secara otomatis menghasilkan contoh kode SDK untuk API tersebut.

API

Catatan penggunaan

Titik akhir bisnis: https://green-cip.{region}.aliyuncs.com.

Panggil titik akhir ini untuk membuat tugas Voice Moderation. Untuk petunjuk penyusunan permintaan HTTP, lihat Lakukan panggilan HTTP native. Atau, gunakan permintaan HTTP yang telah dibuat sebelumnya. Untuk informasi selengkapnya, lihat Voice Moderation Enhanced Edition 2.0 SDK dan panduan integrasi.

  • Business endpoints:

    • Kirim tugas moderasi: VoiceModeration

    • Kueri hasil moderasi: VoiceModerationResult

  • Billing information:

    API ini dikenai biaya. Biaya hanya berlaku untuk permintaan yang mengembalikan kode status HTTP 200. Permintaan yang mengembalikan kode kesalahan lainnya tidak dikenai biaya.

Kirim tugas moderasi

Parameter permintaan

Nama

Tipe

Wajib

Contoh

Deskripsi

Service

String

Ya

audio_multilingual_global

Jenis layanan moderasi. Nilai yang valid:

  • audio_multilingual_global: moderasi media audio dan video multibahasa

  • stream_multilingual_global: moderasi streaming langsung multibahasa untuk hiburan sosial

ServiceParameters

JSONString

Ya

String berformat JSON yang berisi parameter yang diperlukan oleh layanan moderasi. Untuk deskripsi tiap parameter, lihat ServiceParameters.

Tabel 1. ServiceParameters

Nama

Tipe

Wajib

Contoh

Deskripsi

url

String

Ya

http://aliyundoc.com/test.flv

URL objek yang akan dimoderasi: URL HTTP atau HTTPS publik.

callback

String

Tidak

http://aliyundoc.com

URL tempat Content Moderation mengirimkan hasil moderasi. Mendukung HTTP dan HTTPS. Jika bidang ini kosong, Anda harus melakukan polling hasil secara berkala.

Titik akhir callback Anda harus mendukung metode POST, data berkode UTF-8, dan parameter form checksum dan content.

Content Moderation menetapkan checksum dan content sebagai berikut saat memanggil titik akhir callback Anda:

  • checksum: String yang dihasilkan dengan menerapkan algoritma SHA256 pada penggabungan user UID + seed + content. UID pengguna adalah ID akun Alibaba Cloud Anda, yang dapat Anda temukan di Konsol Manajemen Alibaba Cloud. Untuk mencegah manipulasi, verifikasi checksum yang diterima dengan membuat ulang menggunakan algoritma yang sama.

    Catatan

    UID pengguna harus merupakan UID Akun Alibaba Cloud Anda, bukan UID Pengguna RAM.

  • content: String berformat JSON. Uraikan menjadi objek JSON. Untuk contoh struktur content, lihat contoh respons di "Kueri hasil moderasi."

Catatan

Jika server Anda mengembalikan kode status HTTP 200 saat menerima callback, Content Moderation menganggap pengiriman berhasil. Kode status lainnya dianggap gagal. Jika terjadi kegagalan, Content Moderation akan mencoba ulang hingga 16 kali. Jika semua percobaan ulang gagal, tidak akan ada upaya lebih lanjut. Periksa status titik akhir callback Anda jika hal ini terjadi.

Seed

String

Tidak

abc****

String acak yang digunakan untuk menandatangani permintaan callback.

Dapat berisi huruf, angka, dan garis bawah (_), hingga 64 karakter. Tetapkan nilai ini sendiri untuk memverifikasi bahwa permintaan callback berasal dari Content Moderation Alibaba Cloud.

Catatan

Bidang ini wajib diisi saat menggunakan URL callback.

cryptType

String

Tidak

SHA256

Algoritma enkripsi yang digunakan untuk konten callback. Content Moderation mengenkripsi string hasil (user UID + seed + content) menggunakan algoritma yang Anda tentukan sebelum mengirimkannya ke URL callback Anda. Nilai yang valid:

  • SHA256 (default): Menggunakan algoritma SHA256.

  • SM3: Menggunakan algoritma standar nasional Tiongkok HMAC-SM3, mengembalikan string heksadesimal huruf kecil. Misalnya, mengenkripsi "abc" dengan SM3 menghasilkan "66c7f0f462eeedd9d1f2d46bdc10e4e24167c4875cf2f7a2297da02b8f4ba8e0".

liveId

String

Tidak

liveId1****

ID aliran audio langsung.

Parameter ini mencegah tugas moderasi duplikat. Jika disediakan, sistem akan memeriksa tugas yang sudah ada menggunakan UID + service + liveId. Jika ditemukan, sistem akan mengembalikan taskId yang sudah ada tanpa memulai tugas baru.

DataId

String

Tidak

voice20240307***

ID data yang terkait dengan objek deteksi.

Dapat berisi huruf, angka, garis bawah (_), tanda hubung (-), dan titik (.), hingga 64 karakter. Gunakan untuk mengidentifikasi data bisnis Anda secara unik.

Parameter respons

Nama

Tipe

Nilai contoh

Deskripsi

Code

Integer

200

Kode kesalahan, yang sesuai dengan kode status HTTP. Untuk informasi selengkapnya, lihat Deskripsi kode.

data

JSONObject

{"taskId": "AAAAA-BBBBB"}

Data hasil moderasi.

Message

String

OK

Pesan respons untuk permintaan.

RequestId

String

AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****

ID permintaan.

Contoh

Permintaan contoh

{
  "service":"audio_multilingual_global",
  "serviceParameters":"{\"cryptType\":\"SHA256\",\"seed\":\"abc***123\",\"callback\":\"https://aliyun.com/callback\",\"url\":\"http://aliyundoc.com/test.flv"}"
}

Respons sukses contoh

{
  "code":200,
  "data":{
    "taskId":"AAAAA-BBBBB"
  },
  "message":"SUCCESS",
  "requestId":"AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

Kueri hasil tugas

Setelah moderasi selesai, respons mencakup data untuk semua segmen audio.

Parameter permintaan

Nama

Tipe

Wajib

Contoh

Deskripsi

Service

String

Ya

audio_multilingual_global

Tinjau jenis layanan.

ServiceParameters

JSONString

Ya

String berformat JSON yang berisi parameter yang diperlukan oleh layanan moderasi. Untuk deskripsi tiap parameter, lihat ServiceParameters.

Tabel 2. ServiceParameters

Nama

Tipe

Wajib

Contoh

Deskripsi

taskId

String

Ya

AAAAA-BBBBB

ID tugas yang dikembalikan saat mengirimkan tugas.

Parameter respons

Nama

Tipe

Contoh

Deskripsi

Code

Integer

200

Kode kesalahan, yang sesuai dengan kode status HTTP. Untuk informasi selengkapnya, lihat Deskripsi kode.

data

JSONObject

{"url":xxxx,"results":xxx}

Parameter respons dalam format JSON.

Message

String

OK

Pesan respons untuk permintaan.

RequestId

String

AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****

ID permintaan.

Tabel 3. Data

Nama

Tipe

Contoh

Deskripsi

url

String

https://aliyundoc.com

URL objek yang dimoderasi.

LiveId

String

liveId1****

ID aliran audio langsung (opsional).

DataId

String

voice20240307***

ID data objek yang dimoderasi (opsional).

RiskLevel

String

high

Tingkat risiko keseluruhan audio, dihitung dari semua segmen. Nilai yang mungkin:

  • high: risiko tinggi

  • medium: risiko sedang

  • low: risiko rendah

  • none: tidak terdeteksi risiko

Catatan

Ambil tindakan segera terhadap konten berisiko tinggi. Tinjau secara manual konten berisiko sedang. Untuk konten berisiko rendah, tangani seperti "none" kecuali Anda memerlukan recall tinggi.

sliceDetails

JSONArray

Hasil detail untuk setiap segmen audio. Untuk detailnya, lihat sliceDetails.

Tabel 4. sliceDetails

Nama

Tipe

Contoh

Deskripsi

startTime

Integer

0

Waktu mulai segmen, dalam detik.

endTime

Integer

4065

Waktu akhir segmen, dalam detik.

startTimestamp

Integer

1678854649720

Timestamp awal segmen, dalam milidetik.

endTimestamp

Integer

1678854649720

Timestamp akhir segmen, dalam milidetik.

text

String

nasty

Teks transkripsi segmen audio.

url

String

https://aliyundoc.com

URL sementara untuk segmen audio. URL ini kedaluwarsa setelah 30 menit. Simpan kontennya segera.

labels

String

pullinTraffic

Tag (pisahkan beberapa tag dengan koma). Termasuk:

  • violence: konten kekerasan atau terorisme

  • contraband: barang terlarang

  • sexuality: konten pornografi

  • profanity: kata kasar atau bahasa kasar

  • pullinTraffic: konten promosi atau pengarah trafik

  • regional: konflik regional

  • C_customized: cocok dengan pustaka yang ditentukan pengguna

RiskLevel

String

high

Tingkat risiko segmen audio. Nilai yang mungkin:

  • high: risiko tinggi

  • medium: risiko sedang

  • low: risiko rendah

  • none: tidak terdeteksi risiko

riskWords

String

AAA,BBB,CCC

Kata berisiko yang terdeteksi, dipisahkan dengan koma.

riskTips

String

sexuality_Suggestive

Sub-tag, dipisahkan dengan koma.

extend

String

{\"riskTips\":\"sexuality_Suggestive\",\"riskWords\":\"pxxxxy\"}

Bidang cadangan.

Contoh

Permintaan contoh

{
  "service":"audio_multilingual_global",
  "serviceParameters":"{\"taskId\":\"AAAAA-BBBBB"}"
}

Respons sukses contoh

{
    "Code": 200,
    "Data": {
        "DataId": "voice20240307***",
        "LiveId": "liveId1****",
        "RiskLevel": "high",
        "SliceDetails": [
            {
                "EndTime": 4065,
                "Labels": "political_content,xxxx",
                "RiskLevel": "high",
                "RiskTips": "contraband_prohibited_items",
                "RiskWords": "risk word A",
                "StartTime": 0,
                "Text": "Content Moderation product test case",
                "Url": "https://aliyundoc.com"
            }
        ]
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

Format pesan callback

Pesan callback dikirim sebagai data form berformat JSON:

Nama Bidang

Tipe

Deskripsi

checksum

String

String checksum yang dihasilkan dengan menerapkan algoritma SHA256 pada penggabungan user UID + seed + content.

UID pengguna adalah ID akun Alibaba Cloud Anda, yang dapat Anda temukan di Konsol Manajemen Alibaba Cloud. Untuk mencegah manipulasi, verifikasi checksum yang diterima dengan membuat ulang menggunakan algoritma yang sama.

Catatan

UID pengguna harus merupakan UID Akun Alibaba Cloud Anda, bukan UID Pengguna RAM.

taskId

String

ID tugas pesan callback.

content

String

Hasil moderasi yang diserialisasi sebagai string JSON. Uraikan menjadi objek JSON. Strukturnya sesuai dengan respons dari "Kueri hasil tugas." Untuk detailnya, lihat Parameter respons.

Deskripsi kode

Tabel berikut menjelaskan arti setiap kode yang dikembalikan oleh API. Penagihan hanya berlaku untuk permintaan dengan kode 200. Kode lainnya tidak dikenai biaya.

Kode

Deskripsi

200

Permintaan berhasil.

280

Moderasi sedang berlangsung.

400

Parameter permintaan kosong.

401

Parameter permintaan tidak valid.

402

Panjang parameter permintaan melebihi batas yang diizinkan. Periksa dan perbaiki.

403

Permintaan melebihi batas QPS. Periksa dan sesuaikan pengaturan QPS Anda.

404

Pengunduhan file gagal. Periksa file atau coba lagi.

405

Waktu tunggu pengunduhan file habis, kemungkinan karena file tidak dapat diakses. Periksa dan coba lagi.

406

Ukuran file melebihi batas yang diizinkan. Periksa dan coba lagi.

407

Format file tidak didukung. Periksa dan coba lagi.

408

Akun tidak memiliki izin untuk memanggil API ini. Hal ini mungkin terjadi karena layanan belum diaktifkan, akun memiliki pembayaran tertunda, atau akun pemanggil tidak memiliki otorisasi.

480

Batas aliran konkuren terlampaui. Periksa dan sesuaikan konkurensi.

500

Kesalahan sistem.