Layanan multibahasa moderasi teks edisi tingkat lanjut 2.0 - AI Guardrails

Moderasi Teks 2.0 meningkatkan kemampuan model multibahasa dengan deteksi bahasa otomatis dan dukungan bahasa yang diperluas. Layanan ini menyediakan kebijakan moderasi dan sistem pelabelan yang dirancang khusus untuk bisnis internasional. Topik ini menjelaskan layanan multibahasa Moderasi Teks 2.0 serta cara menggunakannya.

Fitur

Dibandingkan dengan layanan moderasi multibahasa Moderasi Teks 1.0, Moderasi Teks 2.0 menggunakan kebijakan dan sistem pelabelan terpisah yang dirancang khusus untuk bisnis internasional. Layanan ini juga menyediakan fitur tambahan untuk menyederhanakan integrasi dan mendukung tinjauan manual.

Fitur	Moderasi Teks 2.0	Moderasi Teks 1.0
Dukungan bahasa	Mendukung 38 bahasa.	Mendukung 18 bahasa.
Kemampuan moderasi	Menjalankan beberapa model secara paralel, menggabungkan karakteristik bahasa dan regional untuk kebijakan yang lebih tepat.	Menggunakan satu model yang menggabungkan karakteristik bahasa. Kebijakannya menyeimbangkan presisi dan recall.
Sistem pelabelan	Menggunakan sistem pelabelan terinternasionalisasi dengan label tambahan untuk kata kasar dan konten regional, serta mendukung beberapa label risiko dan label subkategori.	Menggunakan dan hanya mendukung satu label risiko.
Perilaku API	Tidak mengharuskan Anda menentukan bahasa input—layanan ini secara otomatis mendeteksi bahasa tersebut. Setelah moderasi, layanan mengembalikan jenis bahasa yang terdeteksi dan terjemahan konten dalam bahasa Inggris untuk membantu tinjauan manual.	Mengharuskan Anda menentukan bahasa input. Tidak ada terjemahan yang dikembalikan.

Bahasa yang didukung

Moderasi Teks 2.0 mendukung 38 bahasa.

Bahasa	Nama	Kode bahasa
English	English	en
Simplified Chinese	Simplified Chinese	zh
Traditional Chinese	Traditional Chinese	zh-tw
Indonesian	Indonesian	id
Malay	Malay	ms
Thai	Thai	th
Vietnamese	Vietnamese	vi
Tagalog	Tagalog	tl
Hindi	Hindi	hi
Arabic	Arabic	ar
Turkish	Turkish	tr
French	French	fr
German	German	de
Russian	Russian	ru
Portuguese	Portuguese	pt
Spanish	Spanish	es
Italian	Italian	it
Dutch	Dutch	nl
Polish	Polish	pl
Japanese	Japanese	ja
Korean	Korean	ko
Urdu	Urdu	ur
Uyghur	Uyghur	ug
Bengali	Bengali	bn
Persian	Persian	fa
Swedish	Swedish	sv
Danish	Danish	da
Norwegian	Norwegian	no
Icelandic	Icelandic	is
Finnish	Finnish	fi
Belarusian	Belarusian	be
Lithuanian	Lithuanian	lt
Czech	Czech	cs
Slovak	Slovak	sk
Hungarian	Hungarian	hu
Greek	Greek	el
Romanian	Romanian	ro
Irish	Irish	ga

Label internasionalisasi

Layanan multibahasa Moderasi Teks 2.0 menggunakan sistem pelabelan terinternasionalisasi. Jika konten berisi beberapa kategori risiko, layanan akan mengembalikan beberapa label secara bersamaan. Kategori label mencakup, namun tidak terbatas pada, hal-hal berikut:

Jenis	Kategori
Label tingkat-1 (labels)	violence: kekerasan contraband: barang selundupan seksualitas: pornografi profanity: kata kasar dan penghinaan pullinTraffic: konten promosi regional: permusuhan regional C_customized: cocok dengan pustaka kustom
Label subkategori (riskTips)	Label subkategori dikembalikan dalam format `xxx_yyy`. Contohnya: `contraband_Drugs`.

Metode penagihan

Moderasi Teks 2.0 mendukung penagihan pay-as-you-go.

Pay-as-you-go

Jenis	Layanan	Harga satuan
Advanced text moderation (text_standard)	Deteksi multibahasa untuk bisnis internasional: comment_multilingual_global	USD 0,3 per 1.000 panggilan
Advanced text moderation (text_advanced)	Fitur terjemahan teks	USD 0,6 per 1.000 panggilan Catatan Setelah fitur terjemahan teks diaktifkan, setiap permintaan ditagih per 500 karakter.

Pemotongan paket sumber daya

Jika volume moderasi Anda tinggi atau kebutuhan moderasi relatif konsisten, kami merekomendasikan pembelian paket sumber daya. Paket yang lebih besar menawarkan diskon lebih besar. Beberapa paket dapat dibeli dan ditumpuk. Untuk informasi lebih lanjut, lihat Beli paket sumber daya untuk Moderasi Konten 2.0.

Paket sumber daya ini mencakup penggunaan Moderasi Konten 2.0 dan tidak dapat dibagi dengan paket trafik Content Security 1.0. Faktor pemotongannya adalah sebagai berikut:

Jenis	Layanan	Faktor pemotongan
Advanced text moderation (text_standard)	Deteksi multibahasa untuk bisnis internasional: comment_multilingual_global	Faktor pemotongan adalah 1, artinya setiap panggilan API yang berhasil akan memotong 1 unit dari kapasitas paket sumber daya. Catatan Contohnya, jika paket sumber daya Anda memiliki kapasitas 10 panggilan, satu panggilan API yang berhasil akan memotong 1 panggilan, sehingga sisa saldo menjadi 9 panggilan.
Advanced text moderation (text_advanced)	Fitur terjemahan teks	Faktor pemotongan adalah 2, artinya setiap panggilan API yang berhasil akan memotong 2 unit dari kapasitas paket sumber daya. Catatan Contohnya, jika paket sumber daya Anda memiliki kapasitas 10 panggilan, satu panggilan API yang berhasil akan memotong 2 panggilan, sehingga sisa saldo menjadi 8 panggilan.

Integrasi

Langkah 1: Aktifkan layanan

Buka aktivasi layanan untuk mengaktifkan layanan Moderasi Teks 2.0.

Setelah Anda mengaktifkan layanan Moderasi Teks 2.0, metode penagihan default adalah pay-as-you-go. Anda ditagih setiap hari berdasarkan penggunaan aktual. Tidak ada biaya yang dikenakan jika Anda tidak memanggil layanan tersebut. Setelah Anda mengintegrasikan API, sistem secara otomatis menghasilkan tagihan berdasarkan penggunaan Anda. Untuk informasi lebih lanjut, lihat Penagihan.

Langkah 2: Berikan izin kepada Pengguna RAM

Sebelum mengintegrasikan SDK atau memanggil API, Anda harus memberikan izin yang diperlukan kepada Pengguna RAM. Anda dapat membuat Pasangan Kunci Akses (AccessKey pair) untuk Akun Alibaba Cloud atau untuk Pengguna RAM. Semua panggilan API memerlukan AccessKey untuk otentikasi. Untuk petunjuknya, lihat Dapatkan AccessKey.

Berikan izin kepada Pengguna RAM

Login ke Konsol RAM menggunakan Akun Alibaba Cloud Anda.
Buat Pengguna RAM. Untuk detailnya, lihat Buat Pengguna RAM.
Berikan kebijakan sistem AliyunYundunGreenWebFullAccess kepada Pengguna RAM. Kebijakan ini memberikan akses penuh ke Moderasi Konten. Untuk detailnya, lihat Kelola izin Pengguna RAM.
Pengguna RAM sekarang dapat memanggil API Moderasi Konten.

Langkah 3: Integrasikan SDK

Tabel berikut mencantumkan wilayah yang didukung. Untuk SDK Moderasi Teks Edisi Tingkat Lanjut, lihat Panduan integrasi.

Wilayah	Titik akhir publik	Titik akhir VPC
Singapore	green-cip.ap-southeast-1.aliyuncs.com	green-cip-vpc.ap-southeast-1.aliyuncs.com
US (Virginia)	green-cip.us-east-1.aliyuncs.com	green-cip-vpc.us-east-1.aliyuncs.com
US (Silicon Valley)	green-cip.us-west-1.aliyuncs.com	N/A
UK (London)	green-cip.eu-west-1.aliyuncs.com	N/A

Catatan

Jika Anda memerlukan contoh kode SDK dalam bahasa pemrograman lain, gunakan OpenAPI Explorer untuk melakukan debug operasi API secara online. Alat ini secara otomatis menghasilkan contoh kode SDK untuk API yang sesuai.

API

Penggunaan

Titik akhir: https://green-cip.{region}.aliyuncs.com.

Panggil operasi ini untuk membuat tugas moderasi konten teks. Untuk informasi tentang cara menyusun permintaan HTTP, lihat Struktur permintaan. Anda juga dapat menggunakan permintaan HTTP yang telah disusun sebelumnya. Untuk informasi lebih lanjut, lihat Panduan akses.

Penagihan:
Ini adalah operasi berbayar. Hanya permintaan yang mengembalikan kode status HTTP 200 yang diukur dan ditagih. Permintaan yang mengembalikan kode kesalahan lainnya tidak dikenai biaya. Untuk informasi lebih lanjut tentang penagihan, lihat Metode penagihan.

Batas QPS

Batas QPS per pengguna untuk operasi ini adalah 100 panggilan per detik. Melebihi batas ini akan memicu pembatasan kecepatan (throttling), yang dapat memengaruhi bisnis Anda. Rencanakan panggilan API Anda dengan sesuai.

Parameter permintaan

Parameter	Jenis	Wajib	Contoh	Deskripsi
Service	String	Ya	comment_multilingual_global	Jenis layanan moderasi. Tetapkan nilainya ke comment_multilingual_global untuk deteksi multibahasa untuk bisnis internasional.
ServiceParameters	JSONString	Ya		Kumpulan parameter yang diperlukan oleh layanan moderasi, dalam format string JSON. Untuk deskripsi setiap bidang, lihat ServiceParameters.

Tabel 1. ServiceParameters

Parameter	Jenis	Wajib	Contoh	Deskripsi
content	String	Ya	testing content	Konten teks yang akan dimoderasi. Panjang maksimum: 600 karakter.
dataId	String	Tidak	text0424****	ID data yang sesuai dengan objek yang akan dimoderasi. Berisi huruf besar dan kecil, angka, garis bawah (_), tanda hubung (-), dan titik (.). Panjang maksimum: 64 karakter. Gunakan ini untuk mengidentifikasi data bisnis Anda secara unik.
accountId	String	Tidak	10123****	ID akun yang secara unik mengidentifikasi suatu akun.
deviceId	String	Tidak	20240307****	ID perangkat yang secara unik mengidentifikasi suatu perangkat.
deviceToken	String	Tidak	MzQvo1d7scyZ3tl_RcJ******	Token perangkat yang diperoleh melalui SDK pengendalian risiko.

Parameter respons

Parameter	Jenis	Contoh	Deskripsi
Code	Integer	200	Kode status. Untuk informasi lebih lanjut, lihat Kode kesalahan.
Data	JSONObject		Data hasil moderasi. Untuk informasi lebih lanjut, lihat Data.
Message	String	OK	Pesan respons untuk permintaan tersebut.
RequestId	String	AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****	ID permintaan.

Tabel 2.Data

Parameter	Jenis	Contoh	Deskripsi
Labels	String	sexual_content	Label risiko. Beberapa label dipisahkan dengan koma (,). Nilai yang valid: violence: kekerasan contraband: barang selundupan sexuality: konten seksual profanity: kata kasar pullinTraffic: konten promosi regional: permusuhan regional C_customized: cocok dengan pustaka kustom
Reason	String	{"customizedWords": "HXXXXX","detectedLanguage": "en","riskTips": "sexuality_Suggestive","riskWords": "pxxxxy","translatedContent": "pxxxxy sxxxx, HXXXXX","customizedLibs": "ZXXXXX"}	String JSON untuk menentukan alasan, yang mencakup bidang-bidang berikut: riskLevel: Tingkat risiko, dikembalikan berdasarkan tingkat risiko yang direkomendasikan sistem. Nilai yang valid: high: risiko tinggi medium: risiko menengah low: risiko rendah Catatan Konten berisiko tinggi: segera ambil tindakan. Konten berisiko menengah: kirim untuk tinjauan manual. Konten berisiko rendah: tangani hanya jika diperlukan recall tinggi. Jika tidak, perlakukan sama seperti konten yang tidak terdeteksi risikonya. riskTips: Label subkategori. riskWords: Konten berisiko yang cocok. customizedWords: Kata kunci kustom yang cocok. customizedLibs: Nama pustaka kustom yang cocok. translatedContent: Konten teks yang diterjemahkan. Hanya dikembalikan setelah fitur terjemahan teks diaktifkan. Catatan Fitur terjemahan teks saat ini hanya didukung di wilayah Singapura. Konfigurasikan melalui pengelolaan aturan deteksi di Konsol. Mengaktifkan fitur ini menimbulkan biaya tambahan. Untuk detail penagihan, lihat Metode penagihan.
AccountId	String	10123****	ID akun. Catatan Bidang ini hanya dikembalikan jika Anda mengirimkan `accountId` dalam parameter permintaan.
DeviceId	String	20240307****	ID perangkat. Catatan Bidang ini hanya dikembalikan jika Anda mengirimkan `deviceId` dalam parameter permintaan.

Contoh

Contoh permintaan

{
    "Service": "comment_multilingual_global",
    "ServiceParameters": {
        "content": "testing content",
        "accountId": "10123****",
        "dataId": "text0424****"
    }
}

Contoh respons:

Jika kata kunci kustom dan konten berisiko terdeteksi:

{
    "Code": 200,
    "Data": {
        "DataId": "text0424****",
        "Labels": "C_customized,profanity",
        "Reason": "{\"riskLevel\":\"high\",\"customizedWords\":\"HXXXXX\",\"detectedLanguage\":\"en\",\"riskTips\":\"sexuality_Suggestive\",\"riskWords\":\"pxxxxy\",\"translatedContent\":\"pxxxxy sxxxx，HXXXXX\",\"customizedLibs\":\"ZXXXXX\"}"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

Jika hanya kata kunci kustom yang terdeteksi:

{
    "Code": 200,
    "Data": {
        "DataId": "text0424****",
        "Labels": "C_customized",
        "Reason": "{\"riskLevel\":\"high\",\"customizedWords\":\"HXXXXX\",\"detectedLanguage\":\"en\",\"translatedContent\":\"HXXXXX\",\"customizedLibs\":\"ZXXXXX\"}"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

Jika hanya konten berisiko yang terdeteksi:

{
    "Code": 200,
    "Data": {
        "DataId": "text0424****",
        "Labels": "sexuality",
        "Reason": "{\"riskLevel\":\"high\",\"detectedLanguage\":\"ar\",\"riskTips\":\"sexuality_Suggestive\",\"riskWords\":\"pxxxxy\",\"translatedContent\":\"pxxxxy sxxxx\"}"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

Jika tidak ada kata kunci kustom maupun konten berisiko yang terdeteksi:

{
    "Code": 200,
    "Data": {
        "DataId": "text0424****",
        "Labels": "",
        "Reason": "{\"detectedLanguage\":\"en\",\"translatedContent\":\"AXXXXXX\"}"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

Kode kesalahan

Kode	Pesan status	Deskripsi
200	OK	Permintaan berhasil.
400	BAD_REQUEST	Permintaan tidak valid. Periksa parameter permintaan Anda.
407	NOT_SUPPORT	Bahasa yang ditentukan tidak dikenali atau tidak didukung.
408	PERMISSION_DENY	Penyebab yang mungkin: akun tidak memiliki otorisasi, terdapat pembayaran tertunda, layanan belum diaktifkan, atau akun dinonaktifkan.
500	GENERAL_ERROR	Terjadi kesalahan internal server. Coba ulang permintaan. Jika kesalahan tetap terjadi, hubungi Dukungan dan Layanan.
581	TIMEOUT	Permintaan melebihi waktu tunggu. Coba ulang permintaan. Jika kesalahan tetap terjadi, hubungi Dukungan dan Layanan.
588	EXCEED_QUOTA	Frekuensi permintaan melebihi batas QPS.