/green/text/scan - Content Moderation

Memoderasi teks. Operasi ini mendeteksi apakah teks yang diberikan mengandung konten yang tidak diinginkan, seperti pornografi, pelanggaran iklan, spam, konten politik, dan pelecehan.

Catatan penggunaan

Operasi: /green/text/scan

Gunakan operasi ini untuk menyerahkan tugas moderasi teks. Untuk detail lebih lanjut tentang cara membuat permintaan HTTP, lihat Struktur Permintaan. Anda juga dapat menggunakan permintaan HTTP yang sudah ada. Untuk informasi lebih lanjut, lihat Gambaran SDK.

Catatan Secara default, operasi ini digunakan untuk memoderasi teks dalam bahasa Tiongkok. Jika Anda perlu memoderasi teks dalam bahasa lain, hubungi manajer akun Anda. Bahasa lainnya mencakup Inggris, Prancis, Jerman, Indonesia, Malaysia, Portugis, Spanyol, Thailand, Vietnam, Jepang, Arab, Filipina, Hindi, Turki, Rusia, Italia, dan Belanda.

Penagihan:

Anda akan dikenakan biaya untuk setiap pemanggilan operasi ini. Untuk informasi lebih lanjut tentang metode penagihan, lihat .

Batas QPS

Setiap akun dapat memanggil operasi ini hingga 100 kali per detik. Jika jumlah panggilan per detik melebihi batas, throttling akan dipicu, yang dapat memengaruhi bisnis Anda. Pastikan untuk memperhatikan batas ini saat menggunakan operasi ini.

Parameter permintaan

Parameter	Tipe	Diperlukan	Contoh	Deskripsi
bizType	String	Tidak	default	Skenario bisnis. Anda dapat membuat skenario bisnis di Content Moderation console. Untuk informasi lebih lanjut, lihat Sesuaikan kebijakan untuk moderasi berbasis mesin.
scenes	StringArray	Ya	["antispam"]	Skenario moderasi. Atur nilainya menjadi antispam, yang menunjukkan moderasi teks.
tasks	JSONArray	Ya		Daftar objek yang dimoderasi. Array JSON dapat berisi hingga 100 elemen. Setiap elemen adalah struktur. Artinya, Anda dapat mengirimkan hingga 100 entri teks sekaligus. Jika Anda perlu mengirimkan lebih dari 100 entri teks sekaligus, hubungi manajer akun Anda untuk mengajukan peningkatan batas konkurensi. Untuk informasi lebih lanjut tentang struktur, lihat tugas.

Tabel 1. tugas

Parameter	Tipe	Diperlukan	Contoh	Deskripsi
clientInfo	JSONObject	Tidak		Informasi tentang klien. Untuk informasi lebih lanjut, lihat bagian "Parameter permintaan umum" dari Parameter Umum. Server menentukan apakah akan menggunakan parameter global clientInfo atau parameter clientInfo yang dijelaskan dalam tabel ini. Catatan Parameter clientInfo dalam tabel ini memiliki prioritas lebih tinggi daripada yang global.
dataId	String	Tidak	cfd33235-71a4-468b-8137-a5ffe323****	ID objek moderasi. ID dapat berisi huruf, angka, garis bawah (_), tanda hubung (-), dan titik (.). Panjang maksimumnya adalah 128 karakter. ID ini secara unik mengidentifikasi data bisnis Anda.
content	String	Ya	Kami adalah perusahaan peminjaman mikro yang menyediakan pinjaman tanpa jaminan pada hari yang sama dengan layanan andal, cepat, nyaman, dan door-to-door ketika Anda mengajukan pinjaman melalui ponsel Anda.	Teks yang akan dimoderasi. Setiap entri teks dapat memiliki panjang hingga 10.000 karakter, termasuk tanda baca.

Parameter respons

Parameter	Tipe	Contoh	Deskripsi
code	Integer	200	Kode status HTTP yang dikembalikan. Untuk informasi lebih lanjut, lihat Kode kesalahan umum.
msg	String	OK	Pesan yang dikembalikan untuk permintaan.
dataId	String	cfd33235-71a4-468b-8137-a5ffe323****	ID objek moderasi. Catatan Jika Anda mengatur parameter dataId dalam permintaan moderasi, nilai parameter permintaan dataId dikembalikan di sini.
taskId	String	txt6HB8NQoEbU@5fosnj2xVEM-1t****	ID tugas moderasi.
content	String	Kami adalah perusahaan peminjaman mikro yang menyediakan pinjaman tanpa jaminan pada hari yang sama dengan layanan andal, cepat, nyaman, dan door-to-door ketika Anda mengajukan pinjaman melalui ponsel Anda.	Teks yang Anda tentukan dalam permintaan moderasi.
filteredContent	String	Kami adalah perusahaan ** yang menyediakan pinjaman * pada hari yang sama dengan layanan andal, cepat, nyaman, dan **** ketika Anda mengajukan pinjaman melalui ponsel Anda.	Teks yang dikembalikan jika konten asli cocok dengan istilah dalam perpustakaan istilah kustom, dengan istilah tersebut diganti dengan tanda bintang (*). Anda dapat menyesuaikan istilah dengan memanggil operasi CreateKeywordLib atau di Konsol Content Moderation. Untuk informasi lebih lanjut, lihat Kelola perpustakaan teks kustom dan CreateKeywordLib.
results	JSONArray		Hasil moderasi. Jika panggilan berhasil, kode status HTTP 200 dan hasil moderasi dikembalikan. Array hasil moderasi berisi satu atau lebih elemen. Setiap elemen adalah struktur. Untuk informasi lebih lanjut tentang struktur setiap elemen, lihat hasil.

Tabel 2. hasil

Parameter	Tipe	Contoh	Deskripsi
scene	String	antispam	Skenario moderasi yang Anda tentukan dalam permintaan moderasi.
suggestion	String	block	Operasi lanjutan yang direkomendasikan. Nilai valid: pass: Teks normal. review: Teks memerlukan tinjauan manual. block: Teks mengandung pelanggaran dan dapat dihapus atau diblokir.
label	String	porn	Kategori hasil moderasi untuk teks yang dimoderasi. Nilai valid: normal: konten normal spam: konten sampah ad: konten iklan politics: konten politik terrorism: konten teroris abuse: konten pelecehan porn: konten pornografi flood: konten sampah berlebihan contraband: konten terlarang meaningless: konten tanpa makna harmful: konten berbahaya, termasuk konten terkait mammonisme, pamer kekayaan, penyembahan buta pada idola, emosi mengganggu, dan godaan negatif customized: konten kustom, seperti istilah kustom
rate	Float	99,91	Skor tingkat kepercayaan. Nilai valid: 0 hingga 100. Nilai yang lebih besar menunjukkan tingkat kepercayaan yang lebih tinggi. Jika nilai pass dikembalikan untuk parameter suggestion, tingkat kepercayaan yang lebih tinggi menunjukkan probabilitas yang lebih tinggi bahwa kontennya normal. Jika nilai review atau block dikembalikan untuk parameter suggestion, tingkat kepercayaan yang lebih tinggi menunjukkan probabilitas yang lebih tinggi bahwa konten mengandung pelanggaran. Penting Kami sarankan Anda menggunakan nilai yang dikembalikan untuk parameter suggestion, label, dan sublabel untuk menentukan apakah konten mengandung pelanggaran. Parameter sublabel dikembalikan oleh operasi tertentu.
extras	JSONObject	{"userId":"xxx"}	Informasi tambahan. Ini adalah parameter ekstensi.
details	JSONArray		Detail konten berisiko yang cocok dengan teks yang dimoderasi. Entri teks dapat cocok dengan beberapa konten berisiko. Untuk informasi lebih lanjut tentang struktur, lihat detail.

Tabel 3. detail

Parameter	Tipe	Contoh	Deskripsi
label	String	porn	Kategori konten berisiko yang cocok dengan teks yang dimoderasi. Nilai valid: spam: konten sampah ad: konten iklan politics: konten politik terrorism: konten teroris abuse: konten pelecehan porn: konten pornografi flood: konten sampah berlebihan contraband: konten terlarang meaningless: konten tanpa makna harmful: konten berbahaya, termasuk konten terkait mammonisme, pamer kekayaan, penyembahan buta pada idola, emosi mengganggu, dan godaan negatif customized: konten kustom, seperti istilah kustom
contexts	JSONArray		Informasi konteks konten berisiko yang cocok dengan teks yang dimoderasi. Untuk informasi lebih lanjut tentang struktur, lihat konteks.

Tabel 4. konteks

Parameter	Tipe	Contoh	Deskripsi
context	String	door-to-door	Istilah yang cocok dengan teks yang dimoderasi. Jika teks cocok dengan istilah, istilah tersebut dikembalikan. Jika teks cocok dengan model algoritma, parameter ini tidak dikembalikan.
positions	JSONArray	[{"startPos":1, "endPos":10}]	Posisi istilah yang cocok dengan teks yang dimoderasi dalam teks asli.
libName	String	Nama perpustakaan teks kustom Anda	Nama perpustakaan teks kustom. Parameter ini dikembalikan jika teks yang dimoderasi cocok dengan istilah dalam perpustakaan teks kustom.
libCode	String	123456	Kode perpustakaan teks kustom. Parameter ini dikembalikan jika teks yang dimoderasi cocok dengan istilah dalam perpustakaan teks kustom.
ruleType	String	ip	Aturan perilaku. Parameter ini dikembalikan jika teks yang dimoderasi cocok dengan aturan perilaku. Nilai valid: user_id ip umid content similar_content imei imsi

Contoh

Permintaan sampel

http(s)://[Endpoint]/green/text/scan
&<Parameter permintaan umum>
{
    "scenes": [
        "antispam"
    ],
    "tasks": [
        {
            "dataId": "cfd33235-71a4-468b-8137-a5ffe323****",
            ..."content": "Kami adalah perusahaan peminjaman mikro yang menyediakan pinjaman tanpa jaminan pada hari yang sama dengan layanan andal, cepat, nyaman, dan door-to-door ketika Anda mengajukan pinjaman melalui ponsel Anda."
        }
    ]
}

Respons sampel

{
 "code": 200,
 "data": [
  {
   "code": 200,
      "content": "Kami adalah perusahaan peminjaman mikro yang menyediakan pinjaman tanpa jaminan pada hari yang sama dengan layanan andal, cepat, nyaman, dan door-to-door ketika Anda mengajukan pinjaman melalui ponsel Anda.",
   "dataId": "cfd33235-71a4-468b-8137-a5ffe323****",
      "filteredContent": "Kami adalah perusahaan **** yang menyediakan pinjaman *** pada hari yang sama dengan layanan andal, cepat, nyaman, dan **** ketika Anda mengajukan pinjaman melalui ponsel Anda.",
   "msg": "OK",
   "results": [
    {
     "details": [
      {
       "contexts": [
        {
                  "context": "unsecured",
         "positions": [
          {
           "endPos": 19,
           "startPos": 16
          }
         ]
        },
        {
                  "context": "micro-lending",
         "positions": [
          {
           "endPos": 6,
           "startPos": 2
          }
         ]
        }
       ],
       "label": "spam"
      },
      {
       "contexts": [
        {
                  "context": "door-to-door",
         "libCode": "123456",
                  "libName": "Nama perpustakaan teks kustom Anda",
         "positions": [
          {
           "endPos": 34,
           "startPos": 30
          }
         ]
        }
       ],
       "label": "porn"
      }
     ],
     "label": "porn",
     "rate": 99.91,
     "scene": "antispam",
     "suggestion": "block"
    }
   ],
   "taskId": "txt6HB8NQoEbU@5fosnj2xVEM-1t****"
  }
 ],
 "msg": "OK",
 "requestId": "25711794-BF6D-4F32-A735-09CA21197D32"
}