AI Guardrails:Moderasi Teks dengan LLM

Bayar sesuai pemakaian

Saat Anda mengaktifkan layanan Content Moderation, metode penagihan bayar sesuai pemakaian menjadi metode default. Anda ditagih setiap hari berdasarkan penggunaan aktual dan tidak dikenai biaya jika tidak menggunakan layanan.

Rencana sumber daya

Untuk volume moderasi yang tinggi atau konsisten, paket sumber daya menawarkan diskon signifikan. Anda dapat membeli dan menumpuk beberapa paket. Untuk informasi selengkapnya, lihat Beli paket sumber daya untuk Content Moderation 2.0.

Setelah Anda membeli paket sumber daya, penggunaan API Anda untuk Content Moderation 2.0 pertama kali dipotong dari paket sumber daya Anda. Ketika paket sumber daya habis, penggunaan selanjutnya ditagih dengan metode bayar sesuai pemakaian. Pantau sisa saldo paket dan biaya bayar sesuai pemakaian Anda. Anda dapat mengatur peringatan saldo rendah di Sistem Paket Sumber Daya.

Definisi label

Text Moderation 2.0 mendukung lebih dari 30 label detail di 6 kategori risiko, dan mengembalikan skor kepercayaan (0–100; semakin tinggi skor, semakin besar kepercayaannya) untuk masing-masing. Jika konten mengandung beberapa jenis risiko, layanan mengembalikan beberapa label detail. Tabel berikut mencantumkan nilai label risiko, rentang skor kepercayaan yang sesuai, dan maknanya.

Konfigurasikan label risiko

Aktifkan atau nonaktifkan label risiko di Konsol. Anda juga dapat menyesuaikan cakupan deteksi untuk label tertentu. Lihat Konsol Content Moderation untuk detailnya.

1. Di panel navigasi kiri, pilih Machine Moderation V2.0>Text Moderation>Rules.

2. Di tab Rules Management, temukan solusi moderasi model besar, misalnya, aigc_moderation_byllm_global, lalu klik Set Thesaurus di kolom Operation.

   1. Pilih jenis deteksi yang akan dikonfigurasi, seperti deteksi konten tidak pantas.

   2. Klik Edit dan ubah pengaturan deteksi.

   3. Klik Save. Konfigurasi baru berlaku di lingkungan produksi dalam 2 hingga 5 menit.

Langkah 1: Aktifkan layanan

Untuk mengaktifkan layanan Text Moderation 2.0, kunjungi aktifkan layanan.

Langkah 2: Berikan izin kepada Pengguna RAM

Sebelum menggunakan SDK atau memanggil API, berikan izin yang diperlukan kepada Pengguna RAM. Buat Pasangan Kunci Akses untuk Akun Alibaba Cloud atau Pengguna RAM Anda guna mengautentikasi panggilan API. Untuk petunjuknya, lihat Dapatkan kunci akses.

1. Masuk ke Konsol RAM menggunakan Akun Alibaba Cloud Anda.

2. Buat Pengguna RAM. Untuk detailnya, lihat Buat Pengguna RAM.

3. Berikan kebijakan sistem AliyunYundunGreenWebFullAccess kepada Pengguna RAM. Kebijakan ini memberikan akses penuh ke Content Moderation. Untuk detailnya, lihat Kelola izin Pengguna RAM.

Pengguna RAM kini dapat memanggil API Content Moderation.

Langkah 3: Instal dan integrasikan SDK

Referensi API

{
    "Service": "ugc_moderation_byllm_global",
    "ServiceParameters": {
        "content": "testing content",
        "dataId": "text0424****"
    }
}

{
    "Code": 200,
    "Data": {
        "Result": [
            {
                "Label": "political_entity",
                "Description": "Dicurigai entitas politik",
                "Confidence": 100.0,
                "RiskWords": "WordA,WordB",
                "RiskPositions": [
                    {
                        "EndPos": 14,
                        "RiskWord": "WordA",
                        "StartPos": 16
                    }
                ]
            },
            {
                "Label": "political_figure",
                "Description": "Dicurigai tokoh politik",
                "Confidence": 100.0,
                "RiskWords": "WordB,WordC",
                "RiskPositions": [
                    {
                        "EndPos": 24,
                        "RiskWord": "WordC",
                        "StartPos": 26
                    }
                ]
            }
        ],
        "RiskLevel": "high",
        "DataId": "text0424****"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

{
    "Code": 200,
    "Data": {
        "Result": [
            {
                "Description": "Cocok dengan pustaka kustom",
                "CustomizedHit": [
                     {
                        "LibName": "Nama Pustaka Kustom 1",
                        "Keywords": "kata kunci kustom"
                     }
                ],
                "Confidence": 100,
                "Label": "customized"
             }
        ],
        "RiskLevel": "high",
        "DataId": "text0424****"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

{
  "RequestId": "ZZZZZ-2024-0307-FORYOU-EVER",
  "Message": "OK",
  "Data": {
    "Ext": {
      "LlmContent": {
        "OutputText": "Dicurigai konten ofensif atau kasar"
      }
    },
    "Result": [
      {
        "RiskWords": "kata risiko",
        "Description": "Dicurigai konten ofensif atau kasar",
        "Confidence": 100.0,
        "Label": "inappropriate_profanity",
        "RiskPositions": [
          {
            "RiskWord": "kata risiko",
            "EndPos": 5,
            "StartPos": 2
          }
        ]
      }
    ],
    "RiskLevel": "high"
  },
  "Code": 200
}