AI Guardrails adalah layanan Alibaba Cloud yang secara cerdas memoderasi konten multimedia seperti gambar, video, dan teks dalam berbagai skenario. Layanan ini membantu Anda mengurangi risiko pelanggaran konten secara efektif. Berbasis algoritma AI dan teknologi cloud computing, AI Guardrails mengidentifikasi serta memberi label pada konten multimedia yang tidak pantas atau ilegal. Layanan ini mendukung moderasi objek seperti gambar dan video di berbagai industri dan skenario bisnis, sehingga membantu meningkatkan efisiensi moderasi konten, kualitas konten platform, serta pengalaman pengguna.
Content Moderation merupakan pelopor di bidang moderasi konten. Layanan ini berasal dari akumulasi teknologi keamanan Alibaba Cloud selama bertahun-tahun dan mengandalkan pengalaman manajemen serta pengendalian dari platform-platform seperti Alibaba Cloud, Taobao, dan Alipay untuk menyediakan solusi moderasi konten yang matang dan ringan bagi perusahaan.
Deskripsi fitur
Alibaba Cloud AI Guardrails merupakan pelopor di bidang moderasi konten. Layanan ini berasal dari akumulasi teknologi keamanan Alibaba Cloud selama bertahun-tahun dan mengandalkan pengalaman manajemen serta pengendalian dari platform-platform seperti Alibaba Cloud, Taobao, dan Alipay untuk menyediakan solusi AI Guardrails yang matang dan ringan bagi perusahaan. AI Guardrails membantu perusahaan dan pengembang mendeteksi berbagai risiko dalam teks, gambar, dan video di lingkungan Internet yang kompleks dan terus berubah.
Saat ini, API AI Guardrails telah tersedia.
API AI Guardrails memoderasi teks, gambar, dan video terhadap konten pornografi, konten sensitif politik, terorisme, iklan, dan informasi sampah. Dengan metode sistematis, API ini menawarkan kemampuan kuat seperti moderasi konten, pelabelan, dan konfigurasi kustom untuk mencapai hasil yang diinginkan serta memenuhi kebutuhan spesifik Anda. Untuk menggunakan API ini, Anda harus mengintegrasikannya ke dalam aplikasi Anda.
Industri yang dapat menerapkan layanan ini mencakup, namun tidak terbatas pada, semua platform yang menangani konten yang dibuat pengguna (UGC), seperti website video, platform siaran langsung, platform sosial, platform media, komunitas vertikal, forum, website e-dagang, platform penyimpanan, platform jaringan pengiriman konten (CDN), serta platform lain yang memerlukan moderasi konten website.
Permasalahan moderasi manual
Platform yang sepenuhnya bergantung pada moderator manusia kesulitan mengimbangi volume dan kecepatan konten yang dibuat pengguna (UGC). Alur kerja berbasis manual saja bersifat lambat, mahal untuk diskalakan, dan tidak konsisten. Kebijakan konten yang tidak ditegakkan merusak pengalaman pengguna dan reputasi merek.
Content Moderation mengatasi masalah ini dengan menjalankan pemeriksaan berbasis AI terhadap seluruh konten yang diajukan. Moderator manusia kemudian dapat fokus pada subset konten yang ditandai sebagai prioritas tinggi—bukan meninjau semuanya—sehingga secara signifikan mengurangi volume konten yang memerlukan perhatian manusia.
Cara kerja
Integrasikan API Content Moderation ke dalam aplikasi Anda. API ini menerima gambar, video, dan teks, menjalankan pemeriksaan moderasi otomatis, lalu mengembalikan label untuk setiap kategori pelanggaran. Tindaklanjuti hasilnya dengan menyetujui konten, menolaknya, atau meningkatkannya untuk tinjauan manual.
Kemampuan utama
| Kemampuan | Deskripsi |
|---|---|
| Image moderation | Mendeteksi pornografi, konten sensitif politik, terorisme, iklan, dan informasi sampah dalam gambar |
| Video moderation | Menerapkan kategori deteksi yang sama pada konten video |
| Text moderation | Mengidentifikasi pornografi, konten sensitif politik, terorisme, iklan, dan informasi sampah dalam teks |
| Labeling | Mengembalikan label untuk setiap pelanggaran yang terdeteksi |
| Custom configuration | Memungkinkan Anda menyesuaikan ambang batas dan aturan moderasi agar sesuai dengan kebijakan platform Anda |
Kasus penggunaan
Content Moderation dirancang untuk platform yang menangani konten yang dibuat pengguna (UGC), termasuk:
Website video dan platform live streaming — memeriksa video yang diunggah dan aliran siaran langsung terhadap pelanggaran sebelum atau saat dipublikasikan
Platform sosial dan forum — memoderasi unggahan, komentar, dan pesan pengguna secara real time
Website E-dagang — meninjau daftar produk dan gambar yang dikirimkan penjual terhadap pelanggaran kebijakan
Platform media dan komunitas vertikal — menegakkan standar editorial pada konten teks dan visual
Platform penyimpanan dan platform jaringan pengiriman konten (CDN) — memindai aset yang disimpan untuk memastikan kepatuhan sebelum pengiriman
Mulai menggunakan
Quickstart: Mulai menggunakan API Content Moderation
Concepts: Pelajari cara kerja kategori deteksi
How-to guides: Konfigurasikan aturan dan ambang batas moderasi kustom untuk platform Anda