Proteksi aplikasi AI adalah serangkaian langkah keamanan yang diperkenalkan dalam Web Application Firewall (WAF) 3.0 untuk sistem artificial intelligence (AI) dan skenario penerapannya. Fitur ini melindungi model AI, data, infrastruktur, dan proses bisnis dari serangan, penyalahgunaan, atau risiko tak terduga. Topik ini menjelaskan manfaat proteksi aplikasi AI dan cara mengaktifkannya.
Apa itu proteksi aplikasi AI
Model AI banyak digunakan di berbagai bidang, termasuk pemrosesan bahasa alami, pengenalan gambar, dan sistem rekomendasi cerdas. Kemampuan generatifnya yang kuat serta efisiensi pemrosesan tinggi membuka peluang luar biasa bagi berbagai industri. Namun, saat mengembangkan dan mengoperasikan aplikasi AI serta AI agent, pengembang dan perusahaan AI menghadapi ancaman keamanan seperti risiko ketidaksesuaian konten permintaan, serangan prompt injection, perintah jailbreak, dan manipulasi role-play. Risiko terkait AI ini tidak hanya mengancam operasi bisnis normal, tetapi juga mengekspos perusahaan pada risiko kepatuhan dan sosial yang signifikan. Oleh karena itu, mengamankan aplikasi AI merupakan pertimbangan kritis yang tidak boleh diabaikan.
Manfaat
Proteksi aplikasi AI mengintegrasikan Alibaba Cloud AI Security Guardrails. Fitur ini mendeteksi serangan prompt injection dan serangan role jailbreak, mendukung deteksi kepatuhan permintaan, serta menggabungkan langkah-langkah WAF seperti blocking, penggantian respons, dan pencabutan untuk memblokir risiko secara real-time dan memastikan keamanan bisnis.
Deteksi serangan prompt: Memberikan perlindungan profesional terhadap serangan injection yang menargetkan AI generatif. Fitur ini secara akurat mengidentifikasi perilaku serangan adversarial seperti perintah jailbreak, manipulasi role-play, dan perubahan instruksi sistem guna membangun "garis pertahanan imun" bagi sistem AI. Penerapannya mencakup skenario seperti mengamankan interaksi instruksi untuk AI agent, mempertahankan sistem dialog open-domain dari serangan adversarial, serta mengelola izin panggilan plugin pihak ketiga.
Deteksi kepatuhan konten: Melakukan pemeriksaan kepatuhan terhadap konten permintaan maupun respons untuk memastikan seluruh interaksi memenuhi persyaratan keamanan dan regulasi.
Proteksi dan respons real-time: Menggabungkan langkah-langkah WAF seperti blocking, penggantian respons, dan pencabutan untuk memblokir perilaku abnormal secara real-time serta secara otomatis mengganti konten respons, sehingga menjamin operasi bisnis yang aman.
Aktifkan proteksi aplikasi AI
Sebelum mengaktifkan proteksi aplikasi AI, Anda harus mengaktifkan langganan WAF 3.0 atau pay-as-you-go WAF 3.0 dan menambahkan layanan web Anda ke WAF.
Masuk ke Konsol Web Application Firewall 3.0. Di bilah menu atas, pilih kelompok sumber daya dan wilayah (Chinese Mainland atau Outside Chinese Mainland) untuk instans WAF. Di panel navigasi sebelah kiri, pilih .
Mengajukan pratinjau publik: Di halaman AI Application Protection, klik Request Public Preview. Ikuti petunjuk di layar untuk mengisi informasi permohonan uji coba Anda, lalu klik Submit.
Insinyur Alibaba Cloud akan menghubungi Anda dalam waktu satu minggu setelah menerima permohonan untuk mengonfirmasi detail uji coba. Setelah permohonan uji coba Anda disetujui, fitur proteksi aplikasi AI akan diaktifkan secara otomatis untuk instans WAF Anda.
Activate AI Guardrails dan Role Authorization: Fitur AI Application Protection WAF bergantung pada beberapa kemampuan AI Guardrails. Setelah menyelesaikan permohonan pratinjau publik, kembali ke halaman WAF AI Application Protection dan ikuti petunjuk di layar untuk menyelesaikan aktivasi layanan dan otorisasi role.
Fitur AI Application Protection WAF sedang dalam masa pratinjau publik. Fitur ini sendiri tidak dikenai biaya. Namun, karena fitur ini menggunakan kemampuan AI Guardrails, biaya terkait akan ditagih secara normal dan muncul pada tagihan AI Guardrails.
FAQ
Apa perbedaan antara AI Guardrails, proteksi aplikasi AI, dan AI Gateway?
Item perbandingan | AI Guardrails (kemampuan atomik inti) | Proteksi aplikasi AI (untuk tim keamanan) | AI Gateway (untuk tim bisnis) |
Posisi produk | Kemampuan atomik inti untuk proteksi intent AI. Menyediakan deteksi risiko konten, serangan prompt, halusinasi, dan informasi sensitif. | Produk proteksi keamanan siap pakai yang dibangun di atas AI Guardrails. | Komponen routing dan manajemen trafik untuk forwarding API Large Language Model (LLM). Proteksi keamanan merupakan fitur tambahan. |
Metode integrasi | SDK deteksi saja yang memerlukan integrasi dengan kode sumber aplikasi Anda. | Tidak memerlukan modifikasi kode aplikasi Anda. Anda dapat mengaktifkan proteksi dengan menambahkan nama domain aplikasi AI ke WAF. | Atur URL dasar untuk AI agent ke URL titik akhir AI Gateway. |
Fitur | Menawarkan fleksibilitas tinggi dalam penerapan dan konfigurasi aturan. Dapat disematkan di mana saja, seperti di dalam aplikasi, antar aplikasi, atau di dalam LLM, untuk mencegah penghindaran kebijakan secara efektif. | Mendukung konfigurasi aturan dengan dimensi proteksi detail halus. Termasuk berbagai aksi pra-konfigurasi, seperti revoke, replace, acknowledgement, block, log, dan respons kustom. | Plugin keamanan dibangun di atas AI Guardrails tetapi memiliki kemampuan terbatas. Tidak mendukung konfigurasi aturan untuk tipe konten detail halus, dan satu-satunya aksi yang tersedia adalah block. |
Keterbatasan | Hanya menyediakan kemampuan deteksi dan tidak mencakup kemampuan aksi langsung. | Sangat bergantung pada arsitektur WAF. Produk ini tidak dapat digunakan jika nama domain yang dilindungi tidak dapat ditambahkan ke WAF. | Menawarkan kemampuan dan aksi keamanan terbatas. |