Proteksi aplikasi AI adalah fitur dalam Web Application Firewall (WAF) 3.0 yang menyediakan langkah-langkah keamanan untuk sistem artificial intelligence (AI) dan aplikasinya guna melindungi model AI, data, infrastruktur, serta proses bisnis dari serangan, penyalahgunaan, atau risiko tidak disengaja. Topik ini menjelaskan manfaat proteksi aplikasi AI dan cara mengaktifkannya.
Apa itu proteksi aplikasi AI
Model AI banyak digunakan di berbagai bidang, seperti pemrosesan bahasa alami, pengenalan gambar, dan sistem rekomendasi cerdas. Kemampuan generatif yang kuat dan efisiensi pemrosesannya membuka peluang luar biasa bagi berbagai industri. Namun, pengembang dan perusahaan sering menghadapi ancaman keamanan saat mengembangkan dan mengoperasikan aplikasi AI serta AI Agent. Ancaman tersebut mencakup risiko ketidaksesuaian konten, serangan prompt injection, instruksi jailbreak, dan asumsi peran. Munculnya ancaman AI ini tidak hanya mengganggu operasi bisnis normal, tetapi juga menimbulkan risiko kepatuhan dan sosial yang signifikan bagi perusahaan. Oleh karena itu, keamanan aplikasi AI menjadi pertimbangan kritis.
Manfaat proteksi aplikasi AI
Fitur proteksi aplikasi AI terintegrasi dengan Alibaba Cloud AI Security Guardrails dan menyediakan pendeteksian terhadap serangan prompt injection serta jailbreak, mendukung pemeriksaan kepatuhan permintaan, serta menerapkan tindakan WAF seperti pemblokiran, penggantian tanggapan, dan pencabutan untuk memblokir ancaman secara real-time dan menjamin keamanan bisnis.
Pendeteksian serangan prompt: Menyediakan perlindungan profesional terhadap serangan injection yang menargetkan AI generatif. Fitur ini secara akurat mendeteksi perilaku serangan adversarial, seperti instruksi jailbreak, asumsi peran, dan perubahan instruksi sistem, sehingga membangun pertahanan kuat bagi sistem AI. Fitur ini ideal untuk skenario seperti mengamankan interaksi instruksi AI Agent, mempertahankan sistem dialog domain terbuka dari serangan adversarial, dan mengontrol izin panggilan plugin pihak ketiga.
Pemeriksaan kepatuhan konten: Melakukan pemeriksaan kepatuhan terhadap konten permintaan dan tanggapan untuk memastikan seluruh interaksi memenuhi persyaratan keamanan dan regulasi.
Perlindungan dan tanggapan real-time: Memblokir perilaku abnormal secara real-time menggunakan tindakan WAF seperti pemblokiran, penggantian tanggapan, dan pencabutan. Fitur ini juga dapat secara otomatis mengganti konten tanggapan untuk menjamin operasi bisnis yang aman.
Mengaktifkan proteksi aplikasi AI
Sebelum mengaktifkan proteksi aplikasi AI, Anda harus membeli instans langganan WAF 3.0 atau bayar sesuai penggunaan WAF 3.0, serta menambahkan layanan web Anda ke WAF.
Masuk ke Konsol Web Application Firewall 3.0. Di bilah menu atas, pilih kelompok sumber daya dan wilayah (Chinese Mainland atau Outside Chinese Mainland) untuk instans WAF.
Di panel navigasi sebelah kiri, pilih .
Daftar untuk pratinjau publik:
WAF bayar sesuai penggunaan: Di halaman AI Application Protection, klik Apply For Free Public Preview. Di halaman WAF-AI Application Protection Module POC Request, isi informasi pendaftaran dan klik Submit.
Setelah Alibaba Cloud menerima permohonan Anda, seorang insinyur akan menghubungi Anda dalam waktu satu minggu untuk mengonfirmasi detail uji coba. Setelah permohonan Anda disetujui, fitur proteksi aplikasi AI akan diaktifkan secara otomatis untuk instans WAF Anda.
WAF langganan: Di halaman AI Application Protection, klik Apply For Free Public Preview untuk mengaktifkan fitur proteksi aplikasi AI. Ini akan memulai uji coba gratis selama 7 hari.