La protection des applications d'IA dans Web Application Firewall (WAF) 3.0 protège les modèles d'IA, les données et l'infrastructure contre l'injection de prompts, les attaques par jailbreak et les violations de conformité du contenu.
Qu'est-ce que la protection des applications d'IA
Les modèles d'IA alimentent des applications dans divers domaines tels que le traitement du langage naturel, la reconnaissance d'images et les systèmes de recommandation. Toutefois, les applications et agents d'IA sont confrontés à des menaces telles que l'injection de prompts, les commandes de jailbreak, la manipulation par jeu de rôle et les violations de conformité du contenu. Ces risques compromettent les opérations commerciales et exposent l'entreprise à des problèmes de conformité. La protection des applications d'IA traite ces menaces au niveau du WAF sans nécessiter de modifications du code.
Avantages
La protection des applications d'IA intègre Alibaba Cloud AI Security Guardrails pour détecter les injections de prompts et les attaques par jailbreak, faire respecter la conformité du contenu et appliquer en temps réel des actions WAF (blocage, remplacement, révocation).
Détection des attaques par prompt : Identifie les commandes de jailbreak, la manipulation par jeu de rôle et l'altération des instructions système ciblant l'IA générative. Couvre les flux d'instructions des agents d'IA, les systèmes de dialogue ouvert et les appels de plugins tiers.
Détection de la conformité du contenu : Vérifie le contenu des requêtes et des réponses par rapport aux exigences de sécurité et réglementaires.
Protection et réponse en temps réel : Bloque les comportements anormaux et remplace le contenu des réponses en temps réel grâce aux actions WAF, notamment le blocage, le remplacement et la révocation.
Activer la protection des applications d'IA
Avant de commencer, activez un abonnement WAF 3.0 ou un WAF 3.0 avec paiement à l'utilisation, puis ajoutez votre service web au WAF.
Connectez-vous à la console Web Application Firewall 3.0. Dans la barre de menus supérieure, sélectionnez le groupe de ressources et la région (Chinese Mainland ou Outside Chinese Mainland) de l'instance WAF. Dans le volet de navigation de gauche, choisissez .
-
Demande d'accès à l'aperçu public : sur la page AI Application Protection, cliquez sur Request Public Preview. Renseignez les informations relatives à votre demande d'essai et cliquez sur Submit.
Un ingénieur Alibaba Cloud vous contactera dans un délai d'une semaine pour confirmer les détails de l'essai. Après approbation, la protection des applications d'IA est automatiquement activée pour votre instance WAF.
Activate AI Guardrails et Role Authorization : la fonctionnalité AI Application Protection dépend des capacités de AI Guardrails. Après approbation, revenez à la page WAF AI Application Protection et suivez les instructions pour activer le service et autoriser les rôles.
La fonctionnalité AI Application Protection est en aperçu public et gratuite. Cependant, elle fait appel aux capacités de AI Guardrails et les frais associés apparaissent sur la facture de AI Guardrails.
FAQ
Quelles sont les différences entre AI Guardrails, la protection des applications d'IA et AI Gateway ?
|
Élément de comparaison |
AI Guardrails (capacités atomiques principales) |
Protection des applications d'IA (pour les équipes de sécurité) |
AI Gateway (pour les équipes métier) |
|
Positionnement du produit |
Capacités atomiques principales pour la protection de l'intention de l'IA. Détecte les risques liés au contenu, les attaques par prompt, les hallucinations et les informations sensibles. |
Protection de sécurité prête à l'emploi, construite sur AI Guardrails. |
Routage et gestion du trafic pour le transfert des API LLM. La protection de sécurité est une fonctionnalité supplémentaire. |
|
Méthode d'intégration |
SDK de détection uniquement intégré au code source de l'application. |
Aucune modification du code requise. Ajoutez le domaine de l'application d'IA au WAF pour activer la protection. |
Définissez l'URL de base de l'agent d'IA sur l'URL de l'endpoint AI Gateway. |
|
Fonctionnalités |
Déploiement flexible et configuration des règles. S'intègre au sein des applications, entre les applications ou dans les LLM pour empêcher le contournement des politiques. |
Configuration fine des règles avec des actions préconfigurées : révocation, remplacement, accusé de réception, blocage, journalisation et réponses personnalisées. |
Plug-in de sécurité basé sur AI Guardrails avec des capacités limitées. Aucune règle fine par type de contenu ; le blocage est la seule action disponible. |
|
Limitations |
Détection uniquement ; aucune capacité d'action directe. |
Nécessite l'architecture WAF. Ne peut pas être utilisé si le domaine ne peut pas être ajouté au WAF. |
Capacités et actions de sécurité limitées. |