A proteção de aplicativos de IA no Web Application Firewall (WAF) 3.0 defende modelos de IA, dados e infraestrutura contra injeção de prompt, ataques de jailbreak e violações de conformidade de conteúdo.
O que é a proteção de aplicativos de IA
Modelos de IA impulsionam aplicações de NLP, reconhecimento de imagem e sistemas de recomendação. No entanto, aplicativos e agentes de IA enfrentam ameaças como injeção de prompt, comandos de jailbreak, manipulação de role-play e violações de conformidade de conteúdo. Esses riscos comprometem as operações comerciais e geram exposição regulatória. A proteção de aplicativos de IA mitiga essas ameaças na camada do WAF, sem exigir alterações no código.
Benefícios
A proteção de aplicativos de IA integra os AI Security Guardrails da Alibaba Cloud para detectar injeções de prompt e ataques de jailbreak, impor conformidade de conteúdo e aplicar ações do WAF (bloquear, substituir, revogar) em tempo real.
Detecção de ataques de prompt: Identifica comandos de jailbreak, manipulação de role-play e adulteração de instruções do sistema direcionados à IA generativa. Abrange fluxos de instruções de agentes de IA, sistemas de diálogo de domínio aberto e chamadas de plugins de terceiros.
Detecção de conformidade de conteúdo: Valida o conteúdo de solicitações e respostas com base em requisitos de segurança e regulamentações.
Proteção e resposta em tempo real: Bloqueia comportamentos anormais e substitui o conteúdo da resposta instantaneamente por meio de ações do WAF, incluindo bloqueio, substituição e revogação.
Ativar a proteção de aplicativos de IA
Antes de começar, ative o WAF 3.0 por assinatura ou o WAF 3.0 pagamento conforme o uso e adicione seu serviço web ao WAF.
Faça login no console do Web Application Firewall 3.0. Na barra de menus superior, selecione o grupo de recursos e a região (Chinese Mainland ou Outside Chinese Mainland) da instância do WAF. No painel de navegação à esquerda, escolha .
-
Solicite o preview público: Na página AI Application Protection, clique em Request Public Preview. Preencha as informações da solicitação de teste e clique em Envie.
Um engenheiro da Alibaba Cloud entrará em contato em até uma semana para confirmar os detalhes do teste. Após a aprovação, a proteção de aplicativos de IA será ativada automaticamente na sua instância do WAF.
Activate AI Guardrails e Role Authorization: O recurso AI Application Protection depende das capacidades dos AI Guardrails. Após a aprovação, retorne à página AI Application Protection do WAF e siga as instruções para concluir a ativação do serviço e a autorização de função.
O recurso AI Application Protection está em preview público e é gratuito. Contudo, ele utiliza capacidades dos AI Guardrails, e as cobranças associadas aparecem na fatura dos AI Guardrails.
Perguntas frequentes
Quais são as diferenças entre AI Guardrails, proteção de aplicativos de IA e AI Gateway?
|
Item de comparação |
AI Guardrails (capacidades atômicas principais) |
Proteção de Aplicativos de IA (para equipes de segurança) |
AI Gateway (para equipes de negócios) |
|
Posicionamento do produto |
Capacidades atômicas principais para proteção de intenção de IA. Detecta riscos de conteúdo, ataques de prompt, alucinações e informações sensíveis. |
Proteção de segurança pronta para uso, construída sobre os AI Guardrails. |
Roteamento e gerenciamento de tráfego para encaminhamento de API LLM. A proteção de segurança é um recurso adicional. |
|
Método de integração |
SDK apenas para detecção, integrado ao código source do aplicativo. |
Nenhuma alteração de código necessária. Adicione o domínio do aplicativo de IA ao WAF para ativar a proteção. |
Defina a URL base do agente de IA como a URL do endpoint do AI Gateway. |
|
Recursos |
Implantação flexível e configuração de regras. Incorporado em aplicativos, entre aplicativos ou em LLMs para evitar evasão de políticas. |
Configuração granular de regras com ações predefinidas: revogar, substituir, confirme, bloquear, log e respostas personalizadas. |
Plug-in de segurança construído sobre os AI Guardrails com capacidades limitadas. Sem regras granulares de tipo de conteúdo; o bloqueio é a única ação disponível. |
|
Limitações |
Apenas detecção; sem capacidades de ação direta. |
Requer arquitetura WAF. Não pode ser usado se o domínio não puder ser adicionado ao WAF. |
Capacidades e ações de segurança limitadas. |