O PAI oferece ferramentas de IA responsável para análise de justiça, análise de erros, interpretabilidade de modelos, guardrails de segurança e treinamento seguro de modelos. Esses recursos ajudam você a construir sistemas de IA seguros, justos e confiáveis.
Construa sistemas de IA seguros, justos, transparentes e alinhados com padrões éticos. O PAI disponibiliza ferramentas e melhores práticas que abrangem todo o ciclo de vida do modelo, desde o preparo dos dados e o treinamento até a avaliação e a implantação.
Princípios fundamentais
A abordagem de IA responsável do PAI baseia-se nos seguintes princípios:
Justiça: Identifique e mitigue vieses para garantir tratamento equitativo a todos os grupos de usuários, independentemente de atributos sensíveis como gênero, raça ou idade.
Segurança e robustez: Detecte e previna conteúdos nocivos, ataques adversariais e comportamentos inesperados que possam causar danos.
Transparência e interpretabilidade: Torne as decisões do modelo explicáveis para que os usuários compreendam como e por que as previsões são geradas.
Privacidade e segurança: Proteja dados sensíveis durante o treinamento e a inferência, evite vazamento de dados e garanta uma implantação segura do modelo.
Responsabilidade: Monitore continuamente o desempenho do modelo, analise erros de forma sistemática e adote medidas corretivas para aprimorar os modelos.
Capacidades
O PAI fornece ferramentas de IA responsável nas seguintes áreas:
|
Capacidade |
Descrição |
|
Análise de justiça |
Detecta vieses nas previsões do modelo com base em atributos sensíveis. Avalia métricas de justiça entre grupos demográficos e gera insights acionáveis para corrigir vieses. |
|
Análise de erros |
Identifica, categoriza e analisa sistematicamente os erros de previsão do modelo. Permite compreender padrões de erro e causas raiz, além de adotar medidas corretivas para melhorar a precisão. |
|
Interpretabilidade de modelos |
Explica as decisões do modelo usando técnicas como importância de recursos, valores SHAP e visualização de atenção. Auxilia os usuários a entender quais entradas impulsionam as previsões. |
|
Guardrails de segurança |
Detecta e filtra conteúdos nocivos, ataques de injeção de prompt e violações de políticas em tempo real. Protege aplicações de LLM contra entradas adversariais. |
|
Treinamento seguro de modelos |
Treina modelos com dados sensíveis sem expor os dados brutos por meio de aprendizado federado. Várias partes treinam modelos colaborativamente enquanto mantêm os dados em dispositivos locais. |
Primeiros passos
Selecione um cenário que corresponda às suas necessidades:
|
Cenário |
Descrição |
Documentação |
|
Analisar a justiça do modelo |
Detecte vieses em modelos de classificação ou regressão. Identifique previsões injustas baseadas em gênero, raça, idade ou outros atributos sensíveis. |
|
|
Analisar erros de previsão |
Identifique padrões de erro de forma sistemática, compreenda as causas raiz e melhore o desempenho do modelo por meio de análises iterativas. |
Integração com services do PAI
As ferramentas de IA Responsável integram-se aos seguintes services do PAI:
Data Science Workshop (DSW): Execute análises de justiça, análises de erros e estudos de interpretabilidade de modelos em notebooks Jupyter com o responsible-ai-toolbox.
Elastic Algorithm Service (EAS): Implante services de guardrail de segurança para proteger aplicações de LLM em ambientes de produção.
Machine Learning Platform for AI (PAI): Implemente fluxos de trabalho de aprendizado federado para treinar modelos com segurança em sources de dados distribuídas.