AI Guardrails:Configure notifications

Como funciona

O AI Guardrails oferece suporte a dois tipos de callback:

• Callbacks de resultado de varredura: Após concluir uma solicitação de detecção, o AI Guardrails envia os resultados via POST para o seu endereço de webhook.

• Callbacks de resultado de revisão: Quando uma revisão humana altera os resultados da detecção (seja pelo console ou pela API de feedback), o AI Guardrails envia os resultados da revisão via POST para o seu endereço de webhook. Para mais detalhes, consulte Revisão humana.

Fluxo completo do processo:

1. Seu servidor expõe um endereço de webhook público.

2. Informe o endereço de webhook (e um seed) ao chamar uma operação de API assíncrona ou configurar o console.

3. Quando o AI Guardrails finaliza o processamento, ele envia os resultados via POST para o seu endereço de webhook.

4. Seu servidor retorna HTTP 200 para confirmar o recebimento e processa o payload.

Conceitos principais

import hashlib

def verify_checksum(user_uid: str, seed: str, content: str, received_checksum: str) -> bool:
    """Verify that a callback originated from AI Guardrails."""
    raw = user_uid + seed + content
    computed = hashlib.sha256(raw.encode("utf-8")).hexdigest()
    return computed == received_checksum

Configurar callbacks de resultado de varredura

Todas as operações de API assíncronas do AI Guardrails suportam callbacks de resultado de varredura, incluindo varredura assíncrona de imagens e varredura assíncrona de vídeos.

Sem callbacks, a única maneira de recuperar resultados de detecção assíncronos é por meio de polling periódico.

Configurar callbacks de revisão humana

As operações de API de revisão humana não retornam resultados diretamente. Em vez disso, os resultados são entregues via callbacks.

Se você utiliza o serviço de revisão humana da Alibaba Cloud (moderação assistida por máquina), configure as notificações no console:

1. Faça login no console do AI Guardrailsconsole do AI Guardrails.

2. No painel de navegação à esquerda, selecione Machine Moderation V1.0 > Settings.

3. Na página Settings, clique em Notification e, em seguida, clique em Create New Notification.

4. Na caixa de diálogo Create New Notification, preencha os campos abaixo e clique em OK: Após clicar em OK, o sistema gera um seed automaticamente. Salve esse seed — ele será usado para verificar se os callbacks recebidos têm origem na Alibaba Cloud.

   Campo	Descrição
   Title	Nome descritivo para esta configuração de notificação.
   Callback URL	Seu endereço de webhook.
   Encryption algorithm	Selecione SHA256 (HMAC-SHA256) ou SM3. Veja Algoritmos de criptografia para mais detalhes.
   Notification type	Selecione Manual Review Results by AlibabaCloud.
   Audit Result	Escolha quais resultados de revisão acionam um callback. Selecione todos para receber callbacks de qualquer resultado ou escolha resultados específicos conforme seu caso de uso.

5. Na aba Scenario Management, localize o cenário de negócios desejado, clique em Associate Notification na coluna Actions e associe o Callback Notification Plan criado.

Console de Gerenciamento da Alibaba Cloud

Estrutura do campo content

Após converter a string content em um objeto JSON, ela contém os seguintes campos de nível superior:

{
    "scanResult": {
        "code": 200,
        "msg": "OK",
        "taskId": "fdd25f95-4892-4d6b-aca9-7939bc6e9baa-1486198766695",
        "url": "http://1.jpg",
        "results": [
            {
                "rate": 100,
                "scene": "porn",
                "suggestion": "block",
                "label": "porn"
            }
        ]
    },
    "auditResult": {
        "suggestion": "block",
        "labels": [
            "porn",
            "ad",
            "terrorism"
        ]
    },
    "humanAuditResult": {
        "suggestion": "pass",
        "dataId": "yyyy",
        "labels": [
            "porn",
            "vulgar"
        ],
        "taskId": "xxxxxx"
    }
}

Próximos passos

• Revisão humana

• Varredura assíncrona de imagens

• Varredura assíncrona de vídeos