AI Guardrails:Personalizar políticas de moderação

Contexto

Você configura as políticas de moderação com base em um cenário de negócios (BizType), e cada cenário possui um conjunto de regras de moderação. Se você não criar uma política personalizada, o Content Moderation aplicará um cenário de negócios padrão e sua política correspondente. Após criar um cenário de negócios personalizado, transmita o respectivo BizType nas chamadas de API do Content Moderation para aplicar suas regras personalizadas.

Procedimento

1. Faça login no console do Content Moderation.

2. No painel de navegação à esquerda, escolha Machine Moderation V1.0 > Settings.

3. Crie um cenário de negócios.

   Se você já criou um cenário de negócios, pule esta etapa.

   1. Na aba BizType Manage da página Machine Moderation, clique em Create BizType.

   2. Na caixa de diálogo Create BizType, configure os parâmetros conforme descrito na tabela a seguir.

      Parâmetro	Descrição
      Nome do BizType	Nome do cenário de negócios. Pode conter dígitos, letras e sublinhados (_) e deve ter no máximo 32 caracteres.
      Industry template configuration	Configuração de política baseada em padrões do setor. Ao usar um modelo de setor, alguns recursos da política de moderação não podem ser personalizados. Sem o uso de um modelo, todas as configurações ficam disponíveis para ajuste manual.
      Industry Category	Setor ao qual seu negócio pertence. Especificar o setor ajuda a melhorar a precisão da configuração da política.
      Copy from	Permite importar a configuração de um cenário de negócios existente.
      Description	Descrição do cenário de negócios. Aceita caracteres chineses, letras em inglês, dígitos e sublinhados (_), com limite de 32 caracteres.

   3. Clique em OK para criar o cenário de negócios.

4. Configure o cenário de negócios.

   É possível configurar a Moderation Policy e os Audit Data.

   • Moderation Policy

     As políticas de moderação variam conforme os cenários de detecção. As opções exibidas no console são definitivas.

     1. Na página Machine Moderation, localize o cenário de negócios desejado e clique em Edit na coluna Actions.

     2. Selecione a política de moderação que deseja definir conforme suas necessidades.

        Defina políticas de moderação para imagens, vídeos, texto e áudio. Para imagens e vídeos, as políticas abrangem pornografia, conteúdo relacionado a terrorismo, cenas indesejáveis e texto incorporado em imagens. Para texto e áudio, as políticas cobrem conteúdo relacionado a pornografia, política, abuso, publicidade e conteúdo proibido.

        Caso um cenário específico de detecção não seja relevante para o seu negócio, não é necessário configurar uma política para ele. Por exemplo, se não houver necessidade de verificar anúncios, evite configurar definições relacionadas a publicidade na política de moderação.

        Nota

        Ao definir a política de moderação para imagens, use as opções Apply Libraries e Associated Text Library à direita para vincular configurações das suas bibliotecas de risco.

     3. Clique em Save para concluir a personalização da política de moderação.

        Para que a política de moderação personalizada entre em vigor, transmita o cenário de negócios correspondente ao chamar a API. Por exemplo, ao analisar imagens em busca de conteúdo pornográfico (para mais informações, consulte verificação síncrona), defina o parâmetro de solicitação scene como porn.

   • Audit Data

     1. Clique em Audit Data.

     2. Na aba Audit Data, selecione quais tipos de dados enviar para revisão humana.

        Para mais informações sobre revisão humana, consulte revisão humana.