Moderação síncrona de texto - /green/text/scan - AI Guardrails: Central de Documentação do Alibaba Cloud

Observações de uso

Operação: /green/text/scan

Envie tarefas de moderação de texto por meio deste endpoint. Construa as requisições HTTP conforme descrito em Sintaxe da requisição ou use um SDK (Visão geral do SDK).

Por padrão, esta operação modera textos em chinês. Para moderar outros idiomas (inglês, francês, alemão, indonésio, malaio, português, espanhol, tailandês, vietnamita, japonês, árabe, filipino, hindi, turco, russo, italiano e holandês), entre em contato com o gerente da sua conta.

Faturamento

Esta operação gera cobranças. Consulte Preços do AI Guardrails.

Limite de QPS

Máximo: 100 chamadas por segundo por conta. Exceder esse limite aciona o throttling, o que pode afetar seus negócios.

Parâmetros da requisição

Parâmetro	Tipo	Obrigatório	Exemplo	Descrição
bizType	String	Não	default	Cenário de negócios. Crie cenários de negócios no console do AI Guardrails (Personalizar políticas para moderação assistida por máquina).
scenes	StringArray	Sim	["antispam"]	Cenário de moderação. Defina como `antispam` para moderação de texto.
tasks	JSONArray	Sim		Entradas de texto para moderação. Máximo de 100 elementos por requisição, cada um estruturado como um objeto task (consulte a tabela a seguir). Para aumentar o limite de concorrência, entre em contato com o gerente da sua conta.

task

Parâmetro	Tipo	Obrigatório	Exemplo	Descrição
clientInfo	JSONObject	Não		Informações do cliente, conforme descrito na seção "Parâmetros comuns da requisição" em Parâmetros comuns. O parâmetro `clientInfo` no nível da tarefa tem prioridade sobre o parâmetro global `clientInfo`.
dataId	String	Não	cfd33235-71a4-468b-8137-a5ffe323\\\\	Identificador exclusivo do objeto moderado. Aceita letras, dígitos, sublinhados (\_), hifens (-) e pontos (.). Comprimento máximo: 128 caracteres.
content	String	Sim	Somos uma empresa de microcrédito que oferece empréstimo sem garantia no mesmo dia, com serviços confiáveis, rápidos, convenientes e porta a porta quando você solicita um empréstimo pelo celular.	Texto para moderação. Comprimento máximo: 10.000 caracteres, incluindo pontuação.

Parâmetros da resposta

Parâmetro	Tipo	Exemplo	Descrição
code	Integer	200	Código de status HTTP. Consulte Códigos de erro comuns.
msg	String	OK	Mensagem de resposta.
dataId	String	cfd33235-71a4-468b-8137-a5ffe323\\\\	ID do objeto moderado. Retornado apenas se `dataId` tiver sido definido na requisição.
taskId	String	txt6HB8NQoEbU@5fosnj2xVEM-1t\\\\	ID da tarefa de moderação.
content	String	Somos uma empresa de microcrédito que oferece empréstimo sem garantia no mesmo dia, com serviços confiáveis, rápidos, convenientes e porta a porta quando você solicita um empréstimo pelo celular.	Texto original enviado na requisição.
filteredContent	String	Somos uma empresa de \\\\ que oferece empréstimo \\\ no mesmo dia, com serviços confiáveis, rápidos, convenientes e \\\\* quando você solicita um empréstimo pelo celular.	Texto com termos personalizados correspondentes substituídos por asteriscos (\*). Personalize os termos pela API CreateKeywordLib ou pelo console do AI Guardrails (Gerencie bibliotecas de texto personalizadas).
results	JSONArray		Resultados da moderação. Em caso de sucesso (HTTP 200), retorna um array de objetos result (consulte a tabela a seguir).

result

Parâmetro	Tipo	Exemplo	Descrição
scene	String	antispam	Cenário de moderação especificado na requisição.
suggestion	String	block	Ação recomendada. Valores válidos: `pass` (texto normal), `review` (texto requer revisão humana), `block` (texto contém violações e pode ser excluído ou bloqueado).
label	String	porn	Categoria do conteúdo. Valores válidos: `normal` (conteúdo normal), `spam` (conteúdo indesejado), `ad` (conteúdo publicitário), `politics` (conteúdo político), `terrorism` (conteúdo terrorista), `abuse` (conteúdo abusivo), `porn` (conteúdo pornográfico), `flood` (excesso de conteúdo indesejado), `contraband` (conteúdo proibido), `meaningless` (conteúdo sem sentido), `harmful` (conteúdo nocivo, incluindo materialismo, ostentação de riqueza, idolatria cega, emoção disruptiva e incitação negativa), `customized` (conteúdo personalizado, como um termo personalizado).
rate	Float	99,91	Pontuação de confiança de 0 a 100. Se `suggestion` for `pass`, pontuações mais altas indicam maior probabilidade de conteúdo normal. Se `suggestion` for `review` ou `block`, pontuações mais altas indicam maior probabilidade de violações. Use `suggestion`, `label` e `sublabel` para determinar violações. O campo `sublabel` é retornado por operações específicas.
extras	JSONObject	{"userId":"xxx"}	Informações adicionais (parâmetro estendido).
details	JSONArray		Detalhes do conteúdo de risco detectado. Uma entrada de texto pode corresponder a várias categorias de risco. Cada elemento é um objeto detail (consulte a tabela a seguir).

detail

Parâmetro	Tipo	Exemplo	Descrição
label	String	porn	Categoria de risco do conteúdo correspondente. Valores válidos: `spam` (conteúdo indesejado), `ad` (conteúdo publicitário), `politics` (conteúdo político), `terrorism` (conteúdo terrorista), `abuse` (conteúdo abusivo), `porn` (conteúdo pornográfico), `flood` (excesso de conteúdo indesejado), `contraband` (conteúdo proibido), `meaningless` (conteúdo sem sentido), `harmful` (conteúdo nocivo, incluindo materialismo, ostentação de riqueza, idolatria cega, emoção disruptiva e incitação negativa), `customized` (conteúdo personalizado, como um termo personalizado).
contexts	JSONArray		Informações de contexto do conteúdo de risco correspondente. Cada elemento é um objeto context (consulte a tabela a seguir).

context

Parâmetro	Tipo	Exemplo	Descrição
context	String	porta a porta	Termo correspondente. Retornado apenas para correspondências baseadas em termos, não para modelos algorítmicos.
positions	JSONArray	[{"startPos":1, "endPos":10}]	Posição do termo correspondente no texto original.
libName	String	Nome da sua biblioteca de texto personalizada	Nome da biblioteca de texto personalizada. Retornado apenas quando o texto corresponde a um termo em uma biblioteca de texto personalizada.
libCode	String	123456	Código da biblioteca de texto personalizada. Retornado apenas quando o texto corresponde a um termo em uma biblioteca de texto personalizada.
ruleType	String	ip	Tipo de regra de comportamento. Retornado apenas quando o texto corresponde a uma regra de comportamento. Valores válidos: `user_id`, `ip`, `umid`, `content`, `similar_content`, `imei`, `imsi`.

Exemplos

Exemplo de requisição

http(s)://[Endpoint]/green/text/scan
&<Common request parameters>

{
  "scenes": [
    "antispam"
  ],
  "tasks": [
    {
      "dataId": "cfd33235-71a4-468b-8137-a5ffe323****",
      "content": "We are a micro-lending company that provides an unsecured loan on the same day with reliable, fast, convenient, and door-to-door services when you apply for a loan on your mobile phone."
    }
  ]
}

Exemplo de resposta

{
  "code": 200,
  "data": [
    {
      "code": 200,
      "content": "We are a micro-lending company that provides an unsecured loan on the same day with reliable, fast, convenient, and door-to-door services when you apply for a loan on your mobile phone.",
      "dataId": "cfd33235-71a4-468b-8137-a5ffe323****",
      "filteredContent": "We are a **** company that provides an *** loan on the same day with reliable, fast, convenient, and **** services when you apply for a loan on your mobile phone.",
      "msg": "OK",
      "results": [
        {
          "details": [
            {
              "contexts": [
                {
                  "context": "unsecured",
                  "positions": [
                    {
                      "endPos": 19,
                      "startPos": 16
                    }
                  ]
                },
                {
                  "context": "micro-lending",
                  "positions": [
                    {
                      "endPos": 6,
                      "startPos": 2
                    }
                  ]
                }
              ],
              "label": "spam"
            },
            {
              "contexts": [
                {
                  "context": "door-to-door",
                  "libCode": "123456",
                  "libName": "Name of your custom text library",
                  "positions": [
                    {
                      "endPos": 34,
                      "startPos": 30
                    }
                  ]
                }
              ],
              "label": "porn"
            }
          ],
          "label": "porn",
          "rate": 99.91,
          "scene": "antispam",
          "suggestion": "block"
        }
      ],
      "taskId": "txt6HB8NQoEbU@5fosnj2xVEM-1t****"
    }
  ],
  "msg": "OK",
  "requestId": "25711794-BF6D-4F32-A735-09CA21197D32"
}