O Image Moderation Enhanced Edition 2.0 do Alibaba Cloud Content Moderation oferece um serviço de detecção de imagens para cenários que envolvem conteúdo gerado por IA (AIGC) e falsificações. Este serviço permite determinar se uma imagem foi gerada por AIGC, além de detectar riscos de violação, elementos suspeitos de infração e possíveis imagens recapturadas. Este tópico descreve os recursos de detecção de AIGC e falsificação do serviço Image Moderation.
Enhanced Edition
Ele também detecta riscos de violação, elementos suspeitos de infração e possíveis imagens recapturadas.
1. Caso de uso
O Alibaba Cloud Content Moderation fornece os seguintes serviços dedicados de detecção, adaptados para moderação de AIGC e identificação de falsificações com IA:
-
Detecção de conteúdo gerado por IA:
AIGC image detection: Com a evolução da tecnologia AIGC, as imagens geradas tornam-se cada vez mais difíceis de distinguir do conteúdo gerado pelo usuário (UGC). Muitas plataformas precisam determinar se uma imagem foi criada por IA. Para atender a essa necessidade, o Alibaba Cloud Content Moderation oferece a detecção de imagens geradas por IA. Esse recurso analisa artefatos de síntese nas imagens para identificar conteúdo suspeito de ter sido gerado ou sintetizado.
AIGC image detection (aigcDetector_global)
AI-Generated Image Detection Ultimate Edition: aigcDetector_ultra_global
Faça login no RAM console usando sua conta Alibaba Cloud ou como administrador RAM.
Crie um usuário RAM. Para mais informações, consulte Create a RAM user.
Conceda a política de sistema AliyunYundunGreenWebFullAccess ao usuário RAM. Para mais detalhes, veja Grant permissions to a RAM user. Após concluir essas configurações, você poderá chamar a API do Content Moderation como o usuário RAM.
Operação da API: ImageModeration
Informações de faturamento: Esta é uma operação paga. A cobrança aplica-se apenas a solicitações que retornam código de status HTTP 200. Solicitações com outros códigos de erro não são faturadas. Para detalhes sobre métodos de cobrança, consulte a Billing overview.
-
Requisitos da imagem:
Formatos suportados: PNG, JPG, JPEG, BMP, WEBP, TIFF, SVG, HEIC (lado maior deve ser inferior a 8.192 pixels), GIF (apenas o primeiro quadro é processado) e ICO (apenas a última imagem é processada).
O tamanho máximo da imagem é de 20 MB. Altura ou largura não podem exceder 16.384 pixels, e o total de pixels não deve ultrapassar 250 milhões. Recomendamos imagens com resolução mínima de 200 × 200 pixels para garantir a eficácia do algoritmo de detecção.
O tempo limite para download da imagem é de 3 segundos. Downloads superiores a esse limite resultam em erro de timeout.
aigcDetector_global: AIGC Violation Detection
Envie a URL de uma imagem para detecção passando imageUrl.
Use autorização OSS para detecção. É necessário passar ossBucketName, ossObjectName e ossRegionId.
Envie um arquivo de imagem local para moderação. Este método não ocupa espaço de armazenamento no OSS. O arquivo é mantido por apenas 30 minutos. Os SDKs já integram o recurso de upload de imagens locais. Para exemplos de código, consulte Image Moderation Enhanced Edition 2.0 SDKs and usage guide.
customImage: informações sobre correspondências na biblioteca personalizada de imagens.aigcData: informações sobre a marca d'água implícita AIGC.high: alto risco
medium: risco médio
low: baixo risco
none: nenhum risco detectado
2. Descrição do serviço
As capacidades de detecção de AIGC e falsificação do Image Moderation 2.0 suportam os seguintes serviços:
Cenário
Serviço
Conteúdo da detecção
Cenário
Detecção de conteúdo gerado por IA
Nome do serviço: AIGC image detection
Serviço: aigcDetector_global
Objeto da detecção: Imagens.
Conteúdo da detecção: Detecta se há probabilidade de uma imagem ter sido gerada ou sintetizada por IA.
Este serviço determina se uma imagem foi gerada por AIGC. Utilize-o quando precisar identificar a origem de uma imagem.
Nome do serviço: AI-Generated Image Detection_Implicit Identifier
Serviço: aigcDetector_ultra_global
Objeto da detecção: Imagens.
Conteúdo da detecção: Detecta se há probabilidade de uma imagem ter sido gerada ou sintetizada por IA, se é uma imagem composta suspeita (incluindo rostos sintéticos) ou se contém edição local por IA suspeita.
Determina se uma imagem é falsificada. Use este serviço para detectar falsificações, especialmente para verificar possíveis edições locais por IA.
3. Faturamento
O serviço de detecção de AIGC e falsificação do Image Moderation 2.0 suporta os métodos de faturamento pagamento conforme o uso .
Pagamento conforme o uso
Ao ativar o serviço Image Moderation V2.0, o método de faturamento padrão é pagamento conforme o uso. A cobrança ocorre diariamente com base no uso real. Se você não chamar o serviço, nenhuma taxa será aplicada.
Tipo de moderação
Cenários de negócios suportados (serviços)
Preço unitário
moderação geral de imagens (image_standard)
USD 0,60 por 1.000 chamadas
NotaCada chamada ao serviço de Identificação de Imagens Geradas por AIGC conta como uma chamada. A cobrança baseia-se no número real de chamadas. Por exemplo, se você fizer 100 chamadas ao serviço, o valor cobrado será de USD 0,06.
moderação avançada de falsificação de imagens (image_identify_standard_cn)
USD 0,60 por 1.000 chamadas
NotaA cobrança é feita por cada chamada ao serviço de detecção de imagens AIGC (Ultimate Edition). Por exemplo, ao realizar 100 chamadas para este serviço, o custo será de USD 0,06.
NotaAs faturas do Content Moderation 2.0 no modo pagamento conforme o uso são geradas a cada 24 horas. Nos detalhes de faturamento,
moderationTypecorresponde ao campo de tipo de moderação. Para mais informações, consulte Bill Details.4. Integração
Etapa 1: Ativar o serviço
Acesse a página de service activation para ativar o serviço Image Moderation 2.0.
Após ativar o serviço Image Moderation 2.0, o método de faturamento padrão é pagamento conforme o uso. As taxas são liquidadas diariamente com base no uso efetivo. Não há cobrança se o serviço não for chamado. Após chamar a API, o sistema gera faturas automaticamente conforme o consumo. Para mais detalhes, veja Billing details.
Etapa 2: Conceder permissões a um usuário RAM
Antes de chamar operações de API ou usar SDKs, conceda as permissões necessárias a um usuário RAM. Crie um par de AccessKey para sua conta Alibaba Cloud ou para o usuário RAM. Ao chamar operações de API, utilize esse par de AccessKey para concluir a verificação de identidade. Para obter um par de AccessKey, consulte Obtain an AccessKey pair.
Etapa 3: Instalar e integrar um SDK
Para mais informações, consulte Image Moderation 2.0 SDKs and usage guide. A tabela a seguir lista as regiões suportadas.
Região
Endpoint público
Endpoint VPC
Serviços suportados
Singapura
https://green-cip.ap-southeast-1.aliyuncs.com
https://green-cip-vpc.ap-southeast-1.aliyuncs.com
aigcDetector_global
EUA (Virgínia)
green-cip.us-east-1.aliyuncs.com
green-cip-vpc.us-east-1.aliyuncs.com
EUA (Vale do Silício)
green-cip.us-west-1.aliyuncs.com
Nenhum
Londres
green-cip.eu-west-1.aliyuncs.com
Nenhum
Etapa 4: Ajustar regras de moderação de imagens (Opcional)
No Content Moderation console, ajuste as regras de detecção do serviço de moderação de imagens. Alterne escopos de detecção, copie serviços, configure bibliotecas personalizadas de imagens e vocabulários, além de consultar registros de detecção e uso. Para mais informações, consulte o Console Operation Guide.
5. API
Notas de uso
Chame esta API para criar uma tarefa de moderação de imagem. Para saber como construir uma solicitação HTTP, consulte o Access Guide. Também é possível usar uma solicitação HTTP pré-construída. Para mais detalhes, veja o Access Guide.
Limites de QPS
O limite de consultas por segundo (QPS) para esta operação de API é de 100 por usuário. No entanto, para os serviços aigcDetector_ultra_global, o limite é de 20 QPS. Chamadas que excederem esses limites serão limitadas (throttled), o que pode impactar seu negócio. Distribua suas chamadas adequadamente. Caso tenha alta carga de trabalho ou precise escalar urgentemente, entre em contato com seu gerente de contas para solicitar um limite maior de QPS.
Depuração
Antes de começar, utilize o Alibaba Cloud OpenAPI Explorer para testar online a API ou Image Moderation 2.0. Visualize também códigos de exemplo e dependências de SDK para entender como utilizar a API e seus parâmetros.
ImportanteO recurso de depuração online chama a operação da API do Content Moderation usando a conta atualmente logada. Portanto, essas chamadas são incluídas no seu uso faturável.
Parâmetros da solicitação
Para informações sobre os parâmetros comuns necessários em uma solicitação, consulte o Access Guide.
O corpo da solicitação é uma estrutura JSON contendo os seguintes campos:
Nome
Tipo
Obrigatório
Exemplo
Descrição
Service
String
Sim
aigcDetectorFull
O serviço de detecção. Valores válidos:
ServiceParameters
JSONString
Sim
Um conjunto de parâmetros para o objeto de moderação de conteúdo, fornecido como uma string JSON. Para a descrição de cada string, consulte a Tabela 1. ServiceParameters.
Tabela 1. ServiceParameters
Nome
Tipo
Obrigatório
Exemplo
Descrição
imageUrl
String
Sim. O Image Moderation 2.0 suporta três métodos para envio de imagens:
https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png
A URL do objeto a ser detectado. Certifique-se de que a URL seja acessível pela rede pública e não ultrapasse 2.048 caracteres.
Nota A URL não pode conter caracteres chineses. Envie apenas uma URL por solicitação.
ossBucketName
String
bucket_01
Nome do bucket OSS autorizado.
NotaPara usar uma URL interna do OSS para uma imagem, use sua conta raiz para acessar a página de Autorização de Acesso a Recursos na Nuvem e conceda a função
AliyunCIPScanOSSRole.ossObjectName
String
2022023/04/24/test.jpg
Nome do arquivo no bucket OSS autorizado.
ossRegionId
String
cn-beijing
Região onde o bucket OSS está localizado.
dataId
String
Não
img123****
ID de dados do objeto de detecção.
O ID pode conter letras maiúsculas, minúsculas, dígitos, sublinhados (_), hifens (-) e pontos (.). Comprimento máximo de 64 caracteres, servindo para identificar unicamente seus dados de negócio.
referer
String
Não
www.aliyun.com
Cabeçalho de solicitação referer, usado em cenários como proteção contra hotlink. O comprimento não pode exceder 256 caracteres.
infoType
String
Sim
aigcData
Tipo de informação auxiliar a ser retornada. Valores válidos:
Para especificar vários tipos, forneça uma lista separada por vírgulas, como
customImage,aigcData.Parâmetros de resposta
Nome
Tipo
Exemplo
Descrição
RequestId
String
70ED13B0-BC22-576D-9CCF-1CC12FEAC477
ID da solicitação atual. Identificador único gerado pelo Alibaba Cloud para a solicitação, útil para solução de problemas.
Data
Object
Resultado da moderação de imagem. Para mais informações, consulte a Tabela 2. Data.
Code
Integer
200
Código de status HTTP retornado. Para mais detalhes, veja Response codes.
Msg
String
OK
Mensagem de resposta para a solicitação atual.
Tabela 2. Data
Nome
Tipo
Exemplo
Descrição
Result
Array
Resultados dos parâmetros da moderação de imagem, como rótulos de risco e pontuações de confiança. Para mais informações, consulte a Tabela 3. result.
RiskLevel
String
high
Nível de risco, retornado com base nas pontuações configuradas de alto e baixo risco. Valores válidos:
NotaRecomenda-se tratar conteúdo de alto risco diretamente. Conteúdo de risco médio deve passar por revisão manual. Trate conteúdo de baixo risco apenas quando alta revocação for necessária; caso contrário, trate-o como conteúdo sem risco detectado. Configure as pontuações de risco no Content Moderation console.
DataId
String
img123
ID de dados do objeto de detecção.
NotaSe você passou um dataId nos parâmetros da solicitação, o mesmo dataId será retornado aqui.
Ext
Object
Informações adicionais da imagem. Para mais detalhes, consulte Ext.
Tabela 3. result
Nome
Tipo
Exemplo
Descrição
Label
String
tm_auto
Rótulo retornado após a detecção do conteúdo da imagem. Uma única imagem pode retornar múltiplos rótulos e pontuações. Para rótulos suportados, consulte:
Confidence
Float
81,22
A pontuação de confiança varia de 0 a 100, com precisão de duas casas decimais. Alguns rótulos não possuem pontuação de confiança. Para mais informações, consulte Descriptions of risk labels.
Description
String
Fogos de artifício e pirotecnia
Descrição do campo Label.
ImportanteEste campo explica o campo Label e está sujeito a alterações. Recomenda-se tratar os resultados com base no campo Label, e não neste campo.
Tabela 4: Ext
Parâmetro
Tipo
Valor
Descrição
CustomImage
JSONArray
Se houver correspondência em uma biblioteca personalizada, este parâmetro retorna os detalhes dessa biblioteca. Para mais informações, consulte CustomImage.
AigcData
Object
Retorna resultados da detecção de marcadores implícitos AIGC para a imagem. Para mais informações, consulte AigcData.
Tabela 5. CustomImage
Parâmetro
Tipo
Valor de exemplo
Descrição
LibId
String
lib0001
ID único da biblioteca personalizada de imagens correspondente.
LibName
String
Custom Image Library A
Nome da biblioteca personalizada de imagens correspondente.
ImageId
String
20240307
ID único da imagem personalizada correspondente.
Tabela 6: AigcData
Parâmetro
Tipo
Valor
Descrição
AIGC
Object
"AIGC": {"Label": "1",
"ContentPropagator": "",
"ReservedCode1": "0424***",
"ProduceID": "0307***",
"ReservedCode2": "",
"PropagateID": "",
"ContentProducer": "0728***"}
As informações de marca d'água implícita AIGC na imagem estão em conformidade com os campos padrão de metadados AIGC. Para mais informações, consulte Implicit Watermark Metadata Information.
Metadados de identificação implícita
Exemplos
Exemplo de solicitação
{ "Service": "aigcDetector_global", "ServiceParameters": { "imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png", "dataId": "img123****" } }Exemplos de respostas