Moderação de transmissão ao vivo - ApsaraVideo Live: Central de Documentação do Alibaba Cloud

Pré-requisitos

O recurso de revisão automatizada está disponível apenas em centros de transmissão específicos. Para obter a lista de regiões compatíveis, consulte Regiões.
A revisão de vídeo e a revisão de áudio são serviços pagos. Antes de utilizá-los, verifique os métodos de faturamento e os preços. Para mais informações, consulte Taxas de revisão automatizada.
Os snapshots ficam armazenados no OSS e geram taxas de armazenamento. Para mais informações, consulte Taxas de armazenamento.

Contexto

O serviço de moderação automatizada utiliza deep learning para detectar conteúdo proibido no áudio e vídeo da transmissão ao vivo, abrangendo pornografia, terrorismo, conteúdo politicamente sensível, propagandas e conteúdo indesejado. A moderação de vídeo analisa snapshots em busca de violações, enquanto a moderação de áudio identifica conteúdo proibido no fluxo de áudio. Todas as violações são reportadas via webhooks.

Configure modelos de moderação

Console

Faça login no console do ApsaraVideo Live.
No painel de navegação à esquerda, clique em Feature Management > Content Moderation.
Selecione o domínio de streaming a ser configurado e clique na aba Video Moderation ou Audio Moderation.

Clique em Add para configurar um modelo de moderação.

Video Moderation

A tabela a seguir descreve os parâmetros de um modelo de moderação de vídeo.

Parâmetro	Descrição
Application Name	Para que o modelo tenha efeito, o Application Name especificado deve corresponder ao Application Name na URL de ingestão. O valor diferencia maiúsculas de minúsculas. Também é possível especificar um único asterisco (*) para corresponder a todos os nomes de aplicativos.
Scenario	Os quatro cenários a seguir são suportados: Pornografia Terrorismo e conteúdo politicamente sensível Propagandas Conteúdo indesejado
Snapshot Interval	Unidade: segundos. Valores válidos: 5 a 3600.
Storage Location	Selecione um local de armazenamento no OSS para os snapshots.

Audio Moderation

A tabela a seguir descreve os parâmetros de um modelo de moderação de áudio.

Parâmetro	Descrição
Application Name	Para que o modelo tenha efeito, o Application Name especificado deve corresponder ao Application Name na URL de ingestão. O valor diferencia maiúsculas de minúsculas.
StreamName	Para que o modelo tenha efeito, o StreamName especificado deve corresponder ao StreamName na URL de ingestão. O valor diferencia maiúsculas de minúsculas.

Após configurar os parâmetros, clique em OK.

API

Moderação de vídeo

API	Referências
AddLiveSnapshotDetectPornConfig	Configure o serviço de moderação de transmissão ao vivo nos níveis de nome de domínio e aplicativo
DeleteLiveSnapshotDetectPornConfig	Exclua uma configuração de moderação de vídeo
UpdateLiveSnapshotDetectPornConfig	Atualize uma configuração de moderação de vídeo
DescribeLiveSnapshotDetectPornConfig	Consultar uma configuração de moderação de vídeo

Moderação de áudio

API	Referências
AddLiveAudioAuditConfig	Adicionar uma configuração de moderação de áudio
DeleteLiveAudioAuditConfig	Exclua uma configuração de moderação de áudio
UpdateLiveAudioAuditConfig	Atualize uma configuração de moderação de áudio
DescribeLiveAudioAuditConfig	Consultar uma configuração de moderação de áudio

Configure um endereço de webhook

Console

Na aba Video Moderation ou Audio Moderation, defina a Callback URL.

Clique no ícone de edição à direita de Webhook Address.
Insira a Callback URL.
Verifique as informações de callback no seu servidor de webhook. Para formatos e exemplos de mensagens de callback, consulte webhook.
Localize o conteúdo detectado no OSS.
Encontre o conteúdo especificado no console do OSS com base nas informações do webhook.
- Busque o conteúdo especificado por AppName e StreamName.
- Busque o conteúdo especificado pela data de ingestão.

API

Moderação de vídeo

API	Referências
AddLiveDetectNotifyConfig	Adicionar uma configuração de webhook para moderação de vídeo ao vivo Para o formato padrão, consulte Formato padrão de webhook para moderação de vídeo.
DeleteLiveDetectNotifyConfig	Exclua uma configuração de webhook para moderação de vídeo ao vivo
UpdateLiveDetectNotifyConfig	Atualize uma configuração de webhook para moderação de vídeo ao vivo
DescribeLiveDetectNotifyConfig	Consultar uma configuração de webhook para moderação de vídeo ao vivo

Moderação de áudio

API	Referências
AddLiveAudioAuditNotifyConfig	Adicionar uma configuração de webhook para moderação de áudio ao vivo Você pode personalizar o formato JSON do webhook. Para o formato padrão, consulte Formato padrão de webhook para moderação de áudio.
DeleteLiveAudioAuditNotifyConfig	Exclua uma configuração de webhook para moderação de áudio ao vivo
UpdateLiveAudioAuditNotifyConfig	Atualize uma configuração de webhook para moderação de áudio ao vivo
DescribeLiveAudioAuditNotifyConfig	Consultar uma configuração de webhook para moderação de áudio ao vivo

Formato do webhook

Webhook padrão para revisão de vídeo

Uma notificação de webhook é enviada apenas para conteúdo de vídeo sinalizado. Ela contém os resultados da moderação e o local de armazenamento do snapshot correspondente.

{
 "DomainName": "example.com",
 "AppName": "liveApp****",
 "StreamName": "liveStream****",
 "OssEndpoint": "oss-cn-hangzhou.aliyuncs.com",
 "OssBucket": "liveBucket****",
 "OssObject": "liveObject****.jpg",
 "Result": [
     {
         "BizType": "example.com",
         "Result": [
             {"Label": "Porn", "Rate":11.1, "Suggestion": "review", "Scene":"porn", "Extent": {}},
             {"Label": "Ad", "Rate":11.1, "Suggestion": "review", "Scene":"ad", "Extent": {}}
         ]
     }
 ]
}

Parâmetros

Parâmetro	Tipo	Descrição
DomainName	String	O domínio de streaming.
AppName	String	O nome do aplicativo.
StreamName	String	O nome do fluxo.
OssEndpoint	String	O endpoint do OSS para o objeto armazenado.
OssBucket	String	O bucket do OSS onde o objeto está armazenado.
OssObject	String	O nome do objeto.
Result	JSONArray	Os resultados da detecção. Para mais informações, consulte Result.

Tabela 1. Result

Parâmetro	Tipo	Descrição
BizType	String	O tipo de negócio, usado para seleção de modelo. Valor padrão: o nome de domínio.
Scene	String	O cenário de detecção. `porn`: Detecção de pornografia. `terrorism`: Detecção de terrorismo e conteúdo politicamente sensível. `ad`: Detecção de propaganda. `live`: Detecção de cenas indesejadas em transmissões ao vivo. `logo`: Detecção de logotipos.
Label	String	A categoria da violação detectada. As categorias disponíveis dependem do cenário de detecção. Para mais informações, consulte Label.
Rate	Float	A pontuação de confiança, em uma escala de 0 (mais baixa) a 100 (mais alta). Nota Esta pontuação serve apenas como referência. Baseie sua lógica de negócios no valor de `Label` para determinar violações.
Extent	JSONObject	Um campo reservado.

Tabela 2. Label

Parâmetro	Tipo	Descrição
porn	String	Categorias para detecção de pornografia em imagens: `normal`: Normal. `sexy`: Sensual. `porn`: Pornográfico.
terrorism	String	Categorias para detecção de terrorismo e conteúdo politicamente sensível em imagens: `normal`: Normal. `bloody`: Sangrento ou violento. `explosion`: Explosões ou fumaça. `outfit`: Vestimenta especial. `logo`: Logotipos especiais. `weapon`: Armas. `politics`: Conteúdo politicamente sensível. `violence`: Brigas. `crowd`: Aglomeração de pessoas. `parade`: Desfile ou protesto. `carcrash`: Cenas de acidentes de carro. `flag`: Bandeiras. `location`: Pontos turísticos. `others`: Outros.
ad	String	Categorias para detecção de propaganda: `normal`: Normal. `ad`: Outras propagandas. `npx`: Propagandas de spam. `qrcode`: QR codes. `programCode`: Códigos de mini programas.
live	String	Categorias para cenas indesejadas em transmissões ao vivo: `normal`: Normal. `meaningless`: Conteúdo sem sentido, como tela preta ou branca. `PIP`: Picture-in-picture (PIP). `smoking`: Fumo. `drivelive`: Transmissão de dentro do carro.
logo	String	Categorias para detecção de logotipos em imagens: `normal`: Normal. `TV`: Contém logotipos regulamentados de emissoras de TV. `trademark`: Contém marcas registradas.

Nota

Novos usuários utilizam esta versão por padrão, enquanto usuários existentes permanecem em sua versão atual. Para mudar para esta versão, envie um ticket. Para instruções, consulte Fale conosco.

Webhook padrão para revisão de áudio

Uma notificação de webhook é enviada apenas para conteúdo de áudio sinalizado. Ela inclui a transcrição do segmento sinalizado e seu contexto anterior de um minuto.

{
    "domain": "example.com",
    "app": "liveApp****",
    "stream": "5d9747eba39b44769852d276f9ff****",
    "timestamp": 1572248095,
    "result": [
        {
            "scene": "antispam",
            "label": "ad",
            "suggestion": "block",
            "rate": 99.91,
            "details": [
                {
                    "startTime": 1572248023,
                    "endTime": 1572248040,
                    "text": "Get 120 days of free accommodation at hotels in Dali, Longchuan, and more. Share the stay with your family and friends. Visit the Yunqi Community International Hotel reception center at 96 Tuanjie Street, Mangshi, next to Yiyi KTV. Call our hotline at 2285699.",
                    "label": "ad"
                },
                {
                    "startTime": 1572248040,
                    "endTime": 1572248070,
                    "text": "Enjoy our classic villas at Lianghe Jinta and the second phase of the Binhu Yuan tourist town. Grand opening on November 2nd! Natural spring water, a variety of classic designs, and exceptional value. Special offers on opening day. Visit us at 229 Xianfeng Road, Zhedao Town, Ranhe County. Call 069269557776955777.",
                    "label": "normal"
                },
                {
                    "startTime": 1572248072,
                    "endTime": 1572248077,
                    "text": "Happy times are better with you. Relaxing days feel even more effortless.",
                    "label": "normal"
                },
                {
                    "startTime": 1572248078,
                    "endTime": 1572248086,
                    "text": "fme043 Take a musical break from your busy life. Warm songs for the cinema you miss.",
                    "label": "normal"
                }
            ]
        }
    ]
}

Parâmetro	Tipo	Descrição
domain	String	O domínio de streaming.
app	String	O nome do aplicativo.
stream	String	O nome do fluxo.
timestamp	Int	O timestamp UNIX do webhook, em segundos.
result	JSONArray	Os resultados da detecção. Para mais informações, consulte Result.

Tabela 3. Result

Parâmetro	Tipo	Descrição
scene	String	O cenário de detecção.
label	String	A categoria da violação detectada. Valores válidos: `normal`: Texto normal. `spam`: Spam. `ad`: Propaganda. `politics`: Conteúdo politicamente sensível. `terrorism`: Conteúdo terrorista. `abuse`: Linguagem abusiva. `porn`: Conteúdo pornográfico. `flood`: Inundação de texto. `contraband`: Conteúdo proibido. `meaningless`: Texto sem sentido. `customized`: Violações definidas pelo usuário, como correspondência a uma palavra-chave personalizada.
suggestion	String	A ação sugerida. O parâmetro `suggestion` fornece um dos seguintes valores: `pass`: O conteúdo é normal. Nenhuma ação adicional é necessária. `review`: O conteúdo pode estar em desacordo. Recomenda-se revisão manual. `block`: O conteúdo está em desacordo. Recomenda-se bloqueá-lo ou restringir seu acesso.
rate	Float	A pontuação de confiança, em uma escala de 0 (mais baixa) a 100 (mais alta). Nota Esta pontuação serve apenas como referência. Baseie sua lógica de negócios no valor de `label` para determinar violações.
details	JSONArray	Um array de objetos, cada um representando uma frase transcrita do áudio. Para a estrutura do objeto, consulte Detail.

Tabela 4. Detail

Parâmetro	Tipo	Descrição
startTime	Int	O horário de início da frase, como um timestamp UNIX em segundos.
endTime	Int	O horário de término da frase, como um timestamp UNIX em segundos.
text	String	A transcrição do segmento de áudio.
label	String	A categoria da violação detectada. Valores válidos: `normal`: Texto normal. `spam`: Spam. `ad`: Propaganda. `politics`: Conteúdo politicamente sensível. `terrorism`: Conteúdo terrorista. `abuse`: Linguagem abusiva. `porn`: Conteúdo pornográfico. `flood`: Inundação de texto. `contraband`: Conteúdo proibido. `meaningless`: Texto sem sentido. `customized`: Violações definidas pelo usuário, como correspondência a uma palavra-chave personalizada.

Perguntas frequentes

Palavras sensíveis personalizadas

Não. O serviço de revisão automatizada não suporta palavras sensíveis personalizadas.

Fluxos autenticados de terceiros

Não. O serviço de revisão automatizada não suporta a ingestão de URLs de fluxo de outras plataformas.