O ApsaraVideo VOD oferece um serviço abrangente de moderação de mídia para vídeos, áudio, imagens e texto. Esse serviço detecta conteúdo ou elementos nocivos, como terrorismo, sensibilidade política, pornografia, publicidade, abusos e cenas indesejáveis em seus ativos de mídia. Ele reduz os custos de revisão manual, melhora a qualidade do conteúdo e aprimora a governança da plataforma e a experiência do usuário. Este tópico descreve os benefícios, recursos, cenários de aplicação e o uso do serviço de moderação de mídia no ApsaraVideo VOD.
Benefícios
As capacidades básicas de moderação são consistentes com o Content Moderation da Alibaba Cloud. O serviço detecta violações em imagens, vídeos, texto e áudio, incluindo riscos em conteúdos relacionados a terrorismo, sensibilidade política, pornografia, publicidade, abusos e cenas indesejáveis.
A moderação de mídia no ApsaraVideo VOD agrega revisões individuais de todos os recursos de um ativo de mídia, incluindo vídeo, áudio, imagens (como snapshots e miniaturas) e texto (como títulos, descrições e tags). Uma única chamada processa todos os recursos de mídia, tornando o fluxo mais prático e eficiente.
O ApsaraVideo VOD suporta moderação automatizada por meio de fluxos de trabalho e modelos de configuração personalizados. A moderação é acionada automaticamente após o upload de um arquivo de mídia, e os resultados retornam via callbacks em tempo real.
A moderação do ApsaraVideo VOD integra-se profundamente a todas as etapas do ciclo de vida do vídeo, incluindo gerenciamento de ativos de mídia, edição, produção, distribuição e reprodução. Essa integração atende aos requisitos de cenários complexos. Por exemplo, transcodifique um vídeo somente após ele passar pela moderação e descarte-o ou arquive-o caso contrário. Também é possível recortar automaticamente segmentos não conformes antes da distribuição rápida.
Recursos
|
Recurso |
Descrição |
Referências |
|
Revisão automatizada |
O serviço de revisão automatizada baseia-se em grandes volumes de dados anotados e algoritmos de deep learning. Ele detecta com precisão conteúdo proibido em vídeos, miniaturas e títulos sob múltiplas dimensões, incluindo áudio, texto e elementos visuais. O serviço inclui módulos para pornografia, terrorismo e sensibilidade política. Utilize-o em cenários como plataformas de vídeos curtos e moderação de mídia para melhorar significativamente a eficiência da moderação de vídeo. |
|
|
Revisão manual |
O serviço de revisão manual permite despublicar vídeos não conformes de forma antecipada ou imediata, evitando ou reduzindo o impacto negativo após a publicação. |
|
|
Revisão de endereços IP de segurança |
O serviço de IP de segurança para moderação garante que, para vídeos no estado Checking ou Blocked, apenas solicitações provenientes de IPs de segurança especificados obtenham o endereço de reprodução. Esse recurso é frequente em revisões internas. |
Cenários
Para vídeos curtos e grandes volumes de conteúdo gerado pelo usuário (UGC), utilize a tecnologia de moderação automatizada de vídeo para detectar rapidamente conteúdos não conformes. Em seguida, revise manualmente os vídeos com suspeita de violação. Esse processo aumenta consideravelmente a eficiência da moderação.
Em plataformas de vídeo sob demanda e na indústria de mídia, a tecnologia de moderação automatizada de vídeo detecta eficientemente cenas com terrorismo e sensibilidade política em vídeos VOD. Isso ajuda a lidar com as sensibilidades políticas mais recentes e a controlar rigorosamente o conteúdo não conforme.
Observações de uso
Os resultados da moderação automatizada e manual determinam o resultado final da moderação de um arquivo de áudio ou vídeo. No entanto, o resultado da moderação manual sempre substitui o resultado da moderação automatizada.
Após a moderação de mídia, apenas arquivos de áudio e vídeo no estado Normal podem ser reproduzidos. Arquivos de áudio e vídeo no estado Flagged ou Reviewing só podem ser reproduzidos no console do ApsaraVideo VOD ou usando um IP de segurança para moderação. Não é possível obter endereços de reprodução para esses arquivos por meio de uma API ou SDK. No entanto, quaisquer endereços de reprodução válidos já expostos ainda permitem a reprodução.
Como usar
Pré-requisitos
O ApsaraVideo VOD está ativado. Para mais informações, consulte Ativar o ApsaraVideo VOD.
Carregue o arquivo de áudio ou vídeo a ser moderado na biblioteca de ativos de mídia do ApsaraVideo VOD. Para mais informações, consulte Carregar arquivos de mídia.
Etapa 1: Configurar o processo de moderação
Ao carregar um arquivo de áudio ou vídeo no ApsaraVideo VOD, o sistema o processa com base no processo de moderação configurado. Esse processo determina se o arquivo carregado pode ser reproduzido. Os dois processos de moderação são Review After Publish e Review Before Publish. O Review After Publish (padrão) permite a reprodução imediata de um arquivo de áudio ou vídeo após a conclusão de processos como transcodificação e aceleração de entrega de conteúdo. O Review Before Publish impede o acesso ao arquivo após o upload e processamento. A reprodução ocorre somente após a aprovação na moderação.
Faça login no console do ApsaraVideo VOD.
No painel de navegação à esquerda, escolha Review Management > Settings.
Na página de configurações de moderação, clique em Modify ao lado de Review Process.
-
Selecione um processo de moderação.
Processo de moderação
Descrição do processo
Review After Publish (Padrão)
Ao carregar um arquivo de áudio ou vídeo no ApsaraVideo VOD, o status é definido como Normal por padrão após a transcodificação bem-sucedida. O arquivo pode ser reproduzido diretamente.
Posteriormente, inicie uma moderação assistida por máquina ou manual para confirmação em Moderação de Vídeo, conforme necessário.
Durante a moderação manual, se você marcar um arquivo de áudio ou vídeo como Blocked, o arquivo não poderá ser reproduzido usando um endereço de reprodução obtido por meio de uma API ou SDK. A reprodução será possível apenas no console do ApsaraVideo VOD ou usando um IP de segurança para moderação. No entanto, quaisquer endereços de reprodução válidos já expostos ainda permitem a reprodução.
Review Before Publish
Ao carregar um arquivo de áudio ou vídeo no ApsaraVideo VOD, ele entra no processo de moderação por padrão após a transcodificação bem-sucedida. O status do arquivo é marcado como Reviewing.
Em seguida, inicie uma moderação manual em Moderação de Vídeo. Caso contrário, o arquivo permanecerá no estado Reviewing. Um arquivo nesse estado não pode ser reproduzido usando um endereço de reprodução obtido por meio de uma API ou SDK. A reprodução será possível apenas no console do ApsaraVideo VOD ou usando um IP de segurança para moderação. No entanto, quaisquer endereços de reprodução válidos já expostos ainda permitem a reprodução.
Clique em OK para concluir a configuração.
Etapa 2: (Opcional) Configurar notificações de eventos
Antes de iniciar a moderação de mídia, configure as notificações de eventos para o ApsaraVideo VOD. Isso permite receber mensagens de callback contendo o status e os resultados da moderação de mídia após a conclusão do processo. Para mais informações, consulte Configurar callbacks. Habilite as seguintes notificações de eventos para a moderação de mídia:
Moderação manual: ManualAuditComplete
-
Moderação automatizada:
Etapa 3: Iniciar a moderação manual ou automatizada
Execute primeiro uma moderação automatizada para uma revisão preliminar. Em seguida, revise manualmente os arquivos de áudio e vídeo com suspeitas de violação. Esse processo reduz a carga de trabalho da moderação manual e garante a precisão dos resultados. Para mais informações, consulte os seguintes documentos:
Chamadas de API não retornam endereços de reprodução para vídeos no estado Checking ou Blocked. Configure IPs de segurança para moderação a fim de garantir que apenas solicitações desses IPs obtenham endereços de reprodução. Essa configuração atende aos requisitos de moderação interna. Para mais informações, consulte IP de segurança para moderação.