Processe dados de um logstore de origem com regras SPL e grave os resultados em um logstore de destino. Em seguida, consulte e analise os dados transformados.
Pré-requisitos
Dados coletados no SLS. Visão geral da coleta de dados.
Se você usar um usuário RAM, conceda as permissões de transformação de dados. Autorizar um usuário RAM a executar operações de transformação de dados.
Procedimento
Faça login no console do Simple Log Service.
-
Acesse a página de transformação de dados.
Na seção Projects, clique em o projeto desejado.
Na aba , clique em o logstore desejado.
Na página de consulta e análise, clique em Data Transformation.
-
No canto superior direito da página, selecione um intervalo de tempo.
Após selecionar o intervalo, verifique se os logs aparecem na aba Raw Logs.
-
No editor, insira uma instrução SPL.
Para mais informações sobre a sintaxe SPL, consulte Sintaxe SPL.
-
Visualize os dados.
Na aba Raw Data, clique em Add Test Data. Você também pode inserir manualmente os dados de teste na aba Test Data.
-
Crie o trabalho de transformação de dados.
Clique em Save as Transformation Job (New Version).
No painel Create Data Transformation Job (New Version), configure os parâmetros a seguir e clique em OK.
Parâmetro
Descrição
Task Name
Nome do trabalho de transformação de dados.
Display Name
Nome de exibição do trabalho.
Job Description
Descrição do trabalho.
Authorization Method
Conceda ao trabalho acesso de leitura ao logstore de origem usando um destes métodos:
-
Default Role: O trabalho assume a função de sistema AliyunLogETLRole para ler dados do logstore de origem. Clique em Authorize the system role AliyunLogETLRole e conclua a autorização conforme as instruções. Para mais informações, consulte Acessar dados usando uma função padrão.
ImportanteSe você usar um usuário RAM, uma conta Alibaba Cloud deverá concluir a autorização primeiro.
Se sua conta Alibaba Cloud já estiver autorizada, ignore esta etapa.
-
Custom Role: O trabalho assume uma função personalizada para ler dados do logstore de origem. Primeiro, conceda à função personalizada as permissões necessárias para ler dados do logstore de origem e, em seguida, insira o ARN da função no campo Role ARN. Para mais informações, consulte Acessar dados usando uma função personalizada.
-
AccessKey: Por motivos de segurança, não é mais possível usar um par de AccessKey (AK/SK) para criar trabalhos.
Storage Destination
Destination Name
Nome do destino de armazenamento. Inclui configurações como Project e logstore.
Destination Region
Região onde o Project de destino está localizado.
Destination Project
Project de destino para os resultados da transformação. Um Project especificado na instrução SPL substitui esta configuração. Saída dinâmica de Project/logstore de destino.
ImportanteO Project especificado dinamicamente na instrução SPL deve corresponder à região e à autorização configuradas aqui.
Target Store
Logstore de destino para os resultados da transformação. Um logstore especificado na instrução SPL substitui esta configuração. Saída dinâmica de Project/logstore de destino.
ImportanteO logstore especificado dinamicamente na instrução SPL deve corresponder à região, à autorização e ao Project configurados aqui. O logstore de destino não pode ser igual ao logstore de origem.
AvisoNão configure o logstore de destino como o logstore de origem atual (configuração de mesma origem). Caso contrário, os logs podem ser gravados em loop, gerando custos adicionais de armazenamento e tráfego. Você é responsável pelo consumo de recursos e pelos custos incorridos.
Authorization Method
Conceda ao trabalho acesso de gravação ao logstore de destino usando um destes métodos:
-
Default Role: O trabalho assume a função de sistema AliyunLogETLRole para gravar resultados no logstore de destino. Clique em Authorize the system role AliyunLogETLRole e conclua a autorização conforme as instruções. Para mais informações, consulte Acessar dados usando uma função padrão.
ImportanteSe você usar um usuário RAM, uma conta Alibaba Cloud deverá concluir a autorização primeiro.
Se sua conta Alibaba Cloud já estiver autorizada, ignore esta etapa.
-
Custom Role: O trabalho assume uma função personalizada para gravar resultados no logstore de destino. Primeiro, conceda à função personalizada as permissões necessárias para gravar dados no logstore de destino e, em seguida, insira o ARN da função no campo Role ARN. Para mais informações, consulte Acessar dados usando uma função personalizada.
-
AccessKey: Por motivos de segurança, não é mais possível usar um par de AccessKey (AK/SK) para criar trabalhos.
Write to Result Set
Conjunto de dados a ser gravado no logstore de destino. Vários conjuntos de dados podem ter o mesmo destino, e vários destinos podem compartilhar um conjunto de dados. Descrição do conjunto de dados.
Escopo de processamento
Time Range
(Data Receiving Time)
Intervalo de tempo do trabalho:
-
All: Processa todos os dados desde a primeira entrada de log até que seja interrompido manualmente.
-
From Specific Time: Processa dados a partir do horário inicial especificado até que seja interrompido manualmente.
-
Specific Time Range: Processa dados dentro da janela de tempo especificada e para automaticamente no horário final.
Advanced Options
Advanced Parameter Settings
Armazene informações confidenciais (como senhas de banco de dados) como pares chave-valor e referencie-as na instrução usando
res_local("key").Clique em + para adicionar vários pares chave-valor. Por exemplo,
config.vpc.vpc_id.test1:vpc-uf6mskb0b****n9yjespecifica o ID da VPC onde a instância RDS reside.
Próximos passos
Após criar o trabalho:
Visualize, modifique ou interrompa trabalhos na página Data Transformation Overview. Gerenciar trabalhos de transformação de dados (nova versão).
Consulte e analise dados no logstore de destino. Guia de início rápido para consulta e análise.