O recurso de visualização rápida permite verificar instruções de processamento de dados e conferir a saída gratuitamente. Este tópico descreve como utilizar o recurso e apresenta um exemplo prático.
Pré-requisitos
Os dados já foram coletados. Para mais informações, consulte coleta de dados.
Procedimento
Faça login no console do Simple Log Service.
-
Acesse a página de transformação de dados.
Na seção Projects, clique em projeto desejado.
Na aba , clique em logstore desejado.
Na página de consulta e análise, clique em Data Transformation.
-
No canto superior direito, selecione um intervalo de tempo para os dados.
Certifique-se de que os logs apareçam na aba Raw Logs após selecionar o intervalo de tempo.
-
No editor, insira a instrução de processamento de dados.
Para mais informações sobre a sintaxe, consulte sintaxe de processamento de dados.
NotaO editor suporta comentários nas instruções de processamento de dados. Utilize esse recurso para depurar seu código linha por linha.
-
Visualize os dados.
No canto superior direito da página, clique em Quick.
Na parte inferior da página, clique em Test Data.
-
Na aba Test Data, insira os dados de teste.
Os dados de teste incluem dados base e dados de tabela de dimensão.
{ "time_local": "25/May/2020:01:56:22", "user agent": "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) AppleWebKit/534.18 (KHTML, like Gecko) Chrome/11.xxx) Safari/534.18", "request:method": "GET", "remote user": "john" }-
Na aba Data, defina os dados de teste.
Na aba Raw Logs, localize uma entrada de log e clique em Add Test Data para adicioná-la como amostra. Também é possível inserir os dados de teste manualmente.
NotaO tamanho dos dados de teste para uma única visualização não pode exceder 1 MB.
Separe múltiplas entradas de dados de teste com uma linha em branco.
Para valores de campo que abrangem várias linhas, coloque o valor entre crases triplas (
) para garantir que seja analisado como um único campo.Na aba Data, os dados de teste podem estar no formato chave-valor (KV) ou JSON. No formato KV, use dois pontos (:) para separar a chave de seu valor.
-
Exemplo 1: Esta amostra contém duas entradas de teste. A primeira está no formato KV e inclui um campo
tracebackmultilinha. A segunda está no formato JSON.time_local: 25/May/2020:01:56:22 user agent: Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) AppleWebKit/534.18 (KHTML, like Gecko) Chrome/11.0.661.0 Safari/534.18 "request:method": GET traceback: Traceback (most recent call last): File "traceback_print_exc.py", line 20, in <module> produce_exception() File "/home/user/code/test.py", line 16, in produce_exception produce_exception(recursion_level-1) File "/home/user/code/test.py", line 18, in produce_exception raise RuntimeError() RuntimeError { "time_local": "25/May/2020:01:56:22", "user agent": "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) AppleWebKit/534.18 (KHTML, like Gecko) Chrome/11.0.661.0 Safari/534.18", "request:method": "GET", "remote user": "john" } -
Exemplo 2: Um único array JSON contendo três entradas de dados de teste.
[ { "time_local": "25/May/2020:01:56:22", "user agent": "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) AppleWebKit/534.18 (KHTML, like Gecko) Chrome/11.0.661.0 Safari/534.18", "request:method": "GET", "remote user": "john" }, { "time_local": "25/May/2020:01:56:22", "user agent": "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) AppleWebKit/534.18 (KHTML, like Gecko) Chrome/11.0.661.0 Safari/534.18", "request:method": "GET", "remote user": "john" }, { "time_local": "25/May/2020:01:56:22", "user agent": "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) AppleWebKit/534.18 (KHTML, like Gecko) Chrome/11.0.661.0 Safari/534.18", "request:method": "GET", "remote user": "john" } ]
-
Na aba Dimension Table, defina os dados de teste.
Uma tabela de dimensão fornece dados de amostra para funções de recurso, que enriquecem seus logs com dados externos. Isso permite testar e depurar essas funções durante a visualização.
NotaNa aba Dimension Table, a amostra de dados para teste deve estar no formato CSV para as funções de recurso
res_rds_mysqloures_log_LogStore_pull, mas pode estar nos formatos CSV ou JSON para as funções de recursores_oss_fileoures_local.Exemplo: A amostra a seguir contém duas entradas de dados de teste. A primeira está no formato CSV e a segunda no formato JSON.
ip,country,province 127.0.0.1,China,Shanghai 192.168.0.0,China,Zhejiang [ { "ip": "127.0.0.1", "country": "China", "province": "Shanghai" }, { "ip": "192.168.0.0", "country": "China", "province": "Zhejiang" } ]
-
-
Clique em Preview Data.
NotaCada visualização retorna até 100 resultados de processamento.
Em seguida, visualize os resultados na aba Transformation Results.
Se o processamento de dados falhar devido a uma instrução inválida ou permissões incorretas, siga as instruções na tela para corrigir o problema.
Caso os resultados do processamento estejam conforme o esperado, crie um job de transformação de dados para aplicar a instrução. Para mais informações, consulte Criar um job de transformação de dados.
Exemplo de visualização rápida
-
Instrução de processamento de dados
No editor, insira a seguinte instrução de processamento de dados.
# e_set("insert_field", "test_value") e_table_map( res_rds_mysql( address="rm-uf6wjk5****.mysql.rds.aliyuncs.com", username="test_username", password="****", database="test_db", table="test_table", ), "ip", ["country", "province"], ) -
Dados de teste
Na aba , insira o seguinte conteúdo.
{ "id": "1001", "ip": "127.0.0.1" } -
Dados da tabela de dimensão
Na aba , insira o seguinte conteúdo.
ip,country,province 127.0.0.1,China,Shanghai 192.168.0.0,China,Zhejiang -
Resultado da visualização
Clique em Preview Data. Na aba Transformation Results, a saída para target0 mostra os seguintes campos:
id:1001,ip:127.0.0.1,country:Chinaeprovince:Shanghai. Isso indica que a tabela de dimensão enriqueceu o log com sucesso usando os camposcountryeprovince. O summary of run results exibe Total: 1, Succeeded: 1, Failed: 0.