Simple Log Service:Monitoramento de tarefas de transformação de dados

Item

Descrição

Finalidade

Monitora a latência de consumo de shard em uma tarefa de transformação de dados. Um alerta é acionado se a latência de processamento ultrapassar o limiar especificado.

Métrica associada no painel

Consulte Shard Consumption Latency (s).

Consulta de análise de exemplo

Substitua {job_name} na consulta abaixo pelo nome da sua tarefa de transformação de dados.

__topic__: etl_metrics and 
    job_name: {job_name} and
    "_etl_:connector_meta.action": ingest
    | select
      split_part(
        "_etl_:connector_meta.task_name",
        '#',
        2
      ) as shard,
      max_by("_etl_:connector_metrics.lags", __time__) as lags
    group by
      shard
    having
      shard is not null
    limit
      all

Configurações da regra de alerta

• Defina Trigger Condition como Data Matches Expression. Configure a expressão de avaliação como lags > 120. Isso define o limiar de latência em 120 segundos.

• Defina o time range como 5 minutos.

• Defina a Check Frequency como 5 minutos.

Como resolver alertas

Para resolver esses alertas:

1. Se a tarefa foi criada recentemente e está processando dados históricos, pode levar algum tempo para processar o backlog. Monitore a latência por uma hora. Se ela não cair abaixo do limiar de alerta, prossiga para a próxima etapa.

2. Se o volume de dados no logstore de origem aumentar significativamente:

   • Caso a Taxa de processamento (eventos/s) aumente enquanto a Latência de consumo de shard (s) diminua, isso indica que a tarefa de transformação de dados está dimensionando seus recursos automaticamente devido ao aumento de dados no Logstore de origem. Monitore a latência por 5 minutos para verificar se ela retorna a uma faixa normal. Caso contrário, prossiga para a próxima etapa.

   • Se a Taxa de processamento (eventos/s) não aumentar ou a Latência de consumo de shard (s) continuar em tendência de alta, o número de shards no Logstore de origem pode ser insuficiente, limitando o dimensionamento dos recursos de transformação de dados. Divida manualmente os shards do Logstore de origem. Para etapas específicas, consulte Gerencie Shards. Após concluir a divisão, observe por 5 minutos para verificar se a latência caiu para dentro da faixa de alerta. Caso contrário, prossiga para a próxima etapa.

3. Se houver um alerta ativo para exceções de processamento, resolva esse alerta primeiro. Após resolver o problema, observe por 5 minutos para verificar se a latência caiu abaixo do limiar de alerta.

Item

Descrição

Finalidade

Aciona um alerta quando ocorre uma exceção durante uma tarefa de transformação de dados.

Métrica associada no painel

Consulte Runtime exceptions.

Consulta de análise de exemplo

Substitua {job_name} na consulta abaixo pelo nome da sua tarefa de transformação de dados.

__topic__: etl_metrics and 
    job_name: {job_name} and 
    "_etl_:connector_metrics.error": *
    | select
      distinct "_etl_:connector_metrics.error" as errors

Configurações da regra de alerta

• Defina Trigger Condition como Data Is Returned.

• Defina o time range como 10 minutos.

• Defina a Check Frequency como 10 minutos.

Como resolver alertas

Solucione o problema com base na mensagem de erro:

• Se a mensagem de erro contiver Invalid SPL query, a consulta SPL da tarefa possui um erro de sintaxe. Corrija a consulta com base nos detalhes da mensagem de erro. Para mais informações, consulte SPL syntax.

• Se a mensagem de erro contiver Unauthorized, InvalidAccessKeyId ou SignatureNotMatch, a tarefa não tem as permissões necessárias para ler dados do logstore de origem ou gravar dados no logstore de destino. Para mais informações, consulte Authorization.

• Se a mensagem de erro contiver ProjectNotExist ou LogStoreNotExist, o projeto ou logstore especificado não existe. Faça login no console do Simple Log Service para verificar e resolver o problema.

Item

Descrição

Finalidade

Aciona um alerta com base nas alterações entre períodos na taxa de entrega de dados (volume gravado versus volume lido). A regra compara a taxa atual com o mesmo período do dia e da semana anteriores e aciona um alerta se a alteração ultrapassar os limiares de crescimento ou declínio configurados.

Métrica associada no painel

Taxa de entrega de eventos: proporção entre eventos entregues com sucesso ao logstore de destino e o total de eventos lidos do logstore de origem. O período estatístico padrão é de um dia.

Consulta de análise de exemplo

Insira a seguinte consulta na caixa de diálogo Query and Analyze ao criar a regra de alerta.

Substitua {job_name} na consulta abaixo pelo nome da sua tarefa de transformação de dados.

__topic__: etl_metrics and 
    job_name: {job_name}
    | select
      round(diff [1], 1) as percent,
      round(coalesce(diff [4], 0), 1) as ratio_1d,
      round(coalesce(diff [5], 0), 1) as ratio_1w
    from(
        select
          compare(percent, 86400, 604800) as diff
        FROM      (
            select
              deliver /(ingest + 0.0001) as percent
            from(
                select
                  sum(
                    if(
                      "_etl_:connector_meta.action" = 'ingest',
                      "_etl_:connector_metrics.native_bytes",
                      0
                    )
                  ) as ingest,
                  sum(
                    if(
                      "_etl_:connector_meta.action" = 'deliver',
                      "_etl_:connector_metrics.native_bytes",
                      0
                    )
                  ) as deliver
                FROM              log
              )
          )
      )

Configurações da regra de alerta

• Defina Trigger Condition como Data Matches Expression. Configure a expressão de avaliação como (ratio_1d > 1,2 || ratio_1d < 0,8) && (ratio_1w > 1,2 || ratio_1w < 0,8). Isso define o limiar de crescimento e declínio diário/semanal em 20%.

• Defina o time range como 1 hora.

• Defina a Check Frequency como 1 hora.

Como resolver alertas

Para resolver esses alertas:

1. Se o volume de dados no logstore de origem mudou, verifique se há novos padrões de dados sendo ingeridos ou interrupções nos fluxos de dados existentes. Se for o caso e a alteração resultante nos dados estiver alinhada com a métrica, o alerta foi causado pela mudança no padrão de dados de origem. Caso contrário, prossiga para a próxima etapa.

2. Se houver alertas ativos para latência de processamento ou exceções, resolva-os primeiro.

Item

Descrição

Finalidade

Aciona um alerta se o número de eventos lidos pela tarefa de transformação de dados mudar significativamente em relação ao dia e à semana anteriores. A regra dispara se a contagem de eventos ultrapassar um limiar de crescimento ou ficar abaixo de um limiar de declínio.

Métrica associada no painel

Total de eventos lidos: soma total de eventos lidos de todos os shards no logstore de origem. O período estatístico padrão é de um dia.

Consulta de análise de exemplo

Insira a seguinte consulta na caixa de diálogo Query and Analyze ao criar a regra de alerta.

Substitua {job_name} na consulta abaixo pelo nome da sua tarefa de transformação de dados.

__topic__: etl_metrics and 
    job_name: {job_name} and
    "_etl_:connector_meta.action": ingest
    | select
      diff [1] as events,
      round(coalesce(diff [4], 0),  1) as ratio_1d,
      round(coalesce(diff [5], 0),  1) as ratio_1w
    from(
        select
          compare(events, 86400, 604800) as diff
        FROM      (
            select
              sum("_etl_:connector_metrics.events") as events
            FROM          log
          )
      )

Configurações da regra de alerta

• Defina Trigger Condition como Data Matches Expression. Configure a expressão de avaliação como (ratio_1d > 1,2 || ratio_1d < 0,8) && (ratio_1w > 1,2 || ratio_1w < 0,8). Isso define o limiar de crescimento e declínio diário/semanal em 20%.

• Defina o time range como 1 hora.

• Defina a Check Frequency como 1 hora.

Como resolver alertas

Para resolver esses alertas:

1. Se a tendência dessa métrica corresponder ao crescimento ou declínio na contagem de eventos do logstore de origem, a alteração foi causada pelo volume de dados de origem. Caso contrário, prossiga para a próxima etapa.

2. Se houver alertas ativos para latência de processamento ou exceções, resolva-os primeiro.

Item

Descrição

Finalidade

Aciona um alerta se o número de eventos gravados pela tarefa de transformação de dados mudar significativamente em relação ao dia e à semana anteriores. A regra dispara se a contagem de eventos ultrapassar um limiar de crescimento ou ficar abaixo de um limiar de declínio.

Métrica associada no painel

Total de eventos entregues

Consulta de análise de exemplo

Insira a seguinte consulta na caixa de diálogo Query and Analyze ao criar a regra de alerta.

Substitua {job_name} na consulta abaixo pelo nome da sua tarefa de transformação de dados.

__topic__: etl_metrics and 
    job_name: {job_name} and
    "_etl_:connector_meta.action": deliver
    | select
      diff [1] as events,
      round(coalesce(diff [4], 0),  1) as ratio_1d,
      round(coalesce(diff [5], 0),  1) as ratio_1w
    from(
        select
          compare(events, 86400, 604800) as diff
        FROM      (
            select
              sum("_etl_:connector_metrics.events") as events
            FROM          log
          )
      )

Configurações da regra de alerta

• Defina Trigger Condition como Data Matches Expression. Configure a expressão de avaliação como (ratio_1d > 1,2 || ratio_1d < 0,8) && (ratio_1w > 1,2 || ratio_1w < 0,8). Isso define o limiar de crescimento e declínio diário/semanal em 20%.

• Defina o time range como 1 hora.

• Defina a Check Frequency como 1 hora.

Como resolver alertas

Para resolver esses alertas:

1. Se a tendência dessa métrica corresponder ao crescimento ou declínio no volume de dados do logstore de origem, a alteração foi causada pelo volume de dados de origem. Caso contrário, prossiga para a próxima etapa.

2. Se houver alertas ativos para latência de processamento ou exceções, resolva-os primeiro.