Este tópico usa a tarefa write_result, configurada para execução semanal, para demonstrar como definir as propriedades de agendamento e dependência no DataWorks.
Pré-requisitos
Crie um nó de carga zero (start) e um nó ODPS SQL (insert_data). Para mais informações, consulte Criar um workflow.
Crie uma tarefa de sincronização a partir do nó de sincronização write_result. Para mais informações, consulte Criar uma tarefa de sincronização.
Contexto
O DataWorks oferece suporte a agendamentos acionados por tempo e por dependências. O sistema agenda dezenas de milhões de tarefas diariamente com precisão e pontualidade, respeitando os relacionamentos DAG. Configure ciclos de agendamento por minuto, hora, dia, semana ou mês. Para mais informações, consulte Configurar propriedades de tempo.
Configurar propriedades de tempo
-
Acesse a página DataStudio.
Faça login no console do DataWorks. Na região desejada, clique em no painel de navegação à esquerda. Selecione um workspace na lista suspensa e clique em Go to Data Development.
No workflow correspondente, clique duas vezes no nó de sincronização offline write_result para abrir a página de edição.
-
No painel de navegação à direita da página de edição, clique em Scheduling.
NotaNós criados em um workflow manual exigem acionamento manual e não podem ser executados via agendamento.
-
Na área Time Properties, configure as propriedades de tempo de agendamento da tarefa.
Parâmetro
Descrição
Instance Generation Mode
As opções incluem Next Day e Immediately After Deployment. Para mais informações, consulte Modos de geração de instância.
Recurrence
-
Normal: Inicia o agendamento no horário configurado em cada ciclo e executa a tarefa normalmente para processar dados.
-
Suspend scheduling: Inicia o agendamento no horário configurado em cada ciclo, mas pausa o nó para impedir o processamento de dados.
-
Dry Run: Inicia o agendamento no horário configurado em cada ciclo, mas executa o nó como uma tarefa de carga zero, sem processar dados.
Scheduling period
O ciclo de execução do nó pode ser anual, mensal, semanal, diário, horário ou por minuto. Neste exemplo, o agendamento começa às
00:00de toda segunda e terça-feira.cron expression
Exibida por padrão com base no horário de agendamento configurado. Não é possível alterá-la.
Timeout Definition
O sistema encerra a tarefa automaticamente se a duração da execução exceder o tempo limite.
-
O tempo limite aplica-se a instâncias recorrentes, instâncias de backfill e instâncias de teste.
-
O tempo limite padrão é ajustado dinamicamente conforme a carga real do sistema, variando entre 3 e 7 dias.
Nota-
Timeout DefinitionO valor máximo pode ser definido como 168 horas.
-
Cobranças de tráfego, computação e outras taxas geradas pela tarefa ainda se aplicam caso a execução seja encerrada por exceder o tempo limite.
Rerun attribute
As opções incluem You can run again after successful or failed operation., Do not re-run after successful operation, and re-run after failure. e Disallow Regardless of Running Status.
Auto Rerun upon Failure
Se o Rerun attribute estiver definido como You can run again after successful or failed operation. ou Do not re-run after successful operation, and re-run after failure., esta propriedade será exibida e você poderá configurar novas execuções automáticas após erros na tarefa. Caso esteja definido como Disallow Regardless of Running Status, a propriedade fica oculta e a tarefa não será reexecutada automaticamente após um erro.
Rerun Times
Ao selecionar Error automatic re-run, configure o parâmetro Rerun Times.
Rerun Interval
Ao selecionar Error automatic re-run, configure o parâmetro Rerun Interval. O intervalo padrão entre novas execuções é de 30 minutos. Defina um mínimo de 1 minuto e um máximo de 30 minutos.
Validity Period
Período de validade do nó. Defina conforme suas necessidades.
Para mais informações sobre propriedades de tempo, consulte Configurar propriedades de tempo.
-
Configurar dependências de agendamento
As propriedades de dependência especificam as dependências upstream do nó. Mesmo quando a instância do nó atual atinge o horário agendado, ela só inicia após a conclusão da execução das instâncias upstream.
Por exemplo, a instância do nó atual só começa depois que a instância do nó upstream insert_data termina sua execução.
Em termos de negócio, um nó downstream precisa aguardar que um nó upstream produza os dados da tabela antes de processá-los, seja para limpar a tabela upstream ou gravar os resultados limpos em outro banco de dados. Essas operações exigem que o nó upstream seja executado com sucesso e gere os dados. As dependências de agendamento garantem a disponibilidade dos dados upstream quando o nó downstream for iniciado. Para mais informações sobre dependências de agendamento, consulte Guia de configuração de dependências de agendamento.
Por padrão, o sistema de agendamento cria um nó workspace_name_root como raiz de cada workspace. Um nó sem outro nó upstream pode depender diretamente desse nó raiz.
Enviar e publicar a tarefa
Na página de edição do nó write_result, clique no ícone
na barra de ferramentas para salvar o nó.-
Envie a tarefa.
NotaDefina o Rerun attribute e os Parent Nodes do nó antes de enviar a tarefa.
Clique no ícone
na barra de ferramentas.Na caixa de diálogo Submit, insira a Change Description.
Clique em OK.
Se você utilizar um workspace no Standard mode, a tarefa de sincronização ficará disponível no ambiente de desenvolvimento após o envio. Para publicá-la no Production Environment para periodic scheduling, clique em Task Publishing. Publique a tarefa de sincronização no ambiente de produção nessa página. Para obter instruções, consulte Publicar tarefas.
Uma tarefa de sincronização só começa a gerar instâncias nos horários configurados e a executar automaticamente conforme seu ciclo de agendamento a partir do dia seguinte após ser enviada ao sistema de agendamento.
NotaSe você enviar a tarefa de sincronização após as 23:30, o sistema de agendamento começará a gerar instâncias recorrentes e a executá-las automaticamente apenas no terceiro dia.
Próximos passos
Você aprendeu a configurar propriedades de agendamento e dependência para uma tarefa de sincronização offline. No próximo tutorial, você aprenderá a executar operações de tarefas recorrentes e a inspecionar logs para solucionar problemas da tarefa enviada. Para mais informações, consulte Executar e solucionar problemas de tarefas.