No DataWorks, use um nó CDH Presto para análise de dados em tempo real. Esse nó fornece um mecanismo de consulta SQL distribuído para aprimorar os recursos de análise de dados do seu ambiente CDH. Este tópico descreve como configurar e usar um nó CDH Presto.
Pré-requisitos
-
Crie um cluster CDH do Alibaba Cloud e associe-o a um workspace do DataWorks. Para mais informações, consulte Associate a CDH compute engine.
ImportanteVerifique se o componente Presto está instalado no seu cluster CDH e configure as informações relacionadas ao vincular o cluster.
-
(Opcional, para usuários do RAM) Adicione o usuário do RAM para desenvolvimento de tarefas ao workspace correspondente e conceda a função Development ou Workspace Administrator. A função Workspace Administrator possui permissões amplas, portanto, conceda-a com cautela. Para obter mais detalhes sobre como adicionar membros, consulte Add members to a workspace.
NotaSe você usar uma conta do Alibaba Cloud, pule esta etapa.
Configure uma source de dados do Hive no DataWorks e verifique se ela passou no teste de conectividade. Para mais informações, consulte Manage data sources.
crie um nó
Para obter instruções, consulte Create a node.
Desenvolvimento do nó
Desenvolva o código da tarefa no editor SQL. Defina variáveis no código usando o formato ${variable_name}. Em seguida, atribua um valor à variável na seção Scheduling Parameters do painel Scheduling Settings, no lado direito da página de edição do nó. Isso permite passar parâmetros dinamicamente para o código quando o nó é executado conforme o agendamento. Para saber mais sobre parâmetros de agendamento, consulte Sources and expressions of scheduling parameters. O código a seguir mostra um exemplo.
SHOW TABLES;
SELECT * FROM userinfo ;
-- You can use this with scheduling parameters.
SELECT '${var}';
Depuração do nó
-
Na guia Run Configuration, configure Compute Resource e Resource Group na seção Compute Resource.
Para o recurso de computação, selecione o nome do cluster CDH registrado no DataWorks.
selecione um grupo de recursos de agendamento aprovado no teste de conectividade com a source de dados. Para mais informações, consulte Network Connectivity Solutions.
Na barra de ferramentas na parte superior da página de edição do nó, clique em Run.
Próximas etapas
Configure node scheduling: Se precisar executar um nó periodicamente, configure sua Scheduling Policy no painel Scheduling Settings à direita.
Publish a node: Para executar uma tarefa no ambiente de produção, clique em ícone
para publicar o nó. O nó só é executado conforme o agendamento após ser publicado no ambiente de produção.gerencie tarefas: Após publicar uma tarefa, monitore as execuções periódicas no Operation Center. Para obter mais informações, consulte Get started with Operation Center.