Desenvolva e analise dados no DataWorks construindo uma análise de grupos de compradores de imóveis do zero.
Introdução
Este tutorial envia dados locais de compra de imóveis para uma tabela do MaxCompute chamada bank_data por meio do DataWorks. Em seguida, utiliza nós MaxCompute SQL para analisar grupos de usuários e gerar uma tabela chamada result_table, posteriormente visualizada para criar perfis desses grupos.
Este tutorial utiliza dados simulados. Em cenários reais de negócios, ajuste as etapas conforme seus próprios dados.
O fluxograma a seguir ilustra o fluxo de dados e o processo de desenvolvimento.
Após a conclusão da análise, os dados indicam que os níveis de escolaridade de pessoas solteiras com hipoteca são principalmente university.degree e high.school.

Preparativos
Ativar o DataWorks
Criar um workspace
Criar um grupo de recursos e associá-lo a um workspace
Criar um projeto do MaxCompute e associá-lo ao workspace como recurso de computação
Procedimento
Envie os dados de teste fornecidos para um projeto do MaxCompute, crie um workflow no Data Studio para limpar e gravar os dados, depure e execute o workflow e, em seguida, execute instruções SQL para consultar e validar os resultados.
Etapa 1: Criar uma tabela do MaxCompute
Antes de enviar os dados de teste, crie uma tabela chamada bank_data no projeto do MaxCompute para armazenar os dados recebidos, utilizando o recurso Alibaba Cloud Account do DataWorks.
Faça login no console do DataWorks. Na barra de navegação superior, selecione a região desejada. No painel de navegação à esquerda do console do DataWorks, escolha . Na página exibida, selecione o workspace desejado na lista suspensa Data Catalog e clique em Go to Data Studio.
No painel de navegação à esquerda da página Data Studio, clique no ícone
para acessar o painel Data Catalog.(Opcional) Caso seu projeto do MaxCompute não apareça no Data Catalog, clique no ícone
ao lado de Select Workspace para ir à aba DataWorks Data Sources. Lá, adicione seu projeto do MaxCompute (já configurado como recurso de computação ou fonte de dados) ao workspace como um catálogo de dados.-
No painel Data Catalog, clique em MaxCompute. Dentro do seu projeto do MaxCompute, navegue até Table. Clique no ícone
para criar uma nova tabela.NotaSe o recurso de schema estiver habilitado para o projeto do MaxCompute, abra o schema no projeto antes de criar uma tabela do MaxCompute na pasta Table sob o projeto.
Neste tutorial, utiliza-se um workspace no Standard Mode, e a depuração ocorre apenas no ambiente de desenvolvimento. Portanto, basta criar a tabela
bank_datano ambiente de desenvolvimento do projeto do MaxCompute. Se estiver usando um workspace no Basic Mode, crie a tabelabank_datano ambiente de produção.
-
Na seção DDL da aba de criação de tabela, insira o código SQL a seguir. O sistema gerará automaticamente todas as informações da tabela.
CREATE TABLE IF NOT EXISTS bank_data ( age BIGINT COMMENT 'The age', job STRING COMMENT 'The job type', marital STRING COMMENT 'The marital status', education STRING COMMENT 'The education level', default STRING COMMENT 'Whether a credit card is possessed', housing STRING COMMENT 'The mortgage', loan STRING COMMENT 'The loan', contact STRING COMMENT 'The contact information', month STRING COMMENT 'The month', day_of_week STRING COMMENT 'The day of the week', duration STRING COMMENT 'The duration', campaign BIGINT COMMENT 'The number of contacts during the campaign', pdays DOUBLE COMMENT 'The time elapsed since the last contact', previous DOUBLE COMMENT 'The number of contacts with the customer', poutcome STRING COMMENT 'The result of the previous marketing campaign', emp_var_rate DOUBLE COMMENT 'The employment change rate', cons_price_idx DOUBLE COMMENT 'The consumer price index', cons_conf_idx DOUBLE COMMENT 'The consumer confidence index', euribor3m DOUBLE COMMENT 'The euro deposit rate', nr_employed DOUBLE COMMENT 'The number of employees', y BIGINT COMMENT 'Whether a time deposit is possessed' ); Na barra de ferramentas superior da aba de configuração, clique em Deploy para criar a tabela
bank_datano projeto do MaxCompute no ambiente de desenvolvimento.Após a criação da tabela
bank_data, clique no nome dela na seção MaxCompute para visualizar as informações detalhadas.
Etapa 2: Enviar dados para a tabela bank_data
Baixe o arquivo banking.csv para sua máquina local e envie os dados contidos nele para a tabela bank_data criada no projeto do MaxCompute. Para mais informações, consulte Upload data.
Antes de enviar os dados do arquivo, certifique-se de especificar um grupo de recursos para agendamento e um grupo de recursos para Data Integration. Para mais informações, consulte Limitations.
No canto superior esquerdo do console do DataWorks, clique no ícone
e escolha .-
Na seção Recent Upload Records, clique em Upload Data. Na página Upload Data, configure os parâmetros conforme a tabela abaixo.
Seção
Descrição
Data Source
Arquivo local.
Specify Data to Be Uploaded
Select File
Envie o arquivo
banking.csvbaixado para sua máquina local.Configure Destination Table
Compute Engine
MaxCompute.
MaxComputeProject Name
Selecione o projeto do MaxCompute ao qual a tabela
bank_datapertence.Select Destination Table
Selecione
bank_data. Sebank_datanão for exibida, consulte FAQ para atualizar os metadados da tabela.Preview Data of Uploaded File
Clique em Mapping by Order para concluir o mapeamento entre os dados do arquivo e os campos da tabela
bank_data.NotaEnvie arquivos com extensões
.csv,.xls,.xlsxe.jsonda sua máquina local.Ao enviar um arquivo .xls ou .xlsx, a primeira planilha será carregada por padrão.
Para arquivos
.csv, o tamanho máximo permitido é de 5 GB. Para outros tipos, o limite é de 100 MB.Mantenha os valores padrão para os parâmetros não descritos na tabela.
Clique em Upload Data para enviar os dados do arquivo CSV para a tabela
bank_data.-
Verifique se os dados foram gravados na tabela
bank_data.Após o envio, utilize o recurso SQL query (legacy) para confirmar a gravação dos dados na tabela
bank_data.Clique no ícone
no canto superior esquerdo. Na página pop-up, clique em All Products > DataAnalysis > SQL Query.Em My Files, clique em . Especifique um File Name personalizado e clique em Determine.
-
Na página de consulta SQL, insira a seguinte instrução SQL.
SELECT * FROM bank_data limit 10; -
No canto superior direito da aba de configuração do arquivo de consulta SQL, selecione o workspace ao qual a tabela
bank_datapertence e a fonte de dados do MaxCompute desejada, e clique em OK.NotaNeste tutorial, utiliza-se um workspace no Standard Mode, e a tabela
bank_datafoi criada apenas no ambiente de desenvolvimento. Portanto, selecione uma fonte de dados do MaxCompute no ambiente de desenvolvimento. Se estiver usando um workspace no modo básico, selecione uma fonte de dados no ambiente de produção. -
Na barra de ferramentas superior da aba de configuração, clique no ícone Run. Na caixa de diálogo Estimate Costs, clique em Run. Após a execução da instrução SQL, visualize os dez primeiros registros da tabela
bank_datana parte inferior da aba. Isso confirma que o envio do arquivo local para a tabelabank_datafoi bem-sucedido.
Etapa 3: Processar dados
Utilize nós MaxCompute SQL para filtrar dados na tabela bank_data, obter a distribuição de níveis de escolaridade entre pessoas solteiras com hipoteca e gravar os dados processados na tabela result_table.
Construir um fluxo de processamento de dados
No canto superior esquerdo do console do DataWorks, clique no ícone
e escolha .Na barra de navegação superior da página Data Studio, mude para o workspace criado neste tutorial. No painel de navegação à esquerda da página Data Studio, clique no ícone
.Na seção Workspace Directories do painel All Products, clique no ícone
e selecione Create Workflow. Na caixa de diálogo Create Workflow, insira um nome no campo Name e clique em OK para salvar o workflow. Neste tutorial, o parâmetro Name está definido como dw_basic_case.-
Na aba de configuração do workflow, arraste Zero Load Node e MaxCompute SQL da seção esquerda para o canvas à direita e defina nomes para os nós. A tabela abaixo lista os nomes e funcionalidades dos nós utilizados neste tutorial.
Tipo de nó
Node name
DataStudio
Nó de carga zeroworkshop_startUm nó de carga zero que gerencia todos os nós deste tutorial e esclarece o fluxo de dados. Nenhum código é necessário para este nó.
MaxCompute SQLddl_result_tableCria uma tabela chamada
result_tablepara armazenar os dados limpos da tabela bank_data.
MaxCompute SQLinsert_result_tableFiltra dados na tabela
bank_datae grava os dados filtrados na tabelaresult_table. -
Desenhe linhas para configurar dependências entre os nós, conforme mostrado na figura a seguir.
NotaÉ possível desenhar linhas para configurar scheduling dependencies para nós em um workflow. Alternativamente, use o recurso de análise automática para permitir que o sistema identifique automaticamente as dependências de agendamento entre os nós.
Neste tutorial, as dependências de agendamento são configuradas desenhando linhas. Para informações sobre o recurso de análise automática, consulte Use the automatic parsing feature.
Na barra de ferramentas superior da aba de configuração, clique em Save.
Configurar os nós de processamento de dados
Etapa 4: Depurar e executar o workflow
Após configurar o workflow dw_basic_case, depure-o e execute-o na página Data Studio para validar as configurações.
Ao concluir o desenvolvimento dos nós internos do workflow, mude para a aba de configuração do workflow e clique no ícone Save na barra de ferramentas superior para salvá-lo.
Com o workflow salvo, clique no ícone Run na barra de ferramentas superior da aba de configuração para depurar e executar o workflow.
-
Após a conclusão da execução do workflow, visualize o resultado. A figura a seguir mostra o resultado esperado.

Etapa 5: Consultar e exibir dados
Depois que os dados forem enviados ao MaxCompute e processados no Data Studio, consulte e visualize os resultados da análise.
Clique no ícone
no canto superior esquerdo. Na página pop-up, clique em All Products > Node functionality > Computing Quota.No painel SQL Query, clique no ícone
ao lado de Computing Quota e selecione Create File. Na caixa de diálogo DataAnalysis, configure o parâmetro File Name conforme suas necessidades e clique em SQL Query.-
Na página de consulta SQL, insira a seguinte instrução SQL.
SELECT * FROM result_table; -
No canto superior direito da aba de configuração do arquivo de consulta SQL, selecione o workspace ao qual a tabela
result_tablepertence e a fonte de dados do MaxCompute desejada, e clique em OK.NotaNeste tutorial, utiliza-se um workspace no My Files, e a tabela
result_tablefoi criada apenas no ambiente de desenvolvimento, sem implantação na produção. Portanto, selecione uma fonte de dados do MaxCompute no ambiente de desenvolvimento. Se estiver usando um workspace no modo básico, selecione uma fonte de dados no ambiente de produção. Na barra de ferramentas superior da aba de configuração, clique no ícone Run. Na caixa de diálogo Estimate Costs, clique em Run.
-
Na aba que exibe o resultado da execução, clique no ícone
para visualizar o resultado gráfico. Clique no ícone
no canto superior direito da aba para personalizar o estilo do gráfico. -
No canto superior direito da aba que exibe o resultado da execução, clique no ícone Standard Mode para salvar o gráfico como um cartão. No painel de navegação à esquerda da página SQL Query, clique no ícone
(样式设置) para visualizar o cartão salvo.
Próximos passos
Para detalhes sobre os módulos e parâmetros usados neste tutorial, consulte os tópicos em Data Studio (new version) e Data Analysis.
O DataWorks também suporta outros módulos, como Data Modeling, Data Quality, Data Security Guard, DataService Studio, Data Integration e configuração de agendamento de nós para monitoramento e O&M de dados de ponta a ponta. Para mais informações, consulte Data Modeling, Data Quality Overview, Data Security Guard Overview, DataService Studio, Data Integration e Node scheduling configuration.
Explore também outros tutoriais do DataWorks. Para mais informações, consulte Tutorials for different business scenarios.
Apêndice: Liberação e exclusão de recursos
FAQ
A tabela de destino bank_data não é exibida durante o envio de dados
Acesse . O My Data deve seguir o formato "projeto.tabela" ou "odps.projeto.tabela", onde:
projeto é o My Tools. Você pode encontrá-lo clicando em
bank_datano Refresh Table Metadata na Etapa 1 e verificando o painel Guid à direita.tabela é o nome da tabela, que é
bank_data.