Use instruções SQL para consultar e analisar rapidamente dados de fontes como MaxCompute, EMR Hive e Hologres. Este tópico descreve como consultar fontes de dados com instruções SQL.
A DataWorks recomenda experimentar a nova versão da Análise de Dados para acessar os recursos mais recentes e obter uma melhor experiência de usuário.
Fontes de dados compatíveis
O recurso de consulta SQL é compatível com fontes de dados, incluindo MaxCompute, Hologres, EMR, CDH, StarRocks, ClickHouse, SelectDB, Doris, AnalyticDB for MySQL 3.0, AnalyticDB for PostgreSQL, Tablestore, MySQL, PostgreSQL, Oracle e SQL Server.
Este recurso aceita apenas fontes de dados adicionadas a um workspace.
Permissões da fonte de dados
Escopo da fonte de dados
Consulte dados apenas de fontes dentro dos workspaces aos quais você tem permissão. Entre em contato com um administrador para adicionar você a um workspace como analista de dados, designer de modelos, desenvolvedor, operador, administrador do workspace ou proprietário do projeto.
Permissões de acesso à fonte de dados
O acesso à fonte de dados oferece dois modos de identidade.
|
Modo de identidade de acesso |
Descrição |
Fontes de dados compatíveis |
Autorização |
|
Executor Identity |
A conta Alibaba Cloud conectada ao DataWorks. |
MaxCompute e Hologres. |
Solicite ao administrador do projeto MaxCompute ou da instância Hologres especificado que conceda permissões de acesso de membro a você. |
|
Data Source Default Access Identity |
A identidade de acesso configurada durante a criação da fonte de dados. |
Todas as fontes de dados. |
Se sua conta de login atual não for a identidade de acesso padrão da fonte de dados, solicite a um usuário com a função de administrador do workspace que conceda acesso à sua conta Alibaba Cloud atual. |
Se o projeto MaxCompute tiver o controle de acesso baseado em lista de permissões ativado, adicione os endereços IP necessários à lista de permissões de IP do projeto MaxCompute.
Acessar o recurso
Faça login na Análise de Dados do DataWorks, mude para a região desejada e clique em Enter Data Analysis.
Se você vir Switch to New DataAnalysis na barra de navegação, significa que está na página legada de Análise de Dados.
(Não recomendado) Caso veja Return to Legacy DataAnalysis na barra de navegação, clique nessa opção para retornar à página legada de Análise de Dados.
Etapa 1: Adicionar diretórios
Adicione tabelas de diretórios recomendados pelo sistema e de fontes de dados autorizadas ao seu diretório. Após adicionar um diretório, visualize rapidamente as tabelas nele contidas, verifique os esquemas das tabelas e gere consultas SQL.
-
Na página de análise SQL, clique no botão
à direita da caixa de pesquisa acima do diretório para adicionar um diretório.DataMap - Metadata: Metadados de tabelas coletados no Data Map. Cada fonte de dados ou recurso de computação pode ser adicionado como um conjunto de dados.
DataMap - Data Album: Coleções de Dados que agregam tabelas de tópicos específicos no Data Map. Cada Coleção de Dados pode ser adicionada como um conjunto de dados.
My Favorites: Tabelas marcadas como favoritas no Data Map.
My MaxCompute Tables: Todas as tabelas MaxCompute das quais a conta de login atual é proprietária.
Public Data: Conjuntos de dados públicos fornecidos pelo MaxCompute, úteis para gerar dados de teste rapidamente.
NotaÉ permitido adicionar até 12 conjuntos de dados. Remova os conjuntos de dados desnecessários.
Etapa 2: Criar uma consulta SQL
Consulta baseada em catálogo de dados
Após adicionar diretórios de dados, os conjuntos de dados correspondentes aparecem na árvore de diretórios à esquerda.
Na árvore de diretórios à esquerda, clique para expandir um conjunto de dados adicionado (por exemplo, minhas tabelas MaxCompute).
Clique com o botão direito no nome da tabela a ser analisada e selecione Generate SQL Statement no menu de contexto. Uma instrução SQL recomendada, baseada na tabela, será gerada automaticamente como um arquivo temporário.
Modifique a instrução SQL conforme necessário e clique em Save para salvar o arquivo temporário em My Files.
Consulta baseada em fontes de dados
Na árvore de diretórios à esquerda, passe o mouse sobre My Files e clique no botão
à direita para criar um arquivo.-
Escreva uma instrução de consulta SQL no novo arquivo e salve-a em My Files.
NotaAo editar instruções SQL, o DataWorks sugere automaticamente tabelas no MaxCompute às quais você tem permissão.
Consulta baseada em SQL compartilhado
Na árvore de diretórios à esquerda, clique em Shared Files para visualizar arquivos SQL compartilhados por outros usuários. Clique em um arquivo SQL e, na página de detalhes à direita, clique em Copy SQL.
Consulta baseada em conjuntos de dados públicos
Depois de adicionar um conjunto de dados público ao diretório, clique nele. Na barra superior da página de detalhes à direita, selecione um mecanismo diferente para Generate SQL Statement. Use conjuntos de dados públicos para testes.
Etapa 3: Configurar o mecanismo de consulta e executar a consulta
-
Clique no botão
no canto superior direito da página de detalhes SQL para configurar o mecanismo de consulta SQL.Parâmetro
Descrição
Workspace
O workspace onde reside o mecanismo de execução.
ImportanteCertifique-se de ter permissões de acesso ao workspace. Caso contrário, entre em contato com o administrador do workspace para adicionar você como membro do workspace.
Datasource Type
O tipo e o nome do mecanismo de execução.
ImportanteSe nenhum projeto específico for especificado na instrução SQL, o mecanismo de execução servirá como fonte de dados padrão.
Data Source Name
Access Identity Mode
Selecione o modo de acesso para consultas SQL:
Executor Identity: Compatível apenas com mecanismos MaxCompute e Hologres. Recomendado quando você é membro do projeto MaxCompute ou da instância Hologres e possui permissões SELECT.
Data Source Default Access Identity: Se sua conta atual for diferente da identidade de acesso padrão configurada na criação da fonte de dados, conceda essa identidade à sua conta atual.
-
Após escrever a instrução SQL, execute todo o script diretamente ou selecione uma parte para execução parcial. Clique no ícone de seta para baixo
ao lado do botão de execução para alternar o modo de execução. Escolha modos diferentes para cenários distintos.Antes da execução de uma instrução SQL do MaxCompute, o custo estimado é exibido. Também é possível clicar em na barra de ferramentas acima do arquivo SQL para estimar o custo.
Modo de execução
Cenário
Condição de acionamento
Mecanismos aplicáveis
Modo de consulta (LIMIT 10000)
Visualizar dados rapidamente e verificar a lógica da consulta. Ideal para cenários onde se deseja ver apenas uma pequena amostra dos resultados para exploração preliminar de dados.
O resultado da consulta exibe ≤ 10.000 linhas e ≤ 10 MB.
Sem limite
Modo de consulta (dados completos)
Obter o conjunto completo de resultados para análise ou exportação. Mude para este modo quando precisar processar e visualizar todos os dados.
O resultado da consulta exibe > 10.000 linhas ou > 10 MB.
MaxCompute,Hologres,StarRocks,ClickHouse,MySQLModo de tabela temporária
Reutilizar resultados em consultas complexas de múltiplas etapas. Use a saída de uma consulta como entrada da próxima para melhorar a eficiência de desenvolvimento e depuração.
O resultado da consulta exibe ≤ 10.000 linhas e ≤ 10 MB, sendo gravado automaticamente em uma tabela temporária.
Apenas
MaxCompute -
Após a execução da instrução SQL, visualize o log de execução, os resultados e a instrução SQL correspondente na página de resultados da consulta.
Use os botões no canto superior direito da área de resultados da consulta para alternar o layout da página entre lado a lado e cima-baixo.
Etapa 4: Visualizar resultados da consulta
Na barra de ferramentas à esquerda dos resultados da consulta, clique no botão para gerar gráficos visuais automaticamente a partir dos resultados.
Clique no botão Copilot acima do gráfico para experimentar o recurso Copilot.
Etapa 5: Exportar e compartilhar
Para exportar dados para sua máquina local e depois importá-los para outra fonte de dados, recomendamos o uso das tarefas de sincronização em lote do Data Integration, garantindo migração e sincronização de dados mais eficientes e estáveis.
Os resultados da consulta SQL podem ser exportados das seguintes formas:
-
Arquivo local: Baixe os resultados da consulta para sua máquina local nos formatos CSV, TXT ou XLS. As principais informações são:
Item
Descrição
Limites de download
Somente os mecanismos MaxCompute e EMR são compatíveis. Para mais informações, consulte Limites de contagem de linhas de download.
Se o projeto MaxCompute tiver restrições de download de dados ativado (download de dados proibido), o download via Análise de Dados falhará.
ImportanteSe esta opção não aparecer, consulte as Perguntas frequentes para solução de problemas.
Scope
Escolha entre baixar Only Data Displayed in Table ou All Data.
Only Data Displayed in Table: Baixa apenas os dados exibidos na página atual, limitados a
10000linhas por padrão.All Data: Exporta todos os dados resultantes da consulta dentro do limite de download.
Método de download
Dois métodos de download são compatíveis: Download After Approval e Download Without Approval.
Download após aprovação: Configure regras de identificação de riscos para identificar riscos nas operações de download de dados. Ao baixar dados, envie uma solicitação de aprovação de download para garantir conformidade e segurança.
NotaApenas a Enterprise Edition do DataWorks permite configurar e ativar regras de identificação de riscos.
Download sem aprovação: Por padrão, os downloads não exigem aprovação. Nenhuma solicitação de permissão é necessária durante o processo.
-
OSS: Exporte os resultados da consulta em um formato especificado (como CSV ou Parquet) para o Object Storage Service (OSS) da Alibaba Cloud. Esta opção é adequada para arquivar grandes volumes de dados ou integrar com outros serviços cloud.
Ao usar este recurso pela primeira vez, autorize o DataWorks a acessar seus recursos OSS. Na lista suspensa File Path , clique no link Authorize no aviso e siga as instruções para concluir a autorização RAM.
Parâmetro
Descrição
File path
Clique no botão de pasta à direita para selecionar o bucket e o diretório OSS onde deseja armazenar o arquivo de resultado.
File name
Um nome de arquivo é gerado automaticamente. Modifique-o manualmente se desejar.
File type
Selecione o formato do arquivo de exportação. Os formatos compatíveis incluem
csv,text,orceparquet.Delimiter
Especifique o delimitador entre colunas. O delimitador padrão é a vírgula (
,).Encoding
Selecione o formato de codificação do arquivo, como
UTF-8ouGBK.CU
Configure o número de unidades de computação (CUs) para esta tarefa de exportação. O valor padrão é 1 CU.
Resource group
Selecione o grupo de recursos serverless para executar esta tarefa de exportação. Se nenhum grupo for selecionado, o grupo de recursos do Data Integration configurado em Data Analysis > System Management será usado por padrão.
Após concluir a configuração, clique em OK para iniciar a tarefa de exportação. Acompanhe o progresso da exportação, o log de execução e os detalhes de configuração na página de execução da tarefa. Após o sucesso da tarefa, acesse o console OSS para baixar o arquivo exportado para sua máquina local.
-
Tabela MaxCompute: Exporte os resultados da consulta diretamente para uma tabela MaxCompute, sem precisar baixar dados para sua máquina local primeiro. Defina o ciclo de vida da tabela conforme necessário.
Esta opção está disponível apenas ao consultar conteúdo do mecanismo MaxCompute.
Planilha: Salve os resultados em uma planilha para realizar análises de dados mais detalhadas posteriormente. Também é possível compartilhar os resultados mais recentes da análise com outras pessoas.
-
Mais operações
Gerenciamento de versão de arquivos SQL
Na página de edição de arquivos SQL, clique em na barra de ferramentas para visualizar as diferenças entre o código salvo automaticamente e o salvo manualmente, e selecione a versão que deseja manter.
Pesquisa de código
Acima da árvore de diretórios à esquerda, clique em
para pesquisar código por palavra-chave. Este recurso está disponível apenas para a Standard Edition do DataWorks e superiores.
Visualizar histórico de execução
Acima da árvore de diretórios à esquerda, clique em
para ver o histórico de execução de consultas SQL.
Perguntas frequentes
Como conceder acesso usando a identidade de acesso padrão da fonte de dados?
-
Acesse o Security Center.
Faça login no console DataWorks. Na região desejada, clique em no painel de navegação à esquerda. Na página exibida, clique em Go to Security Center.
No painel de navegação à esquerda, clique em para acessar a página de controle de acesso à Análise de Dados.
Mude para o workspace desejado, localize a fonte de dados alvo e clique no botão de autorização à direita para conceder acesso.
Erro na execução da consulta SQL?
Se encontrar um erro relacionado a This node can only run on exclusive resource groups durante a execução, configure o Resource Group for Scheduling e o Resource Group for Data Integration para o mecanismo correspondente em .
A exibição ou download do resultado da consulta está restrito?
Os resultados de consultas SQL exibem apenas um número limitado de linhas. Siga estas etapas para ajustar o limite de exibição para o máximo. Gerencie também as capacidades de download. Para mais informações, consulte Configurar limites de exibição e download de resultados de consulta.
-
Acesse o Security Center.
Faça login no console DataWorks. Na região desejada, clique em no painel de navegação à esquerda. Na página exibida, clique em Go to Security Center.
No painel de navegação à esquerda, clique em para acessar a página de controle de acesso à Análise de Dados.
Mude para a aba Query Result Control e ajuste as configurações de Maximum rows per display, Maximum rows per copy, Maximum rows per download e Allow download.