Crie e gerencie tabelas do MaxCompute no DataWorks usando instruções SQL do MaxCompute ou a interface visual. A interface visual é mais prática. Este tópico descreve como usar a interface visual para criar e gerenciar uma tabela.
Observações
-
Princípios de operação de tabelas
Siga os requisitos operacionais básicos do MaxCompute ao gerenciar tabelas. Por exemplo, não é possível excluir campos de uma tabela após a criação. Para mais informações, consulte Usage limits on table operations.
-
Alterações nas propriedades físicas da tabela
Altere as propriedades físicas de uma tabela do MaxCompute executando comandos SQL do MaxCompute. Para mais informações, consulte Table operations. Devido aos controles de permissão do DataWorks, um usuário RAM pode encontrar erros ao executar comandos de operação de tabela. Para mais detalhes, consulte MaxCompute data permission control details.
-
Latência na atualização de metadados
Operações de metadados podem sofrer atrasos. Caso não encontre uma tabela após criá-la ou atualizá-la, ou se ela continuar aparecendo mesmo após a exclusão, use o recurso refresh the table metadata no Data Map para sincronizar manualmente as alterações.
Pré-requisitos
Você vinculou um bound a MaxCompute compute engine.
Acessar o DataStudio
Faça login no console do DataWorks. Na região desejada, clique em no painel de navegação à esquerda. Selecione um workspace na lista suspensa e clique em Go to Data Development.
Criar uma tabela do MaxCompute
Formas de criar uma tabela
Crie tabelas na página Table Management ou dentro de um workflow específico.
-
Criar pelo Table Management
No painel de navegação à esquerda do DataStudio, escolha Table Management e clique no ícone
para criar uma tabela. Se o módulo Table Management não estiver visível no painel de navegação, consulte Customize module display in DataStudio para adicioná-lo. -
Criar dentro de um workflow
O DataWorks usa workflows para organizar e gerenciar códigos. Crie tabelas relacionadas ao seu negócio dentro de um workflow. Caso ainda não tenha um, create one primeiro. Se já possuir um workflow, clique com o botão direito nele e escolha .
ImportanteSe o botão não for encontrado, verifique se há um mecanismo de computação MaxCompute vinculado ao workspace.
Configurar informações básicas da tabela
Após criar a tabela, a aba do editor de tabela será aberta. Nela, configure as informações da tabela usando o modo DDL ou a interface visual.
-
Configurar a tabela no modo DDL
Clique no ícone
na aba do editor de tabela e use uma standard MaxCompute table creation statement para gerar o schema da tabela do MaxCompute. Após gerar o schema com uma instrução DDL, o DataWorks preenche automaticamente os campos de configuração na aba do editor. Esta abordagem é ideal para usuários que preferem escrever código.ImportanteO nome da tabela é definido antes da abertura da aba do editor. Não altere o nome da tabela na instrução DDL; caso contrário, ocorrerá um erro.
O modo DDL suporta apenas a definição das propriedades físicas da tabela. Edite as propriedades de negócio na aba do editor de tabela depois que a instrução preencher a interface.
-
Configurar a tabela pela interface visual
Siga os guias na aba do editor de tabela para configurar suas propriedades. Este método é conveniente para quem prefere uma interface visual. O exemplo abaixo demonstra como configurar uma tabela usando a interface visual.
-
Configure as propriedades gerais. Os principais parâmetros estão descritos abaixo.
Parâmetro
Descrição
Display name
Nome de exibição da tabela.
Theme
No DataWorks, temas funcionam como pastas e permitem categorizar tabelas por finalidade de negócio. Defina temas de nível 1 e nível 2 para organizar as tabelas.
NotaEsses temas ajudam a organizar e localizar tabelas na página Table Management. Se não houver temas adequados disponíveis, crie um novo. Para mais informações, consulte Define table themes.
-
Projete o Physical Model. Os parâmetros estão descritos abaixo.
Parâmetro
Descrição
Level
Camada de data warehouse da tabela. Os níveis definem as camadas do data warehouse, geralmente divididas em Operational Data Store (ODS), Dimension (DIM), Data Warehouse Detail (DWD), Data Warehouse Summary (DWS) e Application Data Service (ADS). Atribua a tabela a um nível apropriado conforme sua finalidade de negócio.
NotaTambém é possível personalizar os níveis. Para mais informações, consulte Level management.
Category
Define a categoria física da tabela, oferecendo uma classificação mais detalhada sob a perspectiva de negócio. Categorias comuns incluem Basic Business, Advanced Business e Other.
NotaCategorias físicas também podem ser personalizadas. Para mais informações, consulte Category management.
Lifecycle
Ciclo de vida da tabela.
-
Para mais detalhes sobre o ciclo de vida de uma tabela do MaxCompute, consulte Lifecycle.
-
Para informações sobre operações de ciclo de vida em uma tabela do MaxCompute, consulte Lifecycle operations.
Partition type
Especifica se a tabela é particionada ou não particionada. Para mais informações sobre tabelas particionadas e não particionadas no MaxCompute, consulte Partition.
Table type
Indica se a tabela é interna ou externa. Tabelas internas gerenciam seus próprios dados dentro do MaxCompute, o que geralmente resulta em consultas mais rápidas. Tabelas externas referenciam dados armazenados fora do MaxCompute, economizando espaço de armazenamento. Para mais informações sobre tabelas internas e externas no MaxCompute, consulte Table.
-
-
Projete o Schema. A página de design do schema divide-se em duas seções: definição de campos e definição de partições. A seção de definição de campos oferece os botões Add Field, Move Up e Move Down na parte superior. Adicione um campo clicando no link + Add Field. A seção de definição de partições inclui parâmetros adicionais para Date Partition Format (por exemplo, yyyymmdd) e Date Partition Granularity. Os principais parâmetros estão descritos abaixo.
Parâmetro
Descrição
Data type
Tipo de dado do campo. Selecione apenas tipos suportados pelo MaxCompute na lista suspensa. Para mais informações sobre tipos de dados do MaxCompute, consulte Data type editions.
Field security level
Nível de segurança do campo. Este parâmetro fica visível somente se o controle de acesso baseado em rótulos estiver ativado para o projeto MaxCompute. Para mais informações sobre níveis de segurança de campos no MaxCompute, consulte Label-based access control.
Primary key
Chave primária de negócio da tabela. O MaxCompute não impõe chaves primárias; esta configuração serve apenas para fins de gestão de negócio.
-
Confirmar e implantar a tabela do MaxCompute
Após definir o schema da tabela, confirme-a nos ambientes de desenvolvimento e produção.
O processo de confirmação e implantação de tabelas do MaxCompute varia conforme o workspace mode:
basic mode: Basta confirmar a tabela no ambiente de produção.
standard mode: Apenas usuários com a função Workspace Administrator ou O&M podem implantar tabelas no ambiente de produção. Para mais informações sobre como conceder permissões, consulte Add workspace members and manage their roles and permissions.
|
Ações |
Descrição |
|
Load from development environment |
Carrega a definição da tabela do ambiente de desenvolvimento e preenche o editor atual. Importante
Esta operação está disponível apenas após a confirmação da tabela no ambiente de desenvolvimento. Esta ação substitui sua configuração atual pela definição confirmada. |
|
Commit to development environment |
Confirma a configuração atual da tabela no ambiente de desenvolvimento do DataWorks, criando a tabela no projeto MaxCompute associado. Após uma confirmação bem-sucedida, você pode:
|
|
Load from production environment |
Carrega a definição da tabela do ambiente de produção e preenche o editor atual. Importante
Esta operação está disponível apenas após a confirmação da tabela no ambiente de produção. Esta ação substitui sua configuração atual pela definição confirmada. |
|
Commit to production environment |
Confirma a configuração atual da tabela no ambiente de produção do DataWorks, criando a tabela no projeto MaxCompute associado. Após uma confirmação bem-sucedida, você pode:
|
Gravar e exportar dados em tabelas do MaxCompute
Esta seção descreve como importar e exportar dados da sua tabela do MaxCompute.
Gravar dados em uma tabela do MaxCompute
Use uma data synchronization task ou uma MaxCompute node para gravar dados em uma tabela do MaxCompute. O DataWorks também suporta uploading local data para uma tabela do MaxCompute.
Exportar dados de uma tabela do MaxCompute
Após consultar dados no DataStudio, exporte-os para um arquivo local clicando no botão Download no painel de resultados. Por padrão, é possível baixar no máximo 10.000 registros por vez. Administradores de tenant podem alterar esse limite na página Data Query and Analysis Control no Security Center.
Para exportar mais de 10.000 registros, use o cliente MaxCompute e execute uma Tunnel command.
Consultar dados em uma tabela do MaxCompute
Use uma ODPS SQL node ou o recurso ad hoc query para consultar dados em uma tabela do MaxCompute executando SQL statements.
Permissões padrão
Workspaces em basic mode não suportam controle de permissão granular nem isolamento entre ambientes de desenvolvimento e produção. Os exemplos a seguir consideram um workspace em standard mode.
Quando um usuário RAM é adicionado como membro a um workspace, as seguintes permissões de acesso a dados são concedidas por padrão.
|
Tipo de permissão |
Descrição |
|
Permissões do projeto de desenvolvimento MaxCompute |
O DataWorks mapeia funções no nível do workspace para funções do mecanismo MaxCompute. Um usuário RAM com uma função no workspace recebe automaticamente as permissões correspondentes no mecanismo de desenvolvimento. Por padrão, ele possui permissões no projeto do ambiente de desenvolvimento, mas não no de produção. |
|
Permissões do projeto de produção MaxCompute |
Por padrão, apenas a identidade de acesso de agendamento possui permissões no projeto de produção. Outros usuários RAM devem solicitar permissões no Security Center para operar em tabelas de produção. O DataWorks fornece um fluxo de trabalho de aprovação padrão e também permite que administradores o personalizem. |
Para mais informações sobre controle de acesso a dados do MaxCompute, consulte MaxCompute data permission control details.
Comportamento de acesso a dados
No DataStudio, consulte dados em outros projetos prefixando o nome da tabela com o nome do projeto. A tabela a seguir descreve métodos de acesso entre projetos e as contas utilizadas em diferentes ambientes.
Para visualizar os mecanismos de computação MaxCompute e as contas de execução configuradas para cada ambiente, consulte as vinculações de recursos de computação no DataStudio. Para mais informações, consulte Manage compute engines.
Em um workspace do DataWorks no modo standard, o ambiente de desenvolvimento usa a identidade pessoal do executor da tarefa por padrão. O ambiente de agendamento de produção utiliza uma conta cloud específica, conhecida como identidade de acesso de agendamento. Para mais informações, consulte Bind a MaxCompute compute engine.
|
Código de exemplo |
Execução no ambiente de desenvolvimento |
Execução no ambiente de produção |
|
Acessar uma tabela de desenvolvimento no projeto de desenvolvimento:
|
A consulta é executada usando a conta Alibaba Cloud pessoal do executor da tarefa.
|
A consulta é executada usando a identidade de acesso de agendamento. |
|
Acessar uma tabela de produção no projeto de produção:
|
A consulta é executada usando a conta Alibaba Cloud pessoal do executor da tarefa. Nota
Devido aos controles de segurança sobre dados de produção, contas Alibaba Cloud pessoais não têm acesso padrão às tabelas de produção. Solicite permissões no Security Center. O DataWorks fornece um fluxo de trabalho de aprovação padrão e também permite que administradores o personalizem. |
A consulta é executada usando a identidade de acesso de agendamento. |
|
Execute uma instrução em um ambiente alvo (por exemplo, desenvolvimento) para acessar uma tabela nesse mesmo ambiente:
|
Quando executada no ambiente de desenvolvimento, a consulta usa a conta Alibaba Cloud pessoal do executor da tarefa para acessar a tabela alvo no mecanismo de desenvolvimento. |
Quando executada no ambiente de produção, a consulta usa a identidade de acesso de agendamento para acessar a tabela alvo no mecanismo de produção. |
Visualizar ativos de dados do MaxCompute
Visualize ativos de dados do MaxCompute das seguintes formas.
Visualizar tabelas de produção em um tenant
O módulo Tenant Tables no DataStudio lista todas as tabelas de produção na região atual pertencentes à sua conta Alibaba Cloud.
Visualizar metadados
Acesse o Data Map para visualizar os detalhes e metadados de uma tabela do MaxCompute.
Visualizar linhagem da tabela
Na página de detalhes da tabela no Data Map, visualize a linhagem upstream e downstream da tabela.
Para localizar tarefas no workspace que operam nesta tabela, use o recurso code search.
Gerenciar tabelas do MaxCompute em lote
Gerencie várias tabelas do MaxCompute simultaneamente das seguintes maneiras.
Excluir tabelas do MaxCompute em lote
Acesse My Data no Data Map para excluir múltiplas tabelas de sua propriedade.
Devido aos controles de segurança sobre dados de produção, não é possível excluir diretamente tabelas de produção usando um comando. Para excluir tabelas que não são de sua propriedade, solicite permissões de tabela no Security Center.
Transferir propriedade de tabelas em lote
Acesse My Data no Data Map para transferir a propriedade de múltiplas tabelas de sua responsabilidade.
Modificar o ciclo de vida de tabelas em lote
Acesse My Data no Data Map para modificar o ciclo de vida de múltiplas tabelas sob sua gestão.
O ciclo de vida de uma única tabela pode ser modificado no Table Management. Para mais informações, consulte Create a MaxCompute table.