Data Transmission Service:Migrar PolarDB-X 2.0 para MaxCompute

Pré-requisitos

• Ative o MaxCompute e crie um projeto MaxCompute. Para mais informações, consulte Activate MaxCompute and DataWorks e Create a project.

• Configure a lista de permissões do MaxCompute para permitir o acesso do DTS. Para mais informações, consulte Add Alibaba Cloud services to the MaxCompute allowlist.

• Use uma conta Alibaba Cloud (conta primária) para create and record an AccessKey pair.

  Nota

  Como alternativa, create a RAM user and record its AccessKey pair e, em seguida, assign the user a super administrator role (admin or super_administrator).

Limitações

Faturamento

Tipos de migração

• Migração de esquema

  O DTS migra os esquemas das tabelas de origem para o MaxCompute e adiciona o sufixo _base aos nomes das tabelas durante a inicialização. Por exemplo, se uma tabela de origem for chamada customer, a tabela correspondente no MaxCompute será chamada customer_base.

• Migração completa de dados

  O DTS migra todos os dados históricos das tabelas de origem para as tabelas _base no MaxCompute. Esses dados tornam-se a linha de base para a subsequente migração incremental de dados. Por exemplo, os dados da tabela customer no banco de dados de origem são migrados para a tabela customer_base no MaxCompute.

  Nota

  Essa tabela também é chamada de tabela de linha de base completa.

• Migração incremental

  O DTS cria uma tabela de log incremental no MaxCompute e a nomeia adicionando o sufixo _log ao nome da tabela de destino (por exemplo, customer_log). Em seguida, o DTS migra dados incrementais do banco de dados de origem para essa tabela de log em tempo real.

  Nota

  Para mais informações sobre a estrutura da tabela de log incremental, consulte Incremental log table structure.

Operações SQL para migração incremental

Permissões da conta do banco de dados

Mapeamentos de tipos de dados

Para mais informações, consulte Data type mappings for initial schema synchronization.

Procedimento

1. Acesse a página da lista de tarefas de migração da região de destino usando um dos métodos a seguir.

   Pelo console do DTS

   1. Faça login no console do Data Transmission Service (DTS).

   2. No painel de navegação à esquerda, clique em Data Migration.

   3. No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.

   Pelo console do DMS

   Nota

   As operações reais podem variar com base no modo e no layout do console do DMS. Para mais informações, consulte Simple mode console e Customize the layout and style of the DMS console.

   1. Faça login no console do Data Management (DMS).

   2. Na barra de menu superior, escolha Data + AI > Data Transmission (DTS) > Data Migration.

   3. À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.

2. Clique em Create Task para acessar a página de configuração da tarefa.

3. Configure os bancos de dados de origem e de destino.

   Aviso

   Após selecionar as instâncias de origem e de destino, leia a seção Limits na parte superior da página para garantir que a tarefa de migração possa ser criada e executada com sucesso.

   Categoria	Parâmetro	Descrição
   N/A	Task Name	O DTS gera automaticamente um nome para a tarefa. Especifique um nome descritivo para facilitar a identificação da tarefa. O nome da tarefa não precisa ser único.
   Source Database	Select Existing Connection	Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro é chamado Select a DMS database instance.. Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
   	Database Type	Selecione PolarDB-X 2.0.
   	Access Method	Selecione Alibaba Cloud Instance.
   	Instance Region	Selecione a região da instância PolarDB-X 2.0 de origem.
   	Replicate Data Across Alibaba Cloud Accounts	Neste exemplo, os dados são migrados dentro da mesma conta Alibaba Cloud. Selecione No.
   	Instance ID	Selecione o ID da instância PolarDB-X 2.0 de origem.
   	Database Account	Insira a conta do banco de dados da instância PolarDB-X 2.0 de origem. Para mais informações sobre as permissões necessárias, consulte Permissions required for database accounts.
   	Database Password	Insira a senha correspondente à conta do banco de dados.
   Destination Database	Select Existing Connection	Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro é chamado Select a DMS database instance.. Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
   	Database Type	Selecione MaxCompute.
   	Access Method	Selecione Alibaba Cloud Instance.
   	Instance Region	Selecione a região do projeto MaxCompute de destino.
   	Project	Insira o nome do projeto MaxCompute de destino.
   	AccessKey ID of Alibaba Cloud Account	Insira o par AccessKey criado na seção Prerequisites.
   	AccessKey Secret of Alibaba Cloud Account

4. Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.

   Nota

   Certifique-se de que os segmentos de endereço IP do service DTS foram adicionados automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso dos servidores DTS. Para mais informações, consulte Add DTS server IP addresses to a whitelist.

5. Clique em OK para autorizar a conta MaxCompute.

6. Configure os objetos da tarefa.

   1. Na página Configure Objects, configure os objetos que deseja migrar.

      Parâmetro	Descrição
      Migration Types	Se precisar realizar apenas uma migração completa, selecione Schema Migration e Full Data Migration. Para realizar uma migração sem tempo de inatividade, selecione Schema Migration, Full Data Migration e Incremental Data Migration. Nota Se não selecionar Schema Migration, certifique-se de que exista um banco de dados e tabelas para receber os dados no banco de dados de destino. Também é possível usar o recurso de mapeamento de nomes de objetos na caixa Selected Objects conforme necessário. Se não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração de dados para garantir a consistência dos dados.
      Processing Mode for Existing Destination Tables	Precheck and Report Errors**b>: Verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não existirem tabelas com os mesmos nomes, a pré-verificação é aprovada. Se existirem tabelas com os mesmos nomes, um erro será relatado durante a pré-verificação e a tarefa de migração de dados não será iniciada. Nota Se uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, altere o nome da tabela no banco de dados de destino. Para mais informações, consulte Object name mapping. Precheck and Report Errors: Ignora a verificação de tabelas com os mesmos nomes. Aviso Selecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos aos negócios. Por exemplo: Se os esquemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem: Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado. Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem substitui o registro no banco de dados de destino. Se os esquemas das tabelas forem inconsistentes, apenas algumas colunas de dados poderão ser migradas ou a migração poderá falhar. Prossiga com cautela.
      Ignore Errors and Proceed	Quando o DTS migra dados para o MaxCompute, ele adiciona colunas às tabelas de destino. Se os nomes dessas colunas adicionais entrarem em conflito com nomes de colunas existentes nas tabelas de destino, a tarefa de migração falhará. Selecione Naming Rules of Additional Columns ou New Rule com base nos requisitos do seu negócio. Aviso Antes de selecionar uma regra de nomenclatura, verifique se os nomes das colunas adicionais entram em conflito com quaisquer nomes de colunas existentes nas tabelas de destino.
      Previous Rule	Selecione um nome de partição com base nos requisitos do seu negócio. Para mais informações sobre partições, consulte Partitions.
      Partition Definition of Incremental Data Table	É possível configurar a política de diferenciação de maiúsculas e minúsculas para os nomes dos objetos migrados, como bancos de dados, tabelas e colunas, na instância de destino. Por padrão, Capitalization of Object Names in Destination Instance está selecionado. Você também pode optar por manter a diferenciação de maiúsculas e minúsculas consistente com a política padrão do banco de dados de origem ou de destino. Para mais informações, consulte Case sensitivity of object names in the destination database.
      DTS default policy	Selecione um ou mais objetos na seção Source Objects. Clique no ícone e adicione os objetos à seção Source Objects. Nota É possível selecionar objetos para migrar no nível de tabela.
      Selected Objects	Para alterar o nome de um único objeto de migração na instância de destino, clique com o botão direito do mouse no objeto na caixa Selected Objects. Para mais informações, consulte Map individual schema, table, and column names. Para alterar os nomes de vários objetos de migração na instância de destino, clique em Selected Objects no canto superior direito da caixa Selected Objects. Para mais informações, consulte Map multiple schema, table, and column names. Nota O uso do recurso de mapeamento de nomes de objetos pode causar falha na migração de objetos dependentes. Para definir condições WHERE para filtrar dados, clique com o botão direito do mouse na tabela a ser migrada na caixa Batch Edit e defina as condições de filtro na caixa de diálogo exibida. Para selecionar operações SQL a serem migradas no nível de banco de dados ou tabela, clique com o botão direito do mouse no objeto de migração na caixa Selected Objects e selecione as operações SQL desejadas na caixa de diálogo exibida.

   2. Clique em Selected Objects para configurar parâmetros avançados.

      Parâmetro	Descrição
      Next: Advanced Settings	Por padrão, o DTS agenda tarefas em um cluster compartilhado. Não é necessário selecionar um. Se desejar tarefas mais estáveis, adquira um dedicated cluster para executar tarefas de migração do DTS.
      Dedicated Cluster for Task Scheduling	Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS relatará um erro e iniciará imediatamente uma nova tentativa de conexão. A duração padrão de nova tentativa é de 720 minutos. É possível personalizar o tempo de nova tentativa para um valor entre 10 e 1440 minutos. Recomendamos definir a duração para mais de 30 minutos. Se o DTS se reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará. Nota Para várias instâncias DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada. Como a tarefa é cobrada durante o período de nova tentativa de conexão, recomendamos personalizar o tempo de nova tentativa com base nas necessidades do seu negócio ou liberar a instância DTS o mais rápido possível após a liberação das instâncias de banco de dados de origem e de destino.
      Retry Time for Other Issues	Após o início da tarefa de migração, se ocorrer um problema que não seja de conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS relatará um erro e iniciará imediatamente uma nova tentativa da operação. A duração padrão de nova tentativa é de 10 minutos. É possível personalizar o tempo de nova tentativa para um valor entre 1 e 1440 minutos. Recomendamos definir a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará. Importante O valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
      Retry Time for Failed Connections	Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, ative o limitador de taxa para a tarefa de migração completa. Defina Enable Throttling for Full Data Migration, Queries per second (QPS) to the source database e RPS of Full Data Migration para reduzir a carga no banco de dados de destino. Nota Este item de configuração está disponível apenas se você selecionar Data migration speed for full migration (MB/s) em Full Data Migration. Também é possível adjust the full migration speed após a instância de migração estar em execução.
      Migration Types	Se necessário, também é possível definir limites de velocidade para a tarefa de migração incremental. Defina Enable Throttling for Incremental Data Migration e RPS of Incremental Data Migration para reduzir a carga no banco de dados de destino. Nota Este item de configuração está disponível apenas se você selecionar Data migration speed for incremental migration (MB/s) em Incremental Data Migration. Também é possível adjust the incremental migration speed após a instância de migração estar em execução.
      Migration Types	Escolha se deseja gravar informações SQL de heartbeat no banco de dados de origem quando a instância DTS estiver em execução. Whether to delete SQL operations on heartbeat tables of forward and reverse tasks: As informações SQL de heartbeat não são gravadas no banco de dados de origem. Isso pode fazer com que a instância DTS relate um atraso. Yes: Grava informações SQL de heartbeat no banco de dados de origem. Isso pode interferir em recursos como backup físico e clonagem do banco de dados de origem.
      No	É possível selecionar uma tag de ambiente para identificar a instância. Esta etapa é opcional.
      Environment Tag	Escolha se deseja ativar o recurso de extração, transformação e carregamento (ETL). Para mais informações, consulte What is ETL? Valores válidos: Configure ETL: Ativa o recurso ETL. Insira instruções de processamento de dados no editor de código. Para mais informações, consulte Configure ETL in a data migration or data synchronization task. Yes: Desativa o recurso ETL.
      No	Selecione se deseja definir alertas e receber notificações de alerta com base nas necessidades do seu negócio. Monitoring and Alerting: Não define um alerta. No: Configure alertas definindo um alert threshold e alert notifications. Se uma migração falhar ou a latência exceder o limiar, o sistema enviará uma notificação de alerta.

7. Salve a tarefa e execute uma pré-verificação.

   • Para visualizar os parâmetros de configuração desta instância ao chamar a operação da api, passe o ponteiro do mouse sobre o botão Yes e clique em Next: Save Task Settings and Precheck no balão exibido.

   • Se não precisar visualizar os parâmetros da api ou já tiver terminado de visualizá-los, clique em Preview OpenAPI parameters na parte inferior da página.

   Nota

   • Antes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa só é iniciada após ser aprovada na pré-verificação.

   • Se a pré-verificação falhar, clique em Next: Save Task Settings and Precheck ao lado do item de verificação com falha, corrija o problema conforme a instrução e execute a pré-verificação novamente.

   • Se um aviso for relatado durante a pré-verificação:

     • Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema conforme a instrução e execute a pré-verificação novamente.

     • Para itens de verificação que podem ser ignorados, clique em View Details, Confirm Alert Details, Ignore e OK para pular o item de alerta e executar a pré-verificação novamente. Se optar por ignorar um aviso, isso pode causar problemas como inconsistência de dados e representar riscos aos seus negócios.

8. Adquira a instância.

   1. Quando a Precheck Again for 100%, clique em Success Rate.

   2. Na página Next: Purchase Instance, selecione a especificação de link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.

      Categoria	Parâmetro	Descrição
      Purchase	New Instance Class	Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é default resource group. Para mais informações, consulte What is resource management?
      	Resource Group Settings	O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Selecione uma especificação com base no cenário do seu negócio. Para mais informações, consulte Data migration link specifications.

   3. Após concluir a configuração, leia e selecione Instance Class.

   4. Clique em Data Transmission Service (Pay-as-you-go) Service Terms. Na caixa de diálogo Buy and Start exibida, clique em OK.

      É possível acompanhar o progresso da tarefa de migração na página de lista OK.

      Nota

      • Se a tarefa de migração não incluir migração incremental, ela será interrompida automaticamente após a conclusão da migração completa. Após a interrupção da tarefa, seu Data Migration Tasks muda para Completed.

      • Se a tarefa de migração incluir migração incremental, ela não será interrompida automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Status.

Esquema da tabela de log incremental