Migrar dados do PolarDB-X 1.0 para o data warehouse nativo da nuvem AnalyticDB for PostgreSQL - Data Transmission Service: Central de Documentação do Alibaba Cloud

Pré-requisitos

O tipo de armazenamento do PolarDB-X 1.0 deve ser ApsaraDB RDS for MySQL. O PolarDB for MySQL não é compatível atualmente.
Crie uma instância de destino AnalyticDB for PostgreSQL. A instância de destino deve ter capacidade de armazenamento superior ao espaço utilizado pela instância de origem PolarDB-X 1.0. Para mais informações, consulte Criar uma instância.
Crie um banco de dados na instância de destino AnalyticDB for PostgreSQL para receber os dados migrados. Para mais informações, consulte CREATE DATABASE.

Observações de uso

Tipo

Descrição

Limitações do banco de dados de origem

Requisitos de largura de banda: o servidor que hospeda o banco de dados de origem deve ter largura de banda de saída suficiente. Largura de banda insuficiente torna a migração de dados mais lenta.
As tabelas a serem migradas devem ter uma PRIMARY KEY ou uma restrição UNIQUE, e os campos da chave ou restrição devem ser únicos. Caso contrário, podem ocorrer dados duplicados no banco de dados de destino.
Ao migrar objetos no nível de tabela com necessidade de edição, como mapeamento de nomes de colunas, uma única tarefa de migração de dados aceita no máximo 1.000 tabelas. Se esse limite for excedido, o envio da tarefa falhará. Nesse caso, divida as tabelas em várias tarefas de migração de dados ou configure uma tarefa para migrar todo o banco de dados.
Para migração incremental, garanta que o parâmetro binlog_row_image da instância RDS MySQL associada ao PolarDB-X 1.0 esteja definido como full. Caso contrário, a pré-verificação falha e a tarefa de migração de dados não inicia.
Nota
Em tarefas de migração incremental, o DTS exige que o banco de dados de origem retenha seu binlog local por mais de 24 horas. Se a tarefa incluir migração completa e incremental, mantenha o binlog por pelo menos 7 dias. Após a conclusão da migração completa, altere o período de retenção para mais de 24 horas. Períodos muito curtos podem causar falha na migração porque o DTS não consegue obter os arquivos de binlog necessários. Em casos extremos, isso leva a inconsistência ou perda de dados. O SLA do DTS não cobre problemas causados por período de retenção de binlog insuficiente.

O tipo de armazenamento do PolarDB-X 1.0 deve ser RDS MySQL. O PolarDB for MySQL não é compatível.
Restrições operacionais no banco de dados de origem:
- Se for necessário alterar o tipo de rede da instância PolarDB-X 1.0 durante a migração, atualize as configurações de conexão de rede do link de migração após a conclusão da alteração.
- Durante a migração, não escale verticalmente a instância de origem, não migre tabelas de hot-spot, não altere chaves de shard nem execute instruções DDL. Caso contrário, a tarefa de migração pode falhar ou ocorrer inconsistência de dados.
- Se a chave de partição for alterada no banco de dados de origem e a chave primária na tabela de destino não incluir a chave de partição de origem, pode haver perda de dados no banco de dados de destino.
  - Motivo: uma instância PolarDB-X 1.0 possui várias instâncias RDS for MySQL associadas. O DTS cria um link de migração separado para cada instância RDS for MySQL. Uma alteração na chave de partição faz com que os dados sejam excluídos de uma instância RDS for MySQL e inseridos em outra. Como os links são executados independentemente, a ordem de execução das operações DELETE e INSERT não é garantida. Se a chave primária do banco de dados de destino não incluir a chave de partição, uma operação DELETE executada posteriormente pode acidentalmente excluir os dados recém-inseridos.
  - Recomendação: para evitar perda de dados causada por operações fora de ordem, garanta que a chave primária da tabela de destino inclua a coluna da chave de partição do banco de dados de origem.
A instância de origem PolarDB-X 1.0 deve estar na versão 5,2 ou posterior.
Não altere o tipo de uma tabela de broadcast na instância de origem PolarDB-X 1.0 enquanto uma tarefa de migração do DTS estiver em execução (por exemplo, de tabela de broadcast para tabela única ou tabela com shard). Se precisar alterar o tipo de tabela, pare a tarefa de migração. Após a conclusão da alteração, reconfigure a tarefa de migração.

Outras limitações

O DTS não aceita tabelas append-optimized (AO) como tabelas de destino.
O DTS não aceita a migração de dados dos tipos GEOMETRY, CURVE, SURFACE, MULTIPOINT, MULTILINESTRING, MULTIPOLYGON e GEOMETRYCOLLECTION.
O DTS não aceita a migração de objetos INDEX, PARTITION, VIEW, PROCEDURE, FUNCTION, TRIGGER e FK.
Se você usar mapeamento de colunas para migração parcial de tabela ou se os esquemas das tabelas de origem e destino forem inconsistentes, os dados das colunas existentes na origem mas ausentes no destino serão perdidos.
O DTS não aceita instâncias somente leitura de recursos de computação do PolarDB-X 1.0.
O DTS aceita apenas sharding horizontal para recursos de armazenamento do PolarDB-X 1.0, não aceitando sharding vertical.
Como a tarefa de migração do PolarDB-X 1.0 é distribuída, cada instância RDS MySQL associada corresponde a uma subtarefa de migração. Visualize o status das subtarefas em Task Topology.
O DTS depende da continuidade das transações XA na instância de origem PolarDB-X 1.0 para garantir a consistência dos dados nas tarefas de migração incremental. Se a continuidade das transações XA for interrompida, por exemplo, durante um cenário de recuperação de desastres do módulo de captura de dados incrementais, transações XA não confirmadas podem ser perdidas.
Se uma tabela a ser migrada tiver uma chave primária, a coluna da chave primária na tabela de destino deve ser igual à da tabela de origem. Se a tabela não tiver chave primária, a coluna da chave primária na tabela de destino deve ser igual à chave de distribuição.
A chave única da tabela de destino, incluindo a coluna da chave primária, deve conter todas as colunas da chave de distribuição.
Antes de iniciar a migração de dados, avalie o desempenho dos bancos de dados de origem e de destino. Execute a migração em horários de baixa demanda. A inicialização completa de dados consome recursos de leitura e gravação nos bancos de dados de origem e destino, o que pode aumentar a carga do banco de dados.
A inicialização completa de dados executa operações INSERT simultâneas, o que pode fragmentar tabelas no banco de dados de destino. Consequentemente, após a conclusão da inicialização completa, os tablespaces na instância de destino ficam maiores do que na instância de origem.
Durante a migração do DTS, não grave dados no banco de dados de destino. Apenas o DTS tem permissão para gravar no destino, evitando inconsistências de dados.
Se uma tarefa falhar, a equipe de suporte do DTS tentará restaurá-la em até oito horas. Durante a restauração, eles podem reiniciar a tarefa ou ajustar seus parâmetros.
Nota
Apenas parâmetros da tarefa DTS são modificados, não parâmetros do banco de dados. Os parâmetros que podem ser ajustados incluem aqueles listados em Modificar parâmetros da instância.

Faturamento

Tipo de migração	Taxa de configuração de link	Taxa de tráfego público
Migração de esquema e migração completa de dados	Gratuito.	Nenhuma cobrança é gerada neste tutorial.
Migração incremental de dados	Pago. Para mais informações, consulte Visão geral do faturamento.	Nenhuma cobrança é gerada neste tutorial.

SQL compatível para migração incremental

Tipo de operação	Instrução SQL
DML	INSERT, UPDATE, DELETE Nota O sistema converte automaticamente uma instrução UPDATE em REPLACE INTO ao gravar na instância de destino AnalyticDB for PostgreSQL. Se uma instrução UPDATE modificar uma chave primária, o sistema a converte em instruções DELETE e INSERT.

Permissões necessárias para contas de banco de dados

Banco de dados	Migração de Esquema	Migração Completa de Dados	Migração Incremental de Dados
Instância de origem PolarDB-X 1.0	SELECT	SELECT	Permissões de leitura e gravação nos objetos de migração.
Instância de destino AnalyticDB for PostgreSQL	Permissões de leitura e gravação no banco de dados de destino. Nota Também é possível usar a conta inicial ou uma conta com a permissão RDS_SUPERUSER.

Para mais informações sobre como criar uma conta de banco de dados e conceder permissões, consulte os seguintes tópicos:

Para uma instância PolarDB-X 1.0, consulte Gerenciar contas.
Para uma instância AnalyticDB for PostgreSQL, consulte Criar e gerenciar usuários e Gerenciar permissões de usuário.

Procedimento

Acesse a página da lista de tarefas de migração da região de destino usando um dos métodos a seguir.
Pelo console do DTS
1. Faça login no console do Data Transmission Service (DTS).
2. No painel de navegação à esquerda, clique em Data Migration.
3. No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS

Nota
As operações reais podem variar conforme o modo e o layout do console do DMS. Para mais informações, consulte Console no modo simples e Personalizar o layout e o estilo do console do DMS.
1. Faça login no console do Data Management (DMS).
2. Na barra de menu superior, escolha Data + AI > Data Transmission (DTS) > Data Migration.
3. À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.

Configure os bancos de dados de origem e de destino.

Categoria	Parâmetro	Descrição
N/A	Task Name	O DTS gera automaticamente um nome para a tarefa. Recomendamos especificar um nome descritivo para facilitar a identificação. O nome não precisa ser único.
Source Database	Select Existing Connection	Para usar uma instância de banco de dados que foi adicionada ao sistema (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro chama-se Select a DMS database instance.. Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
	Database Type	Selecione PolarDB-X 1.0.
	Access Method	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde a instância de origem PolarDB-X 1.0 reside.
	Replicate Data Across Alibaba Cloud Accounts	Este exemplo migra dados dentro da mesma conta Alibaba Cloud. Selecione No.
	Instance ID	Selecione o ID da instância de origem PolarDB-X 1.0.
	Database Account	Insira a conta do banco de dados da instância de origem PolarDB-X 1.0. Para informações sobre as permissões necessárias, consulte Permissões necessárias para contas de banco de dados.
	Database Password	Insira a senha correspondente à conta do banco de dados.
Destination Database	Select Existing Connection	Para usar uma instância de banco de dados que foi adicionada ao sistema (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro chama-se Select a DMS database instance.. Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
	Database Type	Selecione AnalyticDB for PostgreSQL.
	Access Method	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde a instância de destino AnalyticDB for PostgreSQL reside.
	Instance ID	Selecione o ID da instância de destino AnalyticDB for PostgreSQL.
	Database Name	Insira o nome do banco de dados na instância de destino AnalyticDB for PostgreSQL que receberá os objetos migrados.
	Database Account	Insira a conta do banco de dados da instância de destino AnalyticDB for PostgreSQL. Para informações sobre as permissões necessárias, consulte Permissões necessárias para contas de banco de dados.
	Database Password	Insira a senha correspondente à conta do banco de dados.

Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.

Nota
Garanta que os segmentos de endereço IP do serviço DTS sejam adicionados automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso dos servidores DTS. Para mais informações, consulte Adicionar endereços IP do servidor DTS a uma lista de permissões.

Configure os objetos da tarefa.

Na página Configure Objects, configure os objetos que deseja migrar.

Parâmetro	Descrição
Migration Types	Para executar apenas uma migração completa, selecione tanto Schema Migration quanto Full Data Migration. Para executar uma migração sem tempo de inatividade, selecione Schema Migration, Full Data Migration e Incremental Data Migration. Nota Se não selecionar Schema Migration, garanta que existam um banco de dados e tabelas para receber os dados no banco de dados de destino. Também é possível usar o recurso de mapeamento de nomes de objetos na caixa Selected Objects, conforme necessário. Se não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração para garantir a consistência dos dados.
Processing Mode of Conflicting Tables	Precheck and Report Errors: Verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não houver tabelas com nomes iguais, a pré-verificação é aprovada. Se existirem tabelas com os mesmos nomes, um erro é relatado durante a pré-verificação e a tarefa de migração de dados não inicia. Nota Se uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, altere o nome da tabela no banco de dados de destino. Para mais informações, consulte Mapeamento de nomes de objetos. Ignore Errors and Proceed: Ignora a verificação de tabelas com os mesmos nomes. Aviso Selecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos ao negócio. Por exemplo: Se os esquemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem: Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado. Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem sobrescreve o registro no banco de dados de destino. Se os esquemas das tabelas forem inconsistentes, apenas algumas colunas de dados podem ser migradas ou a migração pode falhar. Prossiga com cautela.
Storage Engine Type	Selecione um mecanismo de armazenamento para as tabelas de destino com base nos requisitos do seu negócio. O valor padrão é Beam. Nota Este parâmetro está disponível apenas se a instância de destino AnalyticDB for PostgreSQL tiver uma versão de kernel v7.0.6.6 ou posterior e você tiver selecionado Migration Types para o parâmetro Schema Migration.
Capitalization of Object Names in Destination Instance	Configure a política de diferenciação entre maiúsculas e minúsculas para os nomes dos objetos migrados, como bancos de dados, tabelas e colunas, na instância de destino. Por padrão, DTS default policy está selecionado. Também é possível manter a diferenciação consistente com a política padrão do banco de dados de origem ou de destino. Para mais informações, consulte Diferenciação entre maiúsculas e minúsculas de nomes de objetos no banco de dados de destino.
Source Objects	Na caixa Source Objects, clique nos objetos a serem migrados e, em seguida, clique em para movê-los para a caixa Selected Objects. Nota Selecione objetos para migrar no nível de tabela. Se selecionar um banco de dados inteiro, quaisquer alterações para adicionar ou excluir tabelas nesse banco de dados não serão migradas para o destino.
Selected Objects	Para alterar o nome de um único objeto de migração na instância de destino, clique com o botão direito no objeto na caixa Selected Objects. Para mais informações, consulte Mapear nomes individuais de esquema, tabela e coluna. Para alterar os nomes de vários objetos de migração na instância de destino, clique em Selected Objects no canto superior direito da caixa Batch Edit. Para mais informações, consulte Mapear múltiplos nomes de esquema, tabela e coluna. Nota Se usar o recurso de mapeamento de nomes de objetos, outros objetos que dependem do objeto renomeado podem falhar na migração. Para filtrar dados usando uma cláusula WHERE, clique com o botão direito em uma tabela no painel Selected Objects e especifique a condição de filtro na caixa de diálogo exibida. Para mais informações, consulte Definir condições de filtro.

Clique em Next: Advanced Settings para configurar parâmetros avançados.

Parâmetro	Descrição
Dedicated Cluster for Task Scheduling	Por padrão, o DTS agenda tarefas em um cluster compartilhado. Não é necessário selecionar um. Se desejar tarefas mais estáveis, adquira um cluster dedicado para executar tarefas de migração do DTS.
	Decida se deseja definir alertas e receber notificações de alerta com base nas necessidades do seu negócio. No: Não define alerta. Yes: Configure alertas definindo um limiar de alerta e um notificações de alerta. Se uma migração falhar ou a latência exceder o limiar, o sistema envia uma notificação de alerta.
Retry Time for Failed Connections	Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS relata um erro e começa imediatamente a tentar reconectar. A duração padrão de nova tentativa é de 720 minutos. Personalize o tempo de nova tentativa para um valor entre 10 e 1440 minutos. Recomendamos definir a duração para mais de 30 minutos. Se o DTS reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração retoma automaticamente. Caso contrário, a tarefa falha. Nota Para várias instâncias DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada. Como há cobrança pela tarefa durante o período de nova tentativa de conexão, recomendamos personalizar o tempo de nova tentativa com base nas necessidades do seu negócio ou liberar a instância DTS assim que possível após a liberação das instâncias de banco de dados de origem e de destino.
Retry Time for Other Issues	Após o início da tarefa de migração, se ocorrer um problema não relacionado à conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS relata um erro e começa imediatamente a tentar novamente a operação. A duração padrão de nova tentativa é de 10 minutos. Personalize o tempo de nova tentativa para um valor entre 1 e 1440 minutos. Recomendamos definir a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração retoma automaticamente. Caso contrário, a tarefa falha. Importante O valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration	Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, ative o limitador de velocidade para a tarefa de migração completa. Defina Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s) para reduzir a carga no banco de dados de destino. Nota Este item de configuração está disponível apenas se você selecionar Full Data Migration para Migration Types. Também é possível ajustar a velocidade da migração completa após a instância de migração estar em execução.
Enable Throttling for Incremental Data Migration	Se necessário, também é possível definir limites de velocidade para a tarefa de migração incremental. Defina RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino. Nota Este item de configuração está disponível apenas se você selecionar Incremental Data Migration para Migration Types. Também é possível ajustar a velocidade da migração incremental após a instância de migração estar em execução.
Environment Tag	Selecione uma tag de ambiente para identificar a instância com base nos requisitos do seu negócio. Nenhuma tag é selecionada neste tutorial.
Configure ETL	Com base nas necessidades do seu negócio, decida se deseja configurar o recurso ETL para processar dados. Yes: Configura o recurso ETL. Também é necessário inserir instruções de processamento de dados na caixa de texto. No: Não configura o recurso ETL.
Monitoring and Alerting	Decida se deseja definir alertas e receber notificações de alerta com base nas necessidades do seu negócio. No: Não define alerta. Yes: Configure alertas definindo um limiar de alerta e um notificações de alerta. Se uma migração falhar ou a latência exceder o limiar, o sistema envia uma notificação de alerta.

Opcional: Clique em Next: Configure Database and Table Fields para definir o Type, a Primary Key Column e a Distribution Key das tabelas a serem migradas para a instância de destino AnalyticDB for PostgreSQL.
Nota
- Esta etapa está disponível apenas se você selecionar Schema Migration para Migration Types ao configurar objetos de migração. Selecione All para Definition Status e faça as modificações.
- Selecione várias colunas para Primary Key Column para formar uma chave primária composta. Também é necessário selecionar uma ou mais colunas da Primary Key Column como Distribution Key. Para mais informações, consulte Gerenciar tabelas de dados e Definir distribuição de tabela.

Salve a tarefa e execute uma pré-verificação.
- Para visualizar os parâmetros de configuração desta instância ao chamar a operação da API, passe o ponteiro sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters no balão exibido.
- Se não precisar visualizar os parâmetros da API ou já tiver terminado de visualizá-los, clique em Next: Save Task Settings and Precheck na parte inferior da página.
Nota
- Antes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa inicia apenas após ser aprovada na pré-verificação.
- Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema conforme a orientação e execute a pré-verificação novamente.
- Se um aviso for relatado durante a pré-verificação:
  
  Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema conforme a orientação e execute a pré-verificação novamente.
  
  Para itens de verificação que podem ser ignorados, clique em Confirm Alert Details, Ignore, OK e Precheck Again para pular o item de alerta e executar a pré-verificação novamente. Se optar por ignorar um aviso, podem ocorrer problemas como inconsistência de dados e riscos ao seu negócio.

Adquira a instância.

Quando a Success Rate for 100%, clique em Next: Purchase Instance.

Na página Purchase, selecione a especificação do link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.

Categoria	Parâmetro	Descrição
New Instance Class	Resource Group Settings	Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é default resource group. Para mais informações, consulte O que é Resource Management?
New Instance Class	Instance Class	O DTS oferece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Selecione uma especificação com base no seu cenário de negócio. Para mais informações, consulte Especificações de link de migração de dados.

Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
Clique em Buy and Start. Na caixa de diálogo OK exibida, clique em OK.

Visualize o progresso da tarefa de migração na página de lista Data Migration Tasks.
Nota
- Se a tarefa de migração não incluir migração incremental, ela para automaticamente após a conclusão da migração completa. Após a parada da tarefa, seu Status muda para Completed.
- Se a tarefa de migração incluir migração incremental, ela não para automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.