Migrate PolarDB-X 2.0 to DataHub with DTS - Data Transmission Service: Central de Documentação do Alibaba Cloud

Pré-requisitos

Primeiro, crie uma instância de origem do PolarDB-X 2.0. Para mais informações, consulte Create an instance.
Você deve ter ativado o DataHub e criado um projeto para armazenar os dados migrados. Para mais informações, consulte Quick start (synchronization example) e Manage projects.

Limitações

Tipo	Descrição
Limitações do banco de dados de origem	O servidor que hospeda o banco de dados de origem deve ter largura de banda de saída suficiente. A largura de banda insuficiente retarda a migração de dados. Instâncias somente leitura do PolarDB-X 2.0 Enterprise Edition não são suportadas como banco de dados de origem. As tabelas a serem migradas devem ter uma PRIMARY KEY ou uma restrição UNIQUE, e os campos na chave ou restrição devem ser únicos. Caso contrário, podem ocorrer dados duplicados no banco de dados de destino. Se você migrar objetos no nível de tabela e precisar editá-los, por exemplo, mapeando nomes de colunas, uma única tarefa de migração de dados suporta no máximo 1.000 tabelas. Se você exceder esse limite, o envio da tarefa falhará. Nesse caso, divida as tabelas em várias tarefas de migração de dados ou configure uma tarefa para migrar o banco de dados inteiro. Para a migração de dados incrementais, o banco de dados de origem deve atender aos seguintes requisitos de log binário: Ative o recurso de log binário e defina o parâmetro `binlog_row_image` como `full`. Caso contrário, a pré-verificação falha e a tarefa de migração de dados não pode ser iniciada. Para tarefas de migração de dados incrementais, o DTS exige que os logs binários do banco de dados de origem sejam retidos por pelo menos 24 horas. Para tarefas que incluem migração de dados completa e incremental, os logs binários devem ser retidos por pelo menos 7 dias. Você pode alterar o período de retenção para 24 horas após a conclusão da migração completa. Se os logs binários não forem retidos pelo período necessário, o DTS poderá não conseguir obtê-los, o que pode causar falhas na tarefa ou até mesmo inconsistência e perda de dados. O SLA do DTS não cobre problemas causados por um período de retenção de log binário insuficiente. Limitações operacionais no banco de dados de origem: Durante a migração de esquema e a migração completa de dados, não execute operações DDL que alterem o esquema do banco de dados ou da tabela. Caso contrário, a tarefa de migração de dados falhará. Nota Durante a migração completa de dados, o DTS consulta o banco de dados de origem. Essa ação aplica um bloqueio de metadados, o que pode bloquear operações DDL no banco de dados de origem. Durante a migração completa e incremental, o DTS desativa temporariamente as verificações de restrição e as operações de cascata de chave estrangeira no nível da sessão. Se ocorrerem operações de atualização ou exclusão em cascata no banco de dados de origem enquanto a tarefa estiver em execução, poderão ocorrer inconsistências de dados. Se você precisar alterar o tipo de rede da instância PolarDB-X 2.0 durante a migração, atualize as informações de conexão de rede da tarefa de migração após a conclusão da alteração. Se você executar apenas a migração completa de dados, não grave novos dados no banco de dados de origem durante a migração. Caso contrário, os dados ficarão inconsistentes entre os bancos de dados de origem e de destino. Para manter a consistência dos dados em tempo real, selecione a migração de esquema, a migração completa de dados e a migração incremental de dados. A migração de grupos de tabelas (TABLEGROUP) e bancos de dados ou tabelas com o atributo Locality não é suportada. A migração de tabelas cujos nomes são palavras reservadas, como `select`, não é suportada. Em uma instância PolarDB-X 2.0, as partições de banco de dados no modo DRDS não são suportadas para sincronização. Durante a operação de uma tarefa de migração do DTS, não há suporte para alterar o tipo de uma tabela de broadcast na instância PolarDB-X 2.0 de origem (por exemplo, alterar uma tabela de broadcast para uma tabela regular ou uma tabela fragmentada). Para alterar o tipo de tabela, primeiro pare a tarefa de migração e, em seguida, reconfigure a tarefa após a conclusão da alteração.
Outras limitações	Apenas a migração no nível de tabela é suportada. O comprimento máximo de um campo de string em um tópico do DataHub de destino é de 2 MB. Antes de migrar os dados, avalie o desempenho dos seus bancos de dados de origem e de destino. Execute a migração durante horários de menor movimento. Uma migração completa consome recursos de leitura e gravação em ambos os bancos de dados, o que pode aumentar a carga deles. O DTS tenta restaurar tarefas de migração que falharam em até sete dias. Portanto, antes de alternar seus serviços para a instância de destino, você deve encerrar ou liberar a tarefa, ou usar o comando `revoke` para revogar as permissões de gravação da conta do DTS usada para acessar a instância de destino. Isso evita que os dados de origem substituam os dados na instância de destino após a restauração automática da tarefa. Se uma tarefa falhar, a equipe de suporte do DTS tentará restaurá-la em até oito horas. Durante a restauração, eles podem reiniciar a tarefa ou ajustar seus parâmetros. Nota Apenas os parâmetros da tarefa do DTS são modificados, não os parâmetros do banco de dados. Os parâmetros que podem ser ajustados incluem aqueles listados em Modify instance parameters.
Outras precauções	O DTS atualiza periodicamente a tabela `dts_health_check`.`ha_health_check` no banco de dados de origem para avançar a posição do binlog.

Faturamento

Tipo de migração	Taxa de configuração de link	Taxa de tráfego de internet
Migração de esquema	Gratuito.	Este exemplo é gratuito.
Migração incremental de dados	Este é um recurso pago. Para mais informações, consulte Billing overview.	Este exemplo é gratuito.

Tipos de migração

Migração de esquema

O DTS migra as definições de esquema dos objetos de migração do banco de dados de origem para o banco de dados de destino.
Migração incremental

Após a conclusão de uma migração completa, o DTS migra atualizações incrementais de dados do banco de dados de origem para o banco de dados de destino. A migração incremental permite migrar dados de forma tranquila, sem interromper suas aplicações autogerenciadas.

Operações SQL suportadas para migração incremental

Tipo de operação	Instrução SQL
DML	INSERT, UPDATE, DELETE
DDL	ADD COLUMN Importante Caso modifique manualmente a estrutura da tabela no banco de dados de destino, reinicie a tarefa: pause e, em seguida, start a tarefa.

Permissões da conta do banco de dados

Banco de dados	Migração de esquema	Migração incremental
Instância PolarDB-X 2.0	Permissão SELECT	As permissões REPLICATION SLAVE e REPLICATION CLIENT, e a permissão SELECT nos objetos a serem migrados. Nota Para obter informações sobre como conceder permissões, consulte Account permissions for data synchronization.

Mapeamento de tipos de dados

Para mais informações, consulte Data type mappings for schema migration.

Procedimento

Para começar, acesse a página da lista de tarefas de migração para a região de destino usando um dos seguintes métodos.
Pelo console do DTS
1. Faça login no Data Transmission Service (DTS) console.
2. No painel de navegação à esquerda, clique em Data Migration.
3. No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS

Nota
As operações reais podem variar com base no modo e no layout do console do DMS. Para mais informações, consulte Simple mode console e Customize the layout and style of the DMS console.
1. Faça login no Data Management (DMS) console.
2. Na barra de menu superior, escolha Data + AI > Data Transmission (DTS) > Data Migration.
3. À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.

Configure os bancos de dados de origem e de destino.

Aviso

Após selecionar as instâncias de origem e de destino, leia a seção Limits exibida na parte superior da página para garantir que você possa criar e executar a tarefa de migração com sucesso.

Categoria	Parâmetro	Descrição
N/D	Task Name	O DTS gera automaticamente um nome de tarefa. Recomendamos que você especifique um nome descritivo para facilitar a identificação. O nome não precisa ser único.
Source Database	Select Existing Connection	Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro é nomeado como Select a DMS database instance.. Se você não registrou a instância do banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
	Database Type	Selecione PolarDB-X 2.0.
	Access Method	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde a instância PolarDB-X 2.0 de origem está localizada.
	Replicate Data Across Alibaba Cloud Accounts	Neste exemplo, os dados são migrados dentro da mesma conta Alibaba Cloud. Selecione No.
	Instance ID	Selecione o ID da instância PolarDB-X 2.0 de origem.
	Database Account	Por favor, insira a conta do banco de dados para a instância PolarDB-X 2.0 de origem. Para requisitos de permissão, consulte Database account permissions.
	Database Password	Insira a senha da conta do banco de dados.
Destination Database	Select Existing Connection	Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro é nomeado como Select a DMS database instance.. Se você não registrou a instância do banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
	Database Type	Selecione DataHub.
	Access Method	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde o projeto do DataHub de destino está localizado.
	Project	Selecione o ID do projeto do DataHub de destino.

Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.

Nota
Certifique-se de que os segmentos de endereço IP do service DTS sejam adicionados automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso a partir do IP dos servidores do DTS. Para mais informações, consulte Add DTS server IP addresses to a whitelist.

Configure os objetos da tarefa.

Na página Configure Objects, configure os objetos que você deseja migrar.

Parâmetro	Descrição
Migration Types	Para migrar dados do PolarDB-X 2.0 para o DataHub, apenas Schema Migration e Incremental Data Migration são suportados. Selecione os tipos de migração com base nas suas necessidades de negócios. Nota Se você selecionar Schema Migration, as chaves estrangeiras no banco de dados de origem também serão migradas para o banco de dados de destino. Se você não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração de dados para garantir a consistência dos dados.
Naming Rules of Additional Columns	Quando o DTS migra dados para o DataHub, ele adiciona colunas adicionais à tabela de destino. Se esses novos nomes de coluna entrarem em conflito com os existentes, a migração de dados falhará. Você deve selecionar New Rule ou Previous Rule com base nas suas necessidades de negócios. Aviso Antes de selecionar uma regra para colunas adicionais, você deve verificar se os nomes das colunas adicionais entrarão em conflito com quaisquer colunas existentes na tabela de destino. Para mais informações sobre as regras e definições de colunas adicionais, consulte Names and definitions of additional columns.
Processing Mode of Conflicting Tables	Precheck and Report Errors: Verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não existirem tabelas com os mesmos nomes, a pré-verificação é aprovada. Se existirem, um erro é relatado durante a pré-verificação e a tarefa de migração de dados não é iniciada. Nota Se uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, você poderá alterar o nome da tabela no banco de dados de destino. Para mais informações, consulte Object name mapping. Ignore Errors and Proceed: Ignora a verificação de tabelas com os mesmos nomes. Aviso Selecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos aos negócios. Por exemplo: Se os esquemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem: Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado. Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem substitui o registro no banco de dados de destino. Se os esquemas das tabelas forem inconsistentes, apenas algumas colunas de dados poderão ser migradas, ou a migração poderá falhar. Prossiga com cautela.
Capitalization of Object Names in Destination Instance	Você pode configurar a política de diferenciação de maiúsculas e minúsculas para os nomes dos objetos migrados, como bancos de dados, tabelas e colunas, na instância de destino. Por padrão, DTS default policy está selecionado. Você também pode optar por manter a diferenciação de maiúsculas e minúsculas consistente com a política padrão do banco de dados de origem ou de destino. Para mais informações, consulte Case sensitivity of object names in the destination database.
Source Objects	Selecione um ou mais objetos na seção Source Objects. Clique no ícone e adicione os objetos à seção Selected Objects. Nota Os objetos de migração podem ser selecionados no nível do banco de dados, tabela ou coluna. Se você selecionar apenas tabelas como objetos de migração, outros tipos de objetos, como visualizações, gatilhos e procedimentos armazenados, não serão migrados para o banco de dados de destino.
Selected Objects	Para alterar o nome de um único objeto de migração na instância de destino, clique com o botão direito do mouse no objeto na caixa Selected Objects. Para mais informações, consulte Map individual schema, table, and column names. Para alterar os nomes de vários objetos de migração na instância de destino, clique em Selected Objects no canto superior direito da caixa Batch Edit. Para mais informações, consulte Map multiple schema, table, and column names. Nota Se você usar o recurso de mapeamento de nomes de objetos, a migração de outros objetos que dependem do objeto renomeado poderá falhar. Para filtrar dados usando cláusulas WHERE, clique com o botão direito do mouse em uma tabela a ser migrada na caixa Selected Objects e defina as condições de filtro na caixa de diálogo exibida. Para obter instruções, consulte Set filter conditions. Para selecionar operações SQL a serem migradas no nível do banco de dados ou da tabela, clique com o botão direito do mouse no objeto de migração na caixa Selected Objects e selecione as operações SQL desejadas na caixa de diálogo exibida.

Clique em Next: Advanced Settings para configurar parâmetros avançados.

Parâmetro	Descrição
Dedicated Cluster for Task Scheduling	Por padrão, o DTS agenda tarefas em um cluster compartilhado. Você não precisa selecionar um. Se desejar tarefas mais estáveis, você pode adquirir um dedicated cluster para executar tarefas de migração do DTS.
Retry Time for Failed Connections	Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS relatará um erro e começará imediatamente a tentar reconectar. A duração padrão de nova tentativa é de 720 minutos. Você pode personalizar o tempo de nova tentativa para um valor de 10 a 1440 minutos. Recomendamos que você defina a duração para mais de 30 minutos. Se o DTS reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará. Nota Para várias instâncias do DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada. Como você é cobrado pela tarefa durante o período de nova tentativa de conexão, recomendamos que você personalize o tempo de nova tentativa com base nas suas necessidades de negócios, ou libere a instância do DTS o mais rápido possível após a liberação das instâncias de banco de dados de origem e de destino.
Retry Time for Other Issues	Após o início da tarefa de migração, se ocorrer um problema que não seja de conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS relatará um erro e começará imediatamente a tentar repetir a operação. A duração padrão de nova tentativa é de 10 minutos. Você pode personalizar o tempo de nova tentativa para um valor de 1 a 1440 minutos. Recomendamos que você defina a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará. Importante O valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Incremental Data Migration	Se necessário, você também pode optar por definir limites de velocidade para a tarefa de migração incremental. Você pode definir RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino. Nota Este item de configuração está disponível apenas se você selecionar Incremental Data Migration para Migration Types. Você também pode adjust the incremental migration speed após a instância de migração estar em execução.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Primeiro, escolha se deseja gravar informações SQL de heartbeat no banco de dados de origem quando a instância do DTS estiver em execução. Yes: As informações SQL de heartbeat não são gravadas no banco de dados de origem. Isso pode fazer com que a instância do DTS relate um atraso. No: Grava informações SQL de heartbeat no banco de dados de origem. Isso pode interferir em recursos como backup físico e clonagem do banco de dados de origem.
Environment Tag	Você pode selecionar uma tag de ambiente para identificar a instância. Nenhuma seleção é necessária para este exemplo.
Configure ETL	Com base nas suas necessidades de negócios, selecione se deseja configurar o ETL feature para processar dados. Yes: Configura o recurso ETL. Você também deve inserir data processing statements na caixa de texto. No: Não configura o recurso ETL.
Monitoring and Alerting	Selecione se deseja definir alertas e receber notificações de alerta com base nas suas necessidades de negócios. No: Não define um alerta. Yes: Configure alertas definindo um alert threshold e um notificações de alerta. Se uma migração falhar ou a latência exceder o limiar, o sistema enviará uma notificação de alerta.

Agora, salve a tarefa e execute uma pré-verificação.
- Antes de prosseguir, visualize os parâmetros de configuração desta instância ao chamar a operação da api, mova o ponteiro sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters na dica que aparecer.
- Se você não precisar visualizar ou já terminou de visualizar os parâmetros da api, clique em Next: Save Task Settings and Precheck na parte inferior da página.
Nota
- Antes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa só é iniciada após ser aprovada na pré-verificação.
- Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema com base no aviso e, em seguida, execute a pré-verificação novamente.
- Se um aviso for relatado durante a pré-verificação:
  
  Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema com base no aviso e, em seguida, execute a pré-verificação novamente.
  
  Para itens de verificação que podem ser ignorados, você pode clicar em Confirm Alert Details, Ignore, OK e Precheck Again para pular o item de alerta e executar a pré-verificação novamente. Se você optar por ignorar um aviso, isso poderá causar problemas como inconsistência de dados e representar riscos aos seus negócios.

Adquira a instância.

Quando a Success Rate for de 100%, clique em Next: Purchase Instance.

Na página Purchase, selecione a especificação do link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.

Categoria	Parâmetro	Descrição
New Instance Class	Resource Group Settings	Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é o grupo de recursos padrão. Para mais informações, consulte What is resource management?
New Instance Class	Instance Class	O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Você pode selecionar uma especificação com base no seu cenário de negócios. Para mais informações, consulte Data migration link specifications.

Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
Clique em Buy and Start. Na caixa de diálogo OK exibida, confirme a ação e clique em OK.

Você pode visualizar o progresso da tarefa de migração na página de lista Data Migration Tasks.
Nota
- Se a tarefa de migração não incluir migração incremental, ela será interrompida automaticamente após a conclusão da migração completa. Após a interrupção da tarefa, seu Status muda para Completed.
- Se a tarefa de migração incluir migração incremental, ela não será interrompida automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.