Migrate data from PolarDB-X 1.0 to ApsaraDB RDS for MySQL - Data Transmission Service: Central de Documentação do Alibaba Cloud

Este tópico descreve como usar o Data Transmission Service (DTS) para migrar dados de uma instância do PolarDB-X 1.0 para uma instância do ApsaraDB RDS for MySQL.

Pré-requisitos

Crie uma instância do PolarDB-X 1.0 de origem. Para mais informações, consulte Crie uma instância do PolarDB-X 1.0.

Nota
A instância PolarDB-X 1.0 deve usar o ApsaraDB RDS for MySQL como tipo de armazenamento. Isso inclui instâncias RDS personalizadas de forma privada e adquiridas separadamente. O PolarDB for MySQL não é suportado.
Para realizar uma migração de dados incrementais, certifique-se de que o conjunto de caracteres dos dados a serem migrados não seja utf8mb3. Caso contrário, a tarefa de migração de dados incrementais falhará.
Crie uma instância do ApsaraDB RDS for MySQL de destino com espaço de armazenamento disponível maior que o espaço de armazenamento utilizado da instância PolarDB-X 1.0 de origem. Para mais informações, consulte Crie uma instância do ApsaraDB RDS for MySQL.

Observações de uso

Nota

Durante a migração de esquema, o DTS migra chaves estrangeiras do banco de dados de origem para o banco de dados de destino.

Tipo	Descrição
Limitações do banco de dados de origem	O servidor que hospeda o banco de dados de origem deve ter largura de banda de saída suficiente. A largura de banda insuficiente retarda a migração de dados. As tabelas a serem migradas devem ter uma PRIMARY KEY ou uma restrição UNIQUE, e os campos na chave ou restrição devem ser exclusivos. Caso contrário, isso pode causar dados duplicados no banco de dados de destino. Se você migrar objetos no nível de tabela e precisar editá-los, por exemplo, mapeando nomes de colunas, uma única tarefa de migração de dados suporta no máximo 1.000 tabelas. Se você exceder esse limite, o envio da tarefa falhará. Nesse caso, divida as tabelas em várias tarefas de migração de dados ou configure uma tarefa para migrar o banco de dados inteiro. Para a migração de dados incrementais, o banco de dados de origem deve atender aos seguintes requisitos de log binário: Ative o recurso de log binário e defina o parâmetro `binlog_row_image` como `full`. Caso contrário, a pré-verificação falha e a tarefa de migração de dados não pode ser iniciada. Para tarefas de migração de dados incrementais, o DTS exige que os logs binários do banco de dados de origem sejam retidos por pelo menos 24 horas. Para tarefas que incluem migração de dados completa e migração de dados incrementais, os logs binários devem ser retidos por pelo menos 7 dias. Você pode alterar o período de retenção para 24 horas após a conclusão da migração completa de dados. Se os logs binários não forem retidos pelo período necessário, o DTS poderá falhar ao obtê-los, o que pode causar falhas na tarefa ou até mesmo inconsistência e perda de dados. O SLA do DTS não cobre problemas causados por um período de retenção de log binário insuficiente. Restrições operacionais no banco de dados de origem: Durante a migração de dados, não execute operações como scale-out, scale-in, migração de tabelas de hot-spot, alteração da chave de sharding ou execução de instruções DDL. Caso contrário, a tarefa de migração de dados falhará. Nota Durante a fase de migração completa, o DTS consulta o banco de dados de origem. Isso cria um bloqueio de metadados, que pode bloquear operações DDL no banco de dados de origem. Se a chave de partição for alterada no banco de dados de origem e a chave primária na tabela de destino não incluir a chave de partição de origem, poderá ocorrer perda de dados no banco de dados de destino. Motivo: Uma instância PolarDB-X 1.0 possui várias instâncias RDS for MySQL anexadas a ela. O DTS cria um link de migração separado para cada instância RDS for MySQL. Uma alteração em uma chave de partição faz com que os dados sejam excluídos de uma instância RDS for MySQL e inseridos em outra. Como os links são executados de forma independente, a ordem de execução das operações DELETE e INSERT não é garantida. Se a chave primária do banco de dados de destino não incluir a chave de partição, uma operação DELETE executada posteriormente poderá fazer com que o sistema exclua acidentalmente os dados recém-inseridos. Recomendação: Para evitar a perda de dados causada por operações fora de ordem, certifique-se de que a chave primária da tabela de destino inclua a coluna da chave de partição do banco de dados de origem. Durante a migração completa e incremental, o DTS desativa temporariamente as verificações de restrição e as operações em cascata de chave estrangeira no nível da sessão. Se ocorrerem operações de atualização ou exclusão em cascata no banco de dados de origem enquanto a tarefa estiver em execução, poderá ocorrer inconsistência de dados. Se você alterar o tipo de rede da instância PolarDB-X 1.0 durante a migração, atualize as informações de conexão de rede do link de migração após a conclusão da alteração. Se você executar apenas a migração completa de dados, não grave novos dados no banco de dados de origem durante a migração. Caso contrário, os dados ficarão inconsistentes entre os bancos de dados de origem e de destino. Para manter a consistência dos dados em tempo real, selecione a migração de esquema, a migração completa de dados e a migração incremental de dados. A instância PolarDB-X 1.0 de origem deve ser da versão 5.2 ou posterior. Não altere o tipo de uma tabela de broadcast na instância PolarDB-X 1.0 de origem enquanto uma tarefa de migração do DTS estiver em execução (por exemplo, de uma tabela de broadcast para uma tabela única ou uma tabela com sharding). Se você precisar alterar o tipo de tabela, pare a tarefa de migração. Após a conclusão da alteração, reconfigure a tarefa de migração.
Outras limitações	O DTS depende da continuidade das transações XA na instância PolarDB-X 1.0 de origem para garantir a consistência dos dados nas tarefas de migração incremental. Se a continuidade das transações XA for interrompida, por exemplo, durante um cenário de recuperação de desastres para o módulo de captura de dados incrementais, as transações XA não confirmadas poderão ser perdidas. A migração de INDEX e PARTITION não é suportada. A migração de operações DDL online não é suportada. Se seus dados incluírem caracteres de quatro bytes — como caracteres chineses raros ou emojis — o banco de dados e a tabela de destino deverão usar o conjunto de caracteres utf8mb4. Nota Se você usar o DTS para migrar esquemas, defina o parâmetro de nível de instância `character_set_server` como utf8mb4 no banco de dados de destino. Antes de executar a migração de dados, avalie o desempenho dos bancos de dados de origem e de destino. Também recomendamos realizar a migração de dados durante horários de menor pico. Caso contrário, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino durante a migração completa, o que pode aumentar a carga do banco de dados. A migração completa executa operações INSERT simultâneas, o que pode causar fragmentação de tabela no banco de dados de destino. Como resultado, as tabelas no banco de dados de destino ocuparão mais espaço de armazenamento do que aquelas na instância de origem. O DTS tenta recuperar tarefas de migração com falha em até sete dias. Portanto, antes do cutover para a instância de destino, você deve encerrar ou liberar a tarefa, ou usar o comando `revoke` para revogar as permissões de gravação da conta do DTS na instância de destino. Isso evita que os dados de origem substituam os dados na instância de destino caso a tarefa seja recuperada automaticamente. Se você gravar colunas com nomes idênticos, mas com maiúsculas e minúsculas diferentes, na mesma tabela no banco de dados MySQL de destino, poderão ocorrer resultados inesperados. Os nomes das colunas do MySQL não diferenciam maiúsculas de minúsculas. Após a conclusão da migração — o status da tarefa é Status e o status muda para Completed — execute `analyze table <table_name>` e confirme se todos os dados foram gravados na tabela de destino. Por exemplo, após um failover de alta disponibilidade (HA) no banco de dados MySQL de destino, os dados podem permanecer na memória e nunca chegar ao disco, causando perda de dados. Se uma tarefa falhar, a equipe de suporte do DTS tentará restaurá-la em até oito horas. Durante a restauração, eles podem reiniciar a tarefa ou ajustar seus parâmetros. Nota Apenas os parâmetros da tarefa do DTS são modificados, não os parâmetros do banco de dados. Os parâmetros que podem ser ajustados incluem aqueles listados em Modifique parâmetros da instância.
Considerações adicionais	O DTS atualiza periodicamente a tabela dts_health_check.ha_health_check no banco de dados de origem para avançar a posição do binlog.

Faturamento

Tipo de migração	Taxa de configuração da instância	Taxa de tráfego de internet
Migração de esquema e migração completa de dados	Gratuito.	Quando o parâmetro Access Method do banco de dados de destino é definido como Public IP Address, você é cobrado pelo tráfego de internet. Para mais informações, consulte Billing overview.
Migração incremental de dados	Cobrado. Para mais informações, consulte Billing overview.

Tipos de migração

Migração de esquema

O DTS migra as definições de esquema dos objetos de migração do banco de dados de origem para o banco de dados de destino.
Migração completa

O DTS migra todos os dados históricos dos objetos de migração especificados do banco de dados de origem para o banco de dados de destino.
Migração incremental

Após a conclusão de uma migração completa, o DTS migra as atualizações incrementais de dados do banco de dados de origem para o banco de dados de destino. A migração incremental permite migrar dados de forma tranquila, sem interromper suas aplicações autogerenciadas.

Operações SQL para migração incremental

Tipo de operação	Instrução SQL
DML	INSERT, UPDATE, DELETE

Permissões de conta do banco de dados

Banco de dados	Migração de esquema	Migração completa de dados	Migração incremental de dados
Instância PolarDB-X 1.0	Permissão SELECT	Permissão SELECT	Permissões REPLICATION SLAVE, REPLICATION CLIENT e SELECT nos objetos a serem migrados. Nota Para obter informações sobre como conceder permissões, consulte Account permission issues during data synchronization.
Instância ApsaraDB RDS for MySQL	Permissões de leitura e gravação

Crie contas e conceda permissões:

Para uma instância PolarDB-X 1.0, consulte Gerencie contas de banco de dados.
Para uma instância ApsaraDB RDS for MySQL, consulte Crie uma conta e Modifique permissões da conta.

Procedimento

Acesse a página da lista de tarefas de migração para a região de destino usando um dos seguintes métodos.
Pelo console do DTS
1. Faça login no console do Data Transmission Service (DTS).
2. No painel de navegação à esquerda, clique em Data Migration.
3. No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS

Nota
As operações reais podem variar com base no modo e no layout do console do DMS. Para mais informações, consulte Simple mode console e Customize the layout and style of the DMS console.
1. Faça login no console do Data Management (DMS).
2. Na barra de menu superior, escolha Data + AI > Data Transmission (DTS) > Data Migration.
3. À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task e acesse a página de configuração da tarefa.

Configure os bancos de dados de origem e de destino.

Categoria	Parâmetro	Descrição
N/D	Task Name	O DTS gera automaticamente um nome de tarefa. Recomendamos que você especifique um nome descritivo para facilitar a identificação. O nome não precisa ser exclusivo.
Source Database	Select Existing Connection	Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro é nomeado Select a DMS database instance.. Se você não registrou a instância do banco de dados no sistema, ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
	Database Type	Selecione PolarDB-X 1.0.
	Access Method	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde a instância PolarDB-X 1.0 de origem reside.
	Replicate Data Across Alibaba Cloud Accounts	Neste exemplo, é usada uma instância de banco de dados sob a conta atual da Alibaba Cloud. Selecione No.
	Instance ID	Selecione o ID da instância PolarDB-X 1.0 de origem.
	Database Account	Insira a conta do banco de dados para a instância PolarDB-X 1.0 de origem. Para requisitos de permissão, consulte Permissions required for database accounts.
	Database Password	Insira a senha da conta do banco de dados.
Destination Database	Select Existing Connection	Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro é nomeado Select a DMS database instance.. Se você não registrou a instância do banco de dados no sistema, ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
	Database Type	Selecione MySQL.
	Access Method	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde a instância ApsaraDB RDS for MySQL de destino reside.
	Replicate Data Across Alibaba Cloud Accounts	Neste exemplo, é usada uma instância de banco de dados sob a conta atual da Alibaba Cloud. Selecione No.
	RDS Instance ID	Selecione o ID da instância ApsaraDB RDS for MySQL de destino.
	Database Account	Insira a conta do banco de dados para a instância ApsaraDB RDS for MySQL de destino. Para requisitos de permissão, consulte Permissions required for database accounts.
	Database Password	Insira a senha da conta do banco de dados.
	Encryption	Escolha a conexão Non-encrypted ou SSL-encrypted com base em seus requisitos. Se você escolher SSL-encrypted, deverá ativar a criptografia SSL na instância ApsaraDB RDS for MySQL antecipadamente. Para mais informações, consulte Enable SSL encryption with a cloud certificate.

Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
Nota
- Certifique-se de que o segmento de endereço IP do service DTS seja adicionado automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso dos servidores DTS. Para mais informações, consulte Add DTS server IP addresses to a whitelist.
- Se o banco de dados de origem ou de destino for um banco de dados autogerenciado (o Access Method não é Alibaba Cloud Instance), você também deve clicar em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers que aparece.

Configure os objetos da tarefa.

Na página Configure Objects, configure os objetos que você deseja migrar.

Parâmetro	Descrição
Migration Types	Se você precisar realizar apenas uma migração completa, selecione Schema Migration e Full Data Migration. Para realizar uma migração sem tempo de inatividade, selecione Schema Migration, Full Data Migration e Incremental Data Migration. Nota Se você não selecionar Schema Migration, deverá garantir que exista um banco de dados e tabelas para receber os dados no banco de dados de destino. Você também pode usar o recurso de mapeamento de nome de objeto na caixa Selected Objects conforme necessário. Se você não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração de dados para garantir a consistência dos dados.
Processing Mode of Conflicting Tables	Precheck and Report Errors: Verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não existirem tabelas com os mesmos nomes, a pré-verificação é aprovada. Se existirem tabelas com os mesmos nomes, um erro é relatado durante a pré-verificação e a tarefa de migração de dados não é iniciada. Nota Se uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, você poderá alterar o nome da tabela no banco de dados de destino. Para mais informações, consulte Object name mapping. Ignore Errors and Proceed: Ignora a verificação de tabelas com os mesmos nomes. Aviso Selecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos aos negócios. Por exemplo: Se os esquemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem: Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado. Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem substitui o registro no banco de dados de destino. Se os esquemas das tabelas forem inconsistentes, apenas algumas colunas de dados poderão ser migradas, ou a migração poderá falhar. Prossiga com cautela.
Capitalization of Object Names in Destination Instance	Você pode configurar a política de diferenciação de maiúsculas e minúsculas para os nomes dos objetos migrados, como bancos de dados, tabelas e colunas, na instância de destino. Por padrão, DTS default policy está selecionado. Você também pode optar por manter a diferenciação de maiúsculas e minúsculas consistente com a política padrão do banco de dados de origem ou de destino. Para mais informações, consulte Case sensitivity of object names in the destination database.
Source Objects	Na caixa Source Objects, clique nos objetos a serem migrados e, em seguida, clique em para movê-los para a caixa Selected Objects. Nota Selecione os objetos a serem migrados no nível da tabela. Se você selecionar um banco de dados inteiro, quaisquer alterações para adicionar ou excluir tabelas nesse banco de dados não serão migradas para o destino.
Selected Objects	Para alterar o nome de um único objeto de migração na instância de destino, clique com o botão direito do mouse no objeto na caixa Selected Objects. Para mais informações, consulte Map individual schema, table, and column names. Para alterar os nomes de vários objetos de migração na instância de destino, clique em Selected Objects no canto superior direito da caixa Batch Edit. Para mais informações, consulte Map multiple schema, table, and column names. Nota O uso do recurso de mapeamento de nome de objeto pode causar a falha da migração de objetos dependentes. Para filtrar dados usando uma cláusula WHERE, clique com o botão direito do mouse na tabela a ser migrada na lista Selected Objects e especifique a condição de filtro na caixa de diálogo. Para obter instruções, consulte Defina condições de filtro. Para selecionar operações SQL a serem migradas no nível do banco de dados ou da tabela, clique com o botão direito do mouse no objeto na lista Selected Objects e selecione as operações SQL desejadas na caixa de diálogo.

Clique em Next: Advanced Settings para configurar parâmetros avançados.

Parâmetro	Descrição
Dedicated Cluster for Task Scheduling	Por padrão, o DTS agenda tarefas em um cluster compartilhado. Você não precisa selecionar um. Se desejar tarefas mais estáveis, poderá adquirir um dedicated cluster para executar tarefas de migração do DTS.
Retry Time for Failed Connections	Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS relatará um erro e começará imediatamente a tentar reconectar. A duração padrão de nova tentativa é de 720 minutos. Você pode personalizar o tempo de nova tentativa para um valor de 10 a 1440 minutos. Recomendamos que você defina a duração para mais de 30 minutos. Se o DTS se reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará. Nota Para várias instâncias do DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada. Como você é cobrado pela tarefa durante o período de nova tentativa de conexão, recomendamos que você personalize o tempo de nova tentativa com base nas necessidades do seu negócio, ou libere a instância do DTS o mais rápido possível após a liberação das instâncias de banco de dados de origem e de destino.
Retry Time for Other Issues	Após o início da tarefa de migração, se ocorrer um problema que não seja de conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS relatará um erro e começará imediatamente a tentar repetir a operação. A duração padrão de nova tentativa é de 10 minutos. Você pode personalizar o tempo de nova tentativa para um valor de 1 a 1440 minutos. Recomendamos que você defina a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará. Importante O valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration	Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, você pode ativar o limitador para a tarefa de migração completa. Você pode definir Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s) para reduzir a carga no banco de dados de destino. Nota Este item de configuração está disponível apenas se você selecionar Full Data Migration para Migration Types. Você também pode adjust the full migration speed após a instância de migração estar em execução.
Enable Throttling for Incremental Data Migration	Se necessário, você também pode optar por definir limites de velocidade para a tarefa de migração incremental. Você pode definir RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino. Nota Este item de configuração está disponível apenas se você selecionar Incremental Data Migration para Migration Types. Você também pode adjust the incremental migration speed após a instância de migração estar em execução.
Environment Tag	Você pode selecionar uma tag de ambiente para identificar a instância com base em suas necessidades. Neste exemplo, nenhuma tag é necessária.
Configure ETL	Com base nas necessidades do seu negócio, selecione se deseja configurar o ETL feature para processar dados. Yes: Configura o recurso ETL. Você também deve inserir data processing statements na caixa de texto. No: Não configura o recurso ETL.
Monitoring and Alerting	Selecione se deseja definir alertas e receber notificações de alerta com base nas necessidades do seu negócio. No: Não define um alerta. Yes: Configure alertas definindo um alert threshold e um alert notifications. Se uma migração falhar ou a latência exceder o limiar, o sistema enviará uma notificação de alerta.

Salve a tarefa e execute uma pré-verificação.
- Visualize os parâmetros de configuração desta instância ao chamar a operação de API. Mova o ponteiro sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters na dica que aparece.
- Se você não precisar visualizar ou já terminou de visualizar os parâmetros da API, clique em Next: Save Task Settings and Precheck na parte inferior da página.
Nota
- Antes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa só é iniciada após ser aprovada na pré-verificação.
- Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema com base no aviso e, em seguida, execute a pré-verificação novamente.
- Se um aviso for relatado durante a pré-verificação:
  
  Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema com base no aviso e, em seguida, execute a pré-verificação novamente.
  
  Para itens de verificação que podem ser ignorados, você pode clicar em Confirm Alert Details, Ignore, OK e Precheck Again para pular o item de alerta e executar a pré-verificação novamente. Se você optar por ignorar um aviso, isso poderá causar problemas como inconsistência de dados e representar riscos ao seu negócio.

Adquira a instância.

Quando a Success Rate for de 100%, clique em Next: Purchase Instance.

Na página Purchase, selecione a especificação do link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.

Categoria	Parâmetro	Descrição
New Instance Class	Resource Group Settings	Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é o grupo de recursos padrão. Para mais informações, consulte What is resource management?
New Instance Class	Instance Class	O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Você pode selecionar uma especificação com base no seu cenário de negócios. Para mais informações, consulte Data migration link specifications.

Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
Clique em Buy and Start. Na caixa de diálogo OK que aparece, clique em OK.

Visualize o progresso da tarefa de migração na página de lista Data Migration Tasks.
Nota
- Se a tarefa de migração não incluir migração incremental, ela será interrompida automaticamente após a conclusão da migração completa. Após a interrupção da tarefa, seu Status muda para Completed.
- Se a tarefa de migração incluir migração incremental, ela não será interrompida automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.