Migrate data from PolarDB-X 1.0 to ApsaraDB RDS for MySQL - Data Transmission Service: Central de Documentação do Alibaba Cloud

Pré-requisitos

Crie uma instância PolarDB-X 1.0 de origem. Para mais informações, consulte Criar uma instância PolarDB-X 1.0.

Nota
A instância PolarDB-X 1.0 deve usar o ApsaraDB RDS for MySQL como tipo de armazenamento. Isso inclui tanto instâncias RDS personalizadas privadamente quanto adquiridas separadamente. O PolarDB for MySQL não é suportado.
Para executar uma migração incremental de dados, verifique se o conjunto de caracteres dos dados a serem migrados não é utf8mb3. Caso contrário, a tarefa de migração incremental falhará.
Crie uma instância ApsaraDB RDS for MySQL de destino com espaço de armazenamento disponível maior que o espaço utilizado na instância PolarDB-X 1.0 de origem. Para mais informações, consulte Criar uma instância ApsaraDB RDS for MySQL.

Observações de uso

Nota

Durante a migração de schema, o DTS migra chaves estrangeiras do banco de dados de origem para o banco de dados de destino.

Tipo	Descrição
Limitações do banco de dados de origem	Requisitos de largura de banda: o servidor que hospeda o banco de dados de origem deve ter largura de banda de saída suficiente. Largura de banda insuficiente tornará a migração de dados mais lenta. As tabelas a serem migradas devem ter uma PRIMARY KEY ou uma restrição UNIQUE, e os campos da chave ou restrição devem ser únicos. Caso contrário, podem ocorrer dados duplicados no banco de dados de destino. Se você migrar objetos no nível de tabela e precisar editá-los, por exemplo, mapeando nomes de colunas, uma única tarefa de migração de dados suporta no máximo 1.000 tabelas. Se esse limite for excedido, o envio da tarefa falhará. Nesse caso, divida as tabelas em várias tarefas de migração de dados ou configure uma tarefa para migrar todo o banco de dados. Para migração incremental de dados, o banco de dados de origem deve atender aos seguintes requisitos de binary log: Ative o recurso de binary log e defina o parâmetro `binlog_row_image` como `full`. Caso contrário, a pré-verificação falha e a tarefa de migração de dados não pode ser iniciada. Para tarefas de migração incremental, o DTS exige que os binary logs do banco de dados de origem sejam retidos por pelo menos 24 horas. Para tarefas que incluem migração completa e incremental, os binary logs devem ser retidos por pelo menos 7 dias. Você pode alterar o período de retenção para 24 horas após a conclusão da migração completa. Se os binary logs não forem retidos pelo período necessário, o DTS pode falhar ao obtê-los, causando falhas na tarefa ou até mesmo inconsistência e perda de dados. O SLA do DTS não cobre problemas causados por um período de retenção de binary log insuficiente. Restrições operacionais no banco de dados de origem: Durante a migração de dados, não execute operações como scale-out, scale-in, migração de tabelas de hot-spot, alteração da chave de sharding ou execução de instruções DDL. Caso contrário, a tarefa de migração de dados falhará. Nota Durante a fase de migração completa, o DTS consulta o banco de dados de origem. Isso cria um bloqueio de metadados, que pode impedir operações DDL no banco de dados de origem. Se a chave de partição for alterada no banco de dados de origem e a chave primária na tabela de destino não incluir a chave de partição de origem, poderá ocorrer perda de dados no banco de dados de destino. Motivo: uma instância PolarDB-X 1.0 possui várias instâncias RDS for MySQL anexadas a ela. O DTS cria um link de migração separado para cada instância RDS for MySQL. Uma alteração na chave de partição faz com que os dados sejam excluídos de uma instância RDS for MySQL e inseridos em outra. Como os links são executados independentemente, a ordem de execução das operações DELETE e INSERT não é garantida. Se a chave primária do banco de dados de destino não incluir a chave de partição, uma operação DELETE executada posteriormente pode acidentalmente excluir os dados recém-inseridos. Recomendação: para evitar perda de dados causada por operações fora de ordem, garanta que a chave primária da tabela de destino inclua a coluna da chave de partição do banco de dados de origem. Durante a migração completa e incremental, o DTS desativa temporariamente as verificações de restrições e operações em cascata de chaves estrangeiras no nível da sessão. Se ocorrerem operações de atualização ou exclusão em cascata no banco de dados de origem enquanto a tarefa estiver em execução, poderá haver inconsistência de dados. Se você alterar o tipo de rede da instância PolarDB-X 1.0 durante a migração, atualize as informações de conexão de rede do link de migração após a conclusão da alteração. Se você realizar apenas a migração completa de dados, não grave novos dados no banco de dados de origem durante a migração. Caso contrário, os dados ficarão inconsistentes entre os bancos de dados de origem e de destino. Para manter a consistência dos dados em tempo real, selecione migração de schema, migração completa de dados e migração incremental de dados. A instância PolarDB-X 1.0 de origem deve ser versão 5,2 ou posterior. Não altere o tipo de uma tabela broadcast na instância PolarDB-X 1.0 de origem enquanto uma tarefa de migração do DTS estiver em execução (por exemplo, de tabela broadcast para tabela única ou tabela com sharding). Se precisar alterar o tipo de tabela, pare a tarefa de migração. Após a conclusão da alteração, reconfigure a tarefa de migração.
Outras limitações	O DTS depende da continuidade das transações XA na instância PolarDB-X 1.0 de origem para garantir a consistência dos dados nas tarefas de migração incremental. Se a continuidade das transações XA for interrompida, por exemplo, durante um cenário de recuperação de desastres do módulo de captura de dados incrementais, transações XA não confirmadas poderão ser perdidas. A migração de INDEX e PARTITION não é suportada. A migração de operações DDL online não é suportada. Se seus dados incluírem caracteres de quatro bytes — como caracteres chineses raros ou emojis — o banco de dados e a tabela de destino devem usar o charset utf8mb4. Nota Se você usar o DTS para migrar schemas, defina o parâmetro de nível de instância `character_set_server` como utf8mb4 no banco de dados de destino. Antes de realizar a migração de dados, avalie o desempenho dos bancos de dados de origem e de destino. Recomendamos também realizar a migração fora dos horários de pico. Caso contrário, o DTS consumirá recursos de leitura e gravação em ambos os bancos de dados durante a migração completa, o que pode aumentar a carga do banco de dados. A migração completa executa operações INSERT concorrentes, o que pode causar fragmentação de tabelas no banco de dados de destino. Como resultado, as tabelas no banco de dados de destino ocuparão mais espaço de armazenamento do que aquelas na instância de origem. O DTS tenta recuperar tarefas de migração com falha dentro de sete dias. Portanto, antes do cutover para a instância de destino, encerre ou libere a tarefa, ou use o comando `revoke` para revogar as permissões de gravação da conta DTS na instância de destino. Isso impede que os dados de origem sobrescrevam os dados na instância de destino caso a tarefa seja recuperada automaticamente. Se você gravar colunas com nomes idênticos, mas com diferenças de maiúsculas e minúsculas, na mesma tabela no banco de dados de destino MySQL, resultados inesperados podem ocorrer. Os nomes de colunas do MySQL não diferenciam maiúsculas de minúsculas. Após a conclusão da migração — quando o status da tarefa for Status e mudar para Completed — execute `analyze table <table_name>` para confirmar se todos os dados foram gravados na tabela de destino. Por exemplo, após um failover de alta disponibilidade (HA) no banco de dados de destino MySQL, os dados podem permanecer na memória e nunca chegar ao disco, causando perda de dados. Se uma tarefa falhar, a equipe de suporte do DTS tentará restaurá-la dentro de oito horas. Durante a restauração, eles podem reiniciar a tarefa ou ajustar seus parâmetros. Nota Apenas os parâmetros da tarefa DTS são modificados, não os parâmetros do banco de dados. Os parâmetros que podem ser ajustados incluem aqueles listados em Modificar parâmetros da instância.
Considerações adicionais	O DTS atualiza periodicamente a tabela dts_health_check.ha_health_check no banco de dados de origem para avançar a posição do binlog.

Faturamento

Tipo de migração	Taxa de configuração da instância	Taxa de tráfego pela Internet
Migração de schema e migração completa de dados	Gratuito.	Quando o parâmetro Access Method do banco de dados de destino está definido como Public IP Address, você é cobrado pelo tráfego da Internet. Para mais informações, consulte Visão geral do faturamento.
Migração incremental de dados	Pago. Para mais informações, consulte Visão geral do faturamento.

Tipos de migração

Migração de schema

O DTS migra as definições de schema dos objetos de migração do banco de dados de origem para o banco de dados de destino.
Migração completa

O DTS migra todos os dados históricos dos objetos de migração especificados do banco de dados de origem para o banco de dados de destino.
Migração incremental

Após a conclusão da migração completa, o DTS migra atualizações incrementais de dados do banco de dados de origem para o banco de dados de destino. A migração incremental permite migrar dados sem interrupções, mantendo suas aplicações autogerenciadas em funcionamento.

Operações SQL para migração incremental

Tipo de operação	Instrução SQL
DML	INSERT, UPDATE, DELETE

Permissões de contas de banco de dados

Banco de dados	Migração de schema	Migração completa de dados	Migração incremental de dados
Instância PolarDB-X 1.0	Permissão SELECT	Permissão SELECT	Permissões REPLICATION SLAVE, REPLICATION CLIENT e SELECT sobre os objetos a serem migrados. Nota Para informações sobre como conceder permissões, consulte Problemas de permissão de conta durante a sincronização de dados.
Instância ApsaraDB RDS for MySQL	Permissões de leitura e gravação

Para criar contas e conceder permissões:

Para uma instância PolarDB-X 1.0, consulte Gerenciar contas de banco de dados.
Para uma instância ApsaraDB RDS for MySQL, consulte Criar uma conta e Modificar permissões da conta.

Procedimento

Acesse a página da lista de tarefas de migração da região de destino usando um dos métodos a seguir.
Pelo console do DTS
1. Faça login no console do Data Transmission Service (DTS).
2. No painel de navegação à esquerda, clique em Data Migration.
3. No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS

Nota
As operações reais podem variar dependendo do modo e do layout do console do DMS. Para mais informações, consulte Console no modo simples e Personalizar o layout e o estilo do console do DMS.
1. Faça login no console do Data Management (DMS).
2. Na barra de menu superior, escolha Data + AI > Data Transmission (DTS) > Data Migration.
3. À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.

Configure os bancos de dados de origem e de destino.

Categoria	Parâmetro	Descrição
N/A	Task Name	O DTS gera automaticamente um nome para a tarefa. Recomendamos especificar um nome descritivo para facilitar a identificação. O nome não precisa ser único.
Source Database	Select Existing Connection	Para usar uma instância de banco de dados que já foi adicionada ao sistema (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro é denominado Select a DMS database instance.. Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
	Database Type	Selecione PolarDB-X 1.0.
	Connection Type	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde a instância PolarDB-X 1.0 de origem reside.
	Replicate Data Across Alibaba Cloud Accounts	Neste exemplo, utiliza-se uma instância de banco de dados sob a conta atual da Alibaba Cloud. Selecione No.
	Instance ID	Selecione o ID da instância PolarDB-X 1.0 de origem.
	Database Account	Insira a conta do banco de dados para a instância PolarDB-X 1.0 de origem. Para requisitos de permissão, consulte Permissões necessárias para contas de banco de dados.
	Database Password	Insira a senha da conta do banco de dados.
Destination Database	Select Existing Connection	Para usar uma instância de banco de dados que já foi adicionada ao sistema (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente. Nota No console do DMS, este parâmetro é denominado Select a DMS database instance.. Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
	Database Type	Selecione MySQL.
	Connection Type	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde a instância ApsaraDB RDS for MySQL de destino reside.
	Replicate Data Across Alibaba Cloud Accounts	Neste exemplo, utiliza-se uma instância de banco de dados sob a conta atual da Alibaba Cloud. Selecione No.
	RDS Instance ID	Selecione o ID da instância ApsaraDB RDS for MySQL de destino.
	Database Account	Insira a conta do banco de dados para a instância ApsaraDB RDS for MySQL de destino. Para requisitos de permissão, consulte Permissões necessárias para contas de banco de dados.
	Database Password	Insira a senha da conta do banco de dados.
	Encryption	Escolha entre conexão Non-encrypted ou SSL-encrypted conforme suas necessidades. Se escolher SSL-encrypted, ative a criptografia SSL na instância ApsaraDB RDS for MySQL antecipadamente. Para mais informações, consulte Ativar criptografia SSL com certificado de nuvem.

Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
Nota
- Certifique-se de que o segmento de endereço IP do serviço DTS foi adicionado automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso dos servidores DTS. Para mais informações, consulte Adicionar endereços IP de servidores DTS a uma whitelist.
- Se o banco de dados de origem ou de destino for autogerenciado (o Access Method não é Alibaba Cloud Instance), clique também em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers que aparece.

Configure os objetos da tarefa.

Na página Configure Objects, configure os objetos que deseja migrar.

Parâmetro	Descrição
Migration Types	Se precisar apenas realizar uma migração completa, selecione tanto Schema Migration quanto Full Data Migration. Para realizar uma migração sem tempo de inatividade, selecione Schema Migration, Full Data Migration e Incremental Data Migration. Nota Se não selecionar Schema Migration, garanta que existam um banco de dados e tabelas para receber os dados no banco de dados de destino. Também é possível usar o recurso de mapeamento de nomes de objetos na caixa Selected Objects, conforme necessário. Se não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração para garantir a consistência dos dados.
Processing Mode of Conflicting Tables	Precheck and Report Errors: verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não houver tabelas com nomes iguais, a pré-verificação é aprovada. Se existirem tabelas com os mesmos nomes, um erro será relatado durante a pré-verificação e a tarefa de migração de dados não será iniciada. Nota Se uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, altere o nome da tabela no banco de dados de destino. Para mais informações, consulte Mapeamento de nomes de objetos. Ignore Errors and Proceed: ignora a verificação de tabelas com os mesmos nomes. Aviso Selecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos ao negócio. Por exemplo: Se os schemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem: Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado. Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem sobrescreve o registro no banco de dados de destino. Se os schemas das tabelas forem inconsistentes, apenas algumas colunas de dados podem ser migradas ou a migração pode falhar. Prossiga com cautela.
Capitalization of Object Names in Destination Instance	Você pode configurar a política de diferenciação de maiúsculas e minúsculas para os nomes dos objetos migrados, como bancos de dados, tabelas e colunas, na instância de destino. Por padrão, a DTS default policy é selecionada. Você também pode optar por manter a diferenciação consistente com a política padrão do banco de dados de origem ou de destino. Para mais informações, consulte Diferenciação de maiúsculas e minúsculas em nomes de objetos no banco de dados de destino.
Source Objects	Na caixa Source Objects, clique nos objetos a serem migrados e, em seguida, clique em para movê-los para a caixa Selected Objects. Nota Selecione objetos para migrar no nível de tabela. Se você selecionar um banco de dados inteiro, quaisquer alterações para adicionar ou excluir tabelas nesse banco de dados não serão migradas para o destino.
Selected Objects	Para alterar o nome de um único objeto de migração na instância de destino, clique com o botão direito no objeto na caixa Selected Objects. Para mais informações, consulte Mapear nomes individuais de schema, tabela e coluna. Para alterar os nomes de vários objetos de migração na instância de destino, clique em Selected Objects no canto superior direito da caixa Batch Edit. Para mais informações, consulte Mapear múltiplos nomes de schema, tabela e coluna. Nota O uso do recurso de mapeamento de nomes de objetos pode causar falha na migração de objetos dependentes. Para filtrar dados usando uma cláusula WHERE, clique com o botão direito na tabela a ser migrada na lista Selected Objects e especifique a condição de filtro na caixa de diálogo. Para instruções, consulte Definir condições de filtro. Para selecionar operações SQL a serem migradas no nível de banco de dados ou tabela, clique com o botão direito no objeto na lista Selected Objects e selecione as operações SQL desejadas na caixa de diálogo.

Clique em Next: Advanced Settings para configurar parâmetros avançados.

Parâmetro	Descrição
Dedicated Cluster for Task Scheduling	Por padrão, o DTS agenda tarefas em um cluster compartilhado. Não é necessário selecionar um. Se desejar tarefas mais estáveis, adquira um cluster dedicado para executar tarefas de migração do DTS.
Retry Time for Failed Connections	Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS relatará um erro e começará imediatamente a tentar reconectar. A duração padrão de nova tentativa é de 720 minutos. Você pode personalizar o tempo de nova tentativa para um valor entre 10 e 1440 minutos. Recomendamos definir a duração para mais de 30 minutos. Se o DTS se reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará. Nota Para múltiplas instâncias DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada. Como você é cobrado pela tarefa durante o período de nova tentativa de conexão, recomendamos personalizar o tempo de nova tentativa com base nas necessidades do seu negócio ou liberar a instância DTS o mais rápido possível após a liberação das instâncias de banco de dados de origem e de destino.
Retry Time for Other Issues	Após o início da tarefa de migração, se ocorrer um problema não relacionado à conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS relatará um erro e começará imediatamente a tentar repetir a operação. A duração padrão de nova tentativa é de 10 minutos. Você pode personalizar o tempo de nova tentativa para um valor entre 1 e 1440 minutos. Recomendamos definir a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará. Importante O valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration	Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, ative o throttling para a tarefa de migração completa. É possível definir Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s) para reduzir a carga no banco de dados de destino. Nota Este item de configuração está disponível apenas se você selecionar Full Data Migration em Migration Types. Você também pode ajustar a velocidade da migração completa depois que a instância de migração estiver em execução.
Enable Throttling for Incremental Data Migration	Se necessário, defina limites de velocidade para a tarefa de migração incremental. É possível definir RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino. Nota Este item de configuração está disponível apenas se você selecionar Incremental Data Migration em Migration Types. Você também pode ajustar a velocidade da migração incremental depois que a instância de migração estiver em execução.
Environment Tag	Selecione uma tag de ambiente para identificar a instância conforme suas necessidades. Neste exemplo, nenhuma tag é necessária.
Configure ETL	Com base nas necessidades do seu negócio, selecione se deseja configurar o recurso ETL para processar dados. Yes: configura o recurso ETL. Insira também instruções de processamento de dados na caixa de texto. No: não configura o recurso ETL.
Monitoring and Alerting	Selecione se deseja definir alertas e receber notificações de alerta com base nas necessidades do seu negócio. No: não define alerta. Yes: configure alertas definindo um limiar de alerta e um notificações de alerta. Se uma migração falhar ou a latência exceder o limiar, o sistema enviará uma notificação de alerta.

Salve a tarefa e execute uma pré-verificação.
- Para visualizar os parâmetros de configuração desta instância ao chamar a operação da API, passe o ponteiro sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters no balão que aparecer.
- Se não precisar visualizar os parâmetros da API ou já tiver terminado de visualizá-los, clique em Next: Save Task Settings and Precheck na parte inferior da página.
Nota
- Antes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa só começa após ser aprovada na pré-verificação.
- Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema conforme a instrução e execute a pré-verificação novamente.
- Se um aviso for relatado durante a pré-verificação:
  
  Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema conforme a instrução e execute a pré-verificação novamente.
  
  Para itens de verificação que podem ser ignorados, clique em Confirm Alert Details, Ignore, OK e Precheck Again para pular o item de alerta e executar a pré-verificação novamente. Se optar por ignorar um aviso, isso pode causar problemas como inconsistência de dados e representar riscos ao seu negócio.

Adquira a instância.

Quando a Success Rate for 100%, clique em Next: Purchase Instance.

Na página Purchase, selecione a especificação do link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.

Categoria	Parâmetro	Descrição
New Instance Class	Resource Group Settings	Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é o grupo de recursos padrão. Para mais informações, consulte O que é o Resource Management?
New Instance Class	Instance Class	O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Selecione uma especificação com base no seu cenário de negócio. Para mais informações, consulte Especificações de link de migração de dados.

Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
Clique em Buy and Start. Na caixa de diálogo OK que aparece, clique em OK.

Visualize o progresso da tarefa de migração na página de lista Data Migration Tasks.
Nota
- Se a tarefa de migração não incluir migração incremental, ela parará automaticamente após a conclusão da migração completa. Após a parada da tarefa, seu Status muda para Completed.
- Se a tarefa de migração incluir migração incremental, ela não parará automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.