Como sincronizar PolarDB-X 2.0 com ApsaraDB RDS for MySQL - Data Transmission Service: Central de Documentação do Alibaba Cloud

Este tópico descreve como usar o Data Transmission Service (DTS) para sincronizar dados incrementais de uma instância PolarDB-X 2.0 para uma instância ApsaraDB RDS for MySQL em tempo real.

Pré-requisitos

Crie uma instância PolarDB-X 2.0 de origem.
Crie uma instância ApsaraDB RDS for MySQL de destino. Para mais informações, consulte Create an ApsaraDB RDS for MySQL instance.
A instância ApsaraDB RDS for MySQL de destino deve ter mais espaço de armazenamento do que a instância PolarDB-X 2.0 de origem.

Limitações

Nota

Durante a sincronização de esquema, o DTS sincroniza chaves estrangeiras do banco de dados de origem para o banco de dados de destino.
Nas fases de sincronização completa e incremental de dados, o DTS desativa temporariamente as verificações de restrições e operações em cascata de chaves estrangeiras no nível da sessão. Pode ocorrer inconsistência de dados se operações de atualização ou exclusão em cascata forem executadas no banco de dados de origem enquanto a tarefa estiver em execução.

Tipo	Descrição
Limitações do banco de dados de origem	As tabelas sincronizadas devem ter uma chave primária ou uma restrição única. Caso contrário, podem ocorrer dados duplicados no banco de dados de destino. O DTS não suporta instâncias somente leitura do PolarDB-X 2.0 Enterprise Edition como banco de dados de origem. Ao sincronizar tabelas individualmente e realizar edições, como mapeamento de nomes de colunas, uma única tarefa de sincronização de dados suporta no máximo 5.000 tabelas. Para sincronizar mais de 5.000 tabelas, divida-as em várias tarefas ou configure a tarefa para sincronizar todo o banco de dados. Caso contrário, pode ocorrer um erro de solicitação após o envio da tarefa. Requisitos de binary log: Ative o recurso de binary log no console do PolarDB-X 2.0 e defina o parâmetro binlog_row_image como full. Para mais informações, consulte Parameter settings. Caso contrário, a pré-verificação falha e a tarefa de sincronização de dados não inicia. Para sincronização incremental de dados, retenha os binary logs do banco de dados de origem por mais de 24 horas. Em tarefas que combinam sincronização completa e incremental, o período de retenção deve ser de pelo menos 7 dias. Após a conclusão da sincronização completa, reduza o período de retenção para 24 horas. O SLA do DTS não cobre problemas causados por um período de retenção de binary log insuficiente. Se o nome de uma tabela na instância PolarDB-X 2.0 de origem contiver letras maiúsculas, o DTS suportará apenas a sincronização de esquema para essa tabela. O DTS não suporta a sincronização de grupos de tabelas (TABLEGROUP) ou bancos de dados e tabelas que possuem o atributo Locality. O DTS não suporta a sincronização de tabelas cujos nomes são palavras-chave reservadas, como `select`. O DTS não consegue sincronizar partições de bancos de dados no modo DRDS em uma instância PolarDB-X 2.0. Não execute operações DDL que alterem esquemas de banco de dados ou tabelas durante a sincronização de esquema ou a sincronização completa. Caso contrário, a tarefa de sincronização falhará. Nota Durante a sincronização completa, o DTS consulta o banco de dados de origem. Isso cria bloqueios de metadados que podem impedir operações DDL no banco de dados de origem. Durante a execução de uma tarefa de sincronização do DTS, não há suporte para alterar o tipo de uma tabela de broadcast na instância PolarDB-X 2.0 de origem (por exemplo, alterar uma tabela de broadcast para uma tabela comum ou fragmentada). Para alterar o tipo da tabela, pare primeiro a tarefa de sincronização e reconfigure-a após a conclusão da alteração.
Outras limitações	Avalie o desempenho dos bancos de dados de origem e destino antes de iniciar a sincronização de dados. Execute a sincronização fora dos horários de pico, pois a sincronização completa inicial consome recursos significativos e aumenta a carga do banco de dados. A sincronização completa inicial executa operações INSERT simultâneas, o que pode causar fragmentação de tabelas no banco de dados de destino. Consequentemente, a instância de destino pode ocupar mais espaço de tabela do que a instância de origem após a sincronização. Não utilize ferramentas como pt-online-schema-change para executar operações DDL online nos objetos sendo sincronizados no banco de dados de origem. Caso contrário, a tarefa de sincronização falhará. Durante a sincronização de dados, garanta que apenas o DTS grave dados no banco de dados de destino. Gravar dados de outras fontes pode causar inconsistência. Por exemplo, se você realizar alterações DDL online usando o DMS enquanto outro processo grava no destino, pode ocorrer perda de dados. Se uma instrução DDL falhar ao ser executada no banco de dados de destino, a tarefa do DTS continuará em execução. Verifique os logs da tarefa para encontrar a instrução DDL com falha. Para mais informações, consulte View task logs. Se você gravar colunas com nomes que diferem apenas em maiúsculas/minúsculas na mesma tabela no banco de dados MySQL de destino, podem ocorrer resultados inesperados, pois os nomes de colunas do MySQL não diferenciam maiúsculas de minúsculas. Se seus dados incluírem caracteres de quatro bytes — como caracteres chineses raros ou emojis — o banco de dados e a tabela de destino devem usar o conjunto de caracteres utf8mb4. Nota Se usar o DTS para sincronizar esquemas de tabelas, defina o parâmetro `character_set_server` no nível da instância no banco de dados de destino como utf8mb4. Após a conclusão da sincronização de dados (quando o Status da instância for Completed), use o comando `ANALYZE TABLE <table_name>` para confirmar que todos os dados foram gravados na tabela de destino. Por exemplo, após o acionamento do mecanismo de failover de HA no banco de dados MySQL de destino, os dados podem ter sido gravados apenas na memória, o que pode causar perda de dados. Se uma tarefa falhar, a equipe de suporte do DTS tentará restaurá-la dentro de oito horas. Durante a restauração, eles podem reiniciar a tarefa ou ajustar seus parâmetros. Nota Apenas os parâmetros da tarefa DTS são modificados, não os parâmetros do banco de dados. Os parâmetros que podem ser ajustados incluem aqueles listados em Modify instance parameters.
Outras precauções	O DTS atualiza periodicamente a tabela `dts_health_check`.`ha_health_check` no banco de dados de origem para avançar a posição do arquivo de binary log.

Faturamento

Tipo de sincronização	Preço
Sincronização de esquema e sincronização completa de dados	Gratuito.
Sincronização incremental de dados	Pago. Para mais informações, consulte Billing overview.

Operações SQL suportadas

Tipo de operação	Instrução SQL
DML	INSERT, UPDATE, DELETE
DDL	ALTER TABLE CREATE FUNCTION, CREATE INDEX, CREATE TABLE Nota Se o banco de dados de origem for uma instância PolarDB-X 2.0 Enterprise Edition, as operações CREATE FUNCTION e CREATE INDEX não poderão ser sincronizadas. DROP INDEX, DROP TABLE RENAME TABLE Nota A operação RENAME TABLE pode causar inconsistências de dados. Por exemplo, se você selecionar apenas uma tabela específica como objeto de sincronização e renomear essa tabela na instância de origem durante a sincronização, os dados dessa tabela deixarão de ser sincronizados. Para evitar isso, configure a tarefa para sincronizar todo o banco de dados que contém a tabela. Isso garante que a sincronização continue após a renomeação da tabela. TRUNCATE TABLE

Precauções

Procedimento

Acesse a página da lista de tarefas de sincronização da região de destino. Use um dos dois métodos a seguir:
Pelo console do DTS
1. Faça login no console do Data Transmission Service (DTS).
2. No painel de navegação à esquerda, clique em Data Synchronization.
3. No canto superior esquerdo da página, selecione a região onde a instância de sincronização está localizada.
Pelo console do DMS

Nota
As operações reais podem variar dependendo do modo e do layout do console do DMS. Para mais informações, consulte Simple mode e Customize the layout and style of the DMS interface.
1. Faça login no Data Management (DMS).
2. Na barra de menu superior, escolha Data + AI > Data Transmission (DTS) > Data Synchronization.
3. À direita de Data Synchronization Tasks, selecione a região onde a instância de sincronização está localizada.
Clique em Create Task para abrir a página de configuração da tarefa.

Configure os bancos de dados de origem e de destino.

Aviso

Após selecionar as instâncias de origem e destino, leia atentamente os limites exibidos na parte superior da página. Se você não seguir os limites, a tarefa poderá falhar ou poderá ocorrer inconsistência de dados.

Categoria	Parâmetro	Descrição
N/A	Task Name	O DTS gera automaticamente um nome para a tarefa. Recomendamos especificar um nome descritivo para facilitar a identificação. O nome não precisa ser único.
Source Database	Select Existing Connection	Para usar uma instância de banco de dados que seja added to the system (recém-criada ou salva), selecione a instância na lista suspensa. As informações do banco de dados serão configuradas automaticamente. Nota No console do DMS, este item de configuração chama-se Select a DMS database instance.. Se você não adicionou a instância de banco de dados ao sistema ou não precisa usar uma instância já adicionada, configure manualmente as seguintes informações do banco de dados.
	Database Type	Selecione PolarDB-X 2.0.
	Connection Type	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde reside a instância PolarDB-X 2.0 de origem.
	Replicate Data Across Alibaba Cloud Accounts	Este exemplo mostra a sincronização dentro da mesma conta Alibaba Cloud. Selecione No.
	Instance ID	Selecione o ID da instância PolarDB-X 2.0 de origem.
	Database Account	Insira a conta do banco de dados para a instância PolarDB-X 2.0 de origem. A conta deve ter as permissões REPLICATION SLAVE, REPLICATION CLIENT e SELECT nos objetos a serem sincronizados. Nota Para obter informações sobre como conceder permissões, consulte Account permission issues during data synchronization.
	Database Password	Insira a senha correspondente à conta do banco de dados.
Destination Database	Select Existing Connection	Para usar uma instância de banco de dados que seja added to the system (recém-criada ou salva), selecione a instância na lista suspensa. As informações do banco de dados serão configuradas automaticamente. Nota No console do DMS, este item de configuração chama-se Select a DMS database instance.. Se você não adicionou a instância de banco de dados ao sistema ou não precisa usar uma instância já adicionada, configure manualmente as seguintes informações do banco de dados.
	Database Type	Selecione MySQL.
	Connection Type	Selecione Alibaba Cloud Instance.
	Instance Region	Selecione a região onde reside a instância ApsaraDB RDS for MySQL de destino.
	Replicate Data Across Alibaba Cloud Accounts	Este exemplo mostra a sincronização dentro da mesma conta Alibaba Cloud. Selecione No.
	RDS Instance ID	Selecione o ID da instância ApsaraDB RDS for MySQL de destino.
	Database Account	Insira a conta do banco de dados para a instância ApsaraDB RDS for MySQL de destino. A conta deve ter permissões de leitura e gravação.
	Database Password	Insira a senha correspondente à conta do banco de dados.
	Connection Method	Selecione Non-encrypted ou SSL-encrypted conforme necessário. Se selecionar SSL-encrypted, você deverá ativar a criptografia SSL para a instância RDS for MySQL antecipadamente. Para mais informações, consulte Use a cloud certificate to quickly enable SSL encryption.

Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
Nota
- Certifique-se de que os blocos CIDR de endereços IP dos servidores DTS foram adicionados às configurações de segurança dos bancos de dados de origem e destino para permitir o acesso desses servidores. Adicione-os automática ou manualmente. Para mais informações, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
- Se o banco de dados de origem ou de destino for autogerenciado (onde o Access Method não é Alibaba Cloud Instance), clique também em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers.

Configure os objetos da tarefa.

Na página Configure Objects, configure os objetos a serem sincronizados.

Parâmetro	Descrição
Synchronization Types	A opção Incremental Data Synchronization está selecionada. Por padrão, você também deve selecionar Schema Synchronization e Full Data Synchronization. Após a conclusão da pré-verificação, o DTS realiza uma sincronização completa dos dados dos objetos selecionados da instância de origem para o cluster de destino. Isso serve como base para a subsequente sincronização incremental de dados.
Processing Mode for Existing Tables in Destination	Precheck and Report Errors: Verifica se existe uma tabela com o mesmo nome no banco de dados de destino. Se não existir, a pré-verificação é aprovada. Se existir, a pré-verificação falha e a tarefa de sincronização de dados não inicia. Nota Se não for possível excluir ou renomear a tabela com o mesmo nome no banco de dados de destino, você poderá mapeá-la para um nome diferente. Para mais informações, consulte Map table and column names. Ignore Errors and Proceed: Ignora a verificação de nomes de tabelas duplicados no banco de dados de destino. Aviso Selecionar Ignore Errors and Proceed pode causar inconsistência de dados e colocar seus negócios em risco. Por exemplo: Se os esquemas das tabelas forem iguais e um registro no banco de dados de destino tiver o mesmo valor de chave primária ou única que um registro no banco de dados de origem: Durante a sincronização completa, o DTS mantém o registro no cluster de destino. O registro correspondente do banco de dados de origem não é sincronizado. Durante a sincronização incremental, o registro do banco de dados de origem substitui o registro no banco de dados de destino. Se os esquemas das tabelas forem diferentes, a sincronização inicial de dados poderá falhar. Isso pode resultar na sincronização de apenas dados parciais de colunas ou em uma falha completa da sincronização. Prossiga com cautela.
Source Objects	Na caixa Source Objects, clique em um objeto para sincronizar e, em seguida, clique em para movê-lo para a caixa Selected Objects. Nota Você pode selecionar bancos de dados, tabelas e colunas como objetos de sincronização. Se selecionar tabelas ou colunas, outros objetos, como visualizações, gatilhos e procedimentos armazenados, não serão sincronizados com o banco de dados de destino.
Selected Objects	Para renomear um único objeto de sincronização na instância de destino, clique com o botão direito do mouse no objeto na caixa Selected Objects. Para mais informações sobre como renomear objetos, consulte Map a single database, table, or column. Para alterar em lote os nomes de vários objetos de sincronização na instância de destino, clique em Batch Edit no canto superior direito da caixa Selected Objects. Para mais informações, consulte Map databases, tables, and columns in a batch. Nota Para selecionar operações SQL no nível do banco de dados ou da tabela, clique com o botão direito do mouse em um objeto de sincronização na caixa Selected Objects e escolha as operações SQL desejadas na caixa de diálogo exibida. Para definir uma cláusula WHERE para filtrar dados, clique com o botão direito do mouse em uma tabela na caixa Selected Objects e defina as condições de filtro na caixa de diálogo exibida. Para mais informações, consulte Set filter conditions.

Clique em Next: Advanced Settings para configurar parâmetros avançados.

Parâmetro	Descrição
Dedicated Cluster for Task Scheduling	Por padrão, o DTS agenda tarefas em um cluster compartilhado, e não é necessário selecionar um cluster. Para obter um desempenho mais estável, adquira um cluster dedicado para executar tarefas de sincronização do DTS. Para mais informações, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections	Após o início de uma tarefa de sincronização, se a conexão com o banco de dados de origem ou de destino falhar, o DTS relatará um erro e iniciará imediatamente uma nova tentativa de conexão. A duração padrão de nova tentativa é de 720 minutos. Você também pode especificar uma duração personalizada de 10 a 1.440 minutos. Recomendamos definir a duração para 30 minutos ou mais. Se o DTS reconectar com sucesso ao banco de dados dentro da duração especificada, a tarefa de sincronização será retomada automaticamente. Caso contrário, a tarefa falhará. Nota Se você tiver várias instâncias do DTS (por exemplo, Instância A e Instância B) que compartilham a mesma origem ou destino, e definir o tempo de nova tentativa de rede como 30 minutos para a Instância A e 60 minutos para a Instância B, a duração menor de 30 minutos será usada para ambas. Como o DTS cobra pelo tempo de execução da tarefa durante o período de nova tentativa de conexão, recomendamos personalizar a duração da nova tentativa com base nas necessidades do seu negócio ou liberar a instância do DTS o mais rápido possível após a liberação das instâncias de banco de dados de origem e destino.
Retry Time for Other Issues	Após o início da tarefa de migração, se ocorrer um problema que não seja de conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS relatará um erro e iniciará imediatamente uma nova tentativa da operação. A duração padrão de nova tentativa é de 10 minutos. Você pode personalizar o tempo de nova tentativa para um valor de 1 a 1.440 minutos. Recomendamos definir a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará. Importante O valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization	Durante a fase de sincronização completa, o DTS consome recursos de leitura e gravação dos bancos de dados de origem e destino, o que pode aumentar a carga do banco de dados. Para reduzir a carga nos bancos de dados de origem e destino, defina um limite de taxa para a tarefa de sincronização completa configurando os parâmetros Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s). Nota Este item de configuração está disponível apenas quando Synchronization Types está definido como Full Data Synchronization. Você também pode adjust the full synchronization rate depois que a instância de sincronização estiver em execução.
Enable Throttling for Incremental Data Synchronization	Você também pode definir um limite de taxa para a tarefa de sincronização incremental. Para aliviar a pressão no banco de dados de destino, defina RPS of Incremental Data Synchronization e Data synchronization speed for incremental synchronization (MB/s).
Environment Tag	Selecione uma tag de ambiente para identificar a instância. Neste exemplo, nenhuma seleção é necessária.
Configure ETL	Escolha se deseja ativar o recurso de extração, transformação e carregamento (ETL). Para mais informações, consulte What is ETL? Valores válidos: Yes: Ativa o recurso ETL. Insira instruções de processamento de dados no editor de código. Para mais informações, consulte Configure ETL in a data migration or data synchronization task. No: Desativa o recurso ETL.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Escolha se deseja gravar informações SQL de heartbeat no banco de dados de origem enquanto a instância DTS estiver em execução. Yes: As informações SQL de heartbeat não são gravadas no banco de dados de origem. Isso pode fazer com que a instância DTS relate um atraso. No: Grava informações SQL de heartbeat no banco de dados de origem. Isso pode interferir em recursos como backup físico e clonagem do banco de dados de origem.
Monitoring and Alerting	Especifique se deseja configurar alertas. Se a sincronização falhar ou a latência exceder o limiar especificado, uma notificação será enviada a um contato de alerta. No: Nenhum alerta é configurado. Yes: Configure alertas definindo um limiar de alerta e especificando um notificação de alerta. Para mais informações, consulte Configure monitoring and alerting during task configuration.

Clique em Next: Data Validation para configurar uma tarefa de validação de dados.

Se quiser usar o recurso de validação de dados, consulte Configure data validation para obter instruções de configuração.

Salve a tarefa e execute uma pré-verificação.
- Para visualizar os parâmetros da API para configurar esta instância, passe o mouse sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters no balão exibido.
- Se tiver terminado de visualizar os parâmetros da API, clique em Next: Save Task Settings and Precheck na parte inferior da página.
Nota
- Antes do início do trabalho de sincronização, o DTS executa uma pré-verificação. O trabalho só pode começar após a aprovação de todos os itens de pré-verificação.
- Se a pré-verificação falhar, clique em View Details para o item com falha. Corrija o problema conforme indicado e execute a pré-verificação novamente.
- Se a pré-verificação retornar um aviso:
  
  Se um item de verificação falhar e não puder ser ignorado, clique em View Details ao lado do item. Siga as instruções para corrigir o problema e execute a pré-verificação novamente.
  
  Para itens de verificação que podem ser ignorados, clique em Confirm Alert Details, Ignore, OK e Precheck Again em sequência para pular o aviso e executar a pré-verificação novamente. Se optar por ignorar o item de aviso, isso poderá causar problemas como inconsistência de dados e representar riscos aos seus negócios.

Adquira a instância.

Quando a Success Rate for 100%, clique em Next: Purchase Instance.

Na página Purchase, selecione a especificação de link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.

Categoria	Parâmetro	Descrição
New Instance Class	Resource Group Settings	Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é default resource group. Para mais informações, consulte What is resource management?
New Instance Class	Instance Class	O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Selecione uma especificação com base no seu cenário de negócios. Para mais informações, consulte Data migration link specifications.

Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
Clique em Buy and Start. Na caixa de diálogo OK exibida, clique em OK.

Visualize o progresso da tarefa de migração na página de lista Data Migration Tasks.
Nota
- Se a tarefa de migração não incluir migração incremental, ela será interrompida automaticamente após a conclusão da migração completa. Após a interrupção da tarefa, seu Status muda para Completed.
- Se a tarefa de migração incluir migração incremental, ela não será interrompida automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.