Use o Data Transmission Service (DTS) para sincronizar dados de um banco de dados MySQL, como um banco de dados MySQL autogerenciado ou uma instância do ApsaraDB RDS for MySQL, para uma instância do ApsaraMQ for RocketMQ. Este tópico aborda como sincronizar dados de uma instância do ApsaraDB RDS for MySQL.
Pré-requisitos
-
É necessário ter uma instância de destino do ApsaraMQ for RocketMQ (não serverless). Para mais informações, consulte Gerencie instances ou Gerencie instances.
NotaConsulte Data Synchronization Overview para conferir as versões compatíveis dos bancos de dados de origem e de destino.
-
A instância de destino do ApsaraMQ for RocketMQ deve ter um tópico para receber os dados sincronizados. Para mais informações, consulte Gerencie topics ou Gerencie topics.
ImportantePara instâncias da série 4.x, o Message Type do tópico deve ser definido como Partitionally Ordered Message.
Para instâncias da série 5.x, o Message Type do tópico deve ser definido como Ordered Message.
Limitações
|
Tipo |
Descrição |
|
Banco de dados de origem |
|
|
Outras limitações |
|
|
Casos especiais |
|
Faturamento
|
Tipo de sincronização |
Taxa de configuração |
|
sincronização completa de dados |
Gratuito. |
|
sincronização incremental de dados |
Há cobrança de taxas. Para detalhes, consulte billing overview. |
Operações SQL que podem ser sincronizadas
Tipo de operação | Instruções SQL |
DML | INSERT, UPDATE, DELETE |
DDL |
|
Permissões da conta do banco de dados
|
Banco de dados |
Permissões |
Ações |
|
Fonte ApsaraDB RDS for MySQL |
Permissões de leitura nos objetos a serem sincronizados. |
Se você criar e conceder permissões para a conta do banco de dados de origem fora do console do ApsaraDB RDS for MySQL, certifique-se de que a conta tenha as permissões REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW e SELECT.
Procedimento
-
Acesse a página da lista de tarefas de sincronização da região de destino. Use um dos dois métodos a seguir:
Pelo console do DTS
Faça login no Data Transmission Service (DTS) console.
No painel de navegação à esquerda, clique em Data Synchronization.
No canto superior esquerdo da página, selecione a região onde a instância de sincronização está localizada.
Pelo console do DMS
NotaAs operações reais podem variar dependendo do modo e do layout do console do DMS. Para mais informações, consulte Simple mode e Customize the layout and style of the DMS interface.
Faça login no Data Management (DMS).
Na barra de menu superior, escolha .
À direita de Data Synchronization Tasks, selecione a região onde a instância de sincronização está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.
-
Configure os bancos de dados de origem e de destino.
Categoria
Parâmetro
Descrição
N/A
Task Name
O DTS gera automaticamente um nome para a tarefa. Recomendamos especificar um nome descritivo para facilitar a identificação. O nome não precisa ser exclusivo.
Source Database
Select Existing Connection
-
Para usar uma instância de banco de dados added to the system (recém-criada ou salva), selecione a instância na lista suspensa. As informações do banco de dados são configuradas automaticamente.
NotaNo console do DMS, este item de configuração chama-se Select a DMS database instance..
-
Se você não adicionou a instância ao sistema ou não precisa usar uma instância já adicionada, configure manualmente as seguintes informações do banco de dados.
Database Type
Selecione MySQL.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região onde a instância de origem do RDS for MySQL está localizada.
Replicate Data Across Alibaba Cloud Accounts
Este exemplo usa uma instância de banco de dados que pertence à conta atual da Alibaba Cloud. Selecione No.
RDS Instance ID
Selecione o ID da instância de origem do RDS for MySQL.
Database Account
Insira a conta do banco de dados para a instância de origem do RDS for MySQL. Consulte Database account permissions para os requisitos de permissão.
Database Password
Insira a senha correspondente à conta do banco de dados.
Encryption
Selecione Non-encrypted ou SSL-encrypted conforme necessário. Se selecionar SSL-encrypted, será necessário ativar a criptografia SSL para a instância do RDS for MySQL antecipadamente. Para mais informações, consulte Use a cloud certificate to quickly enable SSL encryption.
Destination Database
Select Existing Connection
-
Para usar uma instância de banco de dados added to the system (recém-criada ou salva), selecione a instância na lista suspensa. As informações do banco de dados são configuradas automaticamente.
NotaNo console do DMS, este item de configuração chama-se Select a DMS database instance..
-
Se você não adicionou a instância ao sistema ou não precisa usar uma instância já adicionada, configure manualmente as seguintes informações do banco de dados.
Database Type
Selecione RocketMQ.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região onde a instância de destino do Message Queue for RocketMQ está localizada.
RocketMQ version
Selecione a versão da instância de destino do Message Queue for RocketMQ.
Instance ID
Selecione o ID da instância de destino do Message Queue for RocketMQ.
Database Account
Insira a conta e a senha do banco de dados para a instância de destino do Message Queue for RocketMQ.
Nota-
Esses parâmetros são necessários apenas quando o RocketMQ version está definido como 5.x.
-
Obtenha as credenciais na aba Intelligent Authentication da página RAM no console do Message Queue for RocketMQ.
Database Password
Topic
Na lista suspensa, selecione um tópico para receber os dados.
Topic That Stores DDL Information
Na lista suspensa, selecione um tópico para armazenar informações DDL.
NotaSe nenhum tópico for selecionado, o DTS armazenará por padrão as informações DDL no tópico selecionado para o parâmetro Topic.
-
-
Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
NotaCertifique-se de que os blocos CIDR de endereços IP dos servidores do DTS estejam incluídos nas configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso dos servidores do DTS. Você pode fazer isso de forma automática ou manual. Para mais informações, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
Se o banco de dados de origem ou de destino for autogerenciado (onde o Access Method não é Alibaba Cloud Instance), também será necessário clicar em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers.
-
Configure os objetos da tarefa.
-
Na página Configure Objects, configure os objetos a serem sincronizados.
Parâmetro
Descrição
Synchronization Types
A opção Incremental Data Synchronization está selecionada. Você pode selecionar apenas Full Data Synchronization. Não há suporte para a opção Schema Synchronization. Após a conclusão da pré-verificação, o DTS sincroniza os dados dos objetos selecionados da instância de origem para o cluster de destino. Esses dados servem como linha de base para a subsequente sincronização incremental de dados.
NotaQuando o banco de dados de destino é uma instância do Message Queue for RocketMQ, não há suporte para a opção Schema Synchronization.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: Verifica se existe uma tabela com o mesmo nome no banco de dados de destino. Se não existir, a pré-verificação passa. Se existir, a pré-verificação falha e a tarefa de sincronização não inicia.
NotaSe não for possível excluir ou renomear a tabela com o mesmo nome no banco de dados de destino, mapeie-a para um nome de tabela diferente. Para mais informações, consulte Map table and column names.
-
Ignore Errors and Proceed: Ignora a verificação de nomes de tabela duplicados no banco de dados de destino.
AvisoSelecionar Ignore Errors and Proceed pode causar inconsistência de dados e colocar seu negócio em risco. Por exemplo:
-
Se os schemas das tabelas forem iguais e um registro no banco de dados de destino tiver a mesma chave primária ou valor de chave exclusiva de um registro no banco de dados de origem:
-
Durante a sincronização completa, o DTS mantém o registro no cluster de destino. O DTS não sincroniza o registro correspondente do banco de dados de origem.
-
Durante a sincronização incremental, o registro do banco de dados de origem sobrescreve o registro no banco de dados de destino.
-
-
Se os schemas das tabelas forem diferentes, a sincronização inicial de dados poderá falhar. Isso pode resultar na sincronização de apenas dados parciais de colunas ou em uma falha completa da sincronização. Prossiga com cautela.
-
Format of the data delivered to RocketMQ.
Selecione o formato de armazenamento para gravar dados no tópico de destino de acordo com seus requisitos. Para mais informações, consulte Data storage formats in message queues.
Synchronize all fields
Para operações UPDATE, especifique se deseja sincronizar a pré-imagem apenas dos campos atualizados ou da linha inteira para o campo old no tópico de destino. Uma pré-imagem é o registro de dados antes da execução de uma operação UPDATE.
NotaEste parâmetro está disponível apenas quando Format of the data delivered to RocketMQ. está definido como Canal JSON.
-
Yes: Sincroniza a pré-imagem da linha inteira que contém os campos atualizados.
-
No (Padrão): Sincroniza apenas a pré-imagem dos campos atualizados.
Rules of the ordered messages delivered to RocketMQ.
Selecione a regra de ordenação de mensagens para gravar dados no tópico de destino. Para mais informações, consulte Message ordering rules for Message Queue for RocketMQ.
Name of DTS producer group
Especifique um nome personalizado para o grupo de produtores (ProducerGroup) que envia mensagens para o tópico de destino.
NotaO valor padrão é dts-producer-group.
Limits of RocketMQ messaging transactions per second (TPS)
Defina um limite para as transações de mensagens por segundo (TPS) para gravar dados no tópico de destino. Para mais informações sobre o TPS de mensagens, consulte Calculation specifications.
Importante-
O valor deve ser menor ou igual ao TPS máximo da instância do Message Queue for RocketMQ. Para mais informações, consulte Instance specifications.
-
Enquanto a tarefa de sincronização estiver em execução, o TPS real de mensagens da instância do Message Queue for RocketMQ poderá flutuar levemente em torno do valor especificado.
Whether to filter large size of records.
Especifique se deseja filtrar mensagens maiores que 4 MB antes de gravá-las no tópico de destino.
ImportanteSe selecionar No, a tarefa de sincronização falhará se tentar gravar uma mensagem maior que 4 MB no tópico de destino.
Capitalization of Object Names in Destination Instance
Configure a política de diferenciação de maiúsculas e minúsculas para os nomes de objetos de banco de dados, tabelas e colunas sincronizados com a instância de destino. Por padrão, a DTS default policy está selecionada. Você também pode optar por usar as políticas padrão dos bancos de dados de origem e de destino. Para mais informações, consulte Case sensitivity policy for destination object names.
Source Objects
Na caixa Source Objects, clique em um objeto a ser sincronizado e, em seguida, clique em
para movê-lo para a caixa Selected Objects.NotaSelecione bancos de dados ou tabelas como objetos de sincronização.
Selected Objects
Neste exemplo, nenhuma configuração adicional é necessária. Use o recurso de mapeamento para definir o nome do tópico, condições de filtro, operações SQL a serem sincronizadas e a chave de partição para os dados gravados na instância de destino do Message Queue for RocketMQ. Para mais informações, consulte Mapping information.
-
-
Clique em Next: Advanced Settings para configurar parâmetros avançados.
Parâmetro
Descrição
Dedicated Cluster for Task Scheduling
Por padrão, o DTS agenda tarefas em um cluster compartilhado, e não é necessário selecionar um cluster. Para um desempenho mais estável, adquira um cluster dedicado para executar tarefas de sincronização do DTS. Para mais informações, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Após o início da tarefa de sincronização, se a conexão com o banco de dados de origem ou de destino falhar, o DTS reportará um erro e iniciará imediatamente a tentativa de reconexão. A duração padrão de nova tentativa é de 720 minutos. Você também pode especificar uma duração personalizada de 10 a 1.440 minutos. Recomendamos definir a duração para 30 minutos ou mais. Se o DTS se reconectar com sucesso ao banco de dados dentro da duração especificada, a tarefa de sincronização será retomada automaticamente. Caso contrário, a tarefa falhará.
Nota-
Se você tiver várias instâncias do DTS (por exemplo, Instância A e Instância B) que compartilham a mesma origem ou destino, e definir o tempo de nova tentativa de rede para 30 minutos na Instância A e 60 minutos na Instância B, o DTS usará a duração menor de 30 minutos para ambas.
-
Como o DTS cobra pelo tempo de execução da tarefa durante o período de nova tentativa de conexão, recomendamos personalizar a duração da nova tentativa com base nas necessidades do seu negócio ou liberar a instância do DTS o mais rápido possível após a liberação das instâncias de banco de dados de origem e de destino.
Retry Time for Other Issues
Após o início da tarefa de sincronização, se ocorrerem outros problemas não relacionados à conectividade com o banco de dados de origem ou de destino (como exceções de execução DDL ou DML), o DTS reportará um erro e iniciará imediatamente operações contínuas de nova tentativa. A duração padrão é de 10 minutos. Você também pode personalizar a duração dentro do intervalo de 1 a 1.440 minutos. Recomendamos definir para 10 minutos ou mais. Se as operações relevantes forem bem-sucedidas dentro da duração definida, a tarefa de sincronização será retomada automaticamente. Caso contrário, a tarefa falhará.
ImportanteO valor de Retry Time for Other Issues deve ser menor que o de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante a fase de sincronização completa, o DTS consome recursos de leitura e gravação dos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Para reduzir a carga, defina um limite de taxa para a tarefa de sincronização completa configurando os parâmetros Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s).
Nota-
Este item de configuração está disponível apenas quando Synchronization Types está definido como Full Data Synchronization.
-
Você também pode adjust the full synchronization rate após a instância de sincronização estar em execução.
Enable Throttling for Incremental Data Synchronization
Defina um limite de taxa para a tarefa de sincronização incremental. Para aliviar a pressão no banco de dados de destino, defina RPS of Incremental Data Synchronization e Data synchronization speed for incremental synchronization (MB/s).
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Escolha se deseja gravar informações SQL de heartbeat no banco de dados de origem enquanto a instância do DTS estiver em execução.
-
Yes: O DTS não grava informações SQL de heartbeat no banco de dados de origem. Isso pode fazer com que a instância do DTS reporte um atraso.
-
No: Grava informações SQL de heartbeat no banco de dados de origem. Isso pode interferir em recursos como backup físico e clonagem do banco de dados de origem.
Environment Tag
Selecione uma tag de ambiente para identificar a instância. Neste exemplo, nenhuma tag é necessária.
Configure ETL
Escolha se deseja ativar o recurso de extração, transformação e carga (ETL). Para mais informações, consulte What is ETL? Valores válidos:
-
Yes: Ativa o recurso ETL. Insira instruções de processamento de dados no editor de código. Para mais informações, consulte Configure ETL in a data migration or data synchronization task.
-
No: Desativa o recurso ETL.
Monitoring and Alerting
Especifique se deseja configurar alertas. Se a sincronização falhar ou a latência exceder o limiar especificado, o sistema envia uma notificação para um contato de alerta.
-
No: Não configura alertas.
-
Yes: Configure alertas definindo um limiar de alerta e especificando um notificação de alerta. Para mais informações, consulte Configure monitoring and alerting during task configuration.
-
-
-
Salve a tarefa e execute uma pré-verificação.
Para visualizar os parâmetros da API para configurar esta instância, passe o mouse sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters no balão.
Após terminar de visualizar os parâmetros da API, clique em Next: Save Task Settings and Precheck na parte inferior da página.
NotaAntes do início da tarefa de sincronização, o DTS executa uma pré-verificação. A tarefa só inicia após a aprovação de todos os itens da pré-verificação.
Se a pré-verificação falhar, clique em View Details para o item com falha. Corrija o problema conforme instruído e execute a pré-verificação novamente.
-
Se a pré-verificação retornar um aviso:
Se um item de verificação falhar e não puder ser ignorado, clique em View Details ao lado do item. Siga as instruções para corrigir o problema e execute a pré-verificação novamente.
Para itens de verificação que podem ser ignorados, clique em Confirm Alert Details, Ignore, OK e Precheck Again em sequência para ignorar o aviso e executar a pré-verificação novamente. Se optar por ignorar o item de aviso, isso poderá causar problemas como inconsistência de dados e representar riscos ao seu negócio.
-
Adquira a instância.
Quando a Success Rate for de 100%, clique em Next: Purchase Instance.
-
Na página Purchase, selecione o método de faturamento e a especificação de link para a instância de sincronização de dados. A tabela a seguir descreve esses parâmetros em detalhes.
Categoria
Parâmetro
Descrição
New Instance Class
Método de faturamento
-
Assinatura: Você paga ao criar a instância. Adequado para necessidades de longo prazo e mais econômico que o pagamento conforme o uso. Quanto maior a duração da assinatura, maior o desconto.
-
Pagamento conforme o uso: Cobrado por hora. Adequado para necessidades de curto prazo. Libere a instância imediatamente após o uso para economizar custos.
Configuração do grupo de recursos
O grupo de recursos ao qual a instância pertence. O padrão é o grupo de recursos padrão (default resource group). Para mais informações, consulte What is Resource Management?.
Especificação do link
O DTS fornece especificações de sincronização com diferentes níveis de desempenho. A especificação do link de sincronização afeta a taxa de sincronização. Escolha uma especificação com base no seu cenário de negócio. Para mais informações, consulte Data synchronization link specifications.
Duração da assinatura
No modo de assinatura, selecione a duração e a quantidade para a instância. Escolha uma assinatura mensal de 1 a 9 meses, ou uma assinatura anual de 1, 2, 3 ou 5 anos.
NotaEsta opção está disponível apenas quando o método de faturamento é Subscription.
-
Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Clique em Buy and Start. Na caixa de diálogo OK, clique em OK.
Acompanhe o progresso da tarefa na página Data Synchronization.
Informações de mapeamento
Na lista Selected Objects, passe o ponteiro do mouse sobre o nome do tópico de destino.
Clique em Edit ao lado do nome do tópico de destino.
-
Na caixa de diálogo, configure as informações de mapeamento.
NotaSe o mapeamento for configurado tanto no nível do banco de dados quanto no nível da tabela, o mapeamento no nível da tabela terá precedência.
Para o mapeamento no nível do banco de dados, use a caixa de diálogo Edit Schema. Para o mapeamento no nível da tabela, use a caixa de diálogo Edit Table.
Nível do banco de dados
Parâmetro
Descrição
Schema Name
O tópico de destino no qual o DTS grava os dados sincronizados. Por padrão, este é o Topic selecionado para o Destination Database na etapa Configurations for Source and Destination Databases.
Importante-
O nome do tópico especificado deve existir na instância de destino do Message Queue for RocketMQ. Caso contrário, a tarefa de sincronização de dados falhará.
-
Se você alterar o Schema Name, o DTS gravará os dados no tópico especificado.
Select DDL and DML Operations to Be Synchronized
Selecione as operações SQL para sincronização incremental.
Nível da tabela
Parâmetro
Descrição
Table Name
O tópico de destino no qual o DTS grava os dados sincronizados. Por padrão, este é o Topic selecionado para o Destination Database na etapa Configurations for Source and Destination Databases.
Importante-
O nome do tópico especificado deve existir na instância de destino do Message Queue for RocketMQ. Caso contrário, a tarefa de sincronização de dados falhará.
-
Se você alterar o Table Name, o DTS gravará os dados no tópico especificado.
Filter Conditions
Para mais informações, consulte Defina Filter Conditions.
Select DDL and DML Operations to Be Synchronized
Selecione as operações SQL para sincronização incremental.
Partition Key
Se você definir Rules of the ordered messages delivered to RocketMQ. como Deliver data based on hash values of a specified column., especifique uma ou mais colunas como chave de partição. O DTS então entregará as linhas em diferentes partições do tópico de destino com base no valor de hash calculado a partir da chave.
Clique em OK.