Você pode usar o Data Transmission Service (DTS) para migrar dados entre clusters do PolarDB for MySQL.
Atualmente, não é possível atualizar um cluster do PolarDB for MySQL para o MySQL 8.0. Em vez disso, crie um novo cluster do PolarDB for MySQL que execute o MySQL 8.0 e use este método para migrar dados do cluster original para o novo. Para migrações entre versões, crie um cluster do PolarDB for MySQL com pagamento conforme o uso para testar a compatibilidade. Após a conclusão do teste, libere o cluster.
Pré-requisitos
-
Crie os clusters do PolarDB for MySQL de origem e de destino. Para mais informações, consulte {{XREF_0}} e {{XREF_1}}.
NotaPara obter informações sobre as versões de banco de dados compatíveis, consulte {{XREF_2}}.
O cluster do PolarDB for MySQL de destino deve ter mais espaço de armazenamento do que o utilizado pelo cluster do PolarDB for MySQL de origem.
Limitações
O DTS migra chaves estrangeiras durante a migração de schema.
Durante a migração de dados completa e incremental, o DTS desativa temporariamente as verificações de restrição e cascatas de chave estrangeira no nível da sessão. Atualizações ou exclusões em cascata no banco de dados de origem enquanto a tarefa está em execução podem causar inconsistência de dados.
O DTS não oferece suporte à realização de migração completa em múltiplas etapas; a migração completa deve ser concluída em uma única operação. Se for necessário migrar dados em lotes, configure várias tarefas de migração.
Tipo | Descrição |
Limites do banco de dados de origem |
|
Outros limites |
|
Outras observações | O DTS executa periodicamente o comando CREATE DATABASE IF NOT EXISTS |
Faturamento
|
Tipo de migração |
Taxa de configuração da instância |
Taxa de tráfego de Internet |
|
Migração de schema e migração completa de dados |
Gratuito. |
Quando o parâmetro Access Method do banco de dados de destino está definido como Public IP Address, você é cobrado pelo tráfego de Internet. Para mais informações, consulte {{XREF_9}}. |
|
Migração incremental de dados |
Cobrado. Para mais informações, consulte {{XREF_11}}. |
Tipos de migração
-
Migração de schema
O Data Transmission Service (DTS) migra as definições de schema dos objetos de migração do banco de dados de origem para o banco de dados de destino.
-
O DTS oferece suporte à migração de schema para tabelas, visualizações (views), gatilhos (triggers), procedimentos armazenados (stored procedures) e funções.
NotaO
routine_bodyde procedimentos armazenados, oroutine_bodyde funções e oselect_statementde visualizações não são modificados. -
Durante a migração de schema, o DTS altera o
DEFINERparaINVOKERnas visualizações, procedimentos armazenados e funções a serem migrados. Essa ação altera o valor deSQL SECURITYparaINVOKER. O DTS também define oDEFINERcomo a conta do banco de dados de destino usada para a tarefa de migração.NotaO método de autenticação de segurança e o definer do banco de dados de origem não são modificados.
O DTS não migra as informações de conta e permissão (informações de USER) do banco de dados de origem. O DTS também altera o método de autenticação de segurança das visualizações, procedimentos armazenados e funções a serem migrados para INVOKER. Portanto, ao chamar esses objetos no banco de dados de destino, o invocador (invoker) deve ter permissões de leitura e gravação no banco de dados de destino. Caso contrário, a chamada falhará devido a permissões insuficientes. Se a conta do invocador já tiver permissões de leitura e gravação no banco de dados de destino, a chamada desses objetos não será afetada. Se desejar que o
DEFINERde um objeto no banco de dados de destino seja idêntico ao do banco de dados de origem, exclua o objeto que falha ao ser chamado no banco de dados de destino e recrie-o. Ao recriar o objeto, especifique oDEFINERoriginal na instrução de criação e certifique-se de que a conta definer exista no banco de dados de destino.
-
-
Migração completa
O DTS migra todos os dados históricos dos objetos de migração especificados do banco de dados de origem para o banco de dados de destino.
-
Migração incremental
Após a conclusão de uma migração completa, o DTS migra atualizações incrementais de dados do banco de dados de origem para o banco de dados de destino. A migração incremental permite migrar dados de forma tranquila, sem interromper suas aplicações autogerenciadas.
Operações SQL para migração incremental
Tipo de operação | Instrução SQL |
DML | INSERT, UPDATE, DELETE |
DDL |
|
Permissões da conta do banco de dados
|
Banco de dados |
Permissões |
|
Cluster do PolarDB for MySQL de origem |
Permissões de leitura nos objetos a serem migrados |
|
Cluster do PolarDB for MySQL de destino |
Permissões de leitura e gravação no banco de dados de destino |
Para clusters do PolarDB for MySQL, consulte {{XREF_12}}.
Procedimento
-
Acesse a página da lista de tarefas de migração para a região de destino usando um dos seguintes métodos.
Pelo console do DTS
Faça login no console do Data Transmission Service (DTS).
No painel de navegação à esquerda, clique em Data Migration.
No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS
NotaAs operações reais podem variar com base no modo e no layout do console do DMS. Para mais informações, consulte {{XREF_13}} e {{XREF_14}}.
Faça login no console do Data Management (DMS).
Na barra de menu superior, escolha .
À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.
-
Configure os bancos de dados de origem e de destino.
AvisoApós selecionar as instâncias de origem e de destino, recomendamos ler atentamente os limites exibidos na parte superior da página. Caso contrário, a tarefa poderá falhar ou poderá ocorrer inconsistência de dados.
Categoria
Configuração
Descrição
Nenhuma
Task Name
O DTS gera automaticamente um nome de tarefa. Recomendamos especificar um nome descritivo para fácil identificação. O nome não precisa ser exclusivo.
Source Database
Select Existing Connection
Para usar uma instância de banco de dados que foi {{XREF_15}} (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro é nomeado Select a DMS database instance..
Se você não registrou a instância do banco de dados no sistema, ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione PolarDB for MySQL.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região onde o cluster do PolarDB for MySQL de origem está localizado.
PolarDB Cluster ID
Insira o ID do cluster do PolarDB for MySQL de origem.
Database Account
Insira a conta do banco de dados do cluster do PolarDB for MySQL de origem. Para obter informações sobre as permissões necessárias, consulte {{XREF_16}}.
Database Password
Insira a senha da conta do banco de dados.
Encryption
Selecione um tipo de conexão conforme necessário. Para mais informações sobre o recurso de criptografia SSL, consulte {{XREF_17}}.
Destination Database
Select Existing Connection
Para usar uma instância de banco de dados que foi {{XREF_18}} (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro é nomeado Select a DMS database instance..
Se você não registrou a instância do banco de dados no sistema, ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione PolarDB for MySQL.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região onde o cluster do PolarDB for MySQL de destino está localizado.
PolarDB Cluster ID
Selecione o ID do cluster do PolarDB for MySQL de destino.
NotaSe o destino for um Multi-master Cluster (Limitless) no modo Read/Write (Automatic Read/Write Splitting), você deve adicionar o nó primário para o banco de dados e a tabela de destino ao endpoint de leitura/gravação, ou selecionar todos os nós primários. Isso é necessário porque os Multi-master Clusters usam um mecanismo de roteamento baseado em banco de dados e tabelas. Avalie o impacto do roteamento antes de selecionar os nós. Para mais informações, consulte {{XREF_19}}.
Database Account
Insira a conta do banco de dados do cluster do PolarDB for MySQL de destino. Para obter informações sobre as permissões necessárias, consulte {{XREF_20}}.
ImportanteUse uma conta privilegiada.
Database Password
Insira a senha da conta do banco de dados.
Encryption
Selecione um tipo de conexão conforme necessário. Para mais informações sobre o recurso de criptografia SSL, consulte {{XREF_21}}.
-
Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
NotaCertifique-se de que o segmento de endereços IP do serviço DTS seja adicionado automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso a partir dos servidores do DTS. Para mais informações, consulte {{XREF_22}}.
Se o banco de dados de origem ou de destino for um banco de dados autogerenciado (o Access Method não é Alibaba Cloud Instance), você também deve clicar em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure os objetos da tarefa.
-
Na página Configure Objects, configure os objetos que deseja migrar.
Configuração
Descrição
Migration Types
Se precisar realizar apenas uma migração completa, selecione Schema Migration e Full Data Migration.
Para realizar uma migração sem tempo de inatividade, selecione Schema Migration, Full Data Migration e Incremental Data Migration.
NotaSe não selecionar Schema Migration, certifique-se de que exista um banco de dados e tabelas para receber os dados no banco de dados de destino. Você também pode usar o recurso de mapeamento de nomes de objetos na caixa Selected Objects conforme necessário.
Se não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração de dados para garantir a consistência dos dados.
Method to Migrate Triggers in Source Database
Selecione um método para migrar gatilhos conforme necessário. Se os objetos a serem migrados não envolverem gatilhos, não será necessário configurar este parâmetro. Para mais informações, consulte {{XREF_23}}.
NotaEste parâmetro está disponível apenas quando você seleciona Schema Migration para Migration Types.
Processing Mode of Conflicting Tables
Precheck and Report Errors: Verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não existirem tabelas com os mesmos nomes, a pré-verificação é aprovada. Se existirem tabelas com os mesmos nomes, um erro é relatado durante a pré-verificação e a tarefa de migração de dados não é iniciada.
NotaSe uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, você poderá alterar o nome da tabela no banco de dados de destino. Para mais informações, consulte {{XREF_24}}.
Ignore Errors and Proceed: Ignora a verificação de tabelas com os mesmos nomes.
AvisoSelecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos ao negócio. Por exemplo:
Se os schemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem:
Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado.
Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem substitui o registro no banco de dados de destino.
Se os schemas das tabelas forem inconsistentes, apenas algumas colunas de dados poderão ser migradas, ou a migração poderá falhar. Prossiga com cautela.
Whether to migrate Event
Selecione se deseja migrar eventos do banco de dados de origem. Se selecionar Yes, etapas adicionais serão necessárias. {{XREF_25}}.
Source Objects
Selecione um ou mais objetos na seção Source Objects. Clique no ícone
e adicione os objetos à seção Selected Objects. NotaA granularidade para selecionar objetos de migração é schema, tabela e coluna. Se selecionar apenas tabelas ou colunas como objetos de migração, outros objetos, como visualizações, gatilhos e procedimentos armazenados, não serão migrados para o banco de dados de destino.
Selected Objects
-
Para alterar o nome de um único objeto de migração na instância de destino, clique com o botão direito do mouse no objeto na caixa Selected Objects. Para mais informações, consulte {{XREF_26}}.
-
Para alterar os nomes de vários objetos de migração na instância de destino, clique em Selected Objects no canto superior direito da caixa Batch Edit. Para mais informações, consulte {{XREF_27}}.
Nota-
Se usar o recurso de mapeamento de nomes de objetos, a migração de outros objetos que dependem do objeto mapeado poderá falhar.
-
Para filtrar dados usando uma cláusula WHERE, clique com o botão direito do mouse na tabela a ser migrada na caixa Selected Objects e defina a condição de filtro na caixa de diálogo que aparece. Para mais informações sobre como definir a condição, consulte {{XREF_28}}.
-
Para selecionar as operações SQL a serem migradas no nível do banco de dados ou da tabela, clique com o botão direito do mouse no objeto a ser migrado na caixa Selected Objects e selecione as operações SQL desejadas na caixa de diálogo que aparece. Para obter informações sobre as operações suportadas, consulte {{XREF_29}}.
-
Clique em Next: Advanced Settings para configurar parâmetros avançados.
Configuração
Descrição
Dedicated Cluster for Task Scheduling
Por padrão, o DTS agenda tarefas em um cluster compartilhado. Você não precisa selecionar um. Se desejar tarefas mais estáveis, compre um {{XREF_30}} para executar tarefas de migração do DTS.
Select the engine type of the destination database
Selecione um tipo de mecanismo para o banco de dados de destino conforme necessário.
-
InnoDB: O mecanismo de armazenamento padrão.
-
X-Engine: Um mecanismo de armazenamento para bancos de dados de processamento de transações online (OLTP).
Copy the temporary table of the Online DDL tool that is generated in the source table to the destination database.
Se usar o {{XREF_31}} ou gh-ost para realizar alterações DDL online no banco de dados de origem, você poderá escolher se deseja migrar os dados das tabelas temporárias geradas pelas alterações DDL online.
ImportanteAs tarefas do DTS não oferecem suporte ao uso de ferramentas como pt-online-schema-change para realizar alterações DDL online. Caso contrário, a tarefa do DTS falhará.
Os métodos de processamento para cada fase são os seguintes: As fases de Schema Migration e Full Data Migration não permitem operações DDL que alterem a estrutura do banco de dados ou da tabela. Portanto, elas não são controladas pela política de DDL online.
Schema Migration: Não controlada pela política de DDL online. Tabelas temporárias relacionadas são criadas.
Full Data Migration: Não controlada pela política de DDL online. A migração de tabelas temporárias não está incluída nos objetos de migração completa. Todas as tabelas cujos nomes correspondem à expressão regular (
^_(.+)_(?:gho|new)$ou^_(.+)_(?:ghc|del|old)$) são filtradas.Incremental Data Migration: Controlada pela política de DDL online.
Yes: Migra alterações de dados de tabelas temporárias (por exemplo,
_table_name_gho) geradas por operações DDL online.No, Adapt to DMS Online DDL e No, Adapt to gh-ost: Filtra alterações de dados de tabelas temporárias (por exemplo,
_table_name_gho) geradas por ferramentas como gh-ost com base em regras de expressão regular.
Yes: Migra os dados das tabelas temporárias geradas pelas alterações DDL online.
NotaSe as alterações DDL online gerarem uma grande quantidade de dados em tabelas temporárias, isso poderá causar latência na tarefa.
No, Adapt to DMS Online DDL: Não migra os dados das tabelas temporárias geradas pelas alterações DDL online. Migra apenas as instruções DDL originais executadas usando o {{XREF_32}}.
NotaEsta opção faz com que as tabelas no banco de dados de destino sejam bloqueadas.
No, Adapt to gh-ost: Não migra os dados das tabelas temporárias geradas pelas alterações DDL online. Suporta regras de filtragem personalizadas. O DTS filtra alterações de dados de tabelas temporárias (por exemplo,
_table_name_gho) geradas por ferramentas como gh-ost com base em regras de expressão regular. Você pode modificar as expressões regulares padrão usadas para corresponder a tabelas sombra e inúteis conforme necessário:Tabela sombra:
^_(.+)_(?:gho|new)$Tabela inútil:
^_(.+)_(?:ghc|del|old)$
NotaEsta opção faz com que as tabelas no banco de dados de destino sejam bloqueadas.
Whether to Migrate Accounts
Selecione se deseja migrar informações de conta do banco de dados de origem conforme necessário. Se selecionar Yes, você também deverá selecionar as contas a serem migradas e confirmar suas permissões. Para mais informações sobre métodos de autorização, consulte {{XREF_33}}.
Retry Time for Failed Connections
Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS relatará um erro e começará imediatamente a tentar reconectar. A duração padrão da nova tentativa é de 720 minutos. Você pode personalizar o tempo de nova tentativa para um valor de 10 a 1440 minutos. Recomendamos definir a duração para mais de 30 minutos. Se o DTS se reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
NotaPara várias instâncias do DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada.
Como você é cobrado pela tarefa durante o período de nova tentativa de conexão, recomendamos personalizar o tempo de nova tentativa com base nas necessidades do seu negócio, ou liberar a instância do DTS o mais rápido possível após as instâncias de banco de dados de origem e de destino serem liberadas.
Retry Time for Other Issues
Após o início da tarefa de migração, se ocorrer um problema que não seja de conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS relatará um erro e começará imediatamente a tentar novamente a operação. A duração padrão da nova tentativa é de 10 minutos. Você pode personalizar o tempo de nova tentativa para um valor de 1 a 1440 minutos. Recomendamos definir a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
ImportanteO valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, você pode ativar o limitador para a tarefa de migração completa. Você pode definir Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se você selecionar Full Data Migration para Migration Types.
Você também pode {{XREF_34}} após a instância de migração estar em execução.
Enable Throttling for Incremental Data Migration
Se necessário, você também pode optar por definir limites de velocidade para a tarefa de migração incremental. Você pode definir RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se você selecionar Incremental Data Migration para Migration Types.
Você também pode {{XREF_35}} após a instância de migração estar em execução.
Environment Tag
Selecione uma tag de ambiente para identificar a instância conforme necessário. Para este exemplo, não é necessário selecionar uma tag.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Escolha se deseja gravar informações SQL de heartbeat no banco de dados de origem enquanto a instância do DTS está em execução.
-
Yes: As informações SQL de heartbeat não são gravadas no banco de dados de origem. Isso pode fazer com que a instância do DTS relate um atraso.
-
No: Grava informações SQL de heartbeat no banco de dados de origem. Isso pode interferir em recursos como backup físico e clonagem do banco de dados de origem.
Configure ETL
Escolha se deseja ativar o recurso de extração, transformação e carregamento (ETL). Para mais informações, consulte {{XREF_36}} Valores válidos:
-
Yes: Ativa o recurso ETL. Insira instruções de processamento de dados no editor de código. Para mais informações, consulte {{XREF_37}}.
-
No: Desativa o recurso ETL.
Monitoring and Alerting
Selecione se deseja definir alertas e receber notificações de alerta com base nas necessidades do seu negócio.
No: Não define um alerta.
Yes: Configure alertas definindo um {{XREF_38}} e um notificações de alerta. Se uma migração falhar ou a latência exceder o limiar, o sistema enviará uma notificação de alerta.
-
-
Clique em Next: Data Validation para configurar uma tarefa de validação de dados.
Para mais informações sobre o recurso de validação de dados, consulte {{XREF_39}}.
-
-
Salve a tarefa e execute uma pré-verificação.
Para visualizar os parâmetros de configuração desta instância ao chamar a operação da API, mova o ponteiro sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters na dica que aparece.
Se não precisar visualizar ou já tiver terminado de visualizar os parâmetros da API, clique em Next: Save Task Settings and Precheck na parte inferior da página.
NotaAntes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa só é iniciada após ser aprovada na pré-verificação.
Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema com base na instrução e execute a pré-verificação novamente.
-
Se um aviso for relatado durante a pré-verificação:
Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema com base na instrução e execute a pré-verificação novamente.
Para itens de verificação que podem ser ignorados, clique em Confirm Alert Details, Ignore, OK e Precheck Again para pular o item de alerta e executar a pré-verificação novamente. Se optar por ignorar um aviso, isso poderá causar problemas como inconsistência de dados e representar riscos para o seu negócio.
-
Compre uma instância.
Quando a Success Rate for de 100%, clique em Next: Purchase Instance.
-
Na página Purchase, selecione a especificação de link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.
Categoria
Parâmetro
Descrição
New Instance Class
Resource Group Settings
Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é o grupo de recursos padrão. Para mais informações, consulte {{XREF_40}}
Instance Class
O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Selecione uma especificação com base no seu cenário de negócios. Para mais informações, consulte {{XREF_41}}.
Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Clique em Buy and Start. Na caixa de diálogo OK que aparece, clique em OK.
Você pode visualizar o progresso da tarefa de migração na página de lista Data Migration Tasks.
NotaSe a tarefa de migração não incluir migração incremental, ela será interrompida automaticamente após a conclusão da migração completa. Após a interrupção da tarefa, seu Status muda para Completed.
Se a tarefa de migração incluir migração incremental, ela não será interrompida automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.