Use o Data Transmission Service (DTS) para migrar dados de um cluster do PolarDB for MySQL para uma instância do AnalyticDB for PostgreSQL.
Pré-requisitos
É necessário que você crie uma instância de destino do AnalyticDB for PostgreSQL. Para mais informações, consulte Create an AnalyticDB for PostgreSQL instance.
A instância de destino do AnalyticDB for PostgreSQL deve ter mais espaço de armazenamento disponível do que o espaço utilizado pelo cluster de origem do PolarDB for MySQL.
Observações de uso
O DTS migra chaves estrangeiras durante a migração de esquema.
Durante a migração de dados completa e incremental, o DTS desativa temporariamente as verificações de restrições e as cascatas de chaves estrangeiras no nível da sessão. Atualizações ou exclusões em cascata no banco de dados de origem durante a execução da tarefa podem causar inconsistência de dados.
O DTS não oferece suporte à migração completa em várias etapas; a migração completa deve ser concluída em uma única operação. Para migrar dados em lotes, configure várias tarefas de migração e envie-as.
Tipo | Descrição |
Limitações do banco de dados de origem |
|
Outras limitações |
|
Outras observações de uso |
|
Faturamento
|
Tipo de migração |
Taxa de configuração da instância |
Taxa de tráfego de Internet |
|
Migração de esquema e migração completa de dados |
Gratuito. |
Quando o parâmetro Access Method do banco de dados de destino é definido como Public IP Address, há cobrança de tráfego de Internet. Para mais informações, consulte Billing overview. |
|
Migração incremental de dados |
Pago. Para mais informações, consulte Billing overview. |
Tipos de migração
-
Migração de esquema
O DTS migra esquemas de objetos do banco de dados de origem para o banco de dados de destino.
-
Migração completa de dados
O DTS migra todos os dados existentes do banco de dados de origem para o banco de dados de destino.
-
Migração incremental de dados
Com base na migração completa de dados, o DTS migra dados incrementais do banco de dados de origem para o banco de dados de destino. Esse processo garante uma migração tranquila com tempo de inatividade mínimo para suas aplicações autogerenciadas.
Operações SQL para migração incremental
Tipo | Instrução SQL |
DML | INSERT, UPDATE e DELETE Nota O sistema converte automaticamente uma instrução UPDATE em uma instrução REPLACE INTO ao gravar na instância de destino do AnalyticDB for PostgreSQL. Se uma instrução UPDATE modificar uma chave primária, o sistema a converterá em instruções DELETE e INSERT. |
DDL | CREATE TABLE, ALTER TABLE, TRUNCATE TABLE e DROP TABLE |
Requisitos de permissão para contas de banco de dados
Banco de dados | Requisitos de permissão | Referências |
Cluster do PolarDB for MySQL | Permissões de leitura nos objetos a serem migrados | |
AnalyticDB for PostgreSQL | Permissões de leitura e gravação no banco de dados de destino para os objetos a serem migrados | Nota Você também pode usar uma conta com a permissão RDS_SUPERUSER. Para obter instruções, consulte Manage users and permissions. |
Procedimento
-
É necessário que você acesse a página da lista de tarefas de migração da região de destino por um dos seguintes métodos.
Pelo console do DTS
Faça login no console do Data Transmission Service (DTS).
No painel de navegação à esquerda, clique em Data Migration.
No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS
NotaAs operações reais podem variar dependendo do modo e do layout do console do DMS. Para mais informações, consulte Simple mode console e Customize the layout and style of the DMS console.
Faça login no console do Data Management (DMS).
Na barra de menu superior, escolha .
À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.
-
Configure os bancos de dados de origem e de destino.
Seção
Parâmetro
Descrição
N/A
Task Name
O DTS gera automaticamente um nome de tarefa. Recomendamos especificar um nome descritivo para facilitar a identificação. O nome não precisa ser exclusivo.
Source Database
Select Existing Connection
Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro é nomeado Select a DMS database instance..
Se você não registrou a instância do banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione PolarDB for MySQL.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região da instância de origem do PolarDB for MySQL.
Cross-account
Este exemplo é para uma migração dentro da mesma conta do Alibaba Cloud. Selecione No.
PolarDB Cluster ID
Selecione o ID da instância de origem do PolarDB for MySQL.
Database Account
Por favor, insira a conta do banco de dados da instância de origem do PolarDB for MySQL. Certifique-se de que você gerencie as permissões corretamente. Para obter informações sobre as permissões necessárias, consulte Permission requirements for database accounts.
Database Password
Por favor, insira a senha da conta do banco de dados.
Encryption
Selecione um tipo de conexão conforme necessário. Para mais informações sobre o recurso de criptografia ssl, consulte Enable SSL encryption.
Destination Database
Select Existing Connection
Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro é nomeado Select a DMS database instance..
Se você não registrou a instância do banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione AnalyticDB for PostgreSQL.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região da instância de destino do AnalyticDB for PostgreSQL.
Instance ID
Selecione o ID da instância de destino do AnalyticDB for PostgreSQL.
Database Name
Por favor, insira o nome do banco de dados na instância de destino do AnalyticDB for PostgreSQL para onde você deseja migrar os objetos.
Database Account
Por favor, insira a conta do banco de dados da instância de destino do AnalyticDB for PostgreSQL. Certifique-se de que você gerencie as permissões corretamente. Para obter informações sobre as permissões necessárias, consulte Permission requirements for database accounts.
Database Password
Por favor, insira a senha da conta do banco de dados.
-
Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
NotaCertifique-se de que o segmento de endereços IP do service DTS seja adicionado automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso a partir dos servidores do DTS. Para mais informações, consulte Add DTS server IP addresses to a whitelist.
Se o banco de dados de origem ou de destino for um banco de dados autogerenciado (o Access Method não é Alibaba Cloud Instance), clique também em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure os objetos da tarefa.
-
Na página Configure Objects, configure os objetos que você deseja migrar.
Parâmetro
Descrição
Migration Types
Se você precisar executar apenas uma migração completa, selecione Schema Migration e Full Data Migration.
Para executar uma migração sem tempo de inatividade, selecione Schema Migration, Full Data Migration e Incremental Data Migration.
NotaSe você não selecionar Schema Migration, garanta que exista um banco de dados e tabelas para receber os dados no banco de dados de destino. Você também pode usar o recurso de mapeamento de nomes de objetos na caixa Selected Objects conforme necessário.
Se você não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração de dados para garantir a consistência dos dados.
Processing Mode for Existing Destination Tables
Precheck and Report Errors: o DTS verifica se há tabelas com os mesmos nomes no banco de dados de destino. A pré-verificação é aprovada se nenhuma tabela desse tipo for encontrada. Se existirem duplicatas, um erro é relatado durante a pré-verificação e a tarefa de migração de dados não pode ser iniciada.
NotaSe você não puder excluir ou renomear as tabelas no banco de dados de destino, altere os nomes das tabelas no banco de dados de destino. Para mais informações, consulte Map table and column names.
Clear Destination Table: limpa os dados existentes das tabelas de destino. Prossiga com cuidado.
Ignore Errors and Proceed: ignora a verificação de tabelas com os mesmos nomes no banco de dados de destino.
AvisoSe você selecionar Ignore Errors and Proceed, poderá ocorrer inconsistência de dados e sua empresa ficará exposta a riscos. Por exemplo:
Se os bancos de dados de origem e de destino tiverem o mesmo esquema e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem:
Durante uma migração completa, o DTS retém o registro no banco de dados de destino e não migra o registro do banco de dados de origem.
Durante uma migração incremental, o registro do banco de dados de origem sobrescreve o registro no banco de dados de destino.
Se os bancos de dados de origem e de destino tiverem esquemas diferentes, os dados poderão falhar ao serem inicializados, apenas algumas colunas poderão ser migradas ou a migração poderá falhar.
Select DDL and DML operations for instance-level synchronization
Selecione as operações SQL para migração incremental no nível da instância. Para obter informações sobre as operações suportadas, consulte Supported SQL operations for incremental migration.
NotaPara selecionar operações SQL para migração incremental no nível do banco de dados ou da tabela, clique com o botão direito do mouse em um objeto de migração na caixa Selected Objects e selecione as operações SQL que deseja migrar na caixa de diálogo que aparece.
Case Sensitivity Policy for Destination Object Names
Configure a política de diferenciação de maiúsculas e minúsculas para os nomes de bancos de dados, tabelas e colunas na instância de destino. Por padrão, DTS default policy está selecionado. Você também pode selecionar uma política para ser consistente com o banco de dados de origem ou de destino. Para mais informações, consulte Case sensitivity policy for destination object names.
Storage Engine Type
Selecione um mecanismo de armazenamento para as tabelas de destino com base nos requisitos da sua empresa. O valor padrão é Beam.
NotaEste parâmetro está disponível apenas se a instância de destino do AnalyticDB for PostgreSQL tiver uma versão de kernel v7.0.6.6 ou posterior e você tiver selecionado Migration Types para o parâmetro Schema Migration.
Source Objects
Selecione um ou mais objetos na seção Source Objects. Clique no ícone
e adicione os objetos à seção Selected Objects. NotaA granularidade para selecionar objetos de migração é esquema, tabela e coluna. Se você selecionar apenas tabelas ou colunas como objetos de migração, outros objetos, como visualizações, gatilhos e procedimentos armazenados, não serão migrados para o banco de dados de destino.
Selected Objects
-
Para alterar o nome de um único objeto de migração na instância de destino, clique com o botão direito do mouse no objeto na caixa Selected Objects. Para mais informações, consulte Map individual schema, table, and column names.
-
Para alterar os nomes de vários objetos de migração na instância de destino, clique em Selected Objects no canto superior direito da caixa Batch Edit. Para mais informações, consulte Map multiple schema, table, and column names.
NotaSe você usar o recurso de mapeamento de nomes de objetos, a migração de objetos dependentes poderá falhar.
Para especificar condições WHERE para filtrar dados, clique com o botão direito do mouse em uma tabela a ser migrada na caixa Selected Objects e especifique as condições de filtro na caixa de diálogo que aparece. Para mais informações, consulte Set filter conditions.
Para selecionar operações SQL a serem migradas no nível do banco de dados ou da tabela, clique com o botão direito do mouse em um objeto de migração na caixa Selected Objects e selecione as operações SQL desejadas na caixa de diálogo que aparece.
-
Clique em Next: Advanced Settings para configurar parâmetros avançados.
Parâmetro
Descrição
Dedicated Cluster for Task Scheduling
Por padrão, o DTS agenda tarefas em um cluster compartilhado. Você não precisa selecionar um. Se desejar tarefas mais estáveis, adquira um dedicated cluster para executar tarefas de migração do DTS.
Copy temporary tables created by online DDL tools from the source table to the destination database
Se você usar o Data Management (DMS) ou gh-ost para executar alterações DDL online no banco de dados de origem, poderá escolher se deseja migrar os dados das tabelas temporárias geradas pelas alterações DDL online.
ImportanteAs tarefas do DTS não oferecem suporte ao uso de ferramentas como pt-online-schema-change para executar alterações DDL online. Caso contrário, a tarefa do DTS falhará.
Os métodos de processamento para cada fase são os seguintes: as fases Schema Migration e Full Data Migration não permitem operações DDL que alterem a estrutura do banco de dados ou da tabela. Portanto, elas não são controladas pela política de DDL online.
Schema Migration: não controlada pela política de DDL online. Tabelas temporárias relacionadas são criadas.
Full Data Migration: não controlada pela política de DDL online. A migração de tabelas temporárias não está incluída nos objetos de migração completa. Todas as tabelas cujos nomes correspondem à expressão regular (
^_(.+)_(?:gho|new)$ou^_(.+)_(?:ghc|del|old)$) são filtradas.Incremental Data Migration: controlada pela política de DDL online.
Yes: migra alterações de dados de tabelas temporárias (por exemplo,
_table_name_gho) geradas por operações DDL online.No, Adapt to DMS Online DDL e No, Adapt to gh-ost: filtra alterações de dados de tabelas temporárias (por exemplo,
_table_name_gho) geradas por ferramentas como gh-ost com base em regras de expressão regular.
Yes: migra os dados das tabelas temporárias geradas pelas alterações DDL online.
NotaSe as alterações DDL online gerarem uma grande quantidade de dados em tabelas temporárias, isso poderá causar latência na tarefa.
No, Adapt to DMS Online DDL: não migra os dados das tabelas temporárias geradas pelas alterações DDL online. Migra apenas as instruções DDL originais executadas usando o Data Management (DMS).
NotaEsta opção faz com que as tabelas no banco de dados de destino sejam bloqueadas.
No, Adapt to gh-ost: não migra os dados das tabelas temporárias geradas pelas alterações DDL online. Suporta regras de filtragem personalizadas. O DTS filtra alterações de dados de tabelas temporárias (por exemplo,
_table_name_gho) geradas por ferramentas como gh-ost com base em regras de expressão regular. Modifique as expressões regulares padrão usadas para corresponder a tabelas sombra e inúteis conforme necessário:Tabela sombra:
^_(.+)_(?:gho|new)$Tabela inútil:
^_(.+)_(?:ghc|del|old)$
NotaEsta opção faz com que as tabelas no banco de dados de destino sejam bloqueadas.
Retry Time for Failed Connections
Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS relatará um erro e começará imediatamente a tentar reconectar. A duração padrão de nova tentativa é de 720 minutos. Personalize o tempo de nova tentativa para um valor de 10 a 1440 minutos. Recomendamos definir a duração para mais de 30 minutos. Se o DTS reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
NotaPara várias instâncias do DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada.
Como há cobrança pela tarefa durante o período de nova tentativa de conexão, recomendamos personalizar o tempo de nova tentativa com base nas necessidades da sua empresa ou liberar a instância do DTS o mais rápido possível após a liberação das instâncias de banco de dados de origem e de destino.
Retry Time for Other Issues
Após o início da tarefa de migração, se ocorrer um problema de não conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS relatará um erro e começará imediatamente a tentar repetir a operação. A duração padrão de nova tentativa é de 10 minutos. Personalize o tempo de nova tentativa para um valor de 1 a 1440 minutos. Recomendamos definir a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
ImportanteO valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, ative o limitador de taxa para a tarefa de migração completa. Defina Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se você selecionar Full Data Migration para Migration Types.
Você também pode adjust the full migration speed após a instância de migração estar em execução.
Enable Throttling for Incremental Data Migration
Se necessário, opte por definir limites de velocidade para a tarefa de migração incremental. Defina RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se você selecionar Incremental Data Migration para Migration Types.
Você também pode adjust the incremental migration speed após a instância de migração estar em execução.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
É importante que você escolha se deseja gravar informações SQL de heartbeat no banco de dados de origem quando a instância do DTS estiver em execução.
-
Yes: as informações SQL de heartbeat não são gravadas no banco de dados de origem. Isso pode fazer com que a instância do DTS relate um atraso.
-
No: grava informações SQL de heartbeat no banco de dados de origem. Isso pode interferir em recursos como backup físico e clonagem do banco de dados de origem.
Environment Tag
Selecione tags de ambiente para identificar a instância. Neste exemplo, você não precisa selecionar uma tag.
Configure ETL
É importante que você escolha se deseja ativar o recurso de extração, transformação e carga (ETL). Para mais informações, consulte What is ETL?. Valores válidos:
-
Yes: ativa o recurso ETL. Por favor, insira instruções de processamento de dados no editor de código. Para mais informações, consulte Configure ETL in a data migration or data synchronization task.
-
No: desativa o recurso ETL.
Monitoring and Alerting
Defina se deseja configurar alertas e receber notificações de alerta com base nas necessidades da sua empresa.
No: não define um alerta.
Yes: configure alertas definindo um alert threshold e um notificações de alerta. Se uma migração falhar ou a latência exceder o limiar, o sistema enviará uma notificação de alerta.
-
Após configurar os parâmetros, clique em Next: Configure Database and Table Fields na parte inferior da página para definir as colunas de chave primária e chave de distribuição para as tabelas a serem migradas na instância de destino do AnalyticDB for PostgreSQL.
NotaEsta página aparece apenas se Schema Migration estiver selecionado para Migration Types. Para mais informações sobre colunas de chave primária e chave de distribuição, consulte Manage tables e Define table distribution.
-
-
Por favor, salve a tarefa e execute uma pré-verificação.
Para que você visualize os parâmetros de configuração desta instância ao chamar a operação da API do DTS, mova o ponteiro sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters no balão que aparece.
Se você não precisar visualizar ou já terminou de visualizar os parâmetros da API, clique em Next: Save Task Settings and Precheck na parte inferior da página.
NotaAntes do início da tarefa de migração, o DTS executa uma pré-verificação. A tarefa só é iniciada após ser aprovada na pré-verificação.
Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema com base na instrução e execute a pré-verificação novamente.
-
Se um aviso for relatado durante a pré-verificação:
Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema com base na instrução e execute a pré-verificação novamente.
Para itens de verificação que podem ser ignorados, confirme os detalhes clicando em Confirm Alert Details, Ignore, OK e Precheck Again para pular o item de alerta e executar a pré-verificação novamente. Se você optar por ignorar um aviso, isso poderá causar problemas como inconsistência de dados e representar riscos para a sua empresa.
-
Adquira a instância.
Quando a Success Rate for de 100%, clique em Next: Purchase Instance.
-
Na página Purchase, selecione a especificação do link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.
Categoria
Parâmetro
Descrição
New Instance Class
Resource Group Settings
Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é o grupo de recursos padrão. Para mais informações, consulte What is resource management?.
Instance Class
O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade de migração. Selecione uma especificação com base no cenário da sua empresa. Para mais informações, consulte Data migration link specifications.
Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Clique em Buy and Start. Na caixa de diálogo OK que aparece, clique em OK.
Visualize o progresso da tarefa de migração na página de lista Data Migration Tasks.
NotaSe a tarefa de migração não incluir migração incremental, ela será interrompida automaticamente após a conclusão da migração completa. Após a interrupção da tarefa, seu Status muda para Completed.
Se a tarefa de migração incluir migração incremental, ela não será interrompida automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.