O Data Transmission Service (DTS) permite migrar dados de uma instância do ApsaraDB RDS for MariaDB para uma instância do ApsaraDB RDS for PostgreSQL.
Pré-requisitos
Crie uma instância de destino do ApsaraDB RDS for PostgreSQL com capacidade de armazenamento superior ao espaço utilizado pela instância de origem do ApsaraDB RDS for MariaDB. Para mais informações, consulte Quickly create an ApsaraDB RDS for PostgreSQL instance.
Crie um banco de dados na instância de destino do ApsaraDB RDS for PostgreSQL para armazenar os dados migrados. Para mais informações, consulte Create an account and a database.
Limitações
O DTS migra chaves estrangeiras durante a migração de schema.
Durante a migração completa e incremental de dados, o DTS desativa temporariamente as verificações de restrições e cascatas de chaves estrangeiras no nível da sessão. Atualizações ou exclusões em cascata no banco de dados de origem enquanto a tarefa está em execução podem causar inconsistência de dados.
O DTS não permite realizar uma migração completa em várias etapas; a migração completa deve ser concluída em uma única operação. Caso precise migrar dados em lotes, configure várias tarefas de migração.
|
Tipo |
Descrição |
|
Limitações do banco de dados de origem |
|
|
Outras limitações |
|
Faturamento
|
Tipo de migração |
Taxa de configuração de link |
Taxa de tráfego de internet |
|
Migração de schema e migração completa de dados |
Gratuito. |
A migração de dados para fora da Alibaba Cloud pela internet incorre em uma taxa de tráfego de internet. Para mais informações, consulte Billing overview. |
|
Migração incremental de dados |
Cobrado. Para mais informações, consulte Billing overview. |
Tipos de migração
-
Migração de schema
O DTS migra os schemas dos objetos selecionados do banco de dados de origem para o de destino.
-
Migração completa de dados
O DTS migra todos os dados existentes nos objetos selecionados do banco de dados de origem para o de destino.
-
Migração incremental de dados
Após a conclusão da migração completa de dados, o DTS migra as alterações contínuas de dados do banco de dados de origem para o de destino, minimizando o tempo de inatividade da aplicação.
Operações SQL suportadas para migração incremental
|
Tipo de operação |
Instrução SQL |
|
DML |
INSERT, UPDATE, DELETE |
Permissões necessárias para contas de banco de dados
|
Banco de dados |
Migração de schema |
Migração completa de dados |
Migração incremental de dados |
|
Instância do ApsaraDB RDS for MariaDB |
SELECT |
SELECT |
REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW e SELECT |
|
ApsaraDB RDS for PostgreSQL |
CREATE e USAGE nos objetos de migração |
Permissões de proprietário no schema |
Permissões de proprietário no schema |
Para criar contas e conceder permissões:
Para uma instância do ApsaraDB RDS for MariaDB, consulte Create an account e Modify or reset account permissions.
Para uma instância do ApsaraDB RDS for PostgreSQL, consulte Create an account e Authorize the service account.
Procedimento
-
Acesse a página da lista de tarefas de migração da região de destino usando um dos seguintes métodos.
Pelo console do DTS
Faça login no console do Data Transmission Service (DTS).
No painel de navegação à esquerda, clique em Data Migration.
No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS
NotaAs operações reais podem variar com base no modo e layout do console do DMS. Para mais informações, consulte Simple mode console e Customize the layout and style of the DMS console.
Faça login no console do Data Management (DMS).
Na barra de menu superior, escolha .
À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.
-
Opcional: No canto superior direito da página, clique em New Configuration Page.
NotaSe você já estiver na nova página de configuração (o botão no canto superior direito é Back to Previous Version), pule esta etapa.
Os parâmetros nas páginas de configuração nova e antiga são diferentes. Recomendamos o uso da nova página de configuração.
-
Configure os bancos de dados de origem e de destino.
Seção
Parâmetro
Descrição
N/A
Task Name
O DTS gera automaticamente um nome de tarefa. Especifique um nome descritivo para facilitar a identificação. O nome não precisa ser exclusivo.
Source Database
Select Existing Connection
Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro é denominado Select a DMS database instance..
Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione MariaDB.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região onde a instância de origem do ApsaraDB RDS for MariaDB está localizada.
Replicate Data Across Alibaba Cloud Accounts
Neste exemplo, é usada uma instância de banco de dados sob a conta atual da Alibaba Cloud. Selecione No.
Instance ID
Selecione o ID da instância de origem do ApsaraDB RDS for MariaDB.
Database Account
Insira a conta do banco de dados para a instância de origem do ApsaraDB RDS for MariaDB. Para requisitos de permissão, consulte Required permissions for database accounts.
Database Password
Insira a senha da conta do banco de dados.
Connection Method
O método de conexão padrão para uma instância do ApsaraDB RDS for MariaDB é Non-encrypted.
Destination Database
Select Existing Connection
Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro é denominado Select a DMS database instance..
Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione PostgreSQL.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região onde a instância de destino do ApsaraDB RDS for PostgreSQL está localizada.
Instance ID
Selecione o ID da instância de destino do ApsaraDB RDS for PostgreSQL.
Database Name
Insira o nome do banco de dados de destino que receberá os objetos migrados.
Database Account
Insira a conta do banco de dados para a instância de destino do ApsaraDB RDS for PostgreSQL.
Database Password
Insira a senha da conta do banco de dados.
Encryption
Especifica se deve criptografar a conexão com o banco de dados de origem. Você pode configurar este parâmetro com base nos seus requisitos de negócios. Neste exemplo, Non-encrypted está selecionado.
Se desejar estabelecer uma conexão criptografada por SSL com o banco de dados de origem, execute as seguintes etapas: Selecione SSL-encrypted, faça upload do CA Certificate, Client Certificate e Private Key of Client Certificate conforme necessário e, em seguida, especifique a Private Key Password of Client Certificate.
Nota-
Se você definir Encryption como SSL-encrypted para um banco de dados PostgreSQL autogerenciado, deverá fazer upload do CA Certificate.
-
Se quiser usar o certificado de cliente, você deve fazer upload do Client Certificate e da Private Key of Client Certificate e especificar a Private Key Password of Client Certificate.
-
Para obter informações sobre como configurar a criptografia SSL para uma instância do ApsaraDB RDS for PostgreSQL, consulte SSL encryption.
-
Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
NotaCertifique-se de que o segmento de endereço IP do service do DTS seja adicionado automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso dos servidores do DTS. Para mais informações, consulte Add DTS server IP addresses to a whitelist.
Se o banco de dados de origem ou de destino for um banco de dados autogerenciado (o Access Method não é Alibaba Cloud Instance), você também deve clicar em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure os objetos da tarefa.
-
Na página Configure Objects, configure os objetos que deseja migrar.
Parâmetro
Descrição
Migration Types
Se precisar realizar apenas uma migração completa, selecione tanto Schema Migration quanto Full Data Migration.
Para realizar uma migração sem tempo de inatividade, selecione Schema Migration, Full Data Migration e Incremental Data Migration.
NotaSe não selecionar Schema Migration, você deve garantir que exista um banco de dados e tabelas para receber os dados no banco de dados de destino. Você também pode usar o recurso de mapeamento de nomes de objetos na caixa Selected Objects conforme necessário.
Se não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração de dados para garantir a consistência dos dados.
Processing Mode of Conflicting Tables
Precheck and Report Errors: Verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não existirem tabelas com os mesmos nomes, a pré-verificação é aprovada. Se existirem tabelas com os mesmos nomes, um erro é relatado durante a pré-verificação e a tarefa de migração de dados não é iniciada.
NotaSe uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, você poderá alterar o nome da tabela no banco de dados de destino. Para mais informações, consulte Object name mapping.
Ignore Errors and Proceed: Ignora a verificação de tabelas com os mesmos nomes.
AvisoSelecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos aos negócios. Por exemplo:
Se os schemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem:
Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado.
Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem sobrescreve o registro no banco de dados de destino.
Se os schemas das tabelas forem inconsistentes, apenas algumas colunas de dados poderão ser migradas ou a migração poderá falhar. Prossiga com cautela.
Source Objects
Na caixa Source Objects, clique nos objetos a serem migrados e, em seguida, clique em
para movê-los para a caixa Selected Objects.NotaVocê pode selecionar objetos no nível do banco de dados, tabela ou coluna.
Selected Objects
-
Para alterar o nome de um único objeto de migração na instância de destino, clique com o botão direito do mouse no objeto na caixa Selected Objects. Para mais informações, consulte Map individual schema, table, and column names.
-
Para alterar os nomes de vários objetos de migração na instância de destino, clique em Selected Objects no canto superior direito da caixa Batch Edit. Para mais informações, consulte Map multiple schema, table, and column names.
Nota-
Se você usar o recurso de mapeamento de nomes de objetos, outros objetos que dependem do objeto renomeado podem falhar na migração.
-
Para especificar uma cláusula WHERE para filtrar dados, clique com o botão direito do mouse na tabela no painel Selected Objects e defina a condição de filtro na caixa de diálogo que aparece. Para mais informações, consulte Set filter conditions.
-
Para selecionar as operações SQL a serem migradas no nível do banco de dados ou da tabela, clique com o botão direito do mouse no objeto no painel Selected Objects e selecione as operações SQL desejadas na caixa de diálogo que aparece.
-
Clique em Next: Advanced Settings para configurar parâmetros avançados.
Parâmetro
Descrição
Dedicated Cluster for Task Scheduling
Por padrão, o DTS agenda tarefas em um cluster compartilhado. Não é necessário selecionar um. Se desejar tarefas mais estáveis, você pode adquirir um dedicated cluster para executar tarefas de migração do DTS.
Retry Time for Failed Connections
Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS relatará um erro e começará imediatamente a tentar reconectar. A duração padrão de nova tentativa é de 720 minutos. Você pode personalizar o tempo de nova tentativa para um valor entre 10 e 1440 minutos. Recomendamos definir a duração para mais de 30 minutos. Se o DTS se reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
NotaPara várias instâncias do DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada.
Como você é cobrado pela tarefa durante o período de nova tentativa de conexão, recomendamos personalizar o tempo de nova tentativa com base nas necessidades do seu negócio ou liberar a instância do DTS o mais rápido possível após a liberação das instâncias de banco de dados de origem e de destino.
Retry Time for Other Issues
Após o início da tarefa de migração, se ocorrer um problema que não seja de conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS relatará um erro e começará imediatamente a tentar novamente a operação. A duração padrão de nova tentativa é de 10 minutos. Você pode personalizar o tempo de nova tentativa para um valor entre 1 e 1440 minutos. Recomendamos definir a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
ImportanteO valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, você pode ativar o limitador de velocidade para a tarefa de migração completa. É possível definir Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se você selecionar Full Data Migration em Migration Types.
Você também pode adjust the full migration speed após a instância de migração estar em execução.
Enable Throttling for Incremental Data Migration
Se necessário, você também pode optar por definir limites de velocidade para a tarefa de migração incremental. É possível definir RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se você selecionar Incremental Data Migration em Migration Types.
Você também pode adjust the incremental migration speed após a instância de migração estar em execução.
Environment Tag
Você pode selecionar uma tag de ambiente para identificar a instância. Nenhuma seleção é necessária para este exemplo.
Configure ETL
Com base nas suas necessidades de negócios, selecione se deseja configurar o ETL feature para processar dados.
Yes: Configura o recurso ETL. Você também deve inserir data processing statements na caixa de texto.
No: Não configura o recurso ETL.
Monitoring and Alerting
Selecione se deseja definir alertas e receber notificações de alerta com base nas suas necessidades de negócios.
No: Não define um alerta.
Yes: Configure alertas definindo um alert threshold e alert notifications. Se uma migração falhar ou a latência exceder o limiar, o sistema envia uma notificação de alerta.
-
-
Salve a tarefa e execute uma pré-verificação.
Para visualizar os parâmetros de configuração desta instância ao chamar a operação da api, passe o ponteiro do mouse sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters no balão que aparece.
Se não precisar visualizar ou já tiver terminado de visualizar os parâmetros da api, clique em Next: Save Task Settings and Precheck na parte inferior da página.
NotaAntes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa só começa após ser aprovada na pré-verificação.
Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema com base no aviso e execute a pré-verificação novamente.
-
Se um aviso for relatado durante a pré-verificação:
Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema com base no aviso e execute a pré-verificação novamente.
Para itens de verificação que podem ser ignorados, você pode clicar em Confirm Alert Details, Ignore, OK e Precheck Again para pular o item de alerta e executar a pré-verificação novamente. Se optar por ignorar um aviso, isso pode causar problemas como inconsistência de dados e representar riscos aos seus negócios.
-
Adquira a instância de migração.
Quando a Success Rate for de 100%, clique em Next: Purchase Instance.
-
Na página Purchase, selecione a especificação de link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.
Categoria
Parâmetro
Descrição
New Instance Class
Resource Group Settings
Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é default resource group. Para mais informações, consulte What is resource management?
Instance Class
O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Você pode selecionar uma especificação com base no seu cenário de negócios. Para mais informações, consulte Data migration link specifications.
Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Clique em Buy and Start. Na caixa de diálogo OK que aparece, clique em OK.
Você pode visualizar o progresso da tarefa de migração na página de lista Data Migration Tasks.
NotaSe a tarefa de migração não incluir migração incremental, ela será interrompida automaticamente após a conclusão da migração completa. Após a interrupção da tarefa, seu Status muda para Completed.
Se a tarefa de migração incluir migração incremental, ela não será interrompida automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.