Este tópico descreve como usar o Data Transmission Service (DTS) para migrar esquemas, dados completos e dados incrementais entre instâncias do ApsaraDB RDS for PostgreSQL. Ao combinar esses três tipos de migração, você migra seu banco de dados sem tempo de inatividade.
Pré-requisitos
-
Crie as instâncias de origem e de destino do ApsaraDB RDS for PostgreSQL. Para mais informações, consulte Criar uma instância do ApsaraDB RDS for PostgreSQL.
NotaPara obter detalhes sobre as versões compatíveis dos bancos de dados de origem e de destino, consulte Overview of migration scenarios.
Para garantir a compatibilidade, o banco de dados de destino deve executar a mesma versão ou uma versão posterior à do banco de dados de origem. Migrar dados para uma versão anterior pode causar problemas de compatibilidade.
A instância de destino do ApsaraDB RDS for PostgreSQL precisa ter mais espaço de armazenamento do que o utilizado pela instância de origem do ApsaraDB RDS for PostgreSQL.
Observações de uso
Tipo | Descrição |
Limites do banco de dados de origem |
|
Outros limites |
|
Casos especiais | Não modifique o endpoint de conexão ou a zona de uma instância de origem do ApsaraDB RDS for PostgreSQL durante a migração, pois isso causará falha na tarefa. |
Tipos de migração
-
Migração de esquema
O DTS migra as definições de esquema dos objetos de migração do banco de dados de origem para o banco de dados de destino.
-
Migração completa
O DTS migra todos os dados históricos dos objetos de migração especificados do banco de dados de origem para o banco de dados de destino.
-
Migração incremental
Após a conclusão da migração completa, o DTS migra as atualizações incrementais de dados do banco de dados de origem para o banco de dados de destino. A migração incremental permite migrar dados continuamente sem interromper suas aplicações autogerenciadas.
Objetos suportados
-
schema e table
NotaIsso inclui chave primária, chave única, chave estrangeira, DATATYPE (tipo de dados integrado) e restrição padrão.
view, procedure (para PostgreSQL 11 ou posterior), function, rule, sequence, extension, trigger, aggregate, index, operator e domain
Operações SQL suportadas
|
Tipo de operação |
Operação SQL |
|
DML |
|
|
DDL |
|
Permissões da conta do banco de dados
|
Instância do banco de dados |
Migração de esquema |
Migração completa de dados |
Migração incremental de dados |
|
Instância de origem do ApsaraDB RDS for PostgreSQL |
Permissão USAGE no esquema |
Permissão SELECT nos objetos a serem migrados. |
Uma conta privilegiada proprietária do banco de dados selecionado. Nota
Se a instância de origem do ApsaraDB RDS for PostgreSQL executar o PostgreSQL 9.4 e você precisar migrar apenas operações DML, a conta precisará apenas da permissão REPLICATION. |
|
Instância de destino do ApsaraDB RDS for PostgreSQL |
Permissões CREATE e USAGE nos objetos de destino. |
Permissões de proprietário do esquema. |
|
Para criar uma conta de banco de dados para uma instância do ApsaraDB RDS for PostgreSQL e conceder permissões a ela, consulte Create an account e Create a database.
Procedimento
-
Acesse a página da lista de tarefas de migração da região de destino usando um dos métodos a seguir.
Pelo console do DTS
Faça login no console do Data Transmission Service (DTS).
No painel de navegação à esquerda, clique em Data Migration.
No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS
NotaAs operações reais podem variar dependendo do modo e do layout do console do DMS. Para mais informações, consulte Simple mode console e Customize the layout and style of the DMS console.
Faça login no console do Data Management (DMS).
Na barra de menu superior, escolha .
À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.
-
Configure os bancos de dados de origem e de destino.
AvisoApós selecionar as instâncias de origem e de destino, leia atentamente os limites exibidos na parte superior da página. Caso contrário, a tarefa poderá falhar ou ocorrer inconsistência de dados.
Seção
Parâmetro
Descrição
N/A
Task Name
O DTS gera automaticamente um nome para a tarefa. Recomenda-se especificar um nome descritivo para facilitar a identificação. O nome não precisa ser único.
Source Database
Select Existing Connection
Para usar uma instância de banco de dados já added to the system (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro chama-se Select a DMS database instance..
Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione PostgreSQL.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região onde a instância de origem do ApsaraDB RDS for PostgreSQL está localizada.
Instance ID
Selecione o ID da instância de origem do ApsaraDB RDS for PostgreSQL.
Database Name
Insira o nome do banco de dados na instância de origem do ApsaraDB RDS for PostgreSQL que contém os objetos a serem migrados.
Database Account
Insira a conta do banco de dados para a instância de origem do ApsaraDB RDS for PostgreSQL. Para informações sobre as permissões necessárias, consulte Permissions required for database accounts.
Database Password
Insira a senha da conta do banco de dados.
Encryption
Define se a conexão com o banco de dados de origem deve ser criptografada. Configure este parâmetro conforme os requisitos do seu negócio. Neste exemplo, Non-encrypted está selecionado.
Para estabelecer uma conexão criptografada por SSL com o banco de dados de origem, execute as seguintes etapas: Selecione SSL-encrypted, carregue o CA Certificate, o Client Certificate e a Private Key of Client Certificate conforme necessário e especifique a Private Key Password of Client Certificate.
Nota-
Se você definir Encryption como SSL-encrypted para um banco de dados PostgreSQL autogerenciado, carregue o CA Certificate.
-
Para usar o certificado de cliente, carregue o Client Certificate e a Private Key of Client Certificate e especifique a Private Key Password of Client Certificate.
-
Para informações sobre como configurar criptografia SSL para uma instância do ApsaraDB RDS for PostgreSQL, consulte SSL encryption.
Destination Database
Select Existing Connection
Para usar uma instância de banco de dados já added to the system (criada ou salva), selecione a instância desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro chama-se Select a DMS database instance..
Se você não registrou a instância de banco de dados no sistema ou não precisa usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione PostgreSQL.
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região onde a instância de destino do ApsaraDB RDS for PostgreSQL está localizada.
Instance ID
Selecione o ID da instância de destino do ApsaraDB RDS for PostgreSQL.
Database Name
Insira o nome do banco de dados na instância de destino do ApsaraDB RDS for PostgreSQL que receberá os objetos migrados.
Database Account
Insira a conta do banco de dados para a instância de destino do ApsaraDB RDS for PostgreSQL. Para informações sobre as permissões necessárias, consulte Permissions required for database accounts.
Database Password
Insira a senha da conta do banco de dados.
Encryption
Define se a conexão com o banco de dados de origem deve ser criptografada. Configure este parâmetro conforme os requisitos do seu negócio. Neste exemplo, Non-encrypted está selecionado.
Para estabelecer uma conexão criptografada por SSL com o banco de dados de origem, execute as seguintes etapas: Selecione SSL-encrypted, carregue o CA Certificate, o Client Certificate e a Private Key of Client Certificate conforme necessário e especifique a Private Key Password of Client Certificate.
Nota-
Se você definir Encryption como SSL-encrypted para um banco de dados PostgreSQL autogerenciado, carregue o CA Certificate.
-
Para usar o certificado de cliente, carregue o Client Certificate e a Private Key of Client Certificate e especifique a Private Key Password of Client Certificate.
-
Para informações sobre como configurar criptografia SSL para uma instância do ApsaraDB RDS for PostgreSQL, consulte SSL encryption.
-
Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
NotaCertifique-se de que os blocos CIDR de endereços IP dos servidores do DTS foram adicionados às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso dos servidores do DTS. Isso pode ser feito automática ou manualmente. Para mais informações, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
Se o banco de dados de origem ou de destino for um banco de dados autogerenciado (onde o Access Method não é Alibaba Cloud Instance), clique também em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers.
-
Configure os objetos da tarefa.
-
Na página Configure Objects, configure os objetos que deseja migrar.
Parâmetro
Descrição
Migration Types
-
Para migrar dados completos uma única vez, selecione Schema Migration e Full Data Migration.
-
Para migrar com tempo de inatividade mínimo, selecione Schema Migration, Full Data Migration e Incremental Data Migration.
Nota-
Se selecionar Schema Migration, o DTS migrará o esquema das tabelas a serem migradas, incluindo chaves estrangeiras, do banco de dados de origem para o banco de dados de destino.
-
Se não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração para garantir a consistência dos dados.
Processing Mode of Conflicting Tables
Precheck and Report Errors: Verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não existirem tabelas com os mesmos nomes, a pré-verificação é aprovada. Se existirem tabelas com os mesmos nomes, um erro é reportado durante a pré-verificação e a tarefa de migração de dados não inicia.
NotaSe uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, altere o nome da tabela no banco de dados de destino. Para mais informações, consulte Object name mapping.
Ignore Errors and Proceed: Ignora a verificação de tabelas com os mesmos nomes.
AvisoSelecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos ao negócio. Por exemplo:
Se os esquemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem:
Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado.
Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem sobrescreve o registro no banco de dados de destino.
Se os esquemas das tabelas forem inconsistentes, apenas algumas colunas de dados podem ser migradas ou a migração pode falhar. Prossiga com cautela.
Source Objects
Na caixa Source Objects, clique nos objetos a serem migrados e, em seguida, clique em
para movê-los para a caixa Selected Objects.Nota-
É possível selecionar objetos no nível de esquema ou de tabela. Se selecionar tabelas, outros objetos como views, triggers e stored procedures não serão migrados.
-
Se uma tabela a ser migrada contiver colunas do tipo SERIAL e você tiver selecionado Migration Types para Schema Migration, selecione também Sequence ou migre todo o esquema.
Selected Objects
-
Para alterar o nome de um único objeto de migração na instância de destino, clique com o botão direito do mouse no objeto na caixa Selected Objects. Para mais informações, consulte Map individual schema, table, and column names.
-
Para alterar os nomes de vários objetos de migração na instância de destino, clique em Selected Objects no canto superior direito da caixa Batch Edit. Para mais informações, consulte Map multiple schema, table, and column names.
Nota-
Se utilizar o recurso de mapeamento de nomes de objetos, outros objetos dependentes do objeto renomeado podem falhar na migração.
-
Para definir uma cláusula WHERE para filtrar dados, clique com o botão direito do mouse na tabela na caixa Selected Objects e especifique a condição de filtro na caixa de diálogo exibida. Para mais informações, consulte Set filter conditions.
-
Para selecionar as operações SQL incrementais a serem migradas no nível de banco de dados ou tabela, clique com o botão direito do mouse no objeto na caixa Selected Objects e selecione as operações SQL desejadas na caixa de diálogo exibida.
-
-
Clique em Next: Advanced Settings para configurar parâmetros avançados.
Parâmetro
Descrição
Dedicated Cluster for Task Scheduling
Por padrão, o DTS agenda tarefas em um cluster compartilhado. Não é necessário selecionar um. Para obter tarefas mais estáveis, adquira um dedicated cluster para executar tarefas de migração do DTS.
Retry Time for Failed Connections
Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS reportará um erro e iniciará imediatamente a tentativa de reconexão. A duração padrão de nova tentativa é de 720 minutos. Personalize o tempo de nova tentativa para um valor entre 10 e 1440 minutos. Recomenda-se definir a duração superior a 30 minutos. Se o DTS se reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
NotaPara múltiplas instâncias do DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada.
Como você é cobrado pela tarefa durante o período de nova tentativa de conexão, recomenda-se personalizar o tempo de nova tentativa com base nas necessidades do seu negócio ou liberar a instância do DTS assim que possível após a liberação das instâncias de banco de dados de origem e de destino.
Retry Time for Other Issues
Após o início da tarefa de migração, se ocorrer um problema não relacionado à conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS reportará um erro e iniciará imediatamente a tentativa de repetir a operação. A duração padrão de nova tentativa é de 10 minutos. Personalize o tempo de nova tentativa para um valor entre 1 e 1440 minutos. Recomenda-se definir a duração superior a 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
ImportanteO valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, ative o limitador de taxa para a tarefa de migração completa. Defina Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se você selecionar Full Data Migration em Migration Types.
Você também pode adjust the full migration speed após a instância de migração estar em execução.
Enable Throttling for Incremental Data Migration
Se necessário, também é possível definir limites de velocidade para a tarefa de migração incremental. Defina RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se você selecionar Incremental Data Migration em Migration Types.
Você também pode adjust the incremental migration speed após a instância de migração estar em execução.
Environment Tag
Selecione uma tag de ambiente para identificar a instância conforme os requisitos do seu negócio. Este exemplo não requer uma tag de ambiente.
Configure ETL
Escolha se deseja ativar o recurso de extração, transformação e carregamento (ETL). Para mais informações, consulte What is ETL? Valores válidos:
-
Yes: Ativa o recurso ETL. Insira instruções de processamento de dados no editor de código. Para mais informações, consulte Configure ETL in a data migration or data synchronization task.
-
No: Desativa o recurso ETL.
Monitoring and Alerting
Selecione se deseja definir alertas e receber notificações de alerta com base nas necessidades do seu negócio.
No: Não define alerta.
Yes: Configure alertas definindo um alert threshold e notificações de alerta. Se uma migração falhar ou a latência exceder o limiar, o sistema enviará uma notificação de alerta.
-
Clique em Next: Data Validation para configurar uma tarefa de validação de dados.
Para mais informações sobre o recurso de validação de dados, consulte Configure data validation.
-
-
Salve a tarefa e execute uma pré-verificação.
Para visualizar os parâmetros de configuração desta instância ao chamar a operação da API, passe o ponteiro sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters no balão exibido.
Se não precisar visualizar ou já tiver terminado de visualizar os parâmetros da API, clique em Next: Save Task Settings and Precheck na parte inferior da página.
NotaAntes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa só inicia após ser aprovada na pré-verificação.
Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema conforme a orientação e execute a pré-verificação novamente.
-
Se um aviso for reportado durante a pré-verificação:
Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema conforme a orientação e execute a pré-verificação novamente.
Para itens de verificação que podem ser ignorados, clique em Confirm Alert Details, Ignore, OK e Precheck Again para pular o item de aviso e executar a pré-verificação novamente. Se optar por ignorar um aviso, isso pode causar problemas como inconsistência de dados e representar riscos ao seu negócio.
-
Adquira a instância.
Quando a Success Rate for 100%, clique em Next: Purchase Instance.
-
Na página Purchase, selecione a especificação de link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.
Categoria
Parâmetro
Descrição
New Instance Class
Resource Group Settings
Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é default resource group. Para mais informações, consulte What is resource management?
Instance Class
O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Selecione uma especificação com base no seu cenário de negócio. Para mais informações, consulte Data migration link specifications.
Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Clique em Buy and Start. Na caixa de diálogo OK exibida, clique em OK.
Visualize o progresso da tarefa de migração na página de lista de Data Migration Tasks.
NotaSe a tarefa de migração não incluir migração incremental, ela será interrompida automaticamente após a conclusão da migração completa. Após a interrupção da tarefa, seu Status muda para Completed.
Se a tarefa de migração incluir migração incremental, ela não será interrompida automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.