Utilize o Data Transmission Service (DTS) para migrar dados de um banco de dados PostgreSQL autogerenciado para um cluster PolarDB for PostgreSQL (Compatible with Oracle).
Pré-requisitos
-
Crie previamente um cluster de destino PolarDB for PostgreSQL (Compatible with Oracle). Para mais informações, consulte {{XREF_0}}.
NotaPara obter informações sobre as versões compatíveis dos bancos de dados de origem e de destino, consulte {{XREF_1}}.
O espaço de armazenamento do cluster PolarDB for PostgreSQL (Compatible with Oracle) deve ser maior que o espaço utilizado pelo PostgreSQL autogerenciado.
Observações de uso
O DTS migra chaves estrangeiras durante a migração de esquema.
Durante a migração completa e incremental de dados, o DTS desativa temporariamente as verificações de restrições e cascatas de chave estrangeira no nível da sessão. Atualizações ou exclusões em cascata no banco de dados de origem enquanto a tarefa estiver em execução podem causar inconsistência de dados.
O DTS não oferece suporte à realização de migração completa em várias etapas; a migração completa deve ser concluída em uma única operação. Caso precise migrar dados em lotes, configure várias tarefas de migração.
Tipo | Descrição |
Limites do banco de dados de origem |
|
Outros limites |
|
Casos especiais |
|
Faturamento
|
Tipo de migração |
Taxa de configuração da instância |
Taxa de tráfego de Internet |
|
Migração de esquema e migração completa de dados |
Gratuito. |
Quando o parâmetro Access Method do banco de dados de destino estiver definido como Public IP Address, haverá cobrança de tráfego de Internet. Para mais informações, consulte {{XREF_5}}. |
|
Migração de dados incremental |
Pago. Para mais informações, consulte {{XREF_7}}. |
Tipos de migração
-
Migração de esquema
O DTS migra as definições de esquema dos objetos de migração do banco de dados de origem para o banco de dados de destino.
-
Migração completa
O DTS migra todos os dados históricos dos objetos de migração especificados do banco de dados de origem para o banco de dados de destino.
-
Migração incremental
Após a conclusão da migração completa, o DTS migra atualizações incrementais de dados do banco de dados de origem para o banco de dados de destino. A migração incremental permite migrar dados sem problemas e sem interromper suas aplicações autogerenciadas.
Objetos suportados
-
schema e table
NotaInclui chave primária, chave única, chave estrangeira, DATATYPE (tipo de dados integrado) e restrição padrão.
view, procedure (para PostgreSQL 11 ou posterior), function, rule, sequence, extension, trigger, aggregate, index, operator e domain
Operações SQL suportadas
Tipo de operação | Instrução SQL |
DML |
|
DDL |
|
Permissões da conta do banco de dados
Banco de dados | Migração de esquema | Migração completa de dados | Migração de dados incremental |
PostgreSQL autogerenciado | Permissão USAGE em pg_catalog | Permissão SELECT nos objetos de origem | superuser |
Cluster PolarDB for PostgreSQL (Compatible with Oracle) | Permissões de database owner Importante O database owner é especificado ao criar um banco de dados. | ||
Para criar uma conta de banco de dados e conceder permissões, consulte os seguintes tópicos:
Para um banco de dados PostgreSQL autogerenciado, consulte CREATE USER e GRANT.
Para um cluster PolarDB for PostgreSQL (Compatible with Oracle), consulte {{XREF_12}}.
Pré-requisitos
Se o banco de dados de origem for uma instância Amazon RDS for PostgreSQL, consulte {{XREF_13}}. Se for uma instância Amazon Aurora PostgreSQL, consulte {{XREF_14}}.
As etapas a seguir destinam-se ao Linux.
Siga estas etapas para todas as versões do PostgreSQL autogerenciado.
Faça login no servidor que hospeda seu banco de dados PostgreSQL autogerenciado.
-
Execute o seguinte comando para consultar o número de slots de replicação usados no banco de dados.
/usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/ali_decoding.so' /usr/bin/install -c -m 644 ./ali_decoding.control '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 644 ./ali_decoding--0.0.1.sql ./ali_decoding--unpackaged--0.0.1.sql '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/' -
Modifique o arquivo de configuração
postgresql.conf. Defina o parâmetrowal_levelcomologicale garanta que os parâmetrosmax_wal_sendersemax_replication_slotssejam maiores que o número de slots de replicação usados mais o número de instâncias DTS que planeja criar./usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/ali_decoding.so' /usr/bin/install -c -m 644 ./ali_decoding.control '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 644 ./ali_decoding--0.0.1.sql ./ali_decoding--unpackaged--0.0.1.sql '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/'NotaApós modificar o arquivo de configuração, reinicie o banco de dados PostgreSQL autogerenciado para aplicar as alterações.
-
Adicione os blocos CIDR dos servidores DTS ao arquivo de configuração pg_hba.conf do seu banco de dados PostgreSQL autogerenciado. Adicione apenas os blocos CIDR dos servidores DTS na região onde seu banco de dados de destino está localizado. Para mais informações, consulte {{XREF_15}}.
NotaApós modificar o arquivo de configuração, execute o comando
SELECT pg_reload_conf();ou reinicie o banco de dados PostgreSQL autogerenciado para aplicar as alterações.Para mais informações sobre as configurações neste arquivo, consulte The pg_hba.conf File. Se já definiu o endereço confiável como
0.0.0.0/0(como mostrado no exemplo a seguir), pule esta etapa.
No arquivo
pg_hba.conf, defina os endereços para conexões IPv4 e conexões de replicação como0.0.0.0/0e o método de autenticação comomd5. Configuração de exemplo:/usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/ali_decoding.so' /usr/bin/install -c -m 644 ./ali_decoding.control '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 644 ./ali_decoding--0.0.1.sql ./ali_decoding--unpackaged--0.0.1.sql '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/' Na instância do banco de dados de destino, crie bancos de dados e esquemas que correspondam aos objetos de origem que você está migrando.
Para versões do PostgreSQL autogerenciado de 9.4.8 a 10.0, siga estas etapas adicionais.
-
Baixe, compile e instale o código-fonte do PostgreSQL.
Baixe o código-fonte da sua versão do PostgreSQL autogerenciado no site oficial do PostgreSQL.
-
Execute os comandos
sudo ./configure,sudo makeesudo make installem sequência para configurar, compilar e instalar o código-fonte.ImportanteAo compilar e instalar o PostgreSQL, a versão do sistema operacional deve ser compatível com a versão do GNU Compiler Collection (GCC).
Se ocorrer um erro ao executar o comando
sudo ./configure, modifique o comando com base na mensagem de erro. Por exemplo, se a mensagem de erro forreadline library not found. Use --without-readline to disable readline support., altere o comando parasudo ./configure --without-readline.Se instalar o PostgreSQL usando outro método, compile o plug-in ali_decoding em um ambiente de teste que use as mesmas versões de sistema operacional e GCC do seu ambiente de produção.
-
Baixe, compile e instale o plug-in ali_decoding fornecido pelo DTS.
Baixe o ali_decoding.
-
Copie todo o diretório ali_decoding para o diretório
contribda sua instalação do PostgreSQL./usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/ali_decoding.so' /usr/bin/install -c -m 644 ./ali_decoding.control '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 644 ./ali_decoding--0.0.1.sql ./ali_decoding--unpackaged--0.0.1.sql '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/' -
Acesse o diretório ali_decoding e substitua o conteúdo do arquivo
Makefilepelo seguinte código:/usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/ali_decoding.so' /usr/bin/install -c -m 644 ./ali_decoding.control '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 644 ./ali_decoding--0.0.1.sql ./ali_decoding--unpackaged--0.0.1.sql '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/' Acesse o diretório ali_decoding. Execute os comandos
sudo makeesudo make installem sequência para compilar o plug-in ali_decoding e gerar os arquivos de instalação necessários.-
Copie os seguintes arquivos para os locais especificados.
/usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/ali_decoding.so' /usr/bin/install -c -m 644 ./ali_decoding.control '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 644 ./ali_decoding--0.0.1.sql ./ali_decoding--unpackaged--0.0.1.sql '/usr/local/pgsql/share/extension/' /usr/bin/install -c -m 755 ali_decoding.so '/usr/local/pgsql/lib/'
Na instância do banco de dados de destino, crie bancos de dados e esquemas que correspondam aos objetos de origem que você está migrando.
Procedimento
-
Acesse a página da lista de tarefas de migração da região de destino usando um dos seguintes métodos.
Pelo console do DTS
Faça login no console do Data Transmission Service (DTS).
No painel de navegação à esquerda, clique em Data Migration.
No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS
NotaAs operações reais podem variar com base no modo e layout do console do DMS. Para mais informações, consulte {{XREF_16}} e {{XREF_17}}.
Faça login no console do Data Management (DMS).
Na barra de menu superior, escolha .
À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.
-
Configure os bancos de dados de origem e de destino.
AvisoApós selecionar as instâncias de origem e de destino, leia os Limits no topo da página para garantir que a tarefa de migração seja executada com sucesso.
Categoria
Parâmetro
Descrição
N/A
Task Name
O DTS gera automaticamente um nome para a tarefa. Recomenda-se especificar um nome descritivo para facilitar a identificação. O nome não precisa ser único.
Source Database
Database Type
Selecione PostgreSQL.
Access Method
Selecione Self-managed Database Connected via Express Connect/VPN Gateway/Smart Access Gateway.
NotaSelecionar um banco de dados autogerenciado requer alguma preparação. Para mais informações, consulte {{XREF_18}}.
Instance Region
Selecione a região do banco de dados PostgreSQL autogerenciado.
Cross-account
Neste exemplo, os dados são migrados dentro da mesma conta Alibaba Cloud. Selecione No.
The VPC that has been connected to the source database
Selecione o ID da VPC à qual o banco de dados PostgreSQL autogerenciado pertence.
IP address
Insira o endereço IP do servidor do banco de dados PostgreSQL autogerenciado.
Port
Insira o número da porta de serviço do banco de dados PostgreSQL autogerenciado. O valor padrão é 5432.
Database Name
Insira o nome do banco de dados de origem que contém os objetos a serem migrados.
Database Account
Insira a conta do banco de dados PostgreSQL autogerenciado. Para informações sobre as permissões necessárias, consulte {{XREF_19}}.
Database Password
Insira a senha da conta do banco de dados.
Encryption
Especifica se a conexão com o banco de dados de origem deve ser criptografada. Configure este parâmetro conforme seus requisitos de negócios. Neste exemplo, Non-encrypted está selecionado.
Para estabelecer uma conexão criptografada por SSL com o banco de dados de origem, realize as seguintes etapas: Selecione SSL-encrypted, faça upload do CA Certificate, Client Certificate e Private Key of Client Certificate conforme necessário, e então especifique a Private Key Password of Client Certificate.
Nota-
Se definir Encryption como SSL-encrypted para um banco de dados PostgreSQL autogerenciado, faça upload do CA Certificate.
-
Para usar o certificado de cliente, faça upload do Client Certificate e da Private Key of Client Certificate e especifique a Private Key Password of Client Certificate.
-
Para informações sobre como configurar criptografia SSL para uma instância ApsaraDB RDS for PostgreSQL, consulte {{XREF_20}}.
Destination Database
Database Type
Selecione PolarDB (Compatible with Oracle).
Access Method
Selecione Self-managed Database Connected via Express Connect/VPN Gateway/Smart Access Gateway.
Instance Region
Selecione a região onde reside o cluster de destino PolarDB for PostgreSQL (Compatible with Oracle).
Connected VPC
Selecione o ID da VPC do cluster de destino PolarDB for PostgreSQL (Compatible with Oracle). O ID da VPC está na página Basic Information do cluster.
Domain Name or IP Address
Insira o endpoint do nó primário no cluster de destino PolarDB for PostgreSQL (Compatible with Oracle).
NotaExecute o comando
pingpara obter o endereço IP do endpoint de conexão direta do cluster de destino PolarDB for PostgreSQL (Compatible with Oracle).Port
Insira o número da porta de serviço do banco de dados de destino. O valor padrão é 1521.
Database Name
Insira o nome do banco de dados que conterá os objetos de migração no cluster de destino PolarDB for PostgreSQL (Compatible with Oracle).
Database Account
Insira a conta do banco de dados para o cluster de destino PolarDB for PostgreSQL (Compatible with Oracle). Para informações sobre as permissões necessárias, consulte {{XREF_21}}.
Database Password
Insira a senha da conta do banco de dados.
-
-
Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
NotaGaranta que o segmento de endereço IP do serviço DTS seja adicionado automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso dos servidores DTS. Para mais informações, consulte {{XREF_22}}.
Se o banco de dados de origem ou de destino for um banco de dados autogerenciado (o Access Method não é Alibaba Cloud Instance), clique também em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure os objetos da tarefa.
-
Na página Configure Objects, configure os objetos que deseja migrar.
Parâmetro
Descrição
Migration Types
Se precisar realizar apenas uma migração completa, selecione tanto Schema Migration quanto Full Data Migration.
Para realizar uma migração sem tempo de inatividade, selecione Schema Migration, Full Data Migration e Incremental Data Migration.
NotaSe não selecionar Schema Migration, garanta que exista um banco de dados e tabelas para receber os dados no banco de dados de destino. Use também o recurso de mapeamento de nomes de objetos na caixa Selected Objects conforme necessário.
Se não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração de dados para garantir a consistência dos dados.
Processing Mode of Conflicting Tables
Precheck and Report Errors: Verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não existirem tabelas com os mesmos nomes, a pré-verificação é aprovada. Se existirem tabelas com os mesmos nomes, um erro é reportado durante a pré-verificação e a tarefa de migração de dados não inicia.
NotaSe uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, altere o nome da tabela no banco de dados de destino. Para mais informações, consulte {{XREF_23}}.
Ignore Errors and Proceed: Ignora a verificação de tabelas com os mesmos nomes.
AvisoSelecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos aos negócios. Por exemplo:
Se os esquemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem:
Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado.
Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem sobrescreve o registro no banco de dados de destino.
Se os esquemas das tabelas forem inconsistentes, apenas algumas colunas de dados podem ser migradas, ou a migração pode falhar. Prossiga com cautela.
Source Objects
Na caixa Source Objects, clique nos objetos a serem migrados e, em seguida, clique em
para movê-los para a caixa Selected Objects.Nota-
Selecione objetos no nível de esquema ou tabela. Se selecionar tabelas, outros objetos como views, triggers e stored procedures não serão migrados.
-
Se uma tabela a ser migrada contiver colunas do tipo SERIAL e você tiver selecionado Migration Types para Schema Migration, selecione também Sequence ou migre o esquema inteiro.
Selected Objects
Para renomear um objeto que deseja migrar para a instância de destino, clique com o botão direito no objeto na caixa Selected Objects. Para mais informações, consulte {{XREF_24}}.
Para renomear vários objetos de uma vez, clique em Batch Edit no canto superior direito da caixa Selected Objects. Para mais informações, consulte {{XREF_25}}.
NotaSe usar o recurso de mapeamento de nomes de objetos para renomear um objeto, outros objetos que dependem do objeto renomeado podem falhar na migração.
Para filtrar dados usando condições WHERE, clique com o botão direito em uma tabela na caixa Selected Objects. Na caixa de diálogo que aparece, especifique as condições. Para mais informações, consulte {{XREF_26}}.
Para selecionar as operações SQL a serem migradas no nível de banco de dados ou tabela, clique com o botão direito em um objeto na caixa Selected Objects e selecione as operações SQL desejadas na caixa de diálogo que aparece.
-
Clique em Next: Advanced Settings para configurar parâmetros avançados.
Parâmetro
Descrição
Dedicated Cluster for Task Scheduling
Por padrão, o DTS agenda tarefas em um cluster compartilhado. Não é necessário selecionar um. Se desejar tarefas mais estáveis, adquira um {{XREF_27}} para executar tarefas de migração do DTS.
Retry Time for Failed Connections
Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS reportará um erro e iniciará imediatamente uma nova tentativa de conexão. A duração padrão de nova tentativa é de 720 minutos. Personalize o tempo de nova tentativa para um valor entre 10 e 1440 minutos. Recomenda-se definir a duração para mais de 30 minutos. Se o DTS reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
NotaPara várias instâncias DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada.
Como há cobrança pela tarefa durante o período de nova tentativa de conexão, recomenda-se personalizar o tempo de nova tentativa com base nas necessidades do seu negócio ou liberar a instância DTS o mais rápido possível após a liberação das instâncias de banco de dados de origem e de destino.
Retry Time for Other Issues
Após o início da tarefa de migração, se ocorrer um problema não relacionado à conectividade, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS reportará um erro e iniciará imediatamente uma nova tentativa da operação. A duração padrão de nova tentativa é de 10 minutos. Personalize o tempo de nova tentativa para um valor entre 1 e 1440 minutos. Recomenda-se definir a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
ImportanteO valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, ative o throttling para a tarefa de migração completa. Defina Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se selecionar Full Data Migration em Migration Types.
Também é possível {{XREF_28}} após a instância de migração estar em execução.
Enable Throttling for Incremental Data Migration
Se necessário, também é possível definir limites de velocidade para a tarefa de migração incremental. Defina RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se selecionar Incremental Data Migration em Migration Types.
Também é possível {{XREF_29}} após a instância de migração estar em execução.
Environment Tag
Selecione uma tag de ambiente para identificar a instância. Neste exemplo, nenhuma tag é selecionada.
Configure ETL
Escolha se deseja ativar o recurso de extração, transformação e carregamento (ETL). Para mais informações, consulte {{XREF_30}} Valores válidos:
-
Yes: Ativa o recurso ETL. Insira instruções de processamento de dados no editor de código. Para mais informações, consulte {{XREF_31}}.
-
No: Desativa o recurso ETL.
Monitoring and Alerting
Selecione se deseja definir alertas e receber notificações de alerta com base nas necessidades do seu negócio.
No: Não define alerta.
Yes: Configure alertas definindo um {{XREF_32}} e um notificações de alerta. Se uma migração falhar ou a latência exceder o limiar, o sistema enviará uma notificação de alerta.
-
Clique em Next: Data Validation para configurar uma tarefa de validação de dados.
Para mais informações sobre o recurso de validação de dados, consulte {{XREF_33}}.
-
-
Salve a tarefa e execute uma pré-verificação.
Para visualizar os parâmetros de configuração desta instância ao chamar a operação de API, passe o ponteiro sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters no balão que aparece.
Se não precisar visualizar ou já tiver terminado de visualizar os parâmetros da API, clique em Next: Save Task Settings and Precheck na parte inferior da página.
NotaAntes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa inicia somente após ser aprovada na pré-verificação.
Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema com base no aviso e execute a pré-verificação novamente.
-
Se um aviso for reportado durante a pré-verificação:
Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema com base no aviso e execute a pré-verificação novamente.
Para itens de verificação que podem ser ignorados, clique em Confirm Alert Details, Ignore, OK e Precheck Again para pular o item de aviso e executar a pré-verificação novamente. Se optar por ignorar um aviso, isso pode causar problemas como inconsistência de dados e apresentar riscos ao seu negócio.
-
Adquira a instância.
Quando a Success Rate for 100%, clique em Next: Purchase Instance.
-
Na página Purchase, selecione a especificação de link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.
Categoria
Parâmetro
Descrição
New Instance Class
Resource Group Settings
Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é default resource group. Para mais informações, consulte {{XREF_34}}
Instance Class
O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Selecione uma especificação com base no seu cenário de negócios. Para mais informações, consulte {{XREF_35}}.
Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Clique em Buy and Start. Na caixa de diálogo OK que aparece, clique em OK.
Visualize o progresso da tarefa de migração na página de lista Data Migration Tasks.
NotaSe a tarefa de migração não incluir migração incremental, ela parará automaticamente após a conclusão da migração completa. Após a parada da tarefa, seu Status muda para Completed.
Se a tarefa de migração incluir migração incremental, ela não parará automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.