Saiba como usar o Data Transmission Service (DTS) para migrar dados de um cluster do PolarDB for PostgreSQL (Compatible with Oracle) para uma instância do Message Queue for Apache Kafka.
Pré-requisitos
No cluster de origem do PolarDB for PostgreSQL (Oracle-compatible), o parâmetro wal_level deve estar definido como logical para adicionar as informações necessárias para a decodificação lógica ao write-ahead logging (WAL). Para mais informações, consulte Set cluster parameters.
-
Crie uma instância de destino do Alibaba Cloud Message Queue for Kafka com mais espaço de armazenamento que o da instância de origem do PolarDB for PostgreSQL (Compatible with Oracle).
NotaPara obter informações sobre as versões compatíveis para a origem e o destino, consulte Migration solutions overview.
Crie um tópico na instância de destino do Alibaba Cloud Message Queue for Kafka para receber os dados migrados. Para obter instruções, consulte Step 1: Create a topic.
Limitações
|
Tipo |
Descrição |
|
Limitações do banco de dados de origem |
|
|
Outras limitações |
|
Faturamento
|
Tipo de migração |
Taxa de configuração da tarefa |
Taxa de tráfego de Internet |
|
Migração de schema e migração completa de dados |
Gratuito. |
O DTS cobra uma taxa de tráfego de Internet quando o Access Method do banco de dados de destino é definido como Public IP Address. Billing overview. |
|
Migração incremental de dados |
Há cobrança. Billing overview. |
Operações SQL suportadas para migração incremental
|
Tipo |
Instrução SQL |
|
DML |
INSERT, UPDATE e DELETE |
|
DDL |
Importante
|
Permissões da conta do banco de dados
|
Banco de dados |
Permissões |
Referências |
|
Cluster do PolarDB for PostgreSQL (Compatible with Oracle) |
Conta privilegiada |
Procedimento
-
Acesse a página da lista de tarefas de migração para a região de destino usando um dos seguintes métodos.
Pelo console do DTS
Faça login no console do Data Transmission Service (DTS).
No painel de navegação à esquerda, clique em Data Migration.
No canto superior esquerdo da página, selecione a região onde a instância de migração está localizada.
Pelo console do DMS
NotaAs operações reais podem variar com base no modo e no layout do console do DMS. Para mais informações, consulte Simple mode console e Customize the layout and style of the DMS console.
Faça login no console do Data Management (DMS).
Na barra de menu superior, escolha .
À direita de Data Migration Tasks, selecione a região onde a instância de migração está localizada.
Clique em Create Task para acessar a página de configuração da tarefa.
-
Configure os bancos de dados de origem e de destino.
NotaPara obter informações sobre como obter os parâmetros da instância de destino do Message Queue for Apache Kafka, consulte Configure parameters for a Message Queue for Apache Kafka instance.
Categoria
Parâmetro
Descrição
N/D
Task Name
O DTS gera automaticamente um nome para a tarefa. Recomendamos especificar um nome descritivo para fácil identificação. O nome não precisa ser único.
Source Database
Select Existing Connection
Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro é chamado de Select a DMS database instance..
Se não tiver registrado a instância do banco de dados no sistema ou não precisar usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione PolarDB (Compatible with Oracle).
Access Method
Selecione Alibaba Cloud Instance.
Instance Region
Selecione a região onde o cluster de origem do PolarDB (Compatible with Oracle) está localizado.
Replicate Data Across Alibaba Cloud Accounts
Neste exemplo, os dados são migrados dentro da mesma conta da Alibaba Cloud. Selecione No.
Instance ID
Selecione o ID da instância do cluster de origem do PolarDB (Compatible with Oracle).
Database Name
Insira o nome do banco de dados no cluster de origem do PolarDB (Compatible with Oracle) que contém os objetos a serem migrados.
Database Account
Insira a conta do banco de dados para o cluster de origem do PolarDB (Compatible with Oracle). Para obter informações sobre as permissões necessárias, consulte Required permissions for the database account.
Database Password
Insira a senha que corresponde à conta do banco de dados.
Destination Database
Select Existing Connection
Para usar uma instância de banco de dados que foi added to the system (criada ou salva), selecione a instância de banco de dados desejada na lista suspensa. As informações do banco de dados abaixo serão configuradas automaticamente.
NotaNo console do DMS, este parâmetro é chamado de Select a DMS database instance..
Se não tiver registrado a instância do banco de dados no sistema ou não precisar usar uma instância registrada, configure manualmente as informações do banco de dados abaixo.
Database Type
Selecione Kafka.
Access Method
Selecione Express Connect, VPN Gateway, or Smart Access Gateway.
NotaNesta etapa, a instância do Message Queue for Apache Kafka é configurada como um banco de dados Kafka autogerenciado para a instância de migração.
Instance Region
Selecione a região onde a instância de destino do Message Queue for Apache Kafka está localizada.
Connected VPC
Selecione o ID da Virtual Private Cloud (VPC) onde a instância de destino do Message Queue for Apache Kafka está localizada.
Domain Name or IP
Insira qualquer endereço IP do Default Endpoint da instância de destino do Message Queue for Apache Kafka.
Port Number
Insira a porta de service da instância de destino do Message Queue for Apache Kafka. O valor padrão é 9092.
Database Account
Não é necessário configurar esses parâmetros neste exemplo.
Database Password
Kafka Version
Selecione a versão que corresponde à sua instância do Kafka.
Encryption
Com base em seus requisitos de negócios e segurança, selecione Non-encrypted ou SCRAM-SHA-256.
Topic
Na lista suspensa, selecione o Topic para receber dados.
Use Kafka Schema Registry
O Kafka Schema Registry é uma camada de service para seus metadados. Ele fornece uma API RESTful para armazenar e recuperar schemas Avro.
-
No: Não use o Kafka Schema Registry.
-
Yes: Use o Kafka Schema Registry. No campo URL or IP Address of Schema Registry, insira a URL ou o endereço IP registrado no Kafka Schema Registry para o seu schema Avro.
-
Após concluir a configuração, clique em Test Connectivity and Proceed na parte inferior da página.
NotaCertifique-se de que o intervalo de endereços IP do service DTS seja adicionado automática ou manualmente às configurações de segurança dos bancos de dados de origem e de destino para permitir o acesso dos servidores do DTS. Para mais informações, consulte Add DTS server IP addresses to a whitelist.
Se o banco de dados de origem ou de destino for um banco de dados autogerenciado (o Access Method não é Alibaba Cloud Instance), clique também em Test Connectivity na caixa de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure os objetos da tarefa.
-
Na página Configure Objects, configure os objetos que deseja migrar.
Parâmetro
Descrição
Migration Types
-
Se precisar executar apenas a migração completa de dados, selecione Schema Migration e Full Data Migration.
-
Para migração sem tempo de inatividade, selecione Schema Migration, Full Data Migration e Incremental Data Migration.
Nota-
Se o Access Method da instância Kafka de destino for Alibaba Cloud Instance, não há suporte para Schema Migration.
-
Se não selecionar Incremental Data Migration, não grave novos dados na instância de origem durante a migração de dados para garantir a consistência dos dados.
Processing Mode of Conflicting Tables
Precheck and Report Errors: Verifica se existem tabelas com os mesmos nomes no banco de dados de destino. Se não houver tabelas com os mesmos nomes, a pré-verificação será aprovada. Se houver, um erro será reportado durante a pré-verificação e a tarefa de migração de dados não será iniciada.
NotaSe uma tabela no banco de dados de destino tiver o mesmo nome, mas não puder ser facilmente excluída ou renomeada, altere o nome da tabela no banco de dados de destino. Para mais informações, consulte Object name mapping.
Ignore Errors and Proceed: Ignora a verificação de tabelas com os mesmos nomes.
AvisoSelecionar Ignore Errors and Proceed pode causar inconsistência de dados e riscos aos negócios. Por exemplo:
Se os schemas das tabelas forem consistentes e um registro no banco de dados de destino tiver o mesmo valor de chave primária que um registro no banco de dados de origem:
Durante a migração completa, o DTS mantém o registro no banco de dados de destino. O registro do banco de dados de origem não é migrado.
Durante a migração incremental, o DTS não mantém o registro no banco de dados de destino. O registro do banco de dados de origem sobrescreve o registro no banco de dados de destino.
Se os schemas das tabelas forem inconsistentes, apenas algumas colunas de dados podem ser migradas, ou a migração pode falhar. Prossiga com cautela.
Data Format in Kafka
Selecione o formato para armazenar dados na instância Kafka com base em seus requisitos de negócios.
-
Se selecionar Canal JSON, consulte Canal JSON para descrições e exemplos de parâmetros.
NotaAtualmente, apenas as regiões China (Qingdao) e China (Beijing) suportam o formato Canal JSON.
Se selecionar DTS Avro, analise os dados com base na definição do schema DTS Avro. Para mais informações, consulte a definição do schema DTS Avro e o exemplo de desserialização DTS Avro.
-
Se selecionar Shareplex JSON, consulte Shareplex JSON para descrições e exemplos de parâmetros.
Kafka Data Compression Format
Selecione um formato de compressão para mensagens Kafka com base em seus requisitos.
LZ4 (padrão): baixa taxa de compressão, alta velocidade de compressão.
GZIP: alta taxa de compressão, baixa velocidade de compressão.
NotaAlto consumo de CPU.
Snappy: taxa de compressão média, velocidade de compressão média.
Policy for Shipping Data to Kafka Partitions
Selecione uma policy com base em seus requisitos de negócios.
Message acknowledgement mechanism
Selecione um message acknowledgment mechanism com base em seus requisitos de negócios.
Topic That Stores DDL Information
Selecione o tópico para armazenar informações DDL.
NotaSe nenhum tópico for selecionado, o DTS armazenará as informações DDL no tópico de dados por padrão.
Capitalization of Object Names in Destination Instance
Você pode configurar a política de diferenciação de maiúsculas e minúsculas para os nomes dos objetos migrados, como bancos de dados, tabelas e colunas, na instância de destino. Por padrão, a DTS default policy está selecionada. Você também pode optar por manter a diferenciação de maiúsculas e minúsculas consistente com a política padrão do banco de dados de origem ou de destino. Para mais informações, consulte Case sensitivity of object names in the destination database.
Source Objects
Na caixa Source Objects, clique nos objetos a serem migrados e, em seguida, clique em
para movê-los para a caixa Selected Objects.NotaVocê pode selecionar tabelas como objetos de migração.
Selected Objects
Nenhuma configuração adicional é necessária neste exemplo. Use o recurso de mapeamento para definir o nome do Topic, o número de partições no Topic e a chave de partição para a tabela de origem na instância Kafka de destino. Para mais informações, consulte Mapping information.
Nota-
Se usar o recurso de mapeamento de nomes de objetos, a migração de outros objetos que dependem do objeto mapeado poderá falhar.
-
Para selecionar as operações SQL para migração incremental, clique com o botão direito em um objeto de migração na caixa Selected Objects e selecione as operações SQL desejadas na caixa de diálogo que aparece.
-
-
Clique em Next: Advanced Settings para configurar os parâmetros avançados.
Parâmetro
Descrição
Dedicated Cluster for Task Scheduling
Por padrão, o DTS agenda tarefas em um cluster compartilhado. Não é necessário selecionar um. Se desejar tarefas mais estáveis, adquira um dedicated cluster para executar tarefas de migração do DTS.
Retry Time for Failed Connections
Após o início da tarefa de migração, se a conexão com o banco de dados de origem ou de destino falhar, o DTS reportará um erro e iniciará imediatamente a reconexão. A duração padrão da nova tentativa é de 720 minutos. Você pode personalizar o tempo de nova tentativa para um valor entre 10 e 1440 minutos. Recomendamos definir a duração para mais de 30 minutos. Se o DTS se reconectar aos bancos de dados de origem e de destino dentro da duração especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
NotaPara várias instâncias do DTS que compartilham a mesma origem ou destino, o tempo de nova tentativa de rede é determinado pela configuração da última tarefa criada.
Como a tarefa é cobrada durante o período de nova tentativa de conexão, recomendamos personalizar o tempo de nova tentativa com base nas necessidades do seu negócio ou liberar a instância do DTS o mais rápido possível após a liberação das instâncias dos bancos de dados de origem e de destino.
Retry Time for Other Issues
Após o início da tarefa de migração, se ocorrer um problema não relacionado à conexão, como uma exceção de execução DDL ou DML, no banco de dados de origem ou de destino, o DTS reportará um erro e iniciará imediatamente a repetição da operação. A duração padrão da nova tentativa é de 10 minutos. Você pode personalizar o tempo de nova tentativa para um valor entre 1 e 1440 minutos. Recomendamos definir a duração para mais de 10 minutos. Se as operações relacionadas forem bem-sucedidas dentro da duração de nova tentativa especificada, a tarefa de migração será retomada automaticamente. Caso contrário, a tarefa falhará.
ImportanteO valor de Retry Time for Other Issues deve ser menor que o valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante a migração completa, o DTS consome recursos de leitura e gravação nos bancos de dados de origem e de destino, o que pode aumentar a carga do banco de dados. Se necessário, ative o throttling para a tarefa de migração completa. Defina Queries per second (QPS) to the source database, RPS of Full Data Migration e Data migration speed for full migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se selecionar Full Data Migration para Migration Types.
Você também pode adjust the full migration speed após a instância de migração estar em execução.
Enable Throttling for Incremental Data Migration
Se necessário, escolha definir limites de velocidade para a tarefa de migração incremental. Defina RPS of Incremental Data Migration e Data migration speed for incremental migration (MB/s) para reduzir a carga no banco de dados de destino.
NotaEste item de configuração está disponível apenas se selecionar Incremental Data Migration para Migration Types.
Você também pode adjust the incremental migration speed após a instância de migração estar em execução.
Environment Tag
Selecione uma tag de ambiente para identificar a instância com base em seus requisitos de negócios. Neste exemplo, não é necessário selecionar nenhuma tag.
Configure ETL
Escolha se deseja ativar o recurso de extração, transformação e carga (ETL). Para mais informações, consulte What is ETL?. Valores válidos:
-
Yes: Ativa o recurso ETL. Insira instruções de processamento de dados no editor de código. Para mais informações, consulte Configure ETL in a data migration or data synchronization task.
-
No: Desativa o recurso ETL.
Monitoring and Alerting
Defina se deseja configurar alertas e receber notificações com base nas necessidades do seu negócio.
No: Não define alertas.
Yes: Configure alertas definindo um alert threshold e um notificações de alerta. Se uma migração falhar ou a latência exceder o limiar, o sistema envia uma notificação de alerta.
-
-
Salve a tarefa e execute uma pré-verificação.
Para visualizar os parâmetros de configuração desta instância ao chamar a operação de API, passe o ponteiro do mouse sobre o botão Next: Save Task Settings and Precheck e clique em Preview OpenAPI parameters na dica que aparece.
Se não precisar visualizar ou já terminou de visualizar os parâmetros da API, clique em Next: Save Task Settings and Precheck na parte inferior da página.
NotaAntes do início da tarefa de migração, o DTS realiza uma pré-verificação. A tarefa só é iniciada após ser aprovada na pré-verificação.
Se a pré-verificação falhar, clique em View Details ao lado do item de verificação com falha, corrija o problema conforme as instruções e execute a pré-verificação novamente.
-
Se um aviso for reportado durante a pré-verificação:
Para itens de verificação que não podem ser ignorados, clique em View Details ao lado do item com falha, corrija o problema conforme as instruções e execute a pré-verificação novamente.
Para itens de verificação que podem ser ignorados, clique em Confirm Alert Details, Ignore, OK e Precheck Again para ignorar o item de alerta e executar a pré-verificação novamente. Optar por ignorar um aviso pode causar problemas como inconsistência de dados e representar riscos ao seu negócio.
-
Adquira a instância.
Quando o Success Rate for 100%, clique em Next: Purchase Instance.
-
Na página Purchase, selecione a especificação do link para a instância de migração de dados. Para mais informações, consulte a tabela a seguir.
Categoria
Parâmetro
Descrição
New Instance Class
Resource Group Settings
Selecione o grupo de recursos ao qual a instância pertence. O valor padrão é o grupo de recursos padrão. Para mais informações, consulte What is resource management?
Instance Class
O DTS fornece especificações de migração com diferentes níveis de desempenho. A especificação do link afeta a velocidade da migração. Selecione uma especificação com base no seu cenário de negócios. Para mais informações, consulte Data migration link specifications.
Após concluir a configuração, leia e selecione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Clique em Buy and Start. Na caixa de diálogo OK que aparece, clique em OK.
Acompanhe o progresso da tarefa de migração na página de lista de Data Migration Tasks.
NotaSe a tarefa de migração não incluir migração incremental, ela será interrompida automaticamente após a conclusão da migração completa. Após a interrupção da tarefa, seu Status muda para Completed.
Se a tarefa de migração incluir migração incremental, ela não será interrompida automaticamente. A tarefa de migração incremental continua em execução. Enquanto a tarefa de migração incremental estiver em execução, o Status da tarefa será Running.
Informações de mapeamento
Na área Selected Objects, passe o mouse sobre o nome do tópico de destino (no nível da tabela).
Clique em Edit ao lado do nome do tópico de destino.
-
Na caixa de diálogo Edit Table, configure as informações de mapeamento.
NotaA caixa de diálogo é intitulada Edit Schema no nível do schema e Edit Table no nível da tabela. A caixa de diálogo Edit Schema contém menos parâmetros.
Se não migrar um schema inteiro, você não poderá modificar Name of target Topic e Number of Partitions na caixa de diálogo Edit Schema.
Parâmetro
Descrição
Name of target Topic
O nome do tópico de destino que recebe dados da tabela de origem. Por padrão, este é o Topic selecionado na seção Destination Database durante a etapa Configurations for Source and Destination Databases.
Importante-
Para uma instância do Alibaba Cloud Message Queue for Apache Kafka, o tópico especificado já deve existir. Caso contrário, a migração de dados falhará. Para um banco de dados Kafka autogerenciado, se a tarefa de migração estiver configurada para criar o schema e a estrutura da tabela, o DTS tentará criar o tópico especificado.
-
Se modificar o Name of target Topic, os dados serão gravados no novo tópico.
Filter Conditions
Para mais informações, consulte Set filter conditions.
Number of Partitions
Especifica o número de partições para o tópico de destino.
Partition Key
Se definir o parâmetro Policy for Shipping Data to Kafka Partitions como Ship Data to Separate Partitions Based on Hash Values of Primary Keys, configure este parâmetro. Especifique uma ou mais colunas como chave de partição. O DTS calcula um valor de hash a partir da chave e usa esse valor para distribuir linhas pelas partições no tópico de destino. Caso contrário, essa política não será aplicada durante a fase de gravação incremental.
NotaVocê pode selecionar uma Partition Key apenas na caixa de diálogo Edit Table.
Clique em OK.