Aprenda a utilizar Data Transmission Service (DTS) para migrar datos desde un clúster de PolarDB for PostgreSQL (Compatible with Oracle) hacia una instancia de Message Queue for Apache Kafka.
Requisitos previos
En el clúster de origen de PolarDB for PostgreSQL (Oracle-compatible), el parámetro wal_level debe establecerse en logical para agregar la información necesaria para la decodificación lógica al registro de escritura anticipada (WAL). Para obtener más información, consulte Set cluster parameters.
-
Cree una instancia de destino de Alibaba Cloud Message Queue for Kafka con más espacio de almacenamiento que el utilizado por la instancia de origen de PolarDB for PostgreSQL (Compatible with Oracle).
NotaPara obtener información sobre las versiones compatibles para el origen y el destino, consulte Migration solutions overview.
Cree un topic en la instancia de destino de Alibaba Cloud Message Queue for Kafka para recibir los datos migrados. Para ver las instrucciones, consulte Step 1: Create a topic.
Limitaciones
|
Tipo |
Descripción |
|
Limitaciones de la base de datos de origen |
|
|
Otras limitaciones |
|
Facturación
|
Tipo de migración |
Cargo por configuración de tarea |
Cargo por tráfico de Internet |
|
Migración de esquema y migración completa de datos |
Sin costo. |
DTS cobra una tarifa por tráfico de Internet cuando el Access Method de la base de datos de destino se establece en Public IP Address. Billing overview. |
|
Migración incremental de datos |
Con costo. Billing overview. |
Operaciones SQL compatibles para migración incremental
|
Tipo |
Sentencia SQL |
|
DML |
INSERT, UPDATE y DELETE |
|
DDL |
Importante
|
Permisos de cuentas de base de datos
|
Base de datos |
Permisos |
Referencias |
|
Clúster de PolarDB for PostgreSQL (Compatible with Oracle) |
Cuenta con privilegios |
Procedimiento
-
Vaya a la página de lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
NotaPara obtener información sobre cómo obtener los parámetros de la instancia de destino de Message Queue for Apache Kafka, consulte Configure parameters for a Message Queue for Apache Kafka instance.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene que ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos siguiente se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione PolarDB (Compatible with Oracle).
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra el clúster de origen de PolarDB (Compatible with Oracle).
Replicate Data Across Alibaba Cloud Accounts
En este ejemplo, los datos se migran dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
Instance ID
Seleccione el ID de instancia del clúster de origen de PolarDB (Compatible with Oracle).
Database Name
Introduzca el nombre de la base de datos en el clúster de origen de PolarDB (Compatible with Oracle) que contiene los objetos a migrar.
Database Account
Introduzca la cuenta de la base de datos para el clúster de origen de PolarDB (Compatible with Oracle). Para obtener información sobre los permisos obligatorios, consulte Required permissions for the database account.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos siguiente se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione Kafka.
Access Method
Seleccione Express Connect, VPN Gateway, or Smart Access Gateway.
NotaEn este paso, la instancia de Message Queue for Apache Kafka se configura como una base de datos Kafka autogestionada para la instancia de migración.
Instance Region
Seleccione la región donde se encuentra la instancia de destino de Message Queue for Apache Kafka.
Connected VPC
Seleccione el ID de la Virtual Private Cloud (VPC) donde se encuentra la instancia de destino de Message Queue for Apache Kafka.
Domain Name or IP
Introduzca cualquier dirección IP del Default Endpoint de la instancia de destino de Message Queue for Apache Kafka.
Port Number
Introduzca el puerto de servicio de la instancia de destino de Message Queue for Apache Kafka. El valor predeterminado es 9092.
Database Account
No es necesario configurar estos parámetros en este ejemplo.
Database Password
Kafka Version
Seleccione la versión correspondiente a su instancia de Kafka.
Encryption
Según sus requisitos de negocio y seguridad, seleccione Non-encrypted o SCRAM-SHA-256.
Topic
En la lista desplegable, seleccione el Topic que recibirá los datos.
Use Kafka Schema Registry
Kafka Schema Registry es una capa de servicio para sus metadatos. Proporciona una API RESTful para almacenar y recuperar esquemas Avro.
-
No: No utilizar Kafka Schema Registry.
-
Yes: Utilizar Kafka Schema Registry. En el campo URL or IP Address of Schema Registry, introduzca la URL o dirección IP registrada en Kafka Schema Registry para su esquema Avro.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que el segmento de direcciones IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
Si la base de datos de origen o de destino es una base de datos autogestionada (el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
-
Si solo necesita realizar una migración completa de datos, seleccione tanto Schema Migration como Full Data Migration.
-
Para una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
Nota-
Si el Access Method para la instancia de destino de Kafka es Alibaba Cloud Instance, la opción Schema Migration no es compatible.
-
Si no selecciona Incremental Data Migration, no escriba nuevos datos en la instancia de origen durante la migración de datos para garantizar la coherencia de los datos.
Processing Mode of Conflicting Tables
Precheck and Report Errors: Comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se aprueba. Si existen tablas con los mismos nombres, se notifica un error durante la comprobación previa y la tarea de migración de datos no se inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar o cambiar de nombre fácilmente, puede modificar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: Omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y riesgos para el negocio. Por ejemplo:
Si los esquemas de las tablas son consistentes y un registro en la base de datos de destino tiene el mismo valor de clave primaria que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
Si los esquemas de las tablas son inconsistentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
Data Format in Kafka
Seleccione el formato para almacenar datos en la instancia de Kafka según sus requisitos de negocio.
-
Si selecciona Canal JSON, consulte Canal JSON para ver descripciones y ejemplos de parámetros.
NotaActualmente, solo las regiones China (Qingdao) y China (Beijing) admiten el formato Canal JSON.
Si selecciona DTS Avro, debe analizar sintácticamente los datos basándose en la definición del esquema DTS Avro. Para obtener más información, consulte definición del esquema DTS Avro y ejemplo de deserialización DTS Avro.
-
Si selecciona Shareplex JSON, consulte Shareplex JSON para ver descripciones y ejemplos de parámetros.
Kafka Data Compression Format
Seleccione un formato de compresión para los mensajes de Kafka según sus necesidades.
LZ4 (predeterminado): baja tasa de compresión, alta velocidad de compresión.
GZIP: alta tasa de compresión, baja velocidad de compresión.
NotaAlto consumo de CPU.
Snappy: tasa de compresión media, velocidad de compresión media.
Policy for Shipping Data to Kafka Partitions
Seleccione una policy según sus requisitos de negocio.
Message acknowledgement mechanism
Seleccione un message acknowledgment mechanism según sus requisitos de negocio.
Topic That Stores DDL Information
Seleccione el topic para almacenar la información DDL.
NotaSi no se selecciona ningún topic, DTS almacena la información DDL en el topic de datos de forma predeterminada.
Capitalization of Object Names in Destination Instance
Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados, como bases de datos, tablas y columnas, en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede optar por mantener la distinción entre mayúsculas y minúsculas consistente con la directiva predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects
En el cuadro Source Objects, haga clic en los objetos a migrar y luego haga clic en
para moverlos al cuadro Selected Objects.NotaPuede seleccionar tablas como objetos de migración.
Selected Objects
No se requieren configuraciones adicionales en este ejemplo. Puede usar la función de asignación para establecer el nombre del Topic, el número de particiones en el Topic y la clave de partición para la tabla de origen en la instancia de destino de Kafka. Para obtener más información, consulte Mapping information.
Nota-
Si utiliza la función de asignación de nombres de objetos, otros objetos que dependan del objeto asignado podrían fallar al migrarse.
-
Para seleccionar las operaciones SQL para la migración incremental, haga clic con el botón derecho en un objeto de migración en el cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar tareas de migración de DTS.
Retry Time for Failed Connections
Después de que se inicie la tarea de migración, si falla la conexión a la base de datos de origen o de destino, DTS notifica un error e intenta restablecer la conexión inmediatamente. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer la duración en más de 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades comerciales, o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicie la tarea de migración, si ocurre un problema que no sea de conectividad, como una excepción de ejecución DDL o DML, en la base de datos de origen o de destino, DTS notifica un error e intenta reintentar la operación inmediatamente. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer la duración en más de 10 minutos. Si las operaciones relacionadas tienen éxito dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration para Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede optar por establecer límites de velocidad para la tarea de migración incremental. Puede establecer RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration para Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus requisitos de negocio. No es necesario seleccionar ninguna etiqueta en este ejemplo.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca sentencias de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades comerciales.
No: No configura ninguna alerta.
Yes: Configure alertas estableciendo un alert threshold y unas alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de configuración de esta instancia al llamar a la operación de API, pase el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita ver los parámetros de API o ya terminó de verlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience la tarea de migración, DTS realiza una comprobación previa. La tarea solo se inicia después de aprobar dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento fallido, solucione el problema según la indicación y vuelva a ejecutar la comprobación previa.
-
Si se notifica una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento fallido, solucione el problema según la indicación y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de alerta y ejecutar la comprobación previa nuevamente. Si decide ignorar una advertencia, podría causar problemas como inconsistencia de datos y generar riesgos para su negocio.
-
Adquiera la instancia.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
Instance Class
DTS proporciona especificaciones de migración con diferentes niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista de Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Después de que la tarea se detenga, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental esté en ejecución, el Status de la tarea será Running.
Información de mapeo
En el área Selected Objects, pase el cursor sobre el nombre del topic de destino (a nivel de tabla).
Haga clic en Edit junto al nombre del topic de destino.
-
En el cuadro de diálogo Edit Table, configure la información de mapeo.
NotaEl título del cuadro de diálogo es Edit Schema a nivel de esquema y Edit Table a nivel de tabla. El cuadro de diálogo Edit Schema contiene menos parámetros.
Si no migra un esquema completo, no podrá modificar los campos Name of target Topic y Number of Partitions en el cuadro de diálogo Edit Schema.
Parámetro
Descripción
Name of target Topic
Nombre del topic de destino que recibe los datos de la tabla de origen. De forma predeterminada, este es el Topic que seleccionó en la sección Destination Database durante el paso Configurations for Source and Destination Databases.
Importante-
Para una instancia de Alibaba Cloud Message Queue for Apache Kafka, el topic especificado ya debe existir; de lo contrario, la migración de datos fallará. En el caso de una base de datos Kafka autogestionada, si la tarea de migración está configurada para crear la estructura del esquema y de la tabla, DTS intentará crear el topic especificado.
-
Si modifica el campo Name of target Topic, los datos se escribirán en el nuevo topic.
Filter Conditions
Para obtener más información, consulte Set filter conditions.
Number of Partitions
Especifica el número de particiones para el topic de destino.
Partition Key
Si establece el parámetro Policy for Shipping Data to Kafka Partitions en Ship Data to Separate Partitions Based on Hash Values of Primary Keys, debe configurar este parámetro. Especifique una o más columnas como clave de partición. DTS calcula un valor hash a partir de la clave y utiliza ese valor para distribuir las filas entre las particiones del topic de destino. De lo contrario, esta directiva no se aplicará durante la fase de escritura incremental.
NotaSolo puede seleccionar una Partition Key en el cuadro de diálogo Edit Table.
Haga clic en OK.