Conozca cómo usar Data Transmission Service (DTS) para sincronizar datos de un clúster de PolarDB for MySQL hacia una instancia de Message Queue for Apache Kafka. Esto le permite ampliar sus capacidades de procesamiento de mensajes.
Requisitos previos
-
Cree una instancia de destino de ApsaraMQ for Kafka. Para obtener más información, consulte Overview.
NotaPara conocer las versiones compatibles del origen y el destino, consulte Overview of data synchronization solutions.
Cree un topic en la instancia de destino de ApsaraMQ for Kafka para recibir los datos sincronizados. Para obtener más información, consulte Step 1: Create a topic.
Límites
DTS no sincroniza las claves externas de la base de datos de origen a la de destino. Por lo tanto, las operaciones en cascada y de eliminación de la base de datos de origen no se sincronizan con la base de datos de destino.
Tipo | Descripción |
Límites de la base de datos de origen |
|
Otros límites |
|
Otras notas | DTS ejecuta periódicamente el comando CREATE DATABASE IF NOT EXISTS |
Límite de tamaño de un registro individual
El tamaño de un registro individual escrito en Kafka tiene un límite de 10 MB. Si una fila de la base de datos de origen supera los 10 MB, DTS no puede escribirla en Kafka y la tarea se interrumpe. En este caso, se recomienda no sincronizar la tabla afectada. Si necesita sincronizarla obligatoriamente, sincronice solo algunas columnas. Al configurar la tarea de DTS, filtre los registros con campos grandes. Si la tarea ya se está ejecutando, modifique los objetos de sincronización para quitar la tabla. Después, vuelva a agregarla y filtre las columnas con campos grandes para omitirlas en la sincronización.
Topologías de sincronización compatibles
Sincronización unidireccional uno a uno.
Sincronización unidireccional uno a varios.
Sincronización unidireccional varios a uno.
Sincronización unidireccional en cascada.
Para obtener más detalles y notas de uso importantes, consulte Introduction to data synchronization topologies.
Operaciones SQL compatibles
Tipo de operación | Sentencia SQL |
DML | INSERT, UPDATE y DELETE |
DDL |
|
Permisos de la cuenta de la base de datos
|
Base de datos |
Permisos |
|
Clúster de origen de PolarDB for MySQL |
Permisos de lectura sobre los objetos que se van a sincronizar. |
Procedimiento
-
Vaya a la página de la lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, lea detenidamente los límites que se muestran en la parte superior de la página. Si no respeta estos límites, la tarea podría fallar o producirse inconsistencias en los datos.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. El nombre no tiene que ser único.
Source Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita utilizar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione PolarDB for MySQL.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside el clúster de origen de PolarDB for MySQL.
Cross-account
En este escenario, los datos se sincronizan dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
PolarDB Cluster ID
Seleccione el ID del clúster de origen de PolarDB for MySQL.
Database Account
Introduzca la cuenta de la base de datos del clúster de origen de PolarDB for MySQL. Para conocer los permisos obligatorios, consulte Permissions required for the database account.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Connection Method
Seleccione Non-encrypted o SSL-encrypted según sus necesidades. Si selecciona SSL-encrypted, debe habilitar previamente el cifrado SSL para la instancia de RDS for MySQL. Para obtener más información, consulte Use a cloud certificate to quickly enable SSL encryption.
Encryption
Seleccione una opción según sus requisitos. Para obtener más información, consulte Configure SSL encryption.
Destination Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita utilizar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione Kafka.
Connection Type
Seleccione Express Connect, VPN Gateway, or Smart Access Gateway.
NotaEn este paso, la instancia de Message Queue for Apache Kafka se configura como una base de datos de Kafka autogestionada.
Instance Region
Seleccione la región donde reside la instancia de destino de Message Queue for Apache Kafka.
Connected VPC
Seleccione el ID de la Virtual Private Cloud (VPC) a la que pertenece la instancia de destino de Message Queue for Apache Kafka. Puede encontrar el ID de la VPC en la página Basic Information de la instancia de Kafka.
Hostname or IP address
Introduzca una dirección IP del Default Endpoint de la instancia de Message Queue for Apache Kafka.
NotaPuede obtener la dirección IP del Default Endpoint en la página Basic Information de la instancia de Message Queue for Apache Kafka.
Port Number
El puerto de servicio de la instancia de Message Queue for Apache Kafka. El valor predeterminado es 9092.
Database Account
Introduzca la cuenta de la base de datos de la instancia de destino de Message Queue for Apache Kafka.
NotaSi el tipo de instancia de Message Queue for Apache Kafka es VPC instance, no es necesario configurar Database Account ni Database Password.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Kafka Version
Seleccione la versión que coincida con su instancia de Kafka.
Connection Method
Seleccione Non-encrypted o SCRAM-SHA-256 según sus requisitos de negocio y seguridad.
Topic
En la lista desplegable, seleccione el topic que recibirá los datos sincronizados.
Use Kafka Schema Registry
Kafka Schema Registry es una capa de servicio de metadatos con una API RESTful para almacenar y recuperar esquemas Avro.
No: No utiliza Kafka Schema Registry.
Yes: Utiliza Kafka Schema Registry. Debe introducir la URL o la dirección IP registrada para el esquema Avro en Kafka Schema Registry.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino, para permitir el acceso desde dichos servidores. Este proceso se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
Si la base de datos de origen o de destino es autogestionada (es decir, cuando Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea sincronizar.
Parámetro
Descripción
Synchronization Types
Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
NotaSi el parámetro Access Method de la instancia de Kafka de destino es Alibaba Cloud Instance, Schema Synchronization no es compatible.
Processing Mode for Existing Tables in Destination
-
Precheck and Report Errors: Comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con ese nombre, la comprobación previa se supera correctamente. Si existe una tabla con el mismo nombre, la comprobación falla y la tarea de sincronización de datos no se inicia.
NotaSi no puede eliminar ni cambiar el nombre de la tabla duplicada en la base de datos de destino, puede asignarle un nombre distinto mediante mapeo. Para obtener más información, consulte Map table and column names.
-
Ignore Errors and Proceed: Omite la comprobación de nombres de tablas duplicados en la base de datos de destino.
AvisoSeleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo:
-
Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen:
-
Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza.
-
Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro de la base de datos de destino.
-
-
Si los esquemas de las tablas son distintos, la sincronización inicial de datos podría fallar. Esto puede provocar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
-
Data Format in Kafka
Seleccione el formato de almacenamiento de datos para la instancia de Kafka según sus necesidades.
Si selecciona DTS Avro, debe analizar sintácticamente los datos según la definición del esquema DTS Avro. Para obtener más información, consulte definición del esquema DTS Avro y ejemplo de deserialización DTS Avro.
Si selecciona Canal JSON, consulte Canal JSON format para ver descripciones y ejemplos de los parámetros.
Si selecciona Shareplex JSON, consulte Shareplex JSON format para ver descripciones y ejemplos de los parámetros.
Kafka Data Compression Format
Seleccione el formato de compresión de los mensajes de Kafka según sus requisitos de negocio.
LZ4 (predeterminado): La relación de compresión es baja, pero la velocidad de compresión es alta.
GZIP: La relación de compresión es alta, pero la velocidad de compresión es baja.
NotaEl consumo de CPU es alto.
Snappy: Tanto la relación como la velocidad de compresión son medias.
Policy for Shipping Data to Kafka Partitions
Seleccione una policy según sus requisitos de negocio.
Message acknowledgement mechanism
Seleccione un message acknowledgment mechanism según sus requisitos de negocio.
Topic That Stores DDL Information
Seleccione en la lista desplegable el topic que se usará para almacenar la información DDL.
NotaSi no se especifica ninguno, la información DDL se almacena de forma predeterminada en el topic que recibe los datos.
Case Sensitivity Policy for Destination Object Names
Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de los objetos de base de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la DTS default policy. También puede optar por usar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects
En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en
para moverlo al cuadro Selected Objects.NotaSolo puede seleccionar objetos para sincronizar a nivel de tabla.
Selected Objects
En este ejemplo no se requiere configuración adicional. Puede usar la función de mapeo para establecer el nombre del topic, el número de particiones y la clave de partición de la tabla de origen en la instancia de Kafka de destino. Para obtener más información, consulte Mapping information.
NotaPara seleccionar las operaciones SQL que desea sincronizar a nivel de esquema o de tabla, haga clic con el botón secundario en un objeto del panel Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.
Si utiliza el mapeo de nombres de objetos, la sincronización de los objetos dependientes podría fallar.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado donde ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Una vez iniciada la tarea de sincronización, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecerla en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
Nota-
Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y establece el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se aplicará la duración más corta de 30 minutos para ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de reintento según sus necesidades de negocio. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicie la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar DDL o DML), DTS reporta un error y comienza de inmediato a reintentar las operaciones de forma continua. La duración predeterminada de reintento es de 10 minutos. También puede personalizar esta duración en un rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se completan correctamente dentro del tiempo de reintento configurado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo cual puede aumentar su carga. Para reducir dicha carga, puede establecer un límite de velocidad para la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir la información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: No se escribe la información SQL de latido en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso.
-
No: Escribe la información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia. En este ejemplo no es necesario seleccionar ninguna.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Monitoring and Alerting
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta.
-
No: No se configuran alertas.
-
Yes: Configure las alertas estableciendo un umbral y especificando un notificación de alerta. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
-
-
-
Guarde la tarea y ejecute una comprobación previa.
Para consultar los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.
Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se superan todos los elementos de dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento que falló. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si la comprobación previa devuelve una advertencia:
Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos, lo cual representa un riesgo para su negocio.
-
Adquiera una instancia.
Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. En la siguiente tabla se describen estos parámetros en detalle.
Categoría
Parámetro
Descripción
New Instance Class
Billing Method
-
Subscription: Paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento.
-
Pay-as-you-go: Se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
Resource Group Configuration
El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
Link Specification
DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Puede elegir una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
Subscription Duration
En el modo de suscripción, seleccione la duración y la cantidad para la instancia. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años.
NotaEsta opción solo está disponible cuando el método de facturación es Subscription.
-
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.
Puede consultar el progreso de la tarea en la página Data Synchronization.
Información de mapeo
En el área Selected Objects, coloque el cursor sobre el nombre del topic de destino (a nivel de tabla).
Haga clic en Edit, que aparece junto al nombre del topic de destino.
-
En el cuadro de diálogo Edit Table que se muestra, configure la información de mapeo.
NotaA nivel de base de datos, el cuadro de diálogo Edit Schema admite menos parámetros configurables. A nivel de tabla, se muestra el cuadro de diálogo Edit Table.
Si la granularidad de los objetos de sincronización no abarca toda la base de datos, no es posible modificar Name of target Topic ni Number of Partitions en el cuadro de diálogo Edit Schema.
Parámetro
Descripción
Name of target Topic
El nombre del topic de destino donde se sincroniza la tabla de origen. El valor predeterminado es el Topic que especificó para la Destination Database en el paso Configurations for Source and Destination Databases.
ImportanteCuando la base de datos de destino es una instancia de ApsaraMQ for Kafka, el nombre del topic que especifique debe existir en dicha instancia. De lo contrario, la sincronización de datos falla. Si la base de datos de destino es una base de datos Kafka autogestionada y la tarea de sincronización incluye la sincronización de esquemas, DTS intenta crear el topic especificado en la base de datos de destino.
Si modifica Name of target Topic, los datos se escriben en el topic que haya indicado.
Filter Conditions
Para obtener más información, consulte Filter task data with an SQL condition.
Number of Partitions
La cantidad de particiones utilizadas cuando se escriben los datos en el topic de destino.
Partition Key
Este parámetro se configura cuando Policy for Shipping Data to Kafka Partitions tiene el valor Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Especifique una o más columnas como Partition Key para calcular el valor hash. Después, DTS distribuye las filas en distintas particiones del topic de destino según los valores hash calculados.
NotaSolo es posible seleccionar Partition Key en el cuadro de diálogo Edit Table.
Haga clic en OK.
Preguntas frecuentes
-
¿Es posible modificar Kafka Data Compression Format?
Sí. Utilice la función Modify synchronization objects para modificarlo.
-
¿Es posible modificar Message acknowledgement mechanism?
Sí. Utilice la función Modify synchronization objects para modificarlo.