Synchronize PolarDB for MySQL to DataHub - Data Transmission Service

Utilice Data Transmission Service (DTS) para sincronizar datos incrementales en tiempo real desde un clúster de PolarDB for MySQL hacia DataHub. Posteriormente, puede usar productos de big data, como Realtime Compute for Apache Flink, para analizar los datos en tiempo real.

Requisitos previos

Cree un clúster de origen de PolarDB for MySQL. Para obtener más información, consulte Custom purchase y Purchase a subscription cluster.
Active DataHub y cree un proyecto para recibir los datos sincronizados. Para obtener más información, consulte Get started with DataHub synchronization y Create and delete projects.
Habilite el registro binario en el clúster de PolarDB for MySQL. Para obtener más información, consulte Enable binary logging.

Precauciones

Nota

DTS no sincroniza las claves externas de la base de datos de origen a la base de datos de destino. Por lo tanto, las operaciones en cascada y de eliminación en la base de datos de origen no se sincronizan con la base de datos de destino.

Tipo	Descripción
Límites de la base de datos de origen	Las tablas que se van a sincronizar deben tener una clave primaria o una restricción UNIQUE, y todos los campos deben ser únicos. De lo contrario, podrían aparecer datos duplicados en la base de datos de destino. Si sincroniza datos a nivel de tabla y necesita editar tablas (por ejemplo, asignar nombres de columnas), una sola tarea de sincronización admite hasta 1,000 tablas. Si supera este límite, se reporta un error cuando envíe la tarea. Para resolverlo, divida las tablas en varias tareas de sincronización o sincronice toda la base de datos. Registros binarios: Debe habilitar el registro binario y establecer el parámetro `loose_polar_log_bin` en `ON`. De lo contrario, se reporta un error durante la comprobación previa y la instancia de DTS no se inicia. Para obtener más información sobre cómo habilitar el registro binario y modificar parámetros, consulte Enable binary logging y Set cluster and node parameters. Nota Habilitar el registro binario en un clúster de PolarDB for MySQL consume espacio de almacenamiento y genera cargos. Los registros binarios del clúster de PolarDB for MySQL deben conservarse como mínimo 3 días. Se recomienda conservarlos durante 7 días. De lo contrario, la tarea de DTS podría fallar porque DTS no puede obtener los registros binarios. En casos extremos, esto puede provocar inconsistencia o pérdida de datos. Los problemas causados por un periodo de retención de registros binarios inferior al obligatorio no están cubiertos por el Acuerdo de Nivel de Servicio (SLA) de DTS. Nota Para obtener más información sobre cómo establecer el periodo de retención de los registros binarios de un clúster de PolarDB for MySQL, consulte Modify the retention period. No ejecute operaciones DDL que modifiquen los esquemas de bases de datos o tablas durante la sincronización de esquemas ni durante la sincronización completa. De lo contrario, la tarea de sincronización falla. Nota Durante la sincronización completa, DTS consulta la base de datos de origen. Esto genera bloqueos de metadatos que pueden impedir las operaciones DDL en la base de datos de origen.
Otros límites	La longitud máxima de un solo campo String en el tema de DataHub de destino es de 2 MB. Se admite la sincronización de datos a nivel de base de datos y a nivel de tabla. No es posible sincronizar datos desde un nodo de solo lectura del clúster de origen de PolarDB for MySQL. No es posible sincronizar tablas externas de OSS desde el clúster de origen de PolarDB for MySQL. No se admite la sincronización de datos de tipo VECTOR. No se admite la conmutación por error entre nodos primario y secundario de la instancia de base de datos durante la sincronización inicial completa de datos. Si ocurre una conmutación por error, vuelva a configurar la tarea de sincronización. En la sincronización de datos a nivel de tabla, no utilice herramientas como pt-online-schema-change para ejecutar operaciones DDL en línea sobre los objetos de sincronización en la base de datos de origen. De lo contrario, la sincronización falla. En la sincronización de datos a nivel de tabla, si no se escriben otros datos en la base de datos de destino además de los de DTS, puede utilizar Data Management (DMS) para ejecutar operaciones DDL en línea. Para obtener más información, consulte Cambiar esquemas sin bloquear tablas. Durante la sincronización de DTS, no escriba datos distintos a los de DTS en la base de datos de destino. De lo contrario, podría producirse una inconsistencia de datos entre la base de datos de origen y la de destino. Por ejemplo, si utiliza DMS para ejecutar operaciones DDL en línea mientras se escriben otros datos en la base de datos de destino, podrían perderse datos. Si una tarea falla, el equipo de soporte de DTS intentará restaurarla en un plazo de ocho horas. Durante la restauración, es posible que reinicie la tarea o ajuste sus parámetros. Nota Solo se modifican los parámetros de la tarea de DTS, no los de la base de datos. Entre los parámetros que podrían ajustarse se incluyen los que se enumeran en Modify instance parameters.
Otras notas	DTS ejecuta periódicamente el comando CREATE DATABASE IF NOT EXISTS `test` en la base de datos de origen para avanzar el desplazamiento del registro binario.

Facturación

Tipo de sincronización	Precio
Sincronización de esquemas y sincronización completa de datos	Sin cargo.
Sincronización incremental de datos	Con cargo. Para obtener más información, consulte Billing overview.

Topologías de sincronización compatibles

Sincronización unidireccional uno a uno.
Sincronización unidireccional uno a varios.
Sincronización unidireccional varios a uno.
Sincronización unidireccional en cascada.

Para obtener más información sobre estas topologías de sincronización, consulte Synchronization topologies.

Operaciones SQL compatibles

Tipo de operación	Instrucción SQL
DML	INSERT, UPDATE, DELETE
DDL	ADD COLUMN Importante Si modifica manualmente la estructura de la tabla en la base de datos de destino, reinicie la tarea: pause y luego start la tarea.

Permisos de la cuenta de base de datos

La cuenta de base de datos del clúster de origen de PolarDB for MySQL requiere como mínimo permiso de lectura sobre los objetos que se van a sincronizar.

Procedimiento

Acceda a la página de lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:
Desde la consola de DTS
1. Inicie sesión en la consola de Data Transmission Service (DTS).
2. En el panel de navegación izquierdo, haga clic en Data Synchronization.
3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS

Nota
Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
1. Inicie sesión en Data Management (DMS).
2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.
3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de la tarea.

Configure las bases de datos de origen y de destino.

Categoría	Parámetro	Descripción
N/A	Task Name	DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. No es obligatorio que el nombre sea único.
Source Database	Select DMS Database Instance	Seleccione una instancia existente según sus necesidades. Si utiliza una instancia existente, la información de la base de datos se completa automáticamente. No es necesario introducirla de nuevo. Si no utiliza una instancia existente, introduzca la siguiente información de la base de datos.
	Database Type	Seleccione PolarDB for MySQL.
	Connection Type	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde se encuentra el clúster de origen de PolarDB for MySQL.
	Cross-account	En este escenario, los datos se sincronizan dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
	PolarDB Cluster ID	Seleccione el ID del clúster de origen de PolarDB for MySQL.
	Database Account	Introduzca la cuenta de la base de datos del clúster de origen de PolarDB for MySQL. Para obtener información sobre los permisos obligatorios, consulte Permissions required for a database account.
	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
	Encryption	Seleccione una opción según sus requisitos. Para obtener más información, consulte Configure SSL encryption.
Destination Database	Select DMS Database Instance	Seleccione una instancia existente según sus necesidades. Si utiliza una instancia existente, la información de la base de datos se completa automáticamente. No es necesario introducirla de nuevo. Si no utiliza una instancia existente, introduzca la siguiente información de la base de datos.
	Database Type	Seleccione DataHub.
	Connection Type	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde se encuentra la instancia de destino de DataHub.
	Project	Seleccione el proyecto de destino de DataHub.

Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

Nota
Asegúrese de que los bloques CIDR de IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde dichos servidores. Este proceso se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

Configure los objetos de la tarea.

En la página Configure Objects, configure los objetos que desea sincronizar.

Parámetro	Descripción
Synchronization Types	La opción Incremental Data Synchronization está seleccionada. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
Naming Rules of Additional Columns	Cuando DTS sincroniza datos con DataHub, agrega columnas adicionales al topic de destino. Si el nombre de una columna adicional entra en conflicto con el de una columna existente en dicho topic, la tarea de sincronización falla. Para evitarlo, establezca la opción Enable new additional column rule en Yes o No según sus necesidades de negocio. Aviso Antes de elegir una regla de columnas adicionales, evalúe si sus nombres entrarán en conflicto con los de las columnas existentes en el topic de destino. De lo contrario, la tarea podría fallar o perderse datos. Para obtener más información sobre las reglas y definiciones de las columnas adicionales, consulte Additional column names and definitions.
Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe, la comprobación previa se supera correctamente. Si existe, la comprobación falla y la tarea de sincronización no se inicia. Nota Si no puede eliminar ni cambiar el nombre de la tabla duplicada en la base de datos de destino, asígnele un nombre distinto mediante asignaciones. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: omite la comprobación de nombres de tablas duplicados en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo: Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen: Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza. Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el de la base de datos de destino. Si los esquemas de las tablas son distintos, la sincronización inicial de datos podría fallar. Esto puede provocar que solo se sincronicen parcialmente las columnas o que falle por completo. Proceda con precaución.
Case Sensitivity Policy for Destination Object Names	Permite configurar la política de distinción entre mayúsculas y minúsculas para los nombres de bases de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la DTS default policy. También puede optar por usar las políticas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects	En el cuadro Source Objects, haga clic en los objetos que desea sincronizar y luego en el icono para moverlos al cuadro Selected Objects. Nota Los objetos se pueden seleccionar a nivel de base de datos y de tabla.
Selected Objects	Para cambiar el nombre de un único objeto de sincronización en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar nombres de objetos, consulte Map a single database, table, or column. Para modificar por lotes los nombres de varios objetos de sincronización en la instancia de destino, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch. Nota Para seleccionar las operaciones SQL que desea sincronizar a nivel de base de datos o de tabla, haga clic con el botón derecho en un objeto del cuadro Selected Objects y elija las operaciones necesarias en el cuadro de diálogo que aparece. Para consultar la lista de operaciones compatibles, vea Supported SQL operations. Para filtrar datos mediante una cláusula WHERE, haga clic con el botón derecho en una tabla del cuadro Selected Objects y defina las condiciones de filtro en el cuadro de diálogo resultante. Para obtener más información, consulte Set filter conditions. Si selecciona objetos a nivel de tabla, haga clic con el botón derecho en una tabla del cuadro Selected Objects, desactive la casilla Sync All Columns y configure una Shard Key, que es la clave utilizada para el particionamiento.

Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

Parámetro	Descripción
Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Si necesita un rendimiento más estable, adquiera un clúster dedicado para ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections	Una vez iniciada la tarea de sincronización, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error e intenta reconectarse de inmediato. La duración predeterminada de los reintentos es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecerla en 30 minutos o más. Si DTS logra reconectarse dentro del tiempo indicado, la tarea se reanuda automáticamente; de lo contrario, falla. Nota Si tiene varias instancias de DTS (por ejemplo, la instancia A y la B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la A y en 60 minutos para la B, ambas utilizarán el valor menor de 30 minutos. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar esta duración según sus necesidades de negocio. Otra opción es liberar la instancia de DTS tan pronto como libere las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues	Después de iniciar la tarea de sincronización, si ocurren problemas distintos a los de conectividad en la base de datos de origen o de destino (como excepciones al ejecutar instrucciones DDL o DML), DTS reporta un error y comienza a reintentar de forma continua. La duración predeterminada de estos reintentos es de 10 minutos. También puede personalizarla en un rango de 1 a 1440 minutos. Se recomienda configurarla en 10 minutos o más. Si las operaciones correspondientes se completan correctamente dentro del tiempo establecido, la tarea se reanuda automáticamente; de lo contrario, falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization	Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar su carga. Para reducirla, limite la velocidad de la tarea configurando los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization	También puede limitar la velocidad de la tarea de sincronización incremental. Para reducir la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Environment Tag	Puede seleccionar una etiqueta de entorno para identificar la instancia. Esta configuración es opcional.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución. Yes: no se escribe información SQL de latido en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso. No: escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Configure ETL	Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: deshabilita la función ETL.
Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral definido, se envía una notificación a un contacto de alerta. No: no se configuran alertas. Yes: configura las alertas definiendo un umbral y especificando un notificación de alerta. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

Guarde la tarea y ejecute una comprobación previa.
- Para consultar los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.
- Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
Nota
- Antes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se superan todos los elementos de dicha comprobación.
- Si la comprobación previa falla, haga clic en View Details junto al elemento con errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación.
- Si la comprobación previa devuelve una advertencia:
  
  Si un elemento falla y no se puede ignorar, haga clic en View Details junto a él. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.
  
  Para los elementos que sí se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y repetir la comprobación. Tenga en cuenta que silenciar una advertencia puede causar problemas como inconsistencias en los datos y poner en riesgo su negocio.

Adquiera la instancia.

Cuando Success Rate alcance el 100 %, haga clic en Next: Purchase Instance.

En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. En la siguiente tabla se describen estos parámetros en detalle.

Categoría	Parámetro	Descripción
New Instance Class	Billing Method	Subscription: el pago se realiza al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: el cobro se calcula por hora. Resulta útil para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
	Resource Group Configuration	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
	Link Specification	DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de transferencia. Elija una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
	Subscription Duration	En el modo de suscripción, seleccione la duración y la cantidad de instancias. Puede elegir una suscripción mensual de 1 a 9 meses, o una anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

Consulte el progreso de la tarea en la página Data Synchronization.

Esquema del topic de DataHub

Cuando DTS sincroniza datos incrementales con un topic de DataHub, le agrega columnas de metadatos.

En este ejemplo, id , name y address son campos de datos. Al aplicar las reglas de nomenclatura anteriores, DTS agrega el prefijo dts_ a todos los campos, incluidos los originales del origen. Con las nuevas reglas de nomenclatura, DTS no agrega ningún prefijo a los campos originales.

Topic定义

Previous column name	New column name	Type	Description
`dts_record_id`	`new_dts_sync_dts_record_id`	String	ID único de la entrada de registro incremental. Se incrementa automáticamente con cada nueva entrada. En escenarios de recuperación ante desastres, una reversión puede provocar IDs duplicados. En las operaciones UPDATE, ambas entradas de registro (antes y después de la actualización) comparten el mismo `dts_record_id`.
`dts_operation_flag`	`new_dts_sync_dts_operation_flag`	String	Tipo de operación. Valores válidos: `I` (INSERT), `D` (DELETE), `U` (UPDATE), `F` (sincronización completa de datos).
`dts_instance_id`	`new_dts_sync_dts_instance_id`	String	ID del servidor de la base de datos.
`dts_db_name`	`new_dts_sync_dts_db_name`	String	Nombre de la base de datos.
`dts_table_name`	`new_dts_sync_dts_table_name`	String	Nombre de la tabla.
`dts_utc_timestamp`	`new_dts_sync_dts_utc_timestamp`	String	Marca de tiempo de la operación en formato UTC. También corresponde a la marca de tiempo del archivo de registro.
`dts_before_flag`	`new_dts_sync_dts_before_flag`	String	Indica si los valores de la fila corresponden al estado previo a la actualización. Valores válidos: `Y`, `N`. Consulte la tabla de valores de indicadores antes y después.
`dts_after_flag`	`new_dts_sync_dts_after_flag`	String	Indica si los valores de la fila corresponden al estado posterior a la actualización. Valores válidos: `Y`, `N`. Consulte la tabla de valores de indicadores antes y después.

Valores de indicadores antes y después

Las columnas dts_before_flag y dts_after_flag indican si una fila del topic representa el estado anterior o posterior a un cambio de datos.

Operation	Log entries generated	dts_before_flag	dts_after_flag	Row content
INSERT	1	`N`	`Y`	Los valores recién insertados.
DELETE	1	`Y`	`N`	Los valores eliminados.
UPDATE (primera entrada)	2 (mismo `dts_record_id`)	`Y`	`N`	Valores previos a la actualización.
UPDATE (segunda entrada)	2 (mismo `dts_record_id`)	`N`	`Y`	Valores posteriores a la actualización.

Operación INSERT

La entrada de registro contiene los valores recién insertados. dts_before_flag es N y dts_after_flag es Y.

Operación UPDATE

DTS genera dos entradas de registro con los mismos valores de dts_record_id, dts_operation_flag y dts_utc_timestamp. La primera captura los valores previos a la actualización (dts_before_flag=Y, dts_after_flag=N). La segunda captura los valores posteriores (dts_before_flag=N, dts_after_flag=Y).

UPDATE操作

Operación DELETE

La entrada de registro contiene los valores eliminados. dts_before_flag es Y y dts_after_flag es N.

DELETE操作

Pasos siguientes

Una vez que la tarea de sincronización esté en ejecución, utilice Alibaba Cloud Realtime Compute for Apache Flink para analizar los datos del proyecto de DataHub. Para obtener más información, consulte What is Alibaba Cloud Realtime Compute for Apache Flink?