Synchronize PolarDB-X 1.0 data to DataHub - Data Transmission Service

Puede utilizar Data Transmission Service (DTS) para sincronizar datos desde una instancia de PolarDB-X 1.0 hacia Alibaba Cloud DataHub.

Requisitos previos

Debe haber activado DataHub y creado un proyecto para recibir los datos sincronizados. Para obtener más información, consulte Get started with DataHub synchronization y Manage projects.
La instancia de destino de Alibaba Cloud DataHub debe tener más espacio de almacenamiento disponible que la instancia de origen de PolarDB-X 1.0.

Límites

Nota

DTS no sincroniza las claves foráneas de la base de datos de origen a la de destino. Por lo tanto, las operaciones en cascada y de eliminación en la base de datos de origen no se sincronizan con la base de datos de destino.

Tipo	Descripción
Límites de la base de datos de origen	Las tablas que se van a sincronizar deben tener una clave primaria o una restricción única para garantizar que cada fila sea única y evitar datos duplicados en la base de datos de destino. Si una tabla solo tiene una restricción única, la sincronización de esquemas no es compatible para dicha tabla. Se recomienda utilizar una clave primaria. No se admite la sincronización de tablas con índices secundarios. Si sincroniza datos a nivel de tabla y realiza operaciones de edición, como la asignación de nombres de columnas, una sola tarea de sincronización admite un máximo de 5,000 tablas. Si supera este límite, divida las tablas en varias tareas o sincronice toda la base de datos. De lo contrario, podría producirse un error de solicitud al enviar la tarea. Los registros binarios de las instancias de ApsaraDB RDS for MySQL asociadas a la instancia de origen de PolarDB-X 1.0 deben cumplir los siguientes requisitos: La función de registro binario debe estar habilitada y el parámetro `binlog_row_image` debe establecerse en `full`. De lo contrario, la comprobación previa fallará y la tarea de sincronización de datos no podrá iniciarse. Para las tareas que incluyen sincronización incremental de datos, debe conservar los registros binarios de la base de datos de origen durante al menos 24 horas. Se recomienda un periodo de retención de 7 días. Si DTS no puede obtener los registros binarios porque el periodo de retención es demasiado corto, la tarea podría fallar. En casos extremos, pueden producirse inconsistencias o pérdida de datos. Los problemas causados por un periodo de retención de registros binarios inferior al requerido por DTS no están cubiertos por el Acuerdo de Nivel de Servicio (SLA) de DTS. Límites en las operaciones de la base de datos de origen: Si cambia el tipo de red de la instancia de PolarDB-X 1.0 durante la sincronización de datos, debe actualizar la información de conexión del vínculo de sincronización. Durante la sincronización, no realice operaciones en la instancia de origen como escalado (por ejemplo, escalar su instancia adjunta de ApsaraDB RDS for MySQL o cambiar la distribución de tablas físicas correspondientes a tablas lógicas en ApsaraDB RDS for MySQL, incluso si la instancia de ApsaraDB RDS for MySQL no se escala), migración de tablas activas, cambio de clave de fragmentación o modificaciones DDL. De lo contrario, la tarea de sincronización de datos fallará o se producirán inconsistencias en los datos. Si cambia la clave de partición de una tabla de origen y la clave primaria de la tabla de destino correspondiente no incluye dicha clave de partición, podría producirse pérdida de datos en la base de datos de destino. Motivo: Una instancia de PolarDB-X 1.0 tiene varias instancias de ApsaraDB RDS for MySQL asociadas. DTS mantiene vínculos de sincronización independientes para cada instancia de ApsaraDB RDS for MySQL. Cambiar una clave de partición provoca que los datos se eliminen de una instancia de ApsaraDB RDS for MySQL y se inserten en otra. Dado que estos vínculos se ejecutan de forma independiente, el orden de las operaciones DELETE e INSERT puede alterarse. Si la clave primaria de la base de datos de destino no incluye la clave de partición, una operación DELETE ejecutada posteriormente podría eliminar incorrectamente los datos recién insertados. Recomendación: Para evitar la pérdida de datos por operaciones desordenadas, asegúrese de que la clave primaria de la tabla de destino incluya las columnas de clave de partición de la tabla de origen. Durante la fase de sincronización de esquemas, no realice operaciones DDL en los objetos que se están sincronizando. De lo contrario, la tarea de sincronización de datos fallará. El almacenamiento de PolarDB-X 1.0 debe ser ApsaraDB RDS for MySQL. Esto incluye instancias de RDS personalizadas de forma privada e instancias de RDS adquiridas por separado. PolarDB for MySQL no es compatible. Los recursos de almacenamiento de PolarDB-X 1.0 deben estar divididos horizontalmente. La división vertical no es compatible. Las instancias de solo lectura de PolarDB-X 1.0 no son compatibles. La instancia de origen de PolarDB-X 1.0 debe ser versión 5.2 o posterior.
Otros límites	Solo se admiten la sincronización incremental de datos y la sincronización de esquemas. La longitud máxima para un solo campo STRING en el tema de DataHub de destino es de 2 MB. Límites en los objetos de sincronización: Solo se admite la sincronización de datos a nivel de tabla. Si agrega una nueva columna a una tabla de origen durante la sincronización, los datos de esa columna no se sincronizan con la instancia de destino de DataHub. La sincronización incremental de datos depende de transacciones XA continuas en la instancia de origen de PolarDB-X 1.0 para garantizar la consistencia de los datos. Si esta continuidad se interrumpe, por ejemplo, al modificar objetos de sincronización o durante la recuperación ante desastres del módulo de captura de datos incrementales, las transacciones XA no confirmadas podrían perderse. La sincronización de datos desde una instancia de PolarDB-X 1.0 es un proceso distribuido. DTS crea una subtarea para cada instancia adjunta de ApsaraDB RDS for MySQL. Puede consultar el estado de las subtareas en la página Task Topology. Realice la sincronización de datos fuera de las horas pico para evitar posibles aumentos en la carga de la base de datos. No utilice herramientas como pt-online-schema-change para realizar cambios DDL en línea en los objetos de sincronización de la base de datos de origen. De lo contrario, la tarea de sincronización fallará. Durante la sincronización de datos, no escriba datos en la base de datos de destino mediante herramientas distintas a DTS. De lo contrario, podrían producirse inconsistencias en los datos. Por ejemplo, si utiliza DMS para realizar un cambio DDL en línea mientras se escriben otros datos en la base de datos de destino, podría producirse pérdida de datos. Si una tarea falla, el personal de soporte de DTS intentará restaurarla en un plazo de ocho horas. Durante la restauración, podrían reiniciar la tarea o ajustar sus parámetros. Nota Solo se modifican los parámetros de la tarea de DTS, no los parámetros de la base de datos. Los parámetros que pueden ajustarse incluyen los enumerados en Modify instance parameters.

Facturación

Tipo de sincronización	Tarifa de configuración del vínculo
Sincronización de esquemas	Gratuita.
Sincronización incremental de datos	Se aplican tarifas. Para obtener más información, consulte Billing overview.

Topologías de sincronización compatibles

Sincronización unidireccional uno a uno
Sincronización unidireccional uno a varios
Sincronización unidireccional en cascada
Sincronización unidireccional varios a uno

Para obtener más información sobre las topologías de sincronización y sus límites, consulte Introduction to data synchronization topologies.

Operaciones SQL compatibles

Tipo de operación	Sentencia SQL
DML	INSERT, UPDATE, DELETE

Permisos de cuenta de base de datos

Base de datos	Permisos obligatorios	Referencias
Instancia de origen de PolarDB-X 1.0	Permisos de lectura sobre los objetos que se van a sincronizar.	Account management

Precauciones

Procedimiento

Vaya a la página de lista de tareas de sincronización de la región de destino. Puede utilizar uno de los dos métodos siguientes:
Desde la consola de DTS
1. Inicie sesión en la consola de Data Transmission Service (DTS).
2. En el panel de navegación izquierdo, haga clic en Data Synchronization.
3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS

Nota
Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
1. Inicie sesión en Data Management (DMS).
2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.
3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de la tarea.

Configure las bases de datos de origen y de destino.

Sección	Parámetro	Descripción
N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene que ser único.
Source Database	Select DMS Database Instance	Seleccione una instancia existente según sea necesario. Si utiliza una instancia existente, la información de la base de datos se rellena automáticamente. No es necesario introducirla de nuevo. Si no utiliza una instancia existente, introduzca la siguiente información de la base de datos.
	Database Type	Seleccione PolarDB-X 1.0.
	Connection Type	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región de la instancia de origen de PolarDB-X 1.0.
	Cross-account	Este ejemplo sincroniza datos dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
	Instance ID	Seleccione el ID de la instancia de origen de PolarDB-X 1.0.
	Database Account	Introduzca la cuenta de la base de datos para la instancia de origen de PolarDB-X 1.0. Para conocer los permisos obligatorios, consulte Database account permissions.
	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Destination Database	Select DMS Database Instance	Seleccione una instancia existente según sea necesario. Si utiliza una instancia existente, la información de la base de datos se rellena automáticamente. No es necesario introducirla de nuevo. Si no utiliza una instancia existente, introduzca la siguiente información de la base de datos.
	Database Type	Seleccione DataHub.
	Connection Type	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región de la instancia de destino de DataHub.
	Project	Seleccione el Project de la instancia de DataHub.

Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

Nota
Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

Configure los objetos de la tarea.

En la página Configure Objects, configure los objetos que desea sincronizar.

Parámetro	Descripción
Synchronization Types	Incremental Data Synchronization está seleccionado. Solo puede seleccionar Schema Synchronization. Full Data Synchronization no es compatible. Nota Durante la fase de inicialización de la tarea de sincronización de datos, DTS sincroniza las definiciones de esquema de los objetos de sincronización, como los esquemas de tabla, con la instancia de destino de DataHub.
Processing Mode for Existing Tables in Destination	Precheck and Report Errors: Comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si se encuentra dicha tabla, la comprobación previa falla, se notifica un error y la tarea de sincronización de datos no se inicia. Si no se encuentra ninguna tabla de este tipo, la comprobación previa se supera correctamente. Nota Si no puede eliminar o cambiar el nombre de la tabla en la base de datos de destino, puede asignarle un nombre diferente. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: Omite la comprobación de tablas con el mismo nombre en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y riesgos empresariales, tales como: Si las estructuras de tabla son idénticas y un registro en la base de datos de destino comparte el mismo valor de clave principal o clave única que un registro de la base de datos de origen: Durante la sincronización incremental, DTS sobrescribe el registro de destino con el registro de origen. Si las estructuras de tabla no son consistentes, la tarea puede fallar durante la inicialización, sincronizar solo algunas columnas o fallar por completo. Proceda con precaución.
Naming Rules of Additional Columns	Cuando DTS sincroniza datos con DataHub, agrega columnas adicionales al tema de destino. Si estas columnas adicionales entran en conflicto con nombres de columna existentes en el tema de destino, la sincronización falla. Seleccione New Rule o Previous Rule para Naming Rules of Additional Columns. Aviso Antes de seleccionar una regla, evalúe si las columnas adicionales entran en conflicto con las columnas existentes en el tema de destino. Un conflicto de nombres puede provocar el fallo de la tarea o la pérdida de datos. Para obtener más información sobre las reglas y definiciones de columnas adicionales, consulte Modify the naming rules for additional columns.
Case Sensitivity Policy for Destination Object Names	Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de objetos de base de datos, tabla y columna que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la DTS default policy. También puede optar por utilizar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects	En el cuadro Source Objects, haga clic en un objeto para sincronizarlo y, a continuación, haga clic en para moverlo al cuadro Selected Objects. Nota Se recomienda seleccionar tablas como objetos de sincronización. Si selecciona una base de datos completa, los cambios para agregar o eliminar tablas en esa base de datos no se sincronizan con la base de datos de destino.
Selected Objects	Para cambiar el nombre de un solo objeto de sincronización en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar el nombre de los objetos, consulte Map a single database, table, or column. Para cambiar los nombres de varios objetos de sincronización en la instancia de destino por lotes, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch. Nota Para filtrar datos mediante cláusulas WHERE, haga clic con el botón derecho en la tabla dentro del cuadro Selected Objects y configure las condiciones de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Set filter conditions.

Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

Parámetro	Descripción
Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections	Después de que se inicia una tarea de sincronización, si falla la conexión a la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración de reintento personalizada de 10 a 1440 minutos. Se recomienda establecer la duración en 30 minutos o más. Si DTS se reconecta correctamente a la base de datos dentro de la duración especificada, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Nota Si tiene varias instancias de DTS (por ejemplo, Instancia A e Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el período de reintento de conexión, se recomienda personalizar la duración del reintento según sus necesidades empresariales o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues	Después de que se inicia la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS notifica un error e inicia inmediatamente operaciones de reintento continuas. La duración predeterminada de reintento es de 10 minutos. También puede personalizar la duración del reintento dentro del rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones relevantes se realizan correctamente dentro de la duración de reintento establecida, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Environment Tag	Seleccione una etiqueta de entorno para identificar la instancia. En este ejemplo, no se necesita ninguna etiqueta.
Configure ETL	Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: Habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: Deshabilita la función ETL.
Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta. No: No se configuran alertas. Yes: Configure las alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

Guarde la tarea y ejecute una comprobación previa.
- Para ver los parámetros de la API para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.
- Si ha terminado de ver los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
Nota
- Antes de que comience el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede iniciarse después de que todos los elementos de la comprobación previa se superen correctamente.
- Si la comprobación previa falla, haga clic en View Details para el elemento fallido. Solucione el problema según las indicaciones y, a continuación, vuelva a ejecutar la comprobación previa.
- Si la comprobación previa devuelve una advertencia:
  
  Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto al elemento. Siga las instrucciones para solucionar el problema y, a continuación, vuelva a ejecutar la comprobación previa.
  
  Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again en secuencia para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, esto podría causar problemas como inconsistencia de datos y representar riesgos para su negocio.

Adquiera la instancia.

Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. La siguiente tabla describe estos parámetros en detalle.

Categoría	Parámetro	Descripción
New Instance Class	Método de facturación	Subscription: Paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: Se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
	Configuración de resource group	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
	Especificación de enlace	DTS proporciona especificaciones de sincronización con diferentes niveles de rendimiento. La especificación del enlace de sincronización afecta la tasa de sincronización. Puede elegir una especificación según su escenario empresarial. Para obtener más información, consulte Data synchronization link specifications.
	Duración de la suscripción	En el modo de suscripción, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

Puede consultar el progreso de la tarea en la página de Data Synchronization.