Synchronize data from PolarDB-X 1.0 to AnalyticDB for PostgreSQL - Data Transmission Service

Data Transmission Service (DTS) le permite sincronizar datos de PolarDB-X 1.0 a AnalyticDB for PostgreSQL. Esta función facilita la transferencia y centralización de los datos de su negocio para analizarlos.

Requisitos previos

El tipo de almacenamiento de la instancia de PolarDB-X 1.0 debe ser RDS for MySQL. PolarDB for MySQL no es compatible.
Cree una instancia de destino en AnalyticDB for PostgreSQL. El espacio de almacenamiento de esta instancia debe ser mayor que el espacio utilizado por la instancia de origen de PolarDB-X 1.0. Para obtener más información, consulte Create an instance.
Cree una base de datos en la instancia de destino de AnalyticDB for PostgreSQL para almacenar los datos sincronizados. Para obtener más información, consulte CREATE DATABASE.

Precauciones

Tipo

Descripción

Límites de la base de datos de origen

Las tablas que se van a sincronizar deben tener una restricción PRIMARY KEY o UNIQUE. Las tablas con solo una restricción UNIQUE no admiten la sincronización de esquemas. Se recomienda usar una restricción PRIMARY KEY. Los campos de la clave deben ser únicos; de lo contrario, podrían aparecer datos duplicados en la base de datos de destino. No se admite la sincronización de tablas con un índice secundario.
Si sincroniza datos a nivel de tabla y necesita editar objetos, como asignar nombres de tablas o columnas, no seleccione más de 5,000 tablas para una sola tarea. Si tiene más de 5,000 tablas, divídalas en varias tareas o configure una tarea para sincronizar toda la base de datos. De lo contrario, podría generarse un error después de enviar la tarea.
En las instancias de RDS for MySQL asociadas a la instancia de PolarDB-X 1.0, asegúrese de que el parámetro binlog_row_image esté establecido en full. Si no lo hace, se reportará un error durante la comprobación previa y la tarea de sincronización de datos no podrá iniciarse.

Nota
Para una tarea de sincronización incremental, DTS requiere que los registros binarios locales de la base de datos de origen se conserven durante como mínimo 24 horas. En una tarea que incluya sincronización completa e incremental, DTS exige conservar los registros binarios locales durante como mínimo 7 días. Una vez terminada la sincronización completa, puede cambiar el periodo de retención a 24 horas. Si este periodo es menor al requerido, la tarea podría fallar porque DTS no podrá obtener los registros binarios. En casos extremos, esto provoca inconsistencia o pérdida de datos. Los problemas causados por un periodo de retención de registros binarios inferior al requerido no están cubiertos por el acuerdo de nivel de servicio (SLA) de DTS.

El tipo de almacenamiento de la instancia de PolarDB-X 1.0 puede ser RDS for MySQL. PolarDB for MySQL no es compatible.
Límites operativos de la base de datos de origen:
- Si cambia el tipo de red de la instancia de PolarDB-X 1.0 durante la sincronización, actualice la información de conexión de red del enlace de sincronización una vez que el cambio termine correctamente.
- Durante la sincronización, no ejecute operaciones en la instancia de origen como escalamiento (por ejemplo, escalar su instancia de ApsaraDB RDS for MySQL asociada, o cambiar la distribución de las tablas físicas correspondientes a las tablas lógicas en ApsaraDB RDS for MySQL, incluso si la instancia de ApsaraDB RDS for MySQL no se escala), migración de tablas activas, cambio de la clave de fragmentación ni modificaciones DDL. De lo contrario, la tarea de sincronización de datos fallará o se producirán inconsistencias en los datos.
- Si modifica la clave de partición de una tabla de origen y la clave principal de la tabla de destino correspondiente no incluye dicha clave de partición, podrían perderse datos en la base de datos de destino.
  - Motivo: una instancia de PolarDB-X 1.0 tiene varias instancias de ApsaraDB RDS for MySQL asociadas. DTS mantiene enlaces de sincronización independientes para cada instancia de ApsaraDB RDS for MySQL. Al cambiar una clave de partición, los datos se eliminan de una instancia de ApsaraDB RDS for MySQL y se insertan en otra. Como estos enlaces se ejecutan de forma independiente, el orden de las operaciones DELETE e INSERT puede alterarse. Si la clave principal de la base de datos de destino no incluye la clave de partición, una operación DELETE ejecutada posteriormente podría eliminar por error los datos recién insertados.
  - Recomendación: para evitar la pérdida de datos por operaciones fuera de orden, asegúrese de que la clave principal de la tabla de destino incluya las columnas de la clave de partición de la tabla de origen.
- No ejecute operaciones DDL que modifiquen los esquemas de bases de datos o tablas durante la sincronización de esquemas o la sincronización completa. De lo contrario, la tarea de sincronización fallará.
  
  Nota
  Durante la sincronización completa, DTS consulta la base de datos de origen. Esto genera bloqueos de metadatos que pueden impedir las operaciones DDL en dicha base de datos.
La instancia de origen de PolarDB-X 1.0 debe ser de la versión 5.2 o posterior.

Otros límites

No se admiten tablas optimizadas para anexión (AO) como tablas de destino.
No se admite la sincronización de los siguientes tipos de datos: GEOMETRY, CURVE, SURFACE, MULTIPOINT, MULTILINESTRING, MULTIPOLYGON y GEOMETRYCOLLECTION.
No se admite la sincronización de INDEX, PARTITION, VIEW, PROCEDURE, FUNCTION, TRIGGER ni FK (clave externa).
Si utiliza la asignación de columnas para una sincronización parcial de tablas, o si los esquemas de las tablas de origen y destino son distintos, se perderán los datos de las columnas que existan en el origen pero no en el destino.
No se admiten instancias de solo lectura para los recursos de cómputo de PolarDB-X 1.0.
Para los recursos de almacenamiento de PolarDB-X 1.0, solo se admite la división horizontal (fragmentación). La división vertical no es compatible.
Una tarea de sincronización para una instancia de PolarDB-X 1.0 es una tarea distribuida. Cada instancia de RDS for MySQL asociada corresponde a una subtarea de sincronización. Puede consultar el estado de las subtareas en la página Task Topology.
La sincronización incremental de datos depende de transacciones XA continuas en la instancia de origen de PolarDB-X 1.0 para garantizar la consistencia de los datos. Si esta continuidad se interrumpe, por ejemplo, al modificar los objetos de sincronización o durante la recuperación ante desastres del módulo de captura de datos incrementales, las transacciones XA no confirmadas podrían perderse.
Si la tabla que se va a sincronizar tiene una clave principal, la columna de clave principal en la tabla de destino debe coincidir con la de la tabla de origen. Si carece de clave principal, la columna de clave principal en la tabla de destino debe coincidir con la clave de distribución.
La clave única de la tabla de destino, incluida la columna de clave principal, debe contener todas las columnas de la clave de distribución.
Antes de sincronizar los datos, evalúe el rendimiento de las bases de datos de origen y destino. Se recomienda ejecutar la sincronización de datos en horarios de baja demanda. La sincronización inicial completa consume recursos de lectura y escritura tanto en la base de datos de origen como en la de destino, lo cual puede aumentar la carga de ambas.
La sincronización inicial completa ejecuta operaciones INSERT simultáneas. Esto puede provocar fragmentación de tablas en la base de datos de destino. Como resultado, el espacio de tablas de la instancia de destino podría ser mayor que el de la instancia de origen una vez concluida la sincronización inicial.
Durante la sincronización de DTS, no escriba datos en la base de datos de destino mediante métodos distintos a DTS. Hacerlo puede causar inconsistencias entre las bases de datos de origen y destino.
Si una tarea falla, el equipo de soporte de DTS intentará restaurarla en un plazo de ocho horas. Durante la restauración, es posible que reinicien la tarea o ajusten sus parámetros.

Nota
Solo se modifican los parámetros de la tarea de DTS, no los de la base de datos. Entre los parámetros que podrían ajustarse se incluyen los que aparecen en Modify instance parameters.

Facturación

Tipo de sincronización	Precio
Sincronización de esquemas y sincronización completa de datos	Sin costo.
Sincronización incremental de datos	Con costo. Para obtener más información, consulte Billing overview.

Operaciones SQL compatibles

Tipo de operación	Operaciones SQL
DML	INSERT, UPDATE, DELETE Nota El sistema convierte automáticamente las instrucciones UPDATE en instrucciones REPLACE INTO al escribir datos en una instancia de destino de AnalyticDB for PostgreSQL. Si una instrucción UPDATE modifica una clave principal, el sistema la convierte en una instrucción DELETE y una instrucción INSERT.

Permisos obligatorios para las cuentas de base de datos

Base de datos	Permisos obligatorios	Método de creación de cuenta y autorización
Instancia de origen de PolarDB-X 1.0	Permisos de lectura sobre los objetos de sincronización.	Account Management.
Instancia de destino de AnalyticDB for PostgreSQL	Permisos de lectura y escritura sobre la base de datos de destino.	Create and manage users y User Permission Management. Nota También puede utilizar la cuenta inicial o una cuenta con permisos RDS_SUPERUSER.

Procedimiento

Vaya a la página de lista de tareas de sincronización de la región de destino. Utilice uno de los dos métodos siguientes:
Desde la consola de DTS
1. Inicie sesión en la consola de Data Transmission Service (DTS).
2. En el panel de navegación izquierdo, haga clic en Data Synchronization.
3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS

Nota
Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
1. Inicie sesión en Data Management (DMS).
2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.
3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de la tarea.

Configure las bases de datos de origen y de destino.

Categoría	Configuración	Descripción
Ninguna	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla fácilmente. El nombre no tiene que ser único.
Source Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
	Database Type	Seleccione PolarDB-X 1.0.
	Access Method	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde reside la instancia de origen PolarDB-X 1.0.
	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo muestra la sincronización dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
	Instance ID	Seleccione el ID de la instancia de origen PolarDB-X 1.0.
	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen PolarDB-X 1.0. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Destination Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
	Database Type	Seleccione AnalyticDB for PostgreSQL.
	Access Method	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde reside la instancia de destino AnalyticDB for PostgreSQL.
	Instance ID	Seleccione el ID de la instancia de destino AnalyticDB for PostgreSQL.
	Database Name	Introduzca el nombre de la base de datos en la instancia de destino AnalyticDB for PostgreSQL que recibirá los objetos sincronizados.
	Database Account	Introduzca la cuenta de la base de datos de la instancia de destino AnalyticDB for PostgreSQL. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.

Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

Nota
Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Este proceso se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

Configure los objetos de la tarea.

En la página Configure Objects, configure los objetos que desea sincronizar.

Configuración	Descripción
Synchronization Types	Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con ese nombre, la comprobación previa se aprueba. Si existe una tabla con el mismo nombre, la comprobación previa falla y la tarea de sincronización de datos no se inicia. Nota Si no puede eliminar ni cambiar el nombre de la tabla con el mismo nombre en la base de datos de destino, puede asignarle un nombre de tabla diferente mediante mapeo. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: omite la comprobación de nombres de tablas duplicados en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo: Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen: Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza. Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro de la base de datos de destino. Si los esquemas de las tablas son diferentes, la sincronización inicial de datos podría fallar. Esto puede provocar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
Storage Engine Type	Seleccione el tipo de motor de almacenamiento para las tablas de destino. El valor predeterminado es Beam. Nota Este parámetro solo está disponible cuando la versión del kernel de la instancia de destino AnalyticDB for PostgreSQL es v7.0.6.6 o posterior, y se ha seleccionado Synchronization Types para Schema Synchronization.
Capitalization of Object Names in Destination Instance	Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos de base de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la opción DTS default policy. También puede elegir usar las políticas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects	En el cuadro Source Objects, haga clic en un objeto para sincronizarlo y, a continuación, haga clic en para moverlo al cuadro Selected Objects. Nota Se recomienda seleccionar tablas como objetos de sincronización. Si selecciona una base de datos completa, los cambios para agregar o eliminar tablas en dicha base de datos no se sincronizarán con la base de datos de destino.
Selected Objects	Para cambiar el nombre de un único objeto de sincronización en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar el nombre de los objetos, consulte Map a single database, table, or column. Para cambiar por lotes los nombres de varios objetos de sincronización en la instancia de destino, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch. Nota Si utiliza la función de mapeo de nombres de objetos, la sincronización de otros objetos que dependan del objeto asignado podría fallar. Para establecer una cláusula WHERE que filtre los datos, haga clic con el botón derecho en la tabla dentro del cuadro Selected Objects y defina la condición de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Set a filter condition.

Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

Configuración	Descripción
Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar un clúster. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado que ejecute las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections	Después de que se inicia una tarea de sincronización, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error e intenta restablecer la conexión de inmediato. La duración predeterminada de los reintentos es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecer una duración de 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Nota Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y establece el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se aplicará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de los reintentos según sus necesidades de negocio. También puede liberar la instancia de DTS tan pronto como se liberen las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues	Después de que se inicia la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS reporta un error y comienza de inmediato a reintentar las operaciones de forma continua. La duración predeterminada de los reintentos es de 10 minutos. También puede personalizar esta duración en un rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se completan correctamente dentro del tiempo de reintento configurado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization	Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo cual puede aumentar la carga de la base de datos. Para reducir esta carga, puede establecer un límite de velocidad para la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización se esté ejecutando.
Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para reducir la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Environment Tag	Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades. En este ejemplo no es necesario seleccionar ninguna.
Configure ETL	Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: deshabilita la función ETL.
Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta. No: no se configuran alertas. Yes: configure las alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

Opcional: Después de completar las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields. Establezca los valores de Type, Primary Key Column y Distribution Key para las tablas sincronizadas en la instancia de destino AnalyticDB for PostgreSQL.
Nota
- Este paso solo está disponible si seleccionó Schema Synchronization para Synchronization Types al configurar los objetos de la tarea. Puede seleccionar All en Definition Status para aplicar los cambios.
- El campo Primary Key Column puede ser una clave compuesta formada por varias columnas. Debe seleccionar una o más columnas de Primary Key Column para usarlas como Distribution Key. Para obtener más información, consulte Manage data tables y Define table distribution.

Guarde la tarea y ejecute una comprobación previa.
- Para consultar los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en el globo emergente.
- Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
Nota
- Antes de que comience el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede iniciarse después de que se aprueben todos los elementos de dicha comprobación.
- Si la comprobación previa falla, haga clic en View Details junto al elemento que presentó errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
- Si la comprobación previa devuelve una advertencia:
  
  Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.
  
  Para los elementos de comprobación que se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos que pongan en riesgo su negocio.

Adquiera la instancia.

Cuando el valor de Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. A continuación se describen estos parámetros en detalle.

Categoría	Parámetro	Descripción
New Instance Class	Billing Method	subscription: paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. pay-as-you-go: se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
	Resource Group Configuration	El resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is Resource Management?.
	Link Specification	DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Elija una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
	Subscription Duration	En el modo subscription, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

Puede consultar el progreso de la tarea en la página Data Synchronization.