Synchronize data from a self-managed MariaDB to ApsaraDB RDS for MariaDB - Data Transmission Service

Data Transmission Service (DTS) le permite sincronizar datos en tiempo real desde una base de datos MariaDB autogestionada hacia una instancia de ApsaraDB RDS for MariaDB.

Requisitos previos

Cree una instancia de destino de ApsaraDB RDS for MariaDB. Para más información, consulte Create an ApsaraDB RDS for MariaDB instance.
La instancia de destino de ApsaraDB RDS for MariaDB debe tener mayor capacidad de almacenamiento que el espacio utilizado por la instancia MariaDB autogestionada de origen.

Limitaciones

Nota

Durante la sincronización de esquemas, DTS sincroniza las claves externas de la base de datos de origen a la de destino.
Durante la sincronización completa e incremental de datos, DTS deshabilita temporalmente las comprobaciones de restricciones y las operaciones en cascada de claves externas a nivel de sesión. Puede producirse inconsistencia de datos si se ejecutan operaciones de actualización o eliminación en cascada en la base de datos de origen mientras la tarea está en ejecución.

Tipo	Descripción
Limitaciones de la base de datos de origen	Las tablas que sincronice deben tener una clave primaria o una restricción única, y las columnas de dicha clave o restricción deben contener valores únicos. De lo contrario, pueden generarse datos duplicados en la base de datos de destino. Si sincroniza datos a nivel de tabla y necesita editar los objetos, como asignar nombres de columnas, una sola tarea de sincronización admite un máximo de 1,000 tablas. Si supera este límite, el envío de la tarea falla. En este caso, divida las tablas en varias tareas o configure una tarea para sincronizar toda la base de datos. Requisitos del binlog: Si la instancia de origen es una base de datos MariaDB autogestionada, debe habilitar el binlog y establecer el parámetro `binlog_row_image` en `full`. De lo contrario, la comprobación previa falla y la tarea de sincronización de datos no puede iniciarse. Para más información sobre cómo configurar parámetros, consulte Configure instance parameters. DTS requiere que el binlog local de la base de datos de origen se conserve durante como mínimo 7 días. Si el periodo de retención es menor, DTS podría no obtener el binlog. Esto puede provocar que la tarea falle y, en casos extremos, generar inconsistencia o pérdida de datos. Los problemas causados por un periodo de retención del binlog inferior al mínimo obligatorio no están cubiertos por el Acuerdo de Nivel de Servicio (SLA) de DTS. No ejecute operaciones DDL que modifiquen los esquemas de bases de datos o tablas durante la sincronización de esquemas o la sincronización completa. De lo contrario, la tarea de sincronización fallará. Nota Durante la sincronización completa, DTS consulta la base de datos de origen. Esto genera bloqueos de metadatos que pueden impedir las operaciones DDL en la base de datos de origen.
Otras limitaciones	Asegúrese de que las columnas de origen que se van a sincronizar y las columnas de destino no contengan columnas invisibles. De lo contrario, la instancia de DTS podría fallar en su ejecución o podrían perderse datos. Para lograr la mejor compatibilidad, asegúrese de que las bases de datos de origen y de destino ejecuten la misma versión, o bien sincronice de una versión anterior a una posterior. Sincronizar de una versión posterior a una anterior puede causar problemas de compatibilidad. Antes de sincronizar los datos, evalúe el rendimiento de las bases de datos de origen y de destino. Ejecute la sincronización de datos fuera de las horas pico. La fase de inicialización completa de datos consume recursos de lectura y escritura en ambas bases de datos, lo que incrementa la carga de trabajo. La inicialización completa ejecuta operaciones INSERT concurrentes, lo que puede fragmentar las tablas en la base de datos de destino. Como resultado, después de la inicialización completa, la instancia de destino utiliza más espacio de tabla que la instancia de origen. Si sincroniza una o varias tablas en lugar de una base de datos completa, no utilice herramientas como `pt-online-schema-change` para aplicar cambios DDL en línea a los objetos de origen durante la sincronización de datos. Esto provocará que la tarea falle. Puede utilizar Data Management (DMS) para ejecutar operaciones DDL en línea. Para más información, consulte Ejecutar operaciones DDL sin bloqueo. Para evitar inconsistencias de datos, asegúrese de que solo DTS escriba datos en la base de datos de destino durante la sincronización. Por ejemplo, si una aplicación externa escribe datos en la base de datos de destino mientras utiliza DMS para aplicar un cambio DDL en línea, podrían perderse datos en la base de datos de destino. Si una operación DDL de escritura en la base de datos de destino falla, la tarea de DTS continúa ejecutándose. Debe revisar los registros de la tarea para consultar las sentencias DDL con errores. Para más información sobre cómo consultar los registros de tareas, consulte View task logs. Si una tarea falla, el equipo de soporte de DTS intentará restaurarla en un plazo de ocho horas. Durante la restauración, es posible que reinicien la tarea o ajusten sus parámetros. Nota Solo se modifican los parámetros de la tarea de DTS, no los parámetros de la base de datos. Los parámetros que pueden ajustarse incluyen los que se indican en Modify instance parameters.

Facturación

Tipo de sincronización	Precio
Sincronización de esquemas y sincronización completa de datos	Sin costo.
Sincronización incremental de datos	Con costo. Para más información, consulte Billing overview.

Topologías de sincronización compatibles

Sincronización unidireccional uno a uno
Sincronización unidireccional uno a varios
Sincronización unidireccional en cascada
Sincronización unidireccional varios a uno
Sincronización bidireccional uno a uno

Para más información sobre las topologías de sincronización compatibles, consulte Data synchronization topologies.

Operaciones SQL compatibles

Tipo de operación	Sentencia SQL
DML	INSERT, UPDATE, DELETE
DDL	ALTER TABLE, ALTER VIEW CREATE FUNCTION, CREATE INDEX, CREATE PROCEDURE, CREATE TABLE, CREATE VIEW DROP INDEX, DROP TABLE RENAME TABLE Importante La operación RENAME TABLE puede causar inconsistencia de datos. Por ejemplo, si el objeto de sincronización es una sola tabla y usted renombra esta tabla en la instancia de origen durante la sincronización, los datos de dicha tabla no se sincronizarán con la base de datos de destino. Para evitar este problema, seleccione toda la base de datos a la que pertenece la tabla como objeto de sincronización. Asegúrese de que las bases de datos a las que pertenece la tabla antes y después de la operación RENAME TABLE estén incluidas en los objetos de sincronización. TRUNCATE TABLE

Permisos de cuentas de base de datos

Base de datos	Permisos obligatorios
MariaDB autogestionada de origen	Los permisos REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW y SELECT.
ApsaraDB RDS for MariaDB de destino	Permisos de lectura y escritura.

Para obtener información sobre cómo gestionar cuentas de una instancia MariaDB autogestionada, consulte CREATE USER y GRANT.
Para obtener información sobre cómo gestionar cuentas de una instancia de ApsaraDB RDS for MariaDB, consulte Create an account y Modify or reset account permissions.

Procedimiento

Vaya a la página de lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:
Desde la consola de DTS
1. Inicie sesión en la consola de Data Transmission Service (DTS).
2. En el panel de navegación izquierdo, haga clic en Data Synchronization.
3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS

Nota
Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
1. Inicie sesión en Data Management (DMS).
2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.
3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de la tarea.
Opcional: En la esquina superior derecha de la página, haga clic en New Configuration Page.
Nota
- Si el botón de la esquina superior derecha es Back to Previous Version, omita este paso.
- La página de configuración nueva y la anterior tienen parámetros distintos. Se recomienda usar la página de configuración nueva.

Configure las bases de datos de origen y de destino.

Aviso

Después de seleccionar las instancias de origen y de destino, lea detenidamente los límites que se muestran en la parte superior de la página. Si no respeta estos límites, la tarea podría fallar o producirse inconsistencias en los datos.

Categoría	Parámetro	Descripción
N/A	Task Name	DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. El nombre no tiene que ser único.
Source Database	Select Existing Connection	Para este tutorial, no es necesario seleccionar una instancia existente. Configure la información de la base de datos en los campos siguientes.
	Database Type	Seleccione MariaDB.
	Connection Type	Para este tutorial, seleccione Self-managed Database on ECS.
	Instance Region	Seleccione la región donde se encuentra la instancia de ECS.
	Cross-account	Este tutorial muestra la sincronización dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
	ECS Instance ID	Seleccione el ID de la instancia de ECS de destino.
	Port Number	Introduzca el puerto de servicio de la base de datos MariaDB de origen. El puerto debe ser accesible a través de internet. El puerto predeterminado es 3306.
	Database Account	Introduzca la cuenta de la base de datos MariaDB autogestionada de origen. Para obtener información sobre los permisos obligatorios, consulte Database account permissions.
	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
	Connection Method	De forma predeterminada, se selecciona Non-encrypted.
Destination Database	Select Existing Connection	Para este tutorial, no es necesario seleccionar una instancia existente. Configure la información de la base de datos en los campos siguientes.
	Database Type	Seleccione MariaDB.
	Connection Type	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde se encuentra la instancia de destino de ApsaraDB RDS for MariaDB.
	RDS Instance ID	Seleccione el ID de la instancia de destino de ApsaraDB RDS for MariaDB.
	Database Account	Introduzca la cuenta de la instancia de destino de ApsaraDB RDS for MariaDB. La cuenta debe tener permisos de lectura y escritura en la base de datos de destino.
	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
	Connection Method	Seleccione Non-encrypted.

Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
Nota
- Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde dichos servidores y se puede configurar de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
- Si la base de datos de origen o de destino es autogestionada (es decir, si Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.

Configure los objetos de la tarea.

En la página Configure Objects, configure los objetos que desea sincronizar.

Parámetro	Descripción
Synchronization Types	Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
Method to Migrate Triggers in Source Database	Seleccione un método para sincronizar los triggers según sus necesidades de negocio. Si no va a sincronizar ningún trigger, omita este parámetro. Para obtener más información, consulte Configure a method to synchronize or migrate triggers. Nota Este parámetro solo está disponible cuando se selecciona Schema Synchronization en Synchronization Types.
Processing Mode of Conflicting Tables	Precheck and Report Errors: Comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con ese nombre, la comprobación previa se supera correctamente. Si ya existe una tabla con el mismo nombre, la comprobación falla y la tarea de sincronización de datos no se inicia. Nota Si no puede eliminar ni cambiar el nombre de la tabla duplicada en la base de datos de destino, asígnele un nombre distinto mediante la asignación de nombres. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: Omite la comprobación de nombres de tabla duplicados en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo: Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen: Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza. Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro de la base de datos de destino. Si los esquemas de las tablas son distintos, la sincronización inicial de datos podría fallar. Esto puede provocar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
Capitalization of Object Names in Destination Instance	Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos de base de datos, tabla y columna que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede optar por usar las políticas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects	En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y, a continuación, haga clic en para moverlo al cuadro Selected Objects. Nota Puede seleccionar bases de datos, tablas y columnas como objetos de sincronización. Si selecciona tablas o columnas, otros objetos como vistas, triggers y procedimientos almacenados no se sincronizarán con la base de datos de destino.
Selected Objects	Para cambiar el nombre de un único objeto de sincronización en la instancia de destino, haga clic con el botón secundario en el objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar el nombre de los objetos, consulte Map a single database, table, or column. Para cambiar por lotes los nombres de varios objetos de sincronización en la instancia de destino, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch. Nota Para seleccionar las operaciones SQL que desea sincronizar en un esquema o tabla específicos, haga clic con el botón secundario en el objeto dentro del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece. Para filtrar datos mediante una cláusula WHERE, haga clic con el botón secundario en una tabla dentro del cuadro Selected Objects y especifique la condición de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Set filter conditions. Si utiliza la función de asignación de nombres de objetos, es posible que otros objetos dependientes del objeto asignado no se sincronicen correctamente.

Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

Parámetro	Descripción
Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si necesita tareas más estables, adquiera un dedicated cluster para ejecutar las tareas de migración de DTS.
Retry Time for Failed Connections	Una vez iniciada la tarea de sincronización, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error e intenta restablecerla de inmediato. La duración predeterminada de los reintentos es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecer una duración de 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea termina con errores. Nota Si tiene varias instancias de DTS (por ejemplo, la instancia A y la instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la instancia A y en 60 minutos para la instancia B, ambas utilizarán la duración más corta de 30 minutos. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de reintento según sus necesidades de negocio. También puede liberar la instancia de DTS tan pronto como libere las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues	Una vez iniciada la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar instrucciones DDL o DML), DTS reporta un error e inicia de inmediato reintentos continuos. La duración predeterminada de los reintentos es de 10 minutos. También puede personalizar esta duración en un rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se completan correctamente dentro del tiempo de reintento configurado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea termina con errores. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization	Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo cual puede aumentar la carga de estas. Para reducir dicha carga, establezca un límite de velocidad en la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Environment Tag	Según sus necesidades de negocio, puede seleccionar una etiqueta de entorno para identificar la instancia. Este parámetro es opcional.
Configure ETL	Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: Habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: Deshabilita la función ETL.
Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral indicado, se envía una notificación a un contacto de alerta. No: No se configuran alertas. Yes: Configure las alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

Guarde la tarea y ejecute una comprobación previa.
- Para consultar los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en el globo emergente.
- Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
Nota
- Antes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se superan todos los elementos de dicha comprobación.
- Si la comprobación previa falla, haga clic en View Details junto al elemento que presentó errores. Resuelva el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
- Si la comprobación previa devuelve una advertencia:
  
  Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para resolver el problema y vuelva a ejecutar la comprobación previa.
  
  Para los elementos de comprobación que se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide suprimir el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos que pongan en riesgo su negocio.

Adquiera la instancia.

Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. A continuación se describen estos parámetros en detalle.

Categoría	Parámetro	Descripción
New Instance Class	Billing Method	Subscription: El pago se realiza al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: El cobro se calcula por hora. Resulta adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
	Resource Group Configuration	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
	Link Specification	DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Elija una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
	Subscription Duration	En el modo de suscripción, seleccione la duración y la cantidad de instancias de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

Puede consultar el progreso de la tarea en la página Data Synchronization.