Puede utilizar Data Transmission Service (DTS) para sincronizar datos desde una base de datos MySQL, como una base de datos MySQL autogestionada o una instancia de ApsaraDB RDS for MySQL, hacia una instancia de ApsaraMQ for RocketMQ. Este tema explica cómo sincronizar datos desde una instancia de ApsaraDB RDS for MySQL.
Requisitos previos
-
Debe contar con una instancia de destino de ApsaraMQ for RocketMQ (no serverless). Para obtener más información, consulte Manage instances o Manage instances.
NotaConsulte Data Synchronization Overview para conocer las versiones compatibles de las bases de datos de origen y de destino.
-
Debe tener un topic en la instancia de destino de ApsaraMQ for RocketMQ para recibir los datos sincronizados. Para obtener más información, consulte Manage topics o Manage topics.
ImportantePara instancias de la serie 4.x, el Message Type del topic debe establecerse en Partitionally Ordered Message.
Para instancias de la serie 5.x, el Message Type del topic debe establecerse en Ordered Message.
Limitaciones
|
Tipo |
Descripción |
|
Base de datos de origen |
|
|
Otras limitaciones |
|
|
Casos especiales |
|
Facturación
|
Tipo de sincronización |
Cargo de configuración |
|
sincronización completa de datos |
Sin costo. |
|
sincronización incremental de datos |
Se aplican cargos. Para más detalles, consulte billing overview. |
Operaciones SQL que se pueden sincronizar
Tipo de operación | Sentencias SQL |
DML | INSERT、UPDATE、DELETE |
DDL |
|
Permisos de cuenta de base de datos
|
Base de datos |
Permisos |
Acciones |
|
Origen ApsaraDB RDS for MySQL |
Permisos de lectura sobre los objetos a sincronizar. |
Si crea y otorga permisos a su cuenta de base de datos de origen fuera de la consola de ApsaraDB RDS for MySQL, asegúrese de que la cuenta tenga los permisos REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW y SELECT.
Procedimiento
-
Vaya a la página de lista de tareas de sincronización de la región de destino. Puede utilizar uno de los dos métodos siguientes:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menú superior, vaya a .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para ir a la página de configuración de tareas.
-
Configure las bases de datos de origen y de destino.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene que ser único.
Source Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de base de datos en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione MySQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de RDS for MySQL de origen.
Replicate Data Across Alibaba Cloud Accounts
Este ejemplo utiliza una instancia de base de datos que pertenece a la cuenta actual de Alibaba Cloud. Seleccione No.
RDS Instance ID
Seleccione el ID de la instancia de RDS for MySQL de origen.
Database Account
Introduzca la cuenta de la base de datos para la instancia de RDS for MySQL de origen. Consulte Database account permissions para conocer los requisitos de permisos.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Encryption
Seleccione Non-encrypted o SSL-encrypted según sea necesario. Si selecciona SSL-encrypted, debe habilitar previamente el cifrado SSL para la instancia de RDS for MySQL. Para obtener más información, consulte Use a cloud certificate to quickly enable SSL encryption.
Destination Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de base de datos en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione RocketMQ.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de Message Queue for RocketMQ de destino.
RocketMQ version
Seleccione la versión de la instancia de Message Queue for RocketMQ de destino.
Instance ID
Seleccione el ID de la instancia de Message Queue for RocketMQ de destino.
Database Account
Introduzca la cuenta y la contraseña de la base de datos para la instancia de Message Queue for RocketMQ de destino.
Nota-
Estos parámetros son obligatorios solo cuando RocketMQ version está establecida en 5.x.
-
Puede obtener las credenciales en la pestaña Intelligent Authentication de la página de RAM en la consola de Message Queue for RocketMQ.
Database Password
Topic
En la lista desplegable, seleccione un topic para recibir los datos.
Topic That Stores DDL Information
En la lista desplegable, seleccione un topic para almacenar la información DDL.
NotaSi no selecciona un topic, la información DDL se almacena de forma predeterminada en el topic seleccionado para el parámetro Topic.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
Si la base de datos de origen o de destino es una base de datos autogestionada (donde el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea sincronizar.
Parámetro
Descripción
Synchronization Types
Incremental Data Synchronization está seleccionada. Solo puede seleccionar Full Data Synchronization. Schema Synchronization no es compatible. Una vez completada la verificación previa, DTS sincroniza los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos sirven como datos de referencia para la posterior sincronización incremental de datos.
NotaCuando la base de datos de destino es una instancia de Message Queue for RocketMQ, Schema Synchronization no es compatible.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: Comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con el mismo nombre, la verificación previa se aprueba. Si existe una tabla con el mismo nombre, la verificación previa falla y la tarea de sincronización de datos no se inicia.
NotaSi no puede eliminar o cambiar el nombre de la tabla con el mismo nombre en la base de datos de destino, puede asignarle un nombre de tabla diferente. Para obtener más información, consulte Map table and column names.
-
Ignore Errors and Proceed: Omite la comprobación de nombres de tabla duplicados en la base de datos de destino.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y poner en riesgo su negocio. Por ejemplo:
-
Si los esquemas de las tablas son iguales y un registro en la base de datos de destino tiene el mismo valor de clave principal o clave única que un registro en la base de datos de origen:
-
Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza.
-
Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
-
-
Si los esquemas de las tablas son diferentes, la sincronización inicial de datos puede fallar. Esto puede provocar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
-
Format of the data delivered to RocketMQ.
Seleccione el formato de almacenamiento para escribir datos en el topic de destino según sus necesidades. Para obtener más información, consulte Data storage formats in message queues.
Synchronize all fields
Para las operaciones UPDATE, especifique si desea sincronizar la imagen previa de solo los campos actualizados o de toda la fila en el campo old del topic de destino. Una imagen previa es el registro de datos antes de que se ejecute una operación UPDATE.
NotaEste parámetro está disponible solo cuando Format of the data delivered to RocketMQ. está establecido en Canal JSON.
-
Yes: Sincroniza la imagen previa de toda la fila que contiene los campos actualizados.
-
No (predeterminado): Sincroniza solo la imagen previa de los campos actualizados.
Rules of the ordered messages delivered to RocketMQ.
Seleccione la regla de ordenamiento de mensajes para escribir datos en el topic de destino. Para obtener más información, consulte Message ordering rules for Message Queue for RocketMQ.
Name of DTS producer group
Puede especificar un nombre personalizado para el grupo de productores (ProducerGroup) que envía mensajes al topic de destino.
NotaEl valor predeterminado es dts-producer-group.
Limits of RocketMQ messaging transactions per second (TPS)
Puede establecer un límite en las transacciones de mensajería por segundo (TPS) para escribir datos en el topic de destino. Para obtener más información sobre las TPS de mensajería, consulte Calculation specifications.
Importante-
El valor debe ser menor o igual al máximo de TPS de la instancia de Message Queue for RocketMQ. Para obtener más información, consulte Instance specifications.
-
Mientras se ejecuta la tarea de sincronización, las TPS reales de mensajería de la instancia de Message Queue for RocketMQ pueden fluctuar ligeramente alrededor del valor especificado.
Whether to filter large size of records.
Especifique si desea filtrar los mensajes mayores de 4 MB antes de escribirlos en el topic de destino.
ImportanteSi selecciona No, la tarea de sincronización fallará si intenta escribir un mensaje mayor de 4 MB en el topic de destino.
Capitalization of Object Names in Destination Instance
Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de objetos de base de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, está seleccionada la DTS default policy. También puede optar por usar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects
En el cuadro Source Objects, haga clic en un objeto para sincronizar y luego haga clic en
para moverlo al cuadro Selected Objects.NotaPuede seleccionar bases de datos o tablas como objetos de sincronización.
Selected Objects
En este ejemplo, no se necesita configuración adicional. Puede usar la función de asignación para establecer el nombre del topic, las condiciones de filtro, las operaciones SQL a sincronizar y la clave de partición para los datos escritos en la instancia de Message Queue for RocketMQ de destino. Para obtener más información, consulte Mapping information.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no necesita seleccionar un clúster. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Después de que se inicia una tarea de sincronización, si falla la conexión a la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1,440 minutos. Se recomienda establecer la duración en 30 minutos o más. Si DTS se reconecta correctamente a la base de datos dentro de la duración especificada, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
Nota-
Si tiene varias instancias de DTS (por ejemplo, Instancia A e Instancia B) que comparten el mismo origen o destino, y establece el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el período de reintento de conexión, se recomienda personalizar la duración del reintento según las necesidades de su negocio o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS reporta un error e inicia inmediatamente operaciones de reintento continuas. La duración predeterminada de reintento es de 10 minutos. También puede personalizar la duración del reintento dentro de un rango de 1 a 1,440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se completan correctamente dentro de la duración de reintento establecida, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Para reducir la carga en las bases de datos de origen y de destino, puede establecer un límite de velocidad para la tarea de sincronización completa configurando los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración está disponible solo cuando Synchronization Types está establecido en Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión en la base de datos de destino, configure RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir información SQL de latido en la base de datos de origen mientras se ejecuta la instancia de DTS.
-
Yes: No se escribe información SQL de latido en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso.
-
No: Escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia. En este ejemplo, no se necesita ninguna etiqueta.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Monitoring and Alerting
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta.
-
No: No se configuran alertas.
-
Yes: Configure alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
-
-
-
Guarde la tarea y ejecute una verificación previa.
Para ver los parámetros de API para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.
Si ha terminado de ver los parámetros de API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience el trabajo de sincronización, DTS ejecuta una verificación previa. El trabajo solo puede iniciarse después de que todos los elementos de la verificación previa se aprueben.
Si la verificación previa falla, haga clic en View Details para el elemento fallido. Solucione el problema según las indicaciones y luego vuelva a ejecutar la verificación previa.
-
Si la verificación previa devuelve una advertencia:
Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto al elemento. Siga las instrucciones para solucionar el problema y luego vuelva a ejecutar la verificación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again en secuencia para omitir la advertencia y volver a ejecutar la verificación previa. Si decide omitir el elemento de advertencia, esto puede causar problemas como inconsistencia de datos y representar riesgos para su negocio.
-
Adquiera la instancia.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. La siguiente tabla describe estos parámetros en detalle.
Categoría
Parámetro
Descripción
New Instance Class
Método de facturación
-
Subscription: Paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento.
-
Pay-as-you-go: Se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
Configuración de resource group
El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
Especificación de enlace
DTS proporciona especificaciones de sincronización con diferentes niveles de rendimiento. La especificación del enlace de sincronización afecta la tasa de sincronización. Puede elegir una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
Duración de la suscripción
En el modo de suscripción, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años.
NotaEsta opción solo está disponible cuando el método de facturación es Subscription.
-
Después de completar la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.
Puede consultar el progreso de la tarea en la página Data Synchronization.
Información de mapeo
En la lista Selected Objects, pase el puntero sobre el nombre del topic de destino.
Haga clic en Edit junto al nombre del topic de destino.
-
En el cuadro de diálogo, configure la información de mapeo.
NotaSi se configura el mapeo tanto a nivel de base de datos como de tabla, prevalece la configuración a nivel de tabla.
Para el mapeo a nivel de base de datos, utilice el cuadro de diálogo Edit Schema. Para el mapeo a nivel de tabla, utilice el cuadro de diálogo Edit Table.
Nivel de base de datos
Parámetro
Descripción
Schema Name
El topic de destino donde se escriben los datos sincronizados. De forma predeterminada, corresponde al Topic que seleccionó para la Destination Database en el paso Configurations for Source and Destination Databases.
Importante-
El nombre de topic especificado debe existir en la instancia de destino de Message Queue for RocketMQ. De lo contrario, la tarea de sincronización de datos fallará.
-
Si modifica el valor de Schema Name, los datos se escribirán en el topic indicado.
Select DDL and DML Operations to Be Synchronized
Seleccione las operaciones SQL para la sincronización incremental.
Nivel de tabla
Parámetro
Descripción
Table Name
El topic de destino donde se escriben los datos sincronizados. De forma predeterminada, corresponde al Topic que seleccionó para la Destination Database en el paso Configurations for Source and Destination Databases.
Importante-
El nombre de topic especificado debe existir en la instancia de destino de Message Queue for RocketMQ. De lo contrario, la tarea de sincronización de datos fallará.
-
Si modifica el valor de Table Name, los datos se escribirán en el topic indicado.
Filter Conditions
Para obtener más información, consulte Set Filter Conditions.
Select DDL and DML Operations to Be Synchronized
Seleccione las operaciones SQL para la sincronización incremental.
Partition Key
Si establece Rules of the ordered messages delivered to RocketMQ. en Deliver data based on hash values of a specified column., podrá especificar una o más columnas como clave de partición. Posteriormente, DTS distribuirá las filas en distintas particiones del topic de destino según el valor de hash calculado a partir de dicha clave.
Haga clic en OK.