DataHub es una plataforma de procesamiento de datos en streaming que permite publicar, suscribirse y distribuir datos en streaming, lo cual facilita la creación de aplicaciones y análisis. Utilice DTS para sincronizar datos desde ApsaraDB RDS for MySQL hacia DataHub y habilitar rápidamente el análisis en tiempo real mediante servicios de big data como stream computing.
Requisitos previos
-
Debe haber creado una instancia de origen de ApsaraDB RDS for MySQL.
NotaPara crear una instancia de ApsaraDB RDS for MySQL, consulte Create an ApsaraDB RDS for MySQL instance.
Para obtener información sobre las versiones compatibles, consulte Overview of data synchronization scenarios.
Debe haber activado el servicio DataHub y creado un proyecto para recibir los datos sincronizados. Para más información, consulte Get started with DataHub y Manage projects.
Notas de uso
DTS no sincroniza claves externas desde la base de datos de origen hacia la base de datos de destino. Por lo tanto, las operaciones en cascada y de eliminación en la base de datos de origen no se sincronizan con la base de datos de destino.
|
Tipo |
Descripción |
|
Límites de la base de datos de origen |
|
|
Otros límites |
|
|
Casos especiales |
|
Topologías de sincronización compatibles
Sincronización unidireccional uno a uno.
Sincronización unidireccional uno a varios.
Sincronización unidireccional varios a uno.
Para conocer cada topología de sincronización y sus consideraciones, consulte Synchronization topologies.
Operaciones SQL compatibles
Tipo de operación | Sentencia SQL |
DML | INSERT, UPDATE, DELETE |
DDL | ADD COLUMN |
Procedimiento
-
Vaya a la página de lista de tareas de sincronización de la región de destino. Puede utilizar uno de los dos métodos siguientes:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de tareas.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, lea atentamente los límites que se muestran en la parte superior de la página. Si no respeta estos límites, la tarea podría fallar o producirse inconsistencias en los datos.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene por qué ser único.
Source Database
Select DMS Database Instance
Seleccione una instancia existente según sea necesario.
-
Si utiliza una instancia existente, la información de la base de datos se completa automáticamente. No es necesario introducirla de nuevo.
-
Si no utiliza una instancia existente, introduzca la siguiente información de la base de datos.
Database Type
Seleccione MySQL.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside la instancia de origen de ApsaraDB RDS for MySQL.
Cross-account
Seleccione No. Este tutorial trata sobre la sincronización de datos dentro de la misma cuenta de Alibaba Cloud.
RDS Instance ID
Seleccione el ID de la instancia de origen de ApsaraDB RDS for MySQL.
Database Account
Introduzca la cuenta de la base de datos para la instancia de origen de ApsaraDB RDS for MySQL. La cuenta debe tener permisos de lectura sobre los objetos de sincronización.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Connection Method
Seleccione Non-encrypted o SSL-encrypted según sea necesario. Si selecciona SSL-encrypted, debe habilitar previamente el cifrado SSL para la instancia de RDS for MySQL. Para obtener más información, consulte Use a cloud certificate to quickly enable SSL encryption.
Destination Database
Select DMS Database Instance
Seleccione una instancia existente según sea necesario.
-
Si utiliza una instancia existente, la información de la base de datos se completa automáticamente. No es necesario introducirla de nuevo.
-
Si no utiliza una instancia existente, introduzca la siguiente información de la base de datos.
Database Type
Seleccione DataHub.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside la instancia de destino de DataHub.
Project
Seleccione el Project de destino de DataHub.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto puede realizarse de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
Si la base de datos de origen o de destino es una base de datos autogestionada (donde el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea sincronizar.
Parámetro
Descripción
Synchronization Types
Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la verificación previa, DTS realiza una sincronización completa de los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Esto sirve como línea base para la posterior sincronización incremental de datos.
Naming Rules of Additional Columns
Cuando DTS sincroniza datos con DataHub, agrega columnas adicionales a la tabla de destino. Si ocurre un conflicto de nombres entre una columna adicional y una columna existente en la tabla de destino, la tarea de sincronización falla. Seleccione New Rule o Previous Rule según sus necesidades empresariales.
AvisoAntes de seleccionar una regla, evalúe si las columnas adicionales entran en conflicto con las columnas existentes en la tabla de destino. Los conflictos de nombres pueden provocar pérdida de datos o fallos en la tarea. Para obtener más información sobre las reglas y definiciones de las columnas adicionales, consulte Additional column names and definitions.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: Comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con el mismo nombre, la verificación previa se aprueba. Si existe una tabla con el mismo nombre, la verificación previa falla y la tarea de sincronización de datos no se inicia.
NotaSi no puede eliminar ni cambiar el nombre de la tabla con el mismo nombre en la base de datos de destino, puede asignarle un nombre de tabla diferente. Para obtener más información, consulte Map table and column names.
-
Ignore Errors and Proceed: Omite la comprobación de nombres de tabla duplicados en la base de datos de destino.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y poner en riesgo su negocio. Por ejemplo:
-
Si los esquemas de las tablas son iguales y un registro en la base de datos de destino tiene el mismo valor de clave principal o clave única que un registro en la base de datos de origen:
-
Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza.
-
Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
-
-
Si los esquemas de las tablas son diferentes, la sincronización inicial de datos podría fallar. Esto puede resultar en la sincronización parcial de los datos de las columnas o en un fallo total de la sincronización. Proceda con precaución.
-
Case Sensitivity Policy for Destination Object Names
Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de objetos de bases de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, está seleccionada la DTS default policy. También puede optar por utilizar las políticas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects
En el cuadro Source Objects, haga clic en un objeto para sincronizarlo y luego haga clic en
para moverlo al cuadro Selected Objects.NotaLos objetos de sincronización se seleccionan a nivel de tabla.
Selected Objects
-
Para cambiar el nombre de un solo objeto de sincronización en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar el nombre de los objetos, consulte Map a single database, table, or column.
-
Para cambiar los nombres de varios objetos de sincronización en la instancia de destino de forma masiva, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch.
NotaPara establecer una cláusula WHERE que filtre los datos, haga clic con el botón derecho en la tabla dentro del cuadro Selected Objects y especifique la condición de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Set filter conditions.
Haga clic con el botón derecho en la tabla dentro del cuadro Selected Objects, desmarque la casilla Sync All Columns en el cuadro de diálogo que aparece y, a continuación, establezca la clave de particionamiento. La clave de particionamiento se utiliza para la división de datos.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Set Alerts
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta.
-
No: No se configuran alertas.
-
Yes: Configure las alertas estableciendo un umbral de alerta y especificando una alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
Retry Time for Failed Connections
Una vez iniciada la tarea de sincronización, si falla la conexión a la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1,440 minutos. Se recomienda establecer la duración en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
Nota-
Si tiene varias instancias de DTS (por ejemplo, Instancia A e Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el período de reintento de conexión, se recomienda personalizar la duración del reintento según sus necesidades empresariales o liberar la instancia de DTS lo antes posible después de liberar las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de iniciar la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS reporta un error e inicia inmediatamente operaciones de reintento continuas. La duración predeterminada de reintento es de 10 minutos. También puede personalizar la duración de reintento dentro del rango de 1 a 1,440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se realizan correctamente dentro de la duración de reintento establecida, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Para reducir la carga en las bases de datos de origen y de destino, puede establecer un límite de velocidad para la tarea de sincronización completa configurando los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración solo está disponible cuando Synchronization Types está establecido en Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus requisitos empresariales. Para este ejemplo, no es necesario seleccionar una etiqueta.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: La información SQL de latido no se escribe en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso.
-
No: Escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Monitoring and Alerting
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta.
-
No: No se configuran alertas.
-
Yes: Configure las alertas estableciendo un umbral de alerta y especificando una alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
-
-
-
Guarde la tarea y ejecute una verificación previa.
Para ver los parámetros de la API para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.
Si ha terminado de ver los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience el trabajo de sincronización, DTS ejecuta una verificación previa. El trabajo solo puede iniciarse después de aprobar todos los elementos de dicha verificación.
Si la verificación previa falla, haga clic en View Details para el elemento fallido. Solucione el problema según las indicaciones y vuelva a ejecutar la verificación previa.
-
Si la verificación previa devuelve una advertencia:
Si un elemento de comprobación falla y no puede ignorarse, haga clic en View Details junto al elemento. Siga las instrucciones para solucionar el problema y vuelva a ejecutar la verificación previa.
Para los elementos de comprobación que pueden ignorarse, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again en secuencia para omitir la advertencia y volver a ejecutar la verificación previa. Si decide ignorar el elemento de advertencia, podrían surgir problemas como inconsistencia de datos y riesgos para su negocio.
-
Adquiera la instancia.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. La siguiente tabla describe estos parámetros en detalle.
Categoría
Parámetro
Descripción
New Instance Class
Método de facturación
-
Subscription: Paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento.
-
Pay-as-you-go: Se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
Configuración de resource group
El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
Especificación de enlace
DTS proporciona especificaciones de sincronización con diferentes niveles de rendimiento. La especificación del enlace de sincronización afecta la tasa de sincronización. Puede elegir una especificación según su escenario empresarial. Para obtener más información, consulte Data synchronization link specifications.
Duración de la suscripción
En el modo de suscripción, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años.
NotaEsta opción solo está disponible cuando el método de facturación es Subscription.
-
Después de completar la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.
Puede consultar el progreso de la tarea en la página Data Synchronization.
Esquema del topic
Cuando DTS sincroniza cambios de datos en un topic de una instancia de DataHub, agrega varias columnas adicionales al esquema del topic. Estas columnas almacenan metadatos sobre los cambios de datos, como se muestra en el siguiente ejemplo.
En este ejemplo, los campos de datos son id, name y address. Dado que seleccionó las reglas heredadas de columnas adicionales al configurar la sincronización de datos, DTS añade el prefijo dts_ a estos campos de datos.

La siguiente tabla describe las columnas adicionales.
Nombre heredado | Nuevo nombre | Tipo | Descripción |
|
| String | El ID único del registro de log incremental. Nota
|
|
| String | El tipo de operación. Valores válidos:
|
|
| String | El ID del servidor de la base de datos. |
|
| String | El nombre de la base de datos. |
|
| String | El nombre de la tabla. |
|
| String | La marca de tiempo UTC de la operación, obtenida del binlog. |
|
| String | Indica si el registro contiene los valores anteriores a la actualización. Valores válidos: Y y N. |
|
| String | Indica si el registro contiene los valores posteriores a la actualización. Valores válidos: Y y N. |
dts_before_flag y dts_after_flag
Los valores de los campos dts_before_flag y dts_after_flag en un log incremental dependen del tipo de operación:
-
INSERT
En una operación INSERT, todos los valores de columna representan los datos recién insertados, que corresponden al valor posterior a la actualización. Por lo tanto,
dts_before_flages N ydts_after_flages Y. -
UPDATE
En una operación UPDATE, DTS divide la operación en dos entradas de log incremental. Estas dos entradas comparten los mismos valores para
dts_record_id,dts_operation_flagydts_utc_timestamp.La primera entrada de log registra el valor anterior a la actualización, donde
dts_before_flages Y ydts_after_flages N. La segunda entrada registra el valor posterior a la actualización, dondedts_before_flages N ydts_after_flages Y. -
DELETE
En una operación DELETE, todos los valores de columna en el log incremental representan los datos eliminados, que corresponden al valor anterior a la actualización. Por lo tanto,
dts_before_flages Y ydts_after_flages N.