Utilice DTS para sincronizar datos de un clúster de PolarDB for MySQL a un clúster de AnalyticDB for MySQL 3.0. Esto le permite construir rápidamente sistemas internos de inteligencia empresarial (BI), consultas interactivas y reportes en tiempo real.
Requisitos previos
-
El clúster de origen de PolarDB for MySQL ya está creado. Para obtener más información, consulte Custom Purchase y Purchase a subscription cluster.
2070624_v1_3_4.dita" data-node="2755247">.
Ya creó un destino de AnalyticDB for MySQL 3.0. Para más detalles, consulte Create a cluster.
La instancia de destino de AnalyticDB for MySQL requiere más espacio de almacenamiento del que utiliza la instancia de origen de PolarDB for MySQL.
Límites
Durante la sincronización de esquemas de bases de datos y tablas, DTS no sincroniza las claves externas de la base de datos de origen a la de destino.
A lo largo de la sincronización completa e incremental, DTS deshabilita temporalmente las comprobaciones de restricciones y las operaciones en cascada de claves externas a nivel de sesión. Si ocurren actualizaciones o eliminaciones en cascada en la base de datos de origen mientras se ejecuta la tarea, podría generarse inconsistencia en los datos.
DTS no admite la sincronización de vistas materializadas hacia la instancia de destino de AnalyticDB for MySQL durante la sincronización de esquemas. Si necesita vistas materializadas, debe crearlas manualmente en la instancia de destino una vez finalizada la sincronización.
Tipo | Descripción |
Límites de la base de datos de origen |
|
Otros límites |
|
Otras notas | DTS ejecuta periódicamente el comando CREATE DATABASE IF NOT EXISTS |
Facturación
|
Tipo de sincronización |
Precio |
|
Sincronización de esquemas y sincronización completa de datos |
Sin costo. |
|
Sincronización incremental de datos |
Con cargo. Para obtener más información, consulte Billing overview. |
Topologías de sincronización compatibles
Sincronización unidireccional de uno a uno
Sincronización unidireccional de uno a varios
Sincronización unidireccional de varios a uno
Operaciones SQL admitidas
|
Tipo de operación |
Instrucción SQL |
|
DML |
INSERT, UPDATE y DELETE Nota
Cuando se escriben datos en el clúster de AnalyticDB for MySQL, la instrucción UPDATE se convierte automáticamente en la instrucción REPLACE INTO. |
|
DDL |
CREATE TABLE, DROP TABLE, RENAME TABLE, TRUNCATE TABLE, ADD COLUMN y DROP COLUMN |
Si el tipo de dato de un campo de la tabla de origen cambia durante la sincronización de datos, se devuelve un error y la tarea de sincronización se interrumpe. Para solucionar este problema, siga estos pasos:
Mientras DTS sincroniza datos con el clúster de destino de AnalyticDB for MySQL, el tipo de dato de un campo de la tabla de origen cambia y provoca el fallo de la tarea. En este ejemplo, la tabla de origen se llama customer.
En el clúster de destino de AnalyticDB for MySQL V3.0, cree una tabla llamada customer_new con el mismo esquema que la tabla customer.
Ejecute la instrucción INSERT INTO SELECT para copiar los datos de la tabla customer a la tabla customer_new.
Cambie el nombre de la tabla customer o elimínela. Después, cambie el nombre de la tabla customer_new a customer.
Reinicie la tarea de sincronización de datos en la consola de DTS.
Procedimiento
-
Vaya a la página de la lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menús superior, elija .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, lea detenidamente los límites que se muestran en la parte superior de la página. Si no respeta estos límites, la tarea podría fallar o producirse inconsistencias en los datos.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. El nombre no tiene que ser único.
Source Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema o no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione PolarDB for MySQL.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región del clúster de origen de PolarDB for MySQL.
PolarDB Cluster ID
Seleccione el identificador de instancia del clúster de origen de PolarDB for MySQL.
Database Account
Introduzca la cuenta de la base de datos del clúster de origen de PolarDB for MySQL. Esta cuenta debe tener permisos de lectura sobre los objetos que se van a sincronizar.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Encryption
Seleccione una opción según sus necesidades. Para obtener más información, consulte Configure SSL encryption.
Destination Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema o no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione AnalyticDB for MySQL 3.0.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región del clúster de destino de AnalyticDB for MySQL 3.0.
Instance ID
Seleccione el identificador de instancia del clúster de destino de AnalyticDB for MySQL 3.0.
Database Account
Introduzca la cuenta de la base de datos del clúster de destino de AnalyticDB for MySQL 3.0. Esta cuenta debe tener permisos de lectura y escritura.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde dichos servidores y se puede configurar de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea sincronizar.
Parámetro
Descripción
Synchronization Types
Incremental Data Synchronization está seleccionada. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
NotaSi selecciona Full Data Synchronization, podrá sincronizar el esquema y los datos de la tabla creada mediante la instrucción CREATE TABLE hacia la base de datos de destino.
DDL and DML Operations to Be Synchronized
Seleccione las operaciones DDL o DML que desea sincronizar a nivel de instancia. Para conocer las operaciones compatibles, consulte Supported SQL operations.
NotaPara seleccionar las operaciones SQL que desea sincronizar a nivel de base de datos o de tabla, haga clic con el botón derecho en un objeto de la lista Selected Objects y elija las operaciones SQL deseadas en el menú contextual.
Merge Tables
-
Seleccione Yes: en escenarios OLTP, se suele fragmentar la base de datos y las tablas para mejorar el tiempo de respuesta de las tablas de negocio. En escenarios OLAP, como el de la base de datos de destino de este ejemplo, una sola tabla puede almacenar grandes volúmenes de datos, lo que facilita las consultas en tablas únicas. En estos casos, puede usar la función de combinación de varias tablas de DTS para sincronizar múltiples tablas con el mismo esquema (tablas fragmentadas) desde la base de datos de origen hacia una sola tabla en la base de datos de destino. Para consultar las instrucciones específicas, vea Enable multi-table merge.
Nota-
Después de seleccionar varias tablas de la base de datos de origen, debe usar la función de asignación de nombres de objetos para cambiar sus nombres por el mismo nombre de tabla en la base de datos de destino. Para obtener más información sobre esta función, consulte Map table and column names.
-
DTS agrega la columna
__dts_data_sourcede tipo texto a la tabla de destino para almacenar el origen de los datos. El valor de la columna utiliza el formatoDTS instance ID:database name:schema name:table namepara identificar el origen de la tabla; por ejemplo,dts****:dtstestdata:testschema:customer1. -
La función de combinación de varias tablas opera a nivel de tarea, por lo que no es posible aplicarla a nivel de tabla. Si desea combinar solo algunas tablas, deberá crear dos tareas de sincronización de datos.
AvisoNo ejecute operaciones DDL que modifiquen el esquema de la base de datos o de las tablas en la base de datos de origen. De lo contrario, podrían producirse inconsistencias en los datos o errores en la tarea de sincronización.
-
-
Seleccione No. Esta es la opción predeterminada.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe, la comprobación previa se supera correctamente. Si existe, la comprobación falla y la tarea de sincronización de datos no se inicia.
NotaSi no puede eliminar ni renombrar la tabla con el mismo nombre en la base de datos de destino, asígnele un nombre distinto mediante la función de asignación. Para obtener más información, consulte Map table and column names.
-
Ignore Errors and Proceed: omite la comprobación de nombres de tabla duplicados en la base de datos de destino.
AvisoSeleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo:
-
Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen:
-
Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza.
-
Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro de la base de datos de destino.
-
-
Si los esquemas de las tablas son distintos, la sincronización inicial de datos podría fallar. Esto puede provocar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
-
Capitalization of Object Names in Destination Instance
Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de los objetos de base de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la opción DTS default policy. También puede optar por usar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects
En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en
para moverlo al cuadro Selected Objects.Nota-
Puede seleccionar columnas, tablas o bases de datos como objetos de sincronización. Si selecciona tablas o columnas, DTS no sincronizará otros objetos, como vistas, desencadenadores o procedimientos almacenados, con la base de datos de destino.
-
Si selecciona una base de datos como objeto de sincronización, DTS aplica las siguientes reglas predeterminadas:
-
Si la tabla de origen tiene una clave primaria (de una sola columna o compuesta), las columnas de la clave primaria se usan como claves de distribución.
-
Si la tabla de origen no tiene clave primaria, se genera una columna de clave primaria de incremento automático en la tabla de destino. Esto puede provocar inconsistencias de datos entre las bases de datos de origen y de destino.
-
Selected Objects
-
Para cambiar el nombre de un único objeto de sincronización en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar el nombre de los objetos, consulte Map a single database, table, or column.
-
Para cambiar por lotes los nombres de varios objetos de sincronización en la instancia de destino, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch.
NotaPara seleccionar las operaciones SQL que desea sincronizar a nivel de base de datos o de tabla, haga clic con el botón derecho en el objeto de la lista Selected Objects y elija las operaciones SQL deseadas en el cuadro de diálogo que aparece. Para consultar la lista de operaciones compatibles, vea Supported SQL operations.
Para filtrar datos mediante una cláusula WHERE, haga clic con el botón derecho en la tabla de la lista Selected Objects y especifique la condición de filtro en el cuadro de diálogo que aparece. Para consultar las instrucciones, vea Configure data filtering.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Si busca un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Copy the temporary table of the Online DDL tool that is generated in the source table to the destination database.
La sincronización no admite operaciones DDL. Debe seleccionar No, Adapt to DMS Online DDL o No, Adapt to gh-ost. Si en el futuro se admite la sincronización DDL en este escenario y usted usa Data Management (DMS) o gh-ost para aplicar cambios DDL en línea en la base de datos de origen, podrá decidir si sincroniza los datos de las tablas temporales generadas durante dichos cambios.
ImportanteLos métodos de procesamiento de cada fase son los siguientes: las fases Schema Synchronization y Full Data Synchronization no permiten operaciones DDL que modifiquen el esquema de la base de datos o de las tablas. Por lo tanto, estas fases no están controladas por la directiva de DDL en línea.
-
Schema Synchronization: esta fase no está controlada por la directiva de DDL en línea. Se crean las tablas temporales relacionadas.
-
Full Data Synchronization: esta fase no está controlada por la directiva de DDL en línea. Las tablas temporales no se incluyen en los objetos de sincronización completa. Se filtran todas las tablas cuyos nombres coinciden con la expresión regular (
^_(.+)_(?:gho|new)$o^_(.+)_(?:ghc|del|old)$). -
Incremental Data Synchronization: esta fase sí está controlada por la directiva de DDL en línea.
-
Yes: sincroniza los cambios de datos en las tablas temporales (por ejemplo,
_table-name_gho) generadas por las operaciones DDL en línea. -
No, Adapt to DMS Online DDL y No, Adapt to gh-ost: filtran los cambios de datos en las tablas temporales (por ejemplo,
_table-name_gho) generadas por herramientas como gh-ost, basándose en reglas de expresiones regulares.
-
-
Yes: sincroniza los datos de las tablas temporales generadas por los cambios DDL en línea.
NotaSi los datos de las tablas temporales generadas por los cambios DDL en línea son demasiado grandes, podría producirse latencia en la sincronización.
-
No, Adapt to DMS Online DDL: no sincroniza los datos de las tablas temporales generadas por los cambios DDL en línea. En su lugar, solo sincroniza las instrucciones DDL originales ejecutadas en la base de datos de origen mediante Data Management (DMS).
NotaEsta opción provoca el bloqueo de tablas en la base de datos de destino.
-
No, Adapt to gh-ost: no sincroniza las tablas temporales generadas por los cambios DDL en línea. Admite reglas de filtrado personalizadas. DTS filtra los cambios de datos en las tablas temporales (por ejemplo,
_table-name_gho) generadas por herramientas como gh-ost, basándose en reglas de expresiones regulares. Puede modificar las expresiones regulares predeterminadas que se usan para coincidir con las tablas shadow y las tablas innecesarias según sus necesidades:-
Tabla shadow:
^_(.+)_(?:gho|new)$ -
Tabla innecesaria:
^_(.+)_(?:ghc|del|old)$
NotaEsta opción provoca el bloqueo de tablas en la base de datos de destino.
-
Retry Time for Failed Connections
Una vez iniciada la tarea de sincronización, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error e intenta restablecerla de inmediato. La duración predeterminada de los reintentos es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecer un valor de 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del plazo indicado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
Nota-
Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y establece el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de los reintentos según las necesidades de su negocio. También puede liberar la instancia de DTS tan pronto como libere las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Una vez iniciada la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar instrucciones DDL o DML), DTS reporta un error y comienza a reintentar la operación de forma continua. La duración predeterminada de los reintentos es de 10 minutos. También puede personalizar este valor en un rango de 1 a 1440 minutos. Se recomienda establecerlo en 10 minutos o más. Si las operaciones correspondientes se completan correctamente dentro del plazo configurado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar su carga. Para reducir dicha carga, puede establecer un límite de velocidad en la tarea de sincronización completa mediante los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para reducir la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades. Este parámetro es opcional.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir la información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: no se escribe la información SQL de latido en la base de datos de origen. Esto puede hacer que la instancia de DTS reporte un retraso.
-
No: escribe la información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL?. Valores válidos:
-
Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: deshabilita la función ETL.
Monitoring and Alerting
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral establecido, se enviará una notificación al contacto de alerta.
-
No: no se configuran alertas.
-
Yes: configure las alertas estableciendo un umbral de alerta y especificando un notificación de alerta. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
-
-
Haga clic en Next: Data Validation para configurar una tarea de validación de datos.
Si desea usar la función de validación de datos, consulte las instrucciones de configuración en Configure data validation.
-
Opcional: Después de completar la configuración anterior, haga clic en Next: Configure Database and Table Fields para establecer la información de Type, Primary Key Column, Distribution Key y de la clave de partición (Partition Key, Partitioning Rules y Partition Lifecycle) de la tabla que se sincronizará en la base de datos de destino.
NotaEste paso solo está disponible si seleccionó Schema Synchronization en Synchronization Types al configurar los objetos de la tarea. Luego, puede establecer Definition Status en All para realizar modificaciones.
El campo Primary Key Column puede ser una clave primaria compuesta por varias columnas. Debe seleccionar una o más columnas de Primary Key Column para que funcionen como Distribution Key y Partition Key. Para obtener más información, consulte CREATE TABLE.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en el globo emergente.
Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se superan todos los elementos de dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento que presentó errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si la comprobación previa devuelve una advertencia:
Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían producirse problemas como inconsistencias en los datos que pongan en riesgo su negocio.
-
Adquiera la instancia.
Cuando el valor de Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. La siguiente tabla describe estos parámetros en detalle.
Categoría
Parámetro
Descripción
New Instance Class
Billing Method
-
Subscription: paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento.
-
Pay-as-you-go: se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
Resource Group Configuration
El resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is Resource Management?.
Link Specification
DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Elija una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
Subscription Duration
En el modo de suscripción, seleccione la duración y la cantidad de la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años.
NotaEsta opción solo está disponible cuando el método de facturación es Subscription.
-
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.
Puede consultar el progreso de la tarea en la página Data Synchronization.