Este tema describe cómo utilizar Data Transmission Service (DTS) para sincronizar datos entre clústeres de AnalyticDB for MySQL 3.0.
Requisitos previos
Debe haber creado un cluster de destino en AnalyticDB for MySQL 3.0 con un espacio de almacenamiento superior al espacio utilizado en el clúster de origen de AnalyticDB for MySQL 3.0.
-
La función de captura de cambios de datos (CDC) debe estar habilitada en el clúster de origen de AnalyticDB for MySQL 3.0, así como el binary log is enabled correspondiente a las tablas que desea sincronizar.
NotaSi el clúster de AnalyticDB for MySQL 3.0 tiene una versión del motor anterior a la 3.2.1.0, primero debe upgrade it.
La tabla XUANWU_V2 no admite la habilitación del registro binario. Por lo tanto, no es posible usar DTS para sincronizar datos ni realizar migraciones incrementales de tablas XUANWU_V2 entre clústeres de AnalyticDB for MySQL.
Actualmente, el clúster de origen de AnalyticDB for MySQL no admite la sincronización hacia ApsaraDB RDS for MySQL ni PolarDB for MySQL.
Limitaciones
Durante la sincronización de esquemas, DTS no sincroniza las claves foráneas desde la base de datos de origen hacia la de destino.
En las fases de sincronización completa e incremental de datos, DTS deshabilita temporalmente las verificaciones de restricciones y las operaciones en cascada de claves foráneas a nivel de sesión. Si ejecuta operaciones de actualización o eliminación en cascada en la base de datos de origen mientras la tarea está en ejecución, podrían producirse inconsistencias en los datos.
Durante la sincronización de esquemas, DTS no admite la sincronización de vistas materializadas hacia la instancia de destino de AnalyticDB for MySQL. Si requiere vistas materializadas, créelas manualmente en la instancia de destino una vez finalizada la sincronización.
Tipo | Descripción |
Limitaciones de la base de datos de origen |
|
Otras limitaciones |
|
Facturación
|
Tipo de sincronización |
Precios |
|
Sincronización de esquemas y sincronización completa de datos |
Sin costo. |
|
Sincronización incremental de datos |
Con costo. Para obtener más información, consulte Billing overview. |
Operaciones SQL compatibles
Tipo de operación | Sentencia SQL |
DML | INSERT, UPDATE, DELETE Nota Cuando se escriben datos en una instancia de AnalyticDB for MySQL 3.0, las sentencias UPDATE se convierten automáticamente en sentencias REPLACE INTO. Si la sentencia UPDATE tiene como objetivo la clave principal, se convierte en sentencias DELETE+INSERT. |
DDL | ADD COLUMN、DROP COLUMN |
Permisos de cuenta
Base de datos | Permisos obligatorios | Configuración de cuenta |
Clúster de origen de AnalyticDB for MySQL 3.0 | Permisos de lectura sobre la tabla que se va a sincronizar. | |
Clúster de destino de AnalyticDB for MySQL 3.0 | Permisos de lectura y escritura sobre la base de datos de destino. |
Procedimiento
-
Vaya a la página de lista de tareas de sincronización de la región de destino. Puede utilizar uno de los dos métodos siguientes:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de tareas.
-
Configure las bases de datos de origen y de destino.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene que ser único.
Source Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione AnalyticDB for MySQL 3.0.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside el clúster de origen de AnalyticDB for MySQL 3.0.
Replicate Data Across Alibaba Cloud Accounts
Este ejemplo utiliza una instancia de base de datos que pertenece a la cuenta actual de Alibaba Cloud. Seleccione No.
Instance ID
Seleccione el ID del clúster de origen de AnalyticDB for MySQL 3.0.
Database Account
Introduzca la cuenta de la base de datos para el clúster de origen de AnalyticDB for MySQL 3.0. Para obtener información sobre los permisos obligatorios, consulte Account permissions.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Destination Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione AnalyticDB for MySQL 3.0.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside el clúster de destino de AnalyticDB for MySQL 3.0.
Instance ID
Seleccione el ID del clúster de destino de AnalyticDB for MySQL 3.0.
Database Account
Introduzca la cuenta de la base de datos para el clúster de destino de AnalyticDB for MySQL 3.0. Para obtener información sobre los permisos obligatorios, consulte Account permissions.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto puede hacerse de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea sincronizar.
Parámetro
Descripción
Synchronization Types
Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la verificación previa, DTS realiza una sincronización completa de datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Esto sirve como línea base para la posterior sincronización incremental de datos.
DDL and DML Operations to Be Synchronized
Seleccione las operaciones a nivel de instancia que desea sincronizar durante la sincronización incremental de datos.
NotaPara seleccionar operaciones a nivel de tabla, haga clic con el botón derecho en el objeto de sincronización dentro de la lista Selected Objects y seleccione las operaciones deseadas en el cuadro de diálogo que aparece.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: Comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con el mismo nombre, la verificación previa se aprueba. Si existe una tabla con el mismo nombre, la verificación previa falla y la tarea de sincronización de datos no se inicia.
NotaSi no puede eliminar o cambiar el nombre de la tabla con el mismo nombre en la base de datos de destino, puede asignarle un nombre de tabla diferente. Para obtener más información, consulte Map table and column names.
-
Ignore Errors and Proceed: Omite la comprobación de nombres de tabla duplicados en la base de datos de destino.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y poner en riesgo su negocio. Por ejemplo:
-
Si los esquemas de las tablas son iguales y un registro en la base de datos de destino tiene el mismo valor de clave principal o clave única que un registro en la base de datos de origen:
-
Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza.
-
Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
-
-
Si los esquemas de las tablas son diferentes, la sincronización inicial de datos puede fallar. Esto puede provocar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
-
Source Objects
En el cuadro Source Objects, seleccione la tabla que desea sincronizar y haga clic en
para moverla al cuadro Selected Objects.ImportanteSolo puede seleccionar una tabla.
Selected Objects
-
Para establecer el nombre de un objeto de sincronización en la instancia de destino o especificar qué objeto recibe los datos, haga clic con el botón derecho en el objeto de sincronización dentro del cuadro Selected Objects y modifíquelo. Para obtener más información, consulte Map table and column names.
-
Para quitar un objeto de sincronización, haga clic en él dentro del cuadro Selected Objects y luego haga clic en
para moverlo al cuadro Source Objects.
Nota-
Si utiliza la función de asignación de nombres de objetos, la sincronización de otros objetos que dependen del objeto asignado podría fallar.
-
Para establecer una cláusula WHERE que filtre datos, haga clic con el botón derecho en la tabla que desea sincronizar dentro del cuadro Selected Objects. En el cuadro de diálogo que aparece, establezca la condición de filtro. Para obtener más información, consulte Set filter conditions.
-
Para seleccionar operaciones SQL para la sincronización incremental, haga clic con el botón derecho en el objeto de sincronización dentro del cuadro Selected Objects y seleccione las operaciones deseadas en el cuadro de diálogo que aparece.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Después de iniciar una tarea de sincronización, si falla la conexión a la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1,440 minutos. Se recomienda establecer la duración en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanudará automáticamente. De lo contrario, la tarea fallará.
Nota-
Si tiene varias instancias de DTS (por ejemplo, Instancia A e Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el período de reintento de conexión, se recomienda personalizar la duración del reintento según sus necesidades comerciales o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de iniciar la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS reporta un error e inicia inmediatamente operaciones de reintento continuo. La duración predeterminada de reintento es de 10 minutos. También puede personalizar la duración del reintento dentro de un rango de 1 a 1,440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones relevantes se completan correctamente dentro del tiempo de reintento establecido, la tarea de sincronización se reanudará automáticamente. De lo contrario, la tarea fallará.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante la etapa de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Para reducir la carga en las bases de datos de origen y de destino, puede establecer un límite de velocidad para la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración solo está disponible cuando Synchronization Types está configurado como Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización se esté ejecutando.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión en la base de datos de destino, configure RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades. Para este tutorial, no se requiere ninguna etiqueta.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca las sentencias de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Monitoring and Alerting
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta.
-
No: No se configuran alertas.
-
Yes: Configure alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
-
-
Haga clic en Next: Data Validation para configurar una tarea de validación de datos.
Si desea utilizar la función de validación de datos, consulte Configure data validation para obtener instrucciones de configuración.
-
Opcional: Una vez completadas las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields para configurar la información de Type, Primary Key Column, Distribution Key y clave de partición (Partition Key, Partitioning Rules y Partition Lifecycle) para las tablas que se sincronizarán en la base de datos de destino.
NotaEste paso solo está disponible si selecciona Schema Synchronization para el parámetro Synchronization Types. Puede configurar Definition Status como All para modificar los campos.
Para Primary Key Column, puede seleccionar varias columnas para formar una clave principal compuesta. Posteriormente, debe seleccionar una o más columnas de Primary Key Column para que sirvan como Distribution Key y Partition Key. Para obtener más información, consulte CREATE TABLE.
-
-
Guarde la tarea y ejecute una verificación previa.
Para ver los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en el globo emergente.
Si ha terminado de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience el trabajo de sincronización, DTS ejecuta una verificación previa. El trabajo solo puede iniciarse después de aprobar todos los elementos de dicha verificación.
Si la verificación previa falla, haga clic en View Details para el elemento fallido. Solucione el problema según las indicaciones y vuelva a ejecutar la verificación previa.
-
Si la verificación previa devuelve una advertencia:
Si un elemento de comprobación falla y no puede ignorarse, haga clic en View Details junto al elemento. Siga las instrucciones para solucionar el problema y vuelva a ejecutar la verificación previa.
Para los elementos de comprobación que pueden ignorarse, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again en secuencia para omitir la advertencia y volver a ejecutar la verificación previa. Si decide omitir el elemento de advertencia, esto podría causar problemas como inconsistencia de datos y representar riesgos para su negocio.
-
Adquiera la instancia de sincronización de datos.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. La siguiente tabla describe estos parámetros en detalle.
Categoría
Parámetro
Descripción
New Instance Class
Método de facturación
-
Subscription: Paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento.
-
Pay-as-you-go: Se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
Configuración de resource group
El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
Especificación de enlace
DTS ofrece especificaciones de sincronización con diferentes niveles de rendimiento. La especificación del enlace de sincronización afecta la tasa de sincronización. Puede elegir una especificación según su escenario comercial. Para obtener más información, consulte Data synchronization link specifications.
Duración de la suscripción
En el modo de suscripción, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años.
NotaEsta opción solo está disponible cuando el método de facturación es Subscription.
-
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.
Puede consultar el progreso de la tarea en la página Data Synchronization.