Este tema describe cómo utilizar Data Transmission Service (DTS) para migrar datos entre clústeres de AnalyticDB for MySQL V3.0.
Requisitos previos
Debe haber un cluster de destino de AnalyticDB for MySQL V3.0 disponible con más espacio de almacenamiento que el utilizado por el cluster de origen de AnalyticDB for MySQL V3.0.
-
Para realizar la migración incremental de datos, debe habilitar la función de captura de cambios de datos (CDC) en el clúster de origen de AnalyticDB for MySQL V3.0 y enable the binary log en las tablas que se van a migrar.
NotaSi el clúster de AnalyticDB for MySQL V3.0 ejecuta una versión de engine version anterior a la 3.2.1.0, debe actualizar la versión del motor.
Límites
Durante la migración de esquemas, DTS no migra claves externas de la base de datos de origen a la de destino.
Durante la migración completa e incremental de datos, DTS deshabilita temporalmente las comprobaciones de restricciones y las operaciones en cascada de claves externas a nivel de sesión. Si ocurren operaciones de actualización o eliminación en cascada en la base de datos de origen mientras se ejecuta la tarea, puede producirse inconsistencia en los datos.
Durante la migración de esquemas, DTS no admite la migración de vistas materializadas a la instancia de destino de AnalyticDB for MySQL. Para utilizar vistas materializadas, créelas manualmente en la instancia de destino una vez finalizada la migración.
|
Tipo |
Descripción |
|
Límites de la base de datos de origen |
|
|
Otros límites |
|
Facturación
|
Tipo de migración |
Cargo por configuración de instancia |
Cargo por tráfico de Internet |
|
Migración de esquemas y migración completa de datos |
Sin cargo. |
Cuando el parámetro Access Method de la base de datos de destino se establece en Public IP Address, se cobra el tráfico de Internet. Para obtener más información, consulte Billing overview. |
|
Migración incremental de datos |
Con cargo. Para obtener más información, consulte Billing overview. |
Operaciones SQL compatibles con la migración incremental
|
Tipo de operación |
Sentencia SQL |
|
DML |
INSERT, UPDATE, DELETE Nota
Cuando se escriben datos en un clúster de AnalyticDB for MySQL V3.0, las sentencias UPDATE se convierten automáticamente en sentencias REPLACE INTO. Si se actualiza la clave principal, la sentencia se convierte en una operación DELETE e INSERT. |
|
DDL |
ADD COLUMN, DROP COLUMN |
Permisos obligatorios para cuentas de base de datos
|
Base de datos |
Permisos obligatorios |
Creación y autorización |
|
Clúster de origen de AnalyticDB for MySQL V3.0 |
Permisos de lectura sobre los objetos que se van a migrar. |
|
|
Clúster de destino de AnalyticDB for MySQL V3.0 |
Permisos de lectura y escritura en la base de datos de destino. |
Procedimiento
-
Vaya a la página de lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, vaya a .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no necesita ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos siguiente se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione AnalyticDB for MySQL 3.0.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside el clúster de origen de AnalyticDB for MySQL V3.0.
Replicate Data Across Alibaba Cloud Accounts
En este ejemplo, se utiliza una instancia de base de datos bajo la cuenta actual de Alibaba Cloud. Seleccione No.
Instance ID
Seleccione el ID del clúster de origen de AnalyticDB for MySQL V3.0.
Database Account
Introduzca la cuenta de la base de datos del clúster de origen de AnalyticDB for MySQL V3.0. Para obtener información sobre los permisos obligatorios, consulte Required permissions for database accounts.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos siguiente se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione AnalyticDB for MySQL 3.0.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside el clúster de destino de AnalyticDB for MySQL V3.0.
Instance ID
Seleccione el ID del clúster de destino de AnalyticDB for MySQL V3.0.
Database Account
Introduzca la cuenta de la base de datos del clúster de destino de AnalyticDB for MySQL V3.0. Para obtener información sobre los permisos obligatorios, consulte Required permissions for database accounts.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los segmentos de dirección IP del servicio DTS se agreguen automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
Si solo necesita realizar una migración completa, seleccione tanto Schema Migration como Full Data Migration.
Para realizar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
NotaSi no selecciona Schema Migration, debe asegurarse de que existan una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sea necesario.
Si no selecciona Incremental Data Migration, no escriba nuevos datos en la instancia de origen durante la migración de datos para garantizar la coherencia de los datos.
DDL and DML Operations to Be Synchronized
Cuando selecciona Migration Types para Incremental Data Migration, también puede seleccionar las operaciones para la migración incremental a nivel de instancia.
NotaPara seleccionar operaciones de migración incremental a nivel de tabla, haga clic con el botón derecho en un objeto de migración en Selected Objects y seleccione las operaciones deseadas en el cuadro de diálogo que aparece.
Merge Tables
Cuando no selecciona Migration Types para Incremental Data Migration, también puede configurar si desea habilitar la función de fusión de tablas.
Si selecciona Yes, DTS agrega la columna
__dts_data_sourcea cada tabla para registrar los orígenes de datos. Para obtener más información, consulte Enable multi-table merge.Si selecciona No, esta es la opción predeterminada.
NotaLa función de fusión de tablas se configura a nivel de tarea, no a nivel de tabla. Para fusionar algunas tablas pero no otras, debe crear dos tareas de migración de datos por separado.
AvisoNo realice operaciones DDL para cambiar el esquema de la base de datos o las tablas de origen. De lo contrario, podrían producirse incoherencias en los datos o errores en la tarea.
Processing Mode of Conflicting Tables
Precheck and Report Errors: Comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se supera correctamente. Si existen tablas con los mismos nombres, se notifica un error durante la comprobación previa y la tarea de migración de datos no se inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar o renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: Omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede causar incoherencia en los datos y riesgos comerciales. Por ejemplo:
Si los esquemas de las tablas son coherentes y un registro en la base de datos de destino tiene el mismo valor de clave principal que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
Si los esquemas de las tablas son incoherentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
Source Objects
En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en
para moverlos al cuadro Selected Objects.Importante-
Si selecciona Migration Types para Incremental Data Migration, solo puede seleccionar una tabla como objeto de migración.
-
Si no selecciona Migration Types para Incremental Data Migration, puede seleccionar una base de datos, una tabla o una columna como objeto de migración.
-
Si selecciona una base de datos completa como objeto de migración, se aplican las siguientes reglas predeterminadas:
-
Si una tabla en la base de datos de origen tiene una clave principal (de una sola columna o compuesta), la columna o columnas de la clave principal se utilizan como clave de distribución.
-
Si una tabla en la base de datos de origen no tiene clave principal, se genera automáticamente una columna de clave principal de incremento automático. Esto puede causar incoherencia de datos entre las bases de datos de origen y de destino.
-
Selected Objects
Para establecer el nombre de un objeto de migración en la instancia de destino, o para especificar el objeto que recibe datos en la instancia de destino, haga clic con el botón derecho en el objeto de migración en el cuadro Selected Objects para realizar cambios. Para obtener más información, consulte Object name mapping.
Para quitar un objeto de migración seleccionado, haga clic en el objeto en el cuadro Selected Objects y luego haga clic en
para moverlo al cuadro Source Objects.
NotaSi utiliza la función de asignación de nombres de objetos, otros objetos que dependen del objeto asignado podrían no migrarse correctamente.
Para establecer una cláusula WHERE que filtre datos, haga clic con el botón derecho en la tabla a migrar en el cuadro Selected Objects y configure la condición de filtro en el cuadro de diálogo que aparece. Para obtener más información sobre cómo establecer la condición, consulte Filter task data with an SQL condition.
Para seleccionar las operaciones SQL para la migración incremental, haga clic con el botón derecho en el objeto de migración en el cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar tareas de migración de DTS.
Retry Time for Failed Connections
Después de que se inicia la tarea de migración, si falla la conexión a la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer la duración en más de 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades comerciales, o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de migración, si ocurre un problema que no es de conectividad, como una excepción de ejecución DDL o DML, en la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer la duración en más de 10 minutos. Si las operaciones relacionadas tienen éxito dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration para Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede optar por establecer límites de velocidad para la tarea de migración incremental. Puede establecer RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration para Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades comerciales. En este ejemplo, no se necesita ninguna etiqueta.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades comerciales.
No: No configura ninguna alerta.
Yes: Configure alertas estableciendo un alert threshold y notificaciones de alerta. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
Haga clic en Next: Data Validation para configurar una tarea de validación de datos.
Para obtener más información sobre la función de validación de datos, consulte Configure data validation.
-
Opcional: Después de completar las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields para establecer el Type, la Primary Key Column, la Distribution Key y la información de la clave de partición (Partition Key, Partitioning Rules y Partition Lifecycle) para las tablas que se migrarán en la base de datos de destino.
NotaEste paso solo está disponible si selecciona Migration Types para Schema Migration al configurar los objetos de migración. Puede establecer Definition Status en All para realizar modificaciones.
Puede seleccionar varias columnas para formar una clave principal compuesta para la Primary Key Column. Debe seleccionar una o más columnas de la Primary Key Column para que sirvan como Distribution Key y Partition Key. Para obtener más información, consulte CREATE TABLE.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de configuración de esta instancia al llamar a la operación de API, mueva el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita ver los parámetros de API o ya terminó de verlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience la tarea de migración, DTS realiza una comprobación previa. La tarea solo se inicia después de superar la comprobación previa.
Si la comprobación previa falla, haga clic en View Details junto al elemento de comprobación fallido, solucione el problema según la indicación y luego vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento fallido, solucione el problema según la indicación y luego vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si opta por ignorar una advertencia, podría causar problemas como incoherencia de datos y generar riesgos para su negocio.
-
Adquiera la instancia.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is resource management?
Instance Class
DTS proporciona especificaciones de migración con diferentes niveles de rendimiento. La especificación del enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario comercial. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista de Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida la tarea, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental se está ejecutando, el Status de la tarea es Running.