Utilice Data Transmission Service (DTS) para migrar datos de PolarDB for MySQL a AnalyticDB for MySQL 3.0 y construya sistemas de inteligencia empresarial (BI), consultas interactivas e informes en tiempo real.
Requisitos previos
Debe contar con un clúster de origen de PolarDB for MySQL. Para obtener más información, consulte Purchase a pay-as-you-go cluster y Purchase a subscription cluster.
Debe haber creado un clúster de destino de AnalyticDB for MySQL 3.0. Para obtener más detalles, consulte Create a cluster.
El clúster de destino de AnalyticDB for MySQL debe tener más espacio de almacenamiento del que utiliza el clúster de origen de PolarDB for MySQL.
Límites
Durante la migración de esquemas, DTS no migra las claves externas de la base de datos de origen a la base de datos de destino.
Durante la migración completa e incremental de datos, DTS deshabilita temporalmente las comprobaciones de restricciones y las operaciones en cascada de claves externas a nivel de sesión. Si se producen operaciones de actualización o eliminación en cascada en la base de datos de origen mientras se ejecuta la tarea, puede surgir una inconsistencia de datos.
Durante la migración de esquemas, DTS no admite la migración de vistas materializadas a la instancia de destino de AnalyticDB for MySQL. Para utilizar vistas materializadas, créelas manualmente en la instancia de destino una vez finalizada la migración.
Tipo | Descripción |
Límites de la base de datos de origen |
|
Notas |
|
Facturación
|
Tipo de migración |
Cargo por configuración de la instancia |
Cargo por tráfico de Internet |
|
Migración de esquemas y migración completa de datos |
Sin cargo. |
Cuando el parámetro Access Method de la base de datos de destino se establece en Public IP Address, se le cobra por el tráfico de Internet. Para obtener más información, consulte Billing overview. |
|
Migración incremental de datos |
Con cargo. Para obtener más información, consulte Billing overview. |
Tipos de migración
-
Migración de esquemas
DTS migra los esquemas de los objetos seleccionados desde la base de datos de origen hacia la base de datos de destino.
NotaEste método es adecuado para migraciones entre bases de datos heterogéneas. Dado que los tipos de datos podrían no corresponderse exactamente durante la migración de esquemas, debe evaluar cuidadosamente el impacto en el negocio. Para obtener más información, consulte Data type mapping for heterogeneous databases.
-
Migración completa de datos
DTS migra todos los datos de los objetos seleccionados en la base de datos de origen hacia la base de datos de destino.
-
Migración incremental de datos
Una vez finalizada la migración completa de datos, DTS migra los cambios incrementales de la base de datos de origen a la base de datos de destino. Este proceso permite una migración fluida sin interrumpir el servicio de sus aplicaciones autogestionadas.
Operaciones SQL para la migración incremental
|
Tipo de operación |
Instrucción SQL |
|
DML |
Nota
Cuando escribe datos en AnalyticDB for MySQL, este convierte automáticamente las instrucciones |
|
DDL |
Importante Una operación RENAME TABLE puede provocar inconsistencia de datos. Por ejemplo, si selecciona solo una tabla como objeto de migración y cambia el nombre de esa tabla en la instancia de origen durante la migración, los datos de dicha tabla no se migrarán a la base de datos de destino. Para evitar este problema, seleccione toda la base de datos a la que pertenece la tabla como objeto de migración al configurar la tarea de migración de datos. Asegúrese de que las bases de datos a las que pertenece la tabla antes y después de la operación RENAME TABLE estén incluidas en los objetos de migración. |
Si el tipo de datos de un campo de la tabla de origen cambia durante la migración de datos, la tarea se detiene y notifica un error. Para resolver el problema, siga estos pasos:
Una tarea de migración hacia la base de datos de destino de AnalyticDB for MySQL falla si se modifica el tipo de datos de un campo en la tabla de origen (por ejemplo, customer).
En AnalyticDB for MySQL V3.0, cree una tabla nueva, por ejemplo
customer_new, con el esquema actualizado de la tabla de origen.Utilice el comando
INSERT INTO SELECTpara copiar los datos de la tabla originalcustomeracustomer_new.Cambie el nombre o elimine la tabla original
customery, a continuación, cambie el nombre decustomer_newacustomer.En la consola de DTS, reinicie la tarea de migración de datos.
Permisos obligatorios
|
Base de datos |
Permisos |
|
PolarDB for MySQL |
Permiso de lectura sobre los objetos que se van a migrar |
|
AnalyticDB for MySQL 3.0 |
Permisos de lectura y escritura |
Para crear cuentas de base de datos y otorgar permisos, consulte los siguientes temas:
Para los clústeres de PolarDB for MySQL, consulte Create and manage database accounts.
Para Cloud-Native Data Warehouse AnalyticDB for MySQL 3.0, consulte Create a database account.
Procedimiento
-
Vaya a la página de la lista de tareas de migración de la región de destino con uno de los siguientes métodos.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, le recomendamos leer detenidamente los límites que se muestran en la parte superior de la página. De lo contrario, la tarea podría fallar o presentarse inconsistencias en los datos.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. No es necesario que el nombre sea único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente.
NotaEn la consola de DMS, este parámetro se llama Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
Database Type
Seleccione PolarDB for MySQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región de la instancia de origen de PolarDB for MySQL.
PolarDB Cluster ID
Seleccione el ID de la instancia de origen de PolarDB for MySQL.
Database Account
Introduzca la cuenta de base de datos de la instancia de origen de PolarDB for MySQL. Para obtener información sobre los permisos obligatorios, consulte Database account permissions.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Encryption
Seleccione un tipo de conexión según sus necesidades. Para obtener más información sobre la función de cifrado SSL, consulte Enable SSL encryption.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente.
NotaEn la consola de DMS, este parámetro se llama Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
Database Type
Seleccione AnalyticDB for MySQL 3.0.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región del clúster de destino de AnalyticDB for MySQL.
Instance ID
Seleccione el ID del clúster de destino de AnalyticDB for MySQL.
Database Account
Introduzca la cuenta de base de datos del clúster de destino de AnalyticDB for MySQL. Para obtener información sobre los permisos obligatorios, consulte Database account permissions.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los segmentos de dirección IP del servicio DTS se agreguen automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
-
Para una migración exclusiva de datos completos, seleccione Schema Migration y Full Data Migration.
-
Para una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
Nota-
Si selecciona Full Data Migration, el esquema y los datos de las tablas creadas con la instrucción CREATE TABLE se pueden migrar a la base de datos de destino.
-
Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración de datos para garantizar la consistencia de los datos.
Processing Mode for Existing Destination Tables
Precheck and Report Errors: comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no hay tablas con nombres iguales, la comprobación previa se supera. Si existen tablas con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar ni renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y riesgos para el negocio. Por ejemplo:
Si los esquemas de las tablas son consistentes y un registro en la base de datos de destino tiene el mismo valor de clave principal que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro de la base de datos de destino.
Si los esquemas de las tablas son inconsistentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
Select DDL and DML to Sync at the Instance Level
Seleccione las operaciones SQL para la migración incremental a nivel de instancia. Para obtener información sobre las operaciones compatibles, consulte SQL operations supported for incremental migration.
NotaPara seleccionar operaciones SQL a nivel de base de datos o de tabla, haga clic con el botón derecho en el objeto de migración dentro del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.
Table Merging
Si selecciona Yes, DTS agrega la columna
__dts_data_sourcea cada tabla para registrar los orígenes de datos. Para obtener más información, consulte Enable multi-table merge.Si selecciona No, esta es la opción predeterminada.
NotaLa función de combinación de tablas se configura a nivel de tarea, no a nivel de tabla. Para combinar algunas tablas y otras no, debe crear dos tareas de migración de datos independientes.
AvisoNo ejecute operaciones DDL para cambiar el esquema de la base de datos o de las tablas de origen. De lo contrario, podrían presentarse inconsistencias en los datos o errores en la tarea.
Source Objects
Seleccione uno o varios objetos en la sección Source Objects. Haga clic en el ícono
y agregue los objetos a la sección Selected Objects. Nota-
Puede seleccionar objetos de migración a nivel de base de datos, tabla o columna. Si selecciona tablas como objetos de migración, otros objetos como vistas, desencadenadores y procedimientos almacenados no se migran a la base de datos de destino.
-
Si selecciona una base de datos completa como objeto de migración, se aplican a continuación las reglas predeterminadas:
-
Si una tabla en la base de datos de origen tiene una clave principal (de una sola columna o compuesta), las columnas de la clave principal se usan como clave de distribución.
-
Si una tabla en la base de datos de origen no tiene clave principal, se genera automáticamente una columna de clave principal autoincremental. Esto puede provocar inconsistencias de datos entre las bases de datos de origen y de destino.
-
Selected Objects
-
Para cambiar el nombre de un solo objeto de migración en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información, consulte Map individual schema, table, and column names.
-
Para cambiar los nombres de varios objetos de migración en la instancia de destino, haga clic en Selected Objects en la esquina superior derecha del cuadro Batch Edit. Para obtener más información, consulte Map multiple schema, table, and column names.
Nota-
Si usa la función de asignación de nombres de objetos, la migración de otros objetos que dependen del objeto asignado podría fallar.
-
Para filtrar datos mediante una cláusula WHERE, haga clic con el botón derecho en la tabla que se va a migrar dentro del cuadro Selected Objects y especifique la condición de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Set filter conditions.
-
Para seleccionar las operaciones SQL que se van a migrar a nivel de base de datos o de tabla, haga clic con el botón derecho en el objeto de migración dentro del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar las tareas de migración de DTS.
Copy the temporary table of the Online DDL tool that is generated in the source table to the destination database.
Si usa Data Management (DMS) o gh-ost para aplicar cambios DDL en línea en la base de datos de origen, puede elegir si desea migrar los datos de las tablas temporales generadas por dichos cambios.
ImportanteLas tareas de DTS no admiten el uso de herramientas como pt-online-schema-change para aplicar cambios DDL en línea. De lo contrario, la tarea de DTS falla.
Los métodos de procesamiento para cada fase son los siguientes: las fases Schema Migration y Full Data Migration no permiten operaciones DDL que cambien la estructura de la base de datos o de la tabla. Por lo tanto, no están controladas por la directiva de DDL en línea.
Schema Migration: no está controlada por la directiva de DDL en línea. Se crean las tablas temporales relacionadas.
Full Data Migration: no está controlada por la directiva de DDL en línea. La migración de tablas temporales no se incluye en los objetos de migración completa. Se filtran todas las tablas cuyos nombres coinciden con la expresión regular (
^_(.+)_(?:gho|new)$o^_(.+)_(?:ghc|del|old)$).Incremental Data Migration: está controlada por la directiva de DDL en línea.
Yes: migra los cambios de datos de las tablas temporales (por ejemplo,
_table_name_gho) generadas por las operaciones DDL en línea.No, Adapt to DMS Online DDL y No, Adapt to gh-ost: filtra los cambios de datos de las tablas temporales (por ejemplo,
_table_name_gho) generadas por herramientas como gh-ost, con base en reglas de expresiones regulares.
Yes: migra los datos de las tablas temporales generadas por los cambios DDL en línea.
NotaSi los cambios DDL en línea generan una gran cantidad de datos en las tablas temporales, esto puede provocar latencia en la tarea.
No, Adapt to DMS Online DDL: no migra los datos de las tablas temporales generadas por los cambios DDL en línea. Solo migra las instrucciones DDL originales ejecutadas con Data Management (DMS).
NotaEsta opción provoca que las tablas de la base de datos de destino se bloqueen.
No, Adapt to gh-ost: no migra los datos de las tablas temporales generadas por los cambios DDL en línea. Admite reglas de filtrado personalizadas. DTS filtra los cambios de datos de las tablas temporales (por ejemplo,
_table_name_gho) generadas por herramientas como gh-ost, con base en reglas de expresiones regulares. Puede modificar las expresiones regulares predeterminadas que se usan para coincidir con las tablas shadow y las tablas innecesarias según sea necesario:Tabla shadow:
^_(.+)_(?:gho|new)$Tabla innecesaria:
^_(.+)_(?:ghc|del|old)$
NotaEsta opción provoca que las tablas de la base de datos de destino se bloqueen.
Retry Time for Failed Connections
Una vez iniciada la tarea de migración, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error e intenta restablecer la conexión de inmediato. La duración predeterminada de reintentos es de 720 minutos. Puede personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Se recomienda establecer una duración superior a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro del tiempo especificado, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el periodo de reintento de conexión, se recomienda personalizar el tiempo de reintento según las necesidades de su negocio. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Una vez iniciada la tarea de migración, si ocurre un problema distinto a la conectividad en la base de datos de origen o de destino, como una excepción al ejecutar DDL o DML, DTS reporta un error e intenta repetir la operación de inmediato. La duración predeterminada de reintentos es de 10 minutos. Puede personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Se recomienda establecer una duración superior a 10 minutos. Si las operaciones correspondientes se completan correctamente dentro del tiempo de reintento especificado, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo cual puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Establezca Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Configure RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: la información SQL de latido no se escribe en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso.
-
No: escribe la información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia. Este paso no es obligatorio para este ejemplo.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: deshabilita la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según las necesidades de su negocio.
No: no configura ninguna alerta.
Yes: configura alertas al establecer un alert threshold y alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
Haga clic en Next: Data Validation para configurar una tarea de validación de datos.
Para obtener más información sobre la función de validación de datos, consulte Configure data validation.
-
Opcional: Una vez completadas las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields para establecer la información de Type, Primary Key Column, Distribution Key y de la clave de partición (Partition Key, Partitioning Rules y Partition Lifecycle) para las tablas que se van a migrar en la base de datos de destino.
NotaEste paso solo está disponible si seleccionó la opción Schema Migration en Migration Types al configurar los objetos de la tarea. Puede seleccionar All en Definition Status para aplicar modificaciones.
Puede seleccionar varias columnas en Primary Key Column para formar una clave principal compuesta. También debe seleccionar una o más columnas de Primary Key Column para usarlas como Distribution Key y Partition Key. Para obtener más información, consulte CREATE TABLE.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para consultar los parámetros de configuración de esta instancia al llamar a la operación de la API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita consultar los parámetros de la API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de iniciar la tarea de migración, DTS ejecuta una comprobación previa. La tarea inicia únicamente después de superar dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento con errores, resuelva el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento con errores, resuelva el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que sí se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían presentarse problemas como inconsistencias en los datos y generar riesgos para su negocio.
-
Adquiera la instancia.
Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
Instance Class
DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Seleccione una especificación según el escenario de su negocio. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente una vez completada la migración total. Después de detenerse, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental está en ejecución, el Status de la tarea es Running.