Data Transmission Service (DTS) migra datos desde orígenes MySQL, como bases de datos autogestionadas o instancias de ApsaraDB RDS for MySQL, hacia una instancia de ApsaraMQ for RocketMQ. Este tema describe cómo migrar datos desde una instancia de ApsaraDB RDS for MySQL.
Requisitos previos
-
Debe haber creado una instancia de destino no serverless de ApsaraMQ for RocketMQ. Para obtener más información, consulte Manage instances o Manage instances.
NotaPara conocer las versiones compatibles de las bases de datos de origen y destino, consulte migration scenarios.
-
Debe haber creado un topic en la instancia de destino de Alibaba Cloud Message Queue for RocketMQ para recibir los datos que se migrarán. Para obtener más información sobre cómo crear un topic, consulte Manage topics o Manage topics.
ImportantePara la serie 4.x, el Message Type del topic debe establecerse en Partitionally Ordered Message.
Para la serie 5.x, el Message Type del topic debe establecerse en Ordered Message.
Limitaciones
|
Tipo |
Descripción |
|
Limitaciones de la base de datos de origen |
|
|
Otras limitaciones |
|
|
Casos especiales |
|
Facturación
|
Tipo de migración |
Cargo por configuración de instancia |
|
Migración completa de datos |
Sin cargo. |
|
Migración incremental de datos |
Con cargo. Para obtener más información, consulte billing overview. |
Operaciones SQL para migración incremental
Tipo de operación | Sentencia SQL |
DML | INSERT, UPDATE y DELETE |
DDL |
|
Permisos de cuenta de base de datos
|
Base de datos |
Permisos obligatorios |
Acciones |
|
Instancia de origen de ApsaraDB RDS for MySQL |
Permisos de lectura sobre los objetos que se migrarán. |
Las cuentas de la base de datos de origen que no se hayan creado y autorizado en la consola de ApsaraDB RDS for MySQL deben contar con los permisos REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW y SELECT.
Procedimiento
-
Vaya a la página de lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no necesita ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos siguiente se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione MySQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de origen de ApsaraDB RDS for MySQL.
Replicate Data Across Alibaba Cloud Accounts
En este ejemplo, se utiliza una instancia de base de datos bajo la cuenta actual de Alibaba Cloud. Seleccione No.
RDS Instance ID
Seleccione el ID de la instancia de origen de ApsaraDB RDS for MySQL.
Database Account
Introduzca la cuenta de la base de datos de la instancia de origen de ApsaraDB RDS for MySQL. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Encryption
Seleccione Non-encrypted o SSL-encrypted según sea necesario. Si selecciona SSL-encrypted, debe habilitar previamente el cifrado SSL para la instancia de RDS for MySQL. Para obtener más información, consulte Use a cloud certificate to quickly enable SSL encryption.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos siguiente se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione RocketMQ.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de destino de ApsaraMQ for RocketMQ.
RocketMQ version
Seleccione la versión de la instancia de destino de ApsaraMQ for RocketMQ.
Instance ID
Seleccione el ID de la instancia de destino de ApsaraMQ for RocketMQ.
Database Account
Introduzca la cuenta y la contraseña de la base de datos para la instancia de destino de ApsaraMQ for RocketMQ.
Nota-
Estos parámetros son obligatorios únicamente cuando establece RocketMQ version en 5.x.
-
Puede obtener las credenciales en la pestaña Intelligent Authentication de la página RAM en la consola de ApsaraMQ for RocketMQ.
Database Password
Topic
En la lista desplegable, seleccione el topic que recibirá los datos migrados.
Topic That Stores DDL Information
En la lista desplegable, seleccione el topic que almacenará la información DDL.
NotaSi no selecciona un topic, la información DDL se almacena de forma predeterminada en el topic especificado en el parámetro Topic.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que el segmento de direcciones IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
Si la base de datos de origen o de destino es una base de datos autogestionada (el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
Si solo necesita realizar una migración completa, seleccione Full Data Migration.
Para realizar una migración sin tiempo de inactividad, seleccione tanto Full Data Migration como Incremental Data Migration.
NotaSi no selecciona Incremental Data Migration, no escriba nuevos datos en la instancia de origen durante la migración de datos para garantizar la coherencia de los datos.
Processing Mode of Conflicting Tables
Precheck and Report Errors: Comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se supera correctamente. Si existen tablas con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no se inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar o renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: Omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y riesgos operativos. Por ejemplo:
Si los esquemas de las tablas son consistentes y un registro en la base de datos de destino tiene el mismo valor de clave principal que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
Si los esquemas de las tablas son inconsistentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
Format of the data delivered to RocketMQ.
Seleccione el formato de almacenamiento para los datos que se escriben en el topic de destino según sus requisitos empresariales. Para obtener más información, consulte Data storage formats in a message queue.
Synchronize all fields
Cuando se ejecuta una sentencia UPDATE en el origen, DTS migra una preimagen al campo old en el topic de destino. Esta configuración controla si la preimagen incluye toda la fila o solo los campos actualizados.
NotaEste parámetro está disponible únicamente cuando establece Format of the data delivered to RocketMQ. en Canal JSON.
-
Yes: Migra la preimagen de toda la fila que contiene los campos actualizados.
-
No (predeterminado): Migra únicamente la preimagen de los campos actualizados.
Rules of the ordered messages delivered to RocketMQ.
Seleccione la regla de ordenamiento para los mensajes escritos en el topic de destino según sus requisitos empresariales. Para obtener más información, consulte Message ordering rules for ApsaraMQ for RocketMQ.
Name of DTS producer group
Especifique un grupo de productores (ProducerGroup) para enviar mensajes al topic de destino según sus requisitos empresariales. Para obtener más información, consulte Producers.
NotaEl valor predeterminado es dts-producer-group.
Limits of RocketMQ messaging transactions per second (TPS)
Especifique el TPS máximo de mensajería para los datos escritos en el topic de destino. Para obtener más información sobre el TPS de mensajería, consulte Computing specifications.
Importante-
El valor debe ser menor o igual al TPS máximo de la instancia de ApsaraMQ for RocketMQ. Para obtener más información, consulte Instance specifications.
-
Mientras la instancia de migración se encuentra en ejecución, el TPS real de mensajería de la instancia de ApsaraMQ for RocketMQ puede fluctuar ligeramente alrededor del valor especificado.
Whether to filter large size of records.
Especifique si desea filtrar los mensajes mayores a 4 MB para evitar que se escriban en el topic de destino.
ImportanteSi selecciona No, la instancia de migración falla cuando se escribe un mensaje mayor a 4 MB en el topic de destino.
Capitalization of Object Names in Destination Instance
Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados, como bases de datos, tablas y columnas, en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede optar por mantener la distinción entre mayúsculas y minúsculas consistente con la directiva predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects
En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en
para moverlos al cuadro Selected Objects.NotaPuede seleccionar bases de datos o tablas como objetos de migración.
Selected Objects
En este ejemplo, no se requiere configuración adicional. Puede usar la función de asignación para especificar el nombre del topic para la instancia de destino de ApsaraMQ for RocketMQ, establecer condiciones de filtro, seleccionar las operaciones SQL a migrar y definir una clave de partición. Para obtener más información, consulte object name mapping.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar tareas de migración de DTS.
Retry Time for Failed Connections
Después de que se inicia la tarea de migración, si falla la conexión a la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer la duración en más de 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades empresariales, o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de migración, si ocurre un problema que no sea de conectividad, como una excepción en la ejecución de DDL o DML, en la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer la duración en más de 10 minutos. Si las operaciones relacionadas tienen éxito dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar el limitador de velocidad para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración está disponible únicamente si selecciona Full Data Migration en Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede optar por establecer límites de velocidad para la tarea de migración incremental. Puede establecer RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración está disponible únicamente si selecciona Incremental Data Migration en Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: No se escribe información SQL de latido en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso.
-
No: Escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia. En este ejemplo, no se requiere ninguna etiqueta.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca las sentencias de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades empresariales.
No: No configura ninguna alerta.
Yes: Configure las alertas estableciendo un alert threshold y alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de configuración de esta instancia al llamar a la operación de API, pase el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita ver los parámetros de API o ya terminó de verlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience la tarea de migración, DTS realiza una comprobación previa. La tarea se inicia únicamente después de superar dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento fallido, solucione el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento fallido, solucione el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, esto puede causar problemas como inconsistencia de datos y representar riesgos para su negocio.
-
Adquiera una instancia.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
Instance Class
DTS proporciona especificaciones de migración con diferentes niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario empresarial. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida la tarea, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa en ejecución. Mientras la tarea de migración incremental se esté ejecutando, el Status de la tarea será Running.
Información de mapeo
En la lista Selected Objects, pase el cursor sobre el nombre del topic de destino.
Haga clic en Edit.
-
En el cuadro de diálogo, configure la información de mapeo.
NotaSi configura reglas de mapeo tanto a nivel de base de datos como de tabla, las reglas de nivel de tabla tienen prioridad sobre las de nivel de base de datos.
El mapeo a nivel de base de datos se configura en el cuadro de diálogo Edit Schema, y el mapeo a nivel de tabla se configura en el cuadro de diálogo Edit Table.
Nivel de base de datos
Parámetro
Descripción
Schema Name
The name of the destination topic for the data migration, which defaults to the Topic that you selected under Destination Database in the Configurations for Source and Destination Databases step.
Importante-
The name of the destination topic for the data migration, which defaults to the Topic that you selected under Destination Database in the Configurations for Source and Destination Databases step.
-
Si modifica Schema Name, DTS escribe los datos en el topic que especifique.
Select DDL and DML Operations to Be Synchronized
Select the SQL operations to incrementally migrate.
Nivel de tabla
Parámetro
Descripción
Table Name
El nombre del topic de destino para la migración de datos, que de forma predeterminada es el Topic que seleccionó bajo Destination Database en el paso Configurations for Source and Destination Databases.
Importante-
El topic especificado debe existir en la instancia de destino de Message Queue for Apache RocketMQ. De lo contrario, la tarea de migración de datos fallará.
-
Si modifica Table Name, DTS escribe los datos en el topic que especifique.
Filter Conditions
Para obtener más información, consulte Set filter conditions.
Select DDL and DML Operations to Be Synchronized
Seleccione las operaciones SQL que desea migrar de forma incremental.
Partition Key
Este parámetro está disponible si establece Rules of the ordered messages delivered to RocketMQ. en Deliver data based on hash values of a specified column.. Especifique una o más columnas como clave de partición. DTS utiliza esta clave para calcular un valor hash, el cual determina la partición de destino para cada fila.
Haga clic en OK.