Puede utilizar Data Transmission Service (DTS) para migrar datos desde una instancia de RDS for MySQL hacia una instancia de Message Queue for Apache Kafka.
Requisitos previos
-
Debe haber creado una instancia de origen de ApsaraDB RDS for MySQL y una instancia de destino de ApsaraMQ for Kafka.
NotaPara crear una instancia de ApsaraDB RDS for MySQL, consulte Create an ApsaraDB RDS for MySQL instance.
Para conocer las versiones compatibles de las bases de datos de origen y destino, consulte Migration scenario overview.
La instancia de destino de ApsaraMQ for Kafka debe contar con más espacio de almacenamiento del que utiliza la instancia de origen de ApsaraDB RDS for MySQL.
Debe haber creado un topic en la instancia de destino de ApsaraMQ for Kafka para recibir los datos migrados. Para obtener instrucciones, consulte Step 1: Create a topic.
Límites
DTS no migra claves externas. Por lo tanto, las operaciones en cascada, como la eliminación en cascada en la base de datos de origen, no se replican en la base de datos de destino.
Tipo | Descripción |
Límites de la base de datos de origen |
|
Otros límites |
|
Casos especiales |
|
Facturación
|
Tipo de migración |
Cargo por configuración de tarea |
Cargo por tráfico de Internet |
|
Migración de esquema y migración completa de datos |
Sin costo. |
DTS aplica un cargo por tráfico de Internet cuando el Access Method de la base de datos de destino está configurado como Public IP Address. Billing overview. |
|
Migración incremental de datos |
Con costo. Billing overview. |
Tipos de migración
-
Schema migration
DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la base de datos de destino.
-
Full migration
DTS migra todos los datos históricos de los objetos de migración especificados desde la base de datos de origen hacia la base de datos de destino.
-
Incremental migration
Una vez completada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la base de datos de destino. La migración incremental permite migrar datos sin problemas y sin interrumpir sus aplicaciones autogestionadas.
Operaciones SQL para la migración incremental
Tipo de operación | Sentencia SQL |
DML | INSERT, UPDATE y DELETE |
DDL |
|
Permisos de cuentas de base de datos
Instancia | Migración de esquema | Migración completa de datos | Migración incremental de datos |
Instancia de origen de ApsaraDB RDS for MySQL | Permiso de lectura sobre los objetos que se van a migrar. | ||
Procedimiento
-
Vaya a la página de lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de tareas.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, le recomendamos leer detenidamente los límites que se muestran en la parte superior de la página. De lo contrario, la tarea podría fallar o producirse inconsistencias en los datos.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Le recomendamos especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene por qué ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione MySQL.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región de la instancia de origen de RDS for MySQL.
Cross-account
Para migraciones dentro de la misma cuenta de Alibaba Cloud, seleccione No.
RDS Instance ID
Seleccione el ID de la instancia de origen de RDS for MySQL.
Database Account
Introduzca la cuenta de la base de datos de la instancia de origen de RDS for MySQL. La cuenta debe tener permisos de lectura sobre los objetos que se van a migrar.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Encryption
Seleccione Non-encrypted o SSL-encrypted según sea necesario. Si selecciona SSL-encrypted, debe habilitar previamente el cifrado SSL para la instancia de RDS for MySQL. Para obtener más información, consulte Use a cloud certificate to quickly enable SSL encryption.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione Kafka.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región de la instancia de destino de ApsaraMQ for Kafka.
Kafka Instance ID
Seleccione el ID de la instancia de destino de ApsaraMQ for Kafka.
Encryption
Seleccione Non-encrypted o SCRAM-SHA-256 según sus requisitos de negocio y seguridad.
Topic
Seleccione el Topic que recibirá los datos.
Use Kafka Schema Registry
Kafka Schema Registry proporciona una interfaz RESTful para almacenar y recuperar esquemas Avro.
No: No utilizar Kafka Schema Registry.
Yes: Utilizar Kafka Schema Registry. Debe introducir la URL o dirección IP registrada para el esquema Avro en Kafka Schema Registry.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que el segmento de dirección IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
Si la base de datos de origen o de destino es una base de datos autogestionada (el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
Si solo necesita una migración completa, seleccione tanto Schema Migration como Full Data Migration.
Para una migración continua y sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
NotaSchema Migration no es compatible cuando el Access Method de la instancia de Kafka de destino es Alibaba Cloud Instance.
Para garantizar la consistencia de los datos, no escriba nuevos datos en la instancia de origen durante la migración si no selecciona Incremental Data Migration.
Processing Mode for Existing Destination Tables
Precheck and Report Errors: Comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se supera correctamente. Si existen tablas con los mismos nombres, se notifica un error durante la comprobación previa y la tarea de migración de datos no se inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar o renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: Omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y riesgos para el negocio. Por ejemplo:
Si los esquemas de las tablas son consistentes y un registro en la base de datos de destino tiene el mismo valor de clave principal que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
Si los esquemas de las tablas son inconsistentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
Data Format in Kafka
Seleccione el formato de almacenamiento para los datos migrados a la instancia de Kafka.
Si selecciona DTS Avro, debe analizar sintácticamente los datos según la definición del esquema DTS Avro. Para obtener más información, consulte definición del esquema DTS Avro y ejemplo de deserialización DTS Avro.
Si selecciona Canal JSON, consulte Canal JSON Description para obtener detalles y ejemplos de los parámetros.
Si selecciona Shareplex JSON, consulte Shareplex JSON para obtener detalles y ejemplos de los parámetros.
Kafka Data Compression Format
Seleccione un formato de compresión para los mensajes de Kafka según sus necesidades.
LZ4 (predeterminado): baja tasa de compresión, alta velocidad de compresión.
GZIP: alta tasa de compresión, baja velocidad de compresión.
NotaAlto consumo de CPU.
Snappy: tasa de compresión media, velocidad de compresión media.
Policy for Shipping Data to Kafka Partitions
Seleccione una strategy según sus requisitos de negocio.
Message acknowledgement mechanism
Seleccione un message acknowledgment mechanism según sus requisitos de negocio.
Topic That Stores DDL Information
Seleccione el topic para almacenar la información DDL.
NotaSi no se selecciona ningún topic, DTS almacena la información DDL en el topic de datos de forma predeterminada.
Capitalization of Object Names in Destination Instance
Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados, como bases de datos, tablas y columnas, en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede optar por mantener la distinción entre mayúsculas y minúsculas consistente con la política predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects
En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en
para moverlos al cuadro Selected Objects.NotaPuede seleccionar objetos para migrar a nivel de tabla.
Selected Objects
No se requiere configuración adicional para este ejemplo. Puede usar la función de asignación para especificar el nombre del topic, el recuento de particiones y la clave de partición para cada tabla de origen. Para obtener más información, consulte Mapping Information.
NotaEl uso de la función de asignación de nombres de objetos puede provocar fallos de migración en objetos dependientes.
Para seleccionar operaciones SQL para la migración incremental, haga clic con el botón derecho en un objeto de migración en el cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar tareas de migración de DTS.
Retry Time for Failed Connections
Después de que se inicie la tarea de migración, si falla la conexión a la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Le recomendamos establecer la duración en más de 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, le recomendamos personalizar el tiempo de reintento según sus necesidades comerciales, o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicie la tarea de migración, si ocurre un problema que no sea de conectividad, como una excepción de ejecución DDL o DML, en la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Le recomendamos establecer la duración en más de 10 minutos. Si las operaciones relacionadas tienen éxito dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration para Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede optar por establecer límites de velocidad para la tarea de migración incremental. Puede establecer RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration para Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir información SQL de latido en la base de datos de origen mientras se ejecuta la instancia de DTS.
-
Yes: La información SQL de latido no se escribe en la base de datos de origen. Esto puede provocar que la instancia de DTS notifique un retraso.
-
No: Escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Environment Tag
Seleccione una etiqueta de entorno para identificar la instancia. No es necesario seleccionar ninguna para este ejemplo.
Configure ETL
Según sus necesidades comerciales, seleccione si desea configurar la ETL feature para procesar datos.
Yes: Configura la función ETL. También debe introducir data processing statements en el cuadro de texto.
No: No configura la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades comerciales.
No: No configura ninguna alerta.
Yes: Configure alertas estableciendo un alert threshold y alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de configuración de esta instancia al llamar a la operación de API, pase el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita ver los parámetros de API o ya terminó de verlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience la tarea de migración, DTS realiza una comprobación previa. La tarea solo se inicia después de superar dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento fallido, solucione el problema según la indicación y vuelva a ejecutar la comprobación previa.
-
Si se notifica una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento fallido, solucione el problema según la indicación y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, esto puede causar problemas como inconsistencia de datos y generar riesgos para su negocio.
-
Adquiera una instancia.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
Instance Class
DTS proporciona especificaciones de migración con diferentes niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista de Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente una vez completada la migración completa. Después de que la tarea se detenga, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental se esté ejecutando, el Status de la tarea será Running.
Información de asignación
En el área Selected Objects, pase el cursor sobre el nombre del topic de destino a nivel de tabla.
Haga clic en Edit junto al nombre del topic de destino.
-
En el cuadro de diálogo Edit Table, configure la información de asignación.
NotaEl cuadro de diálogo se denomina Edit Schema a nivel de base de datos y Edit Table a nivel de tabla. El cuadro de diálogo Edit Schema tiene menos parámetros.
Si no migra toda la base de datos, no podrá modificar los parámetros Name of target Topic y Number of Partitions en el cuadro de diálogo Edit Schema.
Parámetro
Descripción
Name of target Topic
Nombre del topic que recibe los datos de la tabla de origen. De forma predeterminada, corresponde al Topic que seleccionó en la sección Destination Database durante el paso Configurations for Source and Destination Databases.
ImportanteSi el destino es una instancia de Message Queue for Apache Kafka, el topic especificado ya debe existir en la instancia de destino; de lo contrario, la tarea de migración de datos fallará. Si el destino es una base de datos Kafka autoalojada y la tarea de migración incluye la migración de la estructura de bases de datos y tablas, DTS intentará crear el topic especificado en la base de datos de destino.
Si cambia el Name of target Topic, DTS escribirá los datos en el topic especificado.
Filter Conditions
Para obtener más información, consulte Configure filter conditions.
Number of Partitions
Número de particiones en el topic de destino.
Partition Key
Disponible cuando Policy for Shipping Data to Kafka Partitions está establecida en Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Especifique una o más columnas como clave de partición. DTS calcula un valor hash para las columnas especificadas y distribuye las filas entre las particiones del topic de destino.
NotaSolo puede seleccionar Partition Key en el cuadro de diálogo Edit Table.
Haga clic en OK.