Use Data Transmission Service (DTS) para migrar datos de una instancia de PolarDB-X 1.0 a una instancia de ApsaraMQ for Kafka.
Requisitos previos
-
Cuenta con una instancia de origen de PolarDB-X 1.0. Para consultar las instrucciones, consulte Create a PolarDB-X 1.0 instance.
NotaEl tipo de almacenamiento compatible con PolarDB-X 1.0 es ApsaraDB RDS for MySQL, lo cual incluye tanto instancias personalizadas como adquiridas por separado. PolarDB for MySQL no es compatible.
-
Tiene una instancia de ApsaraMQ for Kafka y un topic para los datos migrados. Para obtener más información sobre las instancias de ApsaraMQ for Kafka, consulte Get started with ApsaraMQ for Kafka.
NotaPara conocer las versiones de base de datos de origen y destino compatibles, consulte Migration solutions overview.
Asegúrese de que la instancia de destino de ApsaraMQ for Kafka tenga más espacio de almacenamiento del que utiliza la instancia de origen de PolarDB-X 1.0.
Límites
Tipo | Descripción |
Límites de la base de datos de origen |
|
Otros límites |
|
Consideraciones adicionales |
|
Facturación
|
Tipo de migración |
Cargo por configuración de la instancia |
Cargo por tráfico de Internet |
|
Migración de esquemas y migración completa de datos |
Sin cargo. |
Varía según el método de acceso. Nota
Se aplica un cargo por tráfico de Internet si el Access Method de la base de datos de destino es Public IP Address. Para obtener más información, consulte billing overview. |
|
Migración incremental de datos |
Se aplican cargos. Para obtener más información, consulte billing overview. |
Tipos de migración
-
Migración de esquemas
DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la de destino.
-
Migración completa
DTS migra todos los datos históricos de los objetos especificados desde la base de datos de origen hacia la de destino.
-
Migración incremental
Una vez finalizada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la de destino. La migración incremental le permite trasladar los datos sin interrumpir sus aplicaciones autogestionadas.
Operaciones SQL compatibles con la migración incremental
|
Tipo |
Comando SQL |
|
DML |
INSERT, UPDATE y DELETE |
Permisos de las cuentas de base de datos
|
Base de datos |
Migración de esquemas |
Migración completa de datos |
Migración incremental de datos |
|
Instancia de PolarDB-X 1.0 |
Permiso |
Permiso |
Permisos Nota
Para obtener detalles sobre cómo otorgar permisos, consulte Data synchronization tools for PolarDB-X. |
|
ApsaraMQ for Kafka |
Permisos de lectura y escritura |
||
Asignación de tipos de datos
Para obtener más detalles, consulte Schema initialization: Data type mappings.
Pasos
-
Vaya a la página de la lista de tareas de migración de la región de destino con uno de los métodos a continuación.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, lea los Limits en la parte superior de la página antes de crear y ejecutar la tarea de migración de datos.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla con facilidad. El nombre no necesita ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya se ha added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente.
NotaEn la consola de DMS, este parámetro se llama Select a DMS database instance..
Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
Database Type
Seleccione PolarDB-X 1.0.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de PolarDB-X 1.0 de origen.
Replicate Data Across Alibaba Cloud Accounts
En este ejemplo, la migración se realiza dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
Instance ID
Seleccione el identificador de la instancia de PolarDB-X 1.0 de origen.
Database Account
Introduzca la cuenta de la base de datos de la instancia de PolarDB-X 1.0 de origen. Para conocer los permisos obligatorios, consulte la documentación de permisos.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya se ha added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente.
NotaEn la consola de DMS, este parámetro se llama Select a DMS database instance..
Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
Database Type
Seleccione Kafka.
Access Method
Seleccione Express Connect, VPN Gateway, or Smart Access Gateway.
NotaEn este paso, se configura una instancia de ApsaraMQ for Kafka como una base de datos de Kafka autogestionada.
Instance Region
Seleccione la región de la instancia de Kafka de destino.
Connected VPC
Seleccione el identificador de la Virtual Private Cloud (VPC) que contiene la instancia de Kafka de destino. Puede consultar el identificador de la VPC en la página Basic Information de la instancia de Kafka.
Domain Name or IP
Introduzca una dirección IP del default endpoint de la instancia de Kafka.
NotaPuede obtener la dirección IP del default endpoint en la página Basic Information de la instancia de Kafka.
Port
El puerto de servicio de la instancia de Kafka. Valor predeterminado: 9092.
Database Account
Introduzca la cuenta y la contraseña de la base de datos de la instancia de Kafka de destino.
NotaLa cuenta y la contraseña de la base de datos solo son obligatorias para una instancia de ApsaraMQ for Kafka que tiene habilitada la lista de control de acceso (ACL). Para obtener más información sobre cómo habilitar la ACL, consulte SASL user authorization.
Database Password
Kafka Version
Seleccione la versión que coincida con su instancia de Kafka.
Encryption
Según sus requisitos de negocio y seguridad, seleccione Non-encrypted o SCRAM-SHA-256.
Topic
En la lista desplegable, seleccione el tema de destino.
Use Kafka Schema Registry
Kafka Schema Registry proporciona una interfaz RESTful para almacenar y recuperar esquemas Avro.
-
No: no usa Kafka Schema Registry.
-
Yes: usa Kafka Schema Registry. Debe introducir la URL o la dirección IP del esquema Avro registrado en Kafka Schema Registry.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que el segmento de direcciones IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
Si la base de datos de origen o de destino es autogestionada (el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
Seleccione los tipos de migración según sus necesidades y los tipos compatibles con cada motor.
Si solo necesita ejecutar una migración completa, seleccione tanto Schema Migration como Full Data Migration.
Para ejecutar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
NotaSi no selecciona Schema Migration, asegúrese de que exista una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sea necesario.
Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración de datos para garantizar la coherencia de los datos.
Processing Mode for Existing Destination Tables
Precheck and Report Errors: comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se aprueba. Si existen tablas con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no se inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar ni renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencias en los datos y riesgos para el negocio. Por ejemplo:
Si los esquemas de las tablas son coherentes y un registro en la base de datos de destino tiene el mismo valor de clave primaria que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro de la base de datos de destino.
Si los esquemas de las tablas no son coherentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
Data Format in Kafka
Seleccione un formato para los datos que se migran a la instancia de Kafka.
Si selecciona DTS Avro, debe analizar sintácticamente los datos según la definición del esquema DTS Avro. Para obtener más información, consulte definición del esquema DTS Avro y ejemplo de deserialización DTS Avro.
-
Si selecciona Canal JSON, consulte Canal JSON format para obtener más información sobre los parámetros y ver ejemplos.
NotaPolarDB-X 1.0 no admite el formato Canal JSON. Debe seleccionar DTS Avro.
Kafka Data Compression Format
Seleccione un formato de compresión para los mensajes de Kafka según sus necesidades.
LZ4 (predeterminado): relación de compresión baja, velocidad de compresión alta.
GZIP: relación de compresión alta, velocidad de compresión baja.
NotaConsumo elevado de CPU.
Snappy: relación de compresión media, velocidad de compresión media.
Policy for Shipping Data to Kafka Partitions
Message acknowledgement mechanism
Seleccione un message acknowledgment mechanism según sus requisitos de negocio.
Capitalization of Object Names in Destination Instance
Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados, como bases de datos, tablas y columnas, en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede elegir mantener la distinción entre mayúsculas y minúsculas coherente con la política predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects
En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en
para moverlos al cuadro Selected Objects.NotaSeleccione los objetos que desea migrar a nivel de tabla. Si selecciona una base de datos completa, cualquier cambio para agregar o eliminar tablas en esa base de datos no se migrará al destino.
Selected Objects
En este ejemplo no se requiere configuración adicional. Puede usar la función de asignación para configurar el nombre del tema, el recuento de particiones y la clave de partición de una tabla de origen en la instancia de ApsaraMQ for Kafka de destino. Para obtener más información, consulte Mapping information.
Nota-
Si usa la función de asignación de nombres de objetos, otros objetos que dependen del objeto asignado podrían fallar durante la migración.
-
Para seleccionar las operaciones SQL de la migración incremental de datos, haga clic con el botón derecho en un objeto de migración dentro del cuadro Selected Objects y seleccione las operaciones SQL que desea migrar en el cuadro de diálogo que aparece.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
En este ejemplo no es necesario seleccionar un clúster dedicado. Para obtener más información sobre los clústeres dedicados, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Después de que se inicia la tarea de migración, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Se recomienda establecer una duración superior a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea finaliza con errores.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades de negocio. También puede liberar la instancia de DTS tan pronto como se liberen las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de migración, si ocurre un problema que no está relacionado con la conectividad en la base de datos de origen o de destino, como una excepción al ejecutar DDL o DML, DTS reporta un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Se recomienda establecer una duración superior a 10 minutos. Si las operaciones correspondientes se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea finaliza con errores.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Puede configurar RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Si es necesario, seleccione una etiqueta de entorno para identificar la instancia. En este ejemplo no es obligatorio.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: deshabilita la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades de negocio.
No: no configura ninguna alerta.
Yes: configura alertas al establecer un alert threshold y un alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para consultar los parámetros de configuración de esta instancia cuando llame a la operación de API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita consultar los parámetros de la API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience la tarea de migración, DTS ejecuta una comprobación previa. La tarea solo se inicia después de aprobar dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento con errores, corrija el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos que no se pueden ignorar, haga clic en View Details junto al elemento con errores, corrija el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
Para los elementos que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como inconsistencias en los datos y representar riesgos para su negocio.
-
Adquiera la instancia.
Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la tabla a continuación.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is resource management?
Instance Class
DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración total. Una vez detenida, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras se ejecuta, el Status de la tarea es Running.
Información de mapeo
En el área Selected Objects, coloque el cursor sobre el nombre del topic de destino en el nivel de tabla.
Haga clic en Edit junto al nombre del topic de destino.
-
En el cuadro de diálogo Edit Table, configure la información de mapeo.
NotaEl cuadro de diálogo se llama Edit Schema en el nivel de base de datos y Edit Table en el nivel de tabla. El cuadro de diálogo Edit Schema tiene menos parámetros.
Si no migra toda la base de datos, no podrá modificar los parámetros Name of target Topic y Number of Partitions en el cuadro de diálogo Edit Schema.
Parámetro
Descripción
Name of target Topic
Nombre del topic que recibe los datos de la tabla de origen. De forma predeterminada, corresponde al Topic que seleccionó en la sección Destination Database durante el paso Configurations for Source and Destination Databases.
ImportanteSi el destino es una instancia de Message Queue for Apache Kafka, el topic especificado ya debe existir en la instancia de destino. De lo contrario, la tarea de migración de datos fallará. Si el destino es una base de datos Kafka autoalojada y la tarea de migración incluye la estructura de bases de datos y tablas, DTS intentará crear el topic especificado en la base de datos de destino.
Si cambia el valor de Name of target Topic, DTS escribirá los datos en el topic especificado.
Filter Conditions
Para obtener más información, consulte Configure filter conditions.
Number of Partitions
Número de particiones del topic de destino.
Partition Key
Disponible cuando Policy for Shipping Data to Kafka Partitions se establece en Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Especifique una o más columnas como clave de partición. DTS calcula un valor hash para las columnas especificadas y distribuye las filas entre las particiones del topic de destino.
NotaSolo puede seleccionar Partition Key en el cuadro de diálogo Edit Table.
Haga clic en OK.