Aprenda a utilizar Data Transmission Service (DTS) para migrar datos desde una instancia de PolarDB-X hacia Message Queue for Apache Kafka y así escalar el procesamiento de mensajes.
Requisitos previos
Ha creado una instancia de origen de PolarDB-X 2.0.
Ha creado un topic en la instancia de destino de Message Queue for Apache Kafka para recibir los datos migrados. Para obtener más detalles, consulte Step 1: Create a topic.
Las instancias de origen y de destino deben utilizar versiones de base de datos compatibles. Para obtener más información, consulte Database versions.
El espacio de almacenamiento de la instancia de destino de Message Queue for Apache Kafka debe ser mayor que el utilizado por la instancia de PolarDB-X 2.0.
Límites
DTS no migra claves externas. Como resultado, las operaciones en cascada, como la eliminación en cascada en la base de datos de origen, no se replican en la base de datos de destino.
|
Tipo |
Descripción |
|
Límites de la base de datos de origen |
|
|
Otros límites |
|
|
Precauciones |
DTS actualiza periódicamente la tabla |
Facturación
|
Tipo de migración |
Cargo por configuración de instancia |
Cargo por tráfico de Internet |
|
Migración de esquema y migración completa de datos |
Sin cargo. |
Cuando el parámetro Access Method de la base de datos de destino está establecido en Public IP Address, se cobra el tráfico de Internet. Para obtener más información, consulte Billing overview. |
|
Migración incremental de datos |
Con cargo. Para obtener más información, consulte Billing overview. |
Tipos de migración
-
Migración de esquema
DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la base de datos de destino.
-
Migración completa
DTS migra todos los datos históricos de los objetos de migración especificados desde la base de datos de origen hacia la base de datos de destino.
-
Migración incremental
Una vez completada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la base de datos de destino. La migración incremental permite migrar datos sin problemas y sin interrumpir sus aplicaciones autogestionadas.
Operaciones SQL para migración incremental
Tipo de operación | Sentencia SQL |
DML |
|
DDL |
Nota
Si la base de datos de origen es una instancia de PolarDB-X 2.0 Enterprise Edition, las operaciones |
Permisos de cuenta de base de datos
Base de datos | Migración de esquema | Migración completa | Migración incremental |
Instancia de PolarDB-X | Permiso SELECT | Permiso SELECT | Permisos REPLICATION SLAVE y REPLICATION CLIENT, además de permiso SELECT sobre los objetos a migrar. Nota Para obtener información sobre cómo otorgar permisos, consulte Account permission issues during data synchronization. |
Desde la consola de DTS
-
From the DTS console
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, se recomienda leer detenidamente los límites que se muestran en la parte superior de la página. De lo contrario, la tarea podría fallar o producirse inconsistencias en los datos.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene por qué ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos se configurará automáticamente a continuación.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione PolarDB-X 2.0.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de origen de PolarDB-X 2.0.
Replicate Data Across Alibaba Cloud Accounts
Este ejemplo muestra una migración dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
Instance ID
Seleccione el ID de la instancia de origen de PolarDB-X 2.0.
Database Account
Introduzca la cuenta de la base de datos para la instancia de origen de PolarDB-X 2.0. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos se configurará automáticamente a continuación.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione Kafka.
Connection Type
Seleccione Express Connect, VPN Gateway, or Smart Access Gateway.
NotaEn este paso, la instancia de Message Queue for Apache Kafka se configura como una base de datos Kafka autogestionada.
Instance Region
Seleccione la región donde se encuentra la instancia de Kafka de destino.
Connected VPC
Seleccione el ID de la VPC a la que pertenece la instancia de Kafka de destino. Puede encontrar el ID de la VPC en la página de Basic Information de la instancia de Kafka.
Domain Name or IP
Introduzca una dirección IP del Default Endpoint de la instancia de Kafka.
NotaPuede obtener la dirección IP en la sección Default Endpoint de la página de Basic Information de la instancia de Kafka.
Port
El puerto de servicio de la instancia de Kafka. Valor predeterminado: 9092.
Database Account
Introduzca la cuenta de la base de datos para la instancia de Kafka de destino.
NotaSi la instancia de Kafka es una VPC instance, no es necesario configurar los ajustes de Database Account y Database Password.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Kafka Version
Seleccione la versión que coincida con su instancia de Kafka.
Connection Method
Seleccione Non-encrypted o SCRAM-SHA-256 según sus requisitos de negocio y seguridad.
Topic
Seleccione el topic que recibirá los datos.
Use Kafka Schema Registry
Kafka Schema Registry es una capa de servicio de metadatos que proporciona una interfaz RESTful para almacenar y recuperar esquemas Avro.
No: No usar Kafka Schema Registry.
Yes: Usar Kafka Schema Registry. Debe introducir la URL o la dirección IP del esquema Avro registrado en Kafka Schema Registry.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que el segmento de direcciones IP del servicio DTS se haya agregado automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
Si la base de datos de origen o de destino es una base de datos autogestionada (el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
Si solo necesita realizar una migración completa, seleccione tanto Schema Migration como Full Data Migration.
Para realizar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
NotaSi no selecciona Schema Migration, debe asegurarse de que existan una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sea necesario.
Si no selecciona Incremental Data Migration, no escriba nuevos datos en la instancia de origen durante la migración de datos para garantizar la consistencia de los mismos.
Processing Mode for Existing Destination Tables
Precheck and Report Errors: Comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se supera correctamente. Si existen tablas con los mismos nombres, se notifica un error durante la comprobación previa y la tarea de migración de datos no se inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar o renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: Omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y riesgos para el negocio. Por ejemplo:
Si los esquemas de las tablas son consistentes y un registro en la base de datos de destino tiene el mismo valor de clave principal que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
Si los esquemas de las tablas son inconsistentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
Data Format in Kafka
Seleccione el formato de almacenamiento para los datos migrados a la instancia de Kafka.
Si selecciona DTS Avro, debe analizar sintácticamente los datos según la definición del esquema DTS Avro. Para obtener más información, consulte definición del esquema DTS Avro y ejemplo de deserialización DTS Avro.
Si selecciona Canal JSON, consulte Canal JSON format para ver descripciones y ejemplos de parámetros.
Kafka Data Compression Format
Seleccione un formato de compresión para los mensajes de Kafka según sus necesidades.
LZ4 (predeterminado): baja tasa de compresión, alta velocidad de compresión.
GZIP: alta tasa de compresión, baja velocidad de compresión.
NotaAlto consumo de CPU.
Snappy: tasa de compresión media, velocidad de compresión media.
Policy for Shipping Data to Kafka Partitions
Seleccione una policy según sus requisitos de negocio.
ImportanteSi la base de datos de origen es una instancia de PolarDB-X 1.0, esta función no es compatible.
Message acknowledgement mechanism
Seleccione un message acknowledgment mechanism según sus requisitos de negocio.
Capitalization of Object Names in Destination Instance
Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de esquemas, tablas y columnas en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede seleccionar otras opciones para garantizar que el uso de mayúsculas y minúsculas en los nombres de objetos sea consistente con la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination instance.
Source Objects
Seleccione uno o varios objetos en la sección Source Objects. Haga clic en el icono
y agregue los objetos a la sección Selected Objects. NotaLa granularidad para seleccionar objetos de migración es esquema, tabla y columna. Si selecciona solo tablas o columnas como objetos de migración, otros objetos como vistas, desencadenadores y procedimientos almacenados no se migrarán a la base de datos de destino.
Selected Objects
No se requiere configuración adicional para este ejemplo. Puede usar la función de asignación para establecer el nombre del topic, el número de particiones, la clave de partición y otra información para la tabla de origen en la instancia de Kafka de destino. Para obtener más información, consulte Map information.
NotaSi utiliza la función de asignación de nombres de objetos, es posible que otros objetos que dependen del objeto asignado no se puedan migrar.
Para seleccionar operaciones SQL para la migración incremental de datos, haga clic con el botón derecho en un objeto del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar tareas de migración de DTS.
Retry Time for Failed Connections
Después de que se inicia la tarea de migración, si falla la conexión a la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer la duración en más de 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades comerciales, o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de migración, si ocurre un problema que no es de conectividad, como una excepción de ejecución DDL o DML, en la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer la duración en más de 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar el limitador de velocidad para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede optar por establecer límites de velocidad para la tarea de migración incremental. Puede establecer RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Puede seleccionar etiquetas de entorno para identificar la instancia según sus necesidades. No es necesario seleccionar ninguna para este ejemplo.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca sentencias de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: No se escribe información SQL de latido en la base de datos de origen. Esto puede provocar que la instancia de DTS notifique un retraso.
-
No: Escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades comerciales.
No: No configura ninguna alerta.
Yes: Configure alertas estableciendo un alert threshold y alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de configuración de esta instancia al llamar a la operación de API, pase el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita ver los parámetros de API o ya terminó de verlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience la tarea de migración, DTS realiza una comprobación previa. La tarea solo se inicia después de superar dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento de comprobación fallido, solucione el problema según la indicación y vuelva a ejecutar la comprobación previa.
-
Si se notifica una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento fallido, solucione el problema según la indicación y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de alerta y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, esto puede causar problemas como inconsistencia de datos y representar riesgos para su negocio.
-
Adquiera la instancia.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
Instance Class
DTS proporciona especificaciones de migración con diferentes niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista de Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida la tarea, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental está en ejecución, el Status de la tarea es Running.
Configuración de asignaciones
En el área Selected Objects, pase el cursor sobre el nombre del topic de destino.
Haga clic en Edit.
-
En el cuadro de diálogo Edit Table, configure los parámetros de asignación.
NotaA nivel de base de datos, aparece el cuadro de diálogo Edit Schema, que ofrece menos parámetros. A nivel de tabla, se muestra el cuadro de diálogo Edit Table.
Si no migra una base de datos completa, no podrá modificar los parámetros Edit Schema y Name of target Topic en el cuadro de diálogo Number of Partitions.
Parámetro
Descripción
Name of target Topic
Nombre del topic de destino para la tabla de origen. De forma predeterminada, corresponde al Topic que seleccionó para la Destination Database en el paso Configurations for Source and Destination Databases.
ImportanteSi la base de datos de destino es una instancia de Message Queue for Apache Kafka, el nombre del topic que introduzca debe existir en la instancia de Kafka de destino; de lo contrario, la migración de datos fallará. Si la base de datos de destino es una instancia de Kafka autogestionada y la tarea incluye una migración de esquema, DTS intentará crear el topic que especifique en la base de datos de destino.
Si modifica el parámetro Name of target Topic, DTS escribirá los datos en el topic que indique.
Filter Conditions
Para obtener más información, consulte Configure filter conditions.
Number of Partitions
Número de particiones del topic de destino.
Partition Key
Si la Policy for Shipping Data to Kafka Partitions está establecida en Ship Data to Separate Partitions Based on Hash Values of Primary Keys, puede configurar este parámetro. Especifique una o más columnas como clave de partición. DTS calcula un valor hash a partir de dicha clave y lo utiliza para distribuir las filas entre las particiones del topic de destino.
NotaSolo puede seleccionar una Partition Key en el cuadro de diálogo Edit Table.
Haga clic en OK.