Utilice Data Transmission Service (DTS) para transmitir datos incrementales en tiempo real desde PolarDB-X hacia Message Queue for Apache Kafka.
Requisitos previos
Se creó una instancia de origen de PolarDB-X 2.0.
-
Una instancia de destino de Message Queue for Apache Kafka con mayor espacio de almacenamiento que el utilizado por la instancia de origen de PolarDB-X 2.0.
NotaConsulte Overview of data synchronization scenarios para conocer las versiones compatibles de las bases de datos de origen y destino.
Un topic en la instancia de destino de Message Queue for Apache Kafka para recibir los datos sincronizados. Para obtener más información, consulte Step 1: Create a topic.
Límites
DTS no sincroniza claves foráneas de la base de datos de origen a la de destino. Por lo tanto, las operaciones en cascada y de eliminación en la base de datos de origen no se sincronizan con la base de datos de destino.
|
Tipo |
Descripción |
|
Limitaciones de la base de datos de origen |
|
|
Otras limitaciones |
|
|
Otras precauciones |
DTS actualiza periódicamente la tabla |
Facturación
|
Tipo de sincronización |
Precios |
|
Sincronización de esquemas y sincronización completa de datos |
Sin costo. |
|
Sincronización incremental de datos |
Con costo. Para obtener más información, consulte Billing overview. |
Límite de tamaño de registro único
El tamaño de un solo registro escrito en Kafka está limitado a 10 MB. Si una sola fila en la base de datos de origen supera los 10 MB, DTS no podrá escribirla en Kafka y la tarea se interrumpirá. En este caso, se recomienda no sincronizar la tabla afectada. Si debe sincronizar la tabla, puede sincronizar solo algunas columnas. Al configurar la tarea de DTS, filtre los registros con campos grandes. Si la tarea ya se está ejecutando, modifique los objetos de sincronización para eliminar la tabla; luego, vuelva a agregar la tabla y filtre las columnas con campos grandes para omitirlas en la sincronización.
Operaciones SQL compatibles
Tipo | Sentencia SQL |
DML | INSERT, UPDATE y DELETE |
DDL |
Nota Si la base de datos de origen es una instancia de PolarDB-X 2.0 Enterprise Edition, las operaciones CREATE FUNCTION y CREATE INDEX no se pueden sincronizar. |
Precauciones
Procedimiento
-
Vaya a la página de lista de tareas de sincronización de la región de destino. Puede utilizar uno de los dos métodos siguientes:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de tareas.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, lea atentamente los límites que se muestran en la parte superior de la página. Si no respeta estos límites, la tarea podría fallar o producirse inconsistencias en los datos.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene por qué ser único.
Source Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione PolarDB-X 2.0.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de origen de PolarDB-X 2.0.
Replicate Data Across Alibaba Cloud Accounts
En este ejemplo, los datos se sincronizan dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
Instance ID
Seleccione el ID de la instancia de origen de PolarDB-X 2.0.
Database Account
Introduzca la cuenta de la base de datos para la instancia de origen de PolarDB-X 2.0. La cuenta debe tener los permisos REPLICATION SLAVE, REPLICATION CLIENT y SELECT sobre los objetos que se van a sincronizar.
NotaPara obtener información sobre cómo otorgar permisos, consulte Account permission issues during data synchronization.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Destination Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione Kafka.
Connection Type
Seleccione Express Connect, VPN Gateway, or Smart Access Gateway.
NotaEn este escenario, la tarea de sincronización trata su instancia de Message Queue for Apache Kafka como un clúster de Kafka autogestionado.
Instance Region
Seleccione la región donde se encuentra la instancia de Kafka de destino.
Connected VPC
Seleccione el ID de la Virtual Private Cloud (VPC) donde se encuentra la instancia de Kafka de destino. Puede encontrar el ID de la VPC en la página de Basic Information de la instancia de Kafka.
Domain Name or IP
Introduzca cualquier dirección IP del Default Endpoint de la instancia de Kafka.
NotaPuede obtener la dirección IP desde el Default Endpoint en la página de Basic Information de la instancia de Kafka.
Port
El puerto de servicio para la instancia de Kafka. Valor predeterminado: 9092.
Database Account
Introduzca la cuenta de la base de datos para la instancia de Kafka de destino.
NotaSi la instancia de Kafka es una VPC Instance, no es necesario configurar la Database Account ni la Database Password.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Kafka Version
Seleccione la versión correspondiente a su instancia de Kafka.
Connection Method
Seleccione Non-encrypted o SCRAM-SHA-256 según sus requisitos de negocio y seguridad.
Topic
En la lista desplegable, seleccione el topic que recibirá los datos.
Use Kafka Schema Registry
Kafka Schema Registry es una capa de servicio para sus metadatos. Proporciona una interfaz RESTful para almacenar y recuperar esquemas Avro.
No: No utilizar Kafka Schema Registry.
Yes: Utilizar Kafka Schema Registry. Debe introducir la URL o dirección IP de Kafka Schema Registry.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto puede hacerse de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
Si la base de datos de origen o de destino es una base de datos autogestionada (donde el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea sincronizar.
Parámetro
Descripción
Synchronization Types
Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez completada la verificación previa, DTS realiza una sincronización completa de datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Esto sirve como línea base para la posterior sincronización incremental de datos.
Processing Mode for Existing Tables in Destination
-
Precheck and Report Errors: Comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con el mismo nombre, la verificación previa se aprueba. Si existe una tabla con el mismo nombre, la verificación previa falla y la tarea de sincronización de datos no se inicia.
NotaSi no puede eliminar o cambiar el nombre de la tabla con el mismo nombre en la base de datos de destino, puede asignarle un nombre de tabla diferente. Para obtener más información, consulte Map table and column names.
-
Ignore Errors and Proceed: Omite la comprobación de nombres de tabla duplicados en la base de datos de destino.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y poner en riesgo su negocio. Por ejemplo:
-
Si los esquemas de las tablas son iguales y un registro en la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro en la base de datos de origen:
-
Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza.
-
Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
-
-
Si los esquemas de las tablas son diferentes, la sincronización inicial de datos podría fallar. Esto puede resultar en la sincronización parcial de datos de columnas o en un fallo completo de la sincronización. Proceda con precaución.
-
Data Format in Kafka
Seleccione el formato de almacenamiento para los datos sincronizados en la instancia de Kafka según sus necesidades.
Si selecciona DTS Avro, debe analizar sintácticamente los datos basándose en la definición del esquema DTS Avro. Para obtener más información, consulte definición del esquema DTS Avro y ejemplo de deserialización DTS Avro.
Si selecciona Canal JSON, consulte Canal JSON format para ver descripciones y ejemplos de parámetros.
Kafka Data Compression Format
Seleccione el formato de compresión para los mensajes de Kafka según sus requisitos de negocio.
LZ4 (predeterminado): La tasa de compresión es baja, pero la velocidad de compresión es alta.
GZIP: La tasa de compresión es alta, pero la velocidad de compresión es baja.
NotaEl consumo de CPU es alto.
Snappy: La tasa y la velocidad de compresión son medias.
Policy for Shipping Data to Kafka Partitions
Seleccione una estrategia según sus requisitos de negocio. Para obtener más información, consulte Kafka partition routing strategy.
ImportanteEsta función no es compatible si la base de datos de origen es una instancia de PolarDB-X 1.0.
Message acknowledgement mechanism
Seleccione un message acknowledgment mechanism según sus requisitos de negocio.
Topic That Stores DDL Information
Seleccione en la lista desplegable el topic que se utilizará para almacenar la información DDL.
NotaSi no se especifica, la información DDL se almacena de forma predeterminada en el topic que recibe los datos.
Case Sensitivity Policy for Destination Object Names
Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de objetos de base de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, está seleccionada la DTS default policy. También puede optar por utilizar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects
En el cuadro Source Objects, haga clic en un objeto para sincronizar y luego haga clic en
para moverlo al cuadro Selected Objects.NotaPuede seleccionar bases de datos, tablas y columnas como objetos de sincronización. Si selecciona tablas o columnas, otros objetos como vistas, desencadenadores y procedimientos almacenados no se sincronizarán con la base de datos de destino.
Selected Objects
No se requiere configuración adicional para este ejemplo. Puede utilizar la función de asignación para establecer el nombre del topic, el número de particiones del topic y la clave de partición para la tabla de origen en la instancia de Kafka de destino. Para obtener más información, consulte Mapping information.
NotaSi utiliza la función de asignación de nombres de objetos, es posible que otros objetos que dependen del objeto asignado no se sincronicen correctamente.
Para seleccionar las operaciones SQL para la sincronización incremental, haga clic con el botón derecho en el objeto deseado en el panel Selected Objects y seleccione las operaciones SQL en el cuadro de diálogo que aparece.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Después de iniciar una tarea de sincronización, si falla la conexión a la base de datos de origen o de destino, DTS reporta un error e intenta reconectar inmediatamente. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1,440 minutos. Se recomienda establecer la duración en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanudará automáticamente. De lo contrario, la tarea fallará.
Nota-
Si tiene varias instancias de DTS (por ejemplo, Instancia A e Instancia B) que comparten el mismo origen o destino, y establece el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el período de reintento de conexión, se recomienda personalizar la duración del reintento según sus necesidades comerciales o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de iniciar la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS reporta un error e inicia inmediatamente operaciones de reintento continuas. La duración predeterminada de reintento es de 10 minutos. También puede personalizar la duración del reintento en un rango de 1 a 1,440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones relevantes se completan correctamente dentro de la duración de reintento establecida, la tarea de sincronización se reanudará automáticamente. De lo contrario, la tarea fallará.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Para reducir la carga en las bases de datos de origen y de destino, puede establecer un límite de velocidad para la tarea de sincronización completa configurando los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración solo está disponible cuando Synchronization Types está establecido en Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión en la base de datos de destino, configure RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir información SQL de latidos en la base de datos de origen mientras se ejecuta la instancia de DTS.
-
Yes: No se escribe información SQL de latidos en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso.
-
No: Escribe información SQL de latidos en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades. No es necesaria ninguna selección para este ejemplo.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca las sentencias de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Monitoring and Alerting
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta.
-
No: No se configuran alertas.
-
Yes: Configure alertas estableciendo un umbral de alerta y especificando un notificación de alerta. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
-
-
-
Guarde la tarea y ejecute una verificación previa.
Para ver los parámetros de la API para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.
Si ha terminado de ver los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience el trabajo de sincronización, DTS ejecuta una verificación previa. El trabajo solo puede iniciarse después de que todos los elementos de la verificación previa se aprueben.
Si la verificación previa falla, haga clic en View Details para el elemento fallido. Solucione el problema según las indicaciones y vuelva a ejecutar la verificación previa.
-
Si la verificación previa devuelve una advertencia:
Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto al elemento. Siga las instrucciones para solucionar el problema y vuelva a ejecutar la verificación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again en secuencia para omitir la advertencia y volver a ejecutar la verificación previa. Si decide omitir el elemento de advertencia, esto podría causar problemas como inconsistencia de datos y poner en riesgo su negocio.
-
Adquiera la instancia.
Cuando la Success Rate sea del 100%, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is resource management?
Instance Class
DTS proporciona especificaciones de migración con diferentes niveles de rendimiento. La especificación del enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista de Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente una vez completada la migración completa. Después de que la tarea se detiene, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental está en ejecución, el Status de la tarea es Running.
Asignaciones
En el área Selected Objects, pase el cursor sobre el nombre del topic de destino.
Haga clic en el botón Edit que aparece junto al nombre del topic de destino.
-
En el cuadro de diálogo Edit Table, configure los parámetros de asignación.
NotaEl cuadro de diálogo Edit Schema corresponde a la configuración a nivel de base de datos y tiene menos parámetros configurables que el cuadro de diálogo Edit Table, el cual se utiliza para la configuración a nivel de tabla.
Si no sincroniza una base de datos completa, no podrá modificar los parámetros Name of target Topic y Number of Partitions en el cuadro de diálogo Edit Schema.
Parámetro
Descripción
Name of target Topic
El topic de destino en el que DTS escribe los datos provenientes de la tabla de origen. De forma predeterminada, este es el Topic que seleccionó en la sección Destination Database durante el paso Configurations for Source and Destination Databases.
Importante-
Si la base de datos de destino es una instancia de Alibaba Cloud Message Queue for Apache Kafka, el topic especificado debe existir en la instancia de Kafka de destino; de lo contrario, la tarea de sincronización de datos fallará. Si la base de datos de destino es una base de datos Kafka autoadministrada y la instancia de sincronización incluye una tarea de sincronización de esquemas, DTS intentará crear el topic especificado en la base de datos de destino.
-
Si modifica el valor de Name of target Topic, DTS escribirá los datos en el nuevo topic.
Filter Conditions
Para obtener más información, consulte Set Filter Conditions.
Number of Partitions
El número de particiones del topic de destino.
Partition Key
Este parámetro está disponible cuando establece Policy for Shipping Data to Kafka Partitions en Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Puede seleccionar una o más columnas como clave de partición. DTS calcula un valor hash basado en esta clave y distribuye las filas entre las particiones del topic de destino.
NotaSolo puede seleccionar Partition Key en el cuadro de diálogo Edit Table.
Haga clic en OK.
Preguntas frecuentes
-
¿Puedo modificar el Kafka Data Compression Format?
Sí. Puede utilizar la función Modify synchronization objects para modificarlo.
-
¿Puedo modificar el Message acknowledgement mechanism?
Sí. Puede utilizar la función Modify synchronization objects para modificarlo.