Data Transmission Service:Sincronizar PolarDB-X 1.0 con Message Queue for Kafka

Requisitos previos

• Debe haber creado una instancia de ApsaraMQ for Kafka y un topic para recibir los datos sincronizados. Para obtener más información, consulte Overview.

  Nota

  Para consultar las versiones compatibles del origen y el destino, revise Synchronization solutions overview.

• El espacio de almacenamiento de la instancia de ApsaraMQ for Kafka de destino debe ser mayor que el utilizado por la instancia de PolarDB-X 1.0 de origen.

Limitaciones

Topologías de sincronización

Operaciones SQL compatibles

Permisos de cuenta de base de datos

Precauciones

Procedimiento

1. Vaya a la página de lista de tareas de sincronización de la región de destino. Puede utilizar uno de los dos métodos siguientes:

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Synchronization.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.

   1. Inicie sesión en Data Management (DMS).

   2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.

2. Haga clic en Create Task para abrir la página de configuración de tareas.

3. Configure las bases de datos de origen y de destino.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene que ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione PolarDB-X 1.0.
   	Connection Type	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde reside la instancia de PolarDB-X 1.0 de origen.
   	Cross-account	Si sincroniza datos dentro de la misma cuenta de Alibaba Cloud, seleccione No.
   	Instance ID	Seleccione el ID de la instancia de PolarDB-X 1.0 de origen.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de PolarDB-X 1.0 de origen. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione Kafka.
   	Connection Type	Seleccione Express Connect, VPN Gateway, or Smart Access Gateway. Nota En este paso, configure la instancia de sincronización tratando la instancia de ApsaraMQ for Kafka como si fuera una base de datos Kafka autogestionada.
   	Instance Region	Seleccione la región donde reside la instancia de ApsaraMQ for Kafka de destino.
   	Connected VPC	Seleccione el ID de la Virtual Private Cloud (VPC) donde se encuentra la instancia de ApsaraMQ for Kafka de destino. Puede encontrar el ID de la VPC en la página Basic Information de la instancia de ApsaraMQ for Kafka.
   	Domain Name or IP	Introduzca una dirección IP del Default Endpoint de la instancia de ApsaraMQ for Kafka. Nota Puede encontrar la dirección IP del Default Endpoint en la página Basic Information de la instancia de ApsaraMQ for Kafka.
   	Port	El puerto de servicio de la instancia de ApsaraMQ for Kafka. El valor predeterminado es 9092.
   	Database Account	Introduzca la cuenta y la contraseña de la base de datos de la instancia de ApsaraMQ for Kafka de destino. Nota Solo es necesario proporcionar una cuenta y contraseña para las instancias de ApsaraMQ for Kafka que tienen habilitadas las listas de control de acceso (ACL). Para obtener más información, consulte Grant permissions to SASL users.
   	Database Password
   	Kafka Version	Seleccione la versión de su instancia de ApsaraMQ for Kafka.
   	Connection Method	Seleccione Non-encrypted o SCRAM-SHA-256 según sus requisitos de negocio y seguridad.
   	Topic	En la lista desplegable, seleccione el topic que recibirá los datos.
   	Use Kafka Schema Registry	Kafka Schema Registry es una capa de servicio para sus metadatos. Proporciona una API RESTful para almacenar y recuperar sus esquemas Avro. No: No utiliza Kafka Schema Registry. Yes: Utiliza Kafka Schema Registry. Debe introducir la URL o la dirección IP del esquema Avro registrado en Kafka Schema Registry.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que los bloques CIDR de direcciones IP de los servidores DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto se puede hacer automática o manualmente. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

   • Si la base de datos de origen o de destino es una base de datos autogestionada (donde el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea sincronizar.

      Parámetro	Descripción
      Synchronization Types	Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez completada la verificación previa, DTS realiza una sincronización completa de datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Esto sirve como línea base de datos para la posterior sincronización incremental. Nota Si selecciona Full Data Synchronization, el esquema y los datos de las tablas para las cuales se ejecutó una sentencia CREATE TABLE se pueden sincronizar con la base de datos de destino.
      Processing Mode for Existing Tables in Destination	Precheck and Report Errors: Comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con el mismo nombre, la verificación previa se aprueba. Si existe una tabla con el mismo nombre, la verificación previa falla y la tarea de sincronización de datos no se inicia. Nota Si no puede eliminar ni cambiar el nombre de la tabla con el mismo nombre en la base de datos de destino, puede asignarle un nombre de tabla diferente. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: Omite la comprobación de nombres de tabla duplicados en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y poner en riesgo su negocio. Por ejemplo: Si los esquemas de las tablas son iguales y un registro en la base de datos de destino tiene el mismo valor de clave principal o clave única que un registro en la base de datos de origen: Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza. Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro en la base de datos de destino. Si los esquemas de las tablas son diferentes, la sincronización inicial de datos puede fallar. Esto puede resultar en la sincronización parcial de los datos de las columnas o en un fallo completo de la sincronización. Proceda con precaución.
      Data Format in Kafka	Seleccione el formato de almacenamiento para los datos sincronizados con la instancia de ApsaraMQ for Kafka. Si selecciona DTS Avro, debe analizar sintácticamente los datos basándose en la definición del esquema DTS Avro. Para obtener más información, consulte definición del esquema DTS Avro y ejemplo de deserialización DTS Avro. Si selecciona Canal JSON, consulte Canal JSON format para ver descripciones y ejemplos de parámetros. Nota PolarDB-X 1.0 no admite Canal JSON. Debe seleccionar DTS Avro.
      Kafka Data Compression Format	Seleccione el formato de compresión para los mensajes de Kafka según sus requisitos de negocio. LZ4 (predeterminado): La tasa de compresión es baja, pero la velocidad de compresión es alta. GZIP: La tasa de compresión es alta, pero la velocidad de compresión es baja. Nota El consumo de CPU es alto. Snappy: La tasa y la velocidad de compresión son medias.
      Policy for Shipping Data to Kafka Partitions
      Message acknowledgement mechanism	Seleccione un message acknowledgment mechanism según sus requisitos de negocio.
      Topic That Stores DDL Information	Seleccione de la lista desplegable el topic que se utilizará para almacenar la información DDL. Nota Si no se especifica, la información DDL se almacena de forma predeterminada en el topic que recibe los datos.
      Case Sensitivity Policy for Destination Object Names	Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de objetos de base de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, está seleccionada la DTS default policy. También puede optar por utilizar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
      Source Objects	En el cuadro Source Objects, haga clic en un objeto para sincronizarlo y luego haga clic en para moverlo al cuadro Selected Objects. Nota Se recomienda seleccionar tablas como objetos de sincronización. Si selecciona una base de datos completa, los cambios para agregar o eliminar tablas en dicha base de datos no se sincronizan con la base de datos de destino.
      Selected Objects	Puede usar la función de asignación para establecer el nombre del topic, el número de particiones y la clave de partición para la tabla de origen en la instancia de ApsaraMQ for Kafka de destino. Para obtener más información, consulte Map information. Nota Si utiliza la función de asignación de nombres de objetos, la sincronización de otros objetos que dependen del objeto asignado puede fallar. Para seleccionar las operaciones SQL para la sincronización incremental de datos, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido y no es necesario seleccionar un clúster. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
      Retry Time for Failed Connections	Después de que se inicia una tarea de sincronización, si falla la conexión a la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de 10 a 1,440 minutos. Se recomienda establecer la duración en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro de la duración especificada, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Nota Si tiene varias instancias de DTS (por ejemplo, Instancia A e Instancia B) que comparten el mismo origen o destino, y establece el tiempo de reintento de red en 30 minutos para la Instancia A y 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el período de reintento de conexión, se recomienda personalizar la duración del reintento según sus necesidades de negocio o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
      Retry Time for Other Issues	Después de que se inicia la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS reporta un error e inicia inmediatamente operaciones de reintento continuas. La duración predeterminada de reintento es de 10 minutos. También puede personalizar la duración del reintento dentro del rango de 1 a 1,440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones relevantes se completan correctamente dentro de la duración de reintento establecida, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
      Enable Throttling for Full Data Synchronization	Durante la etapa de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Para reducir la carga en las bases de datos de origen y de destino, puede establecer un límite de velocidad para la tarea de sincronización completa configurando los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types está establecido en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización se esté ejecutando.
      Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
      Environment Tag	Puede seleccionar una etiqueta de entorno para identificar la instancia. Esto no es obligatorio para este ejemplo.
      Configure ETL	Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: Habilita la función ETL. Introduzca las sentencias de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: Deshabilita la función ETL.
      Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta. No: No se configuran alertas. Yes: Configure alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

6. Guarde la tarea y ejecute una verificación previa.

   • Para ver los parámetros de la API para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.

   • Si ha terminado de ver los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de que comience el trabajo de sincronización, DTS ejecuta una verificación previa. El trabajo solo puede iniciarse después de que todos los elementos de la verificación previa se aprueben.

   • Si la verificación previa falla, haga clic en View Details para el elemento fallido. Solucione el problema según las indicaciones y vuelva a ejecutar la verificación previa.

   • Si la verificación previa devuelve una advertencia:

     • Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto al elemento. Siga las instrucciones para solucionar el problema y vuelva a ejecutar la verificación previa.

     • Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again en secuencia para omitir la advertencia y volver a ejecutar la verificación previa. Si decide ignorar el elemento de advertencia, esto podría causar problemas como inconsistencia de datos y representar riesgos para su negocio.

7. Adquiera la instancia.

   1. Cuando la Success Rate sea del 100%, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. La siguiente tabla describe estos parámetros en detalle.

      Categoría	Parámetro	Descripción
      New Instance Class	Método de facturación	Subscription: Paga al crear la instancia. Es adecuado para necesidades a largo plazo y es más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: Se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
      	Configuración de resource group	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
      	Especificación de enlace	DTS proporciona especificaciones de sincronización con diferentes niveles de rendimiento. La especificación del enlace de sincronización afecta la tasa de sincronización. Puede elegir una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
      	Duración de la suscripción	En el modo de suscripción, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

   3. Después de completar la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

      Puede consultar el progreso de la tarea en la página Data Synchronization.

Información de asignación

1. En el área Selected Objects, pase el cursor sobre el nombre del topic de destino (a nivel de tabla).

2. Haga clic en Edit que aparece junto al nombre del topic de destino.

3. En el cuadro de diálogo Edit Table que se muestra, configure la información de asignación.

   Nota

   • A nivel de base de datos, el cuadro de diálogo Edit Schema admite menos parámetros configurables. A nivel de tabla, se muestra el cuadro de diálogo Edit Table.

   • Si la granularidad de los objetos de sincronización no abarca toda la base de datos, no podrá modificar Name of target Topic ni Number of Partitions en el cuadro de diálogo Edit Schema.

   Parámetro	Descripción
   Name of target Topic	Nombre del topic de destino al que se sincroniza la tabla de origen. El valor predeterminado es el Topic que especificó para la Destination Database en el paso Configurations for Source and Destination Databases. Importante Cuando la base de datos de destino es una instancia de ApsaraMQ for Kafka, el nombre del topic que especifique debe existir en la instancia de Kafka de destino; de lo contrario, la sincronización de datos fallará. Si la base de datos de destino es una base de datos Kafka autoadministrada y la tarea de sincronización incluye sincronización de esquemas, DTS intentará crear el topic que especificó en la base de datos de destino. Si modifica Name of target Topic, los datos se escribirán en el topic que haya especificado.
   Filter Conditions	Para obtener más información, consulte Filter task data with an SQL condition.
   Number of Partitions	Número de particiones utilizadas al escribir datos en el topic de destino.
   Partition Key	Cuando Policy for Shipping Data to Kafka Partitions está establecida en Ship Data to Separate Partitions Based on Hash Values of Primary Keys, puede configurar este parámetro. Especifique una o más columnas como Partition Key para calcular el valor hash. Posteriormente, DTS distribuye las filas en distintas particiones del topic de destino según los valores hash calculados. Nota Solo puede seleccionar Partition Key en el cuadro de diálogo Edit Table.

4. Haga clic en OK.

Preguntas frecuentes

• ¿Puedo modificar Kafka Data Compression Format?

  Sí. Puede utilizar la función Modify synchronization objects para modificarlo.

• ¿Puedo modificar Message acknowledgement mechanism?

  Sí. Puede utilizar la función Modify synchronization objects para modificarlo.