Data Transmission Service:Sincronizar Db2 for LUW con un clúster de Kafka autoadministrado

Requisitos previos

• Debe haber creado un clúster de Kafka autoadministrado de destino.

  Nota

  Para consultar las versiones compatibles de las bases de datos de origen y destino, consulte synchronization solution overview.

• Si se requiere sincronización completa de datos, la base de datos de destino debe contar con más espacio de almacenamiento que la base de datos de origen.

Límites

Facturación

Topologías de sincronización

• Sincronización unidireccional uno a uno

• Sincronización unidireccional uno a muchos

• Sincronización unidireccional en cascada

• Sincronización unidireccional muchos a uno

Para obtener detalles sobre las topologías de sincronización, consulte Data Synchronization Topologies.

Operaciones SQL compatibles

Requisitos previos

• Cree una cuenta y otorgue permisos.

  Base de datos	Permisos obligatorios	Acciones
  Db2 for LUW	Permisos DBADM	Creating group and user IDs for a Db2 database installation

• Habilite la función de archivado de registros para la base de datos Db2 for LUW. Para más información, consulte logarchmeth1 - Primary log archive method configuration parameter y logarchmeth2 - Secondary log archive method configuration parameter.

Procedimiento

1. Vaya a la página de lista de tareas de sincronización de la región de destino. Puede utilizar uno de los dos métodos siguientes:

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Synchronization.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.

   1. Inicie sesión en Data Management (DMS).

   2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.

2. Haga clic en Create Task para abrir la página de configuración de tareas.

3. Configure las bases de datos de origen y de destino.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene que ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione DB2 for LUW.
   	Connection Type	Seleccione un tipo de conexión según dónde esté implementada la base de datos de origen. En este ejemplo, se utiliza Self-managed Database on ECS. Nota Si la instancia de origen es una base de datos autoadministrada, debe completar los preparativos necesarios. Para obtener más información, consulte Preparation overview.
   	Instance Region	Seleccione la región donde se encuentra la base de datos Db2 for LUW.
   	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo utiliza una instancia de base de datos que pertenece a la cuenta actual de Alibaba Cloud. Seleccione No.
   	ECS Instance ID	Introduzca el ID de la instancia de ECS que aloja la base de datos DB2 for LUW.
   	Port	Introduzca el puerto de servicio de la base de datos Db2 for LUW. El puerto predeterminado es 50000.
   	Database Name	Introduzca el nombre de la base de datos Db2 for LUW que contiene los objetos a sincronizar.
   	Database Account	Introduzca la cuenta de la base de datos Db2 for LUW. Para obtener información sobre los permisos necesarios, consulte Create an account and grant permissions.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione Kafka.
   	Connection Type	Seleccione un tipo de conexión según dónde esté implementada la base de datos de destino. En este ejemplo, se utiliza Self-managed Database on ECS. Nota Si la instancia de destino es una base de datos autoadministrada, debe completar los preparativos necesarios. Para obtener más información, consulte Preparation overview.
   	Instance Region	Seleccione la región donde está implementado el clúster de Kafka de destino.
   	ECS Instance ID	Seleccione el ID de la instancia de ECS donde está implementado el clúster de Kafka. Nota Si la instancia de Kafka está implementada como un clúster, seleccione el ID de instancia de ECS de cualquier nodo. DTS recupera automáticamente la información de temas de todos los nodos del clúster.
   	Port	Introduzca el puerto de servicio del clúster de Kafka autoadministrado. El puerto predeterminado es 9092.
   	Database Account	Introduzca el nombre de usuario del clúster de Kafka autoadministrado. Si la autenticación está deshabilitada, deje este parámetro vacío.
   	Database Password	Introduzca la contraseña de la cuenta de la base de datos. Si la autenticación está deshabilitada, deje este parámetro vacío.
   	Kafka Version	Seleccione la versión de su clúster de Kafka autoadministrado.
   	Encryption	Seleccione Non-encrypted o SCRAM-SHA-256 según sus requisitos comerciales y de seguridad.
   	Topic	Seleccione el tema en el que se escribirán los datos.
   	Use Kafka Schema Registry	Kafka Schema Registry proporciona una interfaz RESTful para almacenar y recuperar esquemas Avro. No: No utilizar Kafka Schema Registry. Yes: Utilizar Kafka Schema Registry. Debe introducir la URL o dirección IP registrada en Kafka Schema Registry para su esquema Avro.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página. En el cuadro de diálogo CIDR Blocks of DTS Servers, haga clic en Test Connectivity.

   Nota

   Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto puede realizarse automática o manualmente. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos a sincronizar.

      Parámetro	Descripción
      Synchronization Types	Los tipos de sincronización. De forma predeterminada, se selecciona Incremental Data Synchronization. También debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez completada la verificación previa, DTS sincroniza los datos históricos de los objetos seleccionados desde la base de datos de origen hacia el clúster de destino. Los datos históricos constituyen la base para la posterior sincronización incremental.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: DTS comprueba si existen tablas con el mismo nombre en la base de datos de destino. Si encuentra una coincidencia, la verificación previa falla y la tarea no se inicia. De lo contrario, la verificación se aprueba. Nota Si no puede eliminar o cambiar fácilmente el nombre de la tabla en conflicto en la base de datos de destino, puede asignarle un nombre diferente mediante mapeo. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: Omite la comprobación de tablas con el mismo nombre en la base de datos de destino. Aviso Si selecciona Ignore Errors and Proceed, podría producirse una inconsistencia de datos, lo cual representa riesgos para su negocio. Por ejemplo: Si los esquemas de las tablas son consistentes y la base de datos de destino tiene un registro con el mismo valor de clave primaria que un registro en la base de datos de origen: Durante la sincronización completa de datos, DTS no sobrescribe el registro existente en la base de datos de destino. Se omite el registro correspondiente de la base de datos de origen. Durante la sincronización incremental de datos, el registro de la base de datos de origen sobrescribe el registro existente en la base de datos de destino. Si los esquemas de las tablas son inconsistentes, la tarea podría fallar o solo se sincronizarán parcialmente los datos.
      Data Format in Kafka	Seleccione el formato de datos para la entrega en Kafka. Para obtener más información, consulte Data storage formats in message queues.
      Kafka Data Compression Format	Seleccione el formato de compresión para los mensajes de Kafka según sus requisitos comerciales. LZ4 (predeterminado): La relación de compresión es baja, pero la velocidad de compresión es alta. GZIP: La relación de compresión es alta, pero la velocidad de compresión es baja. Nota El consumo de CPU es alto. Snappy: La relación y la velocidad de compresión son medias.
      Policy for Shipping Data to Kafka Partitions	Seleccione una strategy según sus requisitos comerciales.
      Message acknowledgement mechanism	Seleccione un message acknowledgment mechanism según sus requisitos comerciales.
      Topic That Stores DDL Information	Seleccione de la lista desplegable el tema que se utilizará para almacenar la información DDL. Nota Si no se especifica, la información DDL se almacena de forma predeterminada en el tema que recibe los datos.
      Capitalization of Object Names in Destination Instance	Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de objetos de base de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la DTS default policy. También puede optar por usar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
      Source Objects	En el cuadro Source Objects, haga clic en un objeto para sincronizarlo y luego haga clic en para moverlo al cuadro Selected Objects. Nota Puede seleccionar bases de datos, tablas y columnas como objetos de sincronización. Si selecciona tablas o columnas, otros objetos como vistas, desencadenadores y procedimientos almacenados no se sincronizarán con la base de datos de destino.
      Selected Objects	No se requiere configuración adicional en este ejemplo. Puede usar la función de mapeo para configurar el nombre del tema, el recuento de particiones y la clave de partición para la tabla de origen en la instancia de Kafka de destino. Para obtener más información, consulte Mapping information. Nota Si asigna un nuevo nombre a un objeto, es posible que los objetos dependientes no se sincronicen correctamente. Para seleccionar operaciones SQL específicas para la sincronización incremental de datos, haga clic con el botón derecho en un objeto dentro del cuadro Selected Objects y elija las operaciones en el menú contextual.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
      Retry Time for Failed Connections	Después de iniciar una tarea de sincronización, si falla la conexión a la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1,440 minutos. Se recomienda establecer la duración en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Nota Si tiene varias instancias de DTS (por ejemplo, Instancia A e Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el período de reintento de conexión, se recomienda personalizar la duración del reintento según sus necesidades comerciales o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
      Retry Time for Other Issues	Después de iniciar la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS reporta un error e inicia inmediatamente operaciones de reintento continuo. La duración predeterminada de reintento es de 10 minutos. También puede personalizar la duración de reintento dentro de un rango de 1 a 1,440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones relevantes se completan correctamente dentro de la duración de reintento configurada, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
      Enable Throttling for Full Data Synchronization	Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Para reducir la carga en las bases de datos de origen y de destino, puede establecer un límite de velocidad para la tarea de sincronización completa configurando los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types está establecido en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
      Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión en la base de datos de destino, configure RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
      Environment Tag	Seleccione una etiqueta de entorno para identificar la instancia. No es necesario seleccionar ninguna para este ejemplo.
      Configure ETL	Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: Habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: Deshabilita la función ETL.
      Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta. No: No se configuran alertas. Yes: Configure alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

6. Guarde la tarea y ejecute una verificación previa.

   • Para ver los parámetros de API para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.

   • Si ha terminado de ver los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de que comience el trabajo de sincronización, DTS ejecuta una verificación previa. El trabajo solo puede iniciarse después de aprobar todos los elementos de dicha verificación.

   • Si la verificación previa falla, haga clic en View Details para el elemento fallido. Corrija el problema según las indicaciones y vuelva a ejecutar la verificación previa.

   • Si la verificación previa devuelve una advertencia:

     • Si un elemento de comprobación falla y no puede ignorarse, haga clic en View Details junto al elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la verificación previa.

     • Para los elementos de comprobación que pueden ignorarse, puede hacer clic secuencialmente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la verificación previa. Si decide ignorar el elemento de advertencia, podrían surgir problemas como inconsistencia de datos, lo cual representa riesgos para su negocio.

7. Adquiera la instancia.

   1. Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. La siguiente tabla describe estos parámetros en detalle.

      Categoría	Parámetro	Descripción
      New Instance Class	Método de facturación	Subscription: Paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: Se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
      	Configuración de resource group	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
      	Especificación de enlace	DTS ofrece especificaciones de sincronización con diferentes niveles de rendimiento. La especificación del enlace de sincronización afecta la tasa de sincronización. Puede elegir una especificación según su escenario comercial. Para obtener más información, consulte Data synchronization link specifications.
      	Duración de la suscripción	En el modo de suscripción, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

      Puede consultar el progreso de la tarea en la página Data Synchronization.

Asignaciones

1. En el área Selected Objects, pase el cursor sobre el nombre del topic de destino.

2. Haga clic en el botón Edit que aparece junto al nombre del topic de destino.

3. En el cuadro de diálogo Edit Table, configure los parámetros de asignación.

   Nota

   • El cuadro de diálogo Edit Schema corresponde a la configuración a nivel de base de datos y tiene menos parámetros configurables que el cuadro de diálogo Edit Table, el cual se utiliza para la configuración a nivel de tabla.

   • Si no sincroniza una base de datos completa, no podrá modificar los parámetros Name of target Topic y Number of Partitions en el cuadro de diálogo Edit Schema.

   Parámetro	Descripción
   Name of target Topic	El topic de destino en el que DTS escribe los datos provenientes de la tabla de origen. De forma predeterminada, este es el Topic que seleccionó en la sección Destination Database durante el paso Configurations for Source and Destination Databases. Importante Si la base de datos de destino es una instancia de Alibaba Cloud Message Queue for Apache Kafka, el topic especificado debe existir en dicha instancia de Kafka de destino; de lo contrario, la tarea de sincronización de datos fallará. Si la base de datos de destino es una base de datos de Kafka autoadministrada y la instancia de sincronización incluye una tarea de sincronización de esquemas, DTS intentará crear el topic especificado en la base de datos de destino. Si modifica el valor de Name of target Topic, DTS escribirá los datos en el nuevo topic.
   Filter Conditions	Para obtener más información, consulte Set Filter Conditions.
   Number of Partitions	El número de particiones del topic de destino.
   Partition Key	Este parámetro está disponible cuando establece Policy for Shipping Data to Kafka Partitions en Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Puede seleccionar una o más columnas como clave de partición. DTS calcula un valor hash basado en esta clave y distribuye las filas entre las particiones del topic de destino. Nota Solo puede seleccionar Partition Key en el cuadro de diálogo Edit Table.

4. Haga clic en OK.

Preguntas frecuentes

• ¿Puedo modificar el Kafka Data Compression Format?

  Sí. Puede utilizar la función Modify synchronization objects para modificarlo.

• ¿Puedo modificar el Message acknowledgement mechanism?

  Sí. Puede utilizar la función Modify synchronization objects para modificarlo.