Data Transmission Service:Migrar Db2 for LUW a Message Queue for Kafka

Requisitos previos

• Cree una instancia de destino de Message Queue for Apache Kafka con más espacio de almacenamiento del que requiere la base de datos de origen de Db2 for LUW. Para obtener más información, consulte Overview.

  Nota

  Para consultar la lista de bases de datos de origen y destino compatibles, consulte migration scenarios.

• Se debe haber creado un tema en la instancia de destino de Message Queue for Apache Kafka para recibir los datos migrados. Para obtener más información, consulte Step 1: Create a Topic.

• Para llevar a cabo una migración incremental, habilite el registro de archivado en la base de datos Db2 for LUW. Para obtener más información, consulte Primary log archive method y Secondary log archive method.

  Importante

  Después de modificar las configuraciones de logarchmeth, debe ejecutar un database backup para que los cambios surtan efecto. De lo contrario, la comprobación previa podría reportar un error.

Límites

Facturación

Operaciones SQL compatibles con la migración incremental

Permisos de la cuenta de Db2 for LUW

Para crear una cuenta de base de datos y otorgarle permisos en una base de datos Db2 for LUW, consulte Creating group and user IDs for a Db2 database installation (Linux and UNIX) y Authorities overview.

Procedimiento

1. Vaya a la página de la lista de tareas de migración de la región de destino mediante uno de los métodos a continuación.

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Migration.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.

   1. Inicie sesión en la consola de Data Management (DMS).

   2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Migration.

   3. A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.

2. Haga clic en Create Task para ir a la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. El nombre no tiene que ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente. Nota En la consola de DMS, este parámetro se llama Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
   	Database Type	Seleccione DB2 for LUW.
   	Access Method	Seleccione un método de acceso según la ubicación de despliegue de la base de datos Db2 for LUW de origen. Este tema utiliza Self-managed Database on ECS como ejemplo. Nota Si selecciona otro método de acceso para la base de datos autogestionada, debe completar pasos de preparación adicionales. Para obtener más información, consulte Preparation Overview.
   	Instance Region	Seleccione la región de la base de datos Db2 for LUW de origen.
   	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo muestra una migración de datos dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
   	ECS Instance ID	Seleccione el ID de la instancia ECS de la base de datos Db2 for LUW de origen.
   	Port Number	Introduzca el puerto de servicio de la base de datos Db2 for LUW de origen.
   	Database Name	Introduzca el nombre de la base de datos en la instancia Db2 for LUW de origen que contiene los objetos por migrar.
   	Database Account	Introduzca la cuenta de la base de datos Db2 for LUW de origen. Para obtener información sobre los permisos obligatorios, consulte Permissions Required for Database Accounts.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente. Nota En la consola de DMS, este parámetro se llama Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
   	Database Type	Seleccione Kafka.
   	Access Method	Seleccione Express Connect, VPN Gateway, or Smart Access Gateway. Nota En este tema, se configura una instancia de ApsaraMQ for Kafka como una base de datos Kafka autogestionada para la tarea de migración.
   	Instance Region	Seleccione la región de la instancia de ApsaraMQ for Kafka.
   	Connected VPC	Seleccione el ID de VPC de la instancia de ApsaraMQ for Kafka de destino. Nota El VPC ID se encuentra en la sección Configurations, dentro de la pestaña Instance Information de la instancia de ApsaraMQ for Kafka.
   	Domain Name or IP	Introduzca una de las direcciones IP del Default Endpoint de la instancia de ApsaraMQ for Kafka. Nota En la pestaña Instance Information de la instancia de ApsaraMQ for Kafka, vaya a la sección Endpoint Information y busque el endpoint cuyo Type sea Default Endpoint. Pase el puntero sobre Domain Endpoint y consulte el IP Endpoint en la información emergente que se muestra.
   	Port Number	Introduzca el puerto de servicio de la instancia de ApsaraMQ for Kafka. El valor predeterminado es 9092. Nota Solo necesita introducir una dirección IP y su puerto correspondiente.
   	Database Account	Especifique Database Account y Database Password únicamente si la lista de control de acceso (ACL) está habilitada en la instancia de ApsaraMQ for Kafka. Nota Para obtener más información sobre cómo habilitar la ACL, consulte SASL user authorization. Database Account: en la pestaña SASL User Management, consulte el Username. Database Password: en la pestaña SASL User Management, haga clic en Copy Password en la fila de la cuenta de base de datos de destino.
   	Database Password
   	Kafka Version	Seleccione la versión que corresponde a su instancia de Kafka. Si la versión de la instancia de ApsaraMQ for Kafka utilizada en esta tarea es 0.10.2, seleccione 0.10. Si la versión de la instancia de ApsaraMQ for Kafka utilizada en esta tarea es 2.6.2 o 2.2.0, seleccione Later Than 1.0.
   	Encryption	Seleccione Non-encrypted o SCRAM-SHA-256 según sus requisitos de negocio y seguridad.
   	Topic	En la lista desplegable, seleccione el topic que recibirá los datos.
   	Use Kafka Schema Registry	Kafka Schema Registry proporciona una interfaz RESTful para almacenar y recuperar esquemas Avro. No: no utilizar Kafka Schema Registry. Yes: utilizar Kafka Schema Registry. Introduzca la URL o la dirección IP del esquema Avro tal como se registró en Kafka Schema Registry.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página. En el cuadro de diálogo CIDR Blocks of DTS Servers que aparece, haga clic en Test Connectivity.

   Nota

   Asegúrese de que los segmentos de direcciones IP del servicio DTS se agreguen automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea migrar.

      Parámetro	Descripción
      Migration Types	Si solo necesita ejecutar una migración completa, seleccione tanto Schema Migration como Full Data Migration. Para ejecutar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration. Nota Si no selecciona Schema Migration, asegúrese de que exista una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según lo requiera. Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración de datos para garantizar la consistencia de los datos.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se aprueba. Si existen tablas con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no inicia. Nota Si una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar ni renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping. Ignore Errors and Proceed: omite la comprobación de tablas con los mismos nombres. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y riesgos para el negocio. Por ejemplo: Si los esquemas de las tablas son consistentes y un registro en la base de datos de destino tiene el mismo valor de clave primaria que un registro en la base de datos de origen: Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra. Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino. Si los esquemas de las tablas son inconsistentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
      Data Format in Kafka	El formato de almacenamiento para los datos migrados a una instancia de Kafka. Si selecciona DTS Avro, debe analizar sintácticamente los datos según la definición de esquema DTS Avro. Para obtener más información, consulte definición de esquema DTS Avro y ejemplo de deserialización DTS Avro. Si selecciona Shareplex Json, consulte Shareplex Json para ver descripciones y ejemplos de los parámetros.
      Kafka Data Compression Format	Seleccione un formato de compresión para los mensajes de Kafka según sus necesidades. LZ4 (predeterminado): relación de compresión baja, velocidad de compresión alta. GZIP: relación de compresión alta, velocidad de compresión baja. Nota Alto consumo de CPU. Snappy: relación de compresión media, velocidad de compresión media.
      Policy for Shipping Data to Kafka Partitions	Seleccione una strategy según sus requisitos de negocio.
      Message acknowledgement mechanism	Seleccione un message acknowledgment mechanism según sus requisitos de negocio.
      Topic That Stores DDL Information	Seleccione el topic para almacenar la información DDL. Nota Si no se selecciona ningún topic, DTS almacena la información DDL en el topic de datos de forma predeterminada.
      Capitalization of Object Names in Destination Instance	Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados, como bases de datos, tablas y columnas, en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede elegir mantener la distinción entre mayúsculas y minúsculas consistente con la política predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
      Source Objects	En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en para moverlos al cuadro Selected Objects. Nota Puede seleccionar objetos a nivel de base de datos, tabla o columna. Si selecciona tablas o columnas, otros objetos como vistas, disparadores y procedimientos almacenados no se migran.
      Selected Objects	En este ejemplo no se requiere configuración adicional. Puede usar la función de asignación para establecer el nombre del topic, el número de particiones y la clave de partición de la tabla de origen en la instancia de Kafka de destino. Para obtener más información, consulte Mapping information. Nota Si usa la función de asignación de nombres de objetos, la migración de otros objetos que dependen del objeto asignado podría fallar. Para seleccionar las operaciones SQL de la migración incremental, haga clic con el botón derecho en el objeto por migrar en el panel Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido. No necesita seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar las tareas de migración de DTS.
      Retry Time for Failed Connections	Después de que inicia la tarea de migración, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error e intenta restablecer la conexión de inmediato. La duración predeterminada de reintentos es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer una duración mayor a 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla. Nota Para varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada. Dado que se le cobra por la tarea durante el periodo de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades de negocio o liberar la instancia de DTS lo antes posible después de liberar las instancias de base de datos de origen y de destino.
      Retry Time for Other Issues	Después de que inicia la tarea de migración, si ocurre un problema distinto a la conectividad en la base de datos de origen o de destino, como una excepción en la ejecución de DDL o DML, DTS reporta un error e intenta repetir la operación de inmediato. La duración predeterminada de reintentos es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer una duración mayor a 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
      Enable Throttling for Full Data Migration	Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo cual puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Establezca Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types. También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
      Enable Throttling for Incremental Data Migration	Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Configure RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types. También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
      Environment Tag	Seleccione una etiqueta de entorno para identificar la instancia. Este parámetro es opcional.
      Configure ETL	Según sus necesidades de negocio, seleccione si desea configurar la función ETL feature para procesar datos. Yes: configura la función ETL. También debe introducir data processing statements en el cuadro de texto. No: no configura la función ETL.
      Monitoring and Alerting	Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades de negocio. No: no configura ninguna alerta. Yes: configura alertas estableciendo un alert threshold y un notificaciones de alerta. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para consultar los parámetros de configuración de esta instancia al llamar a la operación de la API, pase el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.

   • Si no necesita consultar los parámetros de la API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de que inicie la tarea de migración, DTS ejecuta una comprobación previa. La tarea inicia únicamente después de aprobar dicha comprobación.

   • Si la comprobación previa falla, haga clic en View Details junto al elemento con errores, resuelva el problema según las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si se reporta una advertencia durante la comprobación previa:

     • Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento con errores, resuelva el problema según las indicaciones y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían presentarse problemas como inconsistencias en los datos y generar riesgos para su negocio.

7. Adquiera la instancia.

   1. Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.

      Categoría	Parámetro	Descripción
      New Instance Class	Resource Group Settings	Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
      	Instance Class	DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Seleccione una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.

      Consulte el progreso de la tarea de migración en la página de lista Data Migration Tasks.

      Nota

      • Si la tarea de migración no incluye migración incremental, se detiene automáticamente cuando finaliza la migración completa. Después de que la tarea se detiene, su Status cambia a Completed.

      • Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental se ejecuta, el Status de la tarea es Running.

Configuración de mapeo

1. En el área Selected Objects, pase el cursor sobre el nombre del topic de destino.

2. Haga clic en Edit.

3. En el cuadro de diálogo Edit Table, configure los parámetros de mapeo.

   Nota

   • A nivel de base de datos, aparece el cuadro de diálogo Edit Schema, que ofrece menos parámetros. A nivel de tabla, se muestra el cuadro de diálogo Edit Table.

   • Si no migra una base de datos completa, no podrá modificar los parámetros Edit Schema y Name of target Topic en el cuadro de diálogo Number of Partitions.

   Parámetro	Descripción
   Name of target Topic	El nombre del topic de destino para la tabla de origen. De forma predeterminada, corresponde al Topic que seleccionó para la Destination Database en el paso Configurations for Source and Destination Databases. Importante Si la base de datos de destino es una instancia de Message Queue for Apache Kafka, el nombre de topic que introduzca debe existir en la instancia de Kafka de destino. De lo contrario, la migración de datos fallará. Si la base de datos de destino es una instancia de Kafka autogestionada y la tarea incluye una migración de esquema, DTS intentará crear el topic que especifique en la base de datos de destino. Si modifica el parámetro Name of target Topic, DTS escribirá los datos en el topic que indique.
   Filter Conditions	Para obtener más información, consulte Configure filter conditions.
   Number of Partitions	El número de particiones del topic de destino.
   Partition Key	Este parámetro se configura cuando la Policy for Shipping Data to Kafka Partitions está establecida en Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Especifique una o más columnas como clave de partición. DTS calcula un valor hash a partir de dicha clave y lo utiliza para distribuir las filas entre las particiones del topic de destino. Nota La opción Partition Key solo se puede seleccionar en el cuadro de diálogo Edit Table.

4. Haga clic en OK.