Data Transmission Service:Migrar PolarDB for MySQL a Kafka

Requisitos previos

• Se creó una instancia de Message Queue for Apache Kafka o un clúster de Kafka autogestionado como destino.

  Nota

  • Si el destino es una instancia de Message Queue for Apache Kafka, asegúrese de crear un tema (topic) que reciba los datos migrados. Después, configure la instancia como un clúster de Kafka autogestionado. Para obtener información sobre cómo crear un tema, consulte Step 1: Create a topic.

  • Para conocer las versiones de origen y destino compatibles, consulte migration solution overview.

• El clúster de Kafka de destino debe contar con más espacio de almacenamiento del que utiliza el clúster de origen de PolarDB for MySQL.

Limitaciones

Facturación

Tipos de migración

• Migración de esquemas

  DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la de destino.

• Migración completa

  DTS migra todos los datos históricos de los objetos especificados desde la base de datos de origen hacia la de destino.

• Migración incremental

  Una vez finalizada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la de destino. La migración incremental permite trasladar los datos sin interrumpir sus aplicaciones autogestionadas.

Operaciones SQL para la migración incremental

Permisos obligatorios para las cuentas de base de datos

Procedimiento

1. Vaya a la página de la lista de tareas de migración de la región de destino con uno de los métodos a continuación.

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Migration.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.

   1. Inicie sesión en la consola de Data Management (DMS).

   2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Migration.

   3. A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.

2. Haga clic en Create Task para ir a la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Sección	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla fácilmente. El nombre no necesita ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece abajo se configura automáticamente. Nota En la consola de DMS, este parámetro se llama Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece abajo.
   	Database Type	Seleccione PolarDB for MySQL.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra el clúster PolarDB for MySQL de origen.
   	Cross-account	Seleccione No para migrar datos dentro de la misma cuenta de Alibaba Cloud.
   	PolarDB Cluster ID	Seleccione el identificador del clúster PolarDB for MySQL de origen.
   	Database Account	Introduzca la cuenta de la base de datos del clúster PolarDB for MySQL de origen. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
   	Database Password	Introduzca la contraseña de la cuenta de la base de datos.
   	Encryption	Seleccione un tipo de conexión según sus necesidades. Para obtener más información sobre la función de cifrado SSL, consulte Enable SSL encryption.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece abajo se configura automáticamente. Nota En la consola de DMS, este parámetro se llama Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece abajo.
   	Database Type	Seleccione Kafka.
   	Access Method	Seleccione un tipo de conexión según dónde esté desplegada la instancia de destino. Este ejemplo usa Self-managed Database on ECS. Nota Si el destino es una base de datos autogestionada, también debe cumplir requisitos previos adicionales. Para obtener más información, consulte Preparation overview.
   	Instance Region	Seleccione la región donde se encuentra el clúster de Kafka de destino.
   	ECS Instance ID	Seleccione el identificador de la instancia de ECS donde está desplegado el clúster de Kafka de destino.
   	Port Number	Introduzca el puerto de servicio del clúster de Kafka de destino. El puerto predeterminado es 9092.
   	Database Account	Introduzca el nombre de usuario del clúster de Kafka. Deje este campo vacío si la autenticación no está habilitada.
   	Database Password	Introduzca la contraseña del nombre de usuario del clúster de Kafka. Deje este campo vacío si la autenticación no está habilitada.
   	Kafka Version	Seleccione la versión de su clúster de Kafka. Nota Si su clúster de Kafka autogestionado es de la versión 1.0 o posterior, establezca Kafka Version en Later Than 1.0.
   	Connection Method	Seleccione Non-encrypted o SCRAM-SHA-256 según sus requisitos de negocio y seguridad.
   	Topic	Seleccione en la lista desplegable el tema que recibirá los datos.
   	Use Kafka Schema Registry	Kafka Schema Registry proporciona una interfaz RESTful para almacenar y recuperar esquemas Avro. No: no usa Kafka Schema Registry. Yes: usa Kafka Schema Registry. Debe introducir la URL o la dirección IP donde está registrado el esquema Avro en Kafka Schema Registry.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que el segmento de direcciones IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.

   • Si la base de datos de origen o de destino es autogestionada (es decir, Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea migrar.

      Parámetro	Descripción
      Migration Types	Para una migración exclusiva de datos completos, seleccione tanto Schema Migration como Full Data Migration. Para una migración con tiempo de inactividad mínimo, seleccione Schema Migration, Full Data Migration y Incremental Data Migration. Nota Schema Migration no es compatible cuando Access Method de la instancia de Kafka de destino se establece en Alibaba Cloud Instance. Si no selecciona Schema Migration, asegúrese de que la base de datos de destino contenga las bases de datos y tablas necesarias para recibir los datos. También podría necesitar usar la función de asignación de nombres de objetos en el cuadro Selected Objects. Para garantizar la consistencia de los datos, si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen mientras la migración esté en curso.
      Processing Mode for Existing Destination Tables	Precheck and Report Errors: comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se aprueba. Si existen tablas con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no inicia. Nota Si una tabla de la base de datos de destino tiene el mismo nombre pero no se puede eliminar o renombrar fácilmente, cambie el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping. Ignore Errors and Proceed: omite la comprobación de tablas con los mismos nombres. Aviso Seleccionar Ignore Errors and Proceed puede causar inconsistencia de datos y riesgos para el negocio. Por ejemplo: Si los esquemas de las tablas son consistentes y un registro de la base de datos de destino tiene el mismo valor de clave principal que un registro de la base de datos de origen: Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra. Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro de la base de datos de destino. Si los esquemas de las tablas son inconsistentes, solo se podrían migrar algunas columnas de datos o la migración podría fallar. Proceda con precaución.
      Data Format in Kafka	Seleccione el formato de datos para almacenar la información en la instancia de Kafka. Si selecciona DTS Avro, debe analizar sintácticamente los datos según la definición de esquema DTS Avro. Para obtener más información, consulte definición de esquema DTS Avro y ejemplo de deserialización DTS Avro. Si selecciona Canal JSON, consulte Canal JSON format para ver descripciones y ejemplos de los parámetros. Si selecciona Shareplex JSON, consulte Shareplex JSON format para ver descripciones y ejemplos de los parámetros.
      Kafka Data Compression Format	Seleccione un formato de compresión para los mensajes de Kafka según sus requisitos. LZ4 (predeterminado): relación de compresión baja, velocidad de compresión alta. GZIP: relación de compresión alta, velocidad de compresión baja. Nota Alto consumo de CPU. Snappy: relación de compresión media, velocidad de compresión media.
      Policy for Shipping Data to Kafka Partitions	Seleccione una policy según sus requisitos de negocio.
      Message acknowledgement mechanism	Seleccione un message acknowledgment mechanism según sus requisitos de negocio.
      Topic That Stores DDL Information	Seleccione el tema para almacenar la información DDL. Nota Si no se selecciona ningún tema, DTS almacena la información DDL en el tema de datos de forma predeterminada.
      Case Sensitivity Policy for Destination Object Names	Configure la distinción entre mayúsculas y minúsculas para los nombres de bases de datos, tablas y columnas migrados en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede elegir una política coherente con la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination instance.
      Source Objects	Seleccione uno o varios objetos en la sección Source Objects. Haga clic en el icono y agregue los objetos a la sección Selected Objects. Nota Puede seleccionar los objetos que desea migrar a nivel de tabla.
      Selected Objects	Use la función de asignación para establecer el nombre del tema, el número de particiones y la clave de partición de cada tabla de origen en la instancia de Kafka de destino. Para obtener más información, consulte Map information. Nota Si usa la función de asignación de nombres de objetos, otros objetos que dependan del objeto asignado podrían presentar errores durante la migración. Para seleccionar las operaciones SQL de la migración incremental, haga clic con el botón derecho en un objeto de migración del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido. No necesita seleccionar uno. Si desea tareas más estables, adquiera un dedicated cluster para ejecutar las tareas de migración de DTS.
      Retry Time for Failed Connections	Después de que inicia la tarea de migración, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error e intenta reconectarse de inmediato. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Se recomienda establecer una duración mayor a 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores. Nota Cuando varias instancias de DTS comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada. Dado que se le cobra por la tarea durante el periodo de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades de negocio. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
      Retry Time for Other Issues	Después de que inicia la tarea de migración, si ocurre un problema distinto a la conectividad en la base de datos de origen o de destino (por ejemplo, una excepción al ejecutar DDL o DML), DTS reporta un error e intenta repetir la operación de inmediato. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Se recomienda establecer una duración mayor a 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores. Importante El valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
      Enable Throttling for Full Data Migration	Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, habilite la limitación de velocidad para la tarea de migración completa. Establezca Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types. También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
      Enable Throttling for Incremental Data Migration	Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Configure RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types. También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
      Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS se está ejecutando. Yes: no se escribe información SQL de latido en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso. No: escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
      Environment Tag	Seleccione una etiqueta de entorno para identificar la instancia. Este parámetro es opcional.
      Configure ETL	Según sus necesidades de negocio, seleccione si desea configurar ETL feature para procesar datos. Yes: configura la función ETL. También debe introducir data processing statements en el cuadro de texto. No: no configura la función ETL.
      Monitoring and Alerting	Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades de negocio. No: no configura ninguna alerta. Yes: configura alertas al establecer un alert threshold y un notificaciones de alerta. Si una migración presenta errores o la latencia supera el umbral, el sistema envía una notificación de alerta.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para consultar los parámetros de configuración de esta instancia al llamar a la operación de API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.

   • Si no necesita consultar los parámetros de API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de que inicie la tarea de migración, DTS ejecuta una comprobación previa. La tarea inicia solo después de aprobar dicha comprobación.

   • Si la comprobación previa presenta errores, haga clic en View Details junto al elemento con errores, resuelva el problema según las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si se reporta una advertencia durante la comprobación previa:

     • Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento con errores, resuelva el problema según las indicaciones y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como inconsistencia de datos que representen riesgos para su negocio.

7. Adquiera la instancia.

   1. Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.

      Categoría	Parámetro	Descripción
      New Instance Class	Resource Group Settings	Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
      	Instance Class	DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Seleccione una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.

      Consulte el progreso de la tarea de migración en la página de lista Data Migration Tasks.

      Nota

      • Si la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración total. Una vez detenida, su Status cambia a Completed.

      • Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras se ejecuta, el Status de la tarea es Running.

Información de mapeo

1. En el área Selected Objects, coloque el cursor sobre el nombre del topic de destino en el nivel de tabla.

2. Haga clic en Edit junto al nombre del topic de destino.

3. En el cuadro de diálogo Edit Table, configure la información de mapeo.

   Nota

   • El cuadro de diálogo se llama Edit Schema en el nivel de base de datos y Edit Table en el nivel de tabla. El cuadro de diálogo Edit Schema tiene menos parámetros.

   • Si no migra toda la base de datos, no podrá modificar los parámetros Name of target Topic y Number of Partitions en el cuadro de diálogo Edit Schema.

   Parámetro	Descripción
   Name of target Topic	Nombre del topic que recibe los datos de la tabla de origen. De forma predeterminada, corresponde al Topic que seleccionó en la sección Destination Database durante el paso Configurations for Source and Destination Databases. Importante Si el destino es una instancia de Message Queue for Apache Kafka, el topic especificado ya debe existir en la instancia de destino. De lo contrario, la tarea de migración de datos fallará. Si el destino es una base de datos Kafka autoalojada y la tarea incluye la migración de estructuras de bases de datos y tablas, DTS intentará crear el topic especificado en la base de datos de destino. Si cambia el parámetro Name of target Topic, DTS escribirá los datos en el topic especificado.
   Filter Conditions	Para obtener más información, consulte Configure filter conditions.
   Number of Partitions	Número de particiones del topic de destino.
   Partition Key	Disponible cuando Policy for Shipping Data to Kafka Partitions está configurado como Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Especifique una o más columnas como clave de partición. DTS calcula un valor hash para las columnas indicadas y distribuye las filas entre las particiones del topic de destino. Nota Solo puede seleccionar Partition Key en el cuadro de diálogo Edit Table.

4. Haga clic en OK.