Migrate PolarDB for MySQL to DataHub using DTS - Data Transmission Service

Utilice Data Transmission Service (DTS) para migrar datos de un clúster de PolarDB for MySQL a un proyecto de DataHub.

Requisitos previos

Cree un proyecto de DataHub de destino. Para obtener más información, consulte Quick start.
Active DataHub y cree un proyecto para recibir los datos migrados. Para obtener más información, consulte Quick start y Manage projects.
El proyecto de DataHub de destino debe contar con más espacio de almacenamiento del que utiliza actualmente el clúster de PolarDB for MySQL de origen.

Limitaciones

Nota

DTS no migra claves externas. Por lo tanto, las operaciones en cascada, como la eliminación en cascada en la base de datos de origen, no se replican en la base de datos de destino.

Categoría	Descripción
Limitaciones de la base de datos de origen	Requisitos de ancho de banda: el servidor que aloja la base de datos de origen debe tener suficiente ancho de banda de salida. De lo contrario, se verá afectada la velocidad de migración de datos. Las tablas que se van a migrar deben tener una clave primaria o una restricción única, y los valores de las columnas deben ser únicos. En caso contrario, podrían aparecer datos duplicados en la base de datos de destino. Si migra datos a nivel de tabla y necesita aplicar modificaciones como la asignación de columnas, una sola tarea de migración de datos admite un máximo de 1000 tablas. Para migrar más tablas, se recomienda dividirlas en varias tareas o configurar una tarea que migre toda la base de datos. De lo contrario, podría producirse un error de solicitud después de enviar la tarea. Si ejecuta una migración incremental: Debe habilitar el registro binario y establecer el parámetro loose_polar_log_bin en on. Si no lo hace, la comprobación previa reporta un error y la tarea de migración de datos no puede iniciarse. Para obtener más información sobre cómo habilitar el registro binario y modificar parámetros, consulte Enable binary logging y Modify parameters. Nota Habilitar el registro binario en un clúster de PolarDB for MySQL consume espacio de almacenamiento y genera cargos por dicho concepto. Los registros binarios del clúster de PolarDB for MySQL deben conservarse como mínimo durante 3 días. Se recomienda un periodo de retención de 7 días. De lo contrario, DTS podría no obtener los registros binarios, lo que provocaría un error en la tarea. En casos extremos, esto puede generar inconsistencia o pérdida de datos. Los problemas causados por un periodo de retención de registros binarios inferior al requerido por DTS no están cubiertos por el acuerdo de nivel de servicio (SLA) de DTS. Nota Para obtener más información sobre cómo establecer el periodo de retención de los registros binarios de un clúster de PolarDB for MySQL, consulte Modify the retention period. No ejecute operaciones DDL que modifiquen el esquema de una base de datos o tabla durante la migración del esquema. De lo contrario, la tarea de migración de datos fallará.
Otras limitaciones	Un campo String individual en DataHub puede tener una longitud máxima de 2 MB. Solo se admite la migración de datos a nivel de tabla. Si agrega una columna a una tabla de origen que se está migrando, los datos de esa nueva columna no se migrarán. No se admite la migración de datos de tipo VECTOR. DTS no puede migrar nodos de solo lectura de un clúster de PolarDB for MySQL de origen. DTS no admite la migración de tablas externas de OSS desde la instancia de PolarDB for MySQL de origen. DTS no admite escenarios de cambio entre nodo principal y secundario de la instancia de base de datos durante la migración completa de datos. Si ocurre este escenario, vuelva a configurar la tarea de migración de inmediato. La migración completa de datos consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar su carga. Se recomienda evaluar el rendimiento de ambas bases de datos y ejecutar la migración fuera del horario de mayor actividad. Para las columnas de tipo FLOAT o DOUBLE, DTS utiliza `ROUND(COLUMN,PRECISION)` para leer los valores. Si no define explícitamente la precisión, DTS usa una precisión de migración predeterminada de 38 dígitos para FLOAT y 308 dígitos para DOUBLE. Compruebe que la precisión cumpla con sus requisitos. DTS intenta reanudar una tarea de migración con errores en un plazo de siete días. Antes de cambiar la carga de trabajo a la instancia de destino, debe detener o liberar la instancia de migración. También puede ejecutar el comando `REVOKE` para revocar los permisos de escritura de la cuenta que DTS utiliza para acceder a la instancia de destino. Esto evita que la tarea se reanude automáticamente y sobrescriba datos en la instancia de destino. No utilice herramientas como pt-online-schema-change para ejecutar operaciones DDL en línea sobre los objetos de migración en la base de datos de origen. De lo contrario, la migración fallará. Si una tarea falla, el equipo de soporte de DTS intentará restaurarla en un plazo de ocho horas. Durante la restauración, es posible que reinicien la tarea o ajusten sus parámetros. Nota Solo se modifican los parámetros de la tarea de DTS, no los de la base de datos. Los parámetros que pueden ajustarse incluyen los que se enumeran en Modify instance parameters.
Otras notas	DTS ejecuta periódicamente el comando CREATE DATABASE IF NOT EXISTS `test` en la base de datos de origen para avanzar la posición del registro binario.

Facturación

Tipo de migración	Cargo por configuración de la instancia	Cargo por tráfico de Internet
Migración de esquema y migración completa de datos	Sin cargo.	Cuando el parámetro Access Method de la base de datos de destino se establece en Public IP Address, se le cobra por el tráfico de Internet. Para obtener más información, consulte Billing overview.
Migración incremental de datos	Con cargo. Para obtener más información, consulte Billing overview.

Tipos de migración

Migración de esquema

DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la base de datos de destino.
Migración incremental

Una vez finalizada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la base de datos de destino. La migración incremental permite trasladar los datos sin interrumpir las aplicaciones autogestionadas.

Operaciones SQL para la migración incremental

Tipo de operación	Instrucción SQL
DML	INSERT, UPDATE, DELETE
DDL	ADD COLUMN Importante Si modifica manualmente la estructura de la tabla en la base de datos de destino, reinicie la tarea: pause y luego start la tarea.

Permisos obligatorios para las cuentas de base de datos

Base de datos	Permisos obligatorios	Cuenta y permisos
Clúster de PolarDB for MySQL	Permisos de lectura sobre los objetos de migración	Create and manage database accounts

Procedimiento

Vaya a la página de la lista de tareas de migración de la región de destino con uno de los métodos a continuación.
Desde la consola de DTS
1. Inicie sesión en la consola de Data Transmission Service (DTS).
2. En el panel de navegación izquierdo, haga clic en Data Migration.
3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS

Nota
Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
1. Inicie sesión en la consola de Data Management (DMS).
2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Migration.
3. A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.

Configure las bases de datos de origen y de destino.

Categoría	Parámetro	Descripción
N/A	Task Name	DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. No es obligatorio que el nombre sea único.
Source Database	Select DMS Database Instance	Seleccione una instancia existente según sus necesidades. Si utiliza una instancia existente, la información de la base de datos se completa automáticamente. No es necesario introducirla de nuevo. Si no utiliza una instancia existente, introduzca la siguiente información de la base de datos.
	Database Type	Seleccione PolarDB for MySQL.
	Access Method	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde reside la instancia de origen de PolarDB for MySQL.
	Cross-account	Este ejemplo migra datos dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
	PolarDB Cluster ID	Seleccione el ID del clúster de origen de PolarDB for MySQL.
	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de PolarDB for MySQL. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
	Database Password	Introduzca la contraseña de la cuenta de la base de datos.
	Encryption	Seleccione un tipo de conexión según sus necesidades. Para obtener más información sobre la función de cifrado SSL, consulte Enable SSL encryption.
Destination Database	Select DMS Database Instance	Seleccione una instancia existente según sus necesidades. Si utiliza una instancia existente, la información de la base de datos se completa automáticamente. No es necesario introducirla de nuevo. Si no utiliza una instancia existente, introduzca la siguiente información de la base de datos.
	Database Type	Seleccione DataHub.
	Access Method	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde reside el proyecto de DataHub de destino.
	Project	Seleccione el ID del proyecto de DataHub de destino.

Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

Nota
Asegúrese de que los segmentos de direcciones IP del servicio DTS se agreguen de forma automática o manual a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.

Configure los objetos de la tarea.

En la página Configure Objects, configure los objetos que desea migrar.

Parámetro	Descripción
Migration Types	Si solo necesita ejecutar una migración completa, seleccione tanto Schema Migration como Full Data Migration. Para ejecutar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration. Nota Si no selecciona Schema Migration, asegúrese de que exista una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sus necesidades. Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración para garantizar la coherencia de los datos.
Naming Rules of Additional Columns	DTS agrega columnas a las tablas de destino durante la migración a DataHub. Si estos nombres de columna entran en conflicto con los existentes, la migración falla. Seleccione New Rule o Previous Rule según los requisitos de su negocio. Aviso Antes de seleccionar una regla, compruebe si los nombres de las columnas adicionales entran en conflicto con las columnas existentes en las tablas de destino. Para obtener más información sobre las reglas y definiciones de las columnas adicionales, consulte Names and definitions of additional columns.
Processing Mode for Existing Destination Tables	Precheck and Report Errors: comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se supera. Si existen tablas con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no se inicia. Nota Si una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar o renombrar fácilmente, puede cambiar el nombre de dicha tabla. Para obtener más información, consulte Object name mapping. Ignore Errors and Proceed: omite la comprobación de tablas con los mismos nombres. Aviso Seleccionar Ignore Errors and Proceed puede provocar incoherencias en los datos y generar riesgos para el negocio. Por ejemplo: Si los esquemas de las tablas son coherentes y un registro en la base de datos de destino tiene el mismo valor de clave principal que un registro en la base de datos de origen: Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra. Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro de la base de datos de destino. Si los esquemas de las tablas no son coherentes, es posible que solo se migren datos de algunas columnas o que la migración presente errores. Proceda con precaución.
Case Sensitivity Policy for Destination Object Names	Configure la política de distinción entre mayúsculas y minúsculas para los nombres de bases de datos, tablas y columnas de los objetos de migración en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede alinearla con la política predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects	Seleccione uno o varios objetos en la sección Source Objects. Haga clic en el icono y agregue los objetos a la sección Selected Objects. Nota Seleccione bases de datos o tablas como objetos de migración. Si selecciona tablas, otros objetos como vistas, desencadenadores y procedimientos almacenados no se migran.
Selected Objects	Para cambiar el nombre de un solo objeto de migración en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información, consulte Map individual schema, table, and column names. Para cambiar los nombres de varios objetos de migración en la instancia de destino, haga clic en Selected Objects en la esquina superior derecha del cuadro Batch Edit. Para obtener más información, consulte Map multiple schema, table, and column names. Nota Si utiliza la asignación de nombres de objetos, la migración de otros objetos que dependen del objeto renombrado puede presentar errores. Para filtrar datos mediante cláusulas WHERE, haga clic con el botón derecho en la tabla que desea migrar dentro del panel Selected Objects y especifique las condiciones de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Set filter conditions. Para seleccionar operaciones SQL que se migrarán a nivel de base de datos o de tabla, haga clic con el botón derecho en el objeto de migración dentro del panel Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece. Cuando realice la migración a nivel de tabla, puede establecer la Shardkey (clave de particionamiento). Para ello, haga clic con el botón derecho en la tabla dentro del panel Selected Objects y anule la selección de Sync All Columns en el cuadro de diálogo que aparece.

Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

Parámetro	Descripción
Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar las tareas de migración de DTS.
Retry Time for Failed Connections	Después de que se inicia la tarea de migración, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error y comienza a reintentar la conexión de inmediato. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Se recomienda establecer una duración superior a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores. Nota Para varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada. Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según las necesidades de su negocio. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues	Después de que se inicia la tarea de migración, si ocurre un problema distinto a la conectividad en la base de datos de origen o de destino (por ejemplo, una excepción en la ejecución de DDL o DML), DTS reporta un error y comienza a reintentar la operación de inmediato. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Se recomienda establecer una duración superior a 10 minutos. Si las operaciones correspondientes se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores. Importante El valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration	Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Establezca Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types. También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration	Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Configure RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types. También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS se está ejecutando. Yes: la información SQL de latido no se escribe en la base de datos de origen. Esto puede hacer que la instancia de DTS reporte un retraso. No: escribe la información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Environment Tag	Seleccione una etiqueta de entorno para identificar la instancia. No es obligatoria para este ejemplo.
Configure ETL	Según las necesidades de su negocio, seleccione si desea configurar ETL feature para procesar datos. Yes: configura la función ETL. También debe introducir data processing statements en el cuadro de texto. No: no configura la función ETL.
Monitoring and Alerting	Seleccione si desea configurar alertas y recibir notificaciones de alerta según las necesidades de su negocio. No: no configura ninguna alerta. Yes: configure las alertas estableciendo un alert threshold y un alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.

Guarde la tarea y ejecute una comprobación previa.
- Para consultar los parámetros de configuración de esta instancia al llamar a la operación de API, pase el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
- Si no necesita consultar los parámetros de API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
Nota
- Antes de iniciar la tarea de migración, DTS ejecuta una comprobación previa. La tarea solo se inicia después de superar esta comprobación.
- Si la comprobación previa falla, haga clic en View Details junto al elemento con errores, corrija el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
- Si se reporta una advertencia durante la comprobación previa:
  
  Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento con errores, corrija el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
  
  Para los elementos de comprobación que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de alerta y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como incoherencias en los datos y generarse riesgos para su negocio.

Adquiera la instancia.

Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.

Categoría	Parámetro	Descripción
New Instance Class	Resource Group Settings	Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
New Instance Class	Instance Class	DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Seleccione una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.

Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.

Consulte el progreso de la tarea de migración en la página de lista Data Migration Tasks.
Nota
- Si la tarea de migración no incluye migración incremental, se detiene automáticamente cuando finaliza la migración completa. Una vez detenida, su Status cambia a Completed.
- Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras se ejecuta, el Status de la tarea es Running.