Migrate PolarDB-X 2.0 to DataHub with DTS - Data Transmission Service

Puede usar Data Transmission Service (DTS) para migrar datos desde una instancia de PolarDB-X 2.0 hacia un proyecto de DataHub.

Requisitos previos

Cree la instancia de origen de PolarDB-X 2.0. Para obtener más información, consulte Create an instance.
Active DataHub y cree un proyecto para almacenar los datos migrados. Para obtener más información, consulte Quick start (synchronization example) y Manage projects.

Limitaciones

Tipo	Descripción
Limitaciones de la base de datos de origen	El servidor que aloja la base de datos de origen debe contar con suficiente ancho de banda de salida. Un ancho de banda insuficiente ralentiza la migración de datos. Las instancias de solo lectura de Enterprise Edition de PolarDB-X 2.0 no son compatibles como base de datos de origen. Las tablas que se van a migrar deben tener una restricción PRIMARY KEY o UNIQUE, y los campos de dicha clave o restricción deben ser únicos. De lo contrario, podrían generarse datos duplicados en la base de datos de destino. Si migra objetos a nivel de tabla y necesita editarlos (por ejemplo, para asignar nombres de columnas), una sola tarea de migración de datos admite un máximo de 1,000 tablas. Si supera este límite, el envío de la tarea fallará. En ese caso, divida las tablas en varias tareas de migración de datos o configure una tarea para migrar toda la base de datos. Para la migración incremental de datos, la base de datos de origen debe cumplir los siguientes requisitos de registro binario: Habilite la función de registro binario y establezca el parámetro `binlog_row_image` en `full`. De lo contrario, la comprobación previa fallará y la tarea de migración de datos no podrá iniciarse. En las tareas de migración incremental de datos, DTS requiere que los registros binarios de la base de datos de origen se conserven durante como mínimo 24 horas. Para las tareas que incluyen tanto la migración completa como la incremental, los registros binarios deben conservarse durante como mínimo 7 días. Puede cambiar el periodo de retención a 24 horas una vez finalizada la migración completa de datos. Si los registros binarios no se conservan durante el tiempo requerido, DTS podría no obtenerlos, lo que provocaría errores en la tarea o incluso inconsistencia y pérdida de datos. El SLA de DTS no cubre los problemas causados por un periodo de retención de registros binarios insuficiente. Limitaciones operativas en la base de datos de origen: Durante la migración del esquema y la migración completa de datos, no ejecute operaciones DDL que modifiquen el esquema de la base de datos o de las tablas. De lo contrario, la tarea de migración de datos fallará. Nota Durante la migración completa de datos, DTS consulta la base de datos de origen. Esta acción coloca un bloqueo de metadatos que podría impedir las operaciones DDL en la base de datos de origen. Durante la migración completa e incremental, DTS deshabilita temporalmente las comprobaciones de restricciones y las operaciones en cascada de claves foráneas a nivel de sesión. Si se producen operaciones de actualización o eliminación en cascada en la base de datos de origen mientras la tarea está en ejecución, podrían generarse inconsistencias en los datos. Si necesita cambiar el tipo de red de la instancia de PolarDB-X 2.0 durante la migración, actualice la información de conexión de red de la tarea de migración una vez completado el cambio. Si ejecuta únicamente la migración completa de datos, no escriba datos nuevos en la base de datos de origen durante el proceso. De lo contrario, los datos serán inconsistentes entre las bases de datos de origen y de destino. Para mantener la consistencia de los datos en tiempo real, seleccione la migración del esquema, la migración completa de datos y la migración incremental de datos. No se admite la migración de grupos de tablas (TABLEGROUP) ni de bases de datos o tablas con el atributo Locality. No se admite la migración de tablas cuyos nombres sean palabras reservadas, como `select`. En una instancia de PolarDB-X 2.0, no se admite la sincronización de particiones de base de datos en modo DRDS. Durante la ejecución de una tarea de migración de DTS, no se admite cambiar el tipo de una tabla de difusión en la instancia de origen de PolarDB-X 2.0 (por ejemplo, convertir una tabla de difusión en una tabla normal o fragmentada). Para cambiar el tipo de tabla, detenga primero la tarea de migración y, una vez completado el cambio, vuelva a configurarla.
Otras limitaciones	Solo se admite la migración a nivel de tabla. La longitud máxima de un campo de cadena en un tema de DataHub de destino es de 2 MB. Antes de migrar los datos, evalúe el rendimiento de sus bases de datos de origen y de destino. Ejecute la migración fuera de las horas pico. Una migración completa consume recursos de lectura y escritura en ambas bases de datos, lo que puede aumentar su carga. DTS intenta restaurar las tareas de migración con errores dentro de un plazo de siete días. Por lo tanto, antes de cambiar sus servicios a la instancia de destino, debe finalizar o liberar la tarea, o bien usar el comando `revoke` para revocar los permisos de escritura de la cuenta de DTS utilizada para acceder a la instancia de destino. Esto evita que los datos de origen sobrescriban los de la instancia de destino después de que la tarea se restaure automáticamente. Si una tarea presenta errores, el equipo de soporte de DTS intentará restaurarla en un plazo de ocho horas. Durante la restauración, es posible que reinicien la tarea o ajusten sus parámetros. Nota Solo se modifican los parámetros de la tarea de DTS, no los de la base de datos. Los parámetros que podrían ajustarse incluyen los que se enumeran en Modify instance parameters.
Otras precauciones	DTS actualiza periódicamente la tabla `dts_health_check`.`ha_health_check` en la base de datos de origen para avanzar la posición del registro binario.

Facturación

Tipo de migración	Cargo por configuración de enlace	Cargo por tráfico de Internet
Migración de esquema	Sin cargo.	Este ejemplo no genera cargos.
Migración incremental de datos	Esta es una función de pago. Para obtener más información, consulte Billing overview.	Este ejemplo no genera cargos.

Tipos de migración

Migración de esquema

DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la base de datos de destino.
Migración incremental

Una vez finalizada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la base de datos de destino. La migración incremental le permite trasladar los datos sin problemas y sin interrumpir sus aplicaciones autogestionadas.

Operaciones SQL compatibles con la migración incremental

Tipo de operación	Instrucción SQL
DML	INSERT, UPDATE, DELETE
DDL	ADD COLUMN Importante Si modifica manualmente la estructura de la tabla en la base de datos de destino, reinicie la tarea: pause y luego start la tarea.

Permisos de las cuentas de base de datos

Base de datos	Migración de esquema	Migración incremental
Instancia de PolarDB-X 2.0	Permiso SELECT	Los permisos REPLICATION SLAVE y REPLICATION CLIENT, además del permiso SELECT sobre los objetos que se van a migrar. Nota Para obtener información sobre cómo otorgar permisos, consulte Account permissions for data synchronization.

Mapeo de tipos de datos

Para obtener más información, consulte Data type mappings for schema migration.

Procedimiento

Vaya a la página de la lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.
Desde la consola de DTS
1. Inicie sesión en la consola de Data Transmission Service (DTS).
2. En el panel de navegación izquierdo, haga clic en Data Migration.
3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS

Nota
Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
1. Inicie sesión en la consola de Data Management (DMS).
2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Migration.
3. A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.

Configure las bases de datos de origen y de destino.

Aviso

Después de seleccionar las instancias de origen y de destino, lea la sección Limits que se muestra en la parte superior de la página. Así se asegurará de poder crear y ejecutar la tarea de migración correctamente.

Categoría	Parámetro	Descripción
N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla fácilmente. No es obligatorio que el nombre sea único.
Source Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente. Nota En la consola de DMS, este parámetro se denomina Select a DMS database instance.. Si no ha registrado la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
	Database Type	Seleccione PolarDB-X 2.0.
	Access Method	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde se encuentra la instancia de origen de PolarDB-X 2.0.
	Replicate Data Across Alibaba Cloud Accounts	En este ejemplo, los datos se migran dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
	Instance ID	Seleccione el identificador de la instancia de origen de PolarDB-X 2.0.
	Database Account	Introduzca la cuenta de la base de datos para la instancia de origen de PolarDB-X 2.0. Para conocer los requisitos de permisos, consulte Database account permissions.
	Database Password	Introduzca la contraseña de la cuenta de la base de datos.
Destination Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente. Nota En la consola de DMS, este parámetro se denomina Select a DMS database instance.. Si no ha registrado la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
	Database Type	Seleccione DataHub.
	Access Method	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde se encuentra el proyecto de DataHub de destino.
	Project	Seleccione el identificador del proyecto de DataHub de destino.

Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

Nota
Asegúrese de que los segmentos de dirección IP del servicio DTS se agreguen automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.

Configure los objetos de la tarea.

En la página Configure Objects, configure los objetos que desea migrar.

Parámetro	Descripción
Migration Types	Para migrar datos de PolarDB-X 2.0 a DataHub, solo son compatibles Schema Migration y Incremental Data Migration. Seleccione los tipos de migración según sus necesidades empresariales. Nota Si selecciona Schema Migration, las claves externas de la base de datos de origen también se migrarán a la base de datos de destino. Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración. De esta forma garantizará la coherencia de los datos.
Naming Rules of Additional Columns	Cuando DTS migra datos a DataHub, agrega columnas adicionales a la tabla de destino. Si los nombres de estas nuevas columnas entran en conflicto con los existentes, la migración de datos falla con errores. Debe seleccionar New Rule o Previous Rule según sus necesidades empresariales. Aviso Antes de elegir una regla para las columnas adicionales, compruebe si sus nombres entrarán en conflicto con alguna columna existente en la tabla de destino. Para obtener más información sobre las reglas y definiciones de las columnas adicionales, consulte Names and definitions of additional columns.
Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no hay tablas con nombres iguales, la comprobación previa se supera correctamente. En caso contrario, se notifica un error durante la comprobación previa y la tarea de migración de datos no se inicia. Nota Si una tabla de la base de datos de destino tiene el mismo nombre, pero no se puede eliminar ni renombrar fácilmente, cambie el nombre de dicha tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping. Ignore Errors and Proceed: omite la comprobación de tablas con los mismos nombres. Aviso Seleccionar Ignore Errors and Proceed puede provocar incoherencias en los datos y riesgos para el negocio. Por ejemplo: Si los esquemas de las tablas coinciden y un registro de la base de datos de destino tiene el mismo valor de clave principal que un registro de la base de datos de origen: Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra. Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe al de la base de datos de destino. Si los esquemas de las tablas no coinciden, es posible que solo se migren algunas columnas de datos o que la migración falle con errores. Proceda con precaución.
Capitalization of Object Names in Destination Instance	Es posible configurar la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados en la instancia de destino, como bases de datos, tablas y columnas. De forma predeterminada, se selecciona DTS default policy. También puede optar por mantener la distinción entre mayúsculas y minúsculas alineada con la política predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects	Seleccione uno o varios objetos en la sección Source Objects. Haga clic en el icono y agregue los objetos a la sección Selected Objects. Nota Los objetos de migración se pueden seleccionar a nivel de base de datos, tabla o columna. Si selecciona únicamente tablas como objetos de migración, otros tipos de objetos, como vistas, desencadenadores y procedimientos almacenados, no se migrarán a la base de datos de destino.
Selected Objects	Para cambiar el nombre de un solo objeto de migración en la instancia de destino, haga clic con el botón secundario en el objeto dentro del cuadro Selected Objects. Para obtener más información, consulte Map individual schema, table, and column names. Para cambiar los nombres de varios objetos de migración en la instancia de destino, haga clic en Selected Objects en la esquina superior derecha del cuadro Batch Edit. Para obtener más información, consulte Map multiple schema, table, and column names. Nota Si utiliza la función de asignación de nombres de objetos, la migración de otros objetos que dependan del objeto renombrado podría fallar con errores. Para filtrar datos mediante cláusulas WHERE, haga clic con el botón secundario en una tabla que se va a migrar dentro del cuadro Selected Objects y establezca las condiciones de filtrado en el cuadro de diálogo que aparece. Para consultar las instrucciones, vea Set filter conditions. Para seleccionar las operaciones SQL que se van a migrar a nivel de base de datos o de tabla, haga clic con el botón secundario en el objeto de migración dentro del cuadro Selected Objects y elija las operaciones SQL deseadas en el cuadro de diálogo que aparece.

Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

Parámetro	Descripción
Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, adquiera un dedicated cluster para ejecutar las tareas de migración de DTS.
Retry Time for Failed Connections	Una vez iniciada la tarea de migración, si la conexión con la base de datos de origen o de destino falla con errores, DTS notifica un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Es posible personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Se recomienda establecer una duración superior a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro del plazo especificado, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla con errores. Nota Cuando varias instancias de DTS comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada. Dado que la tarea genera cargos durante el periodo de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades empresariales. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de base de datos de origen y de destino.
Retry Time for Other Issues	Una vez iniciada la tarea de migración, si ocurre un problema distinto a la conectividad en la base de datos de origen o de destino, como una excepción al ejecutar DDL o DML, DTS notifica un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Es posible personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Se recomienda establecer una duración superior a 10 minutos. Si las operaciones correspondientes se ejecutan correctamente dentro del plazo de reintento especificado, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla con errores. Importante El valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Incremental Data Migration	Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Configure RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types. También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS se está ejecutando. Yes: la información SQL de latido no se escribe en la base de datos de origen. Esto puede hacer que la instancia de DTS notifique un retraso. No: escribe la información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Environment Tag	Puede seleccionar una etiqueta de entorno para identificar la instancia. En este ejemplo no es necesario seleccionar ninguna.
Configure ETL	Según sus necesidades empresariales, seleccione si desea configurar ETL feature para procesar los datos. Yes: configura la función ETL. También debe introducir data processing statements en el cuadro de texto. No: no configura la función ETL.
Monitoring and Alerting	Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades empresariales. No: no configura ninguna alerta. Yes: configure las alertas estableciendo un alert threshold y alert notifications. Si una migración falla con errores o la latencia supera el umbral, el sistema envía una notificación de alerta.

Guarde la tarea y ejecute una comprobación previa.
- Para consultar los parámetros de configuración de esta instancia al llamar a la operación de API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en el globo que aparece.
- Si no necesita consultar los parámetros de API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
Nota
- Antes de iniciar la tarea de migración, DTS ejecuta una comprobación previa. La tarea solo comienza después de superar dicha comprobación.
- Si la comprobación previa falla con errores, haga clic en View Details junto al elemento que falló, resuelva el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
- Si se notifica una advertencia durante la comprobación previa:
  
  Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento que falló, resuelva el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
  
  Para los elementos de comprobación que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como incoherencias en los datos y generarse riesgos para su negocio.

Adquiera la instancia.

Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.

Categoría	Parámetro	Descripción
New Instance Class	Resource Group Settings	Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
New Instance Class	Instance Class	DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Seleccione una especificación según su escenario empresarial. Para obtener más información, consulte Data migration link specifications.

Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.

Consulte el progreso de la tarea de migración en la página de lista Data Migration Tasks.
Nota
- Si la tarea de migración no incluye migración incremental, se detiene automáticamente cuando finaliza la migración completa. Una vez detenida, su Status cambia a Completed.
- Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras se ejecuta, el Status de la tarea es Running.