Migrate data from PolarDB-X 1.0 to the cloud-native data warehouse AnalyticDB for PostgreSQL - Data Transmission Service

Puede usar Data Transmission Service (DTS) para migrar datos de una instancia de PolarDB-X 1.0 a una instancia de AnalyticDB for PostgreSQL. Esto le permite transferir y centralizar los datos fácilmente para su análisis.

Requisitos previos

El tipo de almacenamiento de PolarDB-X 1.0 debe ser ApsaraDB RDS for MySQL. Actualmente no se admite PolarDB for MySQL.
Cree una instancia de destino de AnalyticDB for PostgreSQL. La instancia de destino debe tener más capacidad de almacenamiento que el espacio utilizado por la instancia de origen de PolarDB-X 1.0. Para obtener más información, consulte Create an instance.
Cree una base de datos en la instancia de destino de AnalyticDB for PostgreSQL para recibir los datos migrados. Para obtener más información, consulte CREATE DATABASE.

Notas de uso

Tipo

Descripción

Limitaciones de la base de datos de origen

El servidor que aloja la base de datos de origen debe contar con suficiente ancho de banda de salida. Un ancho de banda insuficiente ralentiza la migración de datos.
Las tablas que se van a migrar deben tener una restricción PRIMARY KEY o UNIQUE, y los campos de la clave o restricción deben ser únicos. De lo contrario, podrían generarse datos duplicados en la base de datos de destino.
Si migra objetos a nivel de tabla y necesita editarlos, por ejemplo, mediante la asignación de nombres de columnas, una sola tarea de migración de datos admite un máximo de 1000 tablas. Si supera este límite, el envío de la tarea fallará. En ese caso, divida las tablas en varias tareas de migración de datos o configure una tarea para migrar toda la base de datos.
Para la migración incremental, asegúrese de que el parámetro binlog_row_image de la instancia de RDS MySQL asociada a PolarDB-X 1.0 esté establecido en full. De lo contrario, la comprobación previa fallará y la tarea de migración de datos no podrá iniciarse.
Nota
En una tarea de migración incremental, DTS requiere que la base de datos de origen conserve su binlog local durante más de 24 horas. Si la tarea incluye migración completa e incremental, debe conservar el binlog durante como mínimo 7 días. Puede cambiar el periodo de retención a más de 24 horas después de que finalice la migración completa. Si el periodo de retención es demasiado corto, la tarea de migración podría fallar porque DTS no puede obtener los archivos binlog necesarios. En casos extremos, esto puede provocar inconsistencia o pérdida de datos. El SLA de DTS no cubre los problemas causados por un periodo de retención de binlog insuficiente.

El tipo de almacenamiento de PolarDB-X 1.0 debe ser RDS MySQL. No se admite PolarDB for MySQL.
Restricciones operativas en la base de datos de origen:
- Si necesita cambiar el tipo de red de la instancia de PolarDB-X 1.0 durante la migración, actualice la configuración de conexión de red del vínculo de migración una vez completado el cambio.
- Durante la migración, no escale verticalmente la instancia de origen, no migre tablas de puntos de acceso, no cambie las claves de fragmentación ni ejecute instrucciones DDL. De lo contrario, la tarea de migración podría fallar o producirse inconsistencias en los datos.
- Si se cambia la clave de partición en la base de datos de origen y la clave principal de la tabla de destino no incluye la clave de partición de origen, podría producirse pérdida de datos en la base de datos de destino.
  - Motivo: Una instancia de PolarDB-X 1.0 tiene varias instancias de RDS for MySQL asociadas. DTS crea un vínculo de migración independiente para cada instancia de RDS for MySQL. Un cambio en la clave de partición provoca que los datos se eliminen de una instancia de RDS for MySQL y se inserten en otra. Como los vínculos se ejecutan de forma independiente, no se garantiza el orden de ejecución de las operaciones DELETE e INSERT. Si la clave principal de la base de datos de destino no incluye la clave de partición, una operación DELETE que se ejecute posteriormente podría eliminar accidentalmente los datos recién insertados.
  - Recomendación: Para evitar la pérdida de datos causada por operaciones fuera de orden, asegúrese de que la clave principal de la tabla de destino incluya la columna de clave de partición de la base de datos de origen.
La instancia de origen de PolarDB-X 1.0 debe ser de la versión 5.2 o posterior.
No cambie el tipo de una tabla de difusión en la instancia de origen de PolarDB-X 1.0 mientras se ejecuta una tarea de migración de DTS (por ejemplo, de tabla de difusión a tabla única o tabla fragmentada). Si necesita cambiar el tipo de tabla, detenga la tarea de migración. Una vez completado el cambio, vuelva a configurar la tarea de migración.

Otras limitaciones

DTS no admite tablas optimizadas para anexión (AO) como tablas de destino.
DTS no admite la migración de datos de los tipos GEOMETRY, CURVE, SURFACE, MULTIPOINT, MULTILINESTRING, MULTIPOLYGON y GEOMETRYCOLLECTION.
DTS no admite la migración de objetos INDEX, PARTITION, VIEW, PROCEDURE, FUNCTION, TRIGGER y FK.
Si utiliza la asignación de columnas para una migración parcial de tablas, o si los esquemas de las tablas de origen y destino son inconsistentes, se perderán los datos de las columnas que existan en el origen pero no en el destino.
DTS no admite instancias de solo lectura de recursos de computación de PolarDB-X 1.0.
DTS solo admite la fragmentación horizontal para los recursos de almacenamiento de PolarDB-X 1.0, no la fragmentación vertical.
Dado que una tarea de migración de PolarDB-X 1.0 está distribuida, cada instancia de RDS MySQL asociada se asigna a una subtarea de migración. Puede consultar el estado de las subtareas en Task Topology.
DTS depende de la continuidad de las transacciones XA en la instancia de origen de PolarDB-X 1.0 para garantizar la consistencia de los datos en las tareas de migración incremental. Si se interrumpe la continuidad de las transacciones XA, por ejemplo, durante un escenario de recuperación ante desastres del módulo de captura de datos incrementales, las transacciones XA no confirmadas podrían perderse.
Si una tabla que se va a migrar tiene una clave principal, la columna de clave principal en la tabla de destino debe ser la misma que en la tabla de origen. Si la tabla no tiene clave principal, la columna de clave principal en la tabla de destino debe coincidir con la clave de distribución.
La clave única de la tabla de destino, incluida la columna de clave principal, debe contener todas las columnas de la clave de distribución.
Antes de iniciar la migración de datos, evalúe el rendimiento tanto de la base de datos de origen como de la de destino. Ejecute la migración de datos en horarios de baja demanda. La inicialización completa de datos consume algunos recursos de lectura y escritura en ambas bases de datos, lo que puede aumentar la carga de estas.
La inicialización completa de datos ejecuta operaciones INSERT simultáneas, lo que puede fragmentar las tablas en la base de datos de destino. Como resultado, tras finalizar la inicialización completa de datos, los espacios de tabla en la instancia de destino serán más grandes que los de la instancia de origen.
Durante la migración con DTS, no escriba datos en la base de datos de destino. Solo DTS tiene permitido escribir en el destino para evitar inconsistencias en los datos.
Si una tarea falla, el personal de soporte de DTS intentará restaurarla en un plazo de ocho horas. Durante la restauración, es posible que reinicien la tarea o ajusten sus parámetros.

Nota
Solo se modifican los parámetros de la tarea de DTS, no los de la base de datos. Los parámetros que pueden ajustarse incluyen los que se enumeran en Modify instance parameters.

Facturación

Tipo de migración	Cargo por configuración del vínculo	Cargo por tráfico público
Migración de esquema y migración completa de datos	Sin cargo.	En este tutorial no se generan cargos.
Migración incremental de datos	Con cargo. Para obtener más información, consulte Billing overview.	En este tutorial no se generan cargos.

SQL compatible con la migración incremental

Tipo de operación	Instrucción SQL
DML	INSERT, UPDATE, DELETE Nota El sistema convierte automáticamente una instrucción UPDATE en una instrucción REPLACE INTO al escribir en la instancia de destino de AnalyticDB for PostgreSQL. Si una instrucción UPDATE modifica una clave principal, el sistema la convierte en instrucciones DELETE e INSERT.

Permisos obligatorios para las cuentas de base de datos

Base de datos	Migración de esquema	Migración completa de datos	Migración incremental de datos
Instancia de origen de PolarDB-X 1.0	SELECT	SELECT	Permisos de lectura y escritura sobre los objetos de migración.
Instancia de destino de AnalyticDB for PostgreSQL	Permisos de lectura y escritura sobre la base de datos de destino. Nota También puede utilizar la cuenta inicial o una cuenta que tenga el permiso RDS_SUPERUSER.

Para obtener más información sobre cómo crear una cuenta de base de datos y otorgar permisos, consulte los siguientes temas:

Para una instancia de PolarDB-X 1.0, consulte Manage accounts.
Para una instancia de AnalyticDB for PostgreSQL, consulte Create and manage users y Manage user permissions.

Procedimiento

Vaya a la página de lista de tareas de migración de la región de destino con uno de los métodos a continuación.
Desde la consola de DTS
1. Inicie sesión en la consola de Data Transmission Service (DTS).
2. En el panel de navegación izquierdo, haga clic en Data Migration.
3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS

Nota
Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
1. Inicie sesión en la consola de Data Management (DMS).
2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Migration.
3. A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.

Configure las bases de datos de origen y de destino.

Categoría	Parámetro	Descripción
N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla fácilmente. El nombre no tiene que ser único.
Source Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente. Nota En la consola de DMS, este parámetro se llama Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
	Database Type	Seleccione PolarDB-X 1.0.
	Access Method	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde reside la instancia de origen de PolarDB-X 1.0.
	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo migra datos dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
	Instance ID	Seleccione el ID de la instancia de origen de PolarDB-X 1.0.
	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de PolarDB-X 1.0. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Destination Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente. Nota En la consola de DMS, este parámetro se llama Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
	Database Type	Seleccione AnalyticDB for PostgreSQL.
	Access Method	Seleccione Alibaba Cloud Instance.
	Instance Region	Seleccione la región donde reside la instancia de destino de AnalyticDB for PostgreSQL.
	Instance ID	Seleccione el ID de la instancia de destino de AnalyticDB for PostgreSQL.
	Database Name	Introduzca el nombre de la base de datos en la instancia de destino de AnalyticDB for PostgreSQL que recibirá los objetos migrados.
	Database Account	Introduzca la cuenta de la base de datos de la instancia de destino de AnalyticDB for PostgreSQL. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.

Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

Nota
Asegúrese de que los segmentos de dirección IP del servicio DTS se agreguen automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.

Configure los objetos de la tarea.

En la página Configure Objects, configure los objetos que desea migrar.

Parámetro	Descripción
Migration Types	Si solo necesita ejecutar una migración completa, seleccione tanto Schema Migration como Full Data Migration. Para ejecutar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration. Nota Si no selecciona Schema Migration, asegúrese de que exista una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sea necesario. Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración de datos para garantizar la coherencia de los datos.
Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no hay tablas con nombres iguales, la comprobación previa se supera. Si existen tablas con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no se inicia. Nota Si una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar ni renombrar fácilmente, cambie el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping. Ignore Errors and Proceed: omite la comprobación de tablas con los mismos nombres. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y riesgos para el negocio. Por ejemplo: Si los esquemas de las tablas son coherentes y un registro en la base de datos de destino tiene el mismo valor de clave primaria que un registro en la base de datos de origen: Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra. Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino. Si los esquemas de las tablas no son coherentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
Storage Engine Type	Seleccione un motor de almacenamiento para las tablas de destino según sus requisitos de negocio. El valor predeterminado es Beam. Nota Este parámetro está disponible solo si la instancia de destino de AnalyticDB for PostgreSQL tiene una versión de kernel v7.0.6.6 o posterior y si seleccionó Migration Types para el parámetro Schema Migration.
Capitalization of Object Names in Destination Instance	Configure la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados en la instancia de destino, como bases de datos, tablas y columnas. De forma predeterminada, se selecciona DTS default policy. También puede mantener la distinción entre mayúsculas y minúsculas coherente con la política predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects	En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en para moverlos al cuadro Selected Objects. Nota Seleccione los objetos que desea migrar a nivel de tabla. Si selecciona una base de datos completa, los cambios para agregar o eliminar tablas en esa base de datos no se migrarán al destino.
Selected Objects	Para cambiar el nombre de un solo objeto de migración en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información, consulte Map individual schema, table, and column names. Para cambiar los nombres de varios objetos de migración en la instancia de destino, haga clic en Selected Objects en la esquina superior derecha del cuadro Batch Edit. Para obtener más información, consulte Map multiple schema, table, and column names. Nota Si usa la función de asignación de nombres de objetos, otros objetos que dependan del objeto renombrado podrían fallar durante la migración. Para filtrar datos mediante una cláusula WHERE, haga clic con el botón derecho en una tabla del panel Selected Objects y especifique la condición de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Set filter conditions.

Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

Parámetro	Descripción
Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, adquiera un dedicated cluster para ejecutar las tareas de migración de DTS.
	Decida si desea configurar alertas y recibir notificaciones de alerta según sus necesidades de negocio. No: no configura ninguna alerta. Yes: configure las alertas estableciendo un alert threshold y un alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
Retry Time for Failed Connections	Después de que se inicia la tarea de migración, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer una duración superior a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea finaliza con errores. Nota Para varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada. Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades de negocio. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues	Después de que se inicia la tarea de migración, si ocurre un problema distinto a la conectividad en la base de datos de origen o de destino, como una excepción en la ejecución de DDL o DML, DTS reporta un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer una duración superior a 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea finaliza con errores. Importante El valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration	Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, habilite el control de velocidad para la tarea de migración completa. Establezca Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración está disponible solo si selecciona Full Data Migration para Migration Types. También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration	Si es necesario, también puede configurar límites de velocidad para la tarea de migración incremental. Establezca RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración está disponible solo si selecciona Incremental Data Migration para Migration Types. También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag	Seleccione una etiqueta de entorno para identificar la instancia según sus requisitos de negocio. En este tutorial no se selecciona ninguna etiqueta.
Configure ETL	Según sus necesidades de negocio, decida si desea configurar la función ETL feature para procesar datos. Yes: configura la función ETL. También debe introducir data processing statements en el cuadro de texto. No: no configura la función ETL.
Monitoring and Alerting	Decida si desea configurar alertas y recibir notificaciones de alerta según sus necesidades de negocio. No: no configura ninguna alerta. Yes: configure las alertas estableciendo un alert threshold y un alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.

Opcional: Haga clic en Next: Configure Database and Table Fields para establecer Type, Primary Key Column y Distribution Key de las tablas que se migrarán a la instancia de destino de AnalyticDB for PostgreSQL.
Nota
- Este paso está disponible solo si seleccionó Schema Migration para Migration Types al configurar los objetos de migración. Seleccione All para Definition Status y luego aplique las modificaciones.
- Seleccione varias columnas para Primary Key Column y forme una clave primaria compuesta. También debe seleccionar una o más columnas de Primary Key Column como Distribution Key. Para obtener más información, consulte Manage data tables y Define table distribution.

Guarde la tarea y ejecute una comprobación previa.
- Para consultar los parámetros de configuración de esta instancia al llamar a la operación de la API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
- Si no necesita consultar los parámetros de la API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
Nota
- Antes de iniciar la tarea de migración, DTS ejecuta una comprobación previa. La tarea comienza solo después de superar dicha comprobación.
- Si la comprobación previa falla, haga clic en View Details junto al elemento con errores, corrija el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
- Si se reporta una advertencia durante la comprobación previa:
  
  Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento con errores, corrija el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
  
  Para los elementos de comprobación que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como inconsistencias en los datos y representar riesgos para su negocio.

Adquiera la instancia.

Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la tabla a continuación.

Categoría	Parámetro	Descripción
New Instance Class	Resource Group Settings	Seleccione el resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is resource management?
New Instance Class	Instance Class	DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Seleccione una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.

Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.

Consulte el progreso de la tarea de migración en la página de lista Data Migration Tasks.
Nota
- Si la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración total. Una vez detenida, su Status cambia a Completed.
- Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras se ejecuta, el Status de la tarea es Running.