Data Transmission Service:Sincronización de datos de PolarDB for MySQL a MaxCompute

Requisitos previos

• Active MaxCompute y cree un proyecto de MaxCompute. Para obtener más información, consulte Activate MaxCompute y Create a MaxCompute project.

• Configure una lista blanca de MaxCompute para permitir que DTS acceda a MaxCompute. Para obtener más información, consulte Configure the whitelist for Alibaba Cloud products to access MaxCompute.

• Un par de AccessKey de la cuenta de Alibaba Cloud propietaria del proyecto de MaxCompute. Consulte Create an AccessKey pair.

  En lugar de usar el AccessKey de la cuenta raíz, puede Create an account y Set a RAM user as the super administrator for a MaxCompute project .

Límites

Facturación

Topologías de sincronización compatibles

Operaciones SQL compatibles

Funcionamiento

1. Sincronización de esquemas: DTS replica los esquemas de las tablas de la base de datos de origen a MaxCompute y añade _base al nombre de cada tabla. Por ejemplo, la tabla de origen customer se convierte en customer_base en MaxCompute.

2. Sincronización completa de datos: DTS carga todos los datos históricos del origen en las tablas _base (denominadas tablas de referencia completas). Esta instantánea es el punto de partida para la sincronización incremental.

3. Sincronización incremental de datos: DTS crea una tabla de registros incrementales en MaxCompute. Su nombre se basa en la tabla de destino con el sufijo _log (por ejemplo, customer_log), y sincroniza en tiempo real los cambios incrementales de datos desde la base de datos de origen hacia esta tabla.

   Nota

   Para obtener más información sobre la estructura de la tabla de registros incrementales, consulte Incremental log table schema definition.

Procedimiento

1. Vaya a la página de lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Synchronization.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.

   1. Inicie sesión en Data Management (DMS).

   2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.

2. Haga clic en Create Task para abrir la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Categoría	Configuración	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene que ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que sea added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione PolarDB for MySQL.
   	Connection Type	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra el clúster de origen de PolarDB for MySQL.
   	Cross-account	En este ejemplo, el origen y el destino están en la misma cuenta de Alibaba Cloud. Seleccione No.
   	PolarDB Cluster ID	Seleccione el identificador del clúster de origen de PolarDB for MySQL.
   	Database Account	Introduzca la cuenta de la base de datos para el clúster de origen de PolarDB for MySQL. La cuenta debe tener permisos de lectura sobre los objetos que se van a sincronizar.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   	Encryption	Seleccione una opción según sus necesidades. Para obtener más información, consulte Configure SSL encryption.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que sea added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione MaxCompute.
   	Connection Type	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra el proyecto de destino de MaxCompute.
   	Project	Introduzca el nombre del proyecto de MaxCompute.
   	AccessKey ID of Alibaba Cloud Account	Introduzca el par de AccessKey que creó en la sección Prerequisites.
   	AccessKey Secret of Alibaba Cloud Account

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde dichos servidores y se puede configurar de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

5. Haga clic en OK para autorizar la cuenta de ODPS y, a continuación, vuelva a hacer clic en Test Connectivity and Proceed.

6. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea sincronizar.

      Configuración	Descripción
      Synchronization Types	Los tipos de sincronización. De forma predeterminada, se selecciona Incremental Data Synchronization. También debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS sincroniza los datos históricos de los objetos seleccionados desde la base de datos de origen hacia el clúster de destino. Estos datos históricos sirven como base para la sincronización incremental posterior.
      Naming Rules of Additional Columns	DTS agrega columnas adicionales a la tabla de destino en MaxCompute. Si el nombre de una columna adicional entra en conflicto con una columna existente, la tarea de sincronización falla. Seleccione New Rule o Previous Rule según sus necesidades empresariales. Aviso Antes de elegir una regla, compruebe si los nombres de las columnas adicionales entran en conflicto con las columnas existentes en la tabla de destino. De lo contrario, la tarea podría fallar o perderse datos. Para obtener más información sobre las reglas y definiciones de las columnas adicionales, consulte Names and definitions of additional columns.
      Partition Definition of Incremental Data Table	Seleccione un nombre de partición según sus necesidades empresariales. Para obtener más información sobre las particiones, consulte Partitions.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con ese nombre, la comprobación previa se supera correctamente. Si existe una tabla con el mismo nombre, la comprobación previa falla y la tarea de sincronización de datos no se inicia. Nota Si no puede eliminar ni cambiar el nombre de la tabla duplicada en la base de datos de destino, asígnele un nombre de tabla distinto mediante asignaciones. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: omite la comprobación de nombres de tablas duplicados en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo: Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen: Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza. Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro de la base de datos de destino. Si los esquemas de las tablas son distintos, la sincronización inicial de datos podría fallar. Esto puede provocar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
      Capitalization of Object Names in Destination Instance	Es posible configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de objetos de bases de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la DTS default policy. También puede optar por usar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
      Source Objects	En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en para moverlo al cuadro Selected Objects. Nota Puede seleccionar objetos a nivel de tabla.
      Selected Objects	Para cambiar el nombre de un único objeto de sincronización en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar el nombre de los objetos, consulte Map a single database, table, or column. Para cambiar por lotes los nombres de varios objetos de sincronización en la instancia de destino, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Configuración	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Si busca un rendimiento más estable, adquiera un clúster dedicado para ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
      Retry Time for Failed Connections	Una vez iniciada la tarea de sincronización, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error e intenta reconectarse de inmediato. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecerla en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo indicado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Nota Si tiene varias instancias de DTS (por ejemplo, la instancia A y la instancia B) que comparten el mismo origen o destino, y establece el tiempo de reintento de red en 30 minutos para la instancia A y en 60 minutos para la instancia B, se aplicará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de reintento según sus necesidades empresariales. También puede liberar la instancia de DTS tan pronto como libere las instancias de las bases de datos de origen y de destino.
      Retry Time for Other Issues	Después de que se inicie la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar comandos DDL o DML), DTS reporta un error y comienza de inmediato a reintentar las operaciones de forma continua. La duración predeterminada de reintento es de 10 minutos. También puede personalizarla en un rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se ejecutan correctamente dentro del tiempo configurado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
      Enable Throttling for Full Data Synchronization	Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo cual puede aumentar la carga de estas. Para reducir dicha carga, establezca un límite de velocidad en la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
      Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
      Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Elija si desea escribir la información SQL de latidos en la base de datos de origen mientras la instancia de DTS está en ejecución. Yes: no se escribe la información SQL de latidos en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso. No: escribe la información SQL de latidos en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
      Environment Tag	Seleccione una etiqueta de entorno para identificar la instancia. No es obligatoria para este ejemplo.
      Configure ETL	Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: deshabilita la función ETL.
      Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral indicado, se envía una notificación a un contacto de alerta. No: no se configuran alertas. Yes: configure las alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

7. Guarde la tarea y ejecute una comprobación previa.

   • Para consultar los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en el globo emergente.

   • Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se superan todos los elementos de dicha comprobación.

   • Si la comprobación previa falla, haga clic en View Details junto al elemento con errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si la comprobación previa devuelve una advertencia:

     • Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que se pueden omitir, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos, lo cual representa un riesgo para su negocio.

8. Adquiera una instancia.

   1. Cuando Success Rate alcance el 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. A continuación se describen estos parámetros en detalle.

      Categoría	Parámetro	Descripción
      New Instance Class	Billing Method	Subscription: paga al crear la instancia. Este método es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: se le cobra por hora. Más indicado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
      	Resource Group Configuration	El resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is Resource Management?.
      	Link Specification	DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Elija una especificación según su escenario empresarial. Para obtener más información, consulte Data synchronization link specifications.
      	Subscription Duration	En el modo de suscripción, seleccione la duración y la cantidad de la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

      Consulte el progreso de la tarea en la página Data Synchronization.

Definición del esquema de la tabla de registros incrementales

Antes de consultar la tabla de datos incrementales, ejecute el siguiente comando en MaxCompute para permitir los escaneos completos de la tabla:

set odps.sql.allow.fullscan=true;

Cada tabla _log almacena los eventos de cambio provenientes del origen. Además de los datos originales de las columnas, DTS agrega los siguientes campos de metadatos a cada fila:

Lectura de eventos UPDATE: DTS escribe dos filas por cada UPDATE; una con before_flag=Y (los valores originales) y otra con after_flag=Y (los valores nuevos). Ambas filas comparten el mismo record_id.