Data Transmission Service:Sincronización de PolarDB-X 2.0 con DataHub

Requisitos previos

• Activó DataHub y creó un proyecto para recibir los datos sincronizados. Para obtener más información, consulte Get started with DataHub synchronization y Create and delete projects.

• La instancia de destino de DataHub debe contar con más espacio de almacenamiento que la instancia de origen de PolarDB-X.

Límites

Topologías de sincronización compatibles

• Sincronización unidireccional uno a uno

• Sincronización unidireccional uno a varios

• Sincronización unidireccional varios a uno

• Sincronización unidireccional en cascada

Para obtener más información sobre las topologías de sincronización y sus consideraciones, consulte Synchronization topologies.

Operaciones SQL compatibles

Precauciones

Procedimiento

1. Vaya a la página de lista de tareas de sincronización de la región de destino. Puede utilizar uno de los dos métodos siguientes:

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Synchronization.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.

   1. Inicie sesión en Data Management (DMS).

   2. En la barra de menú superior, vaya a Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.

2. Haga clic en Create Task para ir a la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene que ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione PolarDB-X 2.0.
   	Connection Type	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra la instancia de origen de PolarDB-X 2.0.
   	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo sincroniza datos dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
   	Instance ID	Seleccione el ID de la instancia de origen de PolarDB-X 2.0.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de PolarDB-X 2.0. La cuenta debe tener los permisos REPLICATION SLAVE, REPLICATION CLIENT y SELECT sobre los objetos que va a sincronizar. Nota Para obtener información sobre cómo otorgar permisos, consulte Account permission issues during data synchronization.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), seleccione la instancia de la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione DataHub.
   	Connection Type	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra la instancia de destino de DataHub.
   	Project	Seleccione el Project de DataHub de destino.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea sincronizar.

      Parámetro	Descripción
      Synchronization Types	Incremental Data Synchronization está seleccionado. Solo puede seleccionar Schema Synchronization. Full Data Synchronization no es compatible. Nota Durante la fase de inicialización de la tarea de sincronización de datos, DTS sincroniza las definiciones de esquema de los objetos de sincronización, como los esquemas de tabla, con la instancia de destino de DataHub.
      Naming Rules of Additional Columns	DTS agrega columnas adicionales al topic de destino durante la sincronización. Si estos nombres de columna entran en conflicto con columnas existentes en el topic de destino, la tarea de sincronización fallará. Establezca Naming Rules of Additional Columns en New Rule o Previous Rule según sus requisitos empresariales. Aviso Antes de seleccionar una regla, evalúe si los nombres de las columnas adicionales entran en conflicto con las columnas existentes en el topic de destino. De lo contrario, la tarea podría fallar o podrían perderse datos. Para obtener más información, consulte Names and definitions of additional columns.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: Comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con el mismo nombre, la comprobación previa se supera correctamente. Si existe una tabla con el mismo nombre, la comprobación previa falla y la tarea de sincronización de datos no se inicia. Nota Si no puede eliminar ni cambiar el nombre de la tabla con el mismo nombre en la base de datos de destino, puede asignarle un nombre de tabla diferente. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: Omite la comprobación de nombres de tabla duplicados en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede causar inconsistencia en los datos y poner en riesgo su negocio. Por ejemplo: Si los esquemas de tabla son iguales y un registro en la base de datos de destino tiene el mismo valor de clave principal o clave única que un registro en la base de datos de origen: Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza. Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro en la base de datos de destino. Si los esquemas de tabla son diferentes, la sincronización inicial de datos podría fallar. Esto puede provocar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
      Capitalization of Object Names in Destination Instance	Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de objetos de base de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, está seleccionada la DTS default policy. También puede optar por usar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
      Source Objects	En el cuadro Source Objects, haga clic en un objeto para sincronizarlo y luego haga clic en para moverlo al cuadro Selected Objects. Nota Solo puede seleccionar tablas como objetos para sincronizar.
      Selected Objects	Para cambiar el nombre de un solo objeto de sincronización en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar el nombre de los objetos, consulte Map a single database, table, or column. Para cambiar los nombres de varios objetos de sincronización en la instancia de destino de forma masiva, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch. Nota Para filtrar datos mediante una cláusula WHERE, haga clic con el botón derecho en la tabla que desea sincronizar en el panel Selected Objects. En el cuadro de diálogo que aparece, especifique la condición de filtro. Para obtener más información, consulte Filter synchronized data by using SQL conditions.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
      Retry Time for Failed Connections	Después de que se inicia una tarea de sincronización, si falla la conexión a la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1,440 minutos. Se recomienda establecer la duración en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro de la duración especificada, la tarea de sincronización se reanudará automáticamente. De lo contrario, la tarea fallará. Nota Si tiene varias instancias de DTS (por ejemplo, Instancia A e Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el período de reintento de conexión, se recomienda personalizar la duración del reintento según sus necesidades empresariales o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
      Retry Time for Other Issues	Después de que se inicia la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS reporta un error e inicia inmediatamente operaciones de reintento continuas. La duración predeterminada de reintento es de 10 minutos. También puede personalizar la duración del reintento dentro de un rango de 1 a 1,440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones relevantes se completan correctamente dentro de la duración de reintento establecida, la tarea de sincronización se reanudará automáticamente. De lo contrario, la tarea fallará. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
      Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión en la base de datos de destino, configure RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
      Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución. Yes: No se escribe información SQL de latido en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso. No: Escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
      Environment Tag	Seleccione una etiqueta de entorno para identificar la instancia. En este ejemplo, este parámetro no es obligatorio.
      Configure ETL	Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: Habilita la función ETL. Introduzca sentencias de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: Deshabilita la función ETL.
      Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta. No: No se configuran alertas. Yes: Configure alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para ver los parámetros de la API para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en el globo emergente.

   • Si ha terminado de ver los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de que comience el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede iniciarse después de que todos los elementos de la comprobación previa se superen correctamente.

   • Si la comprobación previa falla, haga clic en View Details para el elemento fallido. Solucione el problema según las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si la comprobación previa devuelve una advertencia:

     • Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto al elemento. Siga las instrucciones para solucionar el problema y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again en secuencia para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podría causar problemas como inconsistencia de datos y poner en riesgo su negocio.

7. Adquiera la instancia.

   1. Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. La siguiente tabla describe estos parámetros en detalle.

      Categoría	Parámetro	Descripción
      New Instance Class	Método de facturación	Subscription: Paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: Se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
      	Configuración de resource group	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
      	Especificación de enlace	DTS proporciona especificaciones de sincronización con diferentes niveles de rendimiento. La especificación del enlace de sincronización afecta la tasa de sincronización. Puede elegir una especificación según su escenario empresarial. Para obtener más información, consulte Data synchronization link specifications.
      	Duración de la suscripción	En el modo de suscripción, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

      Puede consultar el progreso de la tarea en la página Data Synchronization.

Esquema de topic de DataHub

Cuando DTS sincroniza datos incrementales con un topic de DataHub, agrega columnas de metadatos al topic.

En este ejemplo, id , name y address son campos de datos. Cuando se utilizan las reglas de nomenclatura anteriores, DTS agrega el prefijo dts_ a todos los campos, incluidos los campos originales del origen. Cuando se utilizan las nuevas reglas de nomenclatura, DTS no agrega ningún prefijo a los campos originales del origen.