Data Transmission Service (DTS) permite sincronizar datos en tiempo real y de forma bidireccional entre clústeres de PolarDB for PostgreSQL y bases de datos PostgreSQL, como las instancias de ApsaraDB RDS for PostgreSQL y las bases de datos PostgreSQL autogestionadas. En este tema se muestra cómo configurar la sincronización bidireccional de datos para una instancia de ApsaraDB RDS for PostgreSQL. El procedimiento es similar para otros orígenes de datos.
Requisitos previos
-
Cree un clúster de origen de PolarDB for PostgreSQL y una instancia de destino de ApsaraDB RDS for PostgreSQL. Para obtener más información, consulte Create a database cluster y Create an ApsaraDB RDS for PostgreSQL instance.
NotaPara conocer las versiones compatibles de las bases de datos de origen y de destino, consulte Overview of data synchronization scenarios.
Las bases de datos de origen y de destino deben contar con capacidad de almacenamiento suficiente.
Cree una base de datos en la instancia de destino de ApsaraDB RDS for PostgreSQL para recibir los datos. Para obtener más información, consulte Create a database.
Establezca el parámetro
wal_levelenlogicaltanto en el clúster de origen de PolarDB for PostgreSQL como en la instancia de destino de ApsaraDB RDS for PostgreSQL. Para obtener más información, consulte Set cluster parameters y Set instance parameters.
Notas de uso
Durante la sincronización de esquemas, DTS sincroniza las claves externas de la base de datos de origen a la de destino.
Durante la sincronización completa e incremental de datos, DTS deshabilita temporalmente la comprobación de restricciones y las operaciones en cascada de las claves externas a nivel de sesión. Si ocurren actualizaciones o eliminaciones en cascada en la base de datos de origen durante la sincronización, pueden surgir inconsistencias en los datos.
|
Tipo |
Descripción |
|
Límites de la base de datos de origen |
|
|
Otros límites |
|
Facturación
|
Tipo de sincronización |
Precio |
|
Sincronización de esquemas y sincronización completa de datos |
Sin costo. |
|
Sincronización incremental de datos |
Con costo. Para obtener más información, consulte Billing overview. |
Detección de conflictos compatible
Para garantizar la consistencia de los datos, asegúrese de que los registros con la misma clave primaria, clave primaria de negocio o clave única se actualicen en una sola de las instancias de base de datos involucradas en la sincronización bidireccional. Si los registros se actualizan en ambas instancias, el sistema de DTS aplicará la directiva de resolución de conflictos configurada en la tarea.
DTS comprueba y corrige los conflictos para maximizar la estabilidad de las tareas de sincronización bidireccional. DTS detecta los siguientes tipos de conflictos:
-
Conflictos de unicidad provocados por operaciones INSERT
En la sincronización bidireccional, si se insertan registros con la misma clave primaria en ambas instancias de base de datos de forma simultánea (o casi simultánea), se activará un conflicto de restricción de unicidad. Cuando la instrucción INSERT se sincronice con la instancia homóloga, fallará porque ya existe un registro con el mismo valor de clave primaria.
-
Registros no coincidentes en operaciones UPDATE
Si los registros que se van a actualizar no existen en la instancia de destino, DTS convierte la operación UPDATE en una operación INSERT. No obstante, pueden producirse conflictos de unicidad.
El registro que se va a actualizar mediante una operación UPDATE genera un conflicto de clave primaria o de clave única.
-
Registros inexistentes que se van a eliminar
Los registros que se van a eliminar no existen en la instancia de destino. En este caso, DTS ignora la operación DELETE sin importar la directiva de resolución de conflictos que haya especificado.
Debido a las diferencias horarias y a la latencia, DTS no garantiza la prevención total de conflictos. Para asegurar la consistencia, actualice los registros con la misma clave primaria o única en una sola instancia de base de datos a la vez.
DTS ofrece diversas estrategias de resolución para los conflictos de datos mencionados anteriormente, las cuales puede seleccionar al configurar la sincronización bidireccional de datos.
Objetos compatibles
Esquemas y tablas
Esto incluye claves primarias, claves únicas, claves externas, tipos de datos integrados y restricciones predeterminadas.
Cuando este tipo de base de datos se utiliza como origen, las funciones compatibles pueden variar según el tipo de base de datos de destino. Consulte la consola para conocer los detalles específicos.
Operaciones SQL compatibles
Las instrucciones DDL se sincronizan únicamente en las tareas directas (del origen al destino). Las tareas inversas filtran automáticamente las instrucciones DDL.
Cuando ejecute instrucciones DDL para modificar el esquema de una tabla durante la sincronización bidireccional, asegúrese de que las escrituras DML en ambas bases de datos sean coherentes con el nuevo esquema. Por ejemplo, si elimina una columna en el origen, el destino podría seguir escribiendo datos con base en el esquema anterior que incluía dicha columna, lo que provocaría errores.
|
Tipo de operación |
Instrucción SQL |
|
DML |
INSERT, UPDATE, DELETE |
|
DDL |
Importante
|
Permisos de las cuentas de base de datos
|
Tipo de base de datos |
Permisos obligatorios |
Referencias |
|
PolarDB for PostgreSQL |
Una cuenta con privilegios que sea propietaria de la base de datos. |
|
|
RDS PostgreSQL |
Una cuenta con privilegios que sea propietaria de la base de datos. |
Procedimiento
-
Adquiera una instancia de sincronización bidireccional. Para obtener más información, consulte Purchase a DTS instance.
ImportanteEn la página de compra, establezca Function en Data Synchronization, Source Instance en PolarDB for PostgreSQL, Destination Instance en PostgreSQL y Synchronization Topology en Two-way Synchronization. Configure los demás parámetros según sus necesidades de negocio.
-
Vaya a la página de la lista de tareas de sincronización de la región de destino. Puede usar uno de los dos métodos a continuación:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menús superior, elija .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Busque la instancia de sincronización bidireccional que creó. En la columna Actions de la tarea directa, haga clic en Configure Task.
-
Configure las bases de datos de origen y de destino.
Sección
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. El nombre no tiene que ser único.
Source Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema o no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione PolarDB for PostgreSQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Este valor es fijo y corresponde a la región que seleccionó al adquirir la instancia. No es posible modificarlo.
Replicate Data Across Alibaba Cloud Accounts
Este ejemplo utiliza una instancia de base de datos que pertenece a la cuenta actual de Alibaba Cloud. Seleccione No.
Instance ID
Seleccione el ID de instancia del clúster PolarDB for PostgreSQL de origen.
Database Name
Introduzca el nombre de la base de datos que contiene los objetos que se sincronizarán en el clúster PolarDB for PostgreSQL de origen.
Database Account
Introduzca la cuenta de base de datos del clúster PolarDB for PostgreSQL de origen. Para obtener información sobre los permisos obligatorios, consulte Permission requirements for database accounts.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Destination Database
Select Existing Connection
-
Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema o no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione PostgreSQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Este valor es fijo y corresponde a la región que seleccionó al adquirir la instancia. No es posible modificarlo.
Instance ID
Seleccione el ID de la instancia ApsaraDB RDS for PostgreSQL de destino.
Database Name
Introduzca el nombre de la base de datos que recibirá los datos en la instancia ApsaraDB RDS for PostgreSQL de destino.
Database Account
Introduzca la cuenta de base de datos de la instancia ApsaraDB RDS for PostgreSQL de destino. Para obtener información sobre los permisos obligatorios, consulte Permission requirements for database accounts.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Encryption
Especifica si se cifra la conexión a la base de datos de origen. Configure este parámetro según sus necesidades de negocio. En este ejemplo, se selecciona Non-encrypted.
Si desea establecer una conexión cifrada con SSL a la base de datos de origen, siga estos pasos: seleccione SSL-encrypted, cargue el CA Certificate, el Client Certificate y la Private Key of Client Certificate según sea necesario, y luego especifique la Private Key Password of Client Certificate.
Nota-
Si establece Encryption en SSL-encrypted para una base de datos PostgreSQL autogestionada, debe cargar el CA Certificate.
-
Si desea usar el certificado de cliente, debe cargar el Client Certificate y la Private Key of Client Certificate, además de especificar la Private Key Password of Client Certificate.
-
Para obtener información sobre cómo configurar el cifrado SSL en una instancia ApsaraDB RDS for PostgreSQL, consulte SSL encryption.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los bloques CIDR de IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Este proceso se puede realizar de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
Si la base de datos de origen o de destino es autogestionada (donde Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que se van a sincronizar.
Parámetro
Descripción
Synchronization Types
Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
Exclude DDL Operations
Seleccione Yes para excluir las operaciones DDL de la sincronización.
Seleccione No para sincronizar las operaciones DDL.
ImportantePara garantizar la estabilidad del enlace de sincronización bidireccional, solo puede decidir si sincroniza las operaciones DDL en la tarea directa (de la base de datos de origen a la de destino). La tarea inversa (de la base de datos de destino a la de origen) excluye automáticamente las operaciones DDL.
Global Conflict Resolution Policy
Seleccione una directiva de resolución de conflictos según sus necesidades de negocio.
-
TaskFailed (If a conflict occurs, an error is reported and the task is stopped)
Si ocurre un conflicto de datos durante la sincronización, la tarea reporta un error y se detiene. La tarea entra en estado Failed y requiere intervención manual.
-
Ignore (If a conflict occurs, the conflicting record in the destination instance is used)
Si ocurre un conflicto de datos durante la sincronización, se omite la instrucción de sincronización actual y el proceso continúa. Se conserva el registro en conflicto de la base de datos de destino.
-
Overwrite (If a conflict occurs, the conflicting record in the destination instance is overwritten)
Si ocurre un conflicto de datos durante la sincronización, se sobrescribe el registro en conflicto de la base de datos de destino.
NotaPara obtener información sobre los tipos de conflicto compatibles, consulte Supported conflict detection.
Si una tarea de sincronización se pausa o se reinicia y se produce latencia, estas directivas no surten efecto durante ese periodo. De forma predeterminada, los datos de la base de datos de destino se sobrescriben.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe, la comprobación previa se supera correctamente. Si existe, la comprobación falla y la tarea de sincronización de datos no se inicia.
NotaSi no puede eliminar ni cambiar el nombre de la tabla homónima en la base de datos de destino, puede asignarle un nombre distinto mediante mapeo. Para obtener más información, consulte Map table and column names.
-
Ignore Errors and Proceed: omite la comprobación de nombres de tabla duplicados en la base de datos de destino.
AvisoSeleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo:
-
Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen:
-
Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza.
-
Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe al de la base de datos de destino.
-
-
Si los esquemas de las tablas son distintos, la sincronización inicial de datos puede fallar. Esto podría ocasionar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
-
Capitalization of Object Names in Destination Instance
Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados (como bases de datos, tablas y columnas) en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede optar por mantener la misma distinción que aplica la directiva predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects
En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en
para moverlo al cuadro Selected Objects.Nota-
Puede seleccionar esquemas o tablas como objetos de sincronización. Si selecciona tablas, otros objetos como vistas, desencadenadores y procedimientos almacenados no se sincronizan con la base de datos de destino.
-
Si las tablas que se van a sincronizar contienen columnas SERIAL y en Synchronization Types se seleccionó Schema Synchronization, se recomienda seleccionar también Sequence o Full Schema Synchronization.
Selected Objects
Para cambiar el nombre de un objeto en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects y modifique su nombre. Para obtener más información, consulte Map table and column names.
Para quitar un objeto, haga clic en él dentro del cuadro Selected Objects y luego haga clic en
para devolverlo al cuadro Source Objects.
NotaSi utiliza la función de mapeo de nombres de objetos, es posible que otros objetos dependientes del objeto asignado no se sincronicen correctamente.
Para filtrar datos mediante una cláusula WHERE, haga clic con el botón derecho en una tabla dentro del cuadro Selected Objects y especifique las condiciones de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Filter task data with an SQL condition.
Para seleccionar las operaciones SQL de la sincronización incremental, haga clic con el botón derecho en un objeto dentro del cuadro Selected Objects y seleccione las operaciones SQL necesarias en el cuadro de diálogo que aparece.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Si busca un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Después de que se inicia una tarea de sincronización, si la conexión a la base de datos de origen o de destino falla, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecerla en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo indicado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
Nota-
Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se aplicará la duración más corta de 30 minutos para ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de reintento según sus necesidades de negocio o liberar la instancia de DTS tan pronto como se liberen las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Una vez iniciada la tarea de sincronización, si ocurren problemas distintos a fallos de conexión en la base de datos de origen o de destino (como excepciones al ejecutar DDL o DML), DTS reporta un error y comienza de inmediato a reintentar de forma continua. La duración predeterminada de reintento es de 10 minutos. También puede personalizarla en un rango de 1 a 1440 minutos. Se recomienda configurarla en 10 minutos o más. Si las operaciones correspondientes se completan correctamente dentro del tiempo establecido, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo cual puede aumentar su carga. Para reducir esta carga, puede establecer un límite de velocidad en la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades. Este ejemplo no requiere dicha configuración.
Configure ETL
Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: deshabilita la función ETL.
-
-
Haga clic en Next: Data Validation para configurar una tarea de validación de datos.
Si desea utilizar la función de validación de datos, consulte las instrucciones de configuración en Configure data validation.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para consultar los parámetros de API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.
Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si todos los elementos de la comprobación se superan correctamente.
Si la comprobación previa falla, haga clic en View Details junto al elemento que presentó errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si la comprobación previa devuelve una advertencia:
Si un elemento falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.
Para los elementos que sí se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían presentarse problemas como inconsistencias en los datos que pongan en riesgo su negocio.
Cuando Success Rate de la comprobación previa sea del 100%, haga clic en Back.
-
Configure la tarea de sincronización inversa.
Espere a que la tarea de sincronización directa termine su inicialización y su Status cambie a Running.
En la columna Actions de la tarea inversa, haga clic en Configure Task.
-
Repita los pasos descritos entre Step 4 y Step 7 para configurar la tarea de sincronización inversa.
ImportanteAl configurar la tarea de sincronización de datos en dirección inversa, debe seleccionar correctamente las instancias de origen y de destino. La instancia de origen en sentido inverso corresponde a la instancia de destino en sentido directo, y viceversa. También debe asegurarse de que la configuración de parámetros como el nombre de la base de datos, la cuenta y la contraseña sean coherentes.
Al configurar las bases de datos de origen y de destino para la tarea de sincronización inversa, no es posible modificar el parámetro Instance Region. La cantidad de parámetros que debe configurar en una tarea de sincronización inversa es menor que en una tarea directa. Configure únicamente los parámetros que se muestran en la consola.
Cuando DTS busca tablas en conflicto en la dirección inversa, ignora las tablas que ya se sincronizaron con la instancia de destino en la dirección directa dentro de Processing Mode of Conflicting Tables.
No puede seleccionar los mismos elementos de Selected Objects de la tarea de sincronización directa para la tarea de sincronización inversa.
Se recomienda no utilizar la función de mapeo de nombres de objetos al configurar la tarea de sincronización inversa. De lo contrario, podrían generarse inconsistencias en los datos.
Cuando Success Rate de la comprobación previa sea del 100%, haga clic en Back.
Una vez configurada la tarea de sincronización inversa, espere hasta que el Status tanto de la tarea directa como de la inversa sea Running. Esto indica que la sincronización bidireccional de datos se configuró correctamente.