Data Transmission Service (DTS) le permite sincronizar datos desde una base de datos SQL Server autogestionada hacia AnalyticDB for PostgreSQL para analizarlos en tiempo real.
Requisitos previos
La versión de su base de datos SQL Server autogestionada debe ser compatible. Para obtener más información, consulte Synchronization solution overview.
Debe haber creado una instancia de destino de AnalyticDB for PostgreSQL. Para ver las instrucciones, consulte Create an instance.
La instancia de destino de AnalyticDB for PostgreSQL debe contar con más espacio de almacenamiento que la base de datos SQL Server autogestionada de origen.
-
Se recomienda dividir una tarea de sincronización en varias tareas si la instancia de origen cumple alguna de las siguientes condiciones:
La instancia de origen tiene más de 10 bases de datos.
Se generan copias de seguridad de registros más de una vez por hora para una sola base de datos.
Se ejecutan más de 100 operaciones de lenguaje de definición de datos (DDL) por hora en una sola base de datos.
La tasa de generación de registros de una sola base de datos supera los 20 MB/s.
Es necesario habilitar la captura de datos modificados (CDC) en más de 1,000 tablas.
Limitaciones
Durante la sincronización de esquemas, DTS sincroniza las claves externas de la base de datos de origen a la de destino.
Durante la sincronización completa e incremental de datos, DTS deshabilita temporalmente las comprobaciones de restricciones y las operaciones en cascada de claves externas a nivel de sesión. Si se ejecutan operaciones de actualización o eliminación en cascada en la base de datos de origen mientras la tarea está en ejecución, pueden producirse inconsistencias en los datos.
|
Tipo |
Descripción |
|
Limitaciones de la base de datos de origen |
|
|
Otras limitaciones |
|
|
Casos especiales |
Cuando la instancia de origen es ApsaraDB RDS for SQL Server, DTS crea la cuenta |
Facturación
|
Tipo de sincronización |
Precio |
|
Sincronización de esquemas y sincronización completa de datos |
Sin costo. |
|
Sincronización incremental de datos |
Con costo. Para obtener más información, consulte Billing overview. |
Topologías de sincronización
Sincronización unidireccional uno a uno
Sincronización unidireccional uno a varios
Sincronización unidireccional varios a uno
Para consultar una introducción a estas topologías y sus consideraciones clave, consulte Synchronization topologies.
Operaciones SQL compatibles
|
Tipo |
Sentencia SQL |
|
DML |
INSERT, UPDATE y DELETE Nota
|
|
DDL |
Nota
|
Permisos de las cuentas de base de datos
|
Base de datos |
Permisos obligatorios |
Referencias |
|
SQL Server autogestionado |
sysadmin |
|
|
Instancia de AnalyticDB for PostgreSQL |
Nota
También puede utilizar la cuenta inicial de la instancia de AnalyticDB for PostgreSQL. |
Create and manage a database account y Manage users and permissions |
Requisitos previos
Antes de configurar una tarea de sincronización de datos, debe ajustar la configuración de registros y crear un índice agrupado en su base de datos SQL Server autogestionada.
Para sincronizar varias bases de datos, repita los pasos 1 a 3 en cada una de ellas y así evitar inconsistencias en los datos.
-
Ejecute el siguiente comando en su base de datos SQL Server autogestionada para cambiar el modelo de recuperación a full. También puede usar SQL Server Management Studio (SSMS) para modificarlo. Para obtener más información, consulte View or Change the Recovery Model of a Database (SQL Server).
use master; GO ALTER DATABASE <database_name> SET RECOVERY FULL WITH ROLLBACK IMMEDIATE; GOParámetros:
<database_name>: el nombre de la base de datos que se va a sincronizar.Ejemplo:
use master; GO ALTER DATABASE mytestdata SET RECOVERY FULL WITH ROLLBACK IMMEDIATE; GO -
Ejecute el siguiente comando para crear una copia de seguridad lógica de la base de datos de origen. Si ya cuenta con una, omita este paso.
BACKUP DATABASE <database_name> TO DISK='<physical_backup_device_name>'; GOParámetros:
<database_name>: el nombre de la base de datos de origen.<physical_backup_device_name>: la ruta y el nombre del archivo de la copia de seguridad.
Ejemplo:
BACKUP DATABASE mytestdata TO DISK='D:\backup\dbdata.bak'; GO -
Ejecute el siguiente comando para crear una copia de seguridad de registros de la base de datos de origen.
BACKUP LOG <database_name> to DISK='<physical_backup_device_name>' WITH init; GOParámetros:
<database_name>: el nombre de la base de datos de origen.<physical_backup_device_name>: la ruta y el nombre del archivo de la copia de seguridad.
Ejemplo:
BACKUP LOG mytestdata TO DISK='D:\backup\dblog.bak' WITH init; GO
Procedimiento
-
Vaya a la página de lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menús superior, elija .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla fácilmente. El nombre no tiene que ser único.
Source Database
Database Type
Seleccione SQL Server.
Access Method
Seleccione un tipo de conexión según el despliegue de su base de datos de origen. En este ejemplo, seleccione Self-managed Database on ECS.
NotaSi elige otro tipo de conexión para su base de datos autogestionada, debe completar los preparativos correspondientes. Para obtener más información, consulte Overview of preparations.
Instance Region
Seleccione la región de la instancia de ECS que aloja su base de datos SQL Server autogestionada.
ECS Instance ID
Seleccione el ID de la instancia de ECS que aloja la base de datos SQL Server autogestionada.
Port Number
Introduzca el puerto de servicio de la base de datos SQL Server autogestionada. El valor predeterminado es 1433.
Database Account
Introduzca la cuenta de la base de datos SQL Server autogestionada. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Encryption
Seleccione Non-encrypted o SSL-encrypted.
-
Si el cifrado SSL no está habilitado en la base de datos de origen, seleccione Non-encrypted.
-
Si el cifrado SSL está habilitado en la base de datos de origen, seleccione SSL-encrypted. De forma predeterminada, DTS confía en el certificado del servidor.
Destination Database
Database Type
Seleccione AnalyticDB for PostgreSQL.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región de la instancia de destino de AnalyticDB for PostgreSQL.
Instance ID
Seleccione el ID de la instancia de destino de AnalyticDB for PostgreSQL.
Database Name
Introduzca el nombre de la base de datos de destino dentro de la instancia de AnalyticDB for PostgreSQL.
Database Account
Introduzca la cuenta de la instancia de destino de AnalyticDB for PostgreSQL. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página. En el cuadro de diálogo CIDR Blocks of DTS Servers, haga clic en Test Connectivity.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde dichos servidores y se puede configurar de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea sincronizar.
Parámetro
Descripción
Synchronization Types
Se selecciona Incremental Data Synchronization. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe, la comprobación previa se supera correctamente. Si ya existe una tabla con ese nombre, la comprobación falla y la tarea de sincronización de datos no se inicia.
NotaSi no puede eliminar ni cambiar el nombre de la tabla duplicada en la base de datos de destino, puede asignarle un nombre distinto mediante mapeo. Para obtener más información, consulte Map table and column names.
-
Ignore Errors and Proceed: omite la comprobación de nombres de tabla duplicados en la base de datos de destino.
AvisoSeleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo:
-
Si los esquemas de las tablas son idénticos y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen:
-
Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza.
-
Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el de la base de datos de destino.
-
-
Si los esquemas de las tablas son distintos, la sincronización inicial de datos puede fallar. Esto podría provocar que solo se sincronicen parcialmente las columnas o que falle por completo la sincronización. Proceda con precaución.
-
SQL Server Incremental Synchronization Mode
-
Log-based Parsing for Non-heap Tables and CDC-based Incremental Synchronization for Heap Tables (Hybrid Log-based Parsing):
-
Ventajas:
-
Admite escenarios con tablas heap, tablas sin clave primaria, tablas comprimidas y tablas con columnas calculadas en la base de datos de origen.
-
Ofrece alta estabilidad en el enlace. Este método obtiene sentencias DDL completas y proporciona compatibilidad integral para escenarios DDL.
-
-
Desventajas:
-
DTS crea un desencadenador dts_cdc_sync_ddl, una tabla de latidos dts_sync_progress y una tabla de almacenamiento DDL dts_cdc_ddl_history en la base de datos de origen. También habilita CDC a nivel de base de datos y para algunas tablas.
-
No puede ejecutar sentencias SELECT INTO, TRUNCATE, RENAME COLUMN ni de modificación de tipos de columna en las tablas que tienen CDC habilitado en la base de datos de origen. El desencadenador creado por DTS en dicha base de datos no se puede eliminar manualmente.
NotaLas tablas que contienen tipos geometry, geography o hierarchyid no admiten la activación de CDC.
-
-
-
Incremental Synchronization Based on Logs of Source Database (Heap tables are not supported):
-
Ventajas:
Este método no interfiere con la base de datos de origen.
-
Desventajas:
No admite escenarios con tablas heap, tablas sin clave primaria, tablas comprimidas ni tablas con columnas calculadas en la base de datos de origen.
-
-
Polling and querying CDC instances for incremental synchronization:
-
Ventajas:
-
Admite la sincronización completa e incremental cuando la base de datos de origen es Amazon RDS for SQL Server, Azure SQL Database, Azure SQL Managed Instance, Azure SQL Server on Virtual Machine o Google Cloud SQL for SQL Server.
-
Este método utiliza el componente nativo Change Data Capture (CDC) de SQL Server para obtener datos incrementales. Esto hace que la sincronización incremental sea más estable y consuma menos ancho de banda de red.
-
-
Desventajas:
-
La cuenta de la base de datos de origen utilizada por la instancia de DTS debe tener permiso para habilitar CDC. Existe un retraso aproximado de 10 segundos en la sincronización de datos incrementales.
-
En escenarios donde se sincronizan varias bases de datos y tablas, pueden surgir riesgos de problemas de estabilidad y rendimiento.
-
-
The maximum number of tables for which CDC is enabled that DTS supports.
Esta configuración limita el número de tablas en las que se puede habilitar CDC dentro de la instancia de sincronización actual. El valor predeterminado es 1000.
NotaEste parámetro no está disponible si establece SQL Server Incremental Synchronization Mode en Incremental Synchronization Based on Logs of Source Database (Heap tables are not supported).
DDL and DML Operations to Be Synchronized
Seleccione las operaciones DDL o DML que desea sincronizar a nivel de instancia. Para obtener información sobre las operaciones compatibles, consulte Supported SQL operations.
NotaPara elegir qué operaciones SQL sincronizar en una base de datos o tabla específica, haga clic con el botón derecho en el objeto de sincronización dentro del cuadro Selected Objects. En el cuadro de diálogo que aparece, seleccione las operaciones SQL deseadas.
Storage Engine Type
Seleccione el tipo de motor de almacenamiento para las tablas de destino. El valor predeterminado es Beam.
NotaEste parámetro solo está disponible cuando la versión del kernel de la instancia de destino de AnalyticDB for PostgreSQL es v7.0.6.6 o posterior, y se ha seleccionado Synchronization Types para Schema Synchronization.
Source Objects
En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego en
para moverlo al cuadro Selected Objects.NotaEste escenario implica la sincronización entre bases de datos heterogéneas. Por lo tanto, solo puede seleccionar tablas como objetos de sincronización. Otros elementos, como vistas, desencadenadores y procedimientos almacenados, no se sincronizan con la base de datos de destino.
Selected Objects
-
Para cambiar el nombre de un único objeto de sincronización en la instancia de destino, haga clic con el botón derecho en dicho objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar nombres de objetos, consulte Map a single database, table, or column.
-
Para modificar por lotes los nombres de varios objetos de sincronización en la instancia de destino, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch.
Nota-
Para elegir las operaciones SQL que se sincronizarán a nivel de base de datos o de tabla, haga clic con el botón derecho en un objeto de la lista Selected Objects y seleccione las operaciones deseadas en el cuadro de diálogo que aparece.
-
Para definir una condición WHERE que filtre los datos, haga clic con el botón derecho en una tabla de la lista Selected Objects y especifique la condición en el cuadro de diálogo resultante. Consulte las instrucciones en Configure filter conditions.
-
Si utiliza el mapeo de objetos, es posible que algunos objetos dependientes no se sincronicen correctamente.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no necesita seleccionar ninguno. Si busca un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Una vez iniciada la tarea de sincronización, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error y comienza a reintentar la conexión de inmediato. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecerla en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo indicado, la tarea de sincronización se reanuda automáticamente; de lo contrario, falla.
Nota-
Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se aplicará la duración más corta de 30 minutos a ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar esta duración según sus necesidades de negocio. También puede liberar la instancia de DTS tan pronto como libere las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Después de iniciar la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar DDL o DML), DTS reporta un error y comienza a reintentar de forma continua. La duración predeterminada de reintento es de 10 minutos. Puede personalizar este valor en un rango de 1 a 1440 minutos, aunque se recomienda configurarlo en 10 minutos o más. Si las operaciones correspondientes se completan correctamente dentro del tiempo establecido, la tarea de sincronización se reanuda automáticamente; de lo contrario, falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo cual puede aumentar su carga. Para reducir esta carga, puede establecer un límite de velocidad en la tarea de sincronización completa mediante los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Enclose Object Names in Quotation Marks
Decida si desea agregar comillas a los nombres de los objetos de destino. Si selecciona Yes y se cumple alguna de las siguientes condiciones, DTS agregará comillas simples o dobles a los nombres de los objetos de destino durante las fases de sincronización inicial de esquemas y de sincronización incremental de datos:
-
El entorno de negocio de la base de datos de origen distingue entre mayúsculas y minúsculas, y utiliza una combinación de ambas.
-
El nombre de la tabla de origen no comienza con una letra y contiene caracteres distintos de letras, números o caracteres especiales.
NotaComo caracteres especiales, solo se admiten guiones bajos (_), signos de número (#) y signos de dólar ($).
-
El nombre del esquema, la tabla o la columna que se va a sincronizar es una palabra clave, una palabra reservada o un carácter no válido en la base de datos de destino.
NotaSi decide agregar comillas, deberá utilizar el nombre del objeto de destino entre comillas para realizar consultas una vez finalizada la tarea de sincronización de datos.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades de negocio. Este paso no es obligatorio en este ejemplo.
Configure ETL
Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: habilita la función ETL. Introduzca las sentencias de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: deshabilita la función ETL.
Monitoring and Alerting
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral definido, se enviará una notificación a un contacto de alerta.
-
No: no se configuran alertas.
-
Yes: configura las alertas definiendo un umbral y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
-
-
Haga clic en Next: Data Validation para configurar una tarea de validación de datos.
Si desea utilizar la función de validación de datos, consulte Configure data validation para ver las instrucciones de configuración.
-
Opcional: tras completar las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields para especificar los campos Type, Primary Key Column y Distribution Key de las tablas de destino en la instancia de AnalyticDB for PostgreSQL.
NotaEste paso solo está disponible si seleccionó Schema Synchronization en Synchronization Types al configurar los objetos de sincronización. Puede modificar la configuración estableciendo Definition Status en All.
El campo Primary Key Column puede ser una clave compuesta por varias columnas. Debe seleccionar una o más columnas de Primary Key Column para que funcionen como Distribution Key. Para obtener más información, consulte Manage tables y Define table distribution.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para consultar los parámetros de API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en el globo emergente.
Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si todos los elementos de esta comprobación se superan correctamente.
Si la comprobación previa falla, haga clic en View Details junto al elemento con errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación.
-
Si la comprobación previa devuelve una advertencia:
Si un elemento falla y no se puede ignorar, haga clic en View Details junto a él. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.
Para los elementos que sí se pueden omitir, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para saltar la advertencia y repetir la comprobación. Tenga en cuenta que ocultar un elemento de advertencia puede generar problemas como inconsistencias en los datos y poner en riesgo su negocio.
-
Adquiera la instancia.
Cuando el valor de Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. A continuación se describen estos parámetros en detalle.
Categoría
Parámetro
Descripción
New Instance Class
Billing Method
-
Subscription: paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento.
-
Pay-as-you-go: se le cobra por hora. Resulta ideal para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
Resource Group Configuration
El resource group al que pertenece la instancia. De forma predeterminada, es el resource group predeterminado. Para obtener más información, consulte What is Resource Management?.
Link Specification
DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Elija una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
Subscription Duration
En el modo subscription, seleccione la duración y la cantidad de instancias de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una anual de 1, 2, 3 o 5 años.
NotaEsta opción solo está disponible cuando el método de facturación es Subscription.
-
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.
Puede consultar el progreso de la tarea en la página Data Synchronization.