Data Transmission Service (DTS) le permite migrar datos desde una base de datos SQL Server autogestionada hacia AnalyticDB for PostgreSQL para realizar análisis en tiempo real.
Requisitos previos
Esta tarea de migración de datos solo se configura en la nueva consola.
La base de datos SQL Server autogestionada debe usar una versión compatible. Para obtener más información, consulte Overview of migration solutions.
Cree la instancia de destino de AnalyticDB for PostgreSQL. Para obtener más información, consulte Create an instance.
La instancia de destino de AnalyticDB for PostgreSQL debe tener más espacio de almacenamiento disponible que la base de datos SQL Server autogestionada.
-
Si la instancia de origen cumple alguna de las siguientes condiciones, divídala en varias tareas de migración.
La instancia de origen tiene más de 10 bases de datos.
Se generan copias de seguridad de registros más de una vez por hora para una sola base de datos.
Se ejecutan más de 100 operaciones de lenguaje de definición de datos (DDL) por hora en una sola base de datos.
La tasa de generación de registros de una sola base de datos supera los 20 MB/s.
Debe habilitar la captura de datos modificados (CDC) en más de 1000 tablas.
Límites
DTS migra las claves externas durante la migración del esquema.
Durante la migración completa e incremental de datos, DTS deshabilita temporalmente las comprobaciones de restricciones y las cascadas de claves externas a nivel de sesión. Las actualizaciones o eliminaciones en cascada en la base de datos de origen mientras se ejecuta la tarea pueden provocar inconsistencias en los datos.
|
Tipo |
Descripción |
|
Límites de la base de datos de origen |
|
|
Otros límites |
|
|
Casos especiales |
Si el origen es una instancia ApsaraDB RDS for SQL Server, DTS crea una cuenta del sistema llamada |
Facturación
|
Tipo de migración |
Cargo por configuración de la instancia |
Cargo por tráfico de Internet |
|
Migración de esquema y migración completa de datos |
Sin cargo. |
Cuando el parámetro Access Method de la base de datos de destino se establece en Public IP Address, se cobra el tráfico de Internet. Para obtener más información, consulte Billing overview. |
|
Migración incremental de datos |
Con cargo. Para obtener más información, consulte Billing overview. |
Tipos de migración
-
Migración de esquema
DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la base de datos de destino.
Los objetos de esquema compatibles incluyen esquemas, tablas, vistas, funciones y procedimientos.
Los objetos de esquema no compatibles incluyen ensamblados, service brokers, índices de texto completo, catálogos de texto completo, esquemas distribuidos, funciones distribuidas, procedimientos almacenados de Common Language Runtime (CLR), funciones con valores escalares CLR, funciones con valores de tabla CLR, tablas internas, objetos del sistema y funciones de agregado.
AvisoEn las migraciones entre bases de datos heterogéneas, es posible que los tipos de datos no se asignen directamente. Evalúe cuidadosamente el impacto empresarial de las asignaciones de tipos de datos. Para obtener más información, consulte Data type mapping for heterogeneous databases.
-
Migración completa
DTS migra todos los datos históricos de los objetos de migración especificados desde la base de datos de origen hacia la base de datos de destino.
-
Migración incremental
Una vez finalizada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la base de datos de destino. La migración incremental le permite migrar los datos de forma fluida sin interrumpir sus aplicaciones autogestionadas.
Operaciones SQL para la migración incremental
|
Tipo |
Instrucción SQL |
|
DML |
Nota
|
|
DDL |
Nota
|
Permisos de las cuentas de base de datos
|
Base de datos |
Migración de esquema |
Migración completa |
Migración incremental |
|
Base de datos SQL Server autogestionada |
Permiso SELECT |
Permiso SELECT |
sysadmin |
|
Instancia de AnalyticDB for PostgreSQL |
Nota
También puede utilizar la cuenta inicial de la instancia de AnalyticDB for PostgreSQL. |
||
Para obtener más información sobre cómo crear cuentas de base de datos y otorgarles permisos, consulte los siguientes temas:
Base de datos SQL Server autogestionada: CREATE USER y GRANT (Transact-SQL).
Instancia de AnalyticDB for PostgreSQL: Create and manage a database account y Manage users and permissions.
Requisitos previos
Para llevar a cabo una migración incremental, debe configurar los ajustes de registro y crear índices agrupados en su base de datos SQL Server autogestionada antes de configurar la tarea de migración de datos.
Si necesita migrar varias bases de datos, debe repetir los pasos 1 al 3 para cada una de ellas. De lo contrario, podrían producirse inconsistencias en los datos.
-
Ejecute el siguiente comando en su base de datos SQL Server autogestionada para cambiar el modelo de recuperación de la base de datos de origen al modelo de recuperación completa.
use master; GO ALTER DATABASE <database_name> SET RECOVERY FULL WITH ROLLBACK IMMEDIATE; GOParámetros:
<database_name>: el nombre de la base de datos de origen.
Ejemplo:
use master; GO ALTER DATABASE mytestdata SET RECOVERY FULL WITH ROLLBACK IMMEDIATE; GO -
Ejecute el siguiente comando para crear una copia de seguridad lógica de la base de datos de origen. Puede omitir este paso si ya existe una copia de seguridad lógica.
BACKUP DATABASE <database_name> TO DISK='<physical_backup_device_name>'; GOParámetros:
<database_name>: el nombre de la base de datos de origen.
<physical_backup_device_name>: la ruta y el nombre del archivo de copia de seguridad.
Ejemplo:
BACKUP DATABASE mytestdata TO DISK='D:\backup\dbdata.bak'; GO -
Ejecute el siguiente comando para respaldar el registro de transacciones de la base de datos de origen.
BACKUP LOG <database_name> to DISK='<physical_backup_device_name>' WITH init; GOParámetros:
<database_name>: el nombre de la base de datos de origen.
<physical_backup_device_name>: la ruta y el nombre del archivo de copia de seguridad.
Ejemplo:
BACKUP LOG mytestdata TO DISK='D:\backup\dblog.bak' WITH init; GO
Procedimiento
-
Vaya a la página de la lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, le recomendamos leer detenidamente los límites que se muestran en la parte superior de la página. De lo contrario, la tarea podría terminar con errores o presentarse inconsistencias en los datos.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre para la tarea. Le recomendamos especificar un nombre descriptivo para identificarla fácilmente. No es necesario que el nombre sea único.
Source Database
Database Type
Seleccione SQL Server.
Access Method
Seleccione Self-managed Database on ECS.
NotaSi selecciona una base de datos autogestionada en ECS, debe completar los preparativos obligatorios. Para obtener más información, consulte Preparation overview.
Instance Region
Seleccione la región donde se encuentra la base de datos SQL Server autogestionada.
ECS Instance ID
Introduzca el identificador de la instancia de Elastic Compute Service (ECS) que aloja la base de datos SQL Server autogestionada.
Port Number
Introduzca el número de puerto de servicio de la base de datos SQL Server autogestionada. El valor predeterminado es 1433.
Database Account
Introduzca la cuenta de la base de datos SQL Server autogestionada. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Encryption
Seleccione Non-encrypted o SSL-encrypted según sus requisitos de negocio.
-
Si el cifrado SSL está deshabilitado en la base de datos de origen, seleccione Non-encrypted.
-
Si el cifrado SSL está habilitado en la base de datos de origen, seleccione SSL-encrypted. De forma predeterminada, DTS confía en el certificado del servidor.
Destination Database
Database Type
Seleccione AnalyticDB for PostgreSQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de destino de AnalyticDB for PostgreSQL.
Instance ID
Seleccione el identificador de la instancia de destino de AnalyticDB for PostgreSQL.
Database Name
Introduzca el nombre de la base de datos que contiene los objetos de migración en la instancia de destino de AnalyticDB for PostgreSQL.
Database Account
Introduzca la cuenta de la base de datos de la instancia de destino de AnalyticDB for PostgreSQL. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página. En el cuadro de diálogo CIDR Blocks of DTS Servers que aparece, haga clic en Test Connectivity.
NotaAsegúrese de que los segmentos de direcciones IP del servicio DTS se agreguen automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
Si solo necesita ejecutar una migración completa, seleccione tanto Schema Migration como Full Data Migration.
Para ejecutar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
NotaSi no selecciona Schema Migration, asegúrese de que existan una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sea necesario.
Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración de datos para garantizar la consistencia de los datos.
Processing Mode for Existing Destination Tables
Precheck and Report Errors: comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se supera. Si existen tablas con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no se inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar ni renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y riesgos para el negocio. Por ejemplo:
Si los esquemas de las tablas son consistentes y un registro en la base de datos de destino tiene el mismo valor de clave primaria que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
Si los esquemas de las tablas son inconsistentes, es posible que solo se migren algunas columnas de datos o que la migración termine con errores. Proceda con precaución.
SQL Server Incremental Synchronization Mode
Log-based Parsing for Non-heap Tables and CDC-based Incremental Synchronization for Heap Tables (Hybrid Log-based Parsing):
Ventajas:
Admite escenarios que involucran tablas heap de origen, tablas sin claves primarias, tablas comprimidas o tablas con columnas calculadas.
Ofrece alta estabilidad del enlace. Este modo puede obtener instrucciones DDL completas y admite una amplia variedad de escenarios DDL.
Desventajas:
DTS crea el trigger
dts_cdc_sync_ddl, la tabla de latidosdts_sync_progressy la tabla de almacenamiento DDLdts_cdc_ddl_historyen la base de datos de origen. También habilita CDC a nivel de base de datos y CDC para algunas tablas.No puede ejecutar instrucciones
SELECT INTO,TRUNCATEniRENAME COLUMNen tablas con CDC habilitado en la base de datos de origen. Tampoco puede eliminar manualmente los triggers creados por DTS en la base de datos de origen.
Incremental Synchronization Based on Logs of Source Database (Heap tables are not supported):
Ventaja:
Este modo no interfiere con la base de datos de origen.
Desventaja:
Este modo no admite escenarios que involucran tablas heap de origen, tablas sin claves primarias, tablas comprimidas o tablas con columnas calculadas.
Polling and querying CDC instances for incremental synchronization:
Ventajas:
Admite la migración completa e incremental cuando la base de datos de origen es Amazon RDS for SQL Server, Azure SQL Database, Azure SQL Managed Instance, Azure SQL Server on Virtual Machine o Google Cloud SQL for SQL Server.
Este modo utiliza el componente CDC nativo de SQL Server para obtener datos incrementales, lo que mejora la estabilidad de la migración incremental y reduce el uso del ancho de banda de red.
Desventajas:
La cuenta de la base de datos de origen que usa la instancia de DTS debe tener los permisos para habilitar CDC. La migración incremental de datos presenta una latencia de aproximadamente 10 segundos.
Cuando migra varias tablas en múltiples bases de datos, podría enfrentar problemas de estabilidad y rendimiento.
NotaEste parámetro solo está disponible si selecciona Migration Types para Incremental Data Migration.
The maximum number of tables for which CDC is enabled that DTS supports.
Puede establecer un límite en la cantidad de tablas con CDC habilitado para la instancia de migración actual según sus requisitos de negocio. El valor predeterminado es 1,000.
NotaEste parámetro no está disponible si establece SQL Server Incremental Synchronization Mode en Incremental Synchronization Based on Logs of Source Database (Heap tables are not supported).
Select DDL and DML to Sync at the Instance Level
Seleccione las operaciones SQL para la migración incremental de datos a nivel de instancia. Para obtener información sobre las operaciones compatibles, consulte Supported SQL operations for incremental migration.
NotaPara seleccionar las operaciones SQL para la migración incremental a nivel de base de datos o de tabla, haga clic con el botón derecho en un objeto de migración en el cuadro Selected Objects y seleccione las operaciones SQL deseadas.
Storage Engine Type
Seleccione un motor de almacenamiento para las tablas de destino según sus requisitos de negocio. El valor predeterminado es Beam.
NotaEste parámetro solo está disponible si la instancia de destino de AnalyticDB for PostgreSQL tiene una versión de kernel v7.0.6.6 o posterior y si seleccionó Migration Types para el parámetro Schema Migration.
Source Objects
En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en
para moverlos al cuadro Selected Objects.NotaEste escenario corresponde a una migración entre bases de datos heterogéneas. Por lo tanto, la granularidad para seleccionar los objetos de migración es la tabla. Otros objetos, como vistas, triggers y procedimientos almacenados, no se migran a la base de datos de destino.
Selected Objects
-
Para cambiar el nombre de un solo objeto de migración en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información, consulte Map individual schema, table, and column names.
-
Para cambiar los nombres de varios objetos de migración en la instancia de destino, haga clic en Selected Objects en la esquina superior derecha del cuadro Batch Edit. Para obtener más información, consulte Map multiple schema, table, and column names.
Nota-
Si utiliza la función de asignación de nombres de objetos, otros objetos que dependan del objeto renombrado podrían fallar durante la migración.
-
Para filtrar datos mediante condiciones WHERE, haga clic con el botón derecho en una tabla que desea migrar en el panel Selected Objects y especifique las condiciones de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Set filter conditions.
-
Para seleccionar las operaciones SQL para la migración a nivel de base de datos o de tabla, haga clic con el botón derecho en un objeto de migración en el panel Selected Objects y seleccione las operaciones SQL requeridas en el cuadro de diálogo que aparece.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar las tareas de migración de DTS.
Retry Time for Failed Connections
Después de que se inicia la tarea de migración, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Se recomienda establecer una duración superior a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea termina con errores.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, le recomendamos personalizar el tiempo de reintento según sus necesidades de negocio o liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de migración, si ocurre un problema distinto a la conectividad en la base de datos de origen o de destino, como una excepción en la ejecución de DDL o DML, DTS reporta un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Se recomienda establecer una duración superior a 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea termina con errores.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration para Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede optar por establecer límites de velocidad para la tarea de migración incremental. Puede establecer RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration para Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus requisitos de negocio. Esto no es obligatorio para este ejemplo.
Configure ETL
Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: deshabilita la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades de negocio.
No: no configura ninguna alerta.
Yes: configura alertas al establecer un alert threshold y un alert notifications. Si una migración termina con errores o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
Haga clic en Next: Data Validation para configurar una tarea de validación de datos.
Para obtener más información sobre la función de validación de datos, consulte Configure data validation.
-
Opcional: Después de completar las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields para establecer Type, Primary Key Column y Distribution Key de las tablas que se van a migrar en la instancia de destino de AnalyticDB for PostgreSQL.
NotaEste paso solo está disponible si seleccionó Migration Types para Schema Migration al configurar los objetos de migración. Para modificarlo, puede establecer Definition Status en All.
Puede seleccionar varias columnas para Primary Key Column y formar una clave primaria compuesta. También debe seleccionar una o más columnas de Primary Key Column para que sirvan como Distribution Key. Para obtener más información, consulte Manage data tables y Table distribution.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de configuración de esta instancia al llamar a la operación de API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita ver los parámetros de API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience la tarea de migración, DTS ejecuta una comprobación previa. La tarea se inicia únicamente después de superar dicha comprobación.
Si la comprobación previa termina con errores, haga clic en View Details junto al elemento que falló, resuelva el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento que falló, resuelva el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como inconsistencias en los datos y representar riesgos para su negocio.
-
Adquiera la instancia.
Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
Instance Class
DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental está en ejecución, el Status de la tarea es Running.