ApsaraDB for SelectDB consulta grandes conjuntos de datos en subsegundos, gestiona decenas de miles de consultas puntuales simultáneas y ejecuta análisis complejos de alto rendimiento. Puede utilizar DTS para migrar datos desde una base de datos MySQL, ya sea autoadministrada o una instancia de ApsaraDB RDS for MySQL, hacia ApsaraDB for SelectDB con el fin de realizar análisis de datos a gran escala. Este tema utiliza una instancia de ApsaraDB RDS for MySQL para demostrar el proceso.
Requisitos previos
Debe contar con una instancia de origen de ApsaraDB RDS for MySQL y un destino ApsaraDB for SelectDB instance.
Limitaciones
|
Tipo |
Descripción |
|
Base de datos de origen |
|
|
Otras limitaciones |
|
|
Casos especiales |
|
Facturación
|
Tipo de migración |
Cargo por configuración de tarea |
Cargo por tráfico público |
|
Migración de esquema y migración completa de datos |
Gratis. |
Gratis en este ejemplo. Nota
Se aplica un cargo por transferencia de datos por Internet si el Access Method para la base de datos de destino es Public IP Address. Para obtener más información, consulte Billing overview. |
|
Migración incremental de datos |
Con costo. Para obtener más información, consulte Billing overview. |
SQL compatible para migración incremental
|
Tipo de operación |
Sentencia SQL |
|
DML |
|
|
DDL |
|
Requisitos de permisos para cuentas de base de datos
|
Base de datos |
Migración de esquema |
Migración completa de datos |
Migración incremental de datos |
|
Origen ApsaraDB RDS for MySQL |
Permiso SELECT |
Permiso SELECT |
Permisos de lectura y escritura |
|
Destino ApsaraDB for SelectDB |
Permiso de acceso al clúster ( |
||
Para crear una cuenta de base de datos y otorgar permisos:
Instancia de ApsaraDB RDS for MySQL: Consulte Create an account y Modify account permissions.
Instancia de ApsaraDB for SelectDB: Consulte Cluster permission management y Basic permission management.
Si la cuenta de la base de datos de origen se creó fuera de la consola de ApsaraDB RDS for MySQL, asegúrese de que tenga los permisos REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW y SELECT.
Procedimiento
-
Vaya a la página de lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
Sección
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no tiene que ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos siguiente se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione MySQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside la instancia de origen de ApsaraDB RDS for MySQL.
Replicate Data Across Alibaba Cloud Accounts
Este ejemplo asume la migración de datos dentro de una sola cuenta de Alibaba Cloud. Seleccione No.
RDS Instance ID
Seleccione el ID de la instancia de origen de ApsaraDB RDS for MySQL.
Database Account
Introduzca la cuenta de la base de datos de la instancia de origen de ApsaraDB RDS for MySQL. Para obtener más información sobre los permisos obligatorios, consulte Permission requirements for database accounts.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Encryption
Seleccione Non-encrypted o SSL-encrypted según sea necesario. Si selecciona SSL-encrypted, debe habilitar previamente el cifrado SSL para la instancia de RDS for MySQL. Para obtener más información, consulte Use a cloud certificate to quickly enable SSL encryption.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos siguiente se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione ApsaraDB for SelectDB.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside la instancia de destino de ApsaraDB for SelectDB.
Replicate Data Across Alibaba Cloud Accounts
Este ejemplo asume la migración de datos dentro de una sola cuenta de Alibaba Cloud. Seleccione No.
Instance ID
Seleccione el ID de la instancia de destino de ApsaraDB for SelectDB.
Database Account
Introduzca la cuenta de la base de datos de la instancia de destino de ApsaraDB for SelectDB. Para obtener más información sobre los permisos obligatorios, consulte Permission requirements for database accounts.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
Si la base de datos de origen o de destino es autoadministrada (donde el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
-
Para realizar únicamente una migración completa de datos, seleccione tanto Schema Migration como Full Data Migration.
-
Para llevar a cabo la migración de datos sin interrumpir el servicio, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
Importante-
Al migrar datos de MySQL a ApsaraDB for SelectDB, los tipos de datos se convierten. Si no selecciona Schema Migration, debe crear previamente tablas que utilicen el modelo Unique Key o Duplicate Key en la instancia de destino de ApsaraDB for SelectDB. Para obtener más información, consulte Data type mappings, Additional columns y Data models.
-
Si no selecciona Incremental Data Migration, no escriba datos en la instancia de origen durante la migración para garantizar la consistencia de los datos.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: DTS comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con el mismo nombre, la comprobación previa se supera correctamente. Si existe una tabla con el mismo nombre, la comprobación previa reporta un error y la tarea de migración de datos no se inicia.
NotaSi no puede eliminar o cambiar el nombre de la tabla en la base de datos de destino, puede modificar el nombre de dicha tabla. Para obtener más información, consulte Map schema object names.
-
Ignore Errors and Proceed: DTS omite la comprobación de tablas con el mismo nombre en la base de datos de destino.
AvisoSi selecciona Ignore Errors and Proceed, puede producirse una inconsistencia de datos que represente riesgos para su negocio. Ejemplos:
-
Si los esquemas de las tablas son consistentes y un registro en la base de datos de destino tiene el mismo valor de clave primaria que un registro en la base de datos de origen, DTS no conserva el registro de destino. El registro de origen sobrescribe al registro de destino.
-
Si los esquemas de las tablas son inconsistentes, es posible que solo se migren datos de algunas columnas o que la migración falle. Proceda con precaución.
-
Capitalization of Object Names in Destination Instance
Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados, como bases de datos, tablas y columnas, en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede optar por mantener la distinción entre mayúsculas y minúsculas consistente con la política predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects
En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en
para moverlos al cuadro Selected Objects.NotaPuede seleccionar bases de datos o tablas como objetos de migración.
Selected Objects
-
Para cambiar los nombres de los objetos de migración en la instancia de destino, haga clic con el botón derecho en un objeto de migración en la sección Selected Objects. Para obtener más información, consulte Map schema object names.
-
Si selecciona Schema Migration para Migration Types, selecciona tablas y necesita configurar el número de buckets (el parámetro
bucket_count), haga clic con el botón derecho en una tabla en la sección Selected Objects. En el área Parameter Settings, establezca Enable Parameter Settings en Yes, especifique el Value según sus requisitos comerciales y luego haga clic en OK.
Nota-
Para seleccionar las operaciones SQL para la migración incremental a nivel de base de datos o de tabla, haga clic con el botón derecho en un objeto de migración en la sección Selected Objects y seleccione las operaciones SQL que desea migrar en el cuadro de diálogo que aparece.
-
Para establecer condiciones WHERE y filtrar datos, haga clic con el botón derecho en una tabla en la sección Selected Objects y especifique las condiciones de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Filter data.
-
Si utiliza la función de asignación de nombres de objetos, otros objetos que dependen del objeto reasignado podrían no migrarse correctamente.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar tareas de migración de DTS.
Retry Time for Failed Connections
Después de que se inicia la tarea de migración, si falla la conexión a la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer la duración en más de 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades comerciales, o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de migración, si ocurre un problema que no es de conectividad, como una excepción en la ejecución de DDL o DML, en la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer la duración en más de 10 minutos. Si las operaciones relacionadas tienen éxito dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration para Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede optar por establecer límites de velocidad para la tarea de migración incremental. Puede establecer RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration para Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus requisitos comerciales. Este parámetro no es obligatorio en este ejemplo.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: No se escribe información SQL de latido en la base de datos de origen. Esto puede causar que la instancia de DTS reporte un retraso.
-
No: Escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Configure ETL
Según sus necesidades comerciales, seleccione si desea configurar la función ETL feature para procesar datos.
Yes: Configura la función ETL. También debe introducir data processing statements en el cuadro de texto.
No: No configura la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades comerciales.
No: No configura ninguna alerta.
Yes: Configure alertas estableciendo un alert threshold y alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
Opcional: Después de completar las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields para establecer la Primary Key Column, la Distribution Key y el Engine para las tablas de destino.
NotaEste paso solo está disponible si selecciona Schema Migration para Migration Types al configurar los objetos de la tarea. Puede establecer Definition Status en All y modificar la configuración.
Para Primary Key Column, puede seleccionar varias columnas para formar una clave primaria compuesta. También debe seleccionar una o más columnas de Primary Key Column como Distribution Key.
Para una tabla que no tiene clave primaria ni restricción única, debe seleccionar duplicate para Engine. De lo contrario, la instancia podría fallar o podría producirse pérdida de datos.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de configuración de esta instancia al llamar a la operación de API, pase el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita ver los parámetros de API o ya terminó de verlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience la tarea de migración, DTS realiza una comprobación previa. La tarea solo se inicia después de superar dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento fallido, solucione el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento fallido, solucione el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, esto puede causar problemas como inconsistencia de datos y representar riesgos para su negocio.
-
Adquiera una instancia.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is resource management?
Instance Class
DTS proporciona especificaciones de migración con diferentes niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario comercial. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista de Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida la tarea, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental se está ejecutando, el Status de la tarea es Running.
Mapeo de tipos de datos
|
Categoría |
Tipo de MySQL |
Tipo de SelectDB |
|
NUMERIC |
TINYINT |
TINYINT |
|
TINYINT UNSIGNED |
SMALLINT |
|
|
SMALLINT |
SMALLINT |
|
|
SMALLINT UNSIGNED |
INT |
|
|
MEDIUMINT |
INT |
|
|
MEDIUMINT UNSIGNED |
BIGINT |
|
|
INT |
INT |
|
|
INT UNSIGNED |
BIGINT |
|
|
BIGINT |
BIGINT |
|
|
BIGINT UNSIGNED |
LARGEINT |
|
|
BIT(M) |
INT |
|
|
DECIMAL |
DECIMAL Nota
ZEROFILL no es compatible. |
|
|
NUMERIC |
DECIMAL |
|
|
FLOAT |
FLOAT |
|
|
DOUBLE |
DOUBLE |
|
|
BOOLEAN |
|
|
DATE AND TIME |
DATE |
DATEV2 |
|
DATETIME[(fsp)] |
DATETIMEV2 |
|
|
TIMESTAMP[(fsp)] |
DATETIMEV2 |
|
|
TIME[(fsp)] |
VARCHAR |
|
|
YEAR[(4)] |
INT |
|
|
STRING |
|
VARCHAR Importante
Durante la migración de datos a ApsaraDB for SelectDB, los tipos de datos CHAR y VARCHAR(n) se convierten a VARCHAR(4*n) para evitar la pérdida de datos.
|
|
STRING |
|
|
STRING |
|
|
STRING |
|
|
ENUM |
STRING |
|
|
SET |
STRING |
|
|
JSON |
STRING |
Columnas adicionales
Esta tabla describe las columnas adicionales para las tablas de destino que utilizan el modelo Duplicate key. Estas columnas las agrega DTS automáticamente o se deben agregar manualmente.
|
Parámetro |
Tipo |
Predeterminado |
Descripción |
|
_is_deleted |
Int |
0 |
Indica si el registro está eliminado.
|
|
_version |
Bigint |
0 |
|
|
_record_id |
Bigint |
0 |
|