Data Transmission Service (DTS) migra datos de MongoDB a un clúster de PolarDB for MySQL. Este tema describe el proceso de migración con un conjunto de réplicas de ApsaraDB for MongoDB como base de datos de origen.
Requisitos previos
Si la base de datos de origen es un clúster fragmentado de ApsaraDB for MongoDB, solicite un endpoint para cada nodo de fragmento. Asegúrese de que todos los nodos de fragmento usen la misma cuenta y contraseña. Para obtener instrucciones, consulte Apply for a shard endpoint.
-
Cree un clúster de destino de PolarDB for MySQL con más espacio de almacenamiento que la instancia de origen de ApsaraDB for MongoDB. Para obtener instrucciones, consulte Custom Purchase y Purchase a subscription cluster.
NotaSe recomienda que el clúster de destino tenga como mínimo un 10 % más de espacio de almacenamiento que el espacio utilizado por la base de datos de origen.
-
En el clúster de destino de PolarDB for MySQL, cree una base de datos y una tabla para recibir los datos. La tabla debe tener una clave primaria. Para obtener más información, consulte Database management.
ImportanteAsegúrese de que los tipos de datos de la tabla de destino sean compatibles con los datos de MongoDB de origen. Por ejemplo, si el campo
_iden MongoDB es un ObjectId, la columna correspondiente en el clúster de destino de PolarDB for MySQL debe ser varchar.En el clúster de PolarDB for MySQL, los nombres de columna de la tabla de destino no pueden ser _id ni _value.
Notas
Tipo | Descripción |
Limitaciones de la base de datos de origen |
|
Otras limitaciones |
|
Facturación
Tipo de migración | Cargo por configuración de la tarea | Cargo por transferencia de datos |
Migración completa de datos | Gratis. | Este tutorial es gratuito. Sin embargo, se aplica un cargo de data transfer fee si el valor de Access Method de la base de datos de destino es Public IP Address. |
Migración incremental de datos | Se aplican cargos. Para obtener más detalles, consulte billing overview. |
Tipos de migración
|
Tipo de migración |
Descripción |
|
Migración completa de datos |
DTS migra todos los datos existentes de la instancia de origen de ApsaraDB for MongoDB al clúster de destino de PolarDB for MySQL. |
|
Migración incremental de datos |
Una vez completada la migración completa de datos, DTS migra las actualizaciones incrementales de la instancia de origen de ApsaraDB for MongoDB al clúster de destino de PolarDB for MySQL. Nota
|
Permisos obligatorios para las cuentas de base de datos
|
Base de datos |
Migración completa de datos |
Migración incremental de datos |
Referencias |
|
Instancia de origen de ApsaraDB for MongoDB |
Permisos de |
Permisos de |
|
|
Clúster de destino de PolarDB for MySQL |
Permisos de |
||
Si utiliza ChangeStream como método de migración incremental, la cuenta de la base de datos de origen requiere permisos de lectura de Change Streams en toda la instancia (por ejemplo, readAnyDatabase). Si el origen es una instancia de ApsaraDB for MongoDB con una cuenta personalizada, también debe otorgarle a dicha cuenta permisos de lectura en la base de datos admin. Para obtener más detalles, consulte Permissions of the root account specified during instance creation.
Procedimiento
-
Vaya a la página de la lista de tareas de migración de la región de destino mediante uno de los métodos a continuación.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla con facilidad. El nombre no tiene que ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente.
NotaEn la consola de DMS, este parámetro se llama Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione MongoDB.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside la instancia de origen de ApsaraDB for MongoDB.
Replicate Data Across Alibaba Cloud Accounts
En este ejemplo se usa una instancia de base de datos de la cuenta actual de Alibaba Cloud. Seleccione No.
Architecture
En este ejemplo, seleccione Replica Set.
NotaSi la instancia de origen de ApsaraDB for MongoDB es un Sharded Cluster, también debe especificar la Shard account y la Shard password.
Migration Method
Seleccione un método para la migración incremental de datos según sus necesidades.
-
Oplog (recomendado):
Esta opción está disponible si hay un oplog habilitado para la base de datos de origen.
NotaEl oplog se habilita de forma predeterminada tanto en las bases de datos MongoDB autogestionadas como en las instancias de ApsaraDB for MongoDB. Este método ofrece menor latencia en la migración incremental de datos porque extrae los registros más rápido. Por lo tanto, se recomienda seleccionar Oplog.
-
ChangeStream: esta opción está disponible si Change Streams están habilitados para la base de datos de origen.
Nota-
Si la base de datos de origen es una instancia de Amazon DocumentDB (clúster no elástico), solo puede seleccionar ChangeStream.
-
Si establece Architecture en Sharded Cluster para la base de datos de origen, no necesita introducir una Shard account ni una Shard password.
-
Instance ID
Seleccione el ID de la instancia de origen de ApsaraDB for MongoDB.
Authentication Database
Introduzca el nombre de la base de datos a la que pertenece la cuenta de base de datos en la instancia de origen de ApsaraDB for MongoDB. Si no la ha modificado, el valor predeterminado es admin.
Database Account
Introduzca la cuenta de la base de datos para la instancia de origen de ApsaraDB for MongoDB. Para obtener más información sobre los permisos obligatorios, consulte Database account permissions.
Database Password
Introduzca la contraseña que corresponde a la cuenta de la base de datos.
Encryption
DTS admite tres métodos de conexión: Non-encrypted, SSL-encrypted y Mongo Atlas SSL. Las opciones de Encryption varían según el Access Method y la Architecture seleccionados. Prevalecen las opciones que se muestran en la consola.
Nota-
Una base de datos MongoDB cuya Architecture es Sharded Cluster y cuyo Migration Method es Oplog no es compatible con SSL-encrypted.
-
Si el origen es una base de datos MongoDB autogestionada (Access Method no es Alibaba Cloud Instance) con arquitectura Replica Set y usted selecciona SSL-encrypted, DTS también le permite cargar un certificado de CA para verificar la conexión.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente.
NotaEn la consola de DMS, este parámetro se llama Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione PolarDB for MySQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde reside el clúster de destino de PolarDB for MySQL.
Replicate Data Across Alibaba Cloud Accounts
En este ejemplo se usa una instancia de base de datos de la cuenta actual de Alibaba Cloud. Seleccione No.
PolarDB Cluster ID
Seleccione el ID del clúster de destino de PolarDB for MySQL.
Database Account
Introduzca la cuenta de la base de datos para el clúster de destino de PolarDB for MySQL. Para obtener más información sobre los permisos obligatorios, consulte Database account permissions.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Encryption
Seleccione una opción según sus necesidades empresariales. Para obtener más información sobre la función de cifrado SSL, consulte Enable SSL encryption.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que el segmento de direcciones IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
Si la base de datos de origen o de destino es autogestionada (es decir, Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
Si solo necesita ejecutar una migración completa, seleccione Full Data Migration.
Para ejecutar una migración sin tiempo de inactividad, seleccione tanto Full Data Migration como Incremental Data Migration.
NotaSi no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración de datos para garantizar la coherencia de los datos.
Processing Mode of Conflicting Tables
Precheck and Report Errors: comprueba si existen colecciones con los mismos nombres en la base de datos de destino. Si no existen colecciones con los mismos nombres, la comprobación previa se aprueba. Si existen colecciones con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no se inicia.
NotaSi una colección de la base de datos de destino tiene el mismo nombre pero no se puede eliminar ni renombrar fácilmente, puede cambiar el nombre de la colección en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: omite la comprobación de colecciones con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede causar incoherencia en los datos y riesgos para el negocio. Por ejemplo:
Si un registro de la base de datos de destino tiene el mismo valor de clave principal que un registro de la base de datos de origen, se conserva el registro de la base de datos de destino. El registro de la base de datos de origen no se migra a la base de datos de destino.
La inicialización de datos puede fallar, solo se pueden migrar algunos datos o la migración puede presentar errores.
Capitalization of Object Names in Destination Instance
Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados en la instancia de destino, como bases de datos, tablas y columnas. De forma predeterminada, se selecciona DTS default policy. También puede elegir mantener la distinción entre mayúsculas y minúsculas coherente con la política predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects
En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en
para moverlos al cuadro Selected Objects.NotaPuede seleccionar objetos a nivel de colección.
Selected Objects
-
Edite la asignación de nombres de bases de datos.
-
En el cuadro Selected Objects, haga clic con el botón derecho en la base de datos de origen que contiene las colecciones por migrar.
En este ejemplo, el nombre de la base de datos es dtsdb, que se encuentra en la raíz de la estructura de árbol.
-
Cambie Schema Name por el nombre de la base de datos que recibe los datos en el clúster de destino de PolarDB for MySQL. En el panel Edit Schema, cambie Schema Name por el nombre de destino (por ejemplo,
dtsdb). -
Haga clic en OK.
-
-
Edite la asignación de nombres de tablas.
-
En el cuadro Selected Objects, haga clic con el botón derecho en la colección que desea migrar.
Por ejemplo, si la estructura de árbol en el panel Selected Objects es dtsdb > Table > class, haga clic con el botón derecho en la colección de destino.
-
Cambie Table Name por el nombre de la tabla que recibe los datos en el clúster de destino de PolarDB for MySQL. Después de hacer clic con el botón derecho, puede modificar Table Name en la página Edit Table que aparece (por ejemplo,
class). Nota: después de editar el nombre de la tabla o de las columnas, el nombre de la tabla y los nombres de las columnas en la base de datos de destino cambian a los nombres nuevos. -
Opcional: establezca condiciones de filtro para la migración completa de datos. Para obtener más información, consulte Set filter conditions. En el cuadro de texto Filter Conditions, puede introducir una instrucción de filtro. La sintaxis es diferente de una cláusula WHERE estándar de SQL. Por ejemplo, para filtrar por ID de usuario, puede usar:
{"_id": {$gt:"user100844658590795**",$lte:"user101674868045948**"}}, donde$gtsignifica mayor que y$ltesignifica menor o igual que. -
Opcional: en la sección Select DDL and DML Operations to Be Synchronized, seleccione las operaciones para la migración incremental de datos. En la sección Select DML Operations to Synchronize, puede seleccionar insert, update y delete.
-
-
Configure los campos que se van a migrar desde MongoDB.
De forma predeterminada, DTS asigna los datos de las colecciones por migrar y configura expresiones en la columna Parameter Value. Compruebe si las expresiones cumplen con sus requisitos y configure parámetros como Column Name, Type, Length y Precision.
Importante-
Debe asignar el valor
bson_value("_id")a la columna de clave principal de la tabla de destino. -
Al configurar una expresión
bson_value(), debe especificar la ruta hasta el subcampo de nivel más bajo en la jerarquía. De lo contrario, pueden perderse datos o la tarea puede presentar errores.
-
En la expresión
bson_value()de la columna Parameter Value, compruebe el nombre del campo correspondiente en MongoDB.El texto dentro de las comillas (
"") es el nombre del campo en MongoDB. Por ejemplo, si la expresión esbson_value("age"), esta fila corresponde al campoageen MongoDB. -
Opcional: elimine los campos que no necesite migrar.
NotaPara eliminar un campo, haga clic en el ícono
de esa fila. -
Configure los campos que se van a migrar.
Los pasos siguientes dependen de si la expresión predeterminada
bson_value()cumple con sus requisitos.Expresiones personalizadas
NotaEsto aplica a campos con una estructura jerárquica, como una relación padre-hijo.
-
En la columna Actions, haga clic en el ícono
de la fila. -
Haga clic en + Add Column.
-
Configure Column Name, Type, Length y Precision.
ImportanteAsegúrese de que los tipos de datos de la tabla de destino sean compatibles con los datos de origen de MongoDB. Para obtener más información sobre las asignaciones de tipos de datos, consulte Data type mapping.
-
En el cuadro de texto debajo de Parameter Value, introduzca la expresión
bson_value(). Para obtener más información, consulte Assignment configuration examples. -
Repita estos pasos para asignar todos los campos relevantes.
Expresiones predeterminadas
-
Introduzca Column Name.
NotaEste es el nombre de la columna en la tabla que recibe los datos en el clúster de destino de PolarDB for MySQL.
-
Seleccione el Type de datos para la columna.
ImportanteAsegúrese de que los tipos de datos de la tabla de destino sean compatibles con los datos de origen de MongoDB. Para obtener más información sobre las asignaciones de tipos de datos, consulte Data type mapping.
-
Opcional: configure Length y Precision para los datos de la columna.
-
Repita estos pasos para asignar todos los campos relevantes.
-
-
-
Haga clic en OK.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No necesita seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar las tareas de migración de DTS.
Select the engine type of the destination database
Seleccione el motor de almacenamiento para la base de datos de destino según sus necesidades.
-
InnoDB: el motor de almacenamiento predeterminado.
-
X-Engine: un motor de almacenamiento de bases de datos para procesamiento de transacciones en línea (OLTP).
Retry Time for Failed Connections
Después de que se inicia la tarea de migración, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error e inmediatamente comienza a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer la duración en más de 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades comerciales o liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de migración, si ocurre un problema que no es de conectividad en la base de datos de origen o de destino, como una excepción en la ejecución de DDL o DML, DTS reporta un error e inmediatamente comienza a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer la duración en más de 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Only one data type for primary key _id in a table of the data to be synchronized
Especifica si el tipo de datos de la clave principal
_ides único dentro de la misma colección para los datos por migrar.Importante-
Seleccione una opción según sus necesidades. De lo contrario, pueden perderse datos.
-
Este parámetro solo está disponible si selecciona Full Data Migration en Migration Types.
-
Yes: el tipo de datos es único. Durante la migración completa de datos, DTS no analiza los tipos de datos de las claves principales en los datos de origen. Para una sola colección, DTS migra únicamente los datos que corresponden a un tipo de datos de clave principal.
-
No: el tipo de datos no es único. Durante la migración completa de datos, DTS analiza los tipos de datos de las claves principales en los datos de origen y migra todos los datos.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Puede configurar RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades. En este ejemplo no se requiere ninguna etiqueta.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: deshabilita la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades comerciales.
No: no configura ninguna alerta.
Yes: configura alertas al establecer un alert threshold y un alert notifications. Si una migración presenta errores o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de configuración de esta instancia cuando llame a la operación de la API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita ver los parámetros de la API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que se inicie la tarea de migración, DTS ejecuta una comprobación previa. La tarea solo se inicia después de aprobar dicha comprobación.
Si la comprobación previa presenta errores, haga clic en View Details junto al elemento con errores, resuelva el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento con errores, resuelva el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de alerta y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, esto puede causar problemas como incoherencia en los datos y representar riesgos para su negocio.
-
Adquiera la instancia.
Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la tabla siguiente.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
Instance Class
DTS proporciona especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario empresarial. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de la lista Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida la tarea, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental se está ejecutando, el Status de la tarea es Running.
Mapeo de tipos de datos
|
Tipo de MongoDB |
Tipo de PolarDB for MySQL |
|
ObjectId |
VARCHAR |
|
String |
VARCHAR |
|
Document |
VARCHAR |
|
DbPointer |
VARCHAR |
|
Array |
VARCHAR |
|
Date |
DATETIME |
|
Timestamp |
DATETIME |
|
Double |
DOUBLE |
|
32-bit integer (BsonInt32) |
INTEGER |
|
64-bit integer (BsonInt64) |
BIGINT |
|
Decimal128 |
DECIMAL |
|
Boolean |
BOOLEAN |
|
Null |
VARCHAR |
Ejemplo de configuración de asignación
Estructura de datos de MongoDB de origen
{
"_id":"62cd344c85c1ea6a2a9f****",
"person":{
"name":"neo",
"age":26,
"sex":"male"
}
}
Esquema de la tabla de destino
|
Parámetro |
Tipo |
|
mongo_id |
varchar Nota
Columna de clave principal. |
|
person_name |
varchar |
|
person_age |
decimal |
Nuevas columnas
Debe especificar la ruta jerárquica completa en la expresión bson_value() para evitar la pérdida de datos o el fallo de la tarea. Por ejemplo, si establece la expresión como bson_value("person"), DTS no puede sincronizar los datos incrementales de los subcampos del objeto person (como name, age y sex) hacia el destino.
|
Parámetro |
Tipo |
Valor |
|
mongo_id |
STRING |
bson_value("_id") |
|
person_name |
STRING |
bson_value("person","name") |
|
person_age |
DECIMAL |
bson_value("person","age") |