Data Transmission Service:Migración de MongoDB a AnalyticDB for MySQL V3.0

Requisitos previos

• Si el origen es un clúster fragmentado de ApsaraDB for MongoDB, solicite un endpoint para cada fragmento. Todos los fragmentos deben usar el mismo nombre de usuario y contraseña. Para obtener más información, consulte Apply for a shard endpoint.

• Cuenta con un clúster de destino de AnalyticDB for MySQL 3.0 cuyo espacio de almacenamiento supere el que utiliza la instancia de origen de ApsaraDB for MongoDB. Para obtener más información, consulte Create a cluster.

  Nota

  La instancia de destino debe tener como mínimo un 10 % más de espacio de almacenamiento del que usa la instancia de origen.

• En el clúster de destino de AnalyticDB for MySQL 3.0, debe contar con una base de datos y una tabla que tenga clave primaria. Para obtener más información, consulte CREATE DATABASE y CREATE TABLE.

  Importante

  • Los tipos de datos de la tabla de destino deben ser compatibles con los datos de MongoDB de origen. Por ejemplo, si el campo _id en MongoDB es de tipo ObjectId, el tipo de dato correspondiente en el clúster de AnalyticDB for MySQL 3.0 debe ser varchar.

  • En un clúster de AnalyticDB for MySQL 3.0, no asigne a las columnas de la tabla de destino los nombres _id ni _value.

• Ejecute el comando SET ADB_CONFIG ALLOW_MULTI_QUERIES=true; en el clúster de destino de AnalyticDB for MySQL 3.0 para habilitar Multi-Statement.

  Nota

  Solo los clústeres con la versión secundaria 3.1.9.3 o posterior admiten Multi-Statement. Para consultar y actualizar la versión secundaria, consulte Upgrade minor version.

Notas de uso

Facturación

Tipos de migración

Permisos de cuentas de base de datos

Procedimiento

1. Vaya a la página de la lista de tareas de migración de la región de destino con uno de los métodos a continuación.

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Migration.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.

   1. Inicie sesión en la consola de Data Management (DMS).

   2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Migration.

   3. A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.

2. Haga clic en Create Task para ir a la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla fácilmente. El nombre no tiene que ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que ya se ha added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente. Nota En la consola de DMS, este parámetro se llama Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
   	Database Type	Seleccione MongoDB.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región de la instancia de origen de ApsaraDB for MongoDB.
   	Replicate Data Across Alibaba Cloud Accounts	En este ejemplo se usa una instancia de base de datos de la cuenta actual de Alibaba Cloud. Seleccione No.
   	Architecture	En este ejemplo se selecciona Replica Set. Nota Si la instancia de origen de ApsaraDB for MongoDB utiliza la arquitectura Sharded Cluster, también debe especificar Shard account y Shard password.
   	Migration Method	Seleccione un método para la migración incremental de datos según sus necesidades. Oplog (recomendado): Esta opción está disponible si hay un oplog habilitado para la base de datos de origen. Nota El oplog se habilita de forma predeterminada tanto en las bases de datos MongoDB autogestionadas como en las instancias de ApsaraDB for MongoDB. Este método ofrece menor latencia en la migración incremental de datos porque extrae los registros más rápido. Por lo tanto, se recomienda seleccionar Oplog. ChangeStream: esta opción está disponible si Change Streams están habilitados para la base de datos de origen. Nota Si la base de datos de origen es una instancia de Amazon DocumentDB (clúster no elástico), solo puede seleccionar ChangeStream. Si estableció Architecture en Sharded Cluster para la base de datos de origen, no necesita introducir Shard account ni Shard password.
   	Instance ID	Seleccione el ID de la instancia de origen de ApsaraDB for MongoDB.
   	Authentication Database	Introduzca el nombre de la base de datos de autenticación de la instancia de origen de ApsaraDB for MongoDB. El valor predeterminado es admin.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de ApsaraDB for MongoDB. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   	Encryption	DTS admite tres métodos de conexión: Non-encrypted, SSL-encrypted y Mongo Atlas SSL. Las opciones de Encryption varían según el Access Method y la Architecture seleccionados. Prevalecen las opciones que se muestran en la consola. Nota Una base de datos MongoDB cuya Architecture es Sharded Cluster y cuyo Migration Method es Oplog no es compatible con SSL-encrypted. Si el origen es una base de datos MongoDB autogestionada (Access Method no es Alibaba Cloud Instance) con arquitectura Replica Set y usted selecciona SSL-encrypted, DTS también le permite cargar un certificado de CA para verificar la conexión.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que ya se ha added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente. Nota En la consola de DMS, este parámetro se llama Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
   	Database Type	Seleccione AnalyticDB for MySQL 3.0.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región del clúster de destino de AnalyticDB for MySQL 3.0.
   	Instance ID	Seleccione el ID del clúster de destino de AnalyticDB for MySQL 3.0.
   	Database Account	Introduzca la cuenta de la base de datos del clúster de destino de AnalyticDB for MySQL 3.0. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que el segmento de direcciones IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.

   • Si la base de datos de origen o de destino es autogestionada (es decir, Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea migrar.

      Parámetro	Descripción
      Migration Types	Si solo necesita ejecutar una migración completa, seleccione Full Data Migration. Para ejecutar una migración sin tiempo de inactividad, seleccione Full Data Migration y Incremental Data Migration. Nota Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración de datos para garantizar la coherencia de los datos.
      DDL and DML Operations to Be Synchronized	Seleccione las operaciones que se migrarán a nivel de instancia durante la migración incremental. Nota Para seleccionar operaciones incrementales a nivel de colección, haga clic con el botón secundario en el objeto de migración de la sección Selected Objects y seleccione las operaciones en el cuadro de diálogo que aparece.
      Merge Tables	Si selecciona Yes, DTS agrega la columna __dts_data_source a cada tabla para registrar los orígenes de datos. Para obtener más información, consulte Enable multi-table merge. Si selecciona No, se aplica la opción predeterminada. Nota La función de combinación de tablas se configura a nivel de tarea, no a nivel de tabla. Si desea combinar algunas tablas y otras no, debe crear dos tareas de migración de datos independientes. Aviso No ejecute operaciones DDL para cambiar el esquema de la base de datos o de las tablas de origen. De lo contrario, podrían producirse inconsistencias en los datos o errores en la tarea.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existen colecciones con los mismos nombres en la base de datos de destino. Si no existen colecciones con los mismos nombres, la comprobación previa se supera. Si existen colecciones con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no se inicia. Nota Si una colección de la base de datos de destino tiene el mismo nombre pero no se puede eliminar ni renombrar fácilmente, cambie el nombre de la colección en la base de datos de destino. Para obtener más información, consulte Object name mapping. Ignore Errors and Proceed: omite la comprobación de colecciones con los mismos nombres. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y riesgos para el negocio. Por ejemplo: Si un registro de la base de datos de destino tiene el mismo valor de clave principal que un registro de la base de datos de origen, se conserva el registro de la base de datos de destino. El registro de la base de datos de origen no se migra a la base de datos de destino. La inicialización de datos podría fallar, solo se migraría una parte de los datos o la migración podría presentar errores.
      Source Objects	En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en para moverlos al cuadro Selected Objects. Nota Los objetos de migración se pueden seleccionar a nivel de colección.
      Selected Objects	Edite la asignación de nombres de bases de datos. En el cuadro Selected Objects, haga clic con el botón secundario en la base de datos que contiene las colecciones que se van a migrar. Cambie Schema Name por el nombre de la base de datos de destino en el clúster de AnalyticDB for MySQL 3.0. En el cuadro de diálogo Edit Schema que aparece, modifique Schema Name (por ejemplo, a dtsdb). Opcional: en la sección Select DDL and DML Operations to Be Synchronized, seleccione las operaciones DML que desea migrar, como insert, update y delete. Haga clic en OK. Edite la asignación de nombres de tablas. En el cuadro Selected Objects, haga clic con el botón secundario en la colección que se va a migrar. El panel Selected Objects muestra un árbol de los objetos de la base de datos (como dtsdb), incluidos los tipos de objeto (como Table) y los objetos específicos (como class). Cambie Table Name por el nombre de la tabla de destino en el clúster de AnalyticDB for MySQL 3.0. En la página Edit Table que aparece, puede modificar Table Name (por ejemplo, class). Después de editar el nombre de la tabla o de la columna, los nombres de la base de datos de destino se actualizan en consecuencia. Opcional: establezca condiciones de filtro para la migración completa. Para obtener más información, consulte Set filter conditions. En ApsaraDB for MongoDB, la sintaxis de las condiciones de filtro difiere de las cláusulas WHERE estándar de SQL. Por ejemplo, para filtrar por ID de usuario, introduzca: {"_id": {$gt:"user100844658590795**",$lte:"user101674868045948**"}}, donde $gt significa mayor que y $lte significa menor o igual que. Opcional: en la sección Select DDL and DML Operations to Be Synchronized, seleccione las operaciones DML que desea migrar, como insert, update y delete. Configure los campos de MongoDB que se van a migrar. De forma predeterminada, DTS asigna los datos de las colecciones que se van a migrar y configura una expresión en la columna Parameter Value. Compruebe si la expresión cumple con sus requisitos y configure parámetros como Column Name, Type, Length y Precision. Importante A la columna de clave principal de la tabla de destino se le debe asignar el valor bson_value("_id"). Cuando configure la expresión bson_value(), especifique la jerarquía hasta el subcampo de nivel más bajo. De lo contrario, podrían perderse datos o la tarea podría presentar errores. En la columna Parameter Value, consulte el nombre del campo de MongoDB en la expresión bson_value(). El contenido entre comillas ("") es el nombre del campo de MongoDB. Por ejemplo, si la expresión es bson_value("age"), esta fila corresponde al campo age en MongoDB. Opcional: elimine los campos que no necesite migrar. Nota Para eliminar un campo que no necesite migrar, haga clic en el icono de la fila. Configure los campos que se van a migrar. Ejecute las siguientes operaciones según si la expresión bson_value() cumple con sus requisitos. Expresiones coincidentes Introduzca un valor en Column Name. Nota Introduzca el nombre de la columna en la tabla de destino del clúster de AnalyticDB for MySQL 3.0. Seleccione el Type de datos de la columna. Importante Asegúrese de que el tipo de datos de la tabla de destino sea compatible con los datos de MongoDB de origen. Para obtener información sobre las asignaciones de tipos de datos, consulte Data type mappings. Opcional: configure Length y Precision para los datos de la columna. Repita estos pasos para asignar todos los campos relevantes. Expresiones no coincidentes Nota Un ejemplo es un campo con estructura jerárquica (anidada). En la columna Operation, haga clic en el icono de la fila del campo. Haga clic en + Add Column. Configure Column Name, Type, Length y Precision. En el cuadro de texto de Parameter Value, introduzca una expresión bson_value(). Para obtener más información, consulte Assignment configuration examples. Repita estos pasos para asignar todos los campos relevantes. Haga clic en OK.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido. No necesita seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar las tareas de migración de DTS.
      Retry Time for Failed Connections	Después de que se inicia la tarea de migración, si la conexión con la base de datos de origen o de destino presenta errores, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Se recomienda establecer una duración superior a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores. Nota Para varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada. Dado que se le cobra por la tarea durante el periodo de reintento de conexión, se recomienda personalizar el tiempo de reintento según las necesidades de su negocio. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
      Retry Time for Other Issues	Después de que se inicia la tarea de migración, si ocurre un problema que no es de conectividad en la base de datos de origen o de destino (como una excepción en la ejecución de DDL o DML), DTS reporta un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Se recomienda establecer una duración superior a 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores. Importante El valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
      Enable Throttling for Full Data Migration	Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Establezca Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types. También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
      Only one data type for primary key _id in a table of the data to be synchronized	En los datos que se van a migrar, ¿el tipo de datos de la clave principal _id es uniforme dentro de una sola colección? Importante Seleccione una opción según sus necesidades. De lo contrario, podrían perderse datos. Este parámetro solo está disponible si selecciona Full Data Migration en Migration Types. Yes: el tipo de datos es único. Durante la migración completa de datos, DTS no analiza los tipos de datos de las claves principales en los datos de origen. Para una sola colección, DTS migra únicamente los datos que corresponden a un tipo de datos de clave principal. No: el tipo de datos no es único. Durante la migración completa de datos, DTS analiza los tipos de datos de las claves principales en los datos de origen y migra todos los datos.
      Enable Throttling for Incremental Data Migration	Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Configure RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types. También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
      Environment Tag	Puede seleccionar una etiqueta de entorno para identificar la instancia. Este paso es opcional.
      Configure ETL	Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: deshabilita la función ETL.
      Monitoring and Alerting	Seleccione si desea configurar alertas y recibir notificaciones de alerta según las necesidades de su negocio. No: no configura ninguna alerta. Yes: configura alertas al establecer un alert threshold y un sistema de notificaciones de alerta. Si una migración presenta errores o la latencia supera el umbral, el sistema envía una notificación de alerta.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para ver los parámetros de configuración de esta instancia cuando llame a la operación de la API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.

   • Si no necesita ver los parámetros de la API o ya terminó de consultarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de que se inicie la tarea de migración, DTS ejecuta una comprobación previa. La tarea solo se inicia después de superar dicha comprobación.

   • Si la comprobación previa presenta errores, haga clic en View Details junto al elemento con errores, resuelva el problema según las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si se reporta una advertencia durante la comprobación previa:

     • Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento con errores, resuelva el problema según las indicaciones y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como inconsistencias en los datos y riesgos para su negocio.

7. Adquiera la instancia.

   1. Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.

      Categoría	Parámetro	Descripción
      New Instance Class	Resource Group Settings	Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
      	Instance Class	DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Seleccione una especificación según el escenario de su negocio. Para obtener más información, consulte Data migration link specifications.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.

      Puede consultar el progreso de la tarea de migración en la página de lista Data Migration Tasks.

      Nota

      • Si la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida, su Status cambia a Completed.

      • Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras se ejecuta, el Status de la tarea es Running.

Mapeo de tipos de datos

Configuración del mapeo

{
  "_id":"62cd344c85c1ea6a2a9f****",
  "person":{
    "name":"neo",
    "age":26,
    "sex":"male"
  }
}