Data Transmission Service:Migración de ApsaraDB for MongoDB a Lindorm

Requisitos previos

• Solo se admiten tareas de migración dentro de la región Germany (Frankfurt).

• La instancia de origen de ApsaraDB for MongoDB debe ser un replica set o un sharded cluster.

  Importante

  Si el origen es un sharded cluster de ApsaraDB for MongoDB, solicite un endpoint para cada nodo shard y asegúrese de que todos los nodos shard compartan la misma cuenta y contraseña. Para obtener instrucciones, consulte Apply for an endpoint for a shard.

• Cree una instancia de destino de Lindorm que utilice el motor de tabla ancha. Para obtener instrucciones, consulte Create an instance.

  Nota

  Se recomienda aprovisionar la instancia de destino con una capacidad de almacenamiento como mínimo un 10 % mayor que la cantidad utilizada por la instancia de origen.

• Cree una tabla ancha en su instancia de Lindorm según sus requisitos de negocio. Para obtener instrucciones, consulte Connect to and use the wide table engine by using Lindorm-cli o Access the wide table engine by using Lindorm Shell.

  Nota

  • Los objetos que cree deben cumplir con Naming conventions and limits.

  • Si la tabla ancha en Lindorm se creó mediante HBase, se recomienda agregar una asignación de columnas a la tabla para que sus columnas sean columnas regulares. Para obtener más información, consulte Add a column mapping to an HBase table.

Límites

Facturación

Tipos de migración

Permisos de cuentas de base de datos

Procedimiento

Este procedimiento utiliza como ejemplo de base de datos de destino una tabla ancha creada en Lindorm mediante Lindorm SQL.

1. Vaya a la página de la lista de tareas de migración de la región de destino con uno de los siguientes métodos.

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Migration.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.

   1. Inicie sesión en la consola de Data Management (DMS).

   2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Migration.

   3. A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.

2. Haga clic en Create Task para ir a la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Sección	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. No es obligatorio que el nombre sea único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), selecciónela en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente. Nota En la consola de DMS, este parámetro se denomina Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
   	Database Type	Seleccione MongoDB.
   	Connection Type	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde reside la instancia de origen de ApsaraDB for MongoDB.
   	Replicate Data Across Alibaba Cloud Accounts	En este ejemplo, los datos se migran dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
   	Architecture	En este ejemplo, se selecciona Replica Set. Nota Si establece Architecture en Sharded Cluster, también debe especificar Shard account y Shard password.
   	Migration Method	Seleccione un método para la migración incremental de datos según sus necesidades. Oplog (recomendado): Esta opción está disponible si hay un oplog habilitado para la base de datos de origen. Nota El oplog se habilita de forma predeterminada tanto en las bases de datos de MongoDB autogestionadas como en las instancias de ApsaraDB for MongoDB. Este método ofrece menor latencia en la migración incremental de datos porque extrae los registros con mayor rapidez. Por lo tanto, se recomienda seleccionar Oplog. ChangeStream: esta opción está disponible si Change Streams están habilitados para la base de datos de origen. Nota Si la base de datos de origen es una instancia de Amazon DocumentDB (clúster no elástico), solo puede seleccionar ChangeStream. Si establece Architecture en Sharded Cluster para la base de datos de origen, no es necesario introducir Shard account ni Shard password.
   	Instance ID	Seleccione el ID de la instancia de origen de ApsaraDB for MongoDB.
   	Authentication Database	Introduzca el nombre de la base de datos a la que pertenece la cuenta de la instancia de origen de ApsaraDB for MongoDB. El valor predeterminado es admin.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de ApsaraDB for MongoDB.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   	Encryption	DTS admite tres métodos de conexión: Non-encrypted, SSL-encrypted y Mongo Atlas SSL. Las opciones de Encryption varían según el Access Method y la Architecture seleccionados. Prevalecen las opciones que se muestran en la consola. Nota Una base de datos de MongoDB cuya Architecture es Sharded Cluster y cuyo Migration Method es Oplog no es compatible con SSL-encrypted. Si el origen es una base de datos de MongoDB autogestionada (el Access Method no es Alibaba Cloud Instance) con arquitectura Replica Set y usted selecciona SSL-encrypted, DTS también le permite cargar un certificado de CA para verificar la conexión.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), selecciónela en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente. Nota En la consola de DMS, este parámetro se denomina Select a DMS database instance.. Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
   	Database Type	Seleccione Lindorm.
   	Connection Type	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde reside la instancia de destino de Lindorm.
   	Instance ID	Seleccione el ID de la instancia de destino de Lindorm.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de destino de Lindorm.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que el segmento de direcciones IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.

   • Si la base de datos de origen o de destino es autogestionada (es decir, Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea migrar.

      Parámetro	Descripción
      Migration Types	Si solo necesita ejecutar una migración completa, seleccione Full Data Migration. Para ejecutar una migración sin tiempo de inactividad, seleccione Full Data Migration e Incremental Data Migration. Nota Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración para garantizar la coherencia de los datos.
      Processing Mode of Conflicting Tables	Puede conservar la configuración predeterminada.
      Capitalization of Object Names in Destination Instance	Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de los objetos migrados, como bases de datos y colecciones, en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede elegir mantener la distinción entre mayúsculas y minúsculas coherente con la directiva predeterminada de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
      Source Objects	En el panel Source Objects, haga clic en las colecciones que desea migrar y luego en el icono para moverlas al panel Selected Objects.
      Selected Objects	Si la tabla ancha de destino se creó con Lindorm SQL, debe agregar columnas nuevas para la migración de datos. DTS no migra las columnas que no estén configuradas. Edite la asignación de nombres de bases de datos. En el panel Selected Objects, haga clic con el botón secundario en la base de datos que contiene la colección por migrar. Cambie Schema Name por el nombre de la base de datos de destino en Lindorm. Opcional: En la sección Select DDL and DML Operations to Be Synchronized, seleccione las operaciones para la migración incremental. Haga clic en OK. Edite la asignación de nombres de tablas. En el panel Selected Objects, haga clic con el botón secundario en la colección por migrar. Cambie Table Name por el nombre de la tabla de destino en Lindorm. Opcional: Especifique las condiciones de filtro. Para obtener más información, consulte Filter task data with an SQL condition. Opcional: En la sección Select DDL and DML Operations to Be Synchronized, seleccione las operaciones para la migración incremental. Configure los campos que se migrarán desde MongoDB. De forma predeterminada, DTS asigna los datos de la colección por migrar y configura una expresión en la columna Parameter Value. Compruebe si la expresión cumple con sus requisitos y configure parámetros como Column Name, Type, Length y Precision. En la columna Parameter Value, consulte el nombre del campo de la fila en MongoDB dentro de la expresión bson_value(). La cadena dentro de "" indica el nombre del campo en MongoDB. Por ejemplo, si la expresión es bson_value("age"), los datos de esta fila corresponden al campo age en MongoDB. Opcional: elimine los campos que no desea migrar. Nota Para eliminar un campo que no desea migrar, haga clic en el icono de la fila correspondiente. Configure los campos por migrar. Actúe según si la expresión bson_value() cumple con sus requisitos. Expresiones coincidentes Introduzca un valor en Column Name. Nota Introduzca el nombre de la columna de destino en la tabla de Lindorm. Si la tabla de destino se crea mediante SQL, establezca Column Name con el nombre de la columna de destino en la tabla de Lindorm. Si la tabla de destino se crea mediante la API de HBase y necesita agregar columnas nuevas, debe añadir las asignaciones de columnas antes de modificar los nombres. Para obtener más información, consulte Example of adding column mappings for a table created by calling the Apache HBase API. Establezca Column Name según las siguientes reglas: Si la columna es una clave principal, establezca el nombre en ROW. Si la columna no es una clave principal, use el formato column family:column name. Ejemplo: person:name. Seleccione un Type de datos para la columna. Importante Asegúrese de que el tipo de datos de la tabla de destino sea compatible con el tipo de datos de la base de datos de origen de MongoDB. Opcional: configure Length y Precision de los datos de la columna. Repita los pasos anteriores para asignar cada campo requerido. Expresiones personalizadas Nota Por ejemplo, campos con relaciones jerárquicas (estructuras primarias-secundarias). En la columna Actions, haga clic en el icono de la fila del campo. Haga clic en + Add Column. Configure Column Name, Type, Length y Precision. En el cuadro de texto bajo Parameter Value, introduzca la expresión bson_value(). Para obtener más información, consulte Value Configuration Example. Importante A la columna de clave principal de la tabla de destino se le debe asignar el valor bson_value("_id"). Cuando configure la expresión bson_value(), debe especificar la ruta al subcampo de nivel más bajo. De lo contrario, podrían perderse datos o fallar la tarea. Repita los pasos anteriores para asignar cada campo requerido. Haga clic en OK.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar las tareas de migración de DTS.
      Retry Time for Failed Connections	Después de que se inicia la tarea de migración, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error y comienza a reintentar la conexión de inmediato. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Se recomienda establecer una duración superior a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro del plazo especificado, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores. Nota Para varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada. Dado que se le cobra por la tarea durante el periodo de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades comerciales o liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
      Retry Time for Other Issues	Después de que se inicia la tarea de migración, si ocurre un problema distinto a la conectividad en la base de datos de origen o de destino, como una excepción al ejecutar DDL o DML, DTS reporta un error y comienza a reintentar la operación de inmediato. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Se recomienda establecer una duración superior a 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro del plazo de reintento especificado, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores. Importante El valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
      Enable Throttling for Full Data Migration	Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Configure Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types. También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
      Only one data type for primary key _id in a table of the data to be synchronized	En los datos por migrar, ¿el tipo de datos de la clave principal _id es uniforme dentro de una sola colección? Importante Seleccione una opción según sus necesidades. De lo contrario, podrían perderse datos. Este parámetro solo está disponible si selecciona Full Data Migration en Migration Types. Yes: el tipo de datos es único. Durante la migración completa de datos, DTS no analiza los tipos de datos de las claves principales en los datos de origen. Para una sola colección, DTS migra únicamente los datos que corresponden a un tipo de datos de clave principal. No: el tipo de datos no es único. Durante la migración completa de datos, DTS analiza los tipos de datos de las claves principales en los datos de origen y migra todos los datos.
      Enable Throttling for Incremental Data Migration	Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Configure RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types. También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
      Environment Tag	Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades comerciales. En este ejemplo, no es necesario seleccionar ninguna etiqueta.
      Configure ETL	Según sus necesidades comerciales, seleccione si desea configurar la función ETL feature para procesar datos. Yes: configura la función ETL. También debe introducir data processing statements en el cuadro de texto. No: no configura la función ETL. Nota Si la tabla de destino se crea mediante la API de HBase, tenga en cuenta lo siguiente: La sintaxis de ETL incluye columnas por configurar y columnas por excluir. Durante la migración, todos los campos de nivel superior de los documentos de MongoDB para los que se configuró ETL se almacenan en la familia de columnas predeterminada f de la tabla de HBase. En el siguiente ejemplo se muestra cómo escribir todos los elementos, excepto los de nivel superior _id y name, como columnas dinámicas en la tabla de destino. Para obtener más información, consulte Example of configuring an ETL task for a table created by calling the Apache HBase API. script:e_expand_bson_value("*", "_id,name") Si necesita usar tanto la función de columnas nuevas como la de ETL, asegúrese de que no existan datos duplicados en la instancia de Lindorm. Las columnas para las que no se configuró ni la función de columnas nuevas ni la de ETL no se migran a la base de datos de destino.
      Monitoring and Alerting	Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades comerciales. No: no configura ninguna alerta. Yes: configure alertas estableciendo un alert threshold y notificaciones de alerta. Si una migración presenta errores o la latencia supera el umbral, el sistema envía una notificación de alerta.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para ver los parámetros de configuración de esta instancia cuando llame a la operación de la API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.

   • Si no necesita ver los parámetros de la API o ya terminó de consultarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de iniciar la tarea de migración, DTS ejecuta una comprobación previa. La tarea solo comienza después de superar dicha comprobación.

   • Si la comprobación previa presenta errores, haga clic en View Details junto al elemento que falló, resuelva el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si se reporta una advertencia durante la comprobación previa:

     • Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento que falló, resuelva el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que sí se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como inconsistencia de datos y riesgos para su negocio.

7. Adquiera la instancia.

   1. Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.

      Categoría	Parámetro	Descripción
      New Instance Class	Resource Group Settings	Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
      	Instance Class	DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Seleccione una especificación según su escenario comercial. Para obtener más información, consulte Data migration link specifications.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.

      Puede consultar el progreso de la tarea de migración en la página de lista Data Migration Tasks.

      Nota

      • Si la tarea de migración no incluye migración incremental, se detiene automáticamente cuando termina la migración completa. Una vez detenida, su Status cambia a Completed.

      • Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras se ejecuta, el Status de la tarea es Running.

Mapeo de columnas de la tabla HBase

1. Agregue un mapeo de columnas a la tabla HBase.

   ALTER TABLE test MAP DYNAMIC COLUMN f:_mongo_id_ HSTRING/HINT/..., person:name HSTRING, person:age HINT;

2. Cree un índice secundario en la tabla HBase.

   CREATE INDEX idx ON test(f:_mongo_id_);

Migración de tablas HBase (ETL)

{
  "_id" : 0,
  "person" : {
    "name" : "cindy0",
    "age" : 0,
    "student" : true
  }
}

script:e_expand_bson_value("*", "_id")

Ejemplo de configuración de asignación

{
  "_id":"62cd344c85c1ea6a2a9f****",
  "person":{
    "name":"neo",
    "age":"26",
    "sex":"male"
  }
}