Data Transmission Service:Sincronizar datos de ApsaraDB for MongoDB a Lindorm

Requisitos previos

• La instancia de origen de ApsaraDB for MongoDB debe ubicarse en la región Germany (Frankfurt).

• La instancia de origen de ApsaraDB for MongoDB debe tener una arquitectura de conjunto de réplicas o de clúster particionado.

  Importante

  Si la instancia de origen de ApsaraDB for MongoDB tiene una arquitectura de clúster particionado, debe obtener un endpoint para cada nodo shard y comprobar que todos los nodos shard usen la misma cuenta y contraseña. Para más información, consulte Apply for a shard endpoint.

• Cree una instancia de destino en Lindorm que utilice el motor de tabla ancha y tenga más espacio de almacenamiento que la instancia de origen de ApsaraDB for MongoDB. Para más información, consulte Create an instance.

  Nota

  La capacidad de almacenamiento de la instancia de destino debe ser como mínimo un 10 % mayor que el espacio utilizado por la base de datos de origen.

• Cree una tabla ancha en su instancia de Lindorm según sus necesidades de negocio. Para ver las instrucciones, consulte Connect to and use LindormTable with Lindorm-cli o Connect to LindormTable with Lindorm Shell.

  Nota

  • Todos los objetos que cree deben cumplir con Quotas and limits.

  • Si creó la tabla ancha en Lindorm mediante Apache HBase, se recomienda agregar asignaciones de columnas a la tabla. Para más información, consulte Example of adding column mappings for a table created by calling the Apache HBase API.

Precauciones

Facturación

Tipos de sincronización

Permisos de cuentas de base de datos

Procedimiento

1. Vaya a la página de lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos a continuación:

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Synchronization.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.

   1. Inicie sesión en Data Management (DMS).

   2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.

2. Haga clic en Create Task para abrir la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla con facilidad. El nombre no tiene que ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que sea added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione MongoDB.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra la instancia de origen de ApsaraDB for MongoDB.
   	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo muestra cómo sincronizar datos dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
   	Architecture	En este ejemplo, seleccione Replica Set. Nota Si la instancia de origen de ApsaraDB for MongoDB es un Sharded Cluster, también debe especificar la Shard account y la Shard password.
   	Migration Method	Seleccione un método para la sincronización incremental de datos según sus necesidades. Oplog (recomendado): Esta opción está disponible si Oplog está habilitado en la base de datos de origen. Nota Oplog se habilita de forma predeterminada en las bases de datos MongoDB autogestionadas y en las instancias de ApsaraDB for MongoDB. Este método ofrece menor latencia en las tareas de sincronización incremental porque los registros se recuperan más rápido. Se recomienda seleccionar Oplog. ChangeStream: Esta opción está disponible si Change Streams están habilitados en la base de datos de origen. Nota Si la base de datos de origen es una instancia de Amazon DocumentDB (clúster no elástico), solo puede seleccionar ChangeStream. Si establece la Architecture de la base de datos de origen como Sharded Cluster, no necesita especificar la Shard account ni la Shard password.
   	Instance ID	Seleccione el ID de la instancia de origen de ApsaraDB for MongoDB.
   	Authentication Database	Introduzca el nombre de la base de datos de autenticación de la instancia de origen de ApsaraDB for MongoDB. El valor predeterminado es admin.
   	Database Account	Introduzca la cuenta de la base de datos de su instancia de origen de ApsaraDB for MongoDB. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   	Encryption	DTS admite tres métodos de conexión: Non-encrypted, SSL-encrypted y Mongo Atlas SSL. Las opciones de Encryption varían según el Access Method y la Architecture seleccionados. Prevalecen las opciones que se muestran en la consola. Nota Una base de datos MongoDB cuya Architecture es Sharded Cluster y cuyo Migration Method es Oplog no es compatible con SSL-encrypted. Si el origen es una base de datos MongoDB autogestionada (el Access Method no es Alibaba Cloud Instance) con arquitectura de Replica Set, y usted selecciona SSL-encrypted, DTS también le permite cargar un certificado de CA para verificar la conexión.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que sea added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione Lindorm.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra la instancia de destino de Lindorm.
   	Instance ID	Seleccione el ID de la instancia de destino de Lindorm.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de destino de Lindorm. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

   • Si la base de datos de origen o de destino es autogestionada (donde el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea sincronizar.

      Parámetro	Descripción
      Synchronization Types	Incremental Data Synchronization está seleccionado. Solo puede elegir Full Data Synchronization. No se admite Schema Synchronization. Después de completar la comprobación previa, DTS sincroniza los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Esta información sirve como línea base para la sincronización incremental posterior.
      Processing Mode of Conflicting Tables	No se requiere ninguna configuración. Puede conservar el valor predeterminado.
      Capitalization of Object Names in Destination Instance	Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres en inglés de los objetos de base de datos y colección que se sincronizan con la instancia de destino. Tiene la opción de elegir la DTS default policy, que es la opción predeterminada, o bien utilizar las políticas predeterminadas de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
      Source Objects	En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en para moverlo al cuadro Selected Objects. Nota Puede seleccionar objetos a nivel de colección.
      Selected Objects	Si utilizó Lindorm SQL para crear la tabla ancha en la base de datos de destino, debe configurar columnas adicionales para la sincronización. Las columnas que no se configuren no se sincronizarán. Edite la asignación de nombres de base de datos. En el cuadro Selected Objects, haga clic con el botón secundario en la base de datos que contiene la colección que desea sincronizar. Cambie Schema Name por el nombre de la base de datos de destino en Lindorm. En el cuadro de diálogo que aparece, seleccione las operaciones DML que desea sincronizar (insert, update y delete). En la sección Additional Columns, haga clic en + New Column para agregar columnas. Luego, haga clic en OK. Opcional: En la sección Select DML Operations to Be Synchronized, seleccione las operaciones incrementales que desea sincronizar. Haga clic en OK. Edite la asignación de nombres de tabla. En el cuadro Selected Objects, haga clic con el botón secundario en la colección que desea sincronizar. Cambie Table Name por el nombre de la tabla de destino en Lindorm. En el cuadro de diálogo Edit Table, también puede establecer Filter Conditions. La sintaxis de las condiciones de filtro de ApsaraDB for MongoDB difiere de la cláusula WHERE estándar de SQL. En la sección Select DML Operations to Be Synchronized, seleccione insert, update y delete. En la sección Additional Columns, haga clic en + New Column para agregar columnas a la tabla de destino con fines como gestión de metadatos, ordenamiento o deduplicación. Una vez completada la configuración, haga clic en OK. Opcional: Establezca las condiciones de filtro. Para obtener más información, consulte Filter task data with an SQL condition. Opcional: En la sección Select DML Operations to Be Synchronized, seleccione las operaciones incrementales que desea sincronizar. Configure los campos de MongoDB que desea sincronizar. De forma predeterminada, DTS asigna los datos de la colección que se va a sincronizar y configura una expresión en la columna Parameter Value. Debe comprobar si la expresión cumple con sus requisitos y especificar información como Column Name, Type, Length y Precision. En la columna Parameter Value, consulte el nombre del campo de MongoDB dentro de la expresión bson_value(). El contenido encerrado entre "" es el nombre del campo en MongoDB. Por ejemplo, si la expresión es bson_value("age"), esta fila corresponde al campo age en MongoDB. Opcional: Elimine los campos que no desea sincronizar. Nota Para quitar un campo que no desea sincronizar, haga clic en el ícono de la fila correspondiente. Configure los campos que desea sincronizar. Siga estos pasos según si la expresión bson_value() cumple o no con sus requisitos. Expresiones coincidentes Introduzca un Column Name. Nota Este es el nombre de la columna de destino en la tabla de Lindorm. Si la tabla de destino se creó mediante SQL, introduzca el nombre de la columna de la tabla de Lindorm en el parámetro Column Name. Si la tabla de destino se creó con HBase y necesita usar la función para agregar columnas, debe añadir las asignaciones de columnas antes de cambiar el nombre de la columna. Para obtener más información, consulte Example of adding column mappings for an HBase table. Configure el Column Name de la siguiente manera: Si la columna es una clave principal, introduzca ROW. Si la columna no es una clave principal, use el formato column_family:column_name, como person:name. Seleccione un Type de datos para la columna. Importante Asegúrese de que el tipo de datos de la tabla de destino sea compatible con los datos de la base de datos MongoDB de origen. Opcional: Configure el Length y la Precision de los datos de la columna. Repita estos pasos para asignar todos los campos relevantes. Expresiones no coincidentes Nota Por ejemplo, campos que tienen estructuras jerárquicas (padre-hijo). En la columna Actions, haga clic en el ícono de la fila correspondiente. Haga clic en + New Column. En la sección Additional Columns, haga clic en el botón + New Column ubicado en la esquina superior derecha. Configure el Column Name, el Type, el Length y la Precision. En el cuadro de texto bajo Parameter Value, introduzca la expresión bson_value(). Para obtener más información, consulte Value assignment examples. Importante El valor bson_value("_id") debe asignarse a la columna de clave principal de la tabla de destino. Cuando configure la expresión bson_value(), debe especificar la ruta hasta el subcampo de nivel más bajo de la jerarquía. De lo contrario, podrían perderse datos o la tarea podría fallar. Repita estos pasos para asignar todos los campos relevantes. Haga clic en OK.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no necesita seleccionar ninguno. Si busca un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
      Retry Time for Failed Connections	Una vez iniciada la tarea de sincronización, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecerla en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo indicado, la tarea de sincronización se reanuda automáticamente; de lo contrario, la tarea termina con errores. Nota Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se aplicará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de reintento según sus necesidades de negocio o liberar la instancia de DTS tan pronto como se liberen las instancias de las bases de datos de origen y de destino.
      Retry Time for Other Issues	Después de que inicia la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar DDL o DML), DTS reporta un error y comienza de inmediato a reintentar las operaciones de forma continua. La duración predeterminada de reintento es de 10 minutos. También puede personalizar este valor en un rango de 1 a 1440 minutos. Se recomienda configurarlo en 10 minutos o más. Si las operaciones correspondientes se ejecutan correctamente dentro del tiempo de reintento establecido, la tarea de sincronización se reanuda automáticamente; de lo contrario, la tarea termina con errores. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
      Enable Throttling for Full Data Synchronization	Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo cual puede aumentar la carga de estas. Para reducir dicha carga, puede establecer un límite de velocidad en la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
      Only one data type for primary key _id in a table of the data to be synchronized	Especifique si los tipos de datos de la clave principal _id son únicos dentro de cada colección que se va a sincronizar. Importante Seleccione una opción según sus datos reales. Una elección incorrecta puede provocar la pérdida de datos. Este parámetro solo está disponible si Synchronization Types incluye Full Data Synchronization. Yes: Los tipos de datos son únicos. Durante la fase de sincronización completa, DTS no analiza los tipos de datos de las claves principales en los datos de origen. Para cada colección, DTS sincroniza únicamente los datos correspondientes a un solo tipo de dato de clave principal. No: Los tipos de datos no son únicos. Durante la fase de sincronización completa, DTS analiza los tipos de datos de las claves principales en los datos de origen y sincroniza toda la información.
      Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
      Environment Tag	Según sus necesidades, puede seleccionar una etiqueta de entorno para identificar la instancia. En este ejemplo, no es necesario elegir ninguna.
      Configure ETL	Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: Habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: Deshabilita la función ETL. Nota Si la tabla de destino se creó mediante HBase, tenga en cuenta lo siguiente: La sintaxis de ETL incluye columnas que se deben configurar y columnas que se deben excluir. Durante la sincronización, todos los campos de nivel superior de los documentos de MongoDB para los que se configuró ETL se almacenan en la familia de columnas predeterminada f de la tabla de HBase. En el siguiente ejemplo se muestra cómo escribir todos los elementos, excepto los dos de nivel superior _id y name, como columnas dinámicas en la tabla de destino. Para obtener más información, consulte HBase table synchronization example (ETL). script:e_expand_bson_value("*", "_id,name") Si necesita usar tanto la función de nueva columna como la función ETL, asegúrese de que los datos en Lindorm no estén duplicados. Las columnas para las que no se configuró ni la función de nueva columna ni la función ETL no se sincronizan con la base de datos de destino.
      Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral indicado, se envía una notificación a un contacto de alerta. No: No se configuran alertas. Yes: Configure las alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para consultar los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en el globo emergente.

   • Si ya terminó de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se aprueban todos los elementos de dicha comprobación.

   • Si la comprobación previa termina con errores, haga clic en View Details junto al elemento que falló. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si la comprobación previa devuelve una advertencia:

     • Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que se pueden omitir, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para saltar la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos, lo cual representa un riesgo para su negocio.

7. Adquiera la instancia.

   1. Cuando el Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. En la siguiente tabla se describen estos parámetros en detalle.

      Categoría	Parámetro	Descripción
      New Instance Class	Billing Method	Subscription: Usted paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Entre mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: Se le cobra por hora. Resulta conveniente para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
      	Resource Group Configuration	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
      	Link Specification	DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Puede elegir una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
      	Subscription Duration	En el modo de suscripción, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

      Puede consultar el progreso de la tarea en la página Data Synchronization.

Agregar asignaciones de columnas a una tabla de HBase

Este ejemplo muestra los comandos que se deben ejecutar en el SQL Shell.

1. Agregue una asignación de columnas a la tabla de HBase.

   ALTER TABLE test MAP DYNAMIC COLUMN f:_mongo_id_ HSTRING/HINT/..., person:name HSTRING, person:age HINT;

2. Cree un índice secundario en la tabla de HBase.

   CREATE INDEX idx ON test(f:_mongo_id_);

Ejemplo: ETL para tablas de HBase

{
  "_id" : 0,
  "person" : {
    "name" : "cindy0",
    "age" : 0,
    "student" : true
  }
}

script:e_expand_bson_value("*", "_id")

0: jdbc:lindorm:xxx> select * from mongo_test_dynamic_column limit 3;
+------+------+-------------+----------------------------------------------------------+
| ROW  | COL  | _mongo_id_  |                         person                           |
+------+------+-------------+----------------------------------------------------------+
|      | 0    |             | { "name" : "cindy0", "age" : 0, "student" : true }      |
|      | 1    |             | { "name" : "cindy1", "age" : 1, "student" : false }     |
|      | 2    |             | { "name" : "cindy2", "age" : 2, "student" : true }      |
+------+------+-------------+----------------------------------------------------------+
3 rows selected (0.009 seconds)

Ejemplo de asignación de valores

{
  "_id":"62cd344c85c1ea6a2a9f****",
  "person":{
    "name":"neo",
    "age":"26",
    "sex":"male"
  }
}