Data Transmission Service:Sincronización de ApsaraDB for MongoDB con AnalyticDB for MySQL 3.0

Requisitos previos

• Si el origen es una instancia de clúster fragmentado de ApsaraDB for MongoDB, solicite un endpoint para cada nodo de fragmento y configure todos los nodos de fragmento con el mismo nombre de usuario y contraseña. Para obtener más información, consulte Apply for an endpoint for a shard node or the ConfigServer node in a sharded cluster instance.

• Cree un clúster de destino de AnalyticDB for MySQL 3.0 que tenga más espacio de almacenamiento que la instancia de origen de ApsaraDB for MongoDB. Para obtener más información, consulte Create a cluster.

  Nota

  La instancia de destino debe tener como mínimo un 10 % más de espacio de almacenamiento que el utilizado por la base de datos de origen.

• En el clúster de destino de AnalyticDB for MySQL 3.0, cree una base de datos y una tabla con clave primaria. Para obtener más información, consulte CREATE DATABASE y CREATE TABLE.

  Importante

  • Asegúrese de que los tipos de datos de la tabla de destino sean compatibles con los datos de MongoDB de origen. Por ejemplo, si el campo _id en MongoDB es un ObjectId, su tipo de dato correspondiente en el clúster de AnalyticDB for MySQL 3.0 debe ser varchar.

  • No utilice _id ni _value como nombres de columna en la tabla de destino del clúster de AnalyticDB for MySQL 3.0.

• Ejecute el comando SET ADB_CONFIG ALLOW_MULTI_QUERIES=true; en el clúster de destino de AnalyticDB for MySQL 3.0 para habilitar la función de múltiples instrucciones.

  Nota

  La función de múltiples instrucciones solo está disponible para clústeres que ejecutan la versión secundaria 3.1.9.3 o posterior. Para consultar y actualizar la versión secundaria de su clúster, consulte Upgrade minor version.

Notas

Facturación

Tipos de sincronización

Permisos de cuentas de base de datos

Procedimiento

1. Vaya a la página de lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Synchronization.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.

   1. Inicie sesión en Data Management (DMS).

   2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.

2. Haga clic en Create Task para abrir la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla con facilidad. El nombre no tiene que ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que sea added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione MongoDB.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región de la instancia de origen de ApsaraDB for MongoDB.
   	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo utiliza una instancia de base de datos que pertenece a la cuenta actual de Alibaba Cloud. Seleccione No.
   	Architecture	En este ejemplo, seleccione Replica Set. Nota Si la instancia de origen de ApsaraDB for MongoDB usa una arquitectura de Sharded Cluster, también debe introducir la Shard account y la Shard password.
   	Migration Method	Seleccione un método para la sincronización incremental de datos según sus necesidades. Oplog (recomendado): Esta opción está disponible si Oplog está habilitado para la base de datos de origen. Nota Oplog se habilita de forma predeterminada en las bases de datos MongoDB autogestionadas y en las instancias de ApsaraDB for MongoDB. Este método ofrece menor latencia en las tareas de sincronización incremental porque los registros se recuperan más rápido. Se recomienda seleccionar Oplog. ChangeStream: Esta opción está disponible si Change Streams están habilitados para la base de datos de origen. Nota Si la base de datos de origen es una instancia de Amazon DocumentDB (clúster no elástico), solo puede seleccionar ChangeStream. Si establece la Architecture de la base de datos de origen como Sharded Cluster, no necesita especificar la Shard account ni la Shard password.
   	Instance ID	Seleccione el identificador de la instancia de origen de ApsaraDB for MongoDB.
   	Authentication Database	Introduzca el nombre de la base de datos a la que pertenece la cuenta de la instancia de origen de ApsaraDB for MongoDB. Si no la ha modificado, el valor predeterminado es admin.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de ApsaraDB for MongoDB. Para obtener información sobre los permisos obligatorios, consulte Database account permissions.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   	Encryption	DTS admite tres métodos de conexión: Non-encrypted, SSL-encrypted y Mongo Atlas SSL. Las opciones de Encryption varían según el Access Method y la Architecture seleccionados. Prevalecen las opciones que se muestran en la consola. Nota Una base de datos MongoDB cuya Architecture es Sharded Cluster y cuyo Migration Method es Oplog no es compatible con SSL-encrypted. Si el origen es una base de datos MongoDB autogestionada (el Access Method no es Alibaba Cloud Instance) con una arquitectura de Replica Set, y usted selecciona SSL-encrypted, DTS también le permite cargar un certificado de CA para comprobar la conexión.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que sea added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione AnalyticDB for MySQL 3.0.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región del clúster de destino de AnalyticDB for MySQL 3.0.
   	Instance ID	Seleccione el identificador del clúster de destino de AnalyticDB for MySQL 3.0.
   	Database Account	Introduzca la cuenta de la base de datos del clúster de destino de AnalyticDB for MySQL 3.0. Para obtener información sobre los permisos obligatorios, consulte Database account permissions.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Esto se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

   • Si la base de datos de origen o de destino es autogestionada (donde el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea sincronizar.

      Parámetro	Descripción
      Synchronization Types	Incremental Data Synchronization está seleccionado. Solo puede elegir Full Data Synchronization. No se admite Schema Synchronization. Una vez finalizada la comprobación previa, DTS sincroniza los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
      DDL and DML Operations to Be Synchronized	Seleccione las operaciones incrementales que desea sincronizar a nivel de instancia. Nota Para seleccionar las operaciones incrementales a nivel de colección, haga clic con el botón derecho en un objeto de sincronización dentro de la sección Selected Objects y elija las operaciones deseadas en el cuadro de diálogo que aparece.
      Merge Tables	Seleccione Yes: en escenarios OLTP, la fragmentación de bases de datos y tablas se usa con frecuencia para mejorar el tiempo de respuesta de las tablas de negocio. En escenarios OLAP, como el de la base de datos de destino de este ejemplo, una sola tabla de datos puede almacenar grandes volúmenes de información, lo que facilita las consultas en una única tabla. En estos casos, puede usar la función de combinación de varias tablas de DTS para sincronizar múltiples tablas con el mismo esquema (tablas fragmentadas) desde la base de datos de origen hacia una sola tabla en la base de datos de destino. Para obtener instrucciones específicas, consulte Enable multi-table merge. Nota Después de seleccionar varias tablas de la base de datos de origen, debe usar la función de asignación de nombres de objetos para cambiar sus nombres por un mismo nombre de tabla en la base de datos de destino. Para obtener más información sobre esta función, consulte Map table and column names. DTS agrega la columna __dts_data_source de tipo texto a la tabla de destino para almacenar el origen de los datos. El valor de la columna utiliza el formato DTS instance ID:database name:schema name:table name para identificar el origen de la tabla; por ejemplo, dts****:dtstestdata:testschema:customer1. La función de combinación de varias tablas opera a nivel de tarea, por lo que no es posible aplicarla a nivel de tabla. Si desea combinar algunas tablas pero no otras, debe crear dos tareas de sincronización de datos. Aviso No ejecute operaciones DDL para modificar el esquema de la base de datos o de las tablas en la base de datos de origen. De lo contrario, podrían producirse inconsistencias en los datos o errores en la tarea de sincronización. Seleccione No. Esta es la opción predeterminada.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe, la comprobación previa se aprueba. Si existe, la comprobación falla y la tarea de sincronización de datos no se inicia. Nota Si no puede eliminar ni renombrar la tabla con el mismo nombre en la base de datos de destino, puede asignarle un nombre distinto mediante la función de asignación. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: omite la comprobación de nombres de tabla duplicados en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo: Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave principal o clave única que un registro de la base de datos de origen: Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza. Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro de la base de datos de destino. Si los esquemas de las tablas son distintos, la sincronización inicial de datos podría fallar. Esto puede dar lugar a que solo se sincronicen parcialmente los datos de las columnas o a un fallo total de la sincronización. Proceda con precaución.
      Source Objects	En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en para moverlo al cuadro Selected Objects. Nota Puede seleccionar los objetos que desea sincronizar a nivel de colección.
      Selected Objects	Edite la asignación de nombres de bases de datos. En la lista Selected Objects, haga clic con el botón derecho en la base de datos que contiene la colección que desea sincronizar. Por ejemplo, haga clic con el botón derecho en la base de datos dtsdb. Cambie el Schema Name por el nombre de la base de datos que recibirá los datos en el clúster de destino de AnalyticDB for MySQL 3.0. Opcional: En el área Select DDL and DML Operations to Be Synchronized, seleccione las operaciones incrementales que desea sincronizar. Las operaciones DML disponibles son insert, update y delete. Puede hacer clic en Select All para seleccionar todas las operaciones a la vez. Haga clic en OK. Edite la asignación de nombres de tablas. Haga clic con el botón derecho en la colección que desea sincronizar dentro de la lista Selected Objects. El panel Selected Objects muestra los objetos que se van a sincronizar en una estructura de árbol con la siguiente jerarquía: Nombre de la base de datos > Tipo de objeto > Nombre específico del objeto (por ejemplo, dtsdb > Table > class). Cambie el Table Name por el nombre de la tabla que recibirá los datos en el clúster de destino de AnalyticDB for MySQL 3.0. Opcional: Establezca condiciones de filtro para la sincronización completa de datos. Para obtener más información, consulte Set filter conditions. En el cuadro de entrada Filter Conditions, introduzca una instrucción de filtrado. En ApsaraDB for MongoDB, la sintaxis de las condiciones de filtro difiere de las cláusulas WHERE estándar de SQL. Por ejemplo, para filtrar por identificador de usuario, introduzca {"_id": {$gt:"user100844658590795**",$lte:"user101674868045948**"}}, donde gt significa "mayor que" y lte significa "menor o igual que". Opcional: En el área Select DDL and DML Operations to Be Synchronized, seleccione las operaciones incrementales que desea sincronizar. Las operaciones DML disponibles son insert, update y delete. Configure los campos que desea sincronizar desde MongoDB. De forma predeterminada, DTS asigna los datos de la colección que se va a sincronizar mediante una expresión configurada en la columna Parameter Value. Debe comprobar si la expresión cumple con sus requisitos y configurar parámetros como Column Name, Type, Length y Precision. Importante A la columna de clave principal de la tabla de destino se le debe asignar el valor bson_value("_id"). Al configurar una expresión bson_value(), debe especificar la jerarquía hasta el subcampo más pequeño. De lo contrario, podrían perderse datos o fallar la tarea. En la expresión bson_value() de la columna Parameter Value, consulte el nombre del campo de MongoDB correspondiente a esa fila. El texto entre comillas "" es el nombre del campo en MongoDB. Por ejemplo, si la expresión es bson_value("age"), esta fila corresponde al campo age en MongoDB. Opcional: elimine los campos que no necesite sincronizar. Nota Para eliminar un campo que no necesite sincronizar, haga clic en en la fila correspondiente. Configure los campos que desea sincronizar. Realice las operaciones posteriores según si la expresión bson_value() cumple o no con sus requisitos. Campos con expresiones coincidentes Introduzca un Column Name. Nota Introduzca el nombre de la columna en la tabla que recibirá los datos en el clúster de destino de AnalyticDB for MySQL 3.0. Seleccione un Type para los datos de la columna. Importante Asegúrese de que los tipos de datos de la tabla de destino sean compatibles con los datos de la instancia de origen de MongoDB. Para obtener información sobre las asignaciones de tipos de datos, consulte Data type mapping. Opcional: configure la Length y la Precision de los datos de la columna. Repita los pasos anteriores para asignar cada campo correspondiente. Campos con expresiones no coincidentes Nota Por ejemplo, campos con una estructura jerárquica (padre-hijo). En la columna Operation, haga clic en para esa fila. Haga clic en + Add Column. En la sección Appended Columns, haga clic en + Add Column en la esquina superior derecha. Configure el Column Name, el Type, la Length y la Precision. En el cuadro de texto bajo Parameter Value, introduzca una expresión bson_value(). Para obtener más información, consulte Value assignment examples. Repita los pasos anteriores para asignar cada campo correspondiente. Haga clic en OK.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no necesita seleccionar ninguno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado donde ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
      Retry Time for Failed Connections	Una vez iniciada la tarea de sincronización, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecerla en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Nota Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se utilizará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de reintento según las necesidades de su negocio o liberar la instancia de DTS tan pronto como se liberen las instancias de las bases de datos de origen y de destino.
      Retry Time for Other Issues	Una vez iniciada la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones en la ejecución de DDL o DML), DTS reporta un error e inicia inmediatamente operaciones continuas de reintento. La duración predeterminada de reintento es de 10 minutos. También puede personalizarla dentro de un rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se ejecutan correctamente dentro del tiempo de reintento configurado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
      Only one data type for primary key _id in a table of the data to be synchronized	Especifique si los tipos de datos de la clave principal _id son únicos dentro de cada colección que se va a sincronizar. Importante Seleccione una opción de acuerdo con sus datos reales. Una selección incorrecta puede provocar la pérdida de datos. Este parámetro solo está disponible si Synchronization Types incluye Full Data Synchronization. Yes: los tipos de datos son únicos. Durante la fase de sincronización completa, DTS no analiza los tipos de datos de las claves principales en los datos de origen. Para cada colección, DTS sincroniza únicamente los datos correspondientes a un tipo de dato de clave principal. No: los tipos de datos no son únicos. Durante la fase de sincronización completa, DTS analiza los tipos de datos de las claves principales en los datos de origen y sincroniza todos los datos.
      Enable Throttling for Full Data Synchronization	Durante la etapa de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar la carga de estas. Para reducir dicha carga, puede establecer un límite de velocidad para la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
      Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
      Environment Tag	Según sus necesidades, puede seleccionar una etiqueta de entorno para identificar la instancia. En este ejemplo, no es necesario seleccionar ninguna etiqueta.
      Configure ETL	Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL?. Valores válidos: Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: deshabilita la función ETL.
      Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral indicado, se envía una notificación a un contacto de alerta. No: no se configuran alertas. Yes: configure las alertas estableciendo un umbral de alerta y especificando un notification de alerta. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para consultar los parámetros de API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.

   • Cuando termine de revisar los parámetros de API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar una vez aprobados todos los elementos de dicha comprobación.

   • Si la comprobación previa falla, haga clic en View Details junto al elemento con errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si la comprobación previa devuelve una advertencia:

     • Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos que pongan en riesgo su negocio.

7. Adquiera la instancia.

   1. Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. A continuación se describen estos parámetros en detalle.

      Categoría	Parámetro	Descripción
      New Instance Class	Método de facturación	Subscription: paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
      	Configuración del resource group	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
      	Especificación de enlace	DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Puede elegir una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
      	Duración de la suscripción	En el modo subscription, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

      Puede consultar el progreso de la tarea en la página Data Synchronization.

Mapeo de tipos de datos

Configuración de mapeo

{
  "_id":"62cd344c85c1ea6a2a9f****",
  "person":{
    "name":"neo",
    "age":26,
    "sex":"male"
  }
}