Data Transmission Service:Sincronización de PolarDB-X 1.0 con Elasticsearch

Requisitos previos

• La instancia de origen PolarDB-X 1.0 debe usar ApsaraDB RDS for MySQL como tipo de almacenamiento. Esto incluye las instancias de ApsaraDB RDS personalizadas y las adquiridas por separado. PolarDB for MySQL no es compatible.

• Cree un clúster de Elasticsearch de destino. Para obtener más información, consulte Create an Alibaba Cloud Elasticsearch instance.

• El espacio de almacenamiento disponible del clúster de Elasticsearch de destino debe superar el tamaño total de los datos de la instancia de PolarDB-X 1.0 de origen.

Consideraciones

Facturación

Operaciones SQL para la sincronización incremental

Permisos de las cuentas de base de datos

Precauciones

Procedimiento

1. Acceda a la página de la lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Synchronization.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.

   1. Inicie sesión en Data Management (DMS).

   2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.

2. Haga clic en Create Task para abrir la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. No es obligatorio que el nombre sea único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione PolarDB-X 1.0.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra la instancia de origen de PolarDB-X 1.0.
   	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo sincroniza datos dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
   	Instance ID	Seleccione el identificador de la instancia de origen de PolarDB-X 1.0.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de PolarDB-X 1.0.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que esté added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione Elasticsearch.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra la instancia de destino de Elasticsearch.
   	Type	Seleccione Cluster o Serverless según sus necesidades empresariales.
   	Instance ID	Seleccione el identificador de la instancia de destino de Elasticsearch.
   	Database Account	Introduzca la cuenta que se usa para conectarse a la instancia de destino de Elasticsearch. Esta es la opción Login name que especificó cuando creó la instancia de Elasticsearch. La cuenta predeterminada es elastic.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   	Encryption	Seleccione HTTP o HTTPS según sus necesidades.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde dichos servidores y se puede configurar de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

   • Si la base de datos de origen o de destino es autogestionada (es decir, cuando Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea sincronizar.

      Parámetro	Descripción
      Synchronization Types	La opción Incremental Data Synchronization está seleccionada. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si la base de datos de destino contiene un índice con el mismo nombre. Si no existe ningún índice con ese nombre, la comprobación previa se aprueba. En caso contrario, DTS reporta un error durante la comprobación previa y la tarea de sincronización no se inicia. Nota Si no puede eliminar ni renombrar el índice en conflicto en la base de datos de destino, puede specify a different name for the synchronized object in the destination instance para evitar conflictos de nombres. Ignore Errors and Proceed: omite la comprobación de índices con el mismo nombre en la base de datos de destino. Aviso Si selecciona Ignore Errors and Proceed, podría producirse una inconsistencia de datos que represente un riesgo para su negocio. Por ejemplo: Si las estructuras de mapeo son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria que uno de la base de datos de origen, DTS conserva el registro de destino durante la inicialización, pero lo sobrescribe durante la sincronización incremental de datos. Si las estructuras de mapeo son diferentes, la inicialización de datos podría fallar, solo se sincronizarían algunas columnas o la sincronización fallaría por completo.
      Index Name	Si selecciona Table Name, el índice de la instancia de destino de Elasticsearch toma el nombre de la tabla de origen. Si selecciona Database Name_Table Name, el índice de destino de Elasticsearch adopta el formato database_name_table_name. Nota Esta configuración de mapeo de nombres de índice se aplica a todas las tablas.
      Capitalization of Object Names in Destination Instance	Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de bases de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la opción DTS default policy. También puede optar por usar las políticas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
      Source Objects	En la sección Source Objects, haga clic en los objetos que desea sincronizar y luego haga clic en para agregarlos a la sección Selected Objects. Nota Se recomienda seleccionar tablas como objetos de sincronización. Si selecciona una base de datos completa, los cambios para agregar o eliminar tablas dentro de ella no se sincronizarán con la base de datos de destino.
      Selected Objects	Para renombrar un único objeto de sincronización en la instancia de destino, haga clic derecho sobre el objeto en el cuadro Selected Objects. Para obtener más información sobre cómo renombrar objetos, consulte Map a single database, table, or column. Para cambiar por lotes los nombres de varios objetos de sincronización en la instancia de destino, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch. Nota En los nombres de índices y tipos, el único carácter especial compatible es el guion bajo (_). Para especificar condiciones WHERE que filtren los datos, haga clic derecho sobre una tabla en la sección Selected Objects y defina las condiciones en el cuadro de diálogo que aparece. Para obtener más información, consulte Set filter conditions. Si utiliza la función de mapeo de nombres de objetos, la sincronización de los objetos dependientes podría fallar.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado donde ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
      Retry Time for Failed Connections	Una vez iniciada la tarea de sincronización, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error e intenta restablecerla de inmediato. La duración predeterminada de los reintentos es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecerla en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente; de lo contrario, la tarea falla. Nota Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se aplicará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar esta duración según sus necesidades empresariales o liberar la instancia de DTS tan pronto como se liberen las instancias de las bases de datos de origen y de destino.
      Retry Time for Other Issues	Después de que se inicie la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar instrucciones DDL o DML), DTS reporta un error y comienza de inmediato a reintentar las operaciones de forma continua. La duración predeterminada de los reintentos es de 10 minutos. También puede personalizarla en un rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se completan correctamente dentro del tiempo configurado, la tarea de sincronización se reanuda automáticamente; de lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
      Enable Throttling for Full Data Synchronization	Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar su carga. Para reducir dicha carga, puede establecer un límite de velocidad para la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
      Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
      Environment Tag	Seleccione una etiqueta de entorno para identificar la instancia según sus necesidades.
      Shard Configuration	Establezca el número de fragmentos primarios y de réplica para el índice, tomando como referencia la configuración máxima de fragmentos de los índices en la instancia de destino de Elasticsearch.
      String Index	Define cómo se indexan las cadenas de texto que se sincronizan con la instancia de destino de Elasticsearch. analyzed: la cadena se analiza antes de indexarse. También debe seleccionar un analizador específico. Para obtener más información sobre los tipos de analizadores y sus funciones, consulte Analyzers. not_analyzed: la cadena se indexa con su valor original, sin análisis previo. no: la cadena no se indexa.
      Time Zone	Cuando DTS sincroniza tipos de datos relacionados con la hora, como DATETIME y TIMESTAMP, con la instancia de destino de Elasticsearch, puede seleccionar la zona horaria que se incluirá. Nota Si los tipos de datos relacionados con la hora en la instancia de destino no requieren una zona horaria, debe configurar previamente el tipo de documento (type) para estos tipos de datos en dicha instancia.
      DOCID	El DOCID toma de forma predeterminada el valor de la clave primaria de la tabla. Si la tabla no tiene clave primaria, el DOCID será una columna de identificador que la instancia de Elasticsearch genera automáticamente.
      Configure ETL	Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL?. Valores válidos: Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: deshabilita la función ETL.
      Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral indicado, se envía una notificación a un contacto de alerta. No: no se configuran alertas. Yes: configura las alertas estableciendo un umbral y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

   3. Una vez completadas las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields en la parte inferior de la página. Luego, establezca la política _routing y el valor de _id para las tablas que desea sincronizar con la instancia de destino de Elasticsearch.

      Tipo	Descripción
      Set _routing	Puede usar la función _routing para almacenar un documento en un fragmento específico de la instancia de destino de Elasticsearch. Para obtener más información, consulte _routing. Si selecciona Yes, puede especificar una columna personalizada para el enrutamiento. Si selecciona No, se utilizará el valor de _id para el enrutamiento. Nota Si la instancia de destino de Elasticsearch ejecuta la versión 7.x, debe seleccionar No.
      _routing Column	Seleccione la columna que se usará para el enrutamiento. Nota Este parámetro es obligatorio únicamente si establece Set _routing en Yes.
      Value of _id	Seleccione la columna que se usará como identificador del documento.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para consultar los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.

   • Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se aprueban todos los elementos de dicha comprobación.

   • Si la comprobación previa falla, haga clic en View Details junto al elemento con errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si la comprobación previa devuelve una advertencia:

     • Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que sí se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias de datos que representen un riesgo para su negocio.

7. Adquiera la instancia.

   1. Cuando Success Rate alcance el 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. En la siguiente tabla se describen estos parámetros en detalle.

      Categoría	Parámetro	Descripción
      New Instance Class	Método de facturación	Subscription: paga al crear la instancia. Este modelo es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: se le cobra por hora. Es ideal para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
      	Configuración del resource group	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
      	Especificación de enlace	DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Elija una especificación según su escenario empresarial. Para obtener más información, consulte Data synchronization link specifications.
      	Duración de la suscripción	En el modo subscription, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

      Puede consultar el progreso de la tarea en la página Data Synchronization.