Data Transmission Service:Sincronizar PolarDB-X 2.0 con Elasticsearch

Requisitos previos

• Cuenta con una instancia de origen de PolarDB-X 2.0.

• Cuenta con un clúster de destino de Elasticsearch. Para obtener más información, consulte Create an Alibaba Cloud Elasticsearch instance.

• Para conocer las versiones de origen y destino compatibles, consulte Synchronization solution overview.

• El clúster de destino de Elasticsearch debe tener más espacio de almacenamiento disponible que el tamaño de los datos de la instancia de origen de PolarDB-X 2.0.

Limitaciones

Facturación

Topologías de sincronización

• Sincronización unidireccional de uno a uno

• Sincronización unidireccional de uno a varios

• Sincronización unidireccional de varios a uno

Para obtener más información, consulte Synchronization topologies.

Operaciones SQL compatibles

Procedimiento

1. Vaya a la página de lista de tareas de sincronización de la región de destino. Utilice uno de los dos métodos siguientes:

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Synchronization.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.

   1. Inicie sesión en Data Management (DMS).

   2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.

2. Haga clic en Create Task para abrir la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Aviso

   Después de seleccionar las instancias de origen y de destino, lea detenidamente los límites que se muestran en la parte superior de la página. Si no respeta estos límites, la tarea podría fallar o producirse inconsistencias en los datos.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. No es necesario que el nombre sea único.
   Source Database	Database Type	Seleccione PolarDB-X 2.0.
   	Connection Type	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde reside la instancia de origen de PolarDB-X 2.0.
   	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo utiliza una instancia de base de datos que pertenece a la cuenta actual de Alibaba Cloud. Seleccione No.
   	Instance ID	Seleccione el identificador de la instancia de origen de PolarDB-X 2.0.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de PolarDB-X 2.0. La cuenta debe tener los permisos REPLICATION SLAVE, REPLICATION CLIENT y SELECT sobre los objetos que se van a sincronizar. Nota Para obtener información sobre cómo otorgar permisos, consulte Account permission issues during data synchronization.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   Destination Database	Database Type	Seleccione Elasticsearch.
   	Connection Type	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde reside la instancia de destino de Elasticsearch.
   	Type	Seleccione Cluster Edition o Serverless.
   	Instance ID	Seleccione el identificador de la instancia de destino de Elasticsearch.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de destino de Elasticsearch. La cuenta debe tener permisos de lectura y escritura. La cuenta predeterminada es elastic.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   	Encryption	Seleccione HTTP o HTTPS según sus necesidades.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde dichos servidores y se puede configurar de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

   • Si la base de datos de origen o de destino es autogestionada (es decir, cuando Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea sincronizar.

      Parámetro	Descripción
      Synchronization Types	Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
      Index Name	Table Name Si selecciona Table Name, el nombre del índice en la instancia de destino de Elasticsearch coincide con el nombre de la tabla. Por ejemplo, el nombre del índice sería 'order'. Database Name_Table Name Si selecciona Database Name_Table Name, el nombre del índice en la instancia de destino de Elasticsearch adopta el formato NombreBaseDeDatos_NombreTabla. Por ejemplo, el nombre del índice sería dtstest_order.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con ese nombre, la comprobación previa se supera correctamente. En caso contrario, la comprobación falla y la tarea de sincronización de datos no se inicia. Nota Si no puede eliminar ni cambiar el nombre de la tabla duplicada en la base de datos de destino, asígnele un nombre de tabla distinto mediante mapeo. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: omite la comprobación de nombres de tabla duplicados en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo: Si los esquemas de las tablas son idénticos y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen: Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza. Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe al de la base de datos de destino. Si los esquemas de las tablas son distintos, la sincronización inicial de datos podría fallar. Esto puede provocar que solo se sincronicen parcialmente los datos de las columnas o que falle por completo la sincronización. Proceda con precaución.
      Capitalization of Object Names in Destination Instance	Permite configurar la política de distinción entre mayúsculas y minúsculas para los nombres de bases de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la opción DTS default policy. También puede optar por usar las políticas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
      Source Objects	En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en para moverlo al cuadro Selected Objects. Nota Puede seleccionar bases de datos, tablas y columnas como objetos de sincronización. Si selecciona tablas o columnas, otros objetos como vistas, desencadenadores y procedimientos almacenados no se sincronizarán con la base de datos de destino.
      Selected Objects	Para cambiar el nombre de un único objeto de sincronización en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información sobre cómo cambiar el nombre de los objetos, consulte Map a single database, table, or column. Para cambiar por lotes los nombres de varios objetos de sincronización en la instancia de destino, haga clic en Batch Edit en la esquina superior derecha del cuadro Selected Objects. Para obtener más información, consulte Map databases, tables, and columns in a batch. Nota El único carácter especial compatible en los nombres de índices y tipos es el guion bajo (_). Para seleccionar las operaciones SQL que desea sincronizar a nivel de base de datos o de tabla, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects y luego seleccione las operaciones SQL. Para filtrar datos mediante una cláusula WHERE, haga clic con el botón derecho en la tabla dentro del cuadro Selected Objects y establezca la condición de filtro. Para obtener más información, consulte Filter task data by using SQL conditions. Si utiliza la función de mapeo de nombres de objetos, es posible que otros objetos dependientes del objeto asignado no se sincronicen correctamente.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no necesita seleccionar ninguno. Si busca un rendimiento más estable, adquiera un clúster dedicado para ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
      Retry Time for Failed Connections	Una vez iniciada la tarea de sincronización, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de los reintentos es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecer este valor en 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente; de lo contrario, la tarea falla. Nota Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten la misma base de datos de origen o de destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se aplicará la duración más corta (30 minutos) a ambas. DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión. Por ello, se recomienda personalizar la duración de los reintentos según las necesidades de su negocio o liberar la instancia de DTS tan pronto como se liberen las instancias de las bases de datos de origen y de destino.
      Retry Time for Other Issues	Después de iniciar la tarea de sincronización, si ocurren problemas distintos a los de conectividad en la base de datos de origen o de destino (como excepciones al ejecutar instrucciones DDL o DML), DTS reporta un error y comienza de inmediato a reintentar la operación de forma continua. La duración predeterminada de los reintentos es de 10 minutos. También puede personalizarla en un rango de 1 a 1440 minutos. Se recomienda establecer este valor en 10 minutos o más. Si las operaciones correspondientes se ejecutan correctamente dentro del tiempo configurado, la tarea de sincronización se reanuda automáticamente; de lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
      Enable Throttling for Full Data Synchronization	Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar la carga de estas. Para reducir dicha carga, establezca un límite de velocidad en la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
      Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
      Environment Tag	Puede seleccionar una etiqueta de entorno para identificar la instancia. En este ejemplo no se requiere ninguna etiqueta.
      Shard Configuration	Establezca el número de shards primarios y réplicas según la configuración máxima de shards de la instancia de destino de Elasticsearch.
      String Index	Especifique cómo se indexarán las cadenas de texto en la instancia de destino de Elasticsearch. analyzed: DTS analiza la cadena de texto y luego la indexa. También debe seleccionar un analizador. Para obtener más información sobre los tipos de analizadores y sus funciones, consulte Analyzers. not_analyzed: DTS indexa la cadena de texto tal cual, sin analizarla. no: DTS no indexa la cadena de texto.
      Time Zone	Seleccione una zona horaria para los tipos de datos relacionados con la hora, como DATETIME y TIMESTAMP, al sincronizarlos con la instancia de destino de Elasticsearch. Nota Si los tipos de datos relacionados con la hora en la instancia de destino no requieren una zona horaria, configure el tipo de documento (type) para estos tipos de datos en la instancia de destino antes de la sincronización.
      DOCID	El DOCID toma de forma predeterminada el valor de la clave primaria de la tabla. Si la tabla no tiene clave primaria, Elasticsearch genera un identificador automáticamente.
      Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Elija si desea escribir la información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución. Yes: no se escribe la información SQL de latido en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso. No: escribe la información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
      Configure ETL	Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL?. Valores válidos: Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: deshabilita la función ETL.
      Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral indicado, se envía una notificación a un contacto de alerta. No: no se configuran alertas. Yes: configure las alertas estableciendo un umbral y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

   3. Una vez completada la configuración, haga clic en Next: Configure Database and Table Fields en la parte inferior de la página para establecer la política _routing y el valor _id de la tabla que se sincronizará en la instancia de destino de Elasticsearch.

      Tipo	Descripción
      Set _routing	Configurar _routing le permite enrutar y almacenar documentos en un shard específico de la instancia de destino de Elasticsearch. Para obtener más información, consulte _routing. Si selecciona Yes, podrá utilizar columnas personalizadas para el enrutamiento. Si selecciona No, se utilizará _id para el enrutamiento. Nota Si la instancia de destino de Elasticsearch es de la versión 7.x, debe seleccionar No.
      Value of _id	Primary key column of the table Las claves primarias compuestas se combinan en una sola columna. Business primary key Si selecciona Business primary key, también debe configurar la Business primary key column correspondiente.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para consultar los parámetros de API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.

   • Cuando termine de revisar los parámetros de API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se superan todos los elementos de dicha comprobación.

   • Si la comprobación previa falla, haga clic en View Details junto al elemento que presentó errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si la comprobación previa devuelve una advertencia:

     • Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que sí se pueden ignorar, haga clic secuencialmente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos que pongan en riesgo su negocio.

7. Adquiera la instancia.

   1. Cuando Success Rate alcance el 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. A continuación se describen estos parámetros en detalle.

      Categoría	Parámetro	Descripción
      New Instance Class	Billing Method	Subscription: el pago se realiza al crear la instancia. Este modelo es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: se le cobra por hora. Es ideal para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
      	Resource Group Configuration	El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
      	Link Specification	DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Elija una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
      	Subscription Duration	En el modo subscription, seleccione la duración y la cantidad de instancias de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

      Consulte el progreso de la tarea en la página Data Synchronization.

Compruebe el índice y los datos sincronizados

Una vez que la tarea de sincronización entra en estado Running, utilice Kibana para conectarse al clúster de Elasticsearch. Así podrá comprobar que el índice y los datos cumplen con sus requisitos. Para más información, consulte Log on to the Kibana console.