Este tema describe cómo usar Data Transmission Service (DTS) para sincronizar datos de una ApsaraDB RDS for MySQL instancia a un clúster de Elasticsearch.
Requisitos previos
El clúster de destino de Elasticsearch ya está creado. Para más información, consulte Create an Alibaba Cloud Elasticsearch cluster.
El espacio de almacenamiento disponible del clúster de destino de Elasticsearch debe ser mayor que el espacio de almacenamiento que usa la instancia de origen de ApsaraDB RDS for MySQL.
Precauciones
|
Tipo |
Descripción |
|
Límites de la base de datos de origen |
|
|
Otros límites |
|
|
Casos especiales |
|
Si el objeto de sincronización de una tarea de DTS es un alias de índice en la instancia de Elasticsearch de destino, podría producirse una inconsistencia de datos cuando cambie el índice real asociado a dicho alias. Por ejemplo, si el alias de índice apunta al Índice A al escribir datos, pero apunta al Índice B al sincronizar operaciones de eliminación, los datos eliminados del origen no podrán quitarse del Índice A. Como resultado, los datos eliminados seguirán siendo consultables en el destino.
Facturación
|
Tipo de sincronización |
Precio |
|
Sincronización de esquemas y sincronización completa de datos |
Sin costo. |
|
Sincronización incremental de datos |
Con costo. Para más información, consulte Billing overview. |
Operaciones SQL compatibles
Tipo de operación | Instrucción SQL |
DML | INSERT, UPDATE y DELETE Nota No se admite la sincronización de la eliminación de columnas mediante instrucciones UPDATE. |
Permisos de la cuenta de la base de datos
Base de datos | Permisos | Acciones |
Instancia de origen de ApsaraDB RDS for MySQL | Permisos de lectura sobre los objetos que se van a sincronizar. | Create an account y Modify the permissions of a standard account on an ApsaraDB RDS for MySQL instance. |
Instancia de destino de Elasticsearch | Instancia de Elasticsearch. La cuenta predeterminada es elastic. | |
Si la cuenta de la base de datos de origen no se creó en la consola de ApsaraDB RDS for MySQL, asegúrese de que la cuenta tenga los permisos REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW y SELECT.
Asignación de tipos de datos
-
Una base de datos de origen y una instancia de Elasticsearch admiten distintos tipos de datos que no siempre pueden asignarse directamente. Durante la inicialización de la estructura, DTS asigna los tipos de datos según los que admite la instancia de Elasticsearch de destino. Para más información, consulte Data type mapping for structure initialization.
NotaDurante el proceso de migración de esquemas de DTS, DTS no establece el parámetro
dynamicenmapping. El comportamiento de este parámetro depende de la configuración de su instancia de Elasticsearch. Si sus datos de origen son de tipo JSON, debe asegurarse de que, para una clave específica, sus valores correspondientes tengan el mismo tipo de datos en todas las filas de una tabla. De lo contrario, DTS podría presentar problemas de sincronización. Para más información, consulte dynamic. -
La asignación entre Elasticsearch y una base de datos relacional varía según la versión de Elasticsearch.
ImportanteA partir de Elasticsearch 7.0, un índice ya no admite varios tipos, y los tipos se eliminaron por completo en Elasticsearch 8.0. De forma predeterminada, cuando configura una tarea de sincronización o migración, DTS asigna una tabla de una base de datos relacional a un índice en Elasticsearch. Puede cambiar esta asignación cuando configure los objetos que se van a sincronizar o migrar.
Elasticsearch 7.0 y versiones posteriores
Elasticsearch
Base de datos relacional
index
table
document
row
field
column
mapping
schema
Versiones anteriores a Elasticsearch 7.0
Elasticsearch
Base de datos relacional
index
database
type
table
document
row
field
column
mapping
schema
Procedimiento
-
Acceda a la página de la lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menús superior, elija .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para abrir la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre para la tarea. Se recomienda especificar un nombre descriptivo que facilite su identificación. El nombre no tiene que ser único.
Source Database
Select Existing Connection
-
Para usar una instancia de base de datos que es added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione MySQL.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de origen de ApsaraDB RDS for MySQL.
Replicate Data Across Alibaba Cloud Accounts
En este ejemplo, los datos se sincronizan dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
RDS Instance ID
Seleccione el ID de la instancia de origen de ApsaraDB RDS for MySQL.
Database Account
Introduzca la cuenta de la base de datos de la instancia de origen de ApsaraDB RDS for MySQL. Para obtener más información sobre los permisos obligatorios, consulte Database account permissions.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Connection Method
Seleccione Non-encrypted o SSL-encrypted según sus necesidades. Si selecciona SSL-encrypted, debe habilitar previamente el cifrado SSL para la instancia de RDS for MySQL. Para obtener más información, consulte Use a cloud certificate to quickly enable SSL encryption.
Destination Database
Select Existing Connection
-
Para usar una instancia de base de datos que es added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione Elasticsearch.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de destino de Elasticsearch.
Type
Seleccione Cluster o Serverless según sus necesidades.
Instance ID
Seleccione el ID de la instancia de destino de Elasticsearch.
Database Account
Introduzca la cuenta utilizada para conectarse a la instancia de Elasticsearch. Esta es el Username que especificó cuando creó la instancia de Elasticsearch. La cuenta predeterminada es elastic.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Encryption
Seleccione HTTP o HTTPS según sus necesidades.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Este proceso se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
Si la base de datos de origen o de destino está autogestionada (donde Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea sincronizar.
Parámetro
Descripción
Synchronization Types
Los tipos de sincronización. De forma predeterminada, se selecciona Incremental Data Synchronization. También debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS sincroniza los datos históricos de los objetos seleccionados desde la base de datos de origen hacia el clúster de destino. Estos datos históricos sirven como base para la sincronización incremental posterior.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con ese nombre, la comprobación previa se supera correctamente. Si existe una tabla con el mismo nombre, la comprobación previa falla y la tarea de sincronización de datos no se inicia.
NotaSi no puede eliminar ni cambiar el nombre de la tabla con el mismo nombre en la base de datos de destino, puede asignarle un nombre de tabla distinto. Para obtener más información, consulte Map table and column names.
-
Ignore Errors and Proceed: omite la comprobación de nombres de tablas duplicados en la base de datos de destino.
AvisoSeleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo:
-
Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen:
-
Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza.
-
Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro de la base de datos de destino.
-
-
Si los esquemas de las tablas son distintos, la sincronización inicial de datos podría fallar. Esto puede dar lugar a que solo se sincronicen parcialmente los datos de las columnas o a un fallo total de la sincronización. Proceda con precaución.
-
Index Name
Si selecciona Table Name, el índice creado en la instancia de destino de Elasticsearch tendrá el mismo nombre que la tabla.
Si selecciona Database Name_Table Name, el nombre del índice en la instancia de destino de Elasticsearch será la concatenación del nombre de la base de datos, un guion bajo (_) y el nombre de la tabla.
NotaLa configuración de asignación de nombres de índices se aplica a todas las tablas.
Capitalization of Object Names in Destination Instance
Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de los objetos de bases de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la DTS default policy. También puede optar por usar las políticas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects
En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en
para moverlo al cuadro Selected Objects.NotaPuede seleccionar tablas o bases de datos para sincronizar. Si selecciona tablas, DTS no sincronizará otros tipos de objetos, como vistas, desencadenadores o procedimientos almacenados.
Selected Objects
Si necesita cambiar el nombre de un campo sincronizado, haga clic con el botón derecho en el nombre de la tabla correspondiente dentro del cuadro Selected Objects, especifique el nombre del índice, el nombre de tipo y otra información para la tabla en la instancia de Elasticsearch de destino, y luego haga clic en OK. Para obtener más información, consulte Map a single object name.
NotaEn los nombres de índices y de tipos solo se admiten guiones bajos (_) como caracteres especiales.
Puede establecer condiciones SQL para filtrar los datos que se van a sincronizar. Solo los datos que cumplan dichas condiciones se sincronizarán con la instancia de destino. Para obtener más información, consulte Filter task data with an SQL condition.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no necesita seleccionar ningún clúster. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado donde ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Después de que se inicie una tarea de sincronización, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error e intenta restablecer la conexión de inmediato. La duración predeterminada de los reintentos es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecer una duración de 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
Nota-
Si tiene varias instancias de DTS (por ejemplo, la instancia A y la instancia B) que comparten el mismo origen o destino, y establece el tiempo de reintento de red en 30 minutos para la instancia A y en 60 minutos para la instancia B, se aplicará la duración más corta de 30 minutos para ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de los reintentos según las necesidades de su negocio. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicie la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar instrucciones DDL o DML), DTS reporta un error e inicia de inmediato reintentos continuos. La duración predeterminada de los reintentos es de 10 minutos. También puede personalizar esta duración en un rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se ejecutan correctamente dentro del tiempo de reintento configurado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo cual puede aumentar la carga de estas. Para reducir dicha carga, puede establecer un límite de velocidad para la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Shard Configuration
Establezca el número de fragmentos primarios y de réplica para el índice, tomando como base la configuración máxima de fragmentos del índice en la instancia de destino de Elasticsearch.
String Index
Especifica el método utilizado para indexar las cadenas que se sincronizan con la instancia de destino de Elasticsearch.
analyzed: las cadenas se analizan antes de indexarse. También debe seleccionar un analizador específico. Para obtener más información sobre los tipos de analizadores y sus funciones, consulte Analyzers.
not analyzed: las cadenas se indexan con sus valores originales, sin análisis previo.
no: las cadenas no se indexan.
Time Zone
Cuando los datos DATETIME o TIMESTAMP se sincronizan con la instancia de destino de Elasticsearch, puede seleccionar una zona horaria.
NotaSi los tipos de datos de fecha y hora de la instancia de destino no requieren una zona horaria, primero debe establecer el tipo de documento (type) para estos tipos de datos en dicha instancia.
DOCID
No necesita configurar este parámetro. El DOCID toma de forma predeterminada la clave primaria de la tabla. Si la tabla no tiene clave primaria, el DOCID será una columna de ID generada automáticamente por Elasticsearch.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus necesidades. En este ejemplo, no es necesario seleccionar ninguna etiqueta.
Configure ETL
Decida si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: deshabilita la función ETL.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Decida si desea escribir la información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: la información SQL de latido no se escribe en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso.
-
No: escribe la información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Monitoring and Alerting
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral indicado, se enviará una notificación a un contacto de alerta.
-
No: no se configuran alertas.
-
Yes: configure las alertas estableciendo un umbral de alerta y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
-
-
Una vez completada la configuración anterior, haga clic en Next: Configure Database and Table Fields en la parte inferior de la página para establecer la política _routing y el valor _id de las tablas que se sincronizarán en la instancia de destino de Elasticsearch.
Tipo
Descripción
Set _routing
La función _routing dirige los documentos para que se almacenen en un fragmento específico de la instancia de Elasticsearch de destino. Para obtener más información, consulte _routing.
Si selecciona Yes, puede especificar columnas personalizadas para el enrutamiento.
Si selecciona No, se utilizará el valor _id para el enrutamiento.
NotaSi la instancia de Elasticsearch de destino es de la versión 7.x, debe seleccionar No.
_routing Column
Seleccione la columna que se usará para el enrutamiento.
NotaEste parámetro solo es obligatorio cuando Set _routing se establece en Yes.
Value of _id
Seleccione la columna que se usará como ID del documento.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para consultar los parámetros de la API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.
Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se superan todos los elementos de dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento que falló. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si la comprobación previa devuelve una advertencia:
Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, haga clic secuencialmente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos, lo cual representa un riesgo para su negocio.
-
Adquiera la instancia.
Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. A continuación se describen estos parámetros en detalle.
Categoría
Parámetro
Descripción
New Instance Class
Billing Method
-
subscription: paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento.
-
pay-as-you-go: se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
Resource Group Configuration
El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
Link Specification
DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Puede elegir una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
Subscription Duration
En el modo subscription, seleccione la duración y la cantidad para la instancia de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años.
NotaEsta opción solo está disponible cuando el método de facturación es Subscription.
-
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.
Puede consultar el progreso de la tarea en la página Data Synchronization.