Utilice Data Transmission Service (DTS) para migrar datos de PolarDB for MySQL a Elasticsearch.
Requisitos previos
Cree un clúster de Elasticsearch de destino. Para obtener más información, consulte Quick start: Create a cluster and retrieve data.
El espacio de almacenamiento del clúster de Elasticsearch de destino debe ser mayor que el utilizado por la instancia de origen de PolarDB for MySQL.
Limitaciones
Tipo | Descripción |
Limitaciones de la base de datos de origen |
|
Otras limitaciones |
|
Otras notas | DTS ejecuta periódicamente el comando CREATE DATABASE IF NOT EXISTS |
Si un objeto de sincronización de DTS es un alias de índice en la instancia de Elasticsearch de destino, podría producirse una inconsistencia de datos cuando cambie el índice real al que apunta el alias. Por ejemplo, al escribir datos, el alias de índice apunta al Índice A. Si más adelante el alias apunta al Índice B durante una operación de eliminación síncrona posterior, los datos del Índice A no se podrán eliminar. Como resultado, los datos eliminados del origen seguirán siendo consultables en el destino.
Facturación
|
Tipo de migración |
Cargo por configuración de la instancia |
Cargo por tráfico de Internet |
|
Migración de esquema y migración completa de datos |
Sin cargo. |
Cuando el parámetro Access Method de la base de datos de destino se establece en Public IP Address, se le cobra por el tráfico de Internet. Para obtener más información, consulte Billing overview. |
|
Migración incremental de datos |
Con cargo. Para obtener más información, consulte Billing overview. |
Tipos de migración
-
Migración de esquema
DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la base de datos de destino.
-
Migración completa
DTS migra todos los datos históricos de los objetos de migración especificados desde la base de datos de origen hacia la base de datos de destino.
-
Migración incremental
Una vez finalizada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la base de datos de destino. La migración incremental permite trasladar los datos sin interrumpir sus aplicaciones autogestionadas.
Operaciones SQL para la migración incremental
Tipo | Instrucción SQL |
DML | INSERT, UPDATE y DELETE Nota No se admite el uso de una instrucción UPDATE para eliminar una columna. |
Permisos necesarios para las cuentas de base de datos
|
Base de datos |
Permisos necesarios |
Creación y autorización |
|
Clúster de PolarDB for MySQL |
Permiso de lectura sobre los objetos que se van a migrar |
Asignación de tipos de datos
-
Una base de datos de origen y una instancia de Elasticsearch admiten tipos de datos distintos que no siempre pueden asignarse de forma directa. Durante la inicialización de la estructura, DTS asigna los tipos de datos según los que admite la instancia de Elasticsearch de destino. Para obtener más información, consulte Data type mapping for structure initialization.
NotaDurante el proceso de migración de esquema de DTS, no se configura el parámetro
dynamicenmapping. El comportamiento de este parámetro depende de la configuración de su instancia de Elasticsearch. Si los datos de origen son de tipo JSON, asegúrese de que, para una clave específica, los valores correspondientes tengan el mismo tipo de dato en todas las filas de una tabla. De lo contrario, DTS podría presentar problemas de sincronización. Para obtener más información, consulte dynamic. -
La correspondencia entre Elasticsearch y una base de datos relacional varía según la versión de Elasticsearch.
ImportanteA partir de Elasticsearch 7.0, un índice ya no admite varios tipos, y estos se eliminaron por completo en Elasticsearch 8.0. De manera predeterminada, cuando configura una tarea de sincronización o migración, DTS asigna una tabla de la base de datos relacional a un índice de Elasticsearch. Puede modificar esta asignación al configurar los objetos que se van a sincronizar o migrar.
Elasticsearch 7.0 y versiones posteriores
Elasticsearch
Base de datos relacional
index
table
document
row
field
column
mapping
schema
Versiones anteriores a Elasticsearch 7.0
Elasticsearch
Base de datos relacional
index
database
type
table
document
row
field
column
mapping
schema
Procedimiento
-
Vaya a la página de la lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
Sección
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla con facilidad. El nombre no necesita ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente.
NotaEn la consola de DMS, este parámetro se llama Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
Database Type
Seleccione PolarDB for MySQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región del clúster de origen de PolarDB for MySQL.
Cross-account
Este ejemplo migra datos dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
PolarDB Cluster ID
Seleccione el ID del clúster de origen de PolarDB for MySQL.
Database Account
Introduzca la cuenta de la base de datos del clúster de origen de PolarDB for MySQL. Para obtener información sobre los permisos obligatorios, consulte Permissions required for the database account.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Encryption
Seleccione un tipo de conexión según sus necesidades. Para obtener más información sobre la función de cifrado SSL, consulte Enable SSL encryption.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya se haya added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configura automáticamente.
NotaEn la consola de DMS, este parámetro se llama Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
Database Type
Seleccione Elasticsearch.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región del clúster de Elasticsearch de destino.
Type
Seleccione Cluster o Serverless según sus requisitos.
Instance ID
Seleccione el ID del clúster de Elasticsearch de destino.
Database Account
Introduzca la cuenta de la base de datos del clúster de Elasticsearch. La cuenta predeterminada es elastic.
Database Password
Introduzca la contraseña de inicio de sesión que estableció al crear el clúster de Elasticsearch.
Encryption
Seleccione HTTP o HTTPS según sus necesidades.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que el segmento de direcciones IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
Si la base de datos de origen o de destino está autogestionada (Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
Si solo necesita ejecutar una migración completa, seleccione tanto Schema Migration como Full Data Migration.
Para ejecutar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
NotaSi no selecciona Schema Migration, asegúrese de que exista una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sus necesidades.
Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración de datos para garantizar la coherencia de los datos.
Processing Mode for Existing Destination Tables
Precheck and Report Errors: DTS comprueba si hay tablas en la base de datos de destino con los mismos nombres que las del origen. La comprobación previa se supera si no existen dichas tablas. De lo contrario, la comprobación previa falla y la tarea de migración de datos no se inicia.
NotaSi no puede eliminar ni cambiar el nombre de las tablas con nombres duplicados en la base de datos de destino, puede modificar sus nombres en dicha base de datos. Para obtener más información, consulte object name mapping.
Ignore Errors and Proceed: omite la comprobación previa de tablas con nombres duplicados.
AvisoSeleccionar Ignore Errors and Proceed puede provocar incoherencias en los datos y poner en riesgo la continuidad del servicio. Por ejemplo:
Si los esquemas de las tablas son coherentes y un registro de la base de datos de destino tiene el mismo valor de clave principal que un registro de la base de datos de origen:
Durante la migración completa de datos, DTS conserva el registro en el clúster de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental de datos, DTS no conserva el registro en el clúster de destino. El registro de la base de datos de origen sobrescribe el de la base de datos de destino.
Si los esquemas de las tablas no son coherentes, la inicialización de datos puede fallar, solo se puede migrar una parte de los datos o la migración puede presentar errores.
Index Name
Table Name
Si selecciona Table Name, el índice creado en la instancia de Elasticsearch de destino tiene el mismo nombre que la tabla de origen.
Database Name_Table Name
Si selecciona Database Name_Table Name, el índice creado en la instancia de Elasticsearch de destino recibe un nombre con el formato NombreBaseDeDatos_NombreTabla.
Case Sensitivity Policy for Destination Object Names
Configure la distinción entre mayúsculas y minúsculas para los nombres de bases de datos, tablas y columnas de los objetos migrados en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede elegir mantener el mismo uso de mayúsculas y minúsculas que la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects
Seleccione uno o varios objetos en la sección Source Objects. Haga clic en el icono
y agregue los objetos a la sección Selected Objects. NotaPuede seleccionar bases de datos o tablas como objetos de migración. Si selecciona tablas, otros objetos como vistas, desencadenadores y procedimientos almacenados no se migran a la base de datos de destino.
Selected Objects
-
Para cambiar el nombre de un solo objeto de migración en la instancia de destino, haga clic con el botón secundario en el objeto dentro del cuadro Selected Objects. Para obtener más información, consulte Map individual schema, table, and column names.
-
Para cambiar los nombres de varios objetos de migración en la instancia de destino, haga clic en Selected Objects en la esquina superior derecha del cuadro Batch Edit. Para obtener más información, consulte Map multiple schema, table, and column names.
NotaSolo se admiten guiones bajos (_) como caracteres especiales en los nombres de índices y tipos.
Para filtrar datos con condiciones WHERE o especificar detalles posteriores a la migración como nombres de índices, tipos y columnas, haga clic con el botón secundario en una tabla dentro del cuadro Selected Objects. Configure los ajustes en el cuadro de diálogo que aparece. Para obtener más información, consulte Configure filter conditions.
Para seleccionar las operaciones SQL que se van a migrar a nivel de base de datos o de tabla, haga clic con el botón secundario en un objeto de migración dentro del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece. Para obtener información sobre las operaciones compatibles, consulte SQL operations supported for incremental data migration.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar las tareas de migración de DTS.
Retry Time for Failed Connections
Después de que se inicia la tarea de migración, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error y comienza a reintentar la conexión de inmediato. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Se recomienda establecer una duración superior a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores.
NotaCuando varias instancias de DTS comparten el mismo origen o destino, el tiempo de reintento de red lo determina la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el periodo de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades comerciales. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de migración, si ocurre un problema distinto a la conectividad en la base de datos de origen o de destino (como una excepción en la ejecución de DDL o DML), DTS reporta un error y comienza a reintentar la operación de inmediato. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Se recomienda establecer una duración superior a 10 minutos. Si las operaciones correspondientes se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Establezca Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede establecer límites de velocidad para la tarea de migración incremental. Configure RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según sus requisitos. Este parámetro no es obligatorio para este ejemplo.
Shard Configuration
Establezca el número de fragmentos principales y de réplica para el índice según la configuración máxima de fragmentos de un índice en el clúster de Elasticsearch de destino.
String Index
Especifica cómo indexar las cadenas migradas al clúster de Elasticsearch de destino.
analyzed: analiza las cadenas antes de indexarlas. También debe seleccionar un analizador específico. Para obtener más información sobre los tipos de analizadores y sus funciones, consulte Analyzers.
not analyzed: indexa las cadenas directamente usando sus valores originales, sin analizarlas.
no: no indexa las cadenas.
Time Zone
Seleccione la zona horaria para los tipos de datos relacionados con la hora (como DATETIME y TIMESTAMP) que se migran a la instancia de Elasticsearch de destino.
NotaSi los tipos de datos relacionados con la hora en la instancia de destino no requieren una zona horaria, debe establecer el tipo de documento (type) para estos tipos de datos en la instancia de destino antes de la sincronización.
DOCID
De forma predeterminada, el DOCID es la clave principal de la tabla. Si la tabla no tiene clave principal, el DOCID es una columna de ID generada automáticamente por Elasticsearch.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: no se escribe información SQL de latido en la base de datos de origen. Esto puede provocar que la instancia de DTS reporte un retraso.
-
No: escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Configure ETL
Según sus necesidades comerciales, seleccione si desea configurar ETL feature para procesar datos.
Yes: configura la función ETL. También debe introducir data processing statements en el cuadro de texto.
No: no configura la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades comerciales.
No: no configura ninguna alerta.
Yes: configura alertas estableciendo un alert threshold y un alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
Una vez completados los ajustes anteriores, haga clic en Next: Configure Database and Table Fields para establecer la política _routing y el valor _id de las tablas que se van a migrar a la instancia de Elasticsearch de destino.
Parámetro
Descripción
Set _routing
El parámetro _routing dirige un documento a un fragmento específico en la instancia de Elasticsearch de destino. Para obtener más información, consulte _routing.
Seleccione Yes para especificar columnas personalizadas para el enrutamiento.
Seleccione No para usar el valor _id en el enrutamiento.
NotaSi la instancia de Elasticsearch de destino es la versión 7.x, seleccione No.
Value of _id
Primary key column
Una clave principal compuesta se combina en una sola columna.
Business key
Si selecciona Business key, también debe especificar la business key column.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para consultar los parámetros de configuración de esta instancia cuando llame a la operación de API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita consultar los parámetros de API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de iniciar la tarea de migración, DTS ejecuta una comprobación previa. La tarea solo se inicia después de superar esta comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento con errores, corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento con errores, corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como incoherencias en los datos y riesgos para su negocio.
-
Adquiera la instancia.
Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
Instance Class
DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Seleccione una especificación según su escenario comercial. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa en ejecución. Mientras se ejecuta, el Status de la tarea es Running.