Este tema describe cómo utilizar Data Transmission Service (DTS) para migrar datos desde una instancia de PolarDB-X 1.0 hacia un clúster de Elasticsearch.
Requisitos previos
-
Debe contar con una instancia de PolarDB-X 1.0 de origen. Para obtener más información, consulte Create a PolarDB-X 1.0 instance.
NotaLa instancia de PolarDB-X 1.0 debe utilizar ApsaraDB RDS for MySQL como tipo de almacenamiento. Esto incluye tanto las instancias de RDS personalizadas de forma privada como las adquiridas por separado. PolarDB for MySQL no es compatible.
Debe contar con un clúster de Elasticsearch de destino. Para obtener más información, consulte Create an Alibaba Cloud Elasticsearch cluster.
El espacio de almacenamiento disponible en el clúster de Elasticsearch de destino debe ser superior al tamaño total de los datos de la instancia de PolarDB-X 1.0 de origen.
Notas
Tipo | Descripción |
Limitaciones de la base de datos de origen |
|
Otras limitaciones |
|
Consideraciones adicionales | DTS actualiza periódicamente la tabla |
Si un objeto de sincronización de DTS es un alias de índice en la instancia de Elasticsearch de destino, podría producirse una inconsistencia de datos cuando cambie el índice real al que apunta el alias. Por ejemplo, al escribir datos, el alias de índice apunta al Índice A. Si posteriormente el alias pasa a apuntar al Índice B durante una operación de eliminación síncrona, los datos del Índice A no podrán eliminarse. Como resultado, los datos eliminados del origen seguirán siendo consultables en el destino.
Facturación
Facturación
|
Tipo de migración |
Cargo por configuración de instancia |
Cargo por tráfico de Internet |
|
Migración de esquema y migración completa de datos |
Sin cargo. |
Cuando el parámetro Access Method de la base de datos de destino está configurado como Public IP Address, se cobra el tráfico de Internet. Para obtener más información, consulte Billing overview. |
|
Migración incremental de datos |
Con cargo. Para obtener más información, consulte Billing overview. |
Tipos de migración
-
Migración de esquema
DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la base de datos de destino.
-
Migración completa
DTS migra todos los datos históricos de los objetos de migración especificados desde la base de datos de origen hacia la base de datos de destino.
-
Migración incremental
Una vez completada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la base de datos de destino. La migración incremental permite migrar datos sin problemas y sin interrumpir sus aplicaciones autogestionadas.
Operaciones SQL para la migración incremental
Tipo | Sentencia SQL |
DML | INSERT, UPDATE y DELETE Nota El uso de una sentencia UPDATE para eliminar una columna no es una operación compatible. |
Permisos de cuentas de base de datos
|
Base de datos |
Migración de esquema |
Migración completa |
Migración incremental |
|
Instancia de PolarDB-X |
SELECT |
SELECT |
Permisos de lectura y escritura sobre los objetos a migrar. Nota
Para obtener más información, consulte Manage accounts. |
|
Instancia de Elasticsearch |
La cuenta de la base de datos debe tener permisos de lectura y escritura. Esta cuenta suele ser elastic. |
||
Asignación de tipos de datos
-
Una base de datos de origen y una instancia de Elasticsearch admiten diferentes tipos de datos que no siempre pueden asignarse directamente. Durante la inicialización de la estructura, DTS asigna los tipos de datos basándose en los que admite la instancia de Elasticsearch de destino. Para obtener más información, consulte Data type mapping for structure initialization.
NotaDurante el proceso de migración de esquema de DTS, este no establece el parámetro
dynamicenmapping. El comportamiento de este parámetro depende de la configuración de su instancia de Elasticsearch. Si sus datos de origen son de tipo JSON, debe asegurarse de que, para una clave específica, sus valores correspondientes tengan el mismo tipo de dato en todas las filas de una tabla. De lo contrario, DTS podría experimentar problemas de sincronización. Para obtener más información, consulte dynamic. -
La asignación entre Elasticsearch y una base de datos relacional varía según la versión de Elasticsearch.
ImportanteA partir de Elasticsearch 7.0, un índice ya no admite múltiples tipos, y estos se eliminaron por completo en Elasticsearch 8.0. De forma predeterminada, al configurar una tarea de sincronización o migración, DTS asigna una tabla de una base de datos relacional a un índice en Elasticsearch. Puede modificar esta asignación cuando configure los objetos a sincronizar o migrar.
Elasticsearch 7.0 y versiones posteriores
Elasticsearch
Base de datos relacional
index
table
document
row
field
column
mapping
schema
Versiones anteriores a Elasticsearch 7.0
Elasticsearch
Base de datos relacional
index
database
type
table
document
row
field
column
mapping
schema
Procedimiento
-
Vaya a la página de lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de tareas.
-
Configure las bases de datos de origen y de destino.
Sección
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no necesita ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos se configurará automáticamente a continuación.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione PolarDB-X 1.0.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de origen de PolarDB-X 1.0.
Replicate Data Across Alibaba Cloud Accounts
Este tema utiliza como ejemplo una tarea de migración de datos dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
RDS Instance ID
Seleccione el ID de la instancia de origen de PolarDB-X 1.0.
Database Account
Introduzca la cuenta de la base de datos para la instancia de origen de PolarDB-X 1.0. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos se configurará automáticamente a continuación.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no ha registrado la instancia de base de datos en el sistema, o si no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
Database Type
Seleccione Elasticsearch.
Connection Type
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región donde se encuentra la instancia de destino de Elasticsearch.
Type
Seleccione Cluster o Serverless según sus requisitos empresariales.
Instance ID
Seleccione el ID de la instancia de destino de Elasticsearch.
Database Account
Introduzca la cuenta de su instancia de Elasticsearch. Este es el Username que especificó al crear la instancia. La cuenta predeterminada es elastic.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Encryption
Seleccione HTTP o HTTPS según sea necesario.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.
NotaAsegúrese de que el segmento de dirección IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
Si la base de datos de origen o de destino es una base de datos autogestionada (el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Synchronization Types
Si solo necesita realizar una migración completa, seleccione tanto Schema Migration como Full Data Migration.
Para realizar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
NotaSi no selecciona Schema Migration, debe asegurarse de que existan una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sea necesario.
Si no selecciona Incremental Data Migration, no escriba nuevos datos en la instancia de origen durante la migración de datos para garantizar la coherencia de los datos.
Processing Mode for Existing Tables in Destination
Precheck and Report Errors: Comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se supera correctamente. Si existen tablas con los mismos nombres, se notifica un error durante la comprobación previa y la tarea de migración de datos no se inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar o renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: Omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede causar incoherencia en los datos y riesgos operativos. Por ejemplo:
Si los esquemas de las tablas son coherentes y un registro en la base de datos de destino tiene el mismo valor de clave principal que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
Si los esquemas de las tablas no son coherentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
Index Name
-
Si selecciona Table Name, el índice creado en la instancia de destino de Elasticsearch utiliza el mismo nombre que la tabla de origen.
-
Si selecciona Database Name_Table Name, el índice creado en la instancia de destino de Elasticsearch se nombra con el formato
database_name_table_name.
NotaLa configuración de asignación de nombres de índice surte efecto para todas las tablas.
Case Sensitivity Policy for Destination Object Names
Puede configurar la distinción entre mayúsculas y minúsculas de los nombres de bases de datos, tablas y columnas para los objetos migrados en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede elegir alinearse con las directivas predeterminadas de la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in the destination database.
Source Objects
En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en
para moverlos al cuadro Selected Objects.NotaSeleccione los objetos a migrar a nivel de tabla. Si selecciona una base de datos completa, cualquier cambio para agregar o eliminar tablas en esa base de datos no se migrará al destino.
Selected Objects
-
Para cambiar el nombre de un solo objeto de migración en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información, consulte Map individual schema, table, and column names.
-
Para cambiar los nombres de varios objetos de migración en la instancia de destino, haga clic en Selected Objects en la esquina superior derecha del cuadro Batch Edit. Para obtener más información, consulte Map multiple schema, table, and column names.
Nota-
Solo se admiten guiones bajos (_) como caracteres especiales en los nombres de índices y tipos.
-
Si utiliza la función de asignación de nombres de objetos, es posible que otros objetos que dependen del objeto renombrado no se puedan migrar.
-
Para filtrar datos mediante condiciones WHERE, haga clic con el botón derecho en una tabla dentro del cuadro Selected Objects y especifique las condiciones de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Set filter conditions.
-
Para seleccionar las operaciones SQL que se migrarán a nivel de base de datos o de tabla, haga clic con el botón derecho en un objeto de migración dentro del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar tareas de migración de DTS.
Retry Time for Failed Connections
Después de que se inicia la tarea de migración, si falla la conexión a la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer la duración en más de 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades empresariales, o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de migración, si ocurre un problema que no es de conectividad, como una excepción en la ejecución de DDL o DML, en la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer la duración en más de 10 minutos. Si las operaciones relacionadas se completan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar el limitador de velocidad para la tarea de migración completa. Puede establecer Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration para Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede optar por establecer límites de velocidad para la tarea de migración incremental. Puede establecer RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration para Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia. Para este ejemplo, no se necesita ninguna etiqueta.
Shard Configuration
Establezca el número de shards principales y shards de réplica para el índice basándose en la configuración máxima de shards de los índices en el clúster de Elasticsearch de destino.
String Index
El método utilizado para indexar cadenas en la instancia de destino de Elasticsearch.
-
analyzed: La cadena se analiza y luego se indexa. También debe seleccionar un analizador específico. Para obtener más información sobre los tipos de analizadores y sus funciones, consulte Analyzers.
-
not analyzed: La cadena se indexa con su valor original sin análisis.
-
no: La cadena no se indexa.
Time Zone
Cuando DTS migra tipos de datos relacionados con la hora, como DATETIME y TIMESTAMP, a la instancia de destino de Elasticsearch, puede seleccionar una zona horaria para los datos.
NotaSi este tipo de datos en la instancia de destino no requiere una zona horaria, debe establecer previamente el tipo de documento (type) para este tipo de dato en la instancia de destino.
DOCID
De forma predeterminada, el DOCID es la clave principal de la tabla. Si la tabla no tiene una clave principal, el DOCID es una columna de ID generada automáticamente por Elasticsearch.
Configure ETL
Según sus necesidades empresariales, seleccione si desea configurar la función ETL feature para procesar datos.
Yes: Configura la función ETL. También debe introducir data processing statements en el cuadro de texto.
No: No configura la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades empresariales.
No: No configura ninguna alerta.
Yes: Configure las alertas estableciendo un alert threshold y notificaciones de alerta. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
Una vez completada la configuración, haga clic en Next: Configure Database and Table Fields. En la siguiente página, establezca la directiva _routing y el valor _id para las tablas que se migrarán al clúster de destino de Elasticsearch.
Tipo
Descripción
Set _routing
La función _routing le permite enrutar documentos a un shard específico en la instancia de destino de Elasticsearch. Para obtener más información, consulte _routing.
-
Si selecciona Yes, puede especificar columnas personalizadas para el enrutamiento.
-
Si selecciona No, se utiliza el valor _id para el enrutamiento.
NotaSi la instancia de destino de Elasticsearch es la versión 7.x, debe seleccionar No.
_routing Column
Seleccione la columna que se usará para el enrutamiento.
NotaEste parámetro es obligatorio solo si selecciona Yes para Set _routing.
Value of _id
Seleccione la columna que se usará como ID del documento.
-
-
-
Guarde la tarea y ejecute una comprobación previa.
Para ver los parámetros de configuración de esta instancia al llamar a la operación de API, pase el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita ver los parámetros de API o ya terminó de verlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que comience la tarea de migración, DTS realiza una comprobación previa. La tarea solo se inicia después de superar dicha comprobación.
Si la comprobación previa falla, haga clic en View Details junto al elemento fallido, solucione el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento fallido, solucione el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, esto podría causar problemas como incoherencia en los datos y generar riesgos para su negocio.
-
Adquiera la instancia.
Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is resource management?
Instance Class
DTS proporciona especificaciones de migración con diferentes niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario empresarial. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista de Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida la tarea, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental está en ejecución, el Status de la tarea es Running.