Data Transmission Service:Migrar de PolarDB-X 2.0 a Elasticsearch

Requisitos previos

• Se ha creado una instancia de origen de PolarDB-X 2.0.

• Se ha creado una instancia de destino de Elasticsearch. Para obtener más información, consulte Create an Alibaba Cloud Elasticsearch instance.

• Para conocer las versiones compatibles de las instancias de origen y destino, consulte Overview of migration solutions.

• La instancia de destino de Elasticsearch debe tener más espacio de almacenamiento que la instancia de origen de PolarDB-X 2.0.

Límites

Facturación

Tipos de migración

• Migración de esquema

  DTS migra las definiciones de esquema de los objetos de migración desde la base de datos de origen hacia la base de datos de destino.

• Migración completa

  DTS migra todos los datos históricos de los objetos de migración especificados desde la base de datos de origen hacia la base de datos de destino.

• Migración incremental

  Una vez completada la migración completa, DTS migra las actualizaciones incrementales de datos desde la base de datos de origen hacia la base de datos de destino. La migración incremental permite migrar datos sin problemas y sin interrumpir sus aplicaciones autogestionadas.

Operaciones SQL para la migración incremental

Requisitos de permisos para cuentas de base de datos

Procedimiento

1. Vaya a la página de lista de tareas de migración de la región de destino mediante uno de los siguientes métodos.

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Migration.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.

   1. Inicie sesión en la consola de Data Management (DMS).

   2. En la barra de menú superior, elija Data + AI > Data Transmission (DTS) > Data Migration.

   3. A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.

2. Haga clic en Create Task para ir a la página de configuración de tareas.

3. Configure las bases de datos de origen y de destino.

   Aviso

   Después de seleccionar las instancias de origen y de destino, se recomienda leer detenidamente los límites que se muestran en la parte superior de la página. De lo contrario, la tarea podría fallar o producirse inconsistencias en los datos.

   Sección	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para facilitar su identificación. El nombre no necesita ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos se configurará automáticamente a continuación. Nota En la consola de DMS, este parámetro se denomina Select a DMS database instance.. Si no ha registrado la instancia de base de datos en el sistema, o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
   	Database Type	Seleccione PolarDB-X 2.0.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra la instancia de origen de PolarDB-X 2.0.
   	Replicate Data Across Alibaba Cloud Accounts	Este ejemplo muestra una migración dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
   	Instance ID	Seleccione el ID de la instancia de origen de PolarDB-X 2.0.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de PolarDB-X 2.0. Para obtener información sobre los permisos obligatorios, consulte Database account permissions.
   	Database Password	Introduzca la contraseña de la cuenta de la base de datos.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que ha sido added to the system (creada o guardada), seleccione la instancia deseada en la lista desplegable. La información de la base de datos se configurará automáticamente a continuación. Nota En la consola de DMS, este parámetro se denomina Select a DMS database instance.. Si no ha registrado la instancia de base de datos en el sistema, o no necesita usar una instancia registrada, configure manualmente la información de la base de datos a continuación.
   	Database Type	Seleccione Elasticsearch.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región donde se encuentra la instancia de destino de Elasticsearch.
   	Type	Seleccione Cluster Edition o Serverless según sus necesidades.
   	Instance ID	Seleccione el ID de la instancia de destino de Elasticsearch.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de destino de Elasticsearch. La cuenta predeterminada es elastic. Para obtener información sobre los permisos obligatorios, consulte Database account permissions.
   	Database Password	Introduzca la contraseña de la cuenta de la base de datos.
   	Encryption	Seleccione HTTP o HTTPS según sea necesario.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que el segmento de dirección IP del servicio DTS se agregue automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.

   • Si la base de datos de origen o de destino es una base de datos autogestionada (el Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers que aparece.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea migrar.

      Parámetro	Descripción
      Migration Types	Si solo necesita realizar una migración completa, seleccione tanto Schema Migration como Full Data Migration. Para realizar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration. Nota Si no selecciona Schema Migration, debe asegurarse de que existan una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sea necesario. Si no selecciona Incremental Data Migration, no escriba nuevos datos en la instancia de origen durante la migración de datos para garantizar la consistencia de los datos.
      Index Name	Table Name Si selecciona Table Name, el nombre del índice creado en la instancia de destino de Elasticsearch será igual al nombre de la tabla. En este ejemplo, el nombre del índice es order. Database Name_Table Name Si selecciona Database Name_Table Name, el nombre del índice creado en la instancia de destino de Elasticsearch tendrá el formato Nombre de base de datos_Nombre de tabla. En este ejemplo, el nombre del índice es dtstest_order.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: Comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se supera. Si existen tablas con los mismos nombres, se notifica un error durante la comprobación previa y la tarea de migración de datos no se inicia. Nota Si una tabla en la base de datos de destino tiene el mismo nombre pero no se puede eliminar o renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping. Ignore Errors and Proceed: Omite la comprobación de tablas con los mismos nombres. Aviso Seleccionar Ignore Errors and Proceed puede causar inconsistencia de datos y riesgos comerciales. Por ejemplo: Si los esquemas de las tablas son consistentes y un registro en la base de datos de destino tiene el mismo valor de clave principal que un registro en la base de datos de origen: Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra. Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino. Si los esquemas de las tablas son inconsistentes, es posible que solo se migren algunas columnas de datos o que la migración falle. Proceda con precaución.
      Capitalization of Object Names in Destination Instance	Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de bases de datos, tablas y columnas en la instancia de destino. De forma predeterminada, se selecciona DTS default policy. También puede seleccionar una directiva que sea consistente con la base de datos de origen o de destino. Para obtener más información, consulte Case sensitivity of object names in destination databases.
      Source Objects	Seleccione uno o varios objetos en la sección Source Objects. Haga clic en el icono y agregue los objetos a la sección Selected Objects. Nota La granularidad para seleccionar objetos de migración es esquema, tabla y columna. Si selecciona solo tablas o columnas como objetos de migración, otros objetos como vistas, desencadenadores y procedimientos almacenados no se migrarán a la base de datos de destino.
      Selected Objects	Para cambiar el nombre de un solo objeto de migración en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información, consulte Map individual schema, table, and column names. Para cambiar los nombres de varios objetos de migración en la instancia de destino, haga clic en Selected Objects en la esquina superior derecha del cuadro Batch Edit. Para obtener más información, consulte Map multiple schema, table, and column names. Nota El guion bajo (_) es el único carácter especial compatible en los nombres de índices y tipos. Si utiliza la función de asignación de nombres de objetos, la migración de otros objetos que dependen del objeto renombrado podría fallar. Para establecer una condición WHERE y filtrar datos, haga clic con el botón derecho en la tabla que desea migrar en la sección Selected Objects y configure la condición de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Filter task data by using SQL conditions. Para seleccionar las operaciones SQL que se migrarán a nivel de base de datos o tabla, haga clic con el botón derecho en un objeto dentro del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De forma predeterminada, DTS programa las tareas en un clúster compartido. No es necesario seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar tareas de migración de DTS.
      Retry Time for Failed Connections	Después de que se inicia la tarea de migración, si falla la conexión a la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento a un valor de 10 a 1440 minutos. Se recomienda establecer la duración en más de 30 minutos. Si DTS se reconecta a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla. Nota Para varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada. Dado que se le cobra por la tarea durante el período de reintento de conexión, se recomienda personalizar el tiempo de reintento según sus necesidades comerciales, o liberar la instancia de DTS lo antes posible después de que se liberen las instancias de base de datos de origen y de destino.
      Retry Time for Other Issues	Después de que se inicia la tarea de migración, si ocurre un problema que no es de conectividad, como una excepción de ejecución DDL o DML, en la base de datos de origen o de destino, DTS notifica un error y comienza inmediatamente a reintentar la operación. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento a un valor de 1 a 1440 minutos. Se recomienda establecer la duración en más de 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
      Enable Throttling for Full Data Migration	Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar el limitador para la tarea de migración completa. Puede configurar Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Full Data Migration para Migration Types. También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
      Enable Throttling for Incremental Data Migration	Si es necesario, también puede optar por establecer límites de velocidad para la tarea de migración incremental. Puede configurar RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino. Nota Este elemento de configuración solo está disponible si selecciona Incremental Data Migration para Migration Types. También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
      Environment Tag	Opcional. Seleccione una etiqueta de entorno para identificar la instancia.
      Shard Configuration	Establezca el número de shards principales y de réplica para el índice basándose en la configuración máxima de shards del índice en la instancia de destino de Elasticsearch.
      String Index	El método para indexar cadenas en la instancia de destino de Elasticsearch. analyzed: Analiza las cadenas antes de indexarlas. También debe seleccionar un analizador específico. Para obtener más información sobre los tipos de analizadores y sus funciones, consulte Analyzers. not analyzed: Indexa las cadenas con sus valores originales sin análisis. no: No indexa las cadenas.
      Time Zone	La zona horaria que se aplica cuando DTS migra tipos de datos relacionados con la hora, como DATETIME y TIMESTAMP, a la instancia de destino de Elasticsearch. Nota Si estos tipos de datos relacionados con la hora no requieren una zona horaria en la instancia de destino, debe establecer el tipo de documento (type) para estos tipos de datos en la instancia de destino antes de la migración.
      DOCID	El DOCID toma como valor predeterminado la clave principal de la tabla. Si la tabla no tiene clave principal, el DOCID es la columna ID que Elasticsearch genera automáticamente.
      Whether to delete SQL operations on heartbeat tables of forward and reverse tasks	Elija si desea escribir información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución. Yes: La información SQL de latido no se escribe en la base de datos de origen. Esto puede provocar que la instancia de DTS notifique un retraso. No: Escribe información SQL de latido en la base de datos de origen. Esto puede interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
      Configure ETL	Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos: Yes: Habilita la función ETL. Introduzca instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: Deshabilita la función ETL.
      Monitoring and Alerting	Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades comerciales. No: No configura ninguna alerta. Yes: Configure alertas estableciendo un alert threshold y alert notifications. Si una migración falla o la latencia supera el umbral, el sistema envía una notificación de alerta.

   3. Una vez completadas las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields en la parte inferior de la página para establecer la directiva _routing y el valor _id para las tablas que se migrarán en la instancia de destino de Elasticsearch.

      Tipo	Descripción
      Set _routing	Configurar _routing permite enrutar y almacenar documentos en un shard específico de la instancia de destino de Elasticsearch. Para obtener más información, consulte _routing. Seleccione Yes para usar columnas personalizadas para el enrutamiento. Seleccione No para usar el _id para el enrutamiento. Nota Si la instancia de destino de Elasticsearch es la versión 7.x, debe seleccionar No.
      Value of _id	Primary key column of the table Una clave principal compuesta se combina en una sola columna. Business primary key Si selecciona Business primary key, también debe configurar la Business primary key column correspondiente.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para ver los parámetros de configuración de esta instancia al llamar a la operación de API, pase el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.

   • Si no necesita ver los parámetros de API o ya terminó de verlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de que comience la tarea de migración, DTS realiza una comprobación previa. La tarea solo se inicia después de superar dicha comprobación.

   • Si la comprobación previa falla, haga clic en View Details junto al elemento de comprobación fallido, solucione el problema según la indicación y vuelva a ejecutar la comprobación previa.

   • Si se notifica una advertencia durante la comprobación previa:

     • Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento fallido, solucione el problema según la indicación y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que se pueden ignorar, puede hacer clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de alerta y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, esto podría causar problemas como inconsistencia de datos y generar riesgos para su negocio.

7. Adquiera la instancia.

   1. Cuando la Success Rate sea del 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.

      Categoría	Parámetro	Descripción
      New Instance Class	Resource Group Settings	Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
      	Instance Class	DTS proporciona especificaciones de migración con diferentes niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario comercial. Para obtener más información, consulte Data migration link specifications.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.

      Puede consultar el progreso de la tarea de migración en la página de lista de Data Migration Tasks.

      Nota

      • Si la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración completa. Una vez detenida la tarea, su Status cambia a Completed.

      • Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental está en ejecución, el Status de la tarea es Running.

Comprobar el índice y los datos migrados

Una vez que la tarea de migración de datos entra en estado Running, conéctese al clúster de Elasticsearch mediante Kibana para comprobar que el índice y los datos se migraron correctamente. Para obtener más información, consulte Log on to the Kibana console.