Este tema describe cómo migrar datos desde una base de datos Oracle autogestionada hacia una instancia de Message Queue for Kafka mediante Data Transmission Service (DTS).
Requisitos previos
-
Ya creó una base de datos Oracle autogestionada de origen y una instancia de destino de Message Queue for Apache Kafka.
NotaPara consultar las versiones compatibles de la base de datos de origen y de la instancia de destino, consulte Migration scenarios.
Habilitó el modo ARCHIVELOG en la base de datos Oracle autogestionada. Además, estableció un periodo de retención adecuado para los archivos de registro archivados y se aseguró de que dichos archivos sean accesibles. Para obtener más información, consulte ARCHIVELOG.
Habilitó el registro suplementario en la base de datos Oracle autogestionada y configuró los parámetros supplemental_log_data_pk y supplemental_log_data_ui con el valor YES. Para obtener más información, consulte Supplemental Logging.
El espacio de almacenamiento de la instancia de destino de Message Queue for Apache Kafka debe ser mayor que el espacio utilizado por la base de datos Oracle autogestionada de origen.
Ya creó un topic en la instancia de destino de Message Queue for Apache Kafka para recibir los datos migrados. Para obtener más información, consulte Step 1: Create a topic.
Antes de migrar los datos, le recomendamos conocer las funciones y los límites de DTS para orígenes Oracle. También conviene usar ADAD para evaluar la base de datos. Estas acciones garantizan una migración a la nube sin contratiempos. Para obtener más información, consulte Limitations and preparations for Oracle databases y Overview of database evaluation.
Límites
DTS no migra claves externas. Por lo tanto, las operaciones en cascada de la base de datos de origen, como las eliminaciones en cascada, no se replican en la base de datos de destino.
|
Tipo |
Descripción |
|
Límites de la base de datos de origen |
|
|
Otros límites |
|
Facturación
|
Tipo de migración |
Cargo por configuración de la instancia |
Cargo por tráfico de Internet |
|
Migración de esquema y migración completa de datos |
Sin costo. |
Cuando el parámetro Access Method de la base de datos de destino se establece en Public IP Address, se cobra el tráfico de Internet. Para obtener más información, consulte Billing overview. |
|
Migración incremental de datos |
Con costo. Para obtener más información, consulte Billing overview. |
Tipos de migración
|
Tipo |
Descripción |
|
Migración de esquema |
DTS migra las definiciones de esquema de los objetos de migración a la instancia de destino de Message Queue for Apache Kafka. Nota
DTS no migra disparadores (triggers). Para evitar inconsistencias de datos, elimine los disparadores de la base de datos de origen. Para obtener más información, consulte Configure a data synchronization or migration task for a source database that contains a trigger. |
|
Migración completa de datos |
DTS migra todos los datos existentes de la base de datos Oracle de origen a la instancia de destino de Message Queue for Apache Kafka. Nota
No ejecute operaciones DDL sobre los objetos de migración hasta que finalicen la migración del esquema y la migración completa de datos. De lo contrario, la tarea de migración podría fallar. |
|
Migración incremental de datos |
Una vez completada la migración completa de datos, DTS captura los cambios incrementales de los redo logs de la base de datos Oracle de origen y los migra a la instancia de destino de Message Queue for Apache Kafka. Este proceso garantiza una migración fluida con un tiempo de inactividad mínimo de la aplicación. |
Operaciones SQL compatibles para la migración incremental
|
Tipo de operación |
Instrucción SQL |
|
DML |
INSERT, UPDATE y DELETE |
|
DDL |
|
Preparativos
Inicie sesión en la base de datos Oracle autogestionada que va a migrar, cree una cuenta para la recopilación de datos y otorgue los permisos necesarios a dicha cuenta.
Si ya creó una cuenta con los permisos que se muestran a continuación, omita este paso.
|
Base de datos |
Migración de esquema |
Migración completa de datos |
Migración incremental de datos |
|
Base de datos Oracle de origen |
Permisos de propietario del esquema |
Permisos de propietario del esquema |
Permisos detallados |
Para crear una cuenta de base de datos y otorgar permisos:
Para una base de datos Oracle autogestionada, consulte Database account preparations, CREATE USER y GRANT.
Para migrar datos de forma incremental, también debe habilitar el registro de archivado y el registro suplementario. Para obtener más información, consulte database configuration.
Procedimiento
-
Vaya a la página de la lista de tareas de migración de la región de destino mediante uno de los métodos a continuación.
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Migration.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de migración.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode console y Customize the layout and style of the DMS console.
Inicie sesión en la consola de Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Migration Tasks, seleccione la región donde se encuentra la instancia de migración.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
AvisoDespués de seleccionar las instancias de origen y de destino, le recomendamos leer detenidamente los límites que se muestran en la parte superior de la página. De lo contrario, la tarea podría presentar errores o producirse inconsistencias en los datos.
Sección
Parámetro
Descripción
N/D
Task Name
DTS genera automáticamente un nombre para la tarea. Le recomendamos especificar un nombre descriptivo para identificarla con facilidad. El nombre no necesita ser único.
Source Database
Select Existing Connection
Para usar una instancia de base de datos que ya se ha added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
Database Type
Seleccione Oracle.
Access Method
Seleccione un tipo de conexión que coincida con el despliegue de su base de datos de origen. En este tema se usa Self-managed Database on ECS como ejemplo.
NotaSi la instancia de origen es una base de datos autogestionada, debe completar preparaciones adicionales. Para obtener más información, consulte Preparation overview.
Instance Region
Seleccione la región de la base de datos Oracle de origen.
ECS Instance ID
Seleccione el ID de la instancia ECS que aloja su base de datos Oracle autogestionada.
Port Number
Introduzca el puerto de servicio de la base de datos Oracle autogestionada. El valor predeterminado es 1521.
Oracle Type
-
Non-RAC Instance: si elige esta opción, también debe especificar el SID.
-
RAC or PDB Instance: si elige esta opción, también debe especificar el Service Name.
En este tema se selecciona Non-RAC Instance.
Database Account
Introduzca la cuenta de la base de datos Oracle de origen. Para conocer los permisos obligatorios, consulte Preparations.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Destination Database
Select Existing Connection
Para usar una instancia de base de datos que ya se ha added to the system (creado o guardado), seleccione la instancia deseada en la lista desplegable. La información de la base de datos que aparece a continuación se configurará automáticamente.
NotaEn la consola de DMS, este parámetro se denomina Select a DMS database instance..
Si no registró la instancia de base de datos en el sistema o no necesita usar una instancia registrada, configure manualmente la información de la base de datos que aparece a continuación.
Database Type
Seleccione Kafka.
Access Method
Seleccione Express Connect, VPN Gateway, or Smart Access Gateway.
NotaPara esta configuración, trate la instancia de Message Queue for Apache Kafka como una base de datos Kafka autogestionada.
Instance Region
Seleccione la región de la instancia de Message Queue for Apache Kafka.
Connected VPC
Seleccione el ID de la Virtual Private Cloud (VPC) de la instancia de Message Queue for Apache Kafka de destino. Puede encontrar el ID de la VPC en la página Basic Information de su instancia de Kafka.
Hostname or IP Address
Introduzca una dirección IP del Default Endpoint de la instancia de Message Queue for Apache Kafka.
NotaPuede obtener la dirección IP del Default Endpoint en la página Basic Information de su instancia de Message Queue for Apache Kafka.
Port Number
El puerto de servicio de la instancia de Message Queue for Apache Kafka. El valor predeterminado es 9092.
Database Account
Introduzca la cuenta de la base de datos de la instancia de Message Queue for Apache Kafka.
NotaSi su instancia de Message Queue for Apache Kafka es del tipo VPC, no necesita configurar Database Account ni Database Password.
Database Password
Introduzca la contraseña de la cuenta de la base de datos.
Kafka Version
Seleccione la versión de su instancia de Kafka.
Connection Method
Seleccione Non-encrypted o SCRAM-SHA-256.
Topic
En la lista desplegable, seleccione el topic al que desea enviar los datos.
Use Kafka Schema Registry
Kafka Schema Registry es una capa de servicio para sus metadatos. Proporciona una interfaz RESTful para almacenar y recuperar esquemas Avro.
-
No: no usar Kafka Schema Registry.
-
Yes: usar Kafka Schema Registry. Debe introducir la URL o la dirección IP del esquema Avro desde Kafka Schema Registry.
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página. En el cuadro de diálogo CIDR Blocks of DTS Servers que aparece, haga clic en Test Connectivity.
NotaAsegúrese de que los segmentos de direcciones IP del servicio DTS se agreguen automática o manualmente a la configuración de seguridad de las bases de datos de origen y de destino. Esto permite el acceso desde los servidores de DTS. Para obtener más información, consulte Add DTS server IP addresses to a whitelist.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea migrar.
Parámetro
Descripción
Migration Types
Si solo necesita ejecutar una migración completa, seleccione tanto Schema Migration como Full Data Migration.
Para ejecutar una migración sin tiempo de inactividad, seleccione Schema Migration, Full Data Migration y Incremental Data Migration.
NotaSi no selecciona Schema Migration, asegúrese de que exista una base de datos y tablas para recibir los datos en la base de datos de destino. También puede usar la función de asignación de nombres de objetos en el cuadro Selected Objects según sea necesario.
Si no selecciona Incremental Data Migration, no escriba datos nuevos en la instancia de origen durante la migración para garantizar la coherencia de los datos.
Processing Mode for Existing Destination Tables
Precheck and Report Errors: comprueba si existen tablas con los mismos nombres en la base de datos de destino. Si no existen tablas con los mismos nombres, la comprobación previa se supera. Si existen tablas con los mismos nombres, se reporta un error durante la comprobación previa y la tarea de migración de datos no inicia.
NotaSi una tabla en la base de datos de destino tiene el mismo nombre, pero no se puede eliminar ni renombrar fácilmente, puede cambiar el nombre de la tabla en la base de datos de destino. Para obtener más información, consulte Object name mapping.
Ignore Errors and Proceed: omite la comprobación de tablas con los mismos nombres.
AvisoSeleccionar Ignore Errors and Proceed puede causar inconsistencias en los datos y riesgos para el negocio. Por ejemplo:
Si los esquemas de las tablas son coherentes y un registro en la base de datos de destino tiene el mismo valor de clave primaria que un registro en la base de datos de origen:
Durante la migración completa, DTS conserva el registro en la base de datos de destino. El registro de la base de datos de origen no se migra.
Durante la migración incremental, DTS no conserva el registro en la base de datos de destino. El registro de la base de datos de origen sobrescribe el registro en la base de datos de destino.
Si los esquemas de las tablas no son coherentes, es posible que solo se migren algunas columnas de datos o que la migración presente errores. Proceda con precaución.
Data Format in Kafka
Seleccione el formato para almacenar los datos en la instancia de Kafka de destino.
Si selecciona DTS Avro, debe analizar sintácticamente los datos según la definición del esquema DTS Avro. Para obtener más información, consulte definición del esquema DTS Avro y ejemplo de deserialización de DTS Avro.
-
Si selecciona SharePlex JSON, consulte SharePlex JSON para ver las descripciones y ejemplos de los parámetros.
Kafka Data Compression Format
Seleccione un formato de compresión para los mensajes de Kafka según sus requisitos.
LZ4 (predeterminado): relación de compresión baja, velocidad de compresión alta.
GZIP: relación de compresión alta, velocidad de compresión baja.
NotaAlto consumo de CPU.
Snappy: relación de compresión media, velocidad de compresión media.
Policy for Shipping Data to Kafka Partitions
Seleccione una policy.
Message acknowledgement mechanism
Seleccione un message acknowledgment mechanism.
Topic That Stores DDL Information
Seleccione el topic para almacenar la información DDL.
NotaSi no se selecciona ningún topic, DTS almacena la información DDL en el topic de datos de forma predeterminada.
Source Objects
En el cuadro Source Objects, haga clic en los objetos que desea migrar y luego haga clic en
para moverlos al cuadro Selected Objects.Selected Objects
En este ejemplo no se requiere configuración adicional. Puede usar la función de asignación para establecer el nombre del topic, el número de particiones del topic y la clave de partición de la tabla de origen en la instancia de Kafka de destino. Para obtener más información, consulte Mapping information.
Nota-
Si usa la función de asignación de nombres de objetos, la migración de otros objetos que dependen del objeto asignado podría presentar errores.
-
Para seleccionar las operaciones SQL de la migración incremental de datos, haga clic con el botón derecho en el objeto que desea migrar dentro de la sección Selected Objects. En el cuadro de diálogo que aparece, seleccione las operaciones SQL deseadas.
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido. No necesita seleccionar uno. Si desea tareas más estables, puede adquirir un dedicated cluster para ejecutar las tareas de migración de DTS.
Retry Time for Failed Connections
Después de que inicia la tarea de migración, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error e intenta reconectar de inmediato. La duración predeterminada de reintento es de 720 minutos. Puede personalizar el tiempo de reintento con un valor de 10 a 1440 minutos. Le recomendamos establecer una duración mayor a 30 minutos. Si DTS se vuelve a conectar a las bases de datos de origen y de destino dentro de la duración especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores.
NotaPara varias instancias de DTS que comparten el mismo origen o destino, el tiempo de reintento de red se determina según la configuración de la última tarea creada.
Dado que se le cobra por la tarea durante el periodo de reintento de conexión, le recomendamos personalizar el tiempo de reintento según sus necesidades de negocio. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Después de que inicia la tarea de migración, si ocurre un problema que no es de conectividad en la base de datos de origen o de destino (como una excepción al ejecutar DDL o DML), DTS reporta un error e intenta repetir la operación de inmediato. La duración predeterminada de reintento es de 10 minutos. Puede personalizar el tiempo de reintento con un valor de 1 a 1440 minutos. Le recomendamos establecer una duración mayor a 10 minutos. Si las operaciones relacionadas se ejecutan correctamente dentro de la duración de reintento especificada, la tarea de migración se reanuda automáticamente. De lo contrario, la tarea presenta errores.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el valor de Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Durante la migración completa, DTS consume recursos de lectura y escritura en las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Si es necesario, puede habilitar la limitación de velocidad para la tarea de migración completa. Establezca Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Full Data Migration en Migration Types.
También puede adjust the full migration speed después de que la instancia de migración esté en ejecución.
Enable Throttling for Incremental Data Migration
Si es necesario, también puede elegir establecer límites de velocidad para la tarea de migración incremental. Establezca RPS of Incremental Data Migration y Data migration speed for incremental migration (MB/s) para reducir la carga en la base de datos de destino.
NotaEste elemento de configuración solo está disponible si selecciona Incremental Data Migration en Migration Types.
También puede adjust the incremental migration speed después de que la instancia de migración esté en ejecución.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia. En este ejemplo no se selecciona ninguna etiqueta.
Actual Write Code
Puede seleccionar el juego de caracteres para escribir los datos en el destino.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: deshabilita la función ETL.
Monitoring and Alerting
Seleccione si desea configurar alertas y recibir notificaciones de alerta según sus necesidades de negocio.
No: no configura ninguna alerta.
Yes: configura alertas al establecer un alert threshold y un notificaciones de alerta. Si una migración presenta errores o la latencia supera el umbral, el sistema envía una notificación de alerta.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para consultar los parámetros de configuración de esta instancia al llamar a la operación de la API, coloque el puntero sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja que aparece.
Si no necesita consultar los parámetros de la API o ya terminó de revisarlos, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de que inicie la tarea de migración, DTS ejecuta una comprobación previa. La tarea inicia solo después de superar dicha comprobación.
Si la comprobación previa presenta errores, haga clic en View Details junto al elemento con errores, corrija el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si se reporta una advertencia durante la comprobación previa:
Para los elementos de comprobación que no se pueden ignorar, haga clic en View Details junto al elemento con errores, corrija el problema según las indicaciones y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, haga clic en Confirm Alert Details, Ignore, OK y Precheck Again para omitir el elemento de advertencia y volver a ejecutar la comprobación previa. Si decide ignorar una advertencia, podrían surgir problemas como inconsistencias en los datos y representar riesgos para su negocio.
-
Adquiera la instancia.
Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione la especificación de enlace para la instancia de migración de datos. Para obtener más información, consulte la siguiente tabla.
Categoría
Parámetro
Descripción
New Instance Class
Resource Group Settings
Seleccione el resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is resource management?
Instance Class
DTS ofrece especificaciones de migración con distintos niveles de rendimiento. La especificación de enlace afecta la velocidad de migración. Puede seleccionar una especificación según su escenario de negocio. Para obtener más información, consulte Data migration link specifications.
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK que aparece, haga clic en OK.
Puede consultar el progreso de la tarea de migración en la página de lista Data Migration Tasks.
NotaSi la tarea de migración no incluye migración incremental, se detiene automáticamente después de completar la migración total. Una vez que se detiene la tarea, su Status cambia a Completed.
Si la tarea de migración incluye migración incremental, no se detiene automáticamente. La tarea de migración incremental continúa ejecutándose. Mientras la tarea de migración incremental se está ejecutando, el Status de la tarea es Running.
Configuración de asignaciones
En el área Selected Objects, coloque el cursor sobre el nombre del topic de destino.
Haga clic en Edit.
-
En el cuadro de diálogo Edit Table, configure los parámetros de asignación.
NotaA nivel de base de datos, aparece el cuadro de diálogo Edit Schema, que ofrece menos parámetros. A nivel de tabla, se muestra el cuadro de diálogo Edit Table.
Si no migra una base de datos completa, no podrá modificar los parámetros Edit Schema y Name of target Topic en el cuadro de diálogo Number of Partitions.
Parámetro
Descripción
Name of target Topic
El nombre del topic de destino para la tabla de origen. De forma predeterminada, corresponde al Topic que seleccionó para la Destination Database en el paso Configurations for Source and Destination Databases.
ImportanteSi la base de datos de destino es una instancia de Message Queue for Apache Kafka, el nombre de topic que introduzca debe existir en dicha instancia. De lo contrario, la migración de datos fallará. Si la base de datos de destino es una instancia de Kafka autogestionada y la tarea incluye una migración de esquema, DTS intenta crear el topic que especifique en la base de datos de destino.
Si modifica el parámetro Name of target Topic, DTS escribe los datos en el topic que indique.
Filter Conditions
Para obtener más información, consulte Configure filter conditions.
Number of Partitions
El número de particiones del topic de destino.
Partition Key
Este parámetro se configura cuando la Policy for Shipping Data to Kafka Partitions está establecida en Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Especifique una o más columnas como clave de partición. DTS calcula un valor hash a partir de esta clave y lo utiliza para distribuir las filas entre las particiones del topic de destino.
NotaLa Partition Key solo se puede seleccionar en el cuadro de diálogo Edit Table.
Haga clic en OK.