Data Transmission Service (DTS) permite sincronizar datos desde una base de datos MySQL (por ejemplo, una base de datos MySQL autogestionada o una instancia de ApsaraDB RDS for MySQL) hacia una base de datos Doris. Esta función satisface los requisitos de análisis masivo de datos. En este tema se describe el procedimiento con una instancia de ApsaraDB RDS for MySQL como base de datos de origen y una base de datos Doris desplegada en una instancia ECS como base de datos de destino.
Requisitos previos
Cree una base de datos Doris de destino cuya capacidad de almacenamiento sea mayor que el espacio utilizado en la instancia de origen de ApsaraDB RDS for MySQL.
Para consultar las versiones compatibles de las bases de datos de origen y de destino, consulte Data synchronization scenarios.
Precauciones
Categoría | Descripción |
Límites de la base de datos de origen |
|
Otros límites |
|
Casos especiales |
|
Facturación
|
Tipo de sincronización |
Precio |
|
Sincronización de esquemas y sincronización completa de datos |
Sin costo. |
|
Sincronización incremental de datos |
Con costo. Para más información, consulte Billing overview. |
Operaciones SQL compatibles con la sincronización incremental
Tipo de operación | Instrucción SQL |
DML | INSERT, UPDATE, DELETE |
DDL |
|
Permisos obligatorios para las cuentas de base de datos
Base de datos | Permisos obligatorios | Referencias para crear cuentas y otorgar permisos |
Instancia de origen de ApsaraDB RDS for MySQL | Permisos de lectura y escritura sobre los objetos que se van a sincronizar | Create an account y Modify the permissions of a standard account on an ApsaraDB RDS for MySQL instance |
Base de datos Doris de destino | Permiso de acceso a la base de datos (Usage_priv) y permisos de lectura y escritura (Select_priv, Load_priv, Alter_priv, Create_priv y Drop_priv) |
Si la cuenta de la base de datos de origen no se creó ni se autorizó en la consola de ApsaraDB RDS for MySQL, asegúrese de que tenga los permisos REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW y SELECT.
Procedimiento
-
Vaya a la página de la lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:
Desde la consola de DTS
Inicie sesión en la consola de Data Transmission Service (DTS).
En el panel de navegación izquierdo, haga clic en Data Synchronization.
En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.
Desde la consola de DMS
NotaLas operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.
Inicie sesión en Data Management (DMS).
En la barra de menú superior, elija .
A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.
Haga clic en Create Task para ir a la página de configuración de la tarea.
-
Configure las bases de datos de origen y de destino.
Categoría
Parámetro
Descripción
N/A
Task Name
DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla fácilmente. El nombre no tiene que ser único.
Source Database
Select Existing Connection
-
Para usar una instancia de base de datos que es added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione MySQL.
Access Method
Seleccione Alibaba Cloud Instance.
Instance Region
Seleccione la región de la instancia de origen de ApsaraDB RDS for MySQL.
Replicate Data Across Alibaba Cloud Accounts
Este ejemplo utiliza una instancia de base de datos que pertenece a la cuenta actual de Alibaba Cloud. Seleccione No.
RDS Instance ID
Seleccione el ID de la instancia de origen de ApsaraDB RDS for MySQL.
Database Account
Introduzca la cuenta de la base de datos de la instancia de origen de ApsaraDB RDS for MySQL. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
Encryption
Seleccione Non-encrypted o SSL-encrypted según sus necesidades. Si selecciona SSL-encrypted, debe habilitar previamente el cifrado SSL para la instancia de RDS for MySQL. Para obtener más información, consulte Use a cloud certificate to quickly enable SSL encryption.
Destination Database
Select Existing Connection
-
Para usar una instancia de base de datos que es added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente.
NotaEn la consola de DMS, este elemento de configuración se denomina Select a DMS database instance..
-
Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
Database Type
Seleccione Doris.
Access Method
Seleccione un valor según el lugar donde esté desplegada la base de datos de destino. En este ejemplo, Self-managed Database on ECS.
NotaSi utiliza otro método para conectar una base de datos autogestionada a DTS, debe completar los preparativos correspondientes. Para obtener más información, consulte Preparations Overview.
Instance Region
Seleccione la región donde reside la base de datos de destino de Doris.
ECS Instance ID
Seleccione el ID de la instancia de ECS donde reside la base de datos de destino de Doris.
NotaSi la base de datos de destino de Doris está desplegada en varias instancias de ECS (por ejemplo, los nodos BE o FE están desplegados en otras instancias de ECS), debe agregar manualmente los bloques CIDR de DTS al security group de cada una de las demás instancias de ECS donde estén desplegados los nodos.
Port Number
Introduzca el puerto de servicio de la base de datos de destino de Doris. El puerto predeterminado es 9030.
Database Account
Introduzca la cuenta de la base de datos de destino de Doris. Para obtener información sobre los permisos obligatorios, consulte Permissions required for database accounts.
Database Password
Introduzca la contraseña correspondiente a la cuenta de la base de datos.
-
-
Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página. En el cuadro de diálogo CIDR Blocks of DTS Servers, haga clic en Test Connectivity.
NotaAsegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Este proceso se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.
-
Configure los objetos de la tarea.
-
En la página Configure Objects, configure los objetos que desea sincronizar.
Parámetro
Descripción
Synchronization Types
Incremental Data Synchronization está seleccionado. De forma predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental.
ImportanteLos tipos de datos se convierten cuando los datos de MySQL se sincronizan con Doris. Si no selecciona Schema Synchronization, debe crear previamente tablas con modelo Unique o Duplicate y el esquema correspondiente en la base de datos de destino de Doris. Para obtener más información, consulte Data type mappings, Additional columns y Unique key model.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: DTS comprueba si existen tablas con el mismo nombre en la base de datos de destino. Si hay un conflicto, DTS reporta un error durante la comprobación previa y no inicia la tarea.
NotaSi no resulta práctico eliminar o cambiar el nombre de la tabla en conflicto, puede asignarle un nombre distinto mediante mapeo. Para obtener más información, consulte Map object names.
-
Ignore Errors and Proceed: Omite la comprobación de tablas con el mismo nombre en la base de datos de destino.
AvisoSi selecciona Ignore Errors and Proceed, podría producirse una inconsistencia en los datos. Por ejemplo:
-
Si los esquemas de las tablas son consistentes, los registros de destino que tengan la misma clave principal o única que los registros de origen se sobrescriben.
-
Si los esquemas de las tablas no son consistentes, la tarea podría fallar o sincronizar solo una parte de los datos. Proceda con precaución.
-
Capitalization of Object Names in Destination Instance
Puede configurar la política de distinción entre mayúsculas y minúsculas para los nombres de objetos de bases de datos, tablas y columnas que se sincronizan con la instancia de destino. De forma predeterminada, se selecciona la opción DTS default policy. También puede optar por usar las políticas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
Source Objects
En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en
para moverlo al cuadro Selected Objects.NotaLa granularidad para seleccionar los objetos que se van a sincronizar es de base de datos o de tabla.
Selected Objects
-
Para cambiar el nombre de un objeto de sincronización en la instancia de destino, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects. Para obtener más información, consulte Map object names.
-
Si seleccionó Schema Synchronization en Synchronization Types, eligió tablas como objetos de sincronización y necesita establecer la cantidad de buckets (el parámetro
bucket_count), haga clic con el botón derecho en la tabla dentro del cuadro Selected Objects. En la sección Parameter Settings, establezca Enable Parameter Settings en Yes, especifique un Value según sus requisitos y luego haga clic en OK.
Nota-
Para seleccionar las operaciones SQL incrementales que se sincronizarán a nivel de base de datos o de tabla, haga clic con el botón derecho en el objeto dentro del cuadro Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece.
-
Para filtrar datos mediante una cláusula WHERE, haga clic con el botón derecho en la tabla dentro del cuadro Selected Objects y establezca las condiciones de filtro en el cuadro de diálogo que aparece. Para obtener más información, consulte Configure filter conditions.
-
Si utiliza la función de mapeo de nombres de objetos, otros objetos que dependan del objeto renombrado podrían no sincronizarse correctamente.
-
-
Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.
Parámetro
Descripción
Dedicated Cluster for Task Scheduling
De forma predeterminada, DTS programa las tareas en un clúster compartido, por lo que no es necesario seleccionar uno. Para obtener un rendimiento más estable, puede adquirir un clúster dedicado donde ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Después de que se inicia una tarea de sincronización, si falla la conexión con la base de datos de origen o de destino, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de reintento es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecer una duración de 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
Nota-
Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y establece el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se aplicará la duración más corta de 30 minutos para ambas.
-
Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de reintento según las necesidades de su negocio. También puede liberar la instancia de DTS lo antes posible después de liberar las instancias de las bases de datos de origen y de destino.
Retry Time for Other Issues
Después de que se inicia la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar DDL o DML), DTS reporta un error y comienza inmediatamente a reintentar de forma continua. La duración predeterminada de reintento es de 10 minutos. También puede personalizar esta duración en un rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se ejecutan correctamente dentro del tiempo de reintento configurado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla.
ImportanteEl valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo cual puede aumentar la carga de estas. Para reducir dicha carga, puede establecer un límite de velocidad para la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s).
Nota-
Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization.
-
También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
Enable Throttling for Incremental Data Synchronization
También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Elija si desea escribir la información SQL de latido en la base de datos de origen mientras la instancia de DTS está en ejecución.
-
Yes: No se escribe la información SQL de latido en la base de datos de origen. Esto podría provocar que la instancia de DTS reporte un retraso.
-
No: Escribe la información SQL de latido en la base de datos de origen. Esto podría interferir con funciones como la copia de seguridad física y la clonación de la base de datos de origen.
Environment Tag
Puede seleccionar una etiqueta de entorno para identificar la instancia según los requisitos de su negocio. En este ejemplo, no se selecciona ninguna etiqueta de entorno.
Configure ETL
Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL? Valores válidos:
-
Yes: Habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task.
-
No: Deshabilita la función ETL.
Monitoring and Alerting
Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta.
-
No: No se configuran alertas.
-
Yes: Configure las alertas estableciendo un umbral y especificando un alert notification. Para obtener más información, consulte Configure monitoring and alerting during task configuration.
-
-
Opcional: Después de completar las configuraciones anteriores, haga clic en Next: Configure Database and Table Fields para establecer los campos Primary Key Column, Distribution Key y Engine de las tablas de destino.
NotaEste paso solo está disponible si seleccionó Schema Synchronization en Synchronization Types al configurar los objetos de sincronización. Puede establecer Definition Status en All para modificar la configuración.
Puede seleccionar varias columnas para formar una Primary Key Column compuesta. Además, debe seleccionar una o más columnas de Primary Key Column como Distribution Key.
Para una tabla sin clave principal ni restricción única, debe seleccionar duplicate en Engine. De lo contrario, la tarea podría fallar o producirse una pérdida de datos.
-
-
Guarde la tarea y ejecute una comprobación previa.
Para consultar los parámetros de API necesarios para configurar esta instancia, pase el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.
Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.
NotaAntes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si todos los elementos de la comprobación se aprueban.
Si la comprobación previa falla, haga clic en View Details junto al elemento que presentó errores. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.
-
Si la comprobación previa devuelve una advertencia:
Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto a dicho elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.
Para los elementos de comprobación que se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos, lo cual representa un riesgo para su negocio.
-
Adquiera la instancia.
Cuando Success Rate sea del 100 %, haga clic en Next: Purchase Instance.
-
En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. A continuación se describen estos parámetros en detalle.
Categoría
Parámetro
Descripción
New Instance Class
Billing Method
-
Subscription: Usted paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento.
-
Pay-as-you-go: Se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
Resource Group Configuration
El resource group al que pertenece la instancia. El valor predeterminado es default resource group. Para obtener más información, consulte What is Resource Management?.
Link Specification
DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Puede elegir una especificación según el escenario de su negocio. Para obtener más información, consulte Data synchronization link specifications.
Subscription Duration
En el modo de suscripción, seleccione la duración y la cantidad para la instancia. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años.
NotaEsta opción solo está disponible cuando el método de facturación es Subscription.
-
Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.
-
Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.
Puede consultar el progreso de la tarea en la página Data Synchronization.
Asignación de tipos de datos
Categoría | Tipo de dato de MySQL | Tipo de dato de Doris |
Numérico | TINYINT | TINYINT |
TINYINT UNSIGNED | SMALLINT | |
SMALLINT | SMALLINT | |
SMALLINT UNSIGNED | INT | |
MEDIUMINT | INT | |
MEDIUMINT UNSIGNED | BIGINT | |
INT | INT | |
INT UNSIGNED | BIGINT | |
BIGINT | BIGINT | |
BIGINT UNSIGNED | LARGEINT | |
BIT(M) | INT | |
Decimal | Decimal Nota zerofill no es compatible. | |
Numeric | Decimal | |
Float | Float | |
Double | DOUBLE | |
| BOOLEAN | |
FECHA Y HORA | DATE | DATEV2 |
DATETIME[(fsp)] | DATETIMEV2 | |
Timestamp[(fsp)] | DATETIMEV2 | |
Time[(fsp)] | VARCHAR | |
YEAR[(4)] | INT | |
CADENA |
| VARCHAR Importante Para evitar la pérdida de datos, los datos CHAR y VARCHAR(n) se convierten a VARCHAR(4*n) después de sincronizarse con Doris.
|
| STRING | |
| STRING | |
| STRING | |
ENUM | STRING | |
SET | STRING | |
JSON | STRING |
Columnas adicionales
En esta tabla se muestran las columnas adicionales que DTS agrega automáticamente o que usted debe agregar de forma manual a la tabla del modelo duplicado de destino.
|
Parámetro |
Tipo |
Predeterminado |
Descripción |
|
_is_deleted |
Int |
0 |
Indica si se eliminó la fila.
|
|
_version |
Bigint |
0 |
|
|
_record_id |
Bigint |
0 |
|