Data Transmission Service:De AnalyticDB for PostgreSQL a Message Queue for Kafka

Alcance

• Debe crear un topic en la instancia de destino de Message Queue for Apache Kafka para recibir los datos sincronizados. Para obtener más información, consulte Step 1: Create a topic.

• La instancia de destino de Message Queue for Apache Kafka debe contar con más espacio de almacenamiento del que utiliza la instancia de origen de AnalyticDB for PostgreSQL.

Notas de uso

Facturación

Procedimiento

1. Vaya a la página de la lista de tareas de sincronización de la región de destino. Para ello, utilice uno de los dos métodos siguientes:

   Desde la consola de DTS

   1. Inicie sesión en la consola de Data Transmission Service (DTS).

   2. En el panel de navegación izquierdo, haga clic en Data Synchronization.

   3. En la esquina superior izquierda de la página, seleccione la región donde se encuentra la instancia de sincronización.

   Desde la consola de DMS

   Nota

   Las operaciones reales pueden variar según el modo y el diseño de la consola de DMS. Para obtener más información, consulte Simple mode y Customize the layout and style of the DMS interface.

   1. Inicie sesión en Data Management (DMS).

   2. En la barra de menús superior, elija Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. A la derecha de Data Synchronization Tasks, seleccione la región donde se encuentra la instancia de sincronización.

2. Haga clic en Create Task para ir a la página de configuración de la tarea.

3. Configure las bases de datos de origen y de destino.

   Categoría	Parámetro	Descripción
   N/A	Task Name	DTS genera automáticamente un nombre de tarea. Se recomienda especificar un nombre descriptivo para identificarla con facilidad. El nombre no tiene que ser único.
   Source Database	Select Existing Connection	Para usar una instancia de base de datos que sea added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione AnalyticDB for PostgreSQL.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región de la instancia de origen de AnalyticDB for PostgreSQL.
   	Replicate Data Across Alibaba Cloud Accounts	En este ejemplo, los datos se sincronizan dentro de la misma cuenta de Alibaba Cloud. Seleccione No.
   	Instance ID	Seleccione el identificador de la instancia de origen de AnalyticDB for PostgreSQL.
   	Database Name	Introduzca el nombre de la base de datos de origen que desea sincronizar.
   	Database Account	Introduzca la cuenta de la base de datos de la instancia de origen de AnalyticDB for PostgreSQL. La cuenta debe tener permisos de lectura sobre los objetos que se van a sincronizar.
   	Database Password	Introduzca la contraseña correspondiente a la cuenta de la base de datos.
   Destination Database	Select Existing Connection	Para usar una instancia de base de datos que sea added to the system (recién creada o guardada), selecciónela en la lista desplegable. La información de la base de datos se configura automáticamente. Nota En la consola de DMS, este elemento de configuración se denomina Select a DMS database instance.. Si no ha agregado la instancia de base de datos al sistema, o si no necesita usar una instancia ya agregada, configure manualmente la siguiente información de la base de datos.
   	Database Type	Seleccione Kafka.
   	Access Method	Seleccione Alibaba Cloud Instance.
   	Instance Region	Seleccione la región de la instancia de destino de Message Queue for Apache Kafka.
   	Kafka Instance ID	Seleccione el identificador de la instancia de destino de Message Queue for Apache Kafka.
   	Encryption	Según sus requisitos de negocio y seguridad, seleccione Non-encrypted o SCRAM-SHA-256.
   	Topic	Seleccione el topic que recibirá los datos sincronizados.
   	Use Kafka Schema Registry	Kafka Schema Registry proporciona una interfaz RESTful para almacenar y recuperar esquemas Avro. No: no utiliza Kafka Schema Registry. Yes: utiliza Kafka Schema Registry. Debe introducir la URL o la dirección IP donde está registrado el esquema Avro en Kafka Schema Registry.

4. Una vez completada la configuración, haga clic en Test Connectivity and Proceed en la parte inferior de la página.

   Nota

   • Asegúrese de que los bloques CIDR de direcciones IP de los servidores de DTS estén agregados a la configuración de seguridad de las bases de datos de origen y de destino para permitir el acceso desde dichos servidores. Este proceso se puede hacer de forma automática o manual. Para obtener más información, consulte Add the IP address CIDR blocks of DTS servers to a whitelist.

   • Si la base de datos de origen o de destino es autogestionada (es decir, cuando Access Method no es Alibaba Cloud Instance), también debe hacer clic en Test Connectivity en el cuadro de diálogo CIDR Blocks of DTS Servers.

5. Configure los objetos de la tarea.

   1. En la página Configure Objects, configure los objetos que desea sincronizar.

      Parámetro	Descripción
      Synchronization Types	Se selecciona Incremental Data Synchronization. De manera predeterminada, también debe seleccionar Schema Synchronization y Full Data Synchronization. Una vez finalizada la comprobación previa, DTS ejecuta una sincronización completa de los datos de los objetos seleccionados desde la instancia de origen hacia el clúster de destino. Estos datos sirven como línea base para la posterior sincronización incremental. Nota Cuando el parámetro Access Method de la instancia de Kafka de destino se establece en Alibaba Cloud Instance, Schema Synchronization no es compatible.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: comprueba si existe una tabla con el mismo nombre en la base de datos de destino. Si no existe ninguna tabla con ese nombre, la comprobación previa se supera correctamente. Si existe una tabla con el mismo nombre, la comprobación previa falla y la tarea de sincronización de datos no se inicia. Nota Si no puede eliminar ni cambiar el nombre de la tabla duplicada en la base de datos de destino, puede asignarle otro nombre mediante mapeo. Para obtener más información, consulte Map table and column names. Ignore Errors and Proceed: omite la comprobación de nombres de tablas duplicados en la base de datos de destino. Aviso Seleccionar Ignore Errors and Proceed puede provocar inconsistencias en los datos y poner en riesgo su negocio. Por ejemplo: Si los esquemas de las tablas son iguales y un registro de la base de datos de destino tiene el mismo valor de clave primaria o clave única que un registro de la base de datos de origen: Durante la sincronización completa, DTS conserva el registro en el clúster de destino. El registro correspondiente de la base de datos de origen no se sincroniza. Durante la sincronización incremental, el registro de la base de datos de origen sobrescribe el registro de la base de datos de destino. Si los esquemas de las tablas son distintos, la sincronización inicial de datos puede fallar. Esto puede ocasionar que solo se sincronicen parcialmente los datos de las columnas o que la sincronización falle por completo. Proceda con precaución.
      Data Format in Kafka	Seleccione el formato para almacenar los datos sincronizados en la instancia de Kafka. Si selecciona DTS Avro, debe analizar sintácticamente los datos según la definición del esquema DTS Avro. Para obtener más información, consulte Definición del esquema DTS Avro y Ejemplos de deserialización de DTS Avro. Si selecciona Canal JSON, consulte Canal JSON format para ver descripciones y ejemplos de los parámetros.
      Kafka Data Compression Format	Seleccione un formato de compresión para los mensajes de Kafka. LZ4 (predeterminado): relación de compresión baja y velocidad de compresión alta. GZIP: relación de compresión alta y velocidad de compresión baja. Nota Este formato consume muchos recursos de CPU. Snappy: relación de compresión media y velocidad de compresión media.
      Policy for Shipping Data to Kafka Partitions	Seleccione una strategy según sus necesidades de negocio.
      Message acknowledgement mechanism	Seleccione un message acknowledgment mechanism según sus necesidades de negocio.
      Topic That Stores DDL Information	Seleccione el topic donde se almacenará la información DDL. Nota Si no selecciona ningún topic, la información DDL se almacena de manera predeterminada en el topic receptor de datos.
      Capitalization of Object Names in Destination Instance	Puede configurar la directiva de distinción entre mayúsculas y minúsculas para los nombres de objetos de bases de datos, tablas y columnas que se sincronizan con la instancia de destino. De manera predeterminada, se selecciona la DTS default policy. También puede optar por usar las directivas predeterminadas de las bases de datos de origen y de destino. Para obtener más información, consulte Case sensitivity policy for destination object names.
      Source Objects	En el cuadro Source Objects, haga clic en el objeto que desea sincronizar y luego haga clic en para moverlo al cuadro Selected Objects. Nota Puede seleccionar objetos a nivel de tabla.
      Selected Objects	No se requiere configuración adicional. Puede usar la función de mapeo para establecer el nombre del topic, el número de particiones del topic o los nombres de las columnas de la tabla de origen en la instancia de Kafka de destino. Información de objetos de Kafka En el área Selected Objects, coloque el cursor sobre el nombre del topic de destino (a nivel de tabla). Haga clic en Edit junto al nombre del topic. En el cuadro de diálogo Edit Table, configure la información de mapeo. Nota A nivel de esquema, use el cuadro de diálogo Edit Schema, que tiene menos parámetros. A nivel de tabla, use el cuadro de diálogo Edit Table. Si no está sincronizando un esquema completo, no podrá modificar los ajustes de Name of target Topic ni de Number of Partitions en el cuadro de diálogo Edit Schema.Destination Database Name Parámetro Descripción Name of target Topic El nombre del topic de destino al que se sincroniza la tabla de origen. El valor predeterminado es el Topic seleccionado en la sección Destination Database del paso Configurations for Source and Destination Databases. Importante En una instancia de Alibaba Cloud Message Queue for Apache Kafka, el topic ya debe existir. De lo contrario, la tarea de sincronización de datos falla. Si el destino es un clúster de Kafka autogestionado y la tarea de sincronización incluye la sincronización de esquemas, DTS intenta crear el topic que usted especifique. Si modifica el parámetro Name of target Topic, DTS escribe los datos en el nuevo topic. Filter Conditions Para obtener más información, consulte Set Filter Conditions. Number of Partitions El número de particiones que se utilizarán al escribir datos en el topic de destino. Column Especifica los nombres de las columnas para los datos escritos en el topic de destino. Nota Para seleccionar las operaciones SQL que desea sincronizar a nivel de esquema o de tabla, haga clic con el botón secundario en el objeto dentro del panel Selected Objects y seleccione las operaciones SQL deseadas en el cuadro de diálogo que aparece. Si utiliza la función de mapeo de nombres de objetos, es posible que otros objetos dependientes del objeto asignado no se sincronicen correctamente.

   2. Haga clic en Next: Advanced Settings para configurar los parámetros avanzados.

      Parámetro	Descripción
      Dedicated Cluster for Task Scheduling	De manera predeterminada, DTS programa las tareas en un clúster compartido, por lo que no necesita seleccionar ninguno. Si busca un rendimiento más estable, puede adquirir un clúster dedicado para ejecutar las tareas de sincronización de DTS. Para obtener más información, consulte What is a DTS dedicated cluster?.
      Enable Encryption of Data In-Transit?	La transmisión de datos cifrados puede afectar el rendimiento de la sincronización. Habilite esta función según sus requisitos de seguridad. No (predeterminado) Yes
      Retry Time for Failed Connections	Después de que se inicia una tarea de sincronización, si la conexión con la base de datos de origen o de destino falla, DTS reporta un error y comienza inmediatamente a reintentar la conexión. La duración predeterminada de los reintentos es de 720 minutos. También puede especificar una duración personalizada de entre 10 y 1440 minutos. Se recomienda establecer una duración de 30 minutos o más. Si DTS logra reconectarse a la base de datos dentro del tiempo especificado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Nota Si tiene varias instancias de DTS (por ejemplo, la Instancia A y la Instancia B) que comparten el mismo origen o destino, y configura el tiempo de reintento de red en 30 minutos para la Instancia A y en 60 minutos para la Instancia B, se aplicará la duración más corta de 30 minutos para ambas. Dado que DTS cobra por el tiempo de ejecución de la tarea durante el periodo de reintento de conexión, se recomienda personalizar la duración de reintento según sus necesidades de negocio. También puede liberar la instancia de DTS tan pronto como libere las instancias de las bases de datos de origen y de destino.
      Retry Time for Other Issues	Una vez iniciada la tarea de sincronización, si ocurren otros problemas no relacionados con la conectividad en la base de datos de origen o de destino (como excepciones al ejecutar DDL o DML), DTS reporta un error y comienza de inmediato a reintentar las operaciones de forma continua. La duración predeterminada de los reintentos es de 10 minutos. También puede personalizar esta duración en un rango de 1 a 1440 minutos. Se recomienda establecerla en 10 minutos o más. Si las operaciones correspondientes se ejecutan correctamente dentro del tiempo de reintento configurado, la tarea de sincronización se reanuda automáticamente. De lo contrario, la tarea falla. Importante El valor de Retry Time for Other Issues debe ser menor que el de Retry Time for Failed Connections.
      Enable Throttling for Full Data Synchronization	Durante la fase de sincronización completa, DTS consume recursos de lectura y escritura de las bases de datos de origen y de destino, lo que puede aumentar la carga de la base de datos. Para reducir dicha carga, puede establecer un límite de velocidad para la tarea de sincronización completa mediante la configuración de los parámetros Queries per second (QPS) to the source database, RPS of Full Data Migration y Data migration speed for full migration (MB/s). Nota Este elemento de configuración solo está disponible cuando Synchronization Types se establece en Full Data Synchronization. También puede adjust the full synchronization rate después de que la instancia de sincronización esté en ejecución.
      Enable Throttling for Incremental Data Synchronization	También puede establecer un límite de velocidad para la tarea de sincronización incremental. Para aliviar la presión sobre la base de datos de destino, configure los parámetros RPS of Incremental Data Synchronization y Data synchronization speed for incremental synchronization (MB/s).
      Environment Tag	Puede seleccionar una etiqueta de entorno para identificar la instancia según lo necesite. En este ejemplo no es necesario seleccionar ninguna.
      Scene Label	Puede seleccionar una etiqueta de escenario para identificar la instancia según lo necesite. Las etiquetas de escenario no afectan el funcionamiento normal de la tarea. En este ejemplo no es necesario seleccionar ninguna.
      Configure ETL	Elija si desea habilitar la función de extracción, transformación y carga (ETL). Para obtener más información, consulte What is ETL?. Valores válidos: Yes: habilita la función ETL. Introduzca las instrucciones de procesamiento de datos en el editor de código. Para obtener más información, consulte Configure ETL in a data migration or data synchronization task. No: deshabilita la función ETL.
      Monitoring and Alerting	Especifique si desea configurar alertas. Si la sincronización falla o la latencia supera el umbral especificado, se envía una notificación a un contacto de alerta. No: no se configuran alertas. Yes: configure las alertas estableciendo un umbral de alerta y especificando un notificación de alerta. Para obtener más información, consulte Configure monitoring and alerting during task configuration.

6. Guarde la tarea y ejecute una comprobación previa.

   • Para consultar los parámetros de la API necesarios para configurar esta instancia, coloque el cursor sobre el botón Next: Save Task Settings and Precheck y haga clic en Preview OpenAPI parameters en la burbuja emergente.

   • Cuando termine de revisar los parámetros de la API, haga clic en Next: Save Task Settings and Precheck en la parte inferior de la página.

   Nota

   • Antes de iniciar el trabajo de sincronización, DTS ejecuta una comprobación previa. El trabajo solo puede comenzar si se superan todos los elementos de dicha comprobación.

   • Si la comprobación previa falla, haga clic en View Details del elemento que falló. Corrija el problema siguiendo las indicaciones y vuelva a ejecutar la comprobación previa.

   • Si la comprobación previa devuelve una advertencia:

     • Si un elemento de comprobación falla y no se puede ignorar, haga clic en View Details junto al elemento. Siga las instrucciones para corregir el problema y vuelva a ejecutar la comprobación previa.

     • Para los elementos de comprobación que se pueden ignorar, haga clic sucesivamente en Confirm Alert Details, Ignore, OK y Precheck Again para omitir la advertencia y volver a ejecutar la comprobación previa. Si decide ocultar el elemento de advertencia, podrían surgir problemas como inconsistencias en los datos que pongan en riesgo su negocio.

7. Adquiera la instancia.

   1. Cuando Success Rate alcance el 100 %, haga clic en Next: Purchase Instance.

   2. En la página Purchase, seleccione el método de facturación y la especificación de enlace para la instancia de sincronización de datos. En la siguiente tabla se describen estos parámetros en detalle.

      Categoría	Parámetro	Descripción
      New Instance Class	Método de facturación	Subscription: paga al crear la instancia. Es adecuado para necesidades a largo plazo y resulta más rentable que pay-as-you-go. Cuanto mayor sea la duración de la suscripción, mayor será el descuento. Pay-as-you-go: se le cobra por hora. Es adecuado para necesidades a corto plazo. Puede liberar la instancia inmediatamente después de usarla para ahorrar costos.
      	Configuración del resource group	El resource group al que pertenece la instancia. El valor predeterminado es el resource group predeterminado. Para obtener más información, consulte What is Resource Management?.
      	Especificación de enlace	DTS ofrece especificaciones de sincronización con distintos niveles de rendimiento. La especificación del enlace de sincronización afecta la velocidad de sincronización. Elija una especificación según su escenario de negocio. Para obtener más información, consulte Data synchronization link specifications.
      	Duración de la suscripción	En el modo de suscripción, seleccione la duración y la cantidad de instancias de suscripción. Puede elegir una suscripción mensual de 1 a 9 meses, o una suscripción anual de 1, 2, 3 o 5 años. Nota Esta opción solo está disponible cuando el método de facturación es Subscription.

   3. Una vez completada la configuración, lea y seleccione Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Haga clic en Buy and Start. En el cuadro de diálogo OK, haga clic en OK.

      Puede consultar el progreso de la tarea en la página Data Synchronization.

Preguntas frecuentes

• ¿Es posible cambiar el Kafka Data Compression Format?

  Sí, modifique este valor con la función Modify Synchronization Objects.

• ¿Es posible cambiar el Message acknowledgement mechanism?

  Sí, modifique este valor con la función Modify Synchronization Objects.