Data Transmission Service (DTS) prend en charge la synchronisation de données en temps réel d'une base de données Oracle auto-gérée vers une instance AnalyticDB for PostgreSQL, ce qui vous permet de construire un entrepôt de données en temps réel.
Prérequis
La base de données Oracle auto-gérée doit être en version 9i, 10g, 11g, 12c, 18c ou 19c.
Le mode ARCHIVELOG est activé sur la base de données Oracle auto-gérée, avec une période de rétention des journaux raisonnable et des journaux archivés accessibles. ARCHIVELOG.
La journalisation supplémentaire, supplemental_log_data_pk et supplemental_log_data_ui sont activées sur la base de données Oracle auto-gérée. Supplemental Logging.
Une instance de destination AnalyticDB for PostgreSQL a été créée. Créer une instance.
Avant de synchroniser les données, examinez les fonctionnalités et les limites de DTS pour les sources Oracle, et utilisez ADAM pour évaluer votre base de données afin d'assurer une migration fluide vers le cloud. Pour plus d'informations, consultez les rubriques Limites et préparations pour les bases de données Oracle et Présentation de l'évaluation de base de données.
Limites
Lors de la synchronisation du schéma, DTS synchronise les clés étrangères de la base de données source vers la base de données de destination.
Pendant la synchronisation complète des données et la synchronisation incrémentielle des données, DTS désactive temporairement les vérifications de contraintes et les opérations en cascade des clés étrangères au niveau de la session. Des incohérences de données peuvent survenir si des opérations de mise à jour ou de suppression en cascade sont effectuées sur la base de données source pendant l'exécution de la tâche.
Catégorie | Description |
Limites relatives à la base de données source |
|
Autres limites |
|
Facturation
|
Type de synchronisation |
Tarification |
|
Synchronisation du schéma et synchronisation complète des données |
Gratuit. |
|
Synchronisation incrémentielle des données |
Payant. Pour plus d'informations, consultez la rubrique Présentation de la facturation. |
Topologies de synchronisation
Synchronisation unidirectionnelle un-à-un.
Synchronisation unidirectionnelle un-à-plusieurs.
Synchronisation unidirectionnelle plusieurs-à-un.
Synchronisation en cascade.
Consultez la rubrique Topologies de synchronisation des données.
Opérations SQL prises en charge
|
Type d'opération |
Instruction SQL |
|
DML |
INSERT, UPDATE et DELETE Remarque
Le système convertit automatiquement les instructions UPDATE en instructions REPLACE INTO lors de l'écriture des données dans une instance de destination AnalyticDB for PostgreSQL. Si une instruction UPDATE modifie une clé primaire, le système la convertit plutôt en une instruction DELETE et une instruction INSERT. |
|
DDL |
ADD COLUMN |
Autorisations du compte de base de données
|
Base de données |
Autorisations |
Références |
|
Base de données Oracle auto-gérée |
Autorisations granulaires |
|
|
AnalyticDB for PostgreSQL instance |
Autorisations d'écriture sur la base de données de destination |
Le compte initial de l'AnalyticDB for PostgreSQL instance de destination dispose des autorisations requises. Créer un compte de base de données. Remarque
Vous pouvez également utiliser un compte de base de données disposant de l'autorisation RDS_SUPERUSER. Gérer les utilisateurs et les autorisations. |
Activez la journalisation des archives et la journalisation supplémentaire pour capturer les données incrémentielles. Configurer une base de données Oracle.
Procédure
-
Accédez à la page des tâches de synchronisation des données.
Connectez-vous à la console Data Management (DMS).
Dans la barre de navigation supérieure, cliquez sur Data + AI.
Dans le volet de navigation de gauche, choisissez .
RemarqueLes opérations peuvent varier en fonction du mode et de la disposition de la console DMS. Pour plus d'informations, consultez les rubriques Console en mode simple et Personnaliser la disposition et le style de la console DMS.
Vous pouvez également accéder à la page des tâches de synchronisation des données de la nouvelle console DTS.
Cliquez sur Create Task pour ouvrir la page de configuration de la tâche.
-
Configurez les bases de données source et de destination.
Catégorie
Paramètre
Description
N/A
Task Name
DTS génère automatiquement un nom de tâche. Nous vous recommandons de spécifier un nom descriptif pour une identification facile. Le nom n'a pas besoin d'être unique.
Source Database
Database Type
Sélectionnez Oracle.
Connection Type
Sélectionnez le type de connexion pour la base de données source. Dans cet exemple, l'option Self-managed Database on ECS est sélectionnée.
RemarqueSi la source est une base de données autogérée, effectuez les préparatifs requis.
Instance Region
Sélectionnez la région de la base de données Oracle autogérée.
ECS Instance ID
Sélectionnez l'ID de l'instance ECS qui héberge la base de données Oracle autogérée.
Port
Saisissez le port de service de la base de données Oracle autogérée. Valeur par défaut : 1521.
Oracle Type
-
Non-RAC Instance : si vous sélectionnez cette option, vous devez également spécifier le SID.
-
RAC or PDB Instance : si vous sélectionnez cette option, vous devez également spécifier le Service Name.
Dans cet exemple, l'option Non-RAC Instance est sélectionnée.
Database Account
Saisissez le compte de la base de données Oracle autogérée. Autorisations requises pour les comptes de base de données.
Database Password
Saisissez le mot de passe correspondant au compte de base de données.
Destination Database
Database Type
Sélectionnez AnalyticDB for PostgreSQL.
Connection Type
Sélectionnez Alibaba Cloud Instance.
Instance Region
Sélectionnez la région de l'instance AnalyticDB for PostgreSQL de destination.
Instance ID
Sélectionnez l'ID de l'instance AnalyticDB for PostgreSQL de destination.
Database Name
Saisissez le nom de la base de données de destination dans l'instance AnalyticDB for PostgreSQL.
Database Account
Saisissez le compte de base de données pour l'instance AnalyticDB for PostgreSQL de destination. Autorisations requises pour les comptes de base de données.
Database Password
Saisissez le mot de passe correspondant au compte de base de données.
-
-
Une fois la configuration terminée, cliquez sur Test Connectivity and Proceed en bas de la page. Dans la boîte de dialogue CIDR Blocks of DTS Servers.
RemarqueAssurez-vous que les blocs CIDR des adresses IP des serveurs DTS sont ajoutés aux paramètres de sécurité des bases de données source et de destination pour autoriser l'accès depuis les serveurs DTS. Cette opération peut être effectuée automatiquement ou manuellement. Pour plus d'informations, consultez la rubrique Ajouter les blocs CIDR des adresses IP des serveurs DTS à une liste d'autorisation.
-
Configurez les objets de la tâche.
-
Sur la page Test Connectivity pour configurer les paramètres avancés.
Paramètre
Description
Configure Objects
Par défaut, DTS planifie les tâches sur un cluster partagé et vous n'avez pas besoin de sélectionner un cluster. Pour des performances plus stables, vous pouvez acheter un cluster dédié pour exécuter les tâches de synchronisation DTS. Pour plus d'informations, consultez la rubrique Qu'est-ce qu'un cluster dédié DTS ?.
Synchronization Types
Choisissez d'ajouter ou non des guillemets aux noms des objets de destination. Si vous sélectionnez Incremental Data Synchronization et que l'une des conditions suivantes est remplie, DTS ajoute des guillemets simples ou doubles aux noms des objets de destination lors des phases de synchronisation initiale du schéma et de synchronisation incrémentielle des données :
-
L'environnement métier de la base de données source respecte la casse et utilise une casse mixte.
-
Le nom de la table source ne commence pas par une lettre et contient des caractères autres que des lettres, des chiffres ou des caractères spéciaux.
RemarqueSeuls les traits de soulignement (_), les signes dièse (#) et les signes dollar ($) sont pris en charge en tant que caractères spéciaux.
-
Le nom du schéma, de la table ou de la colonne à synchroniser est un mot clé, un mot réservé ou un caractère non valide dans la base de données de destination.
RemarqueSi vous choisissez d'ajouter des guillemets, vous devez utiliser le nom de l'objet de destination entre guillemets pour les requêtes une fois la tâche de synchronisation des données terminée.
Schema Synchronization
Après le démarrage d'une tâche de synchronisation, si la connexion à la base de données source ou de destination échoue, DTS signale une erreur et commence immédiatement à réessayer la connexion. La durée de nouvelle tentative par défaut est de 720 minutes. Vous pouvez également spécifier une durée de nouvelle tentative personnalisée comprise entre 10 et 1 440 minutes. Nous vous recommandons de définir la durée à 30 minutes ou plus. Si DTS se reconnecte avec succès à la base de données dans la durée spécifiée, la tâche de synchronisation reprend automatiquement. Sinon, la tâche échoue.
Remarque-
Si vous disposez de plusieurs instances DTS (par exemple, l'instance A et l'instance B) qui partagent la même source ou la même destination, et que vous définissez la durée de nouvelle tentative réseau à 30 minutes pour l'instance A et à 60 minutes pour l'instance B, la durée la plus courte, soit 30 minutes, est utilisée pour les deux.
-
Étant donné que DTS facture le temps d'exécution de la tâche pendant la période de nouvelle tentative de connexion, nous vous recommandons de personnaliser la durée de nouvelle tentative en fonction de vos besoins métier ou de libérer l'instance DTS dès que possible après la libération des instances de base de données source et de destination.
Full Data Synchronization
Après le démarrage de la tâche de synchronisation, si d'autres problèmes non liés à la connectivité surviennent avec la base de données source ou de destination (tels que des exceptions d'exécution DDL ou DML), DTS signale une erreur et lance immédiatement des opérations de nouvelle tentative continues. La durée de nouvelle tentative par défaut est de 10 minutes. Vous pouvez également personnaliser la durée de nouvelle tentative dans la plage de 1 à 1 440 minutes. Nous vous recommandons de la définir à 10 minutes ou plus. Si les opérations concernées aboutissent dans la durée de nouvelle tentative définie, la tâche de synchronisation reprend automatiquement. Sinon, la tâche échoue.
ImportantLa valeur de Processing Mode for Existing Tables in Destination doit être inférieure à celle de Precheck and Report Errors.
Ignore Errors and Proceed
Pendant la phase de synchronisation complète, DTS consomme des ressources de lecture et d'écriture des bases de données source et de destination, ce qui peut augmenter la charge de la base de données. Pour réduire la charge sur les bases de données source et de destination, vous pouvez définir une limite de débit pour la tâche de synchronisation complète en configurant les paramètres Ignore Errors and Proceed, Merge Multiple Tables et Yes.
Remarque-
Cet élément de configuration est disponible uniquement lorsque No est défini sur Select DDL and DML operations for instance-level synchronization.
-
Vous pouvez également ajuster le débit de synchronisation complète une fois l'instance de synchronisation en cours d'exécution.
Selected Objects
Vous pouvez également définir une limite de débit pour la tâche de synchronisation incrémentielle. Pour soulager la pression sur la base de données de destination, définissez les paramètres Storage Engine Type et Synchronization Types.
Schema Synchronization
Facultatif. Sélectionnez un tag d'environnement pour l'instance.
Source Objects
Sélectionnez le format d'encodage pour les données écrites dans la destination.
Source Objects
Choisissez d'activer ou non la fonctionnalité extract, transform, and load (ETL). Pour plus d'informations, consultez la rubrique Qu'est-ce que l'ETL ?. Valeurs valides :
-
Selected Objects : active la fonctionnalité ETL. Saisissez les instructions de traitement des données dans l'éditeur de code. Pour plus d'informations, consultez la rubrique Configurer l'ETL dans une tâche de migration ou de synchronisation des données.
-
Selected Objects : désactive la fonctionnalité ETL.
Selected Objects
Spécifiez si vous souhaitez configurer des alertes. Si la synchronisation échoue ou si la latence dépasse le seuil spécifié, une notification est envoyée à un contact d'alerte.
-
Batch Edit : aucune alerte n'est configurée.
-
Selected Objects : configurez les alertes en définissant un seuil d'alerte et en spécifiant un notification d'alerte. Pour plus d'informations, consultez la rubrique Configurer la surveillance et les alertes lors de la configuration de la tâche.
-
-
Cliquez sur Selected Objects pour configurer une tâche de validation des données.
Si vous souhaitez utiliser la fonctionnalité de validation des données, consultez la rubrique Configurer la validation des données pour obtenir des instructions de configuration.
-
Une fois la configuration terminée, cliquez sur Selected Objects en bas de la page pour définir la colonne de clé primaire et la colonne de distribution pour la table à synchroniser dans la destination AnalyticDB for PostgreSQL.
-
-
Enregistrez la tâche et exécutez une prévérification.
Pour afficher les paramètres API pour la configuration de cette instance, placez le curseur sur le bouton Next: Advanced Settings et cliquez sur Dedicated Cluster for Task Scheduling dans l'infobulle.
Si vous avez terminé la consultation des paramètres API, cliquez sur Enclose Object Names in Quotation Marks en bas de la page.
RemarqueAvant le démarrage de la tâche de synchronisation, DTS exécute une prévérification. La tâche ne peut démarrer qu'après la réussite de tous les éléments de prévérification.
Si la prévérification échoue, cliquez sur Yes pour l'élément ayant échoué. Corrigez le problème comme indiqué, puis exécutez à nouveau la prévérification.
-
Si la prévérification renvoie un avertissement :
Si un élément de vérification échoue et ne peut pas être ignoré, cliquez sur Retry Time for Failed Connections à côté de l'élément. Suivez les instructions pour corriger le problème, puis exécutez à nouveau la prévérification.
Pour les éléments de vérification qui peuvent être ignorés, vous pouvez cliquer successivement sur Retry Time for Other Issues, Retry Time for Other Issues, Retry Time for Failed Connections et Enable Throttling for Full Data Synchronization pour ignorer l'avertissement et relancer la prévérification. Si vous choisissez de masquer l'élément d'avertissement, cela peut entraîner des problèmes tels qu'une incohérence des données et présenter des risques pour votre activité.
-
Achetez l'instance.
Lorsque le Queries per second (QPS) to the source database atteint 100 %, cliquez sur RPS of Full Data Migration.
Sur la page Data migration speed for full migration (MB/s).
-
Cliquez sur Synchronization Types. Dans la boîte de dialogue Full Data Synchronization.
Vous pouvez consulter la progression de la tâche sur la page Data Synchronization.