Pour accéder aux données Hologres depuis MaxCompute, utilisez la fonctionnalité de mappage des métadonnées du catalogue de données afin de créer des tables externes MaxCompute. Cette méthode vous permet de lire directement les données Hologres sans avoir à les importer, ce qui économise les ressources de calcul et de stockage tout en offrant une flexibilité et une efficacité accrues pour le traitement des données.
Contexte
MaxCompute vous permet d'interroger et d'analyser les données de systèmes externes tels que Hologres en utilisant des tables externes. Grâce à un pilote JDBC PostgreSQL et à l'autorisation via un rôle RAM, vous pouvez interroger directement les données externes sans les importer dans MaxCompute.
DataWorks simplifie ce processus grâce au mappage des métadonnées, qui s'appuie sur les fonctionnalités MaxCompute suivantes :
Mappage des métadonnées au niveau du schéma : utilise la fonctionnalité de schéma externe de MaxCompute.
Mappage des métadonnées au niveau de la table : utilise la fonctionnalité de table externe de MaxCompute.
Prérequis
Un projet MaxCompute et une instance Hologres ont été créés.
L'instance Hologres a été ajoutée au catalogue de données.
-
Le mappage des métadonnées au niveau du schéma nécessite une source de données externe MaxCompute. Vous devez créer une source de données externe de type Hologres dans MaxCompute.
ImportantLorsque vous créez une source de données externe MaxCompute :
Pour Host, saisissez l'adresse du réseau classique. Les adresses VPC ne sont pas prises en charge.
Pour Authentication Method, seule la méthode RAM role est prise en charge. La méthode ExecuteWithUserAuth n'est pas prise en charge.
Contrôle d'accès
DataWorks détermine l'identité d'accès en fonction de la source du projet MaxCompute et vérifie les autorisations en conséquence.
|
Source de l'identité d'accès |
Vérification des autorisations MaxCompute |
Vérification des autorisations Hologres |
|
|
|
Limites
Seules les données des bases de données internes Hologres peuvent être mappées vers MaxCompute.
Pour connaître les limites liées à l'utilisation des tables externes Hologres dans MaxCompute, consultez la rubrique Tables externes Hologres.
MaxCompute et Hologres utilisent des types de données différents. Certains types Hologres ne peuvent pas être mappés et sont automatiquement ignorés lors du processus de mappage. Consultez attentivement la rubrique Mappage des types de données entre MaxCompute et Hologres.
Point d'entrée
Accédez à la page Workspaces de la console DataWorks. Dans la barre de navigation supérieure, sélectionnez la région souhaitée. Localisez l'espace de travail souhaité et choisissez dans la colonne Actions.
Dans le volet de navigation de gauche, cliquez sur
pour accéder à Data Directory.Dans le répertoire Hologres, localisez le schéma ou la table dont vous souhaitez mapper les métadonnées vers MaxCompute, cliquez dessus avec le bouton droit de la souris et sélectionnez Map Metadata to MaxCompute.
Mappage des métadonnées au niveau du schéma
Cette fonctionnalité mappe les métadonnées d'un schéma Hologres vers un schéma externe dans MaxCompute. Avant de commencer, nous vous recommandons de consulter le Guide d'utilisation Data Lakehouse 2.0 pour en savoir plus sur les sources de données externes et les schémas externes MaxCompute.
Vous ne pouvez mapper les métadonnées que vers un projet MaxCompute interne pour lequel la fonctionnalité de schéma est activée.
Préparer une source de données externe Hologres
Le mappage des métadonnées au niveau du schéma fonctionne en créant un schéma externe MaxCompute qui synchronise les métadonnées depuis une source de données externe. Par conséquent, vous devez d'abord créer une source de données externe MaxCompute dans DataWorks pointant vers la base de données Hologres cible. Vous devez ensuite associer cette source de données au projet MaxCompute spécifié pour établir le mappage.
Pour plus d'informations sur la création d'une source de données externe MaxCompute, consultez le Guide d'utilisation Data Lakehouse 2.0.
Lorsque vous créez la source de données externe, saisissez l'adresse du réseau classique pour Host. Les adresses VPC ne sont pas prises en charge. Pour DB, spécifiez la base de données Hologres dont vous souhaitez mapper les métadonnées.
DataWorks : configurer le mappage des métadonnées Hologres au niveau du schéma
Accédez à la page de configuration du mappage des métadonnées.
Dans le projet Hologres, localisez le schéma que vous souhaitez mapper vers MaxCompute. Cliquez avec le bouton droit de la souris sur le nom du schéma et sélectionnez Map Metadata to MaxCompute pour ouvrir la page de configuration du mappage des métadonnées.
-
Configurez les paramètres pour le mappage au niveau du schéma.
-
Hologres (source)
Paramètre
Description
Source Object Type
Le type d'objet à mapper vers MaxCompute. Ce paramètre est fixé à
Hologres Schema.Source Object Name
Le nom du schéma Hologres à mapper vers MaxCompute. Ce paramètre est fixé au schéma actuellement sélectionné.
Format :
<hologres_database>.<hologres_schema>.RemarqueVous devez créer une source de données externe MaxCompute de type Hologres et définir la base de données Hologres par défaut pour la source de données externe sur
<hologres_database>. Pour plus d'informations, consultez MaxCompute : préparer une source de données externe de type Hologres. -
MaxCompute (destination)
Paramètre
Description
Project Find Method
Sélectionnez la méthode de recherche du projet MaxCompute.
-
From DataWorks data source : sélectionnez l'instance MaxCompute correspondante en choisissant la source de données MaxCompute liée à l'espace de travail actuel. Après avoir sélectionné cette méthode, vous devez également choisir une Data Sources et définir un External schema name pour créer un schéma externe dans le projet MaxCompute cible.
RemarqueSeuls les utilisateurs disposant du rôle O&M ou Workspace Administrator peuvent sélectionner des sources de données de production.
-
I have permission : sélectionnez un projet MaxCompute cible pour le mappage parmi les projets MaxCompute auxquels vous êtes autorisé à accéder sous votre compte principal Alibaba Cloud actuel. Si vous sélectionnez cette option, vous devez également définir le External schema name pour spécifier le schéma cible.
Data Sources
Lorsque Project Find Method est défini sur From DataWorks data source, vous devez sélectionner manuellement la source de données MaxCompute.
Project Name
Lorsque Project Find Method est défini sur I have permission, vous devez sélectionner manuellement un projet MaxCompute.
External schema name
Spécifiez le nom du schéma externe MaxCompute vers lequel les métadonnées du schéma Hologres source sont mappées.
External Data Source
Sélectionnez la source de données externe MaxCompute déjà connectée à la base de données Hologres source.
ImportantLorsque vous créez une source de données externe MaxCompute :
-
Pour Host, saisissez l'adresse du réseau classique. Les adresses VPC ne sont pas prises en charge.
-
Pour Authentication Method, seule la méthode RAM role est prise en charge. La méthode ExecuteWithUserAuth n'est pas prise en charge.
Auth
Rempli automatiquement en fonction de la source de données externe sélectionnée.
Host:port
Database
-
-
Cliquez sur le bouton Run situé dans la barre d'outils supérieure pour terminer le mappage des données Hologres au niveau du schéma.
Mappage des métadonnées au niveau de la table
Cette fonctionnalité mappe une table Hologres spécifique vers une table spécifique dans MaxCompute en tant que table externe. Vous pouvez spécifier le chemin d'accès et un nom personnalisé pour la table externe.
Accédez à la page de configuration du mappage des métadonnées.
Dans le projet Hologres, localisez la table Hologres dont vous souhaitez mapper les métadonnées vers MaxCompute. Cliquez avec le bouton droit de la souris sur le nom de la table et sélectionnez Map Metadata to MaxCompute. La page de configuration du mappage des métadonnées s'affiche.
-
Configurez les paramètres pour le mappage des métadonnées au niveau de la table.
-
Hologres (source)
Paramètre
Description
Source Object Type
Le type d'objet source pour le mappage au niveau de la table. La valeur par défaut est
Hologres Table.Source Object Name
La table Hologres source à mapper. Ce paramètre est fixé à la table Hologres actuellement sélectionnée.
-
MaxCompute (destination)
Paramètre
Description
Instance search method
Sélectionnez la méthode de recherche du projet MaxCompute.
-
From DataWorks data source : sélectionnez le projet MaxCompute correspondant en choisissant la source de données MaxCompute liée à l'espace de travail actuel. Vous devez également choisir une Data Sources et spécifier un nom pour la External Table afin d'identifier la table externe dans le projet MaxCompute cible. Assurez-vous que l'identité d'accès spécifiée pour la source de données dispose des autorisations de lecture et d'écriture sur la table Hologres source et le projet MaxCompute cible.
RemarqueSeuls les utilisateurs disposant du rôle O&M ou Workspace Administrator peuvent sélectionner des sources de données de production.
-
I have permission : sélectionnez le projet MaxCompute cible parmi les projets auxquels vous avez accès sous votre compte principal Alibaba Cloud actuel. Après avoir sélectionné cette option, vous devez également définir le nom de la External Table pour spécifier la table externe cible. Assurez-vous de disposer des autorisations de lecture et d'écriture sur la table Hologres source et le projet MaxCompute cible.
Data Sources
Lorsque Project Find Method est défini sur From DataWorks data source, vous devez sélectionner manuellement la source de données MaxCompute de destination.
Project Name
Lorsque Project Find Method est défini sur I have permission, vous devez sélectionner manuellement le projet MaxCompute cible.
Schema
Spécifiez le nom du schéma externe dans le projet MaxCompute cible vers lequel les métadonnées du schéma Hologres source sont mappées.
External Table
Spécifiez le nom de la nouvelle table externe à créer sous le schéma du projet MaxCompute spécifié. Les données de la table source sont mappées vers cette table. Par défaut, le nom est identique à celui de la table Hologres.
RemarqueLa création d'une table externe est une action ponctuelle. Les métadonnées ne sont pas actualisées automatiquement. Pour actualiser les métadonnées, vous devez supprimer la table externe actuelle et recréer manuellement le mappage des métadonnées.
MaxCompute foreign table permissions
La méthode d'authentification et d'autorisation pour la table externe MaxCompute après le mappage des métadonnées Hologres.
-
RamRole : utilise le mode STS pour l'authentification et l'autorisation.
RoleARN
Lorsque MaxCompute foreign table permissions est défini sur RAM Role, vous devez configurer ce paramètre.
Vous devez créer un rôle RAM et saisir son ARN ici. Pour plus d'informations sur les autorisations requises pour le rôle RAM, consultez la rubrique Tables externes Hologres.
Location
L'adresse de mappage entre la table Hologres et la table MaxCompute. Elle est générée automatiquement et ne peut pas être modifiée.
Lifecycle
Définissez le cycle de vie pour la table externe cible.
Field
Configurez les MaxCompute fields et le MaxCompute data type dans la table externe cible selon vos besoins.
RemarqueMaxCompute et Hologres utilisent des types de données différents et certains types ne peuvent pas être mappés. Pour plus de détails, consultez la rubrique Mappage des types de données entre MaxCompute et Hologres.
-
-
Cliquez sur le bouton Run situé en haut pour terminer le mappage des données Hologres au niveau de la table.
Étapes suivantes
Sous , vous pouvez afficher les schémas externes ou les tables externes mappés sous un schéma spécifié.
Vous pouvez interroger les données d'une table étrangère Hologres dans un nœud .