DataWorks Open Data propose une collection centralisée de métadonnées issues de la plateforme DataWorks. Vous pouvez obtenir des métadonnées standardisées et traçables pour les tables, les nœuds de tâches, les instances, les espaces de travail, les membres, les projets, Data Quality et les actifs de données en autorisant l'accès via les vues de package MaxCompute.
Cas d'utilisation
DataWorks Open Data est une version entièrement améliorée et accessible au public de la précédente version Open Data, qui était réservée aux utilisateurs sur invitation. Elle remplace la méthode en ligne de commande précédente par une interface visuelle pour une gestion des métadonnées plus intuitive.
Vous pouvez utiliser Open Data pour :
Inventaire des données : obtenez des statistiques claires sur les objets de données tels que les tables et les tâches, organisées par espace de travail et propriétaire. Comprenez les structures de données, les sources, les fréquences de mise à jour et les dépendances pour éliminer les zones d'ombre liées aux données.
Suivi complet de la lignée : interrogez les métadonnées de lignée des données pour tracer les chemins amont et aval de tables spécifiques, couvrant le flux de données complet de la source à l'application. Cela vous aide à localiser rapidement les problèmes ou à analyser leur impact.
Analyse personnalisée des métadonnées : en plus de l'API existante, vous pouvez interroger directement les métadonnées en utilisant SQL, ce qui simplifie l'analyse et raccourcit le cycle de vie de la gouvernance des données.
Prérequis
Vous devez disposer d'un espace de travail DataWorks lié aux ressources de calcul MaxCompute.
Limites
Exigences relatives à l'édition : seules les éditions Enterprise de DataWorks et les versions ultérieures sont prises en charge.
Limites d'autorisation : seuls les utilisateurs disposant du rôle de propriétaire du locataire, d'administrateur du locataire ou d'administrateur de la gouvernance des données, ou les utilisateurs RAM auxquels l'autorisation
DataWorksFullAccessa été accordée, peuvent installer et désinstaller DataWorks Open Data.Limites d'autorisation : l'autorisation pour les vues de métadonnées ne peut être accordée que via MaxCompute. Les autres types de ressources ne sont pas pris en charge.
Latence de mise à jour des données : les métadonnées sont mises à jour avec une latence J+1. Cela signifie que vous pouvez interroger les statistiques de la veille.
Gérer Open Data
Vous pouvez consulter, installer et utiliser DataWorks Open Data.
Consulter Open Data
Examinez les métadonnées et les cas d'utilisation de chaque package pour sélectionner ceux qui répondent à vos besoins.
Connectez-vous à la console DataWorks. Dans la région cible, cliquez sur dans le volet de navigation de gauche. Sur la page qui s'affiche, cliquez sur Go to Data Map.
Dans le volet de navigation de gauche de la page Data Map, cliquez sur l'icône
pour accéder à la page Data Catalog.Dans la liste du catalogue, cliquez sur DataWorks Open Data pour accéder à la page DataWorks Open Data.
-
Basculez vers l'onglet Package List, puis cliquez sur Details pour le package souhaité. Dans la section Table List, vous pouvez consulter les tables de métadonnées et leurs descriptions.
-
Différences entre les métadonnées MetaData et Examples :
Nom du package
Open Data
Cas d'utilisation
MetaData
Informations sur les tables, telles que le schéma de table, les descriptions de champs et la lignée des données.
Nœuds de planification et instances, tels que l'état d'exécution des tâches et les dépendances.
Métadonnées de gestion, telles que les espaces de travail, les membres et les projets.
Métadonnées telles que les détails de Data Quality et les détails de la gouvernance des données.
Convient pour l'inventaire des actifs de données, l'analyse de la lignée des données et la gestion des dépendances.
Examples
Une collection de données de métriques de métadonnées.
RemarqueLe package Examples est fourni par DataWorks et contient une collection de tables de métriques d'exemple générées à partir des métadonnées. Les données réelles sont susceptibles de changer en fonction des exigences commerciales spécifiques. Les données affichées sur l'interface utilisateur font foi.
En combinaison avec les données brutes du package MetaData, vous pouvez rapidement créer des scénarios d'analyse courants, tels que l'analyse de l'utilisation des ressources et l'évaluation de l'état de santé des tâches.
ImportantPour plus de détails sur les schémas et les champs des tables de métadonnées, consultez Détails des schémas de table Open Data.
-
Pour en savoir plus sur une table de métadonnées, cliquez sur Details pour la table. Sur la page des détails de la table, vous pouvez consulter les Fields et la Description pour comprendre rapidement les relations entre les tables de métadonnées Open Data.
Installer Open Data
Installez les vues de données pertinentes au sein de votre locataire sous forme de package pour autoriser les ressources de calcul MaxCompute d'un espace de travail spécifié à accéder à ces vues.
Accédez à la page Open Data. Sur l'onglet Package List, sélectionnez le package cible (Metadata ou Examples) et cliquez sur Details dans la colonne Actions.
-
Sur la page du package, installez le package que vous souhaitez utiliser.
Première installation : dans le coin supérieur droit de la page du package, cliquez sur Load.
Si un enregistrement d'installation existe : sur l'onglet Installation History de la page du package, cliquez sur Load.
-
Dans la boîte de dialogue Install DataWorks Metadata, sélectionnez l'espace de travail cible et le projet MaxCompute auquel vous souhaitez accorder des autorisations.
RemarqueLe projet MaxCompute autorisé est le moteur de calcul lié à l'espace de travail cible.
Si le moteur de calcul MaxCompute lié à l'espace de travail cible est à l'état Installed, vous n'avez pas besoin de l'installer à nouveau.
Pour les espaces de travail en mode standard, nous recommandons d'installer et d'accorder des autorisations aux moteurs de calcul MaxCompute pour les environnements de développement et de production.
Lisez les notes d'installation, cochez la case de confirmation, puis cliquez sur Confirm Installation. Une fois l'installation réussie, vous pouvez afficher le nouvel enregistrement d'installation sur l'onglet Installation History.
Pour utiliser les métadonnées d'autres packages, répétez les étapes ci-dessus pour installer et accorder des autorisations pour des packages supplémentaires.
Utiliser Open Data
Après avoir installé Open Data, vous pouvez accéder aux vues de métadonnées autorisées dans Data Studio ou DataAnalysis en utilisant le moteur de calcul de l'espace de travail cible.
Dans le volet de navigation de gauche de la page Data Map, cliquez sur l'icône
pour accéder à la page Data Catalog.Dans la liste du catalogue, cliquez sur MaxCompute, puis cliquez sur le package dont le nom est préfixé par
u_metaet suffixé par le nom de la région.-
Sur la page des détails, cliquez sur ou pour accéder au module correspondant afin d'interroger et d'utiliser les vues de métadonnées autorisées.
-
Utilisation dans Data Studio :
Dans la barre de menu supérieure de Data Studio, basculez vers la région et l'espace de travail où Open Data est installé.
Créez un nœud MaxCompute. Sur la page d'édition du nœud, vous pouvez utiliser Open Data pour développer des tâches.
-
Utilisez l'exemple de code suivant pour vérifier que l'installation a réussi.
SELECT dt ,COUNT(*) AS database_count FROM u_meta_hangzhou.databases GROUP BY dt ORDER BY dt ASC LIMIT 32 ;ImportantLorsque vous testez le code, vous devez utiliser les ressources de calcul MaxCompute autorisées.
Remplacez
u_meta_hangzhoupar le nom du package dans votre catalogue de données MaxCompute. Le nom du package est préfixé paru_metaet suffixé par le nom de la région.
-
Utilisation dans DataAnalysis :
La page de requête SQL dans DataAnalysis fournit des scripts d'analyse de métadonnées d'exemple que vous pouvez modifier selon vos besoins.
-
Cliquez sur l'icône
dans le coin supérieur droit de la page de requête SQL. Sélectionnez votre espace de travail autorisé et la source de données qui a été créée automatiquement lorsque vous avez lié les ressources de calcul MaxCompute. La source de données porte le même nom que le moteur de calcul. Ensuite, vous pouvez exécuter des requêtes sur les métadonnées autorisées dans DataAnalysis.RemarqueAvant d'exécuter le script d'exemple, remplacez le paramètre
REPLACE_WITH_WORKSPACE_IDpar l'ID de l'espace de travail que vous souhaitez interroger. Sinon, une erreur se produit. Pour obtenir des informations sur la manière d'obtenir un ID d'espace de travail, consultez Configurer un espace de travail.
-
Désinstaller Open Data
Pour arrêter d'utiliser Open Data ou révoquer l'autorisation d'un projet MaxCompute, désinstallez le package Open Data correspondant.
Dans le volet de navigation de gauche de la page Data Map, cliquez sur l'icône
pour accéder à la page Data Catalog.Dans la liste du catalogue, sélectionnez MaxCompute puis cliquez sur le package dont le nom est préfixé par
u_metaet suffixé par le nom de la région.-
Sur l'onglet Accessible Projects de la page des détails, recherchez le projet cible et cliquez sur Uninstall dans la colonne Actions. Dans la boîte de dialogue Confirm Uninstallation of DataWorks Metadata qui s'affiche, lisez les notes de désinstallation, cochez la case de confirmation, puis cliquez sur Confirm Uninstallation.
ImportantLa désinstallation révoque les autorisations et entraîne l'échec des tâches dépendantes. Assurez-vous qu'aucune tâche active ne dépend de ces vues avant de procéder.
FAQ
-
Q : Comment la latence de mise à jour des métadonnées affecte-t-elle l'utilisation ?
R : Les métadonnées sont générées avec une latence J+1 et reflètent l'activité de la veille. Pour des métadonnées en temps réel, utilisez l'API OpenData de DataWorks.
-
Q : Puis-je désinstaller DataWorks Open Data après l'avoir installé ?
R : Oui. La désinstallation révoque l'autorisation pour les vues. Assurez-vous qu'aucune tâche active ne dépend de ces vues pour éviter toute interruption.
-
Q : Comment garantir la sécurité des métadonnées ?
R : Utilisez les contrôles d'accès aux données MaxCompute pour gérer l'étendue de l'accès et empêcher le partage de métadonnées sensibles avec des équipes non autorisées.