Les nœuds SQL ClickHouse de DataWorks vous permettent de développer, planifier périodiquement et intégrer des tâches SQL ClickHouse à d'autres jobs, en tirant parti d'un moteur SQL distribué pour traiter efficacement les données structurées.
Prérequis
-
Un workflow a été créé.
DataStudio organise le développement par workflow. Créez un workflow avant de créer un nœud. Pour plus d'informations, consultez la rubrique Créer un workflow.
-
Un cluster EMR ClickHouse ou un cluster ClickHouse auto-géré a été créé et les préparatifs requis sont terminés.
Préparez EMR et DataWorks en fonction de votre type de moteur.
DataLake : pour plus d'informations, consultez les rubriques Configurer un cluster EMR DataLake et Configurer DataWorks.
Hadoop : consultez la rubrique Préparatifs pour le développement sur cluster Hadoop.
-
Vous avez associé une ressource de calcul ClickHouse à l'espace de travail.
Ajoutez votre base de données ClickHouse à DataWorks en tant que ressource de calcul ClickHouse et associez-la à DataStudio afin d'accéder aux données ClickHouse pour le développement.
-
Un groupe de ressources serverless a été acheté et associé au VPC où se trouve le cluster ClickHouse. Pour plus d'informations, consultez la rubrique Utiliser un groupe de ressources serverless.
RemarquePour exécuter les tâches des nœuds SQL ClickHouse, utilisez un groupe de ressources serverless (recommandé) ou un groupe de ressources exclusif pour la planification.
Étape 1 : Créer un nœud SQL ClickHouse
-
Connectez-vous à la console DataWorks. Dans la région cible, cliquez sur dans le volet de navigation de gauche. Sélectionnez un espace de travail dans la liste déroulante et cliquez sur Go to Data Development.
Cliquez avec le bouton droit sur le workflow cible et choisissez .
Dans la boîte de dialogue Create Node , saisissez un Name pour le nœud et cliquez sur OK. Une fois le nœud créé, développez et configurez la tâche dans l'éditeur de nœud.
Étape 2 : Développer une tâche SQL ClickHouse
(Facultatif) Sélectionner une ressource de calcul ClickHouse
Si plusieurs ressources de calcul ClickHouse ont été ajoutées à votre espace de travail, sélectionnez celle souhaitée sur la page de l'éditeur du nœud SQL ClickHouse. Si une seule ressource de calcul ClickHouse a été ajoutée, elle est utilisée par défaut.
Développer le code SQL
Rédigez les instructions SQL ClickHouse dans l'éditeur de code. L'exemple suivant illustre cette procédure.
CREATE DATABASE if not EXISTS ck_test;
CREATE TABLE if not EXISTS ck_test.first_table (
`product_code` String,
`package_name` String
) ENGINE = MergeTree ORDER BY package_name SETTINGS index_granularity = 8192;
INSERT INTO ck_test.first_table (product_code, package_name) VALUES ('1', '1');
SELECT * FROM ck_test.first_table;
Étape 3 : Configurer la planification
Pour exécuter la tâche périodiquement, cliquez sur Scheduling à droite de la page de l'éditeur de nœud et configurez ses propriétés de planification. Pour plus d'informations, consultez la rubrique Vue d'ensemble de la configuration des propriétés de planification des tâches.
Définissez la propriété Rerun attribute et spécifiez les Parent Nodes avant de valider le nœud.
Étape 4 : Déboguer la tâche
Déboguez votre code pour vérifier qu'il fonctionne comme prévu.
-
(Facultatif) Sélectionnez un groupe de ressources d'exécution et attribuez des valeurs aux paramètres personnalisés.
Cliquez sur l'icône
dans la barre d'outils. Dans la boîte de dialogue Parameter , sélectionnez le groupe de ressources de planification à utiliser pour le débogage.Si le code de votre tâche utilise des variables de paramètres de planification, attribuez des valeurs aux variables à des fins de débogage. Pour plus d'informations sur la logique d'attribution des paramètres, consultez la rubrique Déboguer des tâches.
-
Enregistrez et exécutez les instructions SQL.
Cliquez sur l'icône
dans la barre d'outils pour enregistrer les instructions SQL rédigées. Ensuite, cliquez sur l'icône
pour exécuter la tâche SQL. -
(Facultatif) Effectuez des tests de fumée.
Pour vérifier que la tâche planifiée s'exécute correctement dans l'environnement de développement, effectuez des tests de fumée lors de la validation du nœud ou après sa validation. Pour plus d'informations, consultez la rubrique Effectuer des tests de fumée.
Étape 5 : Valider et déployer
Validez et déployez le nœud afin que la tâche s'exécute périodiquement selon votre configuration de planification.
Cliquez sur l'icône
dans la barre d'outils pour enregistrer le nœud.-
Cliquez sur l'icône
dans la barre d'outils pour valider la tâche du nœud.Dans la boîte de dialogue Submission , saisissez une Change Description et indiquez si vous souhaitez effectuer une revue de code après la validation du nœud.
RemarqueDéfinissez la propriété Rerun attribute et spécifiez les Parent Nodes avant de valider le nœud.
La revue de code permet de garantir la qualité du code et de prévenir les erreurs dans l'environnement de production. Si vous activez la fonctionnalité de revue de code, le code validé ne peut être déployé qu'après avoir passé la revue avec succès. Pour plus d'informations, consultez la rubrique Revue de code.
Si vous utilisez un espace de travail en mode standard, cliquez sur Deploy dans le coin supérieur droit de la page de l'éditeur de nœud pour déployer la tâche dans l'environnement de production après sa validation. Pour plus d'informations, consultez la rubrique Déployer des tâches.
Étapes suivantes
Après le déploiement, la tâche s'exécute selon la planification. Pour consulter son statut de planification, cliquez sur O&M Personnel dans le coin supérieur droit de la page de l'éditeur de nœud. Pour plus d'informations, consultez la rubrique Gérer les tâches périodiques.