Configurez des règles d’exploitation et de maintenance (O&M) automatisées en vous appuyant sur votre expérience en matière de réponse aux incidents. Lorsque les conditions de déclenchement sont remplies, le système exécute automatiquement des opérations telles que l’arrêt des instances en cours d’exécution ou la réexécution des nœuds ayant échoué, améliorant ainsi la stabilité du service et réduisant la charge de maintenance nocturne.
Contexte
Dans DataWorks, la fonctionnalité d’O&M automatisée comprend l’arrêt automatique des instances de nœud en cours d’exécution et la réexécution automatique.
-
Arrêt automatique des instances de nœud en cours d’exécution
Si un nœud exécuté sur un groupe de ressources dédié à la planification déclenche une règle d’alerte personnalisée concernant les groupes de ressources, le système applique la règle d’O&M automatisée spécifiée pour arrêter les instances spécifiques générées pour ce nœud. Par exemple, si le taux d’utilisation des ressources d’un groupe de ressources dédié à la planification atteint 80 % pendant 10 minutes, le système arrête automatiquement l’exécution des instances de nœud non planifiées avec les priorités 1 et 3 sur ce groupe de ressources.
-
Réexécution automatique
Le système réexécute automatiquement un nœud selon la règle de réexécution automatique dans les scénarios suivants : 1. Le statut du nœud est Échec et la propriété de réexécution automatique n’est pas configurée pour le nœud. 2. Le nœud échoue car son exécution expire.
Limites
Limites relatives aux autorisations : seuls les comptes Alibaba Cloud, les utilisateurs RAM auxquels la stratégie AliyunDataWorksFullAccess est attachée et les administrateurs d’espace de travail peuvent gérer les règles d’O&M automatisées.
-
Limites relatives aux groupes de ressources :
Les règles d’O&M automatisées concernant l’arrêt automatique des instances de nœud en cours d’exécution s’appliquent uniquement aux nœuds exécutés sur un groupe de ressources dédié à la planification et pour lesquels une règle d’alerte concernant le taux d’utilisation des ressources du groupe de ressources dédié à la planification est configurée.
Les règles d’O&M automatisées concernant la création de règles de réexécution automatique s’appliquent uniquement aux nœuds exécutés sur un groupe de ressources serverless .
-
Limites relatives aux fonctionnalités :
Vous pouvez associer plusieurs règles d’O&M automatisées concernant l’arrêt automatique des instances de nœud en cours d’exécution à la même règle d’alerte.
Vous ne pouvez créer qu’une seule règle d’O&M automatisée pour la création de règles de réexécution automatique par espace de travail.
Vous pouvez consulter les journaux d’exécution générés pour les règles d’O&M automatisées au cours des 30 derniers jours.
Accéder à la page Automatic
Connectez-vous à la console DataWorks. Dans la région cible, cliquez sur dans le volet de navigation de gauche. Sélectionnez un espace de travail dans la liste déroulante et cliquez sur Go to Operation Center.
Dans la barre de navigation de gauche, sélectionnez pour accéder à la page O&M automatisée.
Créer une règle
Sur la page , vous pouvez créer des règles d’O&M automatisées Create Terminate Running Instance et Auto Rerun. Chaque règle nécessite des conditions de déclenchement, des conditions de filtrage pour cibler des nœuds spécifiques, une liste d’exclusion facultative pour exclure des nœuds, ainsi que des règles de contrainte pour limiter la période d’application de la règle.
Créer une règle pour l’arrêt des instances en cours d’exécution
Dans Automatic O&M, configurez des règles pour arrêter automatiquement les instances qui répondent aux règles personnalisées. Types d’instances pris en charge : instances récurrentes, instances de remplissage de données, instances de test, instances de tâche ponctuelle et instances de workflow déclenchées manuellement. Les principaux paramètres de configuration sont les suivants :
|
Section |
Paramètre |
Description |
|
Trigger Condition |
Associated Monitoring Rule |
La règle d’alerte que vous souhaitez associer à la règle d’O&M automatisée. Si la règle d’alerte est déclenchée, l’instance de nœud est automatiquement arrêtée. Remarque
|
|
Filter Conditions |
Workspace |
Le nom de l’espace de travail auquel la règle d’O&M automatisée s’applique. |
|
Instance Type |
Le type de l’instance de nœud auquel la règle d’O&M automatisée s’applique. |
|
|
Scheduling Cycle |
Sélectionnez les cycles de planification auxquels la règle d’O&M s’applique. Si vous définissez le paramètre Instance Type sur Scheduled Instance ou Data Backfill Instance, vous devez configurer ce paramètre. |
|
|
Priority |
La priorité des instances de nœud auxquelles la règle d’O&M automatisée s’applique. Une valeur plus élevée indique une priorité plus importante. |
|
|
Status |
Le statut des instances de nœud auxquelles la règle d’O&M automatisée s’applique. |
|
|
Blocklist |
Les nœuds qui répondent aux conditions spécifiées dans la règle d’O&M automatisée mais sur lesquels vous ne souhaitez pas effectuer l’opération d’O&M. Pour ajouter un nœud à la liste d’exclusion, saisissez le nom ou l’ID du nœud dans la zone de recherche. |
|
|
Constraints on Rule |
Effective Period |
La plage horaire durant laquelle la règle est effective. L’opération d’O&M n’est effectuée que si les conditions de la règle sont remplies et que la règle est déclenchée pendant cette période. En dehors de cette période, l’opération n’est pas effectuée, même si les conditions sont remplies. |
|
Maximum Effective Times |
Le nombre maximal de fois où la règle peut être déclenchée et exécutée. Remarque
Avant chaque exécution d’une règle d’O&M automatisée, le système vérifie si la condition de déclenchement est remplie. Si la condition de déclenchement n’est pas remplie, la règle d’O&M automatisée n’est pas exécutée. |
|
|
Minimum Effective Interval |
L’intervalle minimal entre deux déclenchements de la règle d’O&M automatisée. |
|
Créer une règle de réexécution automatique
Dans Automatic O&M, configurez la fonctionnalité Auto Rerun pour les nœuds qui répondent à la Trigger Condition spécifiée. Types d’instances pris en charge : instances planifiées périodiquement, instances de remplissage de données, instances de test de fumée, instances de tâche ponctuelle et instances de workflow déclenchées manuellement.
-
Lorsque l’instance est une instance récurrente, la réexécution automatique ne vérifie que les instances dont l’horodatage des données correspond à la veille.
Par exemple, si la date actuelle est le 5 juin 2025, seules les instances récurrentes dont l’horodatage des données est le 4 juin 2025 seront réexécutées automatiquement après avoir satisfait aux conditions de déclenchement de la réexécution automatique.
-
Lorsque l’instance est une instance de remplissage de données, une instance de test, une instance de tâche ponctuelle ou une instance de workflow déclenchée manuellement, la réexécution automatique vérifie les instances créées aujourd’hui, hier et avant-hier.
Par exemple, si la date actuelle est le 5 juin 2025, les instances de remplissage de données, les instances de test, les instances de tâche ponctuelle et les instances de workflow déclenchées manuellement créées les 5, 4 et 3 juin seront réexécutées automatiquement après avoir satisfait aux conditions de déclenchement de la réexécution automatique.
Les principaux paramètres de configuration des règles de réexécution automatique sont les suivants :
|
Section |
Paramètre |
Description |
|
Condition de déclenchement |
Running status |
L’instance spécifiée sera réexécutée automatiquement lorsqu’elle répond aux conditions suivantes et que son exécution échoue :
|
|
Conditions de filtrage |
Workspace |
Le nom de l’espace de travail auquel la règle d’O&M automatisée s’applique. |
|
Instance Type |
Le type de l’instance de nœud auquel la règle d’O&M automatisée s’applique. |
|
|
Scheduling Cycle |
Sélectionnez les cycles de planification auxquels la règle d’O&M s’applique. Si vous définissez le Type d’instance sur Scheduled Instance ou Data Backfill Instance, vous pouvez configurer ce paramètre. |
|
|
Priority |
La priorité des instances de nœud auxquelles la règle d’O&M automatisée s’applique. Une valeur plus élevée indique une priorité plus importante. |
|
|
Logs Contain Keywords |
Le mot-clé que vous souhaitez identifier dans les journaux d’opération de l’instance de nœud. Si les journaux d’opération de l’instance de nœud contiennent le mot-clé, la règle de réexécution automatique est automatiquement déclenchée. Les valeurs valides sont Remarque
La règle de réexécution automatique ne peut être déclenchée pour un nœud dont les journaux d’opération contiennent le mot-clé |
|
|
Liste d’exclusion |
Blocklist |
Les nœuds qui répondent aux conditions spécifiées dans la règle d’O&M automatisée mais sur lesquels vous ne souhaitez pas effectuer l’opération d’O&M. Pour ajouter un nœud à la liste d’exclusion, saisissez le nom ou l’ID du nœud dans la zone de recherche. |
|
Réexécution |
Preparation |
Pour les nœuds de calcul exécutés sur un groupe de ressources serverless, vous pouvez sélectionner Add CUs for Computing Tasks avant la réexécution du nœud. Remarque
Spécifiez le nombre d’unités de calcul (CU) ajoutées pour chaque réexécution afin d’éviter que l’exécution d’autres nœuds ne soit bloquée en raison de la concurrence pour les ressources. |
|
CUs to Add |
En plus des unités de calcul consommées par l’instance de nœud d’origine, ajoutez les unités de calcul spécifiées pour l’instance de réexécution. Les unités de calcul ajoutées sont utilisées uniquement pour la réexécution de l’instance. |
|
|
Rerun Times |
Le nombre maximal de fois où une réexécution automatique peut être déclenchée. Valeurs valides : 1 à 10. Unité : fois. |
|
|
Rerun Interval |
L’intervalle entre les réexecutions. Valeurs valides : 3 à 30. Unité : minutes. |
|
|
Contraintes de la règle |
Effective Period |
La plage horaire durant laquelle la règle est effective. L’opération d’O&M n’est effectuée que si les conditions de la règle sont remplies et que la règle est déclenchée pendant cette période. En dehors de cette période, l’opération n’est pas effectuée, même si les conditions sont remplies. |
Activer ou désactiver une règle
Par défaut, une règle d’O&M automatisée prend effet immédiatement après sa création. Pour désactiver la règle, cliquez sur l’icône
dans la colonne Actions de la règle.
Autres opérations
Gérer les règles
Pour afficher les informations d’une règle, accédez à la page Rule Management et cliquez sur View dans la ligne correspondant à la règle.
Pour modifier une règle, cliquez sur Edit en bas de la boîte de dialogue View Rule.
Pour supprimer une règle, cliquez sur Delete dans la ligne correspondant à la règle, puis cliquez sur Confirm dans la boîte de dialogue qui s’affiche.
Pour rechercher une règle, saisissez son nom dans la zone de recherche de la page Rule Management.
Consulter les journaux d’exécution d’une règle
Sur la page Execution Records, vous pouvez consulter les journaux d’exécution des règles d’O&M, y compris l’heure d’exécution, le propriétaire de la règle et le nombre de nœuds concernés. Pour afficher les informations détaillées, cliquez sur View Details dans la ligne correspondant à un journal d’exécution.
Lorsqu’une règle d’O&M automatisée est déclenchée, l’opération est effectuée sous l’identité du propriétaire de la règle. Vous pouvez consulter l’opération dans les journaux d’opération de l’instance de nœud déclencheuse.
-
Les journaux d’exécution d’une règle d’O&M automatisée concernant l’arrêt automatique des instances de nœud en cours d’exécution incluent les informations suivantes :
Instances Waiting for Resources/Resource Usage : un graphique linéaire affichant le nombre d’instances en attente de ressources et l’utilisation des ressources au fil du temps. Survolez le graphique pour afficher ces métriques à un moment donné.
Terminated Node Instances : cette section affiche toutes les instances de nœud dont l’exécution a été arrêtée.
-
Les journaux d’exécution d’une règle d’O&M automatisée concernant la réexécution automatique des instances de nœud incluent les informations suivantes :
Automatically rerun instances : une liste des instances qui ont été réexécutées automatiquement, incluant leur Node Name, Data Timestamp, Instance Type, Task type et Owner.
Surveiller les groupes de ressources
Après avoir créé une règle d’O&M automatisée, le système surveille automatiquement l’utilisation des ressources du groupe de ressources spécifié dans la règle d’O&M automatisée. Pour plus d’informations sur la surveillance des groupes de ressources, consultez la section O&M des ressources.