Configure reglas personalizadas para monitorear el estado de las tareas y el uso de recursos. Utilice líneas base inteligentes para asegurar la generación oportuna de datos en escenarios con dependencias complejas. Además, cree reglas de operación y mantenimiento (O&M) para automatizar las operaciones de los resource group.
Funciones
A continuación se describen las funciones de monitoreo.
|
Función |
Descripción |
|
Las líneas base inteligentes detectan excepciones que podrían retrasar la finalización de una tarea, emiten advertencias anticipadas y aseguran la generación oportuna de datos en escenarios con dependencias complejas.
|
|
|
Gestione las reglas globales en la página . También puede crear reglas de monitoreo personalizadas según sus requisitos de negocio.
|
|
|
Consulte las alertas de reglas personalizadas, reglas globales y líneas base inteligentes en la página . |
|
|
Defina calendarios de turnos en la página . Seleccione un calendario al configurar una regla de monitoreo para dirigir las alertas al ingeniero de guardia. Nota
Un calendario de turnos define ingenieros de guardia principales y secundarios. De forma predeterminada, las alertas se envían al ingeniero principal. Después de dos alertas por el mismo problema, la tercera y las siguientes se envían a ambos ingenieros. |
|
|
Cree reglas de O&M para resource groups exclusivos y asócielas con reglas de monitoreo. Cuando se activa una regla, el sistema ejecuta automáticamente operaciones de O&M en las tareas que se ejecutan en el resource group objetivo y que coinciden con Filter Conditions. Nota
Actualmente, las reglas de O&M solo se pueden asociar con reglas de monitoreo para recursos de programación. |
Monitoreo del estado de las tareas
Objetos monitoreados
Las reglas de monitoreo (reglas personalizadas y líneas base inteligentes) abarcan el estado de los nodos de activación automática, el estado de las instancias de dichos nodos, el estado de las instancias de flujo de trabajo activadas, el estado de las tareas de cómputo en tiempo real y el uso de recursos.
-
Monitorear el estado de los nodos de activación automática
Cada noche, DataWorks genera Scheduled Instance para el día siguiente con base en Auto Triggered Node. Para asegurar que estas instancias se generen y se ejecuten según lo esperado, DataWorks proporciona reglas de alerta globales integradas (no aplicables a nivel de espacio de trabajo) que monitorean el estado de Auto Triggered Node. Si ocurre una excepción, el sistema envía una alerta automáticamente. Se generan alertas para Isolated Nodes y Node Dependency Loop.
Tipo de regla
Objeto monitoreado
Condición de activación
Descripción
Regla global
isolated node: un nodo sin dependencias primarias.
Se activa una alerta automáticamente cuando se detecta un nodo aislado. Resuelva el problema de inmediato.
NotaTodo nodo de activación automática, excepto el nodo raíz del espacio de trabajo, debe tener una dependencia primaria para programarse y ejecutarse. Un nodo aislado no se ejecutará automáticamente y puede causar problemas graves si tiene muchas dependencias posteriores.
-
DataWorks examina el estado de los nodos de activación automática a las 09:00, 12:00 y 16:00 todos los días. Si encuentra una anomalía, como un nodo aislado o un bucle de dependencias, el sistema envía una alerta. Las excepciones que ocurren en los 10 minutos previos a un examen se procesan en el ciclo siguiente.
-
Las reglas globales están integradas. De forma predeterminada, las alertas se envían al propietario del nodo mediante mensaje de texto y correo electrónico. Cambie el destinatario de la alerta en la página Rule Management.
-
Deshabilite una regla de alerta global en la página Rule Management.
node dependency loop: un nodo que es una tarea previa, pero que también depende de una de sus propias tareas posteriores, lo cual crea una dependencia circular.
Se activa una alerta automáticamente cuando se detecta un bucle de dependencias. Resuelva el problema de inmediato.
NotaEl programador automático no ejecutará un nodo que forme parte de un bucle de dependencias.
-
-
Monitorear el estado de ejecución de las instancias de nodos de activación automática
Un nodo de activación automática genera instancias cuando se programa de forma periódica. Configure reglas de monitoreo personalizadas para Auto Triggered Node con el fin de monitorear el estado de ejecución de su Scheduled Instance. Esto incluye alertas basadas en reglas personalizadas para objetos específicos y alertas de líneas base inteligentes que emiten advertencias proactivas sobre tareas importantes.
Tipo de regla
Objeto monitoreado
Condición de activación
Tareas dentro de un elemento específico de Node, Baseline, Workspace o Workflow.
-
Se activa una alerta cuando una tarea está Complete, Incomplete, presenta un Error, está Incomplete in Cycle, registra un Timeout o muestra un Error Persisting After Automatic Rerun of Node.
-
Cuando el tipo de objeto es Workspace, las condiciones de activación adicionales incluyen Instance Generated y Fluctuation of Instance Count.
El alcance del monitoreo incluye las tareas de la línea base y todas sus dependencias anteriores.
Nota-
Establezca la prioridad de una línea base para asegurar que las tareas incluidas se ejecuten a tiempo y generen datos según lo esperado.
-
Si una tarea es crítica y tiene dependencias anteriores complejas, agréguela a una línea base para garantizar su estabilidad.
-
Alertas de línea base: cuando el sistema prevé que una tarea de la línea base no finalizará dentro del tiempo prometido, envía una alerta de línea base mediante el método de notificación configurado. Core logic: baseline alerts.
-
Alertas de eventos: el sistema genera un evento y envía una alerta si falla una tarea de la línea base o una tarea anterior, o si se ralentiza una tarea de la ruta crítica. Manage events.
-
-
Monitorear el estado de ejecución de las tareas de cómputo en tiempo real
Tipo de regla: regla personalizada.
Objeto monitoreado: tareas de cómputo en tiempo real.
Condición de activación: se activa una alerta cuando una tarea presenta un Error.
-
Monitorear el uso de recursos
Tipo de regla: regla personalizada.
Objeto monitoreado: resource group exclusivo para programación y resource group exclusivo para Data Integration.
-
Condiciones de activación:
Se activa una alerta si el Usage de un resource group supera un valor especificado durante un periodo determinado.
Se activa una alerta si el Number of Instances Waiting for Resources in Resource Group en un resource group supera un valor especificado durante un periodo determinado.
Métodos de notificación
Cuando se activa una regla de monitoreo, la plataforma envía notificaciones por correo electrónico, mensaje de texto, llamada telefónica o mensaje de grupo de DingTalk.
|
Tipo de regla |
Método de notificación |
Control de frecuencia de alertas |
|
Reglas personalizadas, reglas globales y líneas base inteligentes |
|
Controle la frecuencia de las alertas al establecer Maximum Alerts, Minimum Alert Interval y Alerting Do-Not-Disturb Period. Nota
|
O&M automatizado de recursos
El O&M automatizado utiliza reglas de monitoreo y de O&M preconfiguradas para gestionar las tareas de forma automática.
-
Condición de activación: se activa una regla de monitoreo asociada.
NotaActualmente, el monitoreo es compatible con Resource Group Usage y el number of instances waiting for resources in a resource group.
El O&M automatizado solo es compatible con un resource group exclusivo para programación.
Instancias objetivo: el O&M automatizado se aplica en las instancias que coinciden con Filter Conditions, tales como Type, ciclo de programación, Priority, Status y Workspace.
-
Acción de O&M: finalizar las instancias en ejecución.
NotaPuede finalizar un máximo de 2,000 instancias a la vez.
Diagnóstico de alertas de tareas
Consulte la información de las alertas de tareas en el DAG o en la página Run Diagnosis.
-
Consulta en el DAG de la tarea
Si una instancia activó una alerta de monitoreo en las últimas 24 horas, vaya a la página . Abra el DAG de la instancia y haga clic en el ícono rojo de alerta ubicado en la esquina superior derecha de la instancia. Aparecerá el panel Monitoring Details, que muestra una lista de las reglas o líneas base que monitorean la tarea, junto con su estado de activación. Haga clic en View Alert Content en la esquina superior derecha para ver los detalles de la alerta en la página Alerts, o haga clic en un elemento de Rule/Baseline Name para consultar los detalles de su configuración.
NotaSeleccione la casilla Nodes that generated alarms in the past 24 hours para filtrar las instancias.
-
Consulta en la página Run Diagnosis
Para una tarea con alertas de monitoreo configuradas, también puede hacer clic en View Details en el área de notificaciones de la página Intelligent Diagnostics. En la ventana Monitoring Details que aparece, se muestra una lista de las reglas o líneas base que monitorean la tarea actual, así como el estado de activación de cada una. Haga clic en View Alert Content en la esquina superior derecha para ir a la página Alert Information y ver los detalles de la alerta, o haga clic en un elemento de Rule/Baseline Name para ir a la página de configuración de esa regla y consultar sus detalles.
-
Consulta en la página Alerts
Consulte todas las alertas del módulo de monitoreo inteligente en la página Alerts. Los detalles de la alerta muestran el proceso de activación, incluida la regla, la condición y el motivo de la alerta.
