Simple Log Service:Diagnose and monitor LoongCollector runtime status

Simple Log Service ofrece herramientas de diagnóstico para identificar errores de recolección, como fallos en el análisis sintáctico con expresiones regulares, rutas de archivo incorrectas o tráfico que supera la capacidad del shard. También puede usar las reglas de alerta integradas para monitorear el recolector en tiempo real y recibir notificaciones a través de DingTalk u otros canales.

Requisitos previos

• Un recolector configurado para recopilar registros. Collect text logs from a host.

• Habilitar los registros importantes del proyecto de destino

  Habilite los registros de servicio obligatorios. Enable service logs.

  1. Inicie sesión en la consola de Simple Log Service. En la lista de proyectos, haga clic en el proyecto de destino. En la página de detalles del proyecto, haga clic en la pestaña Service Log y luego haga clic en Enable Service Logs.

  2. En el panel Enable Detailed Logs, seleccione Important Logs y Job Operational Logs, y luego haga clic en OK.

     • Se crea automáticamente un proyecto llamado log-service-{user-id}-{region} en la región de destino.

     • La ingesta, el almacenamiento, la consulta y el análisis de los registros importantes y de operación de trabajos no tienen costo. La transformación y el envío de datos se facturan bajo el modelo pay-as-you-go.

Diagnosticar problemas de ejecución

Hay dos modos de diagnóstico disponibles:

• Advanced Diagnostics (recomendado): muestra un panel de excepciones con los errores relacionados con el recolector y permite consultar un rango de tiempo más amplio.

• Basic Diagnostics: presenta las excepciones de recolección de la última hora.

Casos de uso

• Estado anómalo del recolector: fallos de heartbeat, procesos inactivos o errores de certificado SSL.

• Fallos en la recolección de registros: registros no recopilados, latencia alta o errores de análisis sintáctico por discrepancias en expresiones regulares.

• Errores de configuración: rutas de archivo incorrectas, direcciones IP de grupos de máquinas que no coinciden o problemas de permisos entre cuentas.

• Cuellos de botella de rendimiento: tasa de recolección cercana o superior al límite predeterminado (20 MB/s), lo que provoca la pérdida de registros.

• Problemas al recopilar registros de contenedores: reinicios frecuentes de pods o rotación rápida de registros que genera una recolección incompleta.

• Problemas con plugins y recolecciones personalizadas: fallos en plugins personalizados (por ejemplo, análisis sintáctico con Grok) o errores al recopilar desde orígenes de datos HTTP.

• Problemas de confiabilidad de los datos: pérdida de registros porque LoongCollector está inactivo o debido a una rotación de registros demasiado rápida.

• Cambios necesarios en los parámetros de configuración de recolección: los parámetros de análisis sintáctico, como las condiciones de coincidencia multilínea, no se pueden editar directamente en la lista de configuraciones de recolección. Abra el flujo de modificación correspondiente y cámbielos en el paso de análisis sintáctico de registros.

• Recolección de varias rutas en una sola configuración: cada configuración de recolección admite únicamente una ruta de registro y un patrón de nombre de archivo. No es posible incluir varias rutas distintas en una misma configuración. Cree una configuración de recolección independiente para cada ruta y aplíquelas todas al mismo grupo de máquinas.

• Error de validación del cuerpo de la solicitud al crear una configuración de recolección mediante la API o terraform: si la solicitud de creación devuelve un error de validación del cuerpo de la solicitud como PostBodyInvalid, compruebe que todos los campos de inputDetail estén presentes y tengan el tipo de dato correcto. En particular, localStorage debe ser un valor booleano (true o false).

• Coexistencia con otro software de recolección de registros: solución de problemas de uso de puertos, conflictos de procesos o recolecciones duplicadas cuando LoongCollector se ejecuta junto con otro software de recolección, como Filebeat, en el mismo servidor.

• Origen desconocido de los registros: cuando no se sabe qué método generó los registros de un logstore, determine si los recopiló LoongCollector/Logtail o si una aplicación los escribió directamente mediante un SDK. Compruebe si existe una configuración de recolección coincidente en el servidor y si el código de la aplicación contiene lógica de escritura con SDK.

• El tipo de datos de destino está fuera del alcance de recolección compatible: confirme si el objeto de destino, como las métricas de rendimiento de aplicaciones o las métricas de aplicaciones .NET, corresponde a un tipo de recolección que LoongCollector admite. Así evitará confundir un destino no compatible con un fallo de recolección.

• Los registros stdin o stdout del contenedor no se recopilan: solución de problemas para los casos en los que no se recopilan los registros stdin y stdout de los contenedores en un clúster ACK.

• Acumulación en memoria o limitación de escritura al escribir directamente mediante un SDK: cuando una aplicación escribe registros directamente con el SDK de Java o Producer, y la memoria crece de forma continua, los datos se acumulan o las escrituras se limitan, analice el problema junto con la cuota de escritura del logstore y la tasa de generación de registros de la aplicación.

• El campo __tag__:__hostname__ es null: esto significa que no se pudo obtener el nombre del host durante la recolección de registros. Las causas comunes incluyen la ausencia de la etiqueta de nombre de host en la configuración de Logtail, orígenes de registro como escrituras por API o ciertos entornos de contenedores que no incluyen metadatos de nombre de host, o un recolector de datos que no puede resolver el nombre del host en una máquina específica. Revise la configuración de la etiqueta de nombre de host en la configuración de recolección y los metadatos del origen de los registros.

• La recolección falla porque el firewall bloquea el acceso a las direcciones IP de comunicación de Simple Log Service: este bloqueo impide escribir registros, provoca fallos en consultas, consumo y alertas, y retrasa o interrumpe la recolección de registros. Agregue las direcciones IP de comunicación de Simple Log Service a la lista de permitidos del firewall para garantizar que estas funciones operen correctamente.

• El estado de la tarea de evaluación de SLS Agent es Failed: este estado indica que el proceso de evaluación encontró un error explícito. Entre las posibles causas se encuentran errores de lógica interna, formatos de datos no válidos o permisos y recursos insuficientes. Utilice el mensaje de error específico de la tarea de evaluación para solucionar problemas de formato de datos, configuración de permisos y lógica de ejecución de SLS Agent.

Procedimiento

1. Inicie sesión en la consola de Simple Log Service. En la lista de proyectos, haga clic en el proyecto de destino.

2. Haga clic en Log Storage. En la lista de logstores, pase el cursor sobre el logstore de destino y haga clic en el ícono .

3. Haga clic en Advanced Diagnostics o en Basic Diagnostics para consultar la información de diagnóstico.

4. Consulte los resultados del diagnóstico.

   Basic diagnostics

   El panel Log Collection Error enumera todos los errores de recolección de LoongCollector para el logstore. Haga clic en un código de error para ver los detalles. Common data collection errors.

   Advanced diagnostics

   La página LoongCollector/Logtail Exception Monitoring muestra métricas como Active Collection Agent Count y Complete Error Information. Para conocer los detalles del panel, consulte View data reports. Para consultar los códigos de error, consulte Common data collection errors.

5. Después de resolver un problema, compruebe si hay errores nuevos. Los errores históricos permanecen visibles hasta que caducan; ignórelos y confirme que no aparezcan errores nuevos. LoongCollector reporta errores cada 10 minutos.

   Para ver los registros completos descartados por fallos de análisis sintáctico, revise los registros de ejecución de LoongCollector:

   Para hosts: el archivo /usr/local/ilogtail/loongcollector.LOG en el servidor.

   Para contenedores: el archivo /usr/local/ilogtail/loongcollector.LOG dentro del contenedor.

¿Cómo libero el exceso de uso de disco de un contenedor Docker de LoongCollector?

1. Ejecute docker system df para comprobar el uso de disco del contenedor Docker de LoongCollector.

2. Acceda al contenedor y compruebe si los archivos de registro en /usr/local/ilogtail/ consumen demasiado espacio en disco. Limpie los archivos o ajuste la directiva de rotación de registros según sea necesario.

Monitorear el estado de ejecución

SLS proporciona directivas de alerta integradas para monitorear el recolector en tiempo real:

• Monitorear los heartbeats del recolector

  Consulte el logstore internal-diagnostic_log en busca de registros con __topic__:logtail_status para contar las máquinas con heartbeats normales. Configure una regla de alerta que se active cuando el conteo de heartbeats caiga por debajo del valor esperado; así identificará las máquinas inactivas o con problemas de red.

• Configurar alertas para excepciones de recolección

  Ejecute la consulta __topic__: logtail_alarm para analizar las excepciones ocurridas en los últimos 15 minutos, como archivos ilegibles, permisos insuficientes y fallos de análisis sintáctico. Esto le ayuda a identificar y corregir problemas de configuración para evitar la pérdida de registros.

• Recibir advertencias sobre cuellos de botella de rendimiento

  Utilice el panel de monitoreo de excepciones de Logtail para consultar la cantidad de instancias activas de LoongCollector, el historial de reinicios y los mensajes de error. Monitoree el estado de ejecución y el uso de recursos (CPU, memoria) para detectar cuellos de botella de rendimiento o reinicios anómalos.

• Monitorear la recolección centralizada de registros

  Utilice el panel de monitoreo de recolección de archivos de LoongCollector para dar seguimiento a la cantidad de archivos recopilados, la latencia promedio y las tasas de fallos de análisis sintáctico. Gestione de forma centralizada el estado de recolección de registros en escenarios multicuenta o multirregión.

Procedimiento

1. Configure una directiva de acciones para definir cómo se envían las notificaciones cuando cambia el estado de una alerta.

   1. Inicie sesión en la consola de Simple Log Service.

   2. En la lista de proyectos, haga clic en el proyecto donde habilitó los registros importantes.

   3. En el panel de navegación izquierdo, haga clic en Alerts. En la página Alert Center, elija Notification Management > Action Policy.

   4. En la lista de directivas de acciones, busque la directiva sls.app.logtail.builtin y haga clic en Modify en la columna Actions.

   5. En el cuadro de diálogo Edit Action Policy, seleccione y configure un canal de notificación según sus necesidades. Notification channels. Luego, haga clic en Confirm.

2. Cree una regla de alerta que se active cuando el estado de ejecución de LoongCollector alcance un umbral específico.

   1. En la página Alert Center, haga clic en la pestaña Alert Rules y luego haga clic en el ícono junto a Create Alert.

   2. Haga clic en Create from Template. En el panel Create from Template, haga clic en Logtail Fault Monitor dentro de All Templates y luego haga clic en la tarjeta de destino.

   3. En el panel Create Alert, revise la configuración. La regla de alerta integrada incluye parámetros predefinidos. Haga clic en OK. Create an alert rule.