Simple Log Service:Diagnosis dan pantau status waktu proses LoongCollector

Prasyarat

• Sebuah collector telah dikonfigurasikan untuk mengumpulkan log. Kumpulkan log teks dari host.

• Aktifkan log penting untuk proyek tujuan

  Aktifkan log layanan yang diperlukan. Aktifkan log layanan.

  1. Masuk ke Konsol Simple Log Service. Di daftar proyek, klik proyek tujuan. Pada halaman detail proyek, klik tab Service Log, lalu klik Enable Service Logs.

  2. Pada panel Enable Detailed Logs, pilih Important Logs dan Job Operational Logs, lalu klik OK.

     • Proyek bernama log-service-{user-id}-{region} dibuat secara otomatis di Wilayah tujuan.

     • Ingesti, penyimpanan, kueri, dan analisis log penting serta log operasional pekerjaan tidak dikenai biaya. Transformasi data dan pengiriman data ditagih berdasarkan skema bayar sesuai penggunaan.

Diagnosis masalah waktu proses

Tersedia dua mode diagnostik:

• Advanced Diagnostics (Direkomendasikan): Menampilkan dasbor exception dengan exception terkait collector dan mendukung kueri dalam rentang waktu yang lebih panjang.

• Basic Diagnostics: Menampilkan exception pengumpulan dari satu jam terakhir.

Kasus penggunaan

• Status collector tidak normal: kegagalan heartbeat, proses aktif tidak berjalan, atau kesalahan sertifikat SSL.

• Kegagalan pengumpulan log: log tidak terkumpul, latensi tinggi, atau kesalahan parsing seperti ketidaksesuaian regex.

• Kesalahan konfigurasi: jalur file salah, IP kelompok mesin tidak cocok, atau masalah izin cross-account.

• Hambatan kinerja: laju pengumpulan mendekati atau melebihi batas default (20 MB/detik), menyebabkan log terbuang.

• Masalah pengumpulan log kontainer: Pod sering restart atau rotasi log cepat sehingga pengumpulan tidak lengkap.

• Masalah plugin dan pengumpulan kustom: kegagalan plugin kustom (misalnya, parsing Grok) atau kesalahan pengumpulan dari sumber data HTTP.

• Masalah keandalan data: kehilangan log akibat LoongCollector tidak aktif atau rotasi log terlalu cepat.

• Parameter konfigurasi pengumpulan perlu diubah: parameter parsing seperti kondisi pencocokan multi-baris tidak dapat diedit langsung di daftar konfigurasi pengumpulan. Buka alur modifikasi untuk konfigurasi tersebut dan ubah pada langkah parsing log.

• Mengumpulkan beberapa jalur dalam satu konfigurasi: satu konfigurasi pengumpulan hanya mendukung satu jalur log dan pola nama file. Beberapa jalur berbeda dalam satu konfigurasi tidak didukung. Buat konfigurasi pengumpulan terpisah untuk setiap jalur dan terapkan konfigurasi tersebut ke kelompok mesin yang sama.

• Validasi request body gagal saat membuat konfigurasi pengumpulan melalui API atau Terraform: jika permintaan pembuatan mengembalikan error validasi request body seperti PostBodyInvalid, periksa apakah semua bidang dalam inputDetail tersedia dan bertipe benar. Khususnya, localStorage harus berupa Nilai Boolean (true atau false).

• Berjalan bersama perangkat lunak pengumpulan log lain: troubleshooting penggunaan port, konflik proses, atau duplikasi pengumpulan saat LoongCollector berjalan bersama perangkat lunak pengumpulan lain seperti Filebeat pada server yang sama.

• Tidak jelas metode pengumpulan mana yang menghasilkan log: saat asal log di LogStore tidak diketahui, tentukan apakah log tersebut dikumpulkan oleh LoongCollector/Logtail atau ditulis langsung oleh aplikasi melalui SDK. Periksa apakah ada konfigurasi pengumpulan yang cocok di server dan apakah kode aplikasi berisi logika penulisan SDK.

• Tipe data target berada di luar cakupan pengumpulan yang didukung: pastikan objek target, seperti metrik performa aplikasi atau metrik aplikasi .NET, merupakan tipe pengumpulan yang didukung oleh LoongCollector, sehingga target yang tidak didukung tidak disalahartikan sebagai kegagalan pengumpulan.

• Log stdin atau stdout kontainer tidak terkumpul: kasus troubleshooting di mana log stdin dan stdout kontainer dalam kluster ACK tidak terkumpul.

• Backlog memori atau throttling saat menulis langsung melalui SDK: saat aplikasi menulis log langsung melalui Java SDK atau Producer dan memori terus meningkat, data tertumpuk, atau penulisan dibatasi kecepatannya, lakukan troubleshooting bersama kuota penulisan LogStore dan laju pembuatan log di sisi aplikasi.

• Bidang __tag__:__hostname__ bernilai null: ini berarti hostname tidak dapat diperoleh selama pengumpulan log. Penyebab umum termasuk label hostname yang tidak ada dalam konfigurasi Logtail, sumber log seperti penulisan API atau lingkungan kontainer tertentu yang tidak membawa metadata hostname, atau collector data yang tidak dapat mengurai hostname pada mesin tertentu. Periksa pengaturan label hostname dalam konfigurasi pengumpulan dan metadata sumber log.

• Pengumpulan gagal karena firewall memblokir akses ke alamat IP komunikasi Simple Log Service: pemblokiran akses ke alamat IP komunikasi Simple Log Service dapat mencegah penulisan log, menyebabkan kegagalan kueri, konsumsi, dan peringatan, serta menunda atau mengganggu pengumpulan log. Tambahkan alamat IP komunikasi Simple Log Service ke daftar putih firewall untuk memastikan fitur-fitur tersebut berfungsi sebagaimana mestinya.

• Status tugas evaluasi SLS Agent adalah Failed: status Failed menunjukkan bahwa proses evaluasi mengalami kesalahan eksplisit. Kemungkinan penyebab mencakup kesalahan logika internal, format data tidak valid, atau izin atau sumber daya tidak mencukupi. Gunakan pesan kesalahan spesifik dari tugas evaluasi untuk melakukan troubleshooting terhadap format data, konfigurasi izin, dan logika waktu proses SLS Agent.

Prosedur

1. Masuk ke Konsol Simple Log Service. Di daftar proyek, klik proyek tujuan.

2. Klik Log Storage. Di daftar LogStore, arahkan kursor ke LogStore target dan klik ikon .

3. Klik Advanced Diagnostics atau Basic Diagnostics untuk melihat informasi diagnostik.

4. Lihat hasil diagnostik.

   Basic diagnostics

   Panel Log Collection Error mencantumkan semua kesalahan pengumpulan LoongCollector untuk LogStore tersebut. Klik kode kesalahan untuk melihat detailnya. Kesalahan pengumpulan data umum.

   Advanced diagnostics

   Halaman LoongCollector/Logtail Exception Monitoring menampilkan metrik seperti Active Collection Agent Count dan Complete Error Information. Untuk detail dasbor, lihat Lihat laporan data. Untuk kode kesalahan, lihat Kesalahan pengumpulan data umum.

5. Setelah menyelesaikan masalah, periksa apakah ada error baru. Error historis tetap terlihat hingga kedaluwarsa — abaikan error tersebut dan pastikan tidak ada error baru yang muncul. LoongCollector melaporkan error setiap 10 menit.

   Untuk melihat log lengkap yang terbuang akibat kegagalan parsing, periksa log waktu proses LoongCollector:

   Untuk host: file /usr/local/ilogtail/loongcollector.LOG di server.

   Untuk kontainer: file /usr/local/ilogtail/loongcollector.LOG di dalam kontainer.

Bagaimana cara membersihkan penggunaan disk berlebih oleh kontainer Docker LoongCollector?

1. Jalankan docker system df untuk memeriksa penggunaan disk oleh kontainer Docker LoongCollector.

2. Masuk ke kontainer dan periksa apakah file log di /usr/local/ilogtail/ menggunakan ruang disk berlebih. Bersihkan file tersebut atau sesuaikan kebijakan rotasi log sesuai kebutuhan.

Pantau status waktu proses

SLS menyediakan kebijakan peringatan bawaan untuk memantau collector secara real time:

• Pantau heartbeat collector

  Kueri LogStore internal-diagnostic_log untuk mencari log dengan __topic__:logtail_status guna menghitung jumlah mesin dengan heartbeat normal. Konfigurasikan aturan peringatan yang dipicu saat jumlah heartbeat turun di bawah nilai yang diharapkan, sehingga mesin yang mati atau mengalami masalah jaringan dapat diidentifikasi.

• Siapkan peringatan untuk exception pengumpulan

  Jalankan kueri __topic__: logtail_alarm untuk menganalisis exception dalam 15 menit terakhir, seperti file tidak dapat dibaca, izin tidak mencukupi, dan kegagalan parsing. Hal ini membantu Anda mengidentifikasi dan memperbaiki masalah konfigurasi untuk mencegah kehilangan log.

• Terima peringatan untuk hambatan kinerja

  Gunakan dasbor pemantauan exception Logtail untuk melihat jumlah LoongCollector aktif, riwayat restart, dan pesan kesalahan. Pantau status waktu proses dan penggunaan sumber daya (CPU, memori) untuk mengidentifikasi hambatan kinerja atau restart tidak normal.

• Pantau pengumpulan log terpusat

  Gunakan dasbor pemantauan pengumpulan file LoongCollector untuk melacak jumlah file yang dikumpulkan, latensi rata-rata, dan laju kegagalan parsing. Kelola status pengumpulan log secara terpusat dalam skenario multi-akun atau multi-Wilayah.

Prosedur

1. Konfigurasikan kebijakan tindakan untuk menentukan cara pengiriman notifikasi saat status peringatan berubah.

   1. Masuk ke Konsol Simple Log Service.

   2. Di daftar proyek, klik proyek tempat Anda mengaktifkan log penting.

   3. Di panel navigasi kiri, klik Alerts. Pada halaman Alert Center, pilih Notification Management > Action Policy.

   4. Di daftar kebijakan tindakan, temukan kebijakan tindakan sls.app.logtail.builtin dan klik Modify di kolom Actions.

   5. Pada kotak dialog Edit Action Policy, pilih dan konfigurasikan saluran notifikasi sesuai kebutuhan Anda. Saluran notifikasi. Lalu, klik Confirm.

2. Buat aturan peringatan yang dipicu saat status waktu proses LoongCollector memenuhi ambang batas tertentu.

   1. Pada halaman Alert Center, klik tab Alert Rules, lalu klik ikon di samping Create Alert.

   2. Klik Create from Template. Di panel Create from Template, klik Logtail Fault Monitor di bawah All Templates, lalu klik kartu target.

   3. Pada panel Create Alert, tinjau konfigurasi. Aturan peringatan bawaan mencakup parameter yang telah ditetapkan. Klik OK. Buat aturan peringatan.