AI sistem çalışma zamanı günlükleri (eBPF) - AgentLoop

AI sistem çalışma zamanı günlükleri (eBPF), aracı uygulama kodunu değiştirmeden Linux çekirdek katmanında AI aracılarının model etkileşimleri, işlemler, dosyalar ve ağ etkinlikleri dahil olmak üzere çalışma zamanı davranışlarını toplamak için eBPF teknolojisini kullanır. Bu konuda, entegrasyon merkezinde AI sistem çalışma zamanı günlüklerinin (eBPF) nasıl yapılandırılacağı ve verilerin doğru yazıldığının nasıl doğrulanacağı açıklanmaktadır.

Senaryolar

AI sistem çalışma zamanı günlükleri (eBPF) aşağıdaki senaryolarda uygulanabilir:

Linux ana bilgisayarlarında veya konteynerlerde çalışan AI aracılarını müdahaleci olmayan bir şekilde keşfedin.
LoongSuite Pilot veya dil ve çerçeve probu ile entegre edilmemiş aracıların, aracı çerçevelerinin ve özel aracıların çalışma zamanı davranışlarını toplayın.
Model etkileşimlerini işlemler, dosya erişimi, komut çalıştırma ve ağ etkinlikleriyle ilişkilendirin.
İş yüklerinizi yeniden başlatmadan toplama kapsamını ve AgentSight algılama kurallarını güncelleyin.

Desteklenen kapsam

AI sistem çalışma zamanı günlükleri (eBPF), entegrasyon merkezinde sunulan Linux ana bilgisayarları, Docker ve Kubernetes senaryolarını destekler. eBPF yaygın Linux çalışma zamanları için genel bir kapsama sağlar. Ancak, hedef program özel bir TLS uygulaması veya şu anda desteklenmeyen bir çalışma zamanı kullandığında LLM yükü toplama işlemi sınırlı olabilir.

eBPF yerel Oturum, Dönüşüm ve Adım tanımlayıcılarını veya dahili çerçeve durumlarını doğrudan elde edemeyebilir. Bu bağlamı elde etmek için ek olarak LoongSuite Pilot veya dil ve çerçeve problarını kullanın. Bir entegrasyon yönteminin nasıl seçileceği hakkında daha fazla bilgi için bkz. Bir AI Aracısı entegrasyon yöntemi seçme.

Ön koşullar

Başlamadan önce aşağıdaki koşulların karşılandığından emin olun:

AgentLoop etkinleştirilmiş ve bir aracı alanı oluşturulmuştur.
Toplanacak AI aracıları hedef Linux ana bilgisayarlarına, konteynerlere veya kümelere dağıtılmıştır.
LoongCollector yüklemek veya güncellemek, entegrasyon komutlarını çalıştırmak ve makine gruplarını yönetmek için gerekli izinlere sahipsiniz.
Hedef ortam, entegrasyon sayfasında görüntülenen işletim sistemi, çekirdek ve ağ gereksinimlerini karşılar.
Kubernetes DaemonSet senaryosu için ACK'deki LoongCollector bileşeni 3.3.10 veya sonraki bir sürüme yükseltilmiş ve bileşen yapılandırma sayfasında eBPF Collection anahtarı etkinleştirilmiştir.

Entegrasyon yordamı

AgentLoop konsoluna gidin. Sol gezinme bölmesinde Integration Center seçeneğine tıklayın.
AI Node Integration bölümünde AI System Runtime Logs seçeneğine tıklayın.
Aracının dağıtım ortamına göre Linux ana bilgisayarı, Docker veya Kubernetes gibi bir senaryo seçin.

Toplama kapsamını yapılandırın.

Parametre	Açıklama
Proje	Geçerli aracı alanına bağlı Simple Log Service (SLS) projesi. Salt okunur.
Logstore	Çalışma zamanı günlüklerinin yazıldığı Logstore. `ebpf-event` olarak sabittir. Salt okunur.
Makine grubu	Toplama için hedef makine grubunu seçin veya oluşturun.

AgentSight algılama kurallarını yapılandırın. Yapılandırmayı değiştirmezseniz sistem önerilen varsayılan kuralları kullanır. Herhangi bir kuralı değiştirdikten sonra geçerli yapılandırma ilgili varsayılan kuralın üzerine yazar. Ayrıntılar için bkz. AgentSight algılama kurallarını yapılandırma.
Gerekirse veri maskelemeyi etkinleştirin. Ayrıntılar için bkz. Veri maskeleme.
Sayfadaki talimatları izleyerek LoongCollector ve toplama yapılandırmasını hedef ortama yükleyin veya güncelleyin.

AgentSight algılama kurallarını yapılandırma

Komut satırı izin listesi

Veri toplayıcı genellikle AI aracılarını otomatik olarak tanımlayabilir ve bunları toplama kapsamına dahil edebilir. Hedef işlem tanımlanmazsa komut satırı izin listesine kurallar ekleyin. Her kural bir aracı türü ve bir komut satırı bağımsız değişkeni deseni içerir. Bir kuralla eşleşen işlemler ilgili aracı türü olarak etiketlenir.

Komut satırı engelleme listesi

Komut satırı engelleme listesi, toplanması gerekmeyen işlem desenlerini hariç tutar. Engelleme listesi izin listesine göre önceliklidir.

Etki alanı izin listesi

Etki alanı izin listesi hangi ağ etkinliklerinin aday toplama kapsamına gireceğini belirler. Varsayılan kurallar Model Studio, OpenAI ve Anthropic gibi yaygın model hizmeti etki alanlarını içerir. Diğer model hizmeti sağlayıcılarını veya özel bir AI ağ geçidini kullandığınızda ilgili etki alanlarını ekleyin.

Aday toplama kapsamına giren trafiğin yük protokolünün ayrıştırılabileceği garanti edilmez. Ağ etkinliklerini görebiliyor ancak eksiksiz model etkileşimlerini göremiyorsanız hedef protokolün ve çalışma zamanının şu anda desteklenen kapsam içinde olduğunu doğrulayın.

Ham HTTPS trafiğini topla

Collect Https Raw Traffic özelliğini etkinleştirdikten sonra bilinmeyen API yolları veya standart dışı gövdeler gibi LLM anlamlarına ayrıştırılamayan trafik artık atılmaz. Bunun yerine ham HTTP olarak raporlanır.

Not

Bu özellik yalnızca LoongCollector 3.3.10 veya sonraki sürümlerde desteklenir.

Veri maskeleme

Çalışma zamanı günlükleri telefon numaraları, e-posta adresleri ve API anahtarları gibi hassas bilgiler içerebilir. Entegrasyon yapılandırmasında ihtiyaç duyulduğunda uç nokta tarafında veri maskelemeyi etkinleştirebilirsiniz. Desteklenen veri türleri arasında telefon numaraları, kimlik numarası, e-posta adresleri, IP adresleri, sabit hat numaraları ve banka kartı numaraları bulunur.

Veri maskeleme varsayılan olarak devre dışıdır. Etkinleştirdikten sonra maskelenmiş veriler denetim ve sorun giderme için gerekli bağlamı korur.

Entegrasyonu doğrulama

Entegrasyonu tamamladıktan sonra SLS konsolundaki ebpf-event Logstore'unun hedef ana bilgisayarlar veya konteynerlerden gelen en son verileri içerip içermediğini kontrol edin. Logstore'da veri varsa Denetim yönetimi veya Denetim gerçekleri bölümüne gidin ve hedef düğümlerin, aracıların veya işlemlerin ilgili zaman aralığında sorgulanabilir olduğunu doğrulayın.

SSS

Logstore'da veri yok

LoongCollector ve toplama yapılandırmasının başarıyla yüklendiğini veya güncellendiğini doğrulayın.
Hedef ana bilgisayarların veya konteynerlerin seçilen makine grubuna ait olduğunu doğrulayın.
Sorgu zaman aralığının entegrasyondan sonraki dönemi kapsadığını doğrulayın.
Hedef ortamın sayfada görüntülenen işletim sistemi, çekirdek ve ağ gereksinimlerini karşıladığını doğrulayın.

Hedef aracı tanımlanmadı

Öncelikle hedef işlemin çalıştığını doğrulayın. Veri toplayıcı işlemi otomatik olarak tanımlamazsa aracı türünü ve komut satırı bağımsız değişkeni desenini komut satırı izin listesine ekleyin.

İstenmeyen işlemler toplanıyor

Hariç tutulacak işlem desenlerini komut satırı engelleme listesine ekleyin. Engelleme listesi izin listesine göre önceliklidir.

Ağ etkinlikleri görünür ancak eksiksiz model etkileşimleri mevcut değil

Model hizmeti etki alanının etki alanı izin listesinde olduğunu ve hedef program tarafından kullanılan protokol ile çalışma zamanının şu anda desteklenen kapsam içinde bulunduğunu doğrulayın. Etki alanı izin listesi yalnızca aday toplama kapsamını değiştirir ve yükün ayrıştırılabileceğini garanti etmez. Ayrıştırılamayan trafiği korumanız gerekiyorsa ham HTTP olarak raporlanması için Collect Https Raw Traffic özelliğini etkinleştirin; bu özellik LoongCollector 3.3.10 veya sonraki bir sürümü gerektirir.

AgentLoop:AI sistem çalışma zamanı günlükleri (eBPF)