Application Real-Time Monitoring Service (ARMS) dapat memantau aplikasi model bahasa besar (LLM) Anda setelah menginstal Agen ARMS untuk Python. Anda dapat melihat daftar sesi dan detail aplikasi dalam periode waktu tertentu di halaman Conversation Analysis.
Prasyarat
Agen ARMS telah diinstal untuk aplikasi LLM Anda. Untuk informasi lebih lanjut, lihat Memantau aplikasi LLM dan layanan inferensi di ARMS.
Prosedur
Di bilah navigasi atas, klik Conversation Analysis.
Klik kotak pencarian di bagian atas. Di menu drop-down, filter sesi berdasarkan kondisi filter seperti ID sesi, pengguna, durasi sesi, jumlah jejak, total token, token masukan, dan token keluaran.
Klik nama sesi atau pilih Details di kolom Actions untuk melihat detail sesi.
Di halaman yang muncul, klik ID jejak untuk melihat detail jejak. Untuk informasi lebih lanjut, lihat LLM Trace Explorer.
