Setelah Anda menginstal agen Python untuk aplikasi Large Language Model (LLM), Application Real-Time Monitoring Service (ARMS) akan mulai memantau aplikasi tersebut. Halaman Conversation Analysis mencantumkan sesi dalam periode waktu tertentu dan memungkinkan Anda memeriksa detail masing-masing sesi.
Prasyarat
Agen telah diinstal untuk aplikasi LLM Anda. Untuk informasi selengkapnya, lihat Integrasikan aplikasi LLM atau layanan inferensi dengan ARMS.
Prosedur
-
Masuk ke Konsol ARMS. Di panel navigasi kiri, pilih .
-
Pada halaman Application List, pilih wilayah di bagian atas halaman, lalu klik nama aplikasi Anda.
-
Di bilah navigasi atas, klik Conversation Analysis.
-
Klik kotak pencarian. Dari daftar drop-down, filter sesi berdasarkan kriteria seperti session ID, user, session duration, jumlah trace, total token, input token, dan output token.
-
Daftar sesi menampilkan informasi untuk setiap sesi, termasuk Duration, Tokens (meliputi input tokens dan output tokens), Number of Traces, User, dan Start Time.
Klik nama sesi atau Details di kolom Actions untuk melihat detail sesi tersebut.
Klik ID trace untuk melihat detail trace. Untuk informasi selengkapnya, lihat LLM Trace Analysis.
Bagian atas halaman detail sesi menampilkan metrik ringkasan, termasuk Session ID, total duration, total tokens, dan number of traces. Bagian Basic Information menampilkan bidang seperti Start Time, user ID, dan model name. Grafik Gantt di tengah halaman memvisualisasikan distribusi waktu eksekusi untuk setiap trace. Di bawah grafik tersebut, kartu detail menyajikan ID trace, jumlah token, serta rincian penggunaan token berdasarkan model untuk setiap trace.