全部產品
Search
文件中心

Application Real-Time Monitoring Service:情境化分析

更新時間:Feb 14, 2025

為LLM(Large Language Model)應用安裝Python探針後,ARMS即可開始監控LLM應用,您可以在情境化分析頁面查看LLM應用在指定時間段內的會話列表和模型使用方式。

前提條件

已為LLM應用安裝探針,具體操作,請參見LLM 大語言模型應用接入 ARMS

會話分析

2025-02-07_18-24-04

  • 單擊頁面搜尋方塊,在下拉彈窗中可以按照會話ID、使用者、會話時間長度、Trace數、Token總數、輸入Token數、輸出Token數等條件式篩選會話。

    image

  • 單擊會話名稱或操作列的詳情,查看會話詳細資料。

    單擊調用鏈ID,可以查看調用鏈詳情,更多資訊,請參見LLM調用鏈分析

    2025-02-08_10-46-05

模型分析

在頁簽頂部可以選擇需要查看的模型名稱。指標的詳細資料請參見LLM指標說明

image