Application Real-Time Monitoring Service (ARMS) は、Python 用の ARMS エージェントをインストールした後、大規模言語モデル (LLM) アプリケーションを監視できます。 [会話分析] ページで、指定した期間内のアプリケーションのセッションリストと詳細を表示できます。
前提条件
LLM アプリケーションに ARMS エージェントがインストールされています。詳細については、「ARMS で LLM アプリケーションを監視する」をご参照ください。
手順
ARMS コンソール にログオンします。左側のナビゲーションウィンドウで、 を選択します。
表示されるページで、上部のナビゲーションバーでリージョンを選択し、管理するアプリケーションをクリックします。
上部のナビゲーションバーで、[会話分析] をクリックします。
上部の検索ボックスをクリックします。ドロップダウンメニューで、セッション ID、ユーザー、セッション期間、トレース数、合計トークン、入力トークン、出力トークンなどのフィルター条件に基づいてセッションをフィルターします。
セッション名をクリックするか、[アクション] 列の [詳細] をクリックして、セッションの詳細を表示します。
表示されるページで、トレース ID をクリックしてトレースの詳細を表示します。詳細については、「LLM トレースエクスプローラー」をご参照ください。
