Alibaba Cloud Model Studio:モデルモニタリング

自社構築アプリケーションとの統合

以下の例は、Prometheus HTTP API を使用してモニタリングデータを取得する方法を示しています。完全な API 使用方法については、Prometheus HTTP API ドキュメントをご参照ください。

• 例 1： Alibaba Cloud アカウント配下のすべてのワークスペースのすべてのモデルについて、指定された期間（UTC 時間で 2025 年 11 月 20 日の全日）におけるトークン消費量を、ステップサイズ step=60s で照会します。クエリは model_usage です。

  例

  パラメーター説明

  GET {HTTP API}/api/v1/query_range?query=model_usage&start=2025-11-20T00:00:00Z&end=2025-11-20T23:59:59Z&step=60s Accept: application/json Content-Type: application/json Authorization: Basic base64Encode(AccessKey:AccessKeySecret)

  query： query の値は、以下の「モニタリングメトリクス」リストに記載されている任意のメトリクス名に置き換え可能です。 モニタリングメトリクスの表示 タイプ メトリクス名 説明 呼び出し数 model_call_count モデル呼び出しの総数 呼び出し時間 model_call_duration_total モデル呼び出し時間の合計 model_call_duration モデル呼び出し時間の平均値 model_call_duration_p50 モデル呼び出し時間の p50 値 model_call_duration_p99 モデル呼び出し時間の p99 値 model_first_token_duration_total モデル最初のパケット到達時間の合計 model_first_token_duration モデル最初のパケット到達時間の平均値 model_first_token_duration_p50 モデル最初のパケット到達時間の p50 値 model_first_token_duration_p99 モデル最初のパケット到達時間の p99 値 非最初パケットの持続時間 model_generation_duration_per_token_total モデル最初以外のパケット到達時間の合計 model_generation_duration_per_token モデルの初回パケット以外の平均時間 model_generation_duration_per_token_p50 モデル最初以外のパケット到達時間の p50 値 model_generation_duration_per_token_p99 モデル最初以外のパケット到達時間の p99 値 使用方法 model_usage モデル利用量の合計 HTTP API： {HTTP API} は、ステップ 1 で取得した HTTP API アドレスに置き換えてください。 認証： Alibaba Cloud アカウントの AccessKey:AccessKeySecret を連結し、Base64 エンコーディングした文字列を Basic <encoded_string> 形式で指定します。 例の値： Basic TFRBSTV3OWlid0U4XXXXU0xb1dZMFVodmRsNw== 注意：AccessKey および AccessKey Secret は、ステップ 1 の Prometheus インスタンスと同じ Alibaba Cloud アカウントに属している必要があります。

• 例 2： 例 1 を基に、特定のモデル（model=qwen-plus）および特定のワークスペース（workspace_id=llm-nymssti2mzww****）のトークン消費量を取得するためのフィルターを追加します。

  例

  説明

  GET {HTTP API}/api/v1/query_range?query=model_usage{workspace_id="llm-nymssti2mzww****",model="qwen-plus"}&start=2025-11-20T00:00:00Z&end=2025-11-20T23:59:59Z&step=60s Accept: application/json Content-Type: application/json Authorization: Basic base64Encode(AccessKey:AccessKeySecret)

  query： 複数のフィルター条件を {} で囲み、カンマで区切ります（例：{workspace_id="value1",model="value2"}）。以下は、サポートされているフィルター条件（LabelKey）の一覧です。 サポートされているフィルター条件の表示 LabelKey 説明 user_id Alibaba Cloud アカウント ID。 RAM ユーザーの場合、これは UID です。取得方法 apikey_id API キー ID（API キーそのものではありません）。キー管理 (シンガポール | 米国 (バージニア) | 中国 (北京)) ページで取得できます。 説明 apikey_id の値が -1 の場合、呼び出しは Alibaba Cloud Model Studio コンソールから発生したものであり、API 経由ではありません。 workspace_id ワークスペース ID。取得方法 model モデル。 protocol プロトコルタイプ。可能な値： HTTP： HTTP 非ストリーミング SSE： HTTP ストリーミング WS： WebSocket プロトコル sub_protocol サブプロトコル。可能な値： DEFAULT： 同期呼び出し ASYNC： 非同期呼び出し 画像生成モデルで一般的です。テキストから画像への生成 status_code HTTP ステータスコード。 model_call_count メトリクスのみがこの LabelKey をサポートします。 error_code エラーコード。 model_call_count メトリクスのみがこの LabelKey をサポートします。 usage_type 利用タイプ。 model_usage メトリクスのみがこの LabelKey をサポートします。 可能な値： total_tokens input_tokens output_tokens cache_tokens image_tokens audio_tokens video_tokens image_count audio_count video_count duration characters audio_tts times

Grafana との統合

Grafana（自社構築または Alibaba Cloud Grafana サービス）にモデルモニタリングデータソースを追加します。この例では Grafana 10.x（英語版）を使用します。他のバージョンでも手順は同様です。詳細については、公式 Grafana ドキュメントをご参照ください。

1. 1. データソースの追加：

   1. 管理者アカウントで Grafana にログインします。ページ左上隅の アイコンをクリックし、管理 > データソース を選択します。+ 新規データソースの追加 をクリックし、データソースタイプとして Prometheus を選択します。

   2. 設定 タブで、データソース情報を構成します。

      • 名前： 任意の名前を入力します。

      • Prometheus サーバー URL： ステップ 1 で取得した HTTP API アドレスを入力します。

      • 認証： 基本認証 を有効化し、ユーザー に Alibaba Cloud アカウントの AccessKey、パスワード に Alibaba Cloud アカウントの AccessKey Secret を設定します。

        AccessKey および AccessKey Secret は、ステップ 1 の Prometheus インスタンスと同じ Alibaba Cloud アカウントに属している必要があります。

      

   3. タブの下部にある 保存してテスト をクリックします。

2. 2. メトリクスの照会：

   1. Grafana ページ左上隅の アイコンをクリックし、左側のナビゲーションペインで ダッシュボード をクリックします。

   2. ダッシュボード ページで、新規 > 新規ダッシュボード をクリックして、新しいダッシュボードを作成します。

   3. + 可視化の追加 をクリックし、先ほど作成したデータソースを選択します。

   4. パネルの編集 ページで、クエリ タブをクリックします。A 領域で、_name_ および ラベルフィルター フィールドのメトリクス名を選択します。以下の例は、モデルトークン消費量 model_usage を照会する方法を示しています。

      例

      説明

      この例のクエリでは、_name_ の値（model_usage）を、以下の「モニタリングメトリクス」リストに記載されている任意のメトリクス名に置き換えられます。 モニタリングメトリクスの表示 タイプ メトリクス名 説明 呼び出し数 model_call_count モデル呼び出しの総数 呼び出し時間 model_call_duration_total モデル呼び出し時間の合計 model_call_duration モデル呼び出し時間の平均値 model_call_duration_p50 モデル呼び出し時間の p50 値 model_call_duration_p99 モデル呼び出し時間の p99 値 model_first_token_duration_total モデル最初のパケット到達時間の合計 model_first_token_duration モデル最初のパケット到達時間の平均値 model_first_token_duration_p50 モデル最初のパケット到達時間の p50 値 model_first_token_duration_p99 モデル最初のパケット到達時間の p99 値 最初以外のパケット到達時間 model_generation_duration_per_token_total モデル最初以外のパケット到達時間の合計 model_generation_duration_per_token モデル最初以外のパケット到達時間の平均値 model_generation_duration_per_token_p50 モデル最初以外のパケット到達時間の p50 値 model_generation_duration_per_token_p99 モデル最初以外のパケット到達時間の p99 値 利用量 model_usage モデル利用量の合計 以下のラベルフィルターを追加して、クエリをさらに絞り込むことができます。 サポートされているフィルター条件の表示 LabelKey 説明 user_id Alibaba Cloud アカウント ID。 RAM ユーザーの場合、これは UID です。取得方法 apikey_id API キー ID（API キーそのものではありません）。キー管理 (シンガポール | 米国 (バージニア) | 中国 (北京)) ページで取得できます。 説明 apikey_id の値が -1 の場合、呼び出しは Alibaba Cloud Model Studio コンソールから発生したものであり、API 経由ではありません。 workspace_id ワークスペース ID。取得方法 model モデル。 protocol プロトコルタイプ。可能な値： HTTP： HTTP 非ストリーミング SSE： HTTP ストリーミング WS： WebSocket プロトコル sub_protocol サブプロトコル。可能な値： DEFAULT： 同期呼び出し ASYNC： 非同期呼び出し 画像生成モデルで一般的です。テキストから画像への生成 status_code HTTP ステータスコード。 model_call_count メトリクスのみがこの LabelKey をサポートします。 error_code エラーコード。 model_call_count メトリクスのみがこの LabelKey をサポートします。 usage_type 利用タイプ。 model_usage メトリクスのみがこの LabelKey をサポートします。 可能な値： total_tokens input_tokens output_tokens cache_tokens image_tokens audio_tokens video_tokens image_count audio_count video_count duration characters audio_tts times

   5. クエリの実行 をクリックします。

      グラフにデータが正常に描画された場合、構成は成功です。そうでない場合は、以下の点を確認してください。1) HTTP API アドレス、AccessKey、AccessKey Secret が正しいか。2) ステップ 1 の Prometheus インスタンスにモニタリングデータがあるか。