Alibaba Cloud Model Studio:モデルモニタリング

カスタムアプリケーションとの統合

以下に、Prometheus HTTP API を使用してモニタリングデータを取得する例を示します。詳細については、Prometheus HTTP API ドキュメントをご参照ください。

• 例 1： 指定された期間（2025 年 11 月 20 日、UTC）における、Alibaba Cloud アカウント配下のすべてのワークスペースのすべてのモデルのトークン使用量をクエリします。ステップサイズは 60 秒 です。クエリには model_usage を使用します。

  例

  パラメーターの説明

  GET {HTTP API}/api/v1/query_range?query=model_usage&start=2025-11-20T00:00:00Z&end=2025-11-20T23:59:59Z&step=60s Accept: application/json Content-Type: application/json Authorization: Basic base64Encode(AccessKey:AccessKeySecret)

  query： query を、以下の「モニタリングメトリクス」リストから任意のメトリクス名に置き換えます。 モニタリングメトリクスの表示 タイプ メトリクス名 説明 呼び出し回数 model_call_count モデル呼び出しの合計回数 呼び出し時間 model_call_duration_total モデル呼び出しの合計時間 model_call_duration モデル呼び出しの平均時間 model_call_duration_p50 モデル呼び出し時間の p50 model_call_duration_p99 モデル呼び出し時間の p99 model_first_token_duration_total 最初のトークンの合計時間 model_first_token_duration 最初のトークンの平均時間 model_first_token_duration_p50 最初のトークン時間の p50 model_first_token_duration_p99 最初のトークン時間の p99 以降のパッケージ期間 model_generation_duration_per_token_total モデルの非初期パケットの合計時間 model_generation_duration_per_token モデルの非初期パケットの平均時間 model_generation_duration_per_token_p50 モデルの非初期パケット遅延の p50 model_generation_duration_per_token_p99 最初以外のトークン時間の p99 使用法 model_usage モデルの合計使用量 HTTP API： {HTTP API} を、ステップ 1でコピーしたエンドポイントに置き換えます。 Authorization： Alibaba Cloud アカウントの AccessKey:AccessKeySecret を連結し、Base64 エンコードした結果を Basic encoded-string として渡します。 例の値： Basic TFRBSTV3OWlid0U4XXXXU0xb1dZMFVodmRsNw== 注意：AccessKey および AccessKey Secret は、ステップ 1 の Prometheus インスタンスと同じ Alibaba Cloud アカウントに属している必要があります。

• 例 2： この例は、例 1 を拡張し、特定のモデル（model=qwen-plus）およびワークスペース（workspace_id=llm-nymssti2mzww****）のトークン消費量を取得するフィルターを追加しています。

  例

  説明

  GET {HTTP API}/api/v1/query_range?query=model_usage{workspace_id="llm-nymssti2mzww****",model="qwen-plus"}&start=2025-11-20T00:00:00Z&end=2025-11-20T23:59:59Z&step=60s Accept: application/json Content-Type: application/json Authorization: Basic base64Encode(AccessKey:AccessKeySecret)

  query： 複数のフィルターを {} で囲み、カンマで区切ります（例：{workspace_id="value1",model="value2"}）。サポートされるフィルター（LabelKeys）の一覧については、以下の表をご参照ください。 サポートされるフィルターの表示 LabelKey 説明 user_id お客様の Alibaba Cloud アカウント ID。 RAM ユーザーの場合、これは UID です。詳細については、「取得方法 apikey_id API キーの ID（API キー自体ではありません）。この ID は、Key Management (シンガポール | 米国 | 北京)ページで確認できます。 説明 apikey_id の値が -1 の場合、呼び出しは Alibaba Cloud Model Studio コンソールから行われたものであり、API 経由ではありません。 workspace_id ワークスペース ID。詳細については、「取得方法」をご参照ください。 model モデル protocol プロトコルの種類。有効な値： HTTP： 非ストリーミング HTTP SSE： ストリーミング HTTP WS： WebSocket sub_protocol サブプロトコル。有効な値： DEFAULT： 同期呼び出し ASYNC： 非同期呼び出し 画像生成モデルでよく使用されます。詳細については、「テキストから画像へ status_code HTTP ステータスコード。 model_call_count メトリクスのみがこの LabelKey をサポートします。 error_code エラーコード。 model_call_count メトリクスのみがこの LabelKey をサポートします。 usage_type 使用タイプ。 model_usage メトリクスのみがこの LabelKey をサポートします。 有効な値： total_tokens input_tokens output_tokens cache_tokens image_tokens audio_tokens video_tokens image_count audio_count video_count duration characters audio_tts times

Grafana との統合

Grafana（セルフマネージドまたは Alibaba Cloud Grafana）にモデルモニタリングをデータソースとして追加できます。この例では Grafana 10.x（英語版）を使用します。他のバージョンでも手順は同様です。詳細については、Grafana ドキュメントをご参照ください。

1. データソースの追加：

   1. 管理者として Grafana にログインします。左上隅の アイコンをクリックし、管理 > データソースを選択します。+ 新規データソースの追加をクリックし、Prometheus を選択します。

   2. 設定タブで、データソースを構成します。

      • 名前： カスタム名を入力します。

      • Prometheus サーバー URL： ステップ 1でコピーした HTTP API エンドポイントを貼り付けます。

      • Auth： 基本認証をオンにします。ユーザーに Alibaba Cloud アカウントの AccessKey を、パスワードに Alibaba Cloud アカウントの AccessKey Secret を設定します。

        AccessKey および AccessKeySecret は、ステップ 1 の Prometheus インスタンスと同じ Alibaba Cloud アカウントに属している必要があります。

      

   3. タブの下部にある保存してテストをクリックします。

2. メトリクスのクエリ：

   1. Grafana の左上隅の アイコンをクリックし、左側のナビゲーションウィンドウでダッシュボードをクリックします。

   2. ダッシュボードページで、新規 > 新規ダッシュボードをクリックして、新しいダッシュボードを作成します。

   3. + 可視化の追加をクリックし、先ほど作成したデータソースを選択します。

   4. パネルの編集ページで、クエリタブをクリックします。A セクションでラベルフィルターをクリックします。_name_ およびメトリクス名を選択します。たとえば、トークン使用量（model_usage）をクエリするには、以下の手順を実行します。

      例

      説明

      画像では、_name_（model_usage）の値を、以下の「モニタリングメトリクス」リストから任意のメトリクス名に置き換えます。 モニタリングメトリクスの表示 タイプ メトリクス名 説明 呼び出し回数 model_call_count モデル呼び出しの合計回数 呼び出し時間 model_call_duration_total モデル呼び出しの合計時間 model_call_duration モデル呼び出しの平均時間 model_call_duration_p50 モデル呼び出し時間の p50 model_call_duration_p99 モデル呼び出し時間の p99 model_first_token_duration_total 最初のトークンの合計時間 model_first_token_duration 最初のトークンの平均時間 model_first_token_duration_p50 最初のトークン時間の p50 model_first_token_duration_p99 最初のトークン時間の p99 後続パケット時間 model_generation_duration_per_token_total モデルの非初期パケットの合計時間 model_generation_duration_per_token モデルの非初期パケットの平均時間 model_generation_duration_per_token_p50 モデルの非初期パケット遅延の p50 model_generation_duration_per_token_p99 最初以外のトークン時間の p99 使用量 model_usage モデルの合計使用量 結果を絞り込むために、さらにラベルフィルターを追加できます。 サポートされるフィルターの表示 LabelKey 説明 user_id お客様の Alibaba Cloud アカウント ID。 RAM ユーザーの場合、これは UID です。詳細については、「取得方法 apikey_id API キーの ID（API キー自体ではありません）。この ID は、Key Management (シンガポール | 米国 | 北京)ページで確認できます。 説明 apikey_id の値が -1 の場合、呼び出しは Alibaba Cloud Model Studio コンソールから行われたものであり、API 経由ではありません。 workspace_id ワークスペース ID。詳細については、「取得方法」をご参照ください。 model モデル protocol プロトコルの種類。有効な値： HTTP： 非ストリーミング HTTP SSE： ストリーミング HTTP WS： WebSocket sub_protocol サブプロトコル。有効な値： DEFAULT： 同期呼び出し ASYNC： 非同期呼び出し 画像生成モデルでよく使用されます。詳細については、「テキストから画像へ status_code HTTP ステータスコード。 model_call_count メトリクスのみがこの LabelKey をサポートします。 error_code エラーコード。 model_call_count メトリクスのみがこの LabelKey をサポートします。 usage_type 使用量の種類。 model_usage メトリクスのみがこの LabelKey をサポートします。 有効な値： total_tokens input_tokens output_tokens cache_tokens image_tokens audio_tokens video_tokens image_count audio_count video_count duration characters audio_tts times

   5. クエリの実行をクリックしてデータを取得します。

      チャートが正常にレンダリングされた場合、構成は正しく設定されています。レンダリングされない場合は、HTTP API エンドポイント、AccessKey、AccessKeySecret が正しいか、およびステップ 1の Prometheus インスタンスにモニタリングデータが存在するかを確認してください。