Platform For AI:ロギング、モニタリング、アラート

概要

ログ、モニタリング、アラートは、インシデント対応においてそれぞれ異なる役割を果たします：

• ログ：起動メッセージ、リクエスト処理、エラースタックトレースといった詳細なサービス出力をキャプチャし、問題の根本原因を特定できるようにします。

• モニタリング：QPS、レイテンシー、エラー率、リソース使用率などのメトリクスとチャートを通じてサービスの傾向を可視化することで、異常の検出とキャパシティプランニングが可能になります。

• アラート：モニタリングメトリクスにしきい値を適用し、問題が発生した際に通知することで、タイムリーな対応を促します。

一般的なトラブルシューティングパスは、アラートの発生 → モニタリングによる影響メトリクスと時間範囲の特定 → ログによる根本原因の解明、という流れになります。

ログ

EAS は、以下のロギングおよび記録機能を提供します。ユースケースに応じて選択してください：

• 過去のログクエリ：サービス詳細ページの ログ タブで過去のログをクエリできます。インスタンスごとのフィルタリング、キーワード検索、期間フィルタリングが可能です。ログの取得と分析に最適です。

• リアルタイムログの追跡：サービスインスタンス リストでインスタンスを選択し、リアルタイムログ をクリックして、コンテナのローリング出力をストリーミングします。インタラクティブなデバッグや、トークンごとの推論出力の監視など、リアルタイムの可視性が必要なシナリオに最適です。

  説明

  この機能がリリースされる前に作成されたサービスでは、リアルタイムログは利用できません。利用するには、サービスを再作成する必要があります。

• SLS ログ収集: EAS サービスログを SLS に収集します。統合方法には、Insights タブによるクイックオンボーディング、Cloud Monitor 2.0 Access Center による一括統合、SLS Logtail による手動設定の 3 つがあり、単一サービスのクイックセットアップから高度なカスタム収集までのシナリオに対応しています。詳細については、「ログ収集を構成する」をご参照ください。

• 呼び出しレコードの永続化：監査、呼び出し分析、またはトラブルシューティングのために、すべてのサービスリクエストとレスポンスのレコードを MaxCompute または SLS に保存できます。有効にするには、サービスデプロイ時に サービス機能の設定 セクションに移動して サービス呼び出しレコードの保存 を有効にし、ストレージターゲットを選択します：

  • [ビッグデータ MaxCompute]：既存の MaxCompute プロジェクト を選択し (存在しない場合は、MaxCompute プロジェクトの作成をご参照ください)、MaxCompute データテーブル 名を設定します。サービスがデプロイされると、選択したプロジェクトにこのテーブルが自動的に作成されます。

  • [Simple Log Service (SLS)]：既存の SLS プロジェクト を選択し (存在しない場合は、プロジェクトの作成をご参照ください)、Logstore 名を設定します。サービスがデプロイされると、選択したプロジェクトにこの Logstore が自動的に作成されます。

モニタリング

EAS は 5 つのモニタリング機能を提供します。モニタリング範囲とメトリクスソースに基づいて選択してください：

• サービスモニタリング (サービスごと)：単一サービスの QPS、レイテンシー、エラー率、リソース使用率などの基本的なランタイムメトリクスを表示し、Service と Instance のディメンションを切り替えることができます。すぐに利用可能で、サービス詳細ページの モニタリング タブを開くだけです。詳細については、サービスモニタリングメトリクスの表示をご参照ください。

• モニタリングダッシュボード (リージョンレベルの集計)：選択したリージョン内の現在のアカウント配下にあるすべてのワークスペースからサービスメトリクスを集約し、統合ダッシュボードに表示します。これにより、複数サービスのヘルスチェックやキャパシティプランニングが可能になります。ワークスペースを切り替えてもデータ範囲に影響はありません。詳細については、モニタリングダッシュボードをご参照ください。

• カスタムモニタリングメトリクス (サービスごと、ユーザーレポート)：推論トークン数、バッチサイズ、ヒット率などのビジネスメトリクスをレポートして、オートスケーリングをトリガーします。サービスコードでのインストルメンテーションが必要です。詳細については、カスタムモニタリングとオートスケーリングメトリクスをご参照ください。

• Prometheus モニタリング (アカウントレベル、外部システム連携)：Cloud Monitor 2.0 アクセスセンターを介して EAS モニタリングメトリクスを Prometheus に接続し、PromQL でメトリクスをクエリし、Grafana や他のモニタリングシステムと連携します。推論フレームワークメトリクスや GPU コンピューティングメトリクスなどの高度なメトリクスが含まれます。追加料金が発生します。詳細については、Prometheus を使用した EAS 推論サービスの監視をご参照ください。

• トレース (サービスごと、ARMS)：Application Real-Time Monitoring Service (ARMS) ベースの呼び出しチェーントレースにより、コンポーネント間のパフォーマンスボトルネックを特定できます。一部の公式イメージではワンクリックで有効化できます。他のイメージの場合は、ARMS プローブをランタイムコマンドに統合する必要があります。詳細については、EAS での LLM アプリケーションのトレース有効化をご参照ください。

アラート

EAS は 2 つのアラートシナリオをサポートしています。通知トリガーソースに基づいて選択してください：

• メトリクスアラート：エラー率、レイテンシー、リソース使用率などのモニタリングメトリクスが設定されたしきい値を超えた場合に通知します。ルールはサービスモニタリングメトリクスから構築します。詳細については、サービスモニタリングアラートの設定をご参照ください。

• CloudMonitor イベント：デプロイ完了、スケーリング、予期せぬインスタンスの終了などのサービスライフサイクルイベントをリッスンし、通知を送信します。詳細については、CloudMonitor での EAS イベントの表示をご参照ください。

よくある質問