AI Governance Maturity Check は、AI エージェントプラットフォーム、エージェントランタイム、AI ゲートウェイなどの AI ワークロードを、セキュリティ、信頼性、コスト、効率、パフォーマンスの 5 つの柱に基づいて評価します。このトピックでは、AI Governance Maturity Check が現在サポートしているチェック項目について説明します。
チェック項目は随時追加されます。現在、セキュリティ、信頼性、コスト、パフォーマンスの各柱に対応する、合計 37 個のチェック項目が利用可能です。効率性の柱に関するチェック項目は、今後のバージョンでリリースされる予定です。
チェック項目の概要
柱 | チェック項目 | 高リスク | 中リスク | 推奨 |
セキュリティ | 13 | 5 | 4 | 4 |
信頼性 | 21 | 6 | 14 | 1 |
コスト | 2 | 0 | 2 | 0 |
パフォーマンス | 1 | 0 | 0 | 1 |
効率 | 0 | 0 | 0 | 0 |
合計 | 37 | 11 | 20 | 6 |
セキュリティ
エージェントのアイデンティティ認証
チェック項目 | 説明 | 手動での修正 |
Agent Identity のワークロード ID に OIDC ユーザー ID パススルーが構成されていません | Agent Identity は、AI Agents のアイデンティティと権限を管理する Alibaba Cloud のサービスです。ワークロード ID は、Alibaba Cloud サービスを呼び出す際のエージェントワークロードを表します。エージェントがユーザーリクエストを処理する場合、ダウンストリームのリソースがユーザーのアイデンティティでアクセスされるように、エンドユーザーのアイデンティティ (OIDC ID トークン) をエージェントにパススルーする必要があります。このパススルーがない場合、すべてのリクエストはエージェント自身のサービスアカウントで実行されるため、エンドユーザーを識別できず、最小権限アクセスを適用できず、個々のユーザーに操作をトレースできません。 | Agent Identity コンソールで、ワークロード ID を ID プロバイダー (IdP) に関連付け、ダウンストリームのリソースを呼び出す前に、エンドユーザーのアイデンティティ (OIDC ID トークン) がエージェントにパススルーされるようにします。 パス: Agent Identity コンソール > ワークロード ID > ID プロバイダーの関連付け。ワークロード ID を IdP に関連付けます。詳細な手順については、「Alibaba Cloud Agent Identity ワークロード ID 管理」をご参照ください。 [課金] Agent Identity は現在無料です。 [影響] この機能を有効にすると、ダウンストリームのリソースに対する権限チェックはエンドユーザーのアイデンティティに基づいて実行されます。対応するユーザーまたはロールに必要な権限が付与されていることを確認してください。付与されていない場合、これまでエージェントのサービスアカウントで成功していた呼び出しが失敗することがあります。 |
AI Gateway にグローバル認証が構成されていません | AI Gateway には、グローバル認証 (インスタンスレベル) とコンシューマー認証 (API レベル) の 2 つの認証レイヤーがあります。少なくともいずれか 1 つを有効にする必要があります。有効にしない場合、エンドポイントアドレスを知っているユーザーは、認証情報なしで Model API、Agent API、または MCP Server にアクセスできます。このチェック項目は、ゲートウェイインスタンスにグローバル認証が構成されているかどうかのみを確認します。すでに API レベルのコンシューマー認証を有効にしている場合は、この項目を無視できます。 | 次の 2 つの認証方法のいずれかを有効にします。(1) グローバル認証： [AI Gateway コンソール] > [Instance] > [Security Management] > [Global Authentication] (JWT/OIDC/Custom)。(2) 各 API のコンシューマー認証： [AI Gateway コンソール] > [Model API] / [Agent API] / [MCP Server] > [Consumer Authentication]。 詳細な手順については、「コンシューマー認証の設定」をご参照ください [課金] 認証は AI Gateway のインスタンス料金に含まれており、追加料金は発生しません。 [影響] 認証を有効にすると、有効な認証情報を持たないリクエストは拒否されます。サービスの中断を避けるため、認証を有効にする前に、すべての呼び出し元へコンシューマー認証情報または JWT/OIDC トークンを配布してください。 |
AgentRuntime にアクセス認証情報が構成されていません (匿名アクセスが有効です) | AgentRuntime は、AgentRun でエージェントをデプロイするランタイムインスタンスです。AgentRuntime は、外部ユーザーまたはシステムがエージェントにアクセスする方法を制御するインバウンド認証情報をサポートします。 | AgentRuntime にインバウンドアクセス認証情報 ( パス: Function Compute コンソール > AgentRun > Agent Runtime > 設定 > 認証情報 / アクセス制御。 Agent Identity ワークロード ID または API キー認証情報を関連付けます。 詳細については、「認証情報管理」をご参照ください [課金] Agent Identity は無料です。 [影響] インバウンド認証情報を有効にすると、有効な認証情報を持たない呼び出し元はアクセス拒否されます。サービスの中断を避けるため、この変更を行う前に、すべての呼び出し元に認証情報の更新を通知してください。 |
ModelService が認証情報管理ではなく、平文の API キーを使用しています | AgentRun のモデルプロキシレイヤー ( | AgentRun コンソールで認証情報を作成してモデル API キーを管理し、ModelService の API キーフィールドを更新して、その認証情報を参照するようにします。 パス: Function Compute コンソール > AgentRun > 認証情報管理 > 認証情報の作成 と進み、モデル API キーを入力します。次に、ModelService を編集し、apiKey フィールドがプレーンテキストを使用するのではなく、認証情報を参照するように変更します。詳細な手順については、「認証情報管理」をご参照ください [課金] AgentRun の認証情報管理は無料です。KMS の料金については、「課金ルール」をご参照ください。 [影響] 認証情報参照への切り替えは、ワークロードに影響しません。認証情報参照で呼び出しが正常に動作することを確認した後、モデルプラットフォーム側で元の平文 API キーをローテーションし、漏洩リスクを排除してください。 |
エージェントの権限管理
チェック項目 | 説明 | クイックフィックス |
Agent Identity のポリシーセットに、ツール呼び出しを制限する Cedar ポリシーが構成されていません | Agent Identity は Cedar ポリシー言語を使用して、エージェントの MCP ツール呼び出しに対するきめ細かい権限付与を提供し、どの条件で、誰が、どのリソースに対して、どの操作を実行できるかを定義します。ポリシーセットはポリシーの論理的な集合であり、AI Gateway にバインドすると、すべてのリクエストをインターセプトして評価します。Cedar ポリシーが構成されていない場合、またはポリシーがすべて許可に設定されている場合、エージェントのツール呼び出しに権限制限が適用されません。 | Agent Identity コンソールで、ポリシーセットに Cedar ポリシーを作成し、該当する AI Gateway にポリシーセットをバインドします。 パス: エージェントアイデンティティコンソール > ポリシーセット > ポリシーセットの作成 > Cedar ポリシーの作成 > AI ゲートウェイインスタンスへのバインド。詳細な手順については、「エージェントアイデンティティの権限ポリシー」、「ポリシーセット管理」、および「エージェントのきめ細かい権限制御」をご参照ください。 [課金] Agent Identity は現在無料です。 [影響] ポリシーを有効にすると、エージェントのツール呼び出しはポリシーセットに対して評価され、未承認の呼び出しは拒否されます。オンラインのエージェントワークロードを中断しないように、まずは監視モードで開始し、ポリシーセットがビジネス要件を満たすことを確認してから、強制モードに切り替えてください。 |
PAI ワークスペースの管理者ロールのメンバー数が過剰です (最小権限に違反しています) | PAI のワークスペースでは、Resource Administrator、Workspace Administrator、Algorithm Developer、O&M Engineer などのロールを通じてメンバーを認可します。 | 不要な Workspace Administrator ロールの割り当てを削除し、日常的なユーザーを Algorithm Developer や O&M Engineer などの業務ロールに再割り当てします。 パス: PAI コンソール > ワークスペース > メンバーとロールの設定 > メンバーロールの編集 に移動し、過剰な WorkspaceAdmin の割り当てを削除します。 詳細な手順については、「ワークスペースの作成と管理」をご参照ください。 [課金] 追加料金は発生しません。 [影響] 管理者ロールを失ったメンバーは、ワークスペースメンバーの追加または削除、ワークスペース設定の変更ができなくなりますが、通常のアルゴリズム開発作業には影響しません。変更を行う前に、影響を受けるメンバーに周知してください。 |
セキュリティイベントの検出
チェック項目 | 説明 | クイックフィックス |
PAI EAS 推論サービスで SLS アクセスログのログ配信が有効になっていません | PAI EAS サービスは、推論アクセスログを Simple Log Service (SLS) に配信できます。ログは、 | PAI コンソールで、パブリックリソースグループまたは専用リソースグループのログ収集を有効にします。 パス: PAI コンソール > EAS > リソースグループ管理 > 編集 > ログ収集の有効化。SLS が自動的にプロジェクトと Logstore を作成します。詳細な手順については、「リソースグループのログ収集を設定する」をご参照ください。 [課金] SLS 課金ルール [影響] ワークロードへの影響はありません。ログ配信により SLS のコストが増加します。ストレージコストを抑えるため、TTL ベースの自動ログクリーンアップを有効にしてください。 |
AI Gateway で AI リクエストのログ記録ポリシーが有効になっていません | AI Gateway のログ配信には、インスタンスレベルのログ配信 (基本) と、API レベルの AI リクエストログ記録ポリシー ( | (1) SLS へのインスタンスレベルのログ配信を有効にします。(2) 各 API で パス: (1) AI Gateway コンソール > インスタンス > 可観測性 > ログセンター > ログ配信の有効化。(2) モデル API / エージェント API / MCP サーバー > ポリシーとプラグイン > AI リクエストロギング > 有効化。詳細な手順については、「ゲートウェイログ配信の有効化」をご参照ください [課金] SLS 課金ルール [影響] ワークロードへの影響はありません。ログにはプロンプトおよびレスポンスの内容が含まれ、機密情報が含まれる可能性があります。アクセス制御を構成し、適切な TTL を設定してください。 |
ネットワークセキュリティ
チェック項目 | 説明 | クイックフィックス |
AI Gateway にネットワーク保護 (IP 許可リスト / 拒否リストまたは Web アプリケーションファイアウォール (WAF)) が構成されていません | AI Gateway は、ゲートウェイレイヤーで統合された IP 許可リスト / 拒否リストと WAF 保護をサポートします。IP ACL と WAF がない場合、悪意のある IP や、インジェクション、スクレイピング、HTTP フラッド (CC) 攻撃などの OWASP Top 10 攻撃が、バックエンドのモデルサービスおよびエージェントサービスに直接到達します。 | (1) AI Gateway コンソール > インスタンス > セキュリティ管理 > 許可リスト/拒否リストで、信頼できる IP 範囲を設定します。(2) 同じインスタンスで、WAF 連携を有効にするか、ドメインを WAF 3.0 に追加します。詳細については、「ゲートウェイ IP の許可リストと拒否リストを設定する」および「WAF 保護を有効にする」をご参照ください。 [課金] IP 許可リスト/拒否リスト機能は AI Gateway の料金に含まれます。WAF 3.0 課金ルール。 [影響] IP 許可リストの構成を誤ると、正当な呼び出し元がブロックされる可能性があります。まずは監視モードで開始するか、拒否リストのみのアプローチを使用し、構成を確認してから厳格な許可リストモードに切り替えてください。 |
AgentRuntime でパブリックネットワークアクセスが有効です (VPC のプライベートネットワーク分離が構成されていません) | AgentRuntime は、ネットワーク分離のために VPC ネットワークと vSwitch を使用します。 | AgentRun コンソールでパブリックネットワークアクセスを無効にし、VPC の内部ネットワーク経由でのみ AgentRuntime にアクセスします。 パス： [Function Compute コンソール] > [AgentRun] > AgentRuntime を選択 > [Network Configuration] > [Public Access] トグルを無効にし、VPC と vSwitch を構成します。 [課金] VPC 内部アクセスに追加料金は発生しません。パブリックインターネットからのアクセスを制御する必要がある場合は、代わりに AI Gateway + WAF のアプローチを使用してください。この場合、ゲートウェイおよび WAF インスタンスの料金が発生します。 [影響] パブリックアクセスを無効にすると、パブリックインターネット経由のすべての呼び出し元はアクセスできなくなります。すべての呼び出し元が同一 VPC にデプロイされているか、内部ネットワークまたは PrivateLink 経由で AgentRuntime に到達できることを確認してください。 |
エージェントアプリケーションの保護
チェック項目 | 説明 | クイックフィックス |
AI Gateway でコンテンツセーフティチェックポリシー ( | AI Gateway の | AI Gateway コンソールで、 パス： [AI Gateway コンソール] > [Instance] > [Model API] / [Agent API] / [MCP Server] > [Policies & Plugins] > [AI Safety Protection] > [Enable AI Safety Protection] > [AI Safety Guardrails / Content Safety] を選択します。 [料金] コンテンツ審査料金およびAI セーフティガードレール料金 [影響] このポリシーを有効にすると、高リスクのキーワードや非準拠コンテンツを含むリクエストまたはレスポンスはブロックされます。正当なリクエストを誤ってブロックしないように、辞書とポリシーしきい値を評価してください。 |
AgentRun のモデルプロキシレイヤーに統合されたコンテンツセーフティポリシーが構成されていません | AgentRun のモデルプロキシレイヤー ( | AgentRun コンソールで、モデルプロキシレイヤーの パス： [Function Compute コンソール] > [AgentRun] > [Model Proxy] > [Edit] > [Advanced Policies] > [Enable AI Safety Guardrails]。 [課金] この機能は、Alibaba Cloud 安全ガードレールを基盤として構築されており、AI アプリケーションに包括的なセキュリティ保護を提供します。詳細については、「有効化と課金の概要」をご参照ください。 [影響] この機能を有効にすると、非準拠コンテンツを含むリクエストまたはレスポンスはブロックされます。正当なエージェントワークロードを誤ってブロックしないように、本番環境で有効にする前に、ステージング環境で辞書としきい値をテストしてください。 |
データ転送保護
チェック項目 | 説明 | クイックフィックス |
AgentRun のカスタムドメインで HTTPS が有効になっていません | AgentRuntime はデフォルトで HTTPS エンドポイントを提供しますが、ユーザーがバインドしたカスタムドメイン ( | AgentRun コンソールでカスタムドメインの SSL 証明書をアップロードし、プロトコルを HTTPS に設定します。 パス： [Function Compute コンソール] > [AgentRun] > [Custom Domain] > [Edit] > プロトコルを HTTPS に設定 > 証明書をアップロードするか、Certificate Management Service の証明書を参照します。 [課金] HTTPS は無料です。証明書は Certificate Management Service で購入するか、無料証明書を取得する必要があります。 [影響] HTTPS に切り替えると、呼び出し元はアクセスプロトコルを |
信頼性
インフラストラクチャのディザスタリカバリー
チェック項目 | 説明 | クイックフィックス |
PAI EAS サービスがパブリックリソースグループにデプロイされています | PAI EAS は、パブリックリソース、EAS リソースグループ、リソースクォータの 3 種類のリソースを提供します。パブリックリソースは従量課金であり、他のユーザーとコンピューティング能力を共有するため、リソースの競合が発生し、SLA が低くなる可能性があります。このリソースタイプは、本番環境のディザスタリカバリーアーキテクチャには適していません。本番サービスは、専用の EAS リソースグループにデプロイしてください。 | 専用の EAS リソースグループを購入し、サービスをそこに移行してください。 パス： (1) PAI コンソール > [EAS] > [リソースグループ管理] > [専用リソースグループの作成] (サブスクリプションまたは従量課金) 。(2) [サービスの編集] > [デプロイメントリソース] > [専用リソースグループの選択] > [再デプロイ] 。詳細な手順については、「EAS デプロイメントリソースの概要」をご参照ください。 [課金] EAS 課金ルール [影響] 移行にはサービスの再デプロイが含まれ、短時間の中断が発生します。新しいリソースグループに新しいバージョンのサービスを作成し、トラフィックスプリッティングを使用して徐々にトラフィックを移行してください。 |
PAI EAS サービスが共有ゲートウェイを使用しています (専用ゲートウェイが設定されていません) | PAI EAS は、デフォルトで共有推論ゲートウェイを使用します。この場合、複数のテナントが同じエントリポイントを共有するため、帯域幅の競合やトラフィック分離の問題が発生する可能性があります。本番サービスでは、専用の帯域幅と安定した SLA を確保するために、専用ゲートウェイ (ServiceConfig.networking.gateway が空でない) を使用してください。 | PAI コンソールで、専用ゲートウェイを EAS サービスにバインドしてください。 パス： PAI コンソール > [EAS] > [推論ゲートウェイ] > [専用ゲートウェイの作成] 。[サービスの編集] > [デプロイ設定] > [ネットワーク] > [専用ゲートウェイの選択] 。 [課金] 専用ゲートウェイは、仕様と期間に基づいて課金され、追加のゲートウェイインスタンス料金が発生します。 [影響] 専用ゲートウェイをバインドすると、サービスアクセスエンドポイントが変更されます。すべての呼び出し元が使用するエンドポイントアドレスを適宜更新してください。 |
AgentRuntime が複数のゾーンにまたがってデプロイされていません | AgentRuntime の networkConfiguration.vswitchIds にあるすべての vSwitch が同じゾーンに属している場合、単一ゾーンの障害で Agent サービス全体がダウンします。クロスゾーンディザスタリカバリーを有効にするには、少なくとも 2 つの異なるゾーンの vSwitch を関連付けてください。 | Function Compute コンソールで、AgentRuntime のネットワーク設定を編集し、異なるゾーンから少なくとも 2 つの vSwitch を関連付けてください。 パス： Function Compute コンソール > [AgentRun] > [AgentRuntime] > [ネットワーク設定] > [vSwitch] > 異なるゾーンの vSwitch を追加。 [課金] 異なるゾーンの vSwitch を使用しても、追加のネットワーク料金は発生しません。ただし、ゾーン間のトラフィックは VPC のゾーン間トラフィックとして課金されます。 [影響] 設定変更によりインスタンスの再スケジュールがトリガーされる可能性があります。この操作はオフピーク時に行い、まずステージング環境でテストしてください。 |
モデル推論のディザスタリカバリー
チェック項目 | 説明 | クイックフィックス |
PAI EAS 推論サービスに設定されているレプリカが 1 つだけです | EAS サービスの TotalInstance フィールドは、レプリカの総数を指定します。レプリカが 1 つの場合、単一障害点となり、サービスの中断を引き起こす可能性があり、ディザスタリカバリーの原則に違反します。本番サービスでは、少なくとも 2 つのレプリカを設定し、複数のゾーンに分散させてください。 | PAI コンソールでサービスを編集し、インスタンス数 (TotalInstance / レプリカ) を 2 以上に設定してください。 パス： PAI コンソール > [EAS] > [サービス] > [更新] > [レプリカ] > [スケール] をクリックして、値を 2 以上に設定します。 [課金] レプリカ数を 2 倍にすると、EAS のコストも比例して増加します。 [影響] スケールアウトはローリングアップデートを使用するため、サービスの中断はありません。リソースグループに十分なクォータがあることを確認してください。 |
Agent アプリケーションのキャパシティプランニング
チェック項目 | 説明 | クイックフィックス |
PAI EAS サービスで自動スケーリングが有効になっていません | PAI EAS の ServiceConfig.autoscaler は、QPS や GPU 使用率などのメトリクスに基づいて自動スケーリングを設定します。自動スケーリングがないと、サービスはトラフィックの変動に自動的に対応できません。 | PAI コンソールで、EAS サービスのエラスティックスケーリングを有効にして、最小および最大のインスタンス数とスケーリングメトリクスのしきい値を設定してください。 パス： PAI コンソール > [EAS] > [サービス] > [更新] > [自動スケーリング] > [エラスティックスケーリング] > [有効化] > メトリクスとしきい値を設定。詳細な手順については、「エラスティックリソースプール設定」をご参照ください。 [課金] スケールアウト時に追加されたインスタンスは、標準の EAS レートで課金されます。 [影響] スケーリングイベントは、短時間の変動を引き起こす可能性があります。頻繁なスケーリングを防ぐために、適切なクールダウン期間を設定してください。 |
AgentRuntime に自動スケーリングポリシーが設定されていません | AgentRuntime は、scalingConfig.minInstances を使用して最小インスタンス数を設定します。レイテンシーに敏感なワークロードの場合、ゼロへのスケールダウンを避けてください (minInstances を 1 以上に設定します) 。これにより、以下の利点が得られます： | Function Compute コンソールで、AgentRuntime の自動スケーリングポリシー (最小/最大インスタンス数とスケーリングメトリクス) を設定してください。 パス： Function Compute コンソール > [AgentRun] > [AgentRuntime] > [弾力性とインスタンス] > [スケーリング設定] > [スケーリングポリシーの作成] > minInstances を 1 以上に設定します。詳細な手順については、「インスタンスのスケーリング制限とルール」をご参照ください。 [課金] スケールアウト時に追加されたインスタンスは、標準の AgentRun レートで課金されます。「課金の概要」をご参照ください。 [影響] minInstances を高く設定しすぎると、待機コストが増加します。低く設定しすぎると、コールドスタートレイテンシーがより顕著になります。トラフィックパターンに基づいて評価してください。 |
Agent のリリースマネジメント
チェック項目 | 説明 | クイックフィックス |
PAI EAS サービスがカナリアリリースを使用していません | PAI EAS はサービスグループ (DescribeGroup) を使用して、サービスバージョン間で重み付けに基づいてトラフィックを分散し、カナリアリリースを可能にします。サービスグループなしでサービスを直接更新すると、更新はすべてのトラフィックに即座に適用され、障害発生時の影響範囲が拡大します。 | サービスの複数のバージョンをサービスグループに追加して、トラフィックの重みを設定してください。 パス： PAI コンソール > [EAS] > [サービスグループ] > [グループの作成] > 古いバージョンと新しいバージョンのサービスをグループに追加 > 重みを設定 (例：5%/95%) > カナリアリリースを検証し、徐々にトラフィックを移行してください。詳細な手順については、「サービスグループの管理」をご参照ください。 [課金] カナリアリリース機能は無料です。専用リソースグループを購入すると追加費用が発生します。 [影響] カナリアリリース中は、複数のバージョンが同時に実行されます。バージョン間に互換性があることを確認してください。 |
インテリジェントなモニタリングとアラート
チェック項目 | 説明 | クイックフィックス |
PAI EAS サービスに CloudMonitor のアラートルールが設定されていません | CloudMonitor (CMS) は DescribeMetricRuleList を使用して PAI EAS サービスのアラートルールをクエリします。アラートルールがないと、サービスの利用不可、5xx エラー率の上昇、レイテンシースパイクなどのサービス異常が運用チームに自動的に通知されません。 | CloudMonitor コンソールで、PAI EAS のアラートルール (例：5xx 率、平均レイテンシー、異常インスタンス数) を作成してください。 パス： CloudMonitor コンソール > [アラートサービス] > [アラートルール] > [アラートルールの作成] > [PAI-EAS] ネームスペースを選択 > メトリクスとしきい値を設定 > 通知グループを関連付けます。詳細な手順については、「アラートルールの作成」をご参照ください。 [課金] 基本的なアラートは無料です。SMS および電話通知には料金が発生します。「課金の概要」をご参照ください。 [影響] ワークロードへの影響はありません。アラートストームを防ぐために、適切なサイレンス期間と通知頻度を設定してください。 |
PAI EAS サービスで Application Real-Time Monitoring Service (ARMS) のトレースが有効になっていません | PAI EAS サービスの ServiceConfig.monitoring.enable_tracing を true に設定すると、ARMS のトレースが有効になります。トレースがないと、推論リクエストの内部実行 (前処理、モデル呼び出し、外部依存関係) を観測できません。 | PAI コンソールで、EAS サービスのトレースを有効にしてください。 パス： PAI コンソール > [EAS] > [サービス] > [更新] > [モニタリング] > [トレースを有効にする] > [ARMS アプリケーションを選択または作成] 。詳細な手順については、「EAS トレースソリューション」をご参照ください。 [課金] ARMS 課金ルール [影響] ARMS エージェントを有効にすると、わずかなパフォーマンスオーバーヘッド (通常 5% 未満) が発生します。 |
AI ゲートウェイに CloudMonitor のアラートルールが設定されていません | CloudMonitor は、acs_cnapigateway ネームスペース配下の DescribeMetricRuleList を使用して AI ゲートウェイのアラートルールをクエリします。アラートルールがないと、5xx エラー率、レイテンシー、接続数などの主要なメトリクスの異常が自動的に通知されません。 | CloudMonitor コンソールで、AI ゲートウェイのアラートルールを作成してください。 パス： CloudMonitor コンソール > [アラートサービス] > [アラートルール] > [アラートルールの作成] > メトリクス (5xx 率、トークンレート、レイテンシーなど) としきい値を設定 > アラート連絡先グループを関連付けます。 [課金] 基本的なアラートは無料です。SMS および電話通知の課金については、「課金の概要」をご参照ください。 [影響] ワークロードへの影響はありません。適切な閾値とサイレンス期間を設定してください。 |
AgentRuntime で ARMS のフルスタックモニタリングが有効になっていません | AgentRuntime の armsConfiguration.enableArms を有効にすると、リクエストが ARMS アプリケーションモニタリングに接続され、コールチェーントレース、SQL 分析、メモリ/スレッドプロファイリングが提供されます。これがないと、完全なリクエストチェーンが観測できず、障害の診断が困難になります。 | Function Compute コンソールで、AgentRuntime の ARMS モニタリングを有効にしてください。 パス： Function Compute コンソール > [AgentRun] > [AgentRuntime] > [オブザーバビリティ] > [アプリケーションモニタリング] > [ワンクリックで有効化] 。詳細については、「Agent のオブザーバビリティ」をご参照ください。 [課金] アプリケーションモニタリングを有効にすると、料金が発生する場合があります。詳細については、「アプリケーションモニタリングの課金」をご参照ください。 [影響] ARMS エージェントを有効にすると、わずかなパフォーマンスオーバーヘッド (通常 5% 未満) が発生します。 |
AgentRuntime にヘルスチェックが設定されていません | AgentRuntime の healthCheckConfiguration.httpGetUrl フィールドは、HTTP GET ヘルスチェックを設定します。ヘルスチェックがないと、異常なサービスインスタンスを自動的に検出して置き換えることができません。ヘルスチェックは、artifactType が Code の場合にのみ設定できます。コンテナモードではこの機能がサポートされていない場合があります。 | Function Compute コンソールで、AgentRuntime のヘルスチェック URL (例：/health) を設定してください。 パス： Function Compute コンソール > [AgentRun] > [AgentRuntime] > [高度な設定] > [ヘルスチェック] > [httpGetUrl とチェック間隔を設定] 。 [課金] 追加費用はかかりません。 [影響] ヘルスチェックの実装が正しくないと (2xx 以外のレスポンスを返すなど) 、インスタンスが繰り返し再起動します。まずステージング環境でヘルスチェックエンドポイントをテストしてください。 |
AgentRuntime にログモニタリングが設定されていません | AgentRuntime の logConfiguration.logstore フィールドは、アプリケーションログの SLS へのログ配信を設定します。この設定がないと、Agent のランタイムログを収集できず、障害のトラブルシューティングや監査が困難になります。 | Function Compute コンソールで、AgentRuntime のログ配信を設定してください。 パス： Function Compute コンソール > [AgentRun] > [AgentRuntime] > [オブザーバビリティ] > [ログ] > [ワンクリックで有効化] または手動で設定。 [課金] SLS 課金ルール [影響] ワークロードへの影響はありません。コストを管理するために、適切な TTL を設定し、圧縮ストレージを使用してください。 |
Agent アプリケーションのフォールトトレランス
チェック項目 | 説明 | クイックフィックス |
AI ゲートウェイの Agent API / Model API にインバウンド保護プラグインが設定されていません | AI ゲートウェイの Agent API および Model API のインバウンド方向 (direction=InBound) には、レート制限、タイムアウト、サーキットブレイク、およびセキュリティ保護プラグインを設定する必要があります。これらのプラグインがないと、悪意のあるトラフィックや異常なリクエストがバックエンドの Agent およびモデルサービスに直接到達してしまいます。 | AI ゲートウェイコンソールで、Agent API と Model API のインバウンドレート制限、サーキットブレイク、コンテンツセーフティなどのプラグインを有効にしてください。 パス： AI ゲートウェイコンソール > [Agent API] / [Model API] > [ポリシーとプラグイン] > [インバウンド処理] > ポリシー/プラグイン (レート制限、サーキットブレイク、セキュリティ、ロギングなど) を有効にします。 [課金] ポリシーは AI ゲートウェイのインスタンス料金に含まれています。一部の高度なセキュリティ保護は、コンテンツモデレーションや WAF などの追加製品に依存する場合があり、これらは別途課金されます。 [影響] ポリシーが有効になると、ルールに一致しないリクエストは拒否されます。しきい値を設定する前に、トラフィックパターンを評価してください。 |
モデル推論のフォールトトレランス
チェック項目 | 説明 | クイックフィックス |
AgentRun モデルプロキシレイヤーにタイムアウトが設定されていません | AgentRun モデルプロキシレイヤー (ModelProxy) は、proxyConfig.policies.requestTimeout を使用してリクエストのタイムアウトを設定します。タイムアウトがないと、応答しないモデルがリクエストチェーン全体をブロックし、ロングテールリクエストが AgentRuntime のリソースを枯渇させる可能性があります。 | Function Compute コンソールで、モデルプロキシレイヤーのリクエストタイムアウトを設定してください (30〜60 秒を推奨) 。 パス： Function Compute コンソール > [AgentRun] > [モデルプロキシ] > [編集] > [高度なポリシー] > [リクエストタイムアウト] 。 [課金] 追加費用はかかりません。 [影響] タイムアウトが短すぎると、長いモデルレスポンスが途中で切り捨てられる可能性があります。ワークロードの最大許容応答時間に基づいて値を設定してください。 |
AgentRun モデルプロキシレイヤーにフォールバックポリシーが設定されていません | AgentRun モデルプロキシレイヤーは、複数レベルのフォールバック (fallbacks 配列) をサポートしています。プライマリモデルがスロットリングされたり、タイムアウトしたり、障害が発生した場合、トラフィックは自動的にバックアップモデルに切り替わり、AgentRuntime が完全に利用できなくなるのを防ぎます。 | Function Compute コンソールで、モデルプロキシレイヤーのフォールバックリストを設定し、バックアップモデルを優先度順に指定してください。 パス： Function Compute コンソール > [AgentRun] > [モデルプロキシ] > [編集] > [高度なポリシー] > [フォールバックモデルの追加] 。 [課金] フォールバックがトリガーされると、バックアップモデルは自身のトークン価格に基づいて課金されます。 [影響] フォールバックがトリガーされると、出力スタイルがプライマリモデルと大幅に異なる場合があります。重要なワークフローには互換性のあるバックアップモデルを設定してください。 |
AI ゲートウェイの Model API にマルチモデルの負荷分散が設定されていません | AI ゲートウェイの Model API serviceConfigs は、重み付けに基づく負荷分散で複数のバックエンドモデルをサポートします。モデルサービスが 1 つしか設定されていない場合、すべてのトラフィックが単一のバックエンドにルーティングされ、過負荷やカスケード障害のリスクが生じます。 | AI ゲートウェイコンソールで、Model API に複数のバックエンドモデルサービスを設定して、トラフィックの重みを設定して負荷分散を有効にしてください。 パス： AI ゲートウェイコンソール > [Model API] > [バックエンドサービス] > 複数のモデルサービスを追加し、重みを設定します。詳細な手順については、「Model API の設定」をご参照ください。 [課金] 負荷分散機能は、追加費用なしで AI ゲートウェイのインスタンス料金に含まれています。バックエンドモデルは、自身のトークンまたは呼び出し価格に基づいて課金されます。 [影響] 不適切な重み付けは、トラフィックの偏りを引き起こす可能性があります。まずカナリア検証のために均等な重みで開始して、実際のトラフィック比率に合わせて調整してください。 |
AI ゲートウェイで AI フォールバックのマルチモデルフェイルオーバーが有効になっていません | AI フォールバックは、AI ゲートウェイのマルチモデルフェイルオーバー機能です。プライマリモデルサービスが利用できない場合、トラフィックは自動的にバックアップモデルに切り替わり、AI アプリケーション全体の可用性を向上させます。policyConfigs で aiFallbackConfig が有効になっていない場合、プライマリモデルの障害はエラーとして直接呼び出し元に返されます。 | AI ゲートウェイコンソールで、Model API の AI フォールバックポリシーを有効にして、プライマリモデルとバックアップモデルを優先順に設定してください。 パス： AI ゲートウェイコンソール > [Model API] > [ポリシーとプラグイン] > [AI フォールバック] > [有効化] > [バックアップモデルサービスの追加] 。詳細については、「AI フォールバック」をご参照ください。 [課金] ポリシー自体に追加費用はかかりません。フォールバックがトリガーされると、バックアップモデルは自身のトークン価格に基づいて課金されます。 [影響] フォールバックがトリガーされると、出力スタイルがプライマリモデルと異なる場合があります。重要なワークフローには互換性のあるバックアップモデルを設定し、十分にテストしてください。 |
AI ゲートウェイの Model API にレスポンスキャッシュポリシーが設定されていません | AI ゲートウェイの AI キャッシュは、完全一致キャッシュには Redis を、セマンティックキャッシュには DashVector を使用して、繰り返されるプロンプトに一致させます。キャッシュされたレスポンスはゲートウェイから直接返されるため、バックエンドモデルの呼び出しが大幅に削減され、応答速度が向上し、モデルが利用できない場合のフォールバックとして機能します。 | AI ゲートウェイコンソールで、Model API の AI キャッシュポリシーを有効にしてください。Redis の完全一致キャッシュと DashVector のセマンティックキャッシュのいずれかを選択します。 パス： AI ゲートウェイコンソール > [Model API] > [ポリシーとプラグイン] > [AI キャッシュ] > [有効化] > キャッシュタイプを選択し、Redis または DashVector インスタンスを設定します。詳細な手順については、「AI キャッシュ」をご参照ください。 [課金] ポリシー自体に追加費用はかかりません。Redis および DashVector インスタンスは、選択した仕様に基づいて課金されます。キャッシュヒットにより、バックエンドモデルのトークン消費が大幅に削減されます。 [影響] 類似性のしきい値が低すぎると、セマンティックキャッシュが不正確なレスポンスを返す可能性があります。高いしきい値から始めて、結果に基づいて調整してください。 |
AI ゲートウェイに多次元のレート制限とサーキットブレイクが設定されていません | AI ゲートウェイの AI トークンのレート制限ポリシーは、トークン消費量、リクエスト数、同時実行数に基づく多次元のトラフィック制御をサポートしています。トラフィック制御プラグインがないと、トラフィックスパイクがバックエンドのモデルサービスを圧倒し、カスケード障害を引き起こす可能性があります。 | AI ゲートウェイコンソールで、Model API の AI トークンのレート制限とサーキットブレイクポリシーを有効にしてください。TPM、TPS、同時実行数など、複数の次元にわたるしきい値を設定します。 パス： AI ゲートウェイコンソール > [Model API] > [ポリシーとプラグイン] > [AI トークンレート制限] / [サーキットブレイク] > [有効化] > TPM、TPS、同時実行数などの次元にしきい値を設定します。詳細な手順については、「AI トークンレート制限」をご参照ください。 [課金] ポリシーは、追加費用なしで AI ゲートウェイのインスタンス料金に含まれています。 [影響] しきい値を超えたリクエストは拒否されます。ピークトラフィックに基づいてしきい値を設定して、呼び出し元に再試行ロジックを実装するよう通知してください。 |
推論のキャパシティプランニング
チェック項目 | 説明 | クイックフィックス |
AgentRun モデルプロキシレイヤーに同時実行制御またはトークンレート制限が設定されていません | AgentRun モデルプロキシレイヤーは、proxyConfig.policies の concurrencyLimit と tokenRateLimiter (TPM/TPS/TPH/TPD) を使用して、同時実行とトークンレートを制御します。どちらも設定されていない場合、トラフィックスパイクは下流のモデルに直接渡され、モデル側のスロットリングを引き起こしたり、制御不能なコストが発生したりします。 | Function Compute コンソールで、モデルプロキシレイヤーの同時実行制御またはトークンレート制限を設定してください。 パス： Function Compute コンソール > [AgentRun] > [モデルプロキシ] > [編集] > [高度なポリシー] > [同時実行制御] / [トークンレート制限] 。 [課金] 追加費用はかかりません。 [影響] しきい値を超えたリクエストは拒否されます。ピークトラフィックに基づいてしきい値を設定して、呼び出し元に再試行ロジックを実装するよう通知してください。 |
コスト
エージェントアプリケーションのコスト最適化
チェック項目 | 説明 | 対処方法 |
PAI EAS サービスの GPU 使用率が継続的に 10% を下回っている (リソースの無駄) | CloudMonitor の DescribeMetricData API を使用して、PAI EAS サービスの GPU 使用率を照会します。GPU 使用率が長期間にわたって 10% を下回る場合、サービスに設定されたレプリカが多すぎるか、インスタンスの仕様が大きすぎるため、GPU リソースの無駄につながります。 | レプリカの数を減らすか、インスタンスの仕様をより小さいものに変更するか、Auto Scaling を有効にしてオンデマンドでスケーリングします。 パス： PAI コンソール > [EAS] > [サービス] > [更新] に移動し、レプリカを削減するか、より小さい仕様に切り替えます。また、 [課金] レプリカの削減、仕様のスケールダウン、およびスケールインにより、EAS のコストが削減されます。 [影響] スケールインは、ピーク時のトラフィック処理能力を低下させる可能性があります。ピーク時のトラフィックパターンに基づいて評価し、Auto Scaling をセーフティネットとして使用してください。 |
推論のコスト最適化
チェック項目 | 説明 | 対処方法 |
AI Gateway でツール選択プラグインが有効化されていません | AI Gateway のツール選択プラグイン (AiToolSelection) は、登録されているすべてのツール記述をバンドルするのではなく、プロンプトに基づいて関連するツール記述をフィルタリングしてからモデルに渡します。これにより、推論呼び出しごとのトークン消費量が削減されます。 | AI Gateway コンソールで、Model API のツール選択ポリシーを有効化します。 パス： AI Gateway コンソール > [Model API] > [ポリシーとプラグイン] > [ツール選択] > [有効化] > 選択ルールを設定します。 [課金] ツール選択ポリシーは AI Gateway のインスタンス料金に含まれており、追加費用はかかりません。 [影響] 選択ルールが不適切に設定されていると、モデルが正しいツールを選択できなくなる可能性があります。本番環境に展開する前に、一般的なシナリオを十分にテストしてください。 |
パフォーマンス
エージェントアーキテクチャの最適化
チェック項目 | 説明 | 手動修復 |
PAI EAS サービスの GPU 使用率が過度に高い | CloudMonitor の DescribeMetricData API を通じて PAI EAS サービスの GPU 使用率をクエリします。使用率がしきい値 (例：90%) を超えて持続する場合、インスタンスが不足していることを示しており、レスポンスレイテンシーの増加、リクエストキューイング、またはサービスの利用不可を引き起こす可能性があります。 | レプリカをスケールアウトするか、インスタンス仕様をアップグレードするか、オートスケーリングを有効にしてピークトラフィックに対応してください。 パス： PAI コンソール > [EAS] > [サービス] > [更新] で、レプリカを増やすか、より大きな仕様に切り替えてください。オートスケーラーを有効にし、適切な maxInstances 値を設定してください。詳細については、詳細な手順をご参照ください。 [課金] レプリカのスケールアウトや仕様のアップグレードにより、EAS のコストが増加します。 [影響] スケールアウト は ローリングアップデート を使用するため、サービス中断 はありません。リソースグループ に十分な クォータ があることを確認してください。 |