監控 EAS 服務叢集效能指標 - 人工智慧平台 PAI - 阿里雲 - Platform For AI

主要用途

整體服務概覽：快速瞭解當前帳號在該地區的所有EAS服務的整體健全狀態
效能監控：即時監控匯總的關鍵效能指標（QPS、回應時間、副本數等）
資源管理：瞭解資源佔用情況，為擴縮容決策提供資料支撐
故障排查：通過監控資料識別效能異常或服務問題
容量規劃：基於歷史監控資料進行容量預估和規劃

查看大盤監控

重要

大盤監控的資料是地區層級的，會彙總主帳號在當前所選地區下所有工作空間的服務資料。切換工作空間僅影響控制台當前上下文，不會改變大盤監控的資料範圍。

登入PAI控制台，在頁面上方選擇目標地區，並在右側選擇目標工作空間，然後單擊進入EAS。
切換到大盘监控頁簽，查看監控指標。大盤監控頁面主要提供以下功能：
- 時間範圍選擇：支援最近5分鐘、15分鐘等多種時間範圍選擇，預設最近6小時。
- 手動重新整理：點擊重新整理按鈕擷取最新資料（可設定自動重新整理頻率）。
- 維度過濾：按User維度篩選資料（All或特定使用者）。
- 圖表互動：滑鼠移至上方查看資料、點擊圖例切換顯示。

監控指標說明

Service監控儀錶盤

下表展示了Service儀錶盤的所有監控指標及其詳細說明：

計算方式說明：加總表示主帳號下該地區所有EAS服務執行個體該指標的總和。均值表示主帳號下該地區所有EAS服務執行個體該指標的平均。

指標分類	指標名稱	指標含義	計算方式	用途
請求效能	QPS	每秒請求數。	加總	評估服務叢集的整體吞吐能力。結合錯誤率指標，判斷業務高峰與故障風暴。
請求效能	Avg RT	平均回應時間：從請求到收到響應的平均時間。	均值	評估服務叢集的整體響應速度。識別全域性的效能瓶頸。
執行個體規模	Replicas	副本數量。包含三個子指標： TotalReplicas（總數） PendingReplicas（待機） AvailableReplicas（可用）	加總	瞭解服務叢集的即時規模。監控自動擴縮容行為是否符合預期。
執行個體規模	Replicas By Resource	按資源類型分解的副本數。	加總	瞭解資源分布。
CPU	CPU Total	服務可用的CPU總數。	加總	評估CPU資源預留總量。
	CPU Utilization	CPU利用率。	均值	評估叢集整體CPU使用效率，為容量規劃和成本最佳化提供依據。
	CPU Usage	CPU使用量。	均值	主要用於估算CPU資源的消耗成本。
記憶體	Memory	記憶體使用量量。 RSS：常駐記憶體使用量量總和。 Cache：頁面緩衝使用量總和。	均值	監控系統記憶體佔用情況，判斷是否資源緊張、定位效能瓶頸。
記憶體	Memory Utilization	記憶體利用率。	均值	評估整體記憶體資源使用效率。
GPU	GPU Total	佔用的GPU總數。	加總	評估GPU資源規模。
	GPU Utilization	GPU利用率。	均值	評估GPU資源使用效率。
	GPU Memory	GPU記憶體實際使用量。	均值	評估GPU記憶體消耗。
流量與調用	Traffic	所有服務網路進（In）出（Out）流量的總和。	加總	反映服務網路通訊情況。
流量與調用	Daily Invoke	按HTTP狀態代碼統計的每日調用數。	加總	用於觀察長期的業務健康度和錯誤率趨勢。

說明

QPS和Avg RT是最重要的效能指標；Replicas指標反映叢集伸縮容情況；CPU、記憶體、GPU指標反映資源消耗；Traffic和Daily Invoke指標反映服務的整體流量和調用情況。

GPU監控儀錶盤

GPU儀錶盤專門針對使用GPU資源的服務提供詳細的監控和分析，協助使用者最佳化GPU資源使用率。

指標分類	指標名稱	指標含義	用途
總覽指標	Total GPU usage	當前帳號在該地區所有服務佔用的GPU總數	反映GPU資源總體規模，用於資源容量規劃
	Average GPU utilization	所有使用GPU服務的平均利用率百分比	衡量GPU資源整體使用效率，識別資源浪費風險
	Number of services using GPUs	當前正在使用GPU資源的服務總數	瞭解GPU服務分布，評估資源使用廣度
服務利用率分別	Number of services with average GPU utilization below 10%	平均GPU利用率低於10%的服務數量	識別資源浪費嚴重的服務，優先進行資源最佳化或釋放
	Number of services with average GPU utilization below 30%	平均GPU利用率低於30%的服務數量	識別資源利用不足的服務，考慮調整資源配置
	Number of services with average GPU utilization above 50%	平均GPU利用率高於50%的服務數量	識別GPU資源充分利用的服務，驗證最佳化效果
GPU利用率分布	Number of GPUs with average utilization below 10%	平均利用率低於10%的GPU卡數量	識別閑置GPU資源，釋放成本
	Number of GPUs with average utilization below 30%	平均利用率低於30%的GPU卡數量	識別利用率偏低的GPU，調整資源配置
	Number of GPUs with average utilization above 50%	平均利用率高於50%的GPU卡數量	識別GPU資源充分利用的服務，評估是否需要擴容
資源分布	Number of GPUs in dedicated resource groups(including Lingjun)	專屬資源群組（包含靈駿）中的GPU數量	監控專屬資源變化，進行容量規劃
	Number of GPUs in public resource groups	公用資源群組中的GPU數量	監控公用資源使用方式，最佳化資源分派策略
	Number of GPUs in spot instances(including Lingjun)	搶佔式執行個體（包含靈駿）中的GPU數量	監控低成本GPU資源，平衡成本與穩定性
詳細利用率	Detailed GPU utilization per service	提供每個服務的GPU詳細利用率資訊無資料時顯示"No data"	深入分析單個服務的GPU使用方式，定位效能問題

說明

GPU儀錶盤特別適用於最佳化GPU資源成本。通過關注低利用率指標，可以及時發現和調整資源配置不合理的服務，避免GPU資源浪費。

注意事項

大盤監控資料基於該地區主帳號下所有服務彙總計算，資料更新可能存在延遲
如需查看更詳細的監控資訊，可結合單個服務的監控頁面深入分析

常見問題

Q: 為什麼大盤的CPU利用率很低，但我的服務卻無法擴容或提示資源不足？

大盤監控展示的是所有服務彙總後的平均利用率，可能存在部分服務空閑拉低了平均值，但叢集的實體資源已經耗盡。請檢查 Pending_Replicas 指標，如果該值持續大於0，通常表明叢集資源集區已滿，無法調度新的執行個體，此時需要對叢集進行擴容或最佳化現有服務的資源配置。

Q: 如何查看特定服務的詳細監控資料？

進入推理服务標籤頁，選擇目標服務，進入服務詳情頁。
切換到监控頁簽查看該服務的詳細監控圖表。指標說明參見服務監控說明。