Impor metrik layanan inferensi PAI-EAS dan kelompok sumber daya ke Managed Service for Prometheus melalui Pusat Integrasi CloudMonitor 2.0. Kueri metrik menggunakan PromQL dan hubungkan ke sistem pemantauan eksternal seperti Grafana.
Penagihan
Mengaktifkan PAI-EAS Inference Service Metrics dan PAI-EAS Resource Group Metrics di Pusat Integrasi CloudMonitor 2.0 akan dikenakan biaya berikut:
Langkah 1: Aktifkan metrik pemantauan EAS
Login ke Konsol CloudMonitor 2.0, pilih ruang kerja target, lalu klik Integration Center di panel navigasi sebelah kiri.
Pada halaman Integration Center, cari "PAI-EAS" di kotak pencarian dan klik kartu hasilnya.
Pilih PAI-EAS Inference Service Metrics dan PAI-EAS Resource Group Metrics sebagai sumber data.
PentingMetrik pemantauan lanjutan mencakup metrik framework inferensi (vLLM atau SGLang), metrik komputasi GPU, metrik gerbang PAI-EAS, statistik tingkat layanan dan tingkat penyewa, serta metrik kustom aplikasi inferensi (dengan awalan
custom_). Untuk detailnya, lihat Metrik layanan dan kelompok sumber daya EAS. Wilayah yang didukung meliputi Beijing, Shanghai, Hangzhou, Ulanqab, Singapura, dan Heyuan. Untuk mengaktifkan wilayah tambahan, kirim tiket.Aktifkan metrik pemantauan lanjutan untuk membuat Dasbor Grafana atau mengonfigurasi peringatan kustom.
Integrasi berjalan secara otomatis di latar belakang dan memerlukan waktu sekitar 1–2 menit. Klik Integration Management untuk melihat status integrasi dan memastikan integrasi telah selesai.
Langkah 2: Dapatkan informasi sumber data Prometheus
CloudMonitor 2.0 membuat instans Prometheus untuk menyimpan metrik pemantauan EAS. Lokasi penyimpanan default adalah RegionShare:{{workspaceName}}:{{regionId}}, di mana {{workspaceName}} adalah nama ruang kerja dan {{regionId}} adalah ID wilayah.
Untuk mengambil data pemantauan melalui API Prometheus, dapatkan wilayah dan URL akses instans Prometheus ini.
Beralih ke tab Integration Management. Di daftar konfigurasi integrasi, klik ikon perluas di samping integrasi yang ingin Anda lihat.
Pada item yang diperluas, temukan PAI-EAS Inference Service Metrics atau PAI-EAS Resource Group Metrics untuk melihat komponen integrasi, status, dan wilayah.
Pada kolom Actions, klik Data Source untuk melihat wilayah dan URL akses layanan Prometheus.
Langkah 3: Kueri dan eksplorasi metrik
Eksplorasi metrik pemantauan EAS melalui Metrics Explorer atau kueri PromQL di layanan Prometheus.
Nama metrik CloudMonitor menggunakan awalan
AliyunLearn_eas. Metrik ini sesuai dengan definisi metrik EAS di CloudMonitor tetapi mencakup informasi tag yang lebih lengkap.Untuk metrik pemantauan lanjutan, lihat Metrik pemantauan EAS lanjutan.
Pada halaman Data Source dari Langkah 2, klik ID instans untuk membuka halaman detail Prometheus Service.
Pada tab Metrics Explorer, lihat detail metrik untuk layanan EAS.
Metode
Deskripsi
Filter metrik untuk melihat detail
Pada tab Metrics Explorer, klik Metric Explorer di pembuat kueri.
Masukkan kata kunci metrik seperti
AliyunLearndi kotak pencarian, lalu pilih metrik target dari daftar drop-down, seperti penggunaan core CPU, pemanfaatan CPU, atau pemanfaatan memori GPU.Pada kolom Actions, klik ikon eksplorasi untuk mengatur kondisi filter, lalu klik ikon tambah untuk menambahkan metrik ke kotak kueri.
Klik Run Query untuk melihat grafik tren metrik.
Kueri metrik dengan ekspresi PromQL.
Contohnya, untuk mengkueri total QPS di semua layanan:
Masukkan
sum(AliyunLearn_eas_qps_total). (Untuk sintaks PromQL, lihat Sintaks kueri dan analisis data metrik)Klik Run Query untuk melihat tren total QPS di semua layanan EAS pada wilayah saat ini.
Langkah 4: Gunakan dasbor Grafana
Lihat dasbor Grafana default
CloudMonitor 2.0 menyediakan dasbor Grafana default:
Di panel navigasi sebelah kiri halaman detail layanan Prometheus, klik Dashboard List.
Klik nama dasbor untuk melihat dasbor Grafana bawaan.
Anda juga dapat beralih ke tab Dashboard dari kebijakan integrasi di Provisioning.
Tambahkan panel
Tambahkan panel QPS global ke dasbor Grafana default. Untuk informasi lebih lanjut tentang Grafana, lihat Managed Service for Grafana.
Pada halaman detail dasbor, klik tombol Add panel di pojok kanan atas
, lalu klik Add a new panel pada dialog yang muncul.Di sisi kanan halaman Edit Panel, ubah jenis grafik menjadi Stat.
Di pojok kiri bawah halaman, ubah Data source menjadi ${datasource}.
Di area Query, alihkan ke code di sisi kanan. Di kotak teks Metrics browser, masukkan kueri PromQL
sum(AliyunLearn_eas_eas_qps_total)lalu klik Run queries.Atur ambang batas untuk mengonfigurasi warna tampilan berbeda untuk rentang nilai yang berbeda. Setelah pratinjau grafik muncul, klik Apply untuk menyimpan pengaturan.
Langkah 5: Konfigurasi aturan peringatan
Pada halaman detail instans Prometheus, Anda dapat melihat aturan peringatan bawaan. Semua aturan peringatan bawaan berlevel P2 dan awalnya dalam status Stopped.
Di panel navigasi sebelah kiri halaman detail layanan Prometheus, klik Alert Rules.
Pada halaman Alert Rules, lihat aturan peringatan yang telah ditentukan. Untuk mengaktifkan aturan, ubah statusnya menjadi Enabled atau Disabled. Untuk mengubah konfigurasi notifikasi, klik Edit.
Jika templat default tidak memenuhi kebutuhan Anda, klik Create Alert Rule untuk membuat aturan peringatan kustom. Untuk deskripsi parameter, lihat Aturan peringatan.
Lampiran: Metrik pemantauan EAS lanjutan
Metrik berikut hanya tersedia jika metrik pemantauan lanjutan diaktifkan pada Langkah 1.