Pengamatan resource menyediakan data pemantauan untuk resource komputasi, penyimpanan, transmisi data, dan performa job dalam periode waktu tertentu. Gunakan metrik ini untuk mengevaluasi pola konsumsi resource, mengidentifikasi peluang optimisasi, serta menyesuaikan rencana eksekusi dan konfigurasi resource guna meningkatkan efisiensi job.
Cakupan: Pengamatan resource mencakup empat jenis resource: resource komputasi (pemanfaatan CU berdasarkan kuota), resource penyimpanan (penggunaan berdasarkan proyek, tabel, dan partisi), layanan transmisi data (throughput dan konkurensi Tunnel dan Storage API), serta performa job (jumlah job, konsumsi CU, dan durasi waktu proses).
MaxCompute menggunakan Tunnel sebagai mekanisme transfer data bawaan untuk mengunggah dan mengunduh data. Dalam dokumen ini, metrik di bawah tab Data Transmission Service terutama melacak operasi berbasis Tunnel (seperti Tunnel Batch Upload dan Tunnel Batch Download) serta operasi Storage API.
Wilayah yang didukung
| Jenis resource | Wilayah yang didukung |
|---|---|
| Resource komputasi | Tiongkok (Hangzhou), Tiongkok (Shanghai), Tiongkok (Beijing), Tiongkok (Zhangjiakou), Tiongkok (Shenzhen), Tiongkok (Ulanqab), Tiongkok (Chengdu), Tiongkok (Hong Kong), AS (Silicon Valley), AS (Virginia), Malaysia (Kuala Lumpur), Jepang (Tokyo), Jerman (Frankfurt), Indonesia (Jakarta), Inggris (London), dan Singapura |
| Resource penyimpanan | Tiongkok (Hangzhou), Tiongkok (Shanghai), Tiongkok (Beijing), Tiongkok (Shenzhen), Tiongkok (Chengdu), Tiongkok (Zhangjiakou), Tiongkok (Ulanqab), Tiongkok (Hong Kong), Malaysia (Kuala Lumpur), Jepang (Tokyo), Jerman (Frankfurt), Indonesia (Jakarta), dan Singapura |
| Layanan transmisi data | Tiongkok (Hangzhou), Tiongkok (Shanghai), Tiongkok (Beijing), Tiongkok (Shenzhen), Tiongkok (Chengdu), Tiongkok Timur 1 Finance, Tiongkok (Hong Kong), Singapura, Jepang (Tokyo), Malaysia (Kuala Lumpur), Indonesia (Jakarta), Jerman (Frankfurt), Inggris (London), AS (Silicon Valley), AS (Virginia), SAU (Riyadh - Partner Region) |
| Kinerja Pekerjaan | Tiongkok (Hangzhou), Tiongkok (Shanghai), Tiongkok (Beijing), Tiongkok (Zhangjiakou), Tiongkok (Ulanqab), Tiongkok (Shenzhen), Tiongkok (Chengdu), Tiongkok (Hong Kong), Singapura, Malaysia (Kuala Lumpur), Indonesia (Jakarta), Jepang (Tokyo), AS (Silicon Valley), AS (Virginia), Jerman (Frankfurt), Inggris (London), dan SAU (Riyadh - Partner Region) |
Izin
Akun Alibaba Cloud: Memiliki izin penuh untuk membaca dan mengoperasikan Pengamatan Resource.
Pengguna Resource Access Management (RAM): Memerlukan izin RAM. Untuk informasi lebih lanjut, lihat Izin RAM.
Resource komputasi
Pantau penggunaan Compute Unit (CU) untuk kuota langganan dan pay-as-you-go.
MaxCompute mengorganisasi resource komputasi ke dalam hierarki dua tingkat: kuota tingkat-1 merepresentasikan kolam sumber daya tingkat atas, dan setiap kuota tingkat-1 berisi satu atau beberapa kuota tingkat-2 yang membagi resource untuk alokasi lebih granular. Untuk informasi lebih lanjut, lihat Kelola kuota untuk resource komputasi di Konsol MaxCompute baru.
Lihat penggunaan resource komputasi
Masuk ke Konsol MaxCompute. Di pojok kiri atas, pilih wilayah.
Di panel navigasi sebelah kiri, klik Resource Observation.
Pada halaman Resource Observation, klik tab Computing Resources.
Pilih nama kuota tingkat-1, rentang waktu, dan interval waktu. Interval waktu adalah jumlah menit antar titik data. Opsi: Adaptive, 1, 5, atau 15 menit. Jika rentang waktu melebihi 72 jam, hanya opsi Adaptive yang tersedia.
Klik ikon perluas di sebelah kiri kuota tingkat-2 untuk melihat grafik tren konsumsi resource-nya. Anda dapat memperluas beberapa grafik kuota tingkat-2 secara bersamaan.
Lihat daftar proyek yang terkait dengan setiap kuota tingkat-2.
Metrik resource komputasi
| Metrik | Deskripsi | Yang perlu diperhatikan |
|---|---|---|
| CPU Resources | Tren pemanfaatan CPU untuk kuota saat ini. Klik titik waktu untuk melihat daftar snapshot job pada titik tersebut. | Penggunaan CPU tinggi yang berkelanjutan menunjukkan kuota mungkin memerlukan kapasitas tambahan. Lonjakan mendadak mengindikasikan adanya job besar atau tidak teroptimalkan. |
| Memory Resources | Tren penggunaan memori untuk kuota saat ini. | Penggunaan memori tinggi secara konsisten mungkin memerlukan penyesuaian ukuran kuota atau optimisasi memori job. |
| Kuota dan proyek terkait | Mengidentifikasi proyek yang menetapkan kuota tingkat-2 sebagai kuota default. | Verifikasi bahwa proyek ditetapkan ke kuota yang benar. |
Resource pay-as-you-go berasal dari kolam sumber daya bersama. Job komputasi bersaing untuk mendapatkan resource, dan resource yang tersedia untuk setiap job tidak dapat ditentukan. Jika pengguna terus-menerus meminta resource dalam jumlah besar, MaxCompute akan membatasi penggunaan resource pengguna tersebut guna memastikan akses yang adil bagi pengguna pay-as-you-go lainnya.
Resource penyimpanan
Pantau total penggunaan penyimpanan dan persentase penggunaan penyimpanan berdasarkan jenis penyimpanan di wilayah saat ini. Lihat tren penyimpanan dari waktu ke waktu dan selidiki lebih dalam detail penyimpanan tingkat tabel atau tingkat partisi berdasarkan proyek.
Lihat penggunaan resource penyimpanan
Masuk ke Konsol MaxCompute. Di bilah navigasi atas, pilih wilayah.
Di panel navigasi sebelah kiri, klik Resource Observation.
Di halaman Resource Observation, klik tab Storage Resource untuk melihat total penggunaan penyimpanan dan distribusi penggunaan penyimpanan berdasarkan jenis penyimpanan pada hari ini.
(Opsional) Pilih rentang waktu dan satu atau beberapa proyek untuk melihat Storage Trend. Secara default, 7d (7 hari) dipilih sebagai rentang waktu, dan semua proyek dipilih. Anda dapat memilih hingga 8 proyek secara manual.
(Opsional) Di tab Project Details pada bagian Storage Details, pilih tanggal untuk melihat penggunaan penyimpanan tiap proyek pada tanggal tersebut. Tanggal default adalah hari ini.
(Opsional) Di tab Table/Partition Details pada bagian Storage Details, pilih tanggal dan proyek untuk melihat penggunaan penyimpanan tabel dan partisi dalam proyek tersebut pada tanggal tersebut. Tanggal default adalah hari ini.
Metrik resource penyimpanan
| Metrik | Deskripsi | Unit | Frekuensi pembaruan |
|---|---|---|---|
| Storage Usage on the Current Day | Total penggunaan penyimpanan dan persentase penggunaan penyimpanan tiap jenis penyimpanan di wilayah saat ini. | Byte (adaptif) | Sekitar setiap jam |
| Storage Distribution | Jumlah proyek, tabel, dan partisi di wilayah saat ini. | Jumlah | Setiap hari |
| Storage Trend | Group by storage type: penggunaan penyimpanan semua proyek atau proyek terpilih dan tren tiap jenis penyimpanan dari waktu ke waktu. Group by project: tren penyimpanan untuk N proyek teratas (8 secara default) dengan total penggunaan penyimpanan tertinggi, atau untuk proyek terpilih. | Byte (adaptif) | -- |
| Project Details | Detail penggunaan penyimpanan berdasarkan jenis penyimpanan untuk proyek yang memiliki total penggunaan penyimpanan lebih dari 0 pada tanggal tertentu. Pilih tanggal dalam rentang satu tahun terakhir. Termasuk perbandingan dengan hari sebelumnya, 7 hari lalu, atau 30 hari lalu. | Byte (adaptif) | -- |
| Table/Partition Details | Jenis penyimpanan, ukuran penyimpanan, dan perbandingan dengan hari sebelumnya, 7 hari lalu, atau 30 hari lalu. | Byte (adaptif) | -- |
Layanan transmisi data
Pantau penggunaan resource dari kelompok sumber daya transmisi data atau proyek tertentu. Gunakan filter untuk menganalisis penggunaan berdasarkan tabel atau jenis permintaan.
Lihat metrik transmisi data
Masuk ke Konsol MaxCompute, lalu pilih wilayah di bilah navigasi atas.
Di panel navigasi sebelah kiri, klik Resource Observation.
Di halaman Resource Observation, klik tab Data Transmission Service.
Pilih kuota, proyek, rentang waktu, dan algoritma agregasi untuk mengkueri data metrik.
Agregasi data
Mekanisme interval adaptif secara otomatis menyesuaikan kerapatan titik data berdasarkan rentang waktu yang dipilih:
| Rentang waktu | Interval titik data |
|---|---|
| Dalam 3 jam | 1 menit/titik (granularitas asli) |
| Hingga 12 jam | 5 menit/titik |
| Hingga 72 jam | 30 menit/titik |
| Hingga 7 hari | 60 menit/titik |
Dua algoritma agregasi tersedia:
| Algoritma | Perilaku | Penggunaan yang disarankan |
|---|---|---|
| Average Value | Mencerminkan tren keseluruhan. | Analisis performa |
| Maximum Value | Menangkap fluktuasi puncak. | Pemecahan masalah |
Saat interval melebihi granularitas asli (1 menit), sistem melakukan pra-pemrosesan data menggunakan algoritma agregasi yang dipilih. Rentang waktu yang lebih panjang menghasilkan perbedaan yang lebih besar antara hasil Average Value dan Maximum Value. Hal ini merupakan perilaku yang diharapkan.
Kondisi filter dan batasan
Satu kueri mendukung rentang waktu maksimum 7 hari. Rentang waktu yang lebih pendek menghasilkan data pemantauan yang lebih akurat.
Pilih minimal satu kuota atau satu proyek. Filter gabungan untuk kuota dan proyek juga didukung.
Hanya dimensi kuota: Tentukan kelompok sumber daya eksklusif atau kelompok sumber daya bersama. Karena kelompok sumber daya bersama merupakan kuota tingkat proyek, melihat kelompok sumber daya bersama untuk proyek tertentu juga memerlukan penentuan proyek tersebut.
Hanya dimensi proyek: Biarkan bidang Select Quota kosong dan pilih proyek yang diinginkan untuk Choose Project. Ini akan menampilkan total penggunaan untuk proyek tersebut.
Setelah mengubah kondisi filter, klik Query untuk memperbarui data pemantauan.
Untuk dasbor pemantauan tingkat tabel, pilih proyek terlebih dahulu sebelum melihat data atau memfilter berdasarkan nama tabel.
Metrik transmisi data
| Metrik | Deskripsi | Unit |
|---|---|---|
| Request Parallelism | Grafik garis yang menunjukkan penggunaan slot berdasarkan kondisi filter, termasuk penggunaan saat ini dan batas penggunaan kuota. | Slot (koneksi bersamaan) |
| Throughput | Grafik garis yang menunjukkan throughput berdasarkan kondisi filter. | Ditampilkan pada sumbu vertikal (misalnya, B/menit atau MB/menit) |
| Table-level Request Parallelism | Pilih Usage Type (misalnya Tunnel Batch Upload) dan Table Name (misalnya testtable) untuk menampilkan grafik garis konkurensi untuk operasi unggah atau unduh yang ditentukan. | Slot |
| Table-level IP Throughput | Pilih Usage Type dan Table Name untuk menampilkan grafik garis throughput per alamat IP sumber untuk operasi yang ditentukan. | Ditampilkan pada sumbu vertikal |
| Total Requests and Error Requests | Jumlah total permintaan dan jumlah berbagai permintaan error berdasarkan kondisi filter. Total Requests = semua permintaan sukses + permintaan error. Error Requests = permintaan dengan kode status 4XX atau 5XX. Untuk informasi lebih lanjut tentang kode status, lihat Ikhtisar layanan transmisi data. | Jumlah |
| Total Throughput | Ringkasan volume data berdasarkan metode penggunaan dalam rentang waktu yang dipilih, dengan grafik pie yang menunjukkan proporsi tiap metode. | Byte (adaptif) |
| Slot Average Transfer Rate | Pilih Usage Type (misalnya Tunnel Batch Upload) untuk menampilkan laju transmisi rata-rata per slot untuk operasi yang ditentukan. | Ditampilkan pada sumbu vertikal |
Kinerja Pekerjaan
Pantau jumlah, penggunaan CU, dan durasi waktu proses job komputasi untuk mengevaluasi apakah performa job sesuai harapan.
Lihat metrik performa job
Masuk ke Konsol MaxCompute, lalu pilih wilayah di bilah navigasi atas.
Di panel navigasi sebelah kiri, klik Resource Observation.
Di halaman Resource Observation, klik tab Job Performance Observation.
Konfigurasikan parameter filter dan pengelompokan berikut, lalu klik Search untuk melihat statistik.
Parameter filter
| Parameter | Deskripsi |
|---|---|
| Time Range | Wajib diisi. Rentang waktu yang digunakan untuk memfilter job yang telah selesai. Opsi preset: 1d (hari sebelumnya), 3d (3 hari sebelumnya), 7d (7 hari sebelumnya). Konfigurasikan rentang waktu kustom dengan mengklik daftar drop-down, memilih tanggal, lalu mengklik Select Time. Default: hari sebelumnya. Maksimum: 7 hari. Minimum: 1 jam. Cari job hanya dari 45 hari sebelumnya. |
| Project Name | Proyek MaxCompute yang digunakan untuk memfilter job yang telah selesai. Secara default, semua proyek dipilih. Pilih hingga delapan proyek. |
| Quota | Kuota komputasi yang digunakan untuk memfilter job yang telah selesai. Secara default, semua kuota komputasi dipilih. Pilih hingga delapan kuota tingkat-2. Untuk informasi lebih lanjut, lihat Kelola kuota untuk resource komputasi di Konsol MaxCompute baru. |
| Group By | Wajib diisi. Menentukan cara pengelompokan data dalam grafik. Opsi: No Group (default, menampilkan tren dari waktu ke waktu untuk semua job), Project (dikelompokkan berdasarkan proyek; memerlukan penentuan hingga delapan proyek di Project Name), Quota (dikelompokkan berdasarkan kuota tingkat-2; memerlukan penentuan hingga delapan kuota di Quota), Job Type (dikelompokkan berdasarkan jenis job), Job End Status (dikelompokkan berdasarkan status penyelesaian). |
Nilai Job Type:
| Nilai | Deskripsi |
|---|---|
| SQL | Job SQL |
| SQLRT | Job SQL MaxCompute Query Acceleration (MCQA) |
| LOT | Pekerjaan MapReduce |
| CUPID | Job Spark atau Mars |
| Algo_Task | Job machine learning |
| GRAPH | Job komputasi graf |
Nilai Job End Status: Success, Failed, Canceled.
Rangkuman dan perbandingan data
(Opsional) Pilih Data Summary untuk melihat statistik dengan granularitas waktu yang berbeda.
| Opsi | Deskripsi |
|---|---|
| By Hour | Menampilkan statistik untuk job yang selesai dalam tiap jam. Ini adalah granularitas default. |
| By Day | Menampilkan statistik untuk job yang selesai dalam tiap hari. |
(Opsional) Pilih Comparison Period untuk membandingkan data saat ini dengan garis dasar historis.
Default: No Comparison. Opsi lain: Previous 30 Days, Previous 7 Days, Previous 1 Day. Misalnya, jika waktu saat ini adalah pukul 14.00 pada 6 Mei 2024, dan Anda memilih Previous 30 Days, data dari pukul 14.00 pada 6 April 2024 akan ditampilkan bersama data saat ini untuk perbandingan.
Metrik performa job
Tren penggunaan CU
| Metrik | Deskripsi | Unit |
|---|---|---|
| CPU-hour | Jumlah CPU-hour yang dikonsumsi oleh job yang telah selesai. 1 CPU-hour berarti 1 core CPU dikonsumsi selama 1 jam. Rumus: Jumlah core CPU x Durasi. | Core x Jam |
| Memory-hour | Jumlah memory-hour yang dikonsumsi oleh job yang telah selesai. 1 memory-hour berarti 1 GB memori dikonsumsi selama 1 jam. Rumus: Ruang memori x Durasi. | GB x Jam |
| Top 10 CPU-Hour Consumption Analysis / Top 10 Memory-Hour Consumption Analysis | 10 job teratas berdasarkan konsumsi CPU-hour atau memory-hour, serta 10 signature dan ExtNodeId (identifier node rencana eksekusi) teratas yang diurutkan berdasarkan total tertinggi, rata-rata CPU-hour tertinggi, total tertinggi, dan rata-rata memory-hour tertinggi. | -- |
Periode waktu proses job
| Metrik | Deskripsi | Unit |
|---|---|---|
| Average Runtime Duration | Durasi rata-rata job yang telah selesai dalam rentang filter yang dipilih. | Detik |
| Maximum Runtime Duration | Durasi maksimum job yang telah selesai dalam rentang filter yang dipilih. | Detik |
| Minimum Runtime Duration | Durasi minimum job yang telah selesai dalam rentang filter yang dipilih. | Detik |
| Quantile runtime duration | Durasi pada kuantil tertentu dari job yang telah selesai. Kuantil yang tersedia: ke-1, ke-10, ke-50, ke-90, dan ke-99. Misalnya, kuantil ke-99 menunjukkan durasi di mana 99% job telah selesai. | Detik |
| Top 10 Job Runtime Analysis | 10 job teratas dengan durasi waktu proses terpanjang, serta 10 signature dan ExtNodeId (identifier node rencana eksekusi) teratas yang diurutkan berdasarkan total durasi terpanjang dan rata-rata durasi terpanjang. | -- |
Tren jumlah job
Unit: jumlah. Menampilkan jumlah job yang selesai dalam rentang filter yang dipilih.
Tren ukuran input job
Unit: GB (adaptif). Menampilkan jumlah data yang dipindai oleh job yang telah selesai dalam rentang filter yang dipilih. Unit menyesuaikan secara otomatis dan unit aktual ditampilkan dalam grafik.
Tren ukuran input job per CU-hour
Unit: GB (adaptif). Menampilkan jumlah rata-rata data yang dipindai per CU-hour dalam rentang filter yang dipilih. Unit menyesuaikan secara otomatis dan unit aktual ditampilkan dalam grafik.
1 CU berisi 1 core CPU dan 4 GB memori. Nilai dihitung sebagai: MAX(CPU-hours, ROUNDUP(Memory-hours/4)).
Kueri metrik dengan Information Schema
Gunakan Information Schema tingkat penyewa untuk mengumpulkan statistik yang sama secara terprogram.
Tabel Information Schema task_history berisi instans tugas yang dihasilkan oleh semua operasi. Tab Job Performance Observation hanya menampilkan data dari job yang mengonsumsi resource komputasi. Akibatnya, statistik dari Information Schema mungkin berbeda dari yang ditampilkan di konsol.Contoh SQL berikut mengkueri metrik job dengan granularitas per jam untuk 7 hari sebelumnya:
SET odps.namespace.schema=TRUE;
SELECT to_char (end_time, 'yyyy-mm-dd hh'), -- Jam saat job selesai.
-- to_char (end_time, 'yyyy-mm-dd'), -- Tanggal saat job selesai. Jika menggunakan granularitas harian, ganti baris di atas dengan baris ini.
sum(cast(cost_cpu/100/3600 as DECIMAL(18,5) )) cost_cpuh, -- CPU-hour.
sum(cast(cost_mem/1024/3600 as DECIMAL(18,5) )) cost_memh, -- memory-hour.
avg(datediff(end_time, start_time, 'ss')), -- Durasi rata-rata waktu proses job.
min(datediff(end_time, start_time, 'ss')), -- Durasi minimum waktu proses job.
max(datediff(end_time, start_time, 'ss')) -- Durasi maksimum waktu proses job.
-- status, -- Dasar pengelompokan: status: status job; project: task_catalog; job type: task_type.
FROM SYSTEM_CATALOG.INFORMATION_SCHEMA.tasks_history
WHERE ds>=to_char(date_add(getdate(),-7),'yyyymmdd') -- Anda dapat menambahkan kondisi filter lain sesuai kebutuhan bisnis.
and task_type in ('SQL','SQLRT','LOT','CUPID','ALgoTask')
GROUP BY to_char (end_time, 'yyyy-mm-dd hh')
-- to_char (end_time, 'yyyy-mm-dd'), -- Tanggal saat job selesai. Jika menggunakan granularitas harian, ganti baris di atas dengan baris ini.
-- status, -- Dasar pengelompokan: status: status job; project: task_catalog; job type: task_type.
order BY to_char (end_time, 'yyyy-mm-dd hh') ASC;
-- to_char (end_time, 'yyyy-mm-dd'); -- Tanggal saat job selesai. Jika menggunakan granularitas harian, ganti baris di atas dengan baris ini.Pemecahan masalah
Proyek atau kuota tidak ditampilkan dalam grafik yang dikelompokkan
Tidak ada job yang selesai di proyek atau kuota tersebut selama rentang waktu yang dipilih.
Data periode perbandingan tidak tersedia
Proyek atau kuota belum ada selama periode perbandingan, atau tidak ada job yang dijalankan di proyek atau kuota tersebut selama periode tersebut.
Informasi terkait
Setelah meninjau metrik pengamatan resource, pertimbangkan optimisasi berikut:
Konfigurasi ulang resource: Konfigurasikan rencana kuota dan rencana waktu dalam kelompok sumber daya kuota. Lihat Konfigurasikan kuota.
Sesuaikan prioritas job: Lihat Prioritas job.