TPC-DS, pengujian performa - MaxCompute - Alibaba Cloud Documentation Center

MaxCompute mendukung skenario kueri data pada skala mulai dari terabyte (TB) hingga petabyte (PB) dan exabyte (EB), menawarkan keunggulan performa signifikan di industri. Topik ini menggunakan dataset publik dan tool pengujian MaxCompute untuk memvalidasi performa MaxCompute melalui benchmark data besar TPC-DS. MaxCompute menyediakan dua metode pengujian performa: Metode 1 (direkomendasikan) menggunakan mesin MaxQA Query Acceleration baru untuk pengujian TPC-DS, dan Metode 2 menggunakan mesin MCQA untuk pengujian TPC-DS (MCQA tidak lagi terbuka untuk pengguna baru; pengguna yang sudah ada dapat merujuk ke metode ini).

Preparations

Persiapkan lingkungan Anda.
- Sebelum menjalankan pengujian TPC-DS, aktifkan MaxCompute dan buat Proyek. Untuk detailnya, lihat Lampiran: Parameter konfigurasi Proyek.
- Metode 1 (direkomendasikan): Aktifkan MaxQA (MaxCompute Query Acceleration 2.0). Fitur ini saat ini berada dalam pratinjau publik (klik tautan pratinjau publik untuk bergabung; periksa jadwal pratinjau publik untuk ketersediaan wilayah).
  - Lihat Ikhtisar MaxQA Query Acceleration untuk mengaktifkan instans subscription dan membuat kelompok kuota interaktif.
- Metode 2 (tidak lagi terbuka untuk pengguna baru): Aktifkan MCQA (MaxCompute Query Acceleration 1.0), hanya tersedia untuk pengguna MCQA yang sudah ada. Lihat MCQA Query Acceleration (tidak lagi terbuka untuk pengguna baru) untuk mengaktifkan instans subscription.
Persiapkan tool pengujian.
Untuk menyederhanakan pengujian, MaxCompute menyediakan tool pengujian performa TPC-DS otomatis yang membantu Anda menjalankan pengujian TPC-DS dengan cepat dan menghasilkan hasil secara otomatis.
Penting
Tool pengujian saat ini hanya mendukung lingkungan Linux dan memerlukan JDK versi 1.7 atau lebih baru.
Klik mc_tpcds_benchmark untuk mengunduh paket tool, lalu jalankan perintah berikut di Server Linux Anda untuk mengekstraknya.
```
unzip mc_tpcds_benchmark.zip
```
Struktur direktori setelah diekstrak adalah sebagai berikut:
```
.
|_t1c7039e3-2a1d-451b-bfda-d14c49016243-tpc-ds-tool.zip
|_config
|_init_tools.sh
|_load_table.sh
|_logs
|_odps_clt
|_patches
|_pt.sh
|_queries_1
|_queries_1.quality
|_queries_10
|_queries_100
|_queries_1000
|_queries_10000
|_queries_100000
|_querygen.sh
|_results
|_run_stream.sh
|_run_stream.sh.offline
|_sqls
|_start_session_only.sh
|_start_session.sql
|_start_session.sql_tmp
|_tools_file
|_tt.sh
|_v2.10.1rc3
```

Pahami dataset pengujian.

MaxCompute menyediakan dataset publik sehingga Anda tidak perlu menyiapkan data uji sendiri. Semua data disimpan di Proyek publik MaxCompute BIGDATA_PUBLIC_DATASET. Untuk detailnya, lihat Ikhtisar dataset publik.

Dataset pengujian TPC-DS tersedia dalam empat ukuran: 10 GB, 100 GB, 1 TB, dan 10 TB. Pilih ukuran yang sesuai dengan kebutuhan pengujian Anda. Detailnya ditunjukkan di bawah ini:

Kategori	Deskripsi	Nama dataset	Nama skema
TPC-DS	TPC-DS adalah benchmark sistem pendukung keputusan yang memodelkan aspek umum sistem pendukung keputusan, termasuk kueri dan pemeliharaan data, memungkinkan teknologi baru seperti sistem data besar menjalani benchmark standar.	TPC-DS 10GB performance test set TPC-DS 100GB performance test set TPC-DS 1TB performance test set TPC-DS 10TB performance test set	tpcds_10g tpcds_100g tpcds_1t tpcds_10t

Testing procedure

Modify the test tool configuration file

Buka direktori mc_tpcds_benchmark dari tool pengujian yang telah diekstrak dan edit file config. Karena tool ini mendukung mode MaxQA dan MCQA, beberapa pengaturan konfigurasi sedikit berbeda antara keduanya selain pengaturan dasar.

Basic configuration

Item konfigurasi	Deskripsi	Nilai
ODPS_CLT_CMD	Jalur absolut ke file yang dapat dieksekusi client MaxCompute. Client yang disertakan dalam toolkit ini berada di bawah odps_clt dalam direktori kerja. Perbarui pengaturan ini sesuai kebutuhan. Untuk detailnya, lihat Connect using the local client (odpscmd).	Contoh: /xxxxx/mc_tpcds_benchmark/odps_clt/bin/odpscmd
PROJECT	Proyek MaxCompute yang digunakan untuk pengujian.	Contoh: tpcds_test
SF	Skala data untuk pengujian TPC-DS. Unitnya adalah GB. 1 berarti 1 GB, dan 1000 berarti 1 TB. Sesuaikan nilai ini sesuai kebutuhan.	Default: 1000

Differences between MCQA and MaxQA modes

Item konfigurasi	Deskripsi	Nilai MCQA	Nilai MaxQA
ODPS_CLT_CMD	Jalur absolut ke file yang dapat dieksekusi client MaxCompute. Client yang disertakan dalam toolkit ini berada di bawah odps_clt dalam direktori kerja. Perbarui pengaturan ini sesuai kebutuhan. Untuk detailnya, lihat Connect using the local client (odpscmd).	Contoh: /xxxxx/mc_tpcds_benchmark/odps_clt/bin/odpscmd	Contoh: /xxxxx/mc_tpcds_benchmark/odps_clt/bin/odpscmd
PROJECT	Proyek MaxCompute yang digunakan untuk pengujian.	Contoh: tpcds_test	Contoh: tpcds_test
SF	Skala data untuk pengujian TPC-DS. Unitnya adalah GB. 1 berarti 1 GB, dan 1000 berarti 1 TB. Sesuaikan nilai ini sesuai kebutuhan.	Default: 1000. Dataset publik MaxCompute saat ini mencakup empat ukuran: 10G, 100G, 1T, dan 10T. Oleh karena itu, atur SF ke 10, 100, 1000, atau 10000.	Default: 1000. Dataset publik MaxCompute saat ini mencakup empat ukuran: 10G, 100G, 1T, dan 10T. Oleh karena itu, atur SF ke 10, 100, 1000, atau 10000.
MODE	Atur mode untuk menjalankan benchmark ini.	MCQA	MaxQA
MAXQA_QUOTA_NAME	Nama kelompok kuota interaktif MaxQA yang digunakan untuk pengujian. Anda dapat menemukannya di halaman Manajemen Kuota di Konsol MaxCompute. Pastikan untuk memasukkan alias kuota (nama yang Anda tetapkan).	N/A	Contoh: maxqa_test_quota
SQL_FLAGS	Flag SQL MaxCompute bawaan. Jangan ubah.	`set odps.sql.session.result.cache.enable=false`: Nonaktifkan cache hasil dalam mode MCQA untuk memastikan setiap kueri dijalankan secara independen. `set odps.sql.allow.cartesian=true`: Aktifkan komputasi Produk Kartesius dalam SQL. `set odps.sql.session.query.timeout=600`: Atur timeout pekerjaan Fuxi dalam mode MCQA.	`set odps.sql.mcqa2.result.cache.enable=false`: Nonaktifkan cache hasil dalam mode MaxQA untuk memastikan setiap kueri dijalankan secara independen. `set odps.sql.allow.cartesian=true`: Aktifkan komputasi Produk Kartesius dalam SQL.

Run the test

Di direktori mc_tpcds_benchmark, jalankan perintah berikut untuk memulai pengujian TPC-DS:

nohup sh pt.sh > pt.log 2>&1 &

Setelah berhasil dijalankan, tool secara otomatis menghasilkan file log pt.log di direktori mc_tpcds_benchmark. Jalankan perintah berikut untuk melihat log tugas secara detail:

tail -f pt.log

Monitor MaxCompute task execution

Login ke MaxCompute console dan pilih Wilayah di pojok kiri atas.
Di panel navigasi sebelah kiri, pilih Observation O&M > Jobs.
Di halaman Job O&M, periksa status eksekusi tugas. Klik LogView di kolom Actions pada pekerjaan target untuk melihat informasi detail. Untuk informasi lebih lanjut, lihat Job O&M.

View test results

Setelah eksekusi tugas berhasil, tool secara otomatis menghasilkan file hasil pengujian bernama console_test_result.csv di direktori mc_tpcds_benchmark. File ini berisi durasi total pengujian, waktu eksekusi setiap kueri, dan tautan Logview yang sesuai.