Untuk menjalankan pekerjaan Spark dengan biaya lebih rendah, Anda dapat mengaktifkan fitur Instans Spot pada grup sumber daya pekerjaan. Fitur ini memungkinkan kluster menggunakan sumber daya komputasi idle dengan diskon besar. Panduan ini menjelaskan konsep instans spot, trade-off yang terlibat, dan cara menggunakannya secara efektif.
Prasyarat
Kluster Edisi Perusahaan, Edisi Dasar, atau Edisi Data Lakehouse AnalyticDB for MySQL telah dibuat.
Apa itu instans spot?
Instans spot adalah sumber daya eksekutor Spark idle yang dijual dengan harga diskon dibandingkan sumber daya on-demand standar (ACU).
Berikut beberapa perbedaan utama antara sumber daya instans spot dan elastis unit komputasi AnalyticDB (ACU):
Sumber daya instans spot berbiaya sekitar 30% lebih murah daripada sumber daya elastis ACU.
Namun, penghematan biaya ini memiliki trade-off: keandalan lebih rendah. Instans spot dapat dipreempt jika pekerjaan on-demand membutuhkan sumber daya tersebut. Misalnya, ketika Anda mengirimkan pekerjaan Spark dalam grup sumber daya pekerjaan dengan fitur instans spot diaktifkan, kluster AnalyticDB for MySQL akan merebut sumber daya instans spot idle dan berbiaya rendah.
Jika preemption berhasil, pekerjaan Spark berjalan menggunakan sumber daya instans spot, dan Anda dikenakan biaya sesuai.
Jika preemption gagal, pekerjaan Spark berjalan menggunakan sumber daya elastis ACU, dan Anda dikenakan biaya untuk sumber daya tersebut.
Secara default, Alibaba Cloud memberikan perlindungan selama 1 jam untuk sumber daya instans spot AnalyticDB for MySQL. Perlindungan ini memastikan bahwa sumber daya tidak dipreempt atau dilepaskan dalam waktu 1 jam setelah digunakan. Setelah periode perlindungan berakhir, sumber daya mungkin dipreempt, dengan probabilitas meningkat seiring durasi penggunaan.
Pekerjaan Spark yang menggunakan sumber daya instans spot memiliki prioritas lebih rendah. Misalnya, jika pekerjaan Spark A sedang berjalan menggunakan sumber daya instans spot dan kluster AnalyticDB for MySQL lainnya mengirimkan pekerjaan Spark B yang tidak menggunakan sumber daya instans spot, pekerjaan Spark B mungkin merebut sumber daya instans spot yang digunakan oleh pekerjaan Spark A jika kekurangan sumber daya. Ini mengakibatkan pelepasan sumber daya instans spot dan kegagalan pekerjaan Spark A. Probabilitas kegagalan pekerjaan Spark karena pelepasan sumber daya adalah 1% hingga 5%.
Kapan harus menggunakan
Berdasarkan trade-off, instans spot cocok untuk beban kerja tertentu tetapi tidak disarankan untuk yang lain.
Paling cocok untuk:
Lingkungan pengembangan dan pengujian pekerjaan Spark.
Beban kerja sensitif terhadap biaya.
Skenario yang dapat mentolerir kegagalan pekerjaan Spark sesekali dan percobaan ulang.
Skenario di mana sebagian besar pekerjaan Spark berjalan dalam waktu kurang dari 1 jam.
Gunakan dengan hati-hati:
Pekerjaan produksi kritis yang kegagalannya memengaruhi operasi bisnis.
Pekerjaan jangka panjang (lebih dari 1 jam) yang tidak dapat dimulai ulang dengan mudah.
Gunakan strategi hybrid untuk beban kerja campuran:
Buat dua grup sumber daya pekerjaan terpisah. Aktifkan fitur instans spot untuk grup pertama dan jalankan hanya pekerjaan Spark dengan waktu eksekusi singkat. Nonaktifkan fitur instans spot untuk grup kedua dan gunakan untuk pekerjaan Spark dengan waktu eksekusi lebih lama.
Buat grup sumber daya pekerjaan dan aktifkan fitur instans spot untuk grup tersebut. Saat menjalankan pekerjaan Spark, konfigurasikan parameter
spark.adb.spotInstance.disableduntuk menonaktifkan penggunaan sumber daya instans spot pada pekerjaan Spark.
Batasan
Fitur instans spot didukung hanya di wilayah-wilayah berikut: Tiongkok (Qingdao), Tiongkok (Beijing), Tiongkok (Zhangjiakou), Tiongkok (Hangzhou), Tiongkok (Shanghai), Tiongkok (Shenzhen), Tiongkok (Guangzhou), Tiongkok (Hong Kong), Jepang (Tokyo), Singapura, AS (Silicon Valley), AS (Virginia), Jerman (Frankfurt), dan Inggris (London).
Anda hanya dapat mengaktifkan fitur instans spot untuk grup sumber daya pekerjaan. Setelah diaktifkan, pekerjaan Spark dalam grup mencoba menggunakan sumber daya instans spot, namun ini tidak menjamin ketersediaannya.
Hanya pekerjaan Spark yang dapat menggunakan sumber daya instans spot.
Hanya spesifikasi berikut dari sumber daya eksekutor Spark yang mendukung sumber daya instans spot: Tingkat Tinggi dan 2xTingkat Tinggi.
Aturan penagihan
Sumber daya instans spot berbiaya sekitar 30% lebih murah daripada sumber daya elastis ACU. Untuk informasi lebih lanjut, lihat Harga untuk Edisi Perusahaan dan Edisi Dasar dan Harga untuk Edisi Data Lakehouse.
Aktifkan fitur instans spot
Masuk ke Konsol AnalyticDB for MySQL. Di pojok kiri atas konsol, pilih Wilayah. Di panel navigasi di sebelah kiri, klik Clusters. Temukan kluster yang ingin Anda kelola dan klik ID kluster.
Di panel navigasi di sebelah kiri, pilih Cluster Management > Resource Management. Pada halaman yang muncul, klik tab Resource Groups.
Grup sumber daya pekerjaan yang ada
Temukan grup sumber daya pekerjaan yang ingin Anda kelola dan klik Modify di kolom Actions.
Di panel Modify Resource Group, aktifkan Spot Instance.
Klik OK.
Periksa apakah fitur instans spot diaktifkan di kolom Spot Instance dari grup sumber daya pekerjaan.
Setelah mengaktifkan fitur instans spot, pekerjaan Spark yang berjalan di grup sumber daya pekerjaan mencoba menggunakan sumber daya instans spot.
Buat grup sumber daya pekerjaan baru
Klik Create Resource Group di pojok kanan atas daftar grup sumber daya dan konfigurasikan informasi grup sumber daya.
Parameter
Deskripsi
Resource Group Name
Nama grup sumber daya. Nama harus terdiri dari 2 hingga 30 karakter dan dapat berisi huruf, angka, dan garis bawah (_). Nama harus dimulai dengan huruf.
Job Type
Jenis pekerjaan dari grup sumber daya. Pilih Job dari daftar drop-down. Grup sumber daya Job cocok untuk penskalaan sumber daya komputasi sesuai permintaan dalam skenario pemrosesan batch throughput tinggi.
Minimum Computing Resources
Jumlah minimum sumber daya komputasi. Atur nilainya menjadi 0 ACU.
Maximum Computing Resources
Jumlah maksimum sumber daya komputasi. Atur parameter ini dalam rentang 8 ACU hingga 1.024 ACU dengan penambahan 8 ACU. Jika Anda ingin mengubah nilai maksimum dari parameter Sumber Daya Komputasi Maksimum, ajukan tiket.
Spot Instance
Aktifkan Instans Spot.
Setelah Anda mengaktifkan fitur instans spot untuk grup sumber daya pekerjaan, pekerjaan Spark yang berjalan di grup sumber daya pekerjaan mencoba menggunakan sumber daya instans spot.
Klik OK.
Setelah membuat grup sumber daya pekerjaan, periksa apakah fitur instans spot diaktifkan di kolom Spot Instance dari grup sumber daya.
Setelah mengaktifkan fitur instans spot, pekerjaan Spark yang berjalan di grup sumber daya pekerjaan mencoba menggunakan sumber daya instans spot.
(Opsional) Nonaktifkan instans spot untuk pekerjaan Spark
Jika Anda tidak ingin pekerjaan Spark menggunakan sumber daya instans spot, konfigurasikan parameter berikut di parameter CONF untuk pekerjaan Spark:
Parameter | Diperlukan | Deskripsi |
spark.adb.spotInstance.disabled | Tidak | Menentukan apakah akan menonaktifkan penggunaan sumber daya instans spot untuk pekerjaan Spark. Nilai valid:
|
Setelah menjalankan pekerjaan Spark, periksa nilai parameter Spot Instance Resource Usage untuk memastikan penggunaan sumber daya instans spot dinonaktifkan. Jika nilai parameter Spot Instance Resource Usage adalah 0, pekerjaan Spark tidak menggunakan sumber daya instans spot.
Monitor penggunaan instans spot
Setelah pekerjaan Spark selesai, periksa halaman Monitoring grup sumber daya pekerjaan untuk melihat penggunaan sumber daya instans spot.
Nonaktifkan fitur instans spot
Masuk ke Konsol AnalyticDB for MySQL. Di pojok kiri atas konsol, pilih Wilayah. Di panel navigasi di sebelah kiri, klik Clusters. Temukan kluster yang ingin Anda kelola dan klik ID kluster.
Di panel navigasi di sebelah kiri, pilih Cluster Management > Resource Management. Pada halaman yang muncul, klik tab Resource Groups.
Temukan grup sumber daya pekerjaan yang ingin Anda kelola dan klik Modify di kolom Actions.
Di panel Modify Resource Group, nonaktifkan Instans Spot.
Klik OK.
Periksa apakah fitur instans spot dinonaktifkan di kolom Spot Instance dari grup sumber daya pekerjaan.
Operasi terkait
Nama API | Deskripsi |
Membuat grup sumber daya untuk kluster Edisi Perusahaan, Edisi Dasar, dan Edisi Data Lakehouse AnalyticDB for MySQL. | |
Memodifikasi grup sumber daya untuk kluster Edisi Perusahaan, Edisi Dasar, dan Edisi Data Lakehouse AnalyticDB for MySQL. | |
Mengquery informasi tentang grup sumber daya untuk kluster Edisi Perusahaan, Edisi Dasar, dan Edisi Data Lakehouse AnalyticDB for MySQL. | |
Mengquery informasi tentang penggunaan sumber daya untuk kluster Edisi Perusahaan, Edisi Dasar, dan Edisi Data Lakehouse AnalyticDB for MySQL. |