Topik ini menggunakan Alibaba Cloud Linux sebagai contoh untuk menunjukkan cara membuat sistem file Cloud Parallel File Storage (CPFS) dan memasangnya menggunakan klien CPFS-POSIX. Klien CPFS-POSIX terhubung ke beberapa node data secara simultan serta menyediakan antarmuka POSIX dan MPI-IO standar bagi aplikasi, sehingga menjamin performa tinggi sekaligus kompatibilitas aplikasi.
-
Klien CPFS-POSIX menawarkan performa I/O yang lebih tinggi dibandingkan klien CPFS-NFS. Saat Anda membuat titik pemasangan POSIX, sistem secara otomatis membuat tiga instans Elastic Compute Service (ECS) bayar sesuai penggunaan di Akun Alibaba Cloud Anda untuk mengelola kluster klien CPFS-POSIX. Tipe instans adalah ecs.g*.large (g6 atau versi lebih baru), dan Anda dikenai biaya berdasarkan harga standar ECS untuk wilayah tersebut. Pastikan Akun Alibaba Cloud Anda memiliki izin untuk membeli tipe instans ini di zona target. Untuk detail harga, lihat ECS Pricing.
-
Jika performa tinggi bukan kebutuhan utama, kami merekomendasikan penggunaan klien CPFS-NFS untuk mengakses sistem file CPFS. Metode ini tidak memerlukan tiga instans ECS tambahan. Untuk informasi lebih lanjut tentang layanan protokol, lihat Protocol services.
Prasyarat
Sebelum memulai, pastikan persyaratan berikut terpenuhi:
-
Aktifkan layanan CPFS: Saat pertama kali login ke Konsol CPFS, ikuti petunjuk di layar untuk mengaktifkan layanan.
-
Instans ECS: Instans ECS yang menjalankan sistem operasi yang didukung oleh klien CPFS-POSIX. Untuk informasi tentang sistem operasi yang didukung dan persyaratan instans, lihat Create an ECS instance.
Tipe sistem operasi
Distribusi
Versi kernel
Alibaba Cloud Linux
Alibaba Cloud Linux 2.1903 64-bit
4.19.91-27.4.al7.x86_64 dan versi sebelumnya
RHEL atau CentOS
8.4
4.18.0-305.19.1.el8_4
8.3
4.18.0-240.22.1.el8_3
8.2
4.18.0-193.28.1.el8_2
8.1
4.18.0-147.8.1.el8_1
8.0
4.18.0-80.11.2.el8_0
7.9
3.10.0-1160.42.2.el7
7.8
3.10.0-1127.19.1.el7
7.7
3.10.0-1062.18.1.el7
7.6
3.10.0-957.54.1.el7
7.5
3.10.0-862.14.4.el7
7.4
3.10.0-693.2.2.el7
7.3
3.10.0-514.26.2.el7
7.2
3.10.0-514.26.2.el7
Ubuntu
20.04.3 LTS
5.4.0-86-generic
Catatan-
Klien CPFS-POSIX memerlukan minimal 2 core CPU dan memori 4 GiB.
-
Jika versi kernel sistem operasi Anda tidak didukung oleh klien CPFS-POSIX, gunakan klien CPFS-NFS untuk mengakses CPFS.
-
Untuk pengguna CentOS: Proyek CentOS resmi telah mengumumkan rencana akhir masa pakai (EOL) untuk CentOS Linux. Image CentOS Linux publik di Alibaba Cloud berasal dari distribusi CentOS resmi. Setelah CentOS Linux mencapai EOL, Alibaba Cloud tidak akan lagi memberikan dukungan untuknya. Untuk menghindari gangguan, lakukan migrasi ke sistem operasi yang didukung. Untuk informasi lebih lanjut, lihat Operating system migration.
-
Topik ini menggunakan instans ECS dengan konfigurasi berikut:
-
Sistem operasi: Alibaba Cloud Linux 2.1903 LTS 64-bit
-
Versi kernel: 4.19.91-27.4.al7.x86_64
-
vCPU: 2 vCPU
-
Memori: 8 GiB
-
Wilayah: China (Shanghai)
-
Zona: Shanghai Zona B
-
Alamat IP internal: 192.168.1.249
Prosedur
Proses penerapan terdiri dari lima tahap:
-
Buat sistem file CPFS: Buat sistem file di wilayah dan zona target.
-
Tambahkan titik pemasangan POSIX dan gabungkan ke grup keamanan node quorum: Buat titik pemasangan dan tambahkan instans ECS ke grup keamanan node quorum untuk memastikan klien dapat terhubung ke lapisan kontrol.
-
Instal klien CPFS-POSIX: Konfigurasikan login tanpa password dan jalankan skrip instalasi jarak jauh.
-
Pasang sistem file: Jalankan perintah mount pada instans ECS.
-
Verifikasi pemasangan: Pastikan sistem file dapat diakses.
Langkah 2: Tambahkan titik pemasangan dan gabungkan ke grup keamanan
-
Di panel navigasi kiri, buka File Systems > File System List dan klik nama sistem file yang telah Anda buat.
-
Di halaman detail sistem file, klik tab Mount Targets.
-
Tambahkan titik pemasangan klien POSIX.
-
Klik Add Mount Target for POSIX Client dan konfigurasikan parameter yang diperlukan. Gunakan nilai default untuk parameter lain atau sesuaikan sesuai kebutuhan.
Parameter
Deskripsi
vSwitch
Pilih vSwitch yang berada dalam VPC yang sama dengan instans ECS Anda.
-
Klik OK.
-
-
Dapatkan informasi grup keamanan node quorum.
-
Di bagian Client Management Nodes, klik instans ECS pertama dalam daftar.
-
Di halaman detail instans ECS, klik tab Security Groups dan catat informasi grup keamanannya.
-
-
Tambahkan instans ECS target ke grup keamanan node quorum.
-
Di panel navigasi kiri, pilih Instances & Images > Instances.
-
Klik ID instans ECS tempat Anda berencana memasang sistem file CPFS.
-
Klik tab Security Groups dan klik Join Security Group. Pilih grup keamanan node quorum yang telah Anda catat sebelumnya (<FSID>-<GENID>-qr-sg) dan klik OK.
-
Langkah 3: Instal klien CPFS-POSIX
-
Di panel navigasi kiri, pilih Instances & Images > Instances.
-
Di kolom Operation untuk node manajemen (instans ECS dengan nama mirip cpfs-****-000001-qr-001), klik Connect. Untuk informasi tentang cara menghubungkan ke instans, lihat Connect to an instance.
Untuk menemukan kata sandi logon untuk node manajemen klien pertama, buka halaman Mount Targets untuk sistem file Anda di Konsol NAS. Di bagian Client Management Nodes, catat nilai pada kolom Initial Password.
-
Konfigurasikan login tanpa password dari node manajemen ke instans ECS target.
CatatanSebelum mengonfigurasi login tanpa password untuk beberapa instans ECS, kami merekomendasikan agar Anda menetapkan kata sandi logon yang sama untuk semua instans target. Jika tidak, Anda harus membuat file client.list terpisah untuk setiap instans dan mengulangi operasi di Langkah 6 hingga 8.
-
Buat file
client.listdan tambahkan alamat IP internal instans ECS target.-
Buat file
client.list.touch client.list -
Buka file
client.listdan tambahkan alamat IP internal instans ECS target.192.168.1.249CatatanUntuk menambahkan beberapa instans ECS, masukkan setiap alamat IP internal pada baris baru.
-
Simpan dan tutup file.
-
-
Buat file
qr.listdan tambahkan alamat IP node quorum.-
Buat file
qr.list.touch qr.list -
Buka file
qr.listdan tambahkan alamat IP node quorum. Berikut contohnya:192.168.*.*** 192.168.*.*** 192.168.*.***Anda dapat menemukan alamat IP node quorum di bagian Client Management node di konsol.
-
Simpan dan tutup file.
-
-
Buat dan konfigurasikan skrip
auto_ssh.sh.-
Buat file
auto_ssh.sh.touch auto_ssh.sh -
Buka file
auto_ssh.shdan tambahkan konten berikut.#!/usr/bin/expect set timeout 10 set username [lindex $argv 0] set password [lindex $argv 1] set hostname [lindex $argv 2] spawn ssh-copy-id -i /root/.ssh/id_rsa.pub $username@$hostname expect { #first connect, no public key in ~/.ssh/known_hosts "Are you sure you want to continue connecting (yes/no)?" { send "yes\r" expect "password:" send "$password\r" } #already has public key in ~/.ssh/known_hosts "password:" { send "$password\r" } "Now try logging into the machine" { #it has authorized, do nothing! } "already exist on the remote" { #it has authorized, do nothing! } } expect eof -
Simpan dan tutup file.
-
-
-
Jadikan skrip
auto_ssh.shdapat dieksekusi.chmod +x auto_ssh.sh -
Tetapkan variabel kata sandi untuk instans ECS target.
PASSWD='<your_ecs_instance_password>'CatatanJika instans ECS memiliki kata sandi login yang berbeda, Anda perlu membuat file client.list untuk setiap instans dan mengulangi Langkah 6 hingga Langkah 8.
-
Konfigurasikan login tanpa password untuk node klien.
cat client.list | xargs -I {} ./auto_ssh.sh root $PASSWD {} -
Instal klien CPFS secara jarak jauh pada instans ECS yang tercantum di client.list. Pesan yang dikembalikan
Complete!menunjukkan bahwa instalasi berhasil.region_id=`curl http://100.100.100.200/latest/meta-data/region-id`; wget https://cpfs-${region_id}-pre.oss-${region_id}-internal.aliyuncs.com/cpfs/CPFS2.3.4-CentOS.tar.gz -O /root/CPFS2.3.4-CentOS.tar.gz; cat client.list | xargs -I {} scp /root/CPFS2.3.4-CentOS.tar.gz {}:/root/ pssh -ih client.list "tar xzvf /root/CPFS2.3.4-CentOS.tar.gz" pssh -ih client.list "cd /root/CPFS2.3.4-CentOS/CentOS7;yum install -y gpfs.adv-*.x86_64.rpm gpfs.base-*.x86_64.rpm gpfs.docs-*.noarch.rpm gpfs.gpl-*.noarch.rpm gpfs.gskit-*.x86_64.rpm gpfs.gss.pmsensors-*.x86_64.rpm gpfs.license.dm-*.x86_64.rpm gpfs.msg.en_US-*.noarch.rpm" -
Kompilasi ekstensi kernel secara jarak jauh pada instans ECS yang tercantum di file
client.list.pssh -ih client.list "/usr/bin/yum -y install cpp gcc-c++ elfutils-libelf-devel" pssh -ih client.list "export LINUX_DISTRIBUTION=KERNEL_ORG_LINUX; /usr/lpp/mmfs/bin/mmbuildgpl"Setelah lingkungan dikonfigurasi, Anda dapat membuat gambar kustom dari instans tersebut. Hal ini memungkinkan Anda membuat instans ECS baru dari gambar tersebut tanpa perlu mengulangi konfigurasi. Untuk informasi lebih lanjut tentang cara membuat gambar kustom, lihat Overview of custom images.
Langkah 4: Pasang sistem file CPFS
Langkah 5: Verifikasi pemasangan
Setelah sistem file dipasang, sistem tersebut berfungsi sebagai direktori standar pada instans ECS, tempat Anda dapat membaca dan menulis file.
-
Hubungkan ke instans ECS target. Untuk informasi lebih lanjut, lihat Connect to an ECS instance.
-
Jalankan perintah berikut untuk memverifikasi bahwa titik pemasangan terdaftar.
df -hContoh output:
Filesystem Size Used Avail Use% Mounted on devtmpfs 7.6G 0 7.6G 0% /dev tmpfs 7.6G 0 7.6G 0% /dev/shm tmpfs 7.6G 512K 7.6G 1% /run tmpfs 7.6G 0 7.6G 0% /sys/fs/cgroup /dev/vda1 40G 3.4G 37G 9% / tmpfs 1.6G 0 1.6G 0% /run/user/0 01a392bac3****-000001 3.6T 432M 3.6T 1% /cpfs/01a392bac3****-000001Pada output tersebut, /cpfs/01a392bac3****-000001 adalah titik pemasangan.
-
Jalankan perintah berikut untuk berpindah ke direktori sistem file CPFS.
cd <mount_target>Anda dapat menggunakan sistem file CPFS seperti direktori biasa.