Mount sistem file POSIX CPFS - Cloud Parallel File Storage

Klien POSIX dapat terhubung secara bersamaan ke beberapa node data dan menyediakan antarmuka standar POSIX serta MPI-IO untuk aplikasi, sehingga memberikan kinerja optimal dan kompatibilitas antarmuka aplikasi. Topik ini menggunakan Alibaba Cloud Linux sebagai contoh untuk menjelaskan cara men-deploy sistem file Cloud Parallel File Storage (CPFS) dan mengaksesnya melalui klien CPFS-POSIX.

Catatan

Klien CPFS-POSIX memberikan kinerja I/O yang lebih tinggi dibandingkan klien CPFS-NFS. Saat Anda membuat titik pemasangan POSIX untuk sistem file CPFS, tiga instance Elastic Compute Service (ECS) bayar sesuai penggunaan akan dibuat secara otomatis di Akun Alibaba Cloud Anda untuk mengelola kluster klien CPFS-POSIX. Tipe instans ECS adalah ecs.g*.large (tipe instans g6 atau yang lebih baru). Anda akan dikenai biaya untuk instance-instance tersebut berdasarkan harga ECS di wilayah terkait. Pastikan Akun Alibaba Cloud Anda memungkinkan pembelian tipe instans ini di zona yang ditentukan. Untuk informasi selengkapnya, lihat Harga Elastic Compute Service.
Jika tidak memiliki persyaratan kinerja tinggi, Anda dapat mengaktifkan layanan protokol tujuan umum di konsol dan menggunakan klien CPFS-NFS untuk mengakses CPFS. Dengan klien CPFS-NFS, tiga instance ECS tambahan tidak diperlukan. Untuk informasi selengkapnya, lihat Layanan protokol.

Prasyarat

Layanan CPFS telah diaktifkan.
Saat pertama kali masuk ke Konsol CPFS, ikuti petunjuk di layar untuk mengaktifkan layanan CPFS.

Anda telah membuat instance ECS yang menjalankan sistem operasi yang didukung oleh klien CPFS-POSIX. Untuk informasi selengkapnya, lihat Membuat instance ECS.

Sistem operasi	Distribusi	Versi kernel
Alibaba Cloud Linux	Alibaba Cloud Linux 2.1903 64-bit	4.19.91-27.4.al7.x86_64 dan versi sebelumnya
Red Hat Enterprise Linux (RHEL) atau CentOS	8.4	4.18.0-305.19.1.el8_4
	8.3	4.18.0-240.22.1.el8_3
	8.2	4.18.0-193.28.1.el8_2
	8.1	4.18.0-147.8.1.el8_1
	8.0	4.18.0-80.11.2.el8_0
	7.9	3.10.0-1160.42.2.el7
	7.8	3.10.0-1127.19.1.el7
	7.7	3.10.0-1062.18.1.el7
	7.6	3.10.0-957.54.1.el7
	7.5	3.10.0-862.14.4.el7
	7.4	3.10.0-693.2.2.el7
	7.3	3.10.0-514.26.2.el7
	7.2	3.10.0-514.26.2.el7
Ubuntu	20.04.3 LTS	5.4.0-86-generic

Catatan

Klien CPFS-POSIX memerlukan setidaknya 2 core CPU dan memori 4 GiB agar dapat berjalan dengan baik pada node komputasi.
Kami menyarankan menggunakan klien CPFS-NFS untuk mengakses sistem file CPFS jika versi kernel sistem operasi Anda tidak didukung oleh klien CPFS-POSIX.
Proyek CentOS telah mengumumkan peralihan fokus dari CentOS Linux ke CentOS Stream. Citra publik CentOS Alibaba Cloud berasal dari CentOS. Ketika proyek CentOS mengakhiri dukungan untuk CentOS, Alibaba Cloud juga menghentikan dukungan untuk distribusi Linux ini. Untuk mencegah dampak akibat berakhirnya dukungan CentOS, kami menyarankan Anda segera mengganti sistem operasi CentOS. Untuk informasi selengkapnya, lihat Migrasi sistem operasi instance ECS.

Topik ini menggunakan instance ECS dengan konfigurasi berikut:

Sistem operasi: Alibaba Cloud Linux 2.1903 LTS 64-bit
Versi kernel: 4.19.91-27.4.al7.x86_64
vCPU: 2 vCPU
Memori: 8 GiB
Wilayah: Tiongkok (Shanghai)
Zona: Zona B Shanghai
Alamat IP internal: 192.168.1.249

Prosedur

Langkah 1: Membuat sistem file

Masuk ke Konsol CPFS.
Di bagian bawah halaman Overview, klik Create CPFS.

Pada halaman CPFS (Pay-As-You-Go), konfigurasikan parameter yang diperlukan seperti dijelaskan dalam tabel berikut. Untuk parameter lainnya, gunakan konfigurasi default atau tentukan nilai kustom sesuai kebutuhan. Untuk informasi selengkapnya, lihat Membuat sistem file.

Parameter	Deskripsi
Region	Dari daftar drop-down, pilih China (Shanghai).
Zone	Pilih Shanghai Zone B. Sistem file dan instance ECS harus berada di zona yang sama.
Type	Pilih 100 MB/s/TiB Baseline.
Storage Capacity	Pilih kapasitas penyimpanan sistem file. Topik ini menggunakan 3600 GiB sebagai contoh.
VPC	Pilih VPC yang sudah ada.
vSwitch	Pilih vSwitch yang berada di VPC yang dipilih.

Klik Buy Now dan ikuti petunjuk di layar untuk menyelesaikan pembelian.

Langkah 2: Menambahkan titik pemasangan POSIX dan menambahkan instance ECS ke grup keamanan node quorum

Pada panel navigasi di sebelah kiri, pilih File System > File System List dan klik nama sistem file yang telah Anda buat.
Pada halaman detail sistem file, klik tab Mounting.
Tambahkan titik pemasangan klien POSIX.
1. Klik Add POSIX Client Mount Target dan konfigurasikan parameter yang diperlukan. Untuk parameter lainnya, konfigurasikan sesuai kebutuhan atau pertahankan konfigurasi default.
  VSwitch: Pilih vSwitch yang berada di VPC yang sama dengan instance ECS.
2. Klik OK.
Dapatkan informasi grup keamanan untuk node quorum.
1. Di area Client Management Node, klik instance ECS pertama dalam daftar untuk membuka halaman detailnya.
2. Pada halaman detail instance ECS, klik tab Security Group dan catat informasi grup keamanannya.
Tambahkan instance ECS tujuan ke grup keamanan node quorum CPFS.
1. Pada panel navigasi di sebelah kiri, pilih Instances & Images > Instances.
2. Klik ID instance ECS tempat Anda ingin memasang sistem file CPFS untuk membuka halaman detailnya.
3. Klik tab Security Group, lalu klik Change Security Group.
4. Pada kotak dialog Change Security Group, pilih grup keamanan node quorum yang telah Anda catat pada langkah sebelumnya (<FSID>-<GENID>-qr-sg) dari daftar drop-down Security Group, lalu klik OK.

Langkah 3: Menginstal klien CPFS-POSIX

Pada panel navigasi di sebelah kiri, pilih Instances & Images > Instances.
Pada kolom Actions instance ECS untuk instalasi klien CPFS-POSIX (cpfs-****-000001-qr-001), klik Remote Connection. Masuk ke instance tersebut. Untuk informasi selengkapnya tentang cara menghubungkan ke instance ECS, lihat Menghubungkan ke instance.
Anda dapat masuk ke konsol NAS. Pada tab Mounting sistem file yang telah Anda buat, Anda dapat melihat kata sandi instance ECS pertama di area Client Management Node.
Aktifkan logon tanpa kata sandi dari node quorum ke instance ECS tujuan.
Catatan
Sebelum mengonfigurasi logon tanpa kata sandi antara beberapa instance ECS dan node bidang kontrol CPFS, kami menyarankan menetapkan kata sandi logon yang sama untuk semua instance ECS tujuan. Jika tidak, Anda perlu membuat file client.list dan mengulangi prosedur dari Langkah 6 hingga Langkah 8 beberapa kali.
1. Buat file client.list dan tambahkan alamat IP internal instance ECS tujuan ke dalam file tersebut.
  1. Buat file client.list.
```
touch client.list
```
  2. Jalankan perintah vi client.list untuk membuka file client.list dan tambahkan alamat IP internal instance ECS tujuan.
```
192.168.1.249
```
    Catatan
    Anda dapat menambahkan satu atau beberapa instance ECS. Jika menambahkan beberapa instance, masukkan alamat IP internal masing-masing instance pada baris baru.
  3. Simpan dan tutup file tersebut.
2. Buat file qr.list dan tambahkan alamat IP node quorum.
  1. Buat file qr.list.
```
touch qr.list
```
  2. Jalankan perintah vi qr.list untuk membuka file qr.list dan tambahkan alamat IP node bidang kontrol. Berikut ini contohnya:
```
192.168.*.***
192.168.*.***
192.168.*.***
```
    Anda dapat memperoleh alamat IP node quorum klien CPFS-POSIX dari area Client Management Node.
  3. Simpan dan tutup file tersebut.
3. Buat dan konfigurasikan skrip auto_ssh.sh.
  1. Buat file auto_ssh.sh.
```
touch auto_ssh.sh
```
  2. Jalankan perintah vi auto_ssh.sh untuk membuka file auto_ssh.sh dan tambahkan konten berikut.
```
#!/usr/bin/expect
set timeout 10
set username [lindex $argv 0]
set password [lindex $argv 1]
set hostname [lindex $argv 2]
spawn ssh-copy-id -i /root/.ssh/id_rsa.pub $username@$hostname
expect {
 #first connect, no public key in ~/.ssh/known_hosts
 "Are you sure you want to continue connecting (yes/no)?" {
 send "yes\r"
 expect "password:"
 send "$password\r"
 }
 #already has public key in ~/.ssh/known_hosts
 "password:" {
 send "$password\r"
 }
 "Now try logging into the machine" {
 #it has authorized, do nothing!
 }
 "already exist on the remote" {
 #it has authorized, do nothing!
 }
}
expect eof
```
  3. Simpan dan tutup file tersebut.
Jalankan perintah berikut untuk memberikan izin eksekusi pengguna pada file auto_ssh.sh.
```
chmod +x auto_ssh.sh
```
Jalankan perintah berikut untuk mencatat kata sandi instance ECS tujuan ke file client.list.
```
PASSWD='yourpassword'
```
Catatan
Jika instance ECS tujuan memiliki kata sandi yang berbeda, buat file client.list untuk masing-masing instance dan ulangi Langkah 6 hingga Langkah 8.
Jalankan perintah berikut untuk mengonfigurasi logon tanpa kata sandi untuk node quorum.
```
cat client.list | xargs -I {} ./auto_ssh.sh root $PASSWD {}
```

Jalankan perintah berikut untuk menginstal klien CPFS secara jarak jauh pada instance ECS yang ditentukan dalam file client.list. Instalasi berhasil jika keluaran berisi Complete!.

region_id=`curl http://100.100.100.200/latest/meta-data/region-id`;
wget https://cpfs-${region_id}-pre.oss-${region_id}-internal.aliyuncs.com/cpfs/CPFS2.3.4-CentOS.tar.gz -O /root/CPFS2.3.4-CentOS.tar.gz;
cat client.list | xargs -I {} scp /root/CPFS2.3.4-CentOS.tar.gz {}:/root/
pssh -ih client.list "tar xzvf /root/CPFS2.3.4-CentOS.tar.gz"
pssh -ih client.list "cd /root/CPFS2.3.4-CentOS/CentOS7;yum install -y gpfs.adv-*.x86_64.rpm gpfs.base-*.x86_64.rpm gpfs.docs-*.noarch.rpm gpfs.gpl-*.noarch.rpm gpfs.gskit-*.x86_64.rpm gpfs.gss.pmsensors-*.x86_64.rpm gpfs.license.dm-*.x86_64.rpm gpfs.msg.en_US-*.noarch.rpm"

Jalankan perintah berikut untuk mengompilasi ekstensi kernel secara jarak jauh untuk instance ECS yang ditentukan dalam file client.list.
```
pssh -ih client.list "/usr/bin/yum -y install cpp gcc-c++ elfutils-libelf-devel" 
pssh -ih client.list "export LINUX_DISTRIBUTION=KERNEL_ORG_LINUX; /usr/lpp/mmfs/bin/mmbuildgpl"
```
Setelah konfigurasi selesai, Anda dapat membuat citra lingkungan tersebut. Untuk menambahkan instance ECS baru guna mengakses sistem file CPFS, Anda dapat membuat instance dari citra tersebut tanpa perlu mengonfigurasi ulang lingkungan. Untuk informasi selengkapnya tentang cara membuat citra, lihat Ikhtisar Citra Kustom.

Langkah 4: Memasang sistem file CPFS

Jalankan perintah berikut untuk memperbarui file hosts pada node bidang kontrol dan instance ECS tujuan.

pssh -ih client.list "hostname;ifconfig eth0 | grep -v inet6 | grep inet | awk '{print \$2}'" | grep -v SUCC | sed 'N;s/\n/ /' > /tmp/ip-host-client.list
pssh -ih qr.list "hostname;ifconfig eth0 | grep -v inet6 | grep inet | awk '{print \$2}'" | grep -v SUCC | sed 'N;s/\n/ /' > /tmp/ip-host-qr.list
cat /tmp/ip-host-client.list | awk '{print $2,$1,$1"t_MAGICTAG"}' > /etc/client-hosts.append
cat /tmp/ip-host-qr.list | awk '{print $2,$1,$1"t_MAGICTAG"}' > /etc/qr-hosts.append
pssh -ih client.list "cp /etc/hosts hosts.bak"
pssh -ih qr.list "cp /etc/hosts hosts.bak"
cat client.list | xargs -I {} scp /etc/client-hosts.append {}:/etc/
cat client.list | xargs -I {} scp /etc/qr-hosts.append {}:/etc/
cat qr.list | xargs -I {} scp /etc/client-hosts.append {}:/etc/
pssh -ih client.list "cat /etc/client-hosts.append >> /etc/hosts"
pssh -ih client.list "cat /etc/qr-hosts.append >> /etc/hosts"
pssh -ih qr.list "cat /etc/client-hosts.append >> /etc/hosts"

Jalankan perintah berikut untuk menambahkan instance ECS tujuan ke kluster CPFS.

Jalankan perintah-perintah tersebut.

mmaddnode -N client.list
mmchlicense client --accept -N client.list
mmchnode --perfmon -N client.list
mmstartup -N client.list
mmgetstate -a

Lihat contoh tanggapan.

Jika status node instance ECS tujuan berubah menjadi active, node tersebut berhasil ditambahkan ke kluster CPFS.

 Node number  Node name                            GPFS state  
---------------------------------------------------------------
           1  cpfs-2989198****323d3-000001-qr-001  active
           2  cpfs-2989198****323d3-000001-qr-002  active
           3  cpfs-2989198****323d3-000001-qr-003  active
           4  iZ0jl91t3p5kehvr6i5****              active

Jalankan perintah berikut untuk memastikan daftar node berisi instance ECS tujuan.

Jalankan perintah tersebut.
```
mmlscluster
```

Lihat contoh tanggapan.

 Node  Daemon node name                     IP address    Admin node name                      Designation
-----------------------------------------------------------------------------------------------------------
   1   cpfs-2989198****323d3-000001-qr-001  192.168.3.57  cpfs-2989198****323d3-000001-qr-001  quorum-manager-perfmon
   2   cpfs-2989198****323d3-000001-qr-002  192.168.3.58  cpfs-2989198****323d3-000001-qr-002  quorum-manager-perfmon
   3   cpfs-2989198****323d3-000001-qr-003  192.168.3.56  cpfs-2989198****323d3-000001-qr-003  quorum-manager-perfmon
   4   iZ0jl91t3p5kehvr6i5****             192.168.3.59  iZ0jl91t3p5kehvr6i5****            perfmon

Langkah 5: Memverifikasi pemasangan

Setelah sistem file dipasang, Anda dapat mengakses dan menggunakannya sebagai direktori biasa pada instance ECS.

Hubungkan ke instance ECS tujuan. Untuk informasi selengkapnya, lihat Menghubungkan ke instance ECS.

Jalankan perintah berikut untuk mengkueri titik pemasangan.

df -h

Berikut ini contoh keluarannya:

Filesystem               Size  Used Avail Use% Mounted on
devtmpfs                 7.6G     0  7.6G   0% /dev
tmpfs                    7.6G     0  7.6G   0% /dev/shm
tmpfs                    7.6G  512K  7.6G   1% /run
tmpfs                    7.6G     0  7.6G   0% /sys/fs/cgroup
/dev/vda1                 40G  3.4G   37G   9% /
tmpfs                    1.6G     0  1.6G   0% /run/user/0
01a392bac3****-000001    3.6T  432M  3.6T   1% /cpfs/01a392bac3****-000001

Pada keluaran tersebut, /cpfs/01a392bac3****-000001 adalah titik pemasangannya.

Jalankan perintah berikut untuk mengubah direktori ke sistem file CPFS.
```
cd <mount_target>
```
Sekarang, Anda dapat mengakses dan menggunakan sistem file CPFS sebagai direktori biasa.