How to quickly get started with a CPFS-POSIX file system - Cloud Parallel File Storage

Cette rubrique prend Alibaba Cloud Linux comme exemple pour illustrer la création d'un système de fichiers Cloud Parallel File Storage (CPFS) et son montage via un client CPFS-POSIX. Le client CPFS-POSIX se connecte simultanément à plusieurs nœuds de données et fournit des interfaces POSIX et MPI-IO standard aux applications, garantissant ainsi des performances élevées tout en assurant la compatibilité applicative.

Remarque

Le client CPFS-POSIX offre des performances d'E/S supérieures à celles du client CPFS-NFS. Lors de la création d'une cible de montage POSIX, le système crée automatiquement trois instances Elastic Compute Service (ECS) en paiement à l'utilisation dans votre compte Alibaba Cloud afin de gérer le cluster de clients CPFS-POSIX. Le type d'instance est ecs.g*.large (g6 ou ultérieur) et la facturation suit les tarifs ECS standards de la région concernée. Vérifiez que votre compte Alibaba Cloud dispose des permissions nécessaires pour acheter ce type d'instance dans la zone cible. Pour plus de détails sur les tarifs, consultez Tarification ECS.
Si des performances élevées ne sont pas indispensables, nous recommandons d'utiliser un client CPFS-NFS pour accéder au système de fichiers CPFS. Cette méthode ne nécessite pas les trois instances ECS supplémentaires. Pour plus d'informations sur les services de protocole, consultez Services de protocole.

Prérequis

Avant de commencer, assurez-vous que les conditions suivantes sont remplies :

Activer le service CPFS : Lors de votre première connexion à la console CPFS, suivez les instructions à l'écran pour activer le service.

Instance ECS : Une instance ECS exécutant un système d'exploitation pris en charge par le client CPFS-POSIX. Pour connaître les systèmes d'exploitation compatibles et les prérequis liés aux instances, consultez Créer une instance ECS.

Type de système d'exploitation	Distribution	Version du noyau
Alibaba Cloud Linux	Alibaba Cloud Linux 2.1903 64 bits	4.19.91-27.4.al7.x86_64 et versions antérieures
RHEL ou CentOS	8.4	4.18.0-305.19.1.el8_4
	8.3	4.18.0-240.22.1.el8_3
	8.2	4.18.0-193.28.1.el8_2
	8.1	4.18.0-147.8.1.el8_1
	8.0	4.18.0-80.11.2.el8_0
	7.9	3.10.0-1160.42.2.el7
	7.8	3.10.0-1127.19.1.el7
	7.7	3.10.0-1062.18.1.el7
	7.6	3.10.0-957.54.1.el7
	7.5	3.10.0-862.14.4.el7
	7.4	3.10.0-693.2.2.el7
	7.3	3.10.0-514.26.2.el7
	7.2	3.10.0-514.26.2.el7
Ubuntu	20.04.3 LTS	5.4.0-86-generic

Remarque

Le client CPFS-POSIX requiert au minimum 2 cœurs CPU et 4 Gio de mémoire.
Si la version du noyau de votre système d'exploitation n'est pas prise en charge par le client CPFS-POSIX, utilisez le client CPFS-NFS pour accéder à CPFS.
Pour les utilisateurs de CentOS : le projet officiel CentOS a annoncé le plan de fin de vie (EOL) de CentOS Linux. Les images publiques CentOS Linux sur Alibaba Cloud proviennent de la distribution officielle CentOS. Après la fin de vie de CentOS Linux, Alibaba Cloud ne fournira plus de support technique. Afin d'éviter toute interruption, migrez vers un système d'exploitation pris en charge. Pour plus d'informations, consultez Migration du système d'exploitation.

Cette rubrique utilise une instance ECS avec la configuration suivante :

Système d'exploitation : Alibaba Cloud Linux 2.1903 LTS 64 bits
Version du noyau : 4.19.91-27.4.al7.x86_64
vCPU : 2 vCPU
Mémoire : 8 Gio
Région : Chine (Shanghai)
Zone : Shanghai Zone B
Adresse IP interne : 192.168.1.249

Procédure

Le processus de déploiement comprend cinq étapes :

Créer un système de fichiers CPFS : Créez le système de fichiers dans la région et la zone cibles.
Ajouter une cible de montage POSIX et rejoindre le groupe de sécurité des nœuds de quorum : Créez la cible de montage et ajoutez l'instance ECS au groupe de sécurité des nœuds de quorum afin que le client puisse se connecter au plan de contrôle.
Installer le client CPFS-POSIX : Configurez la connexion sans mot de passe et exécutez le script d'installation à distance.
Monter le système de fichiers : Exécutez la commande de montage sur l'instance ECS.
Vérifier le montage : Confirmez que le système de fichiers est accessible.

Étape 2 : Ajouter une cible de montage et rejoindre un groupe de sécurité

Dans le volet de navigation de gauche, accédez à File Systems > File System List et cliquez sur le nom du système de fichiers créé.
Sur la page de détails du système de fichiers, cliquez sur l'onglet Mount Targets.

Ajoutez une cible de montage pour client POSIX.

Cliquez sur Add Mount Target for POSIX Client et configurez les paramètres requis. Conservez les valeurs par défaut pour les autres paramètres ou ajustez-les selon vos besoins.

Paramètre

Description

vSwitch

Sélectionnez le vSwitch situé dans le même VPC que votre instance ECS.

Cliquez sur OK.

Récupérez les informations du groupe de sécurité des nœuds de quorum.
1. Dans la section Client Management Nodes, cliquez sur la première instance ECS de la liste.
2. Sur la page de détails de l'instance ECS, cliquez sur l'onglet Security Groups et notez les informations du groupe de sécurité.
Ajoutez l'instance ECS cible au groupe de sécurité des nœuds de quorum.
1. Dans le volet de navigation de gauche, choisissez Instances & Images > Instances.
2. Cliquez sur l'ID de l'instance ECS sur laquelle vous souhaitez monter le système de fichiers CPFS.
3. Cliquez sur l'onglet Security Groups, puis sur Join Security Group. Sélectionnez le groupe de sécurité des nœuds de quorum noté précédemment (<FSID>-<GENID>-qr-sg) et cliquez sur OK.

Étape 3 : Installer le client CPFS-POSIX

Dans le volet de navigation de gauche, choisissez Instances & Images > Instances.
Dans la colonne Operation correspondant au nœud de gestion (une instance ECS dont le nom ressemble à cpfs-****-000001-qr-001), cliquez sur Connect. Pour savoir comment vous connecter à une instance, consultez Se connecter à une instance.

Pour obtenir le mot de passe de connexion du premier nœud de gestion client, accédez à la page Mount Targets de votre système de fichiers dans la console NAS. Dans la section Client Management Nodes, relevez la valeur indiquée dans la colonne Initial Password.
Configurez la connexion sans mot de passe du nœud de gestion vers l'instance ECS cible.

Remarque
Avant de configurer la connexion sans mot de passe pour plusieurs instances ECS, nous vous recommandons de définir le même mot de passe de connexion pour toutes les instances ECS cibles. Sinon, vous devrez créer un fichier client.list distinct pour chaque instance et répéter les opérations décrites aux étapes 6 à 8.
1. Créez un fichier client.list et ajoutez-y l'adresse IP interne de l'instance ECS cible.
  1. Créez le fichier client.list.
```
touch client.list
```
  2. Ouvrez le fichier client.list et ajoutez l'adresse IP interne de l'instance ECS cible.
```
192.168.1.249
```
    Remarque
    Pour ajouter plusieurs instances ECS, saisissez chaque adresse IP interne sur une nouvelle ligne.
  3. Enregistrez et fermez le fichier.
2. Créez un fichier qr.list et ajoutez-y les adresses IP des nœuds de quorum.
  1. Créez le fichier qr.list.
```
touch qr.list
```
  2. Ouvrez le fichier qr.list et ajoutez les adresses IP des nœuds de quorum. Voici un exemple :
```
192.168.*.***
192.168.*.***
192.168.*.***
```
    Les adresses IP des nœuds de quorum sont disponibles dans la section Client Management node de la console.
  3. Enregistrez et fermez le fichier.
3. Créez et configurez le script auto_ssh.sh.
  1. Créez le fichier auto_ssh.sh.
```
touch auto_ssh.sh
```
  2. Ouvrez le fichier auto_ssh.sh et ajoutez le contenu suivant.
```
#!/usr/bin/expect
set timeout 10
set username [lindex $argv 0]
set password [lindex $argv 1]
set hostname [lindex $argv 2]
spawn ssh-copy-id -i /root/.ssh/id_rsa.pub $username@$hostname
expect {
 #first connect, no public key in ~/.ssh/known_hosts
 "Are you sure you want to continue connecting (yes/no)?" {
 send "yes\r"
 expect "password:"
 send "$password\r"
 }
 #already has public key in ~/.ssh/known_hosts
 "password:" {
 send "$password\r"
 }
 "Now try logging into the machine" {
 #it has authorized, do nothing!
 }
 "already exist on the remote" {
 #it has authorized, do nothing!
 }
}
expect eof
```
  3. Enregistrez et fermez le fichier.
Rendez le script auto_ssh.sh exécutable.
```
chmod +x auto_ssh.sh
```
Définissez la variable de mot de passe pour l'instance ECS cible.
```
PASSWD='<your_ecs_instance_password>'
```
Remarque
Si les instances ECS ont des mots de passe de connexion différents, vous devez créer un fichier client.list pour chaque instance et répéter les étapes 6 à 8.
Configurez la connexion sans mot de passe pour les nœuds clients.
```
cat client.list | xargs -I {} ./auto_ssh.sh root $PASSWD {}
```

Installez à distance le client CPFS sur les instances ECS répertoriées dans client.list. Le message retourné Complete! confirme la réussite de l'installation.

region_id=`curl http://100.100.100.200/latest/meta-data/region-id`;
wget https://cpfs-${region_id}-pre.oss-${region_id}-internal.aliyuncs.com/cpfs/CPFS2.3.4-CentOS.tar.gz -O /root/CPFS2.3.4-CentOS.tar.gz;
cat client.list | xargs -I {} scp /root/CPFS2.3.4-CentOS.tar.gz {}:/root/
pssh -ih client.list "tar xzvf /root/CPFS2.3.4-CentOS.tar.gz"
pssh -ih client.list "cd /root/CPFS2.3.4-CentOS/CentOS7;yum install -y gpfs.adv-*.x86_64.rpm gpfs.base-*.x86_64.rpm gpfs.docs-*.noarch.rpm gpfs.gpl-*.noarch.rpm gpfs.gskit-*.x86_64.rpm gpfs.gss.pmsensors-*.x86_64.rpm gpfs.license.dm-*.x86_64.rpm gpfs.msg.en_US-*.noarch.rpm"

Compilez à distance l'extension du noyau sur les instances ECS listées dans le fichier client.list.
```
pssh -ih client.list "/usr/bin/yum -y install cpp gcc-c++ elfutils-libelf-devel" 
pssh -ih client.list "export LINUX_DISTRIBUTION=KERNEL_ORG_LINUX; /usr/lpp/mmfs/bin/mmbuildgpl"
```
Une fois l'environnement configuré, vous pouvez créer une image personnalisée à partir de l'instance. Cela permet de créer de nouvelles instances ECS à partir de cette image sans avoir à répéter la configuration. Pour plus d'informations sur la création d'une image personnalisée, consultez Vue d'ensemble des images personnalisées.

Étape 4 : Monter le système de fichiers CPFS

Étape 5 : Vérifier le montage

Une fois monté, le système de fichiers fonctionne comme un répertoire standard sur l'instance ECS, permettant la lecture et l'écriture de fichiers.

Connectez-vous à l'instance ECS cible. Pour plus d'informations, consultez Se connecter à une instance ECS.

Exécutez la commande suivante pour vérifier que la cible de montage apparaît bien dans la liste.

df -h

Exemple de sortie :

Filesystem               Size  Used Avail Use% Mounted on
devtmpfs                 7.6G     0  7.6G   0% /dev
tmpfs                    7.6G     0  7.6G   0% /dev/shm
tmpfs                    7.6G  512K  7.6G   1% /run
tmpfs                    7.6G     0  7.6G   0% /sys/fs/cgroup
/dev/vda1                 40G  3.4G   37G   9% /
tmpfs                    1.6G     0  1.6G   0% /run/user/0
01a392bac3****-000001    3.6T  432M  3.6T   1% /cpfs/01a392bac3****-000001

Dans cette sortie, /cpfs/01a392bac3****-000001 correspond à la cible de montage.

Exécutez la commande suivante pour accéder au répertoire du système de fichiers CPFS.
```
cd <mount_target>
```
Le système de fichiers CPFS s'utilise comme n'importe quel autre répertoire.