Lors de la soumission d'une tâche d'entraînement Deep Learning Containers (DLC), configurez Object Storage Service (OSS), File Storage NAS (NAS), Cloud Parallel File Storage (CPFS) ou le stockage MaxCompute via la configuration du code ou des montages. Vous pouvez ainsi lire et écrire directement des données dans le stockage spécifié pendant l'entraînement.
Prérequis
Activez PAI (DLC) et créez un espace de travail. Pour plus d'informations, consultez la rubrique Activer PAI et créer un espace de travail par défaut.
-
(Facultatif) Pour utiliser le stockage Object Storage Service (OSS) :
Activez OSS et accordez les autorisations requises à PAI. Pour plus d'informations, consultez les rubriques Activer OSS et Autoriser les comptes de service PAI.
Créez un compartiment OSS. Pour plus d'informations, consultez la rubrique Démarrage rapide via la console.
(Facultatif) Pour utiliser File Storage NAS (NAS), créez un système de fichiers NAS généraliste. Pour plus d'informations, consultez la rubrique Créer un système de fichiers.
(Facultatif) Pour utiliser le stockage MaxCompute, activez MaxCompute et créez un projet MaxCompute. Pour plus d'informations, consultez les rubriques Activer MaxCompute et Créer un projet MaxCompute.
Utiliser le stockage OSS
Configurer le stockage OSS avec des montages
Lors de la création d'une tâche d'entraînement Deep Learning Containers (DLC), vous pouvez monter Object Storage Service (OSS). Les types de montage suivants sont pris en charge. Pour les détails de configuration, consultez la rubrique Créer une tâche d'entraînement.
|
Type de montage |
Description |
|
Mount dataset |
Montez un jeu de données personnalisé ou public.
Sélectionnez un jeu de données de type OSS et configurez le Mount Path. Lors de l'exécution de la tâche DLC, le système accède aux données OSS via ce chemin. |
|
Mount storage |
Montez un chemin d'accès à un compartiment OSS et utilisez le commutateur Lecture seule pour définir les autorisations de lecture et d'écriture. |
DLC prend en charge JindoFuse et ossfs pour le montage d'OSS :
JindoFuse : méthode de montage par défaut. Sa configuration par défaut présente des limitations fonctionnelles et peut ne pas convenir à tous les scénarios. Pour plus de détails, consultez la rubrique JindoFuse. Ajustez les paramètres selon vos besoins. Pour plus d'informations, consultez la rubrique JindoFuse.
ossfs : lors du montage d'un chemin d'accès à un compartiment OSS avec la méthode de montage de stockage, spécifiez
{"mountType":"ossfs"}dans les Paramètres avancés pour utiliser ossfs.
Configurer le stockage OSS sans montages
Les tâches DLC peuvent lire et écrire dans Object Storage Service (OSS) à l'aide du connecteur OSS PyTorch ou d'un SDK OSS. Lorsque vous créez une tâche d'entraînement, configurez les fichiers de code appropriés. Pour des exemples de code, consultez les rubriques Connecteur OSS pour l'IA/ML ou SDK OSS.
Dans la section Configuration du code, sous l'onglet Configuration en ligne, sélectionnez la source du code dans la liste déroulante et saisissez le Chemin de montage pour votre code.
Utiliser le stockage NAS/CPFS
Lors de la création d'une tâche Deep Learning Containers (DLC), utilisez File Storage NAS (NAS) ou le stockage Cloud Parallel File Storage (CPFS) en liant un jeu de données personnalisé de type NAS/CPFS ou en utilisant un montage de stockage. Pour les détails de configuration, consultez la rubrique Utiliser NAS/CPFS.
Dans la section Montage du jeu de données, définissez le Chemin de montage, par exemple /mnt/data/. Dans la section Montage du stockage, configurez successivement Sélectionner un système de fichiers, Point de montage du système de fichiers, Chemin du système de fichiers et Chemin de montage, par exemple /mnt/data2/. Si le type de stockage sélectionné présente un risque lié à une zone de disponibilité unique, un avertissement orange s'affiche.
|
Type de montage |
Description |
|
Mount dataset |
Montez un jeu de données personnalisé. Utilisez le commutateur Lecture seule pour définir les autorisations de lecture et d'écriture. |
|
Mount storage |
Montez un système de fichiers File Storage NAS (NAS) ou Cloud Parallel File Storage (CPFS) et utilisez le commutateur Lecture seule pour définir les autorisations de lecture et d'écriture. De plus, dans les Paramètres avancés, définissez le paramètre nconnect pour améliorer le débit lorsque les conteneurs DLC accèdent au NAS. nconnect est une option de montage Linux pour les clients NFS qui augmente le débit en établissant davantage de connexions de transport TCP entre le client et le serveur. Pour plus d'informations, consultez la rubrique Comment résoudre les problèmes de performances médiocres lors de l'accès au NAS depuis un système d'exploitation Linux ?. Exemple : |
Utiliser le stockage MaxCompute
Vous pouvez utiliser le stockage MaxCompute sans montages. Lorsque vous créez une tâche d'entraînement, configurez les fichiers de code appropriés. Pour des exemples de code, consultez la rubrique Utiliser MaxCompute.
FAQ
Q : Tâche PAIIO « killed » sans erreur
Ce problème est dû à des ressources insuffisantes. PAIIO ne limite pas l'utilisation de la mémoire, ce qui peut entraîner une consommation importante lors de la lecture des données MaxCompute. Le processus est probablement arrêté par le système d'exploitation lorsque le conteneur manque de mémoire, car le système d'exploitation et les autres composants système consomment également des ressources.