Cuando envíe un trabajo de entrenamiento de Deep Learning Containers (DLC), puede configurar el almacenamiento de Object Storage Service (OSS), File Storage NAS (NAS), Cloud Parallel File Storage (CPFS) o MaxCompute mediante código o puntos de montaje. Esto le permite leer y escribir datos directamente en el almacenamiento especificado durante el proceso de entrenamiento.
Requisitos previos
Activó PAI (DLC) y creó un espacio de trabajo. Para obtener más información, consulte Activate PAI and create a default workspace.
-
(Opcional) Para usar el almacenamiento de Object Storage Service (OSS), complete los siguientes pasos:
Activó OSS y otorgó los permisos obligatorios a PAI. Para obtener más información, consulte Activate OSS y Authorize PAI service accounts.
Creó un bucket de OSS. Para obtener más información, consulte Console quick start.
(Opcional) Para usar File Storage NAS (NAS), debe crear un sistema de archivos NAS de uso general. Para obtener más información, consulte Create a file system.
(Opcional) Para usar el almacenamiento de MaxCompute, debe activar MaxCompute y crear un proyecto de MaxCompute. Para obtener más información, consulte Activate MaxCompute y Create a MaxCompute project.
Uso del almacenamiento de OSS
Configuración del almacenamiento de OSS con puntos de montaje
Al crear un trabajo de entrenamiento de Deep Learning Containers (DLC), puede montar Object Storage Service (OSS). Se admiten los tipos de montaje que se indican a continuación. Para conocer los detalles de configuración, consulte Create a training job.
|
Tipo de montaje |
Descripción |
|
Mount dataset |
Monte un conjunto de datos, que puede ser personalizado o público.
Seleccione un conjunto de datos de tipo OSS y configure la ruta en Mount Path. Cuando se ejecute el trabajo de DLC, el sistema accederá a los datos de OSS en esta ruta. |
|
Mount storage |
Monte la ruta de un bucket de OSS y utilice el interruptor Read-only para establecer los permisos de lectura y escritura. |
DLC es compatible con JindoFuse y ossfs para montar OSS:
JindoFuse: este es el método de montaje predeterminado. Su configuración predeterminada tiene limitaciones funcionales y podría no ser adecuada para todos los escenarios. Para más detalles, consulte JindoFuse. Puede ajustar los parámetros según el escenario específico. Para obtener más información, consulte JindoFuse.
ossfs: al montar la ruta de un bucket de OSS con el método de montaje de almacenamiento, introduzca
{"mountType":"ossfs"}en Advanced Settings para usar ossfs.
Configuración del almacenamiento de OSS sin puntos de montaje
Los trabajos de DLC pueden leer y escribir en Object Storage Service (OSS) mediante OSS PyTorch Connector o un SDK de OSS. Cuando create a training job, configure los archivos de código correspondientes. Para ver ejemplos de código, consulte OSS Connector for AI/ML o OSS SDK.
En la sección Code Configuration, dentro de la pestaña Online Configuration, seleccione el origen del código en la lista desplegable e introduzca la ruta en Mount Path para su código.
Uso del almacenamiento de NAS/CPFS
Al crear un trabajo de Deep Learning Containers (DLC), puede usar el almacenamiento de File Storage NAS (NAS) o Cloud Parallel File Storage (CPFS). Para ello, vincule un conjunto de datos personalizado de tipo NAS/CPFS o utilice un montaje de almacenamiento. Para conocer los detalles de configuración, consulte Use NAS/CPFS.
En la sección Dataset Mount, establezca la ruta en Mount Path; por ejemplo, /mnt/data/. En la sección Storage Mount, configure de forma secuencial Select File System, File System Mount Point, File System Path y Mount Path; por ejemplo, /mnt/data2/. Si el tipo de almacenamiento seleccionado presenta riesgo por depender de una sola zona de disponibilidad, aparecerá una advertencia en color naranja.
|
Tipo de montaje |
Descripción |
|
Mount dataset |
Monte un conjunto de datos personalizado. Utilice el interruptor Read-only para establecer los permisos de lectura y escritura. |
|
Mount storage |
Monte un sistema de archivos de File Storage NAS (NAS) o Cloud Parallel File Storage (CPFS) y utilice el interruptor Read-only para establecer los permisos de lectura y escritura. Además, en Advanced Settings, puede establecer el parámetro nconnect para mejorar el throughput cuando los contenedores de DLC accedan a NAS. El parámetro nconnect es una opción de montaje de Linux para clientes NFS que aumenta el throughput al establecer más conexiones de transporte TCP entre el cliente y el servidor. Para obtener más información, consulte How do I resolve poor performance when accessing NAS from a Linux operating system?. Ejemplo: |
Uso del almacenamiento de MaxCompute
Puede usar el almacenamiento de MaxCompute sin puntos de montaje. Cuando create a training job, configure los archivos de código correspondientes. Para ver ejemplos de código, consulte Use MaxCompute.
Preguntas frecuentes
P: Trabajo de PAIIO 'killed' sin error
Este problema se produce por recursos insuficientes. PAIIO no limita el uso de memoria, lo que puede provocar que consuma una gran cantidad de memoria al leer datos de MaxCompute. Es probable que el sistema operativo finalice el proceso cuando el contenedor se queda sin memoria, ya que el sistema operativo y otros componentes del sistema también consumen recursos.