Object Storage Service:Configurar un directorio temporal local para admitir escrituras aleatorias

Contexto

Una vez creado un objeto en OSS, no es posible modificarlo parcialmente; cualquier cambio de contenido requiere sobrescribir el objeto completo. En el modo predeterminado de ossfs 2.0, la ruta de escritura utiliza carga por streaming: los datos se cargan a OSS en partes secuenciales conforme se escriben, lo cual presenta las siguientes limitaciones:

• Solo se admiten escrituras secuenciales. No se admiten llamadas a pwrite en posiciones más allá del final del archivo.

• truncate solo admite truncar a 0. Truncar a cualquier otro tamaño distinto de cero devuelve ENOTSUP.

• No es posible leer un archivo mientras se escribe (antes de cerrarlo). Intentarlo devuelve EBUSY.

Escenarios como la ejecución de código de agentes de IA, la edición de scripts en el mismo lugar y los resultados intermedios de cómputo científico suelen depender de la semántica de escritura aleatoria. La función de escritura aleatoria de ossfs 2.0 almacena temporalmente los datos escritos en un directorio temporal local y, combinada con la gestión de fragmentos y la carga incremental, implementa escrituras aleatorias sobre object storage.

El modo de escritura aleatoria de ossfs 2.0 tiene las siguientes características:

• Semántica completa de escritura aleatoria POSIX: Admite pwrite en posiciones arbitrarias, O_APPEND y truncate a cualquier tamaño (aumento o reducción).

• Lectura durante la escritura: Es posible leer un archivo mientras se escribe. Las partes modificadas se leen desde el área de almacenamiento temporal local, y las partes no modificadas se leen directamente desde OSS.

• Carga incremental: Al vaciar el búfer o cerrar el archivo, solo se cargan desde el disco local los bloques de datos modificados. Las partes no modificadas se gestionan mediante copia del lado del servidor en OSS, sin consumo de E/S local ni ancho de banda de carga.

• Protección del espacio en disco: Un presupuesto global integrado de espacio en disco devuelve ENOSPC para las escrituras cuando queda poco espacio en el disco de almacenamiento temporal. Puede reservar un umbral de espacio libre al montar para evitar que se llene el disco del sistema.

Principios de funcionamiento

Métodos de configuración

Restricciones:

• Si el directorio al que apunta --temp_dir no existe, se crea automáticamente. Se recomienda usar una partición o disco independiente para evitar competir por espacio con el disco del sistema u otras cargas de trabajo.

• Los datos de los archivos en escritura se almacenan en el directorio temporal local. Si el disco carece de capacidad, las escrituras devuelven ENOSPC. El espacio libre restante menos el espacio reservado por temp_dir_free_bytes se denomina espacio de disco escribible. ossfs2 solo usa esta porción de espacio para almacenar los datos que se están escribiendo. El espacio de disco escribible debe ser mayor que el tamaño total de todos los archivos que se escriben simultáneamente (en el peor de los casos, un archivo completo podría escribirse localmente).

• Cuando varias instancias de ossfs2 se montan en la misma máquina, pueden compartir el mismo directorio temporal, ya que los nombres de los archivos temporales no entran en conflicto. Sin embargo, dado que múltiples instancias competirán por el espacio y la E/S del disco, se recomienda usar directorios independientes.

• --temp_dir y --enable_appendable_object son mutuamente excluyentes y no pueden habilitarse al mismo tiempo.

Ejemplo de comando de montaje:

ossfs2 mount /mnt/oss/ \
  --oss_bucket <your-bucket> \
  --oss_endpoint <your-endpoint> \
  --oss_access_key_id <ak> \
  --oss_access_key_secret <sk> \
  --temp_dir /mnt/disk/ossfs2/temp \
  --temp_dir_free_bytes 1G

Requisitos del entorno

Efectos de la función

Comparación de las capacidades de escritura antes y después de habilitar --temp_dir:

Semántica de durabilidad:

• De forma predeterminada, el modo de escritura aleatoria sigue la semántica de fsync: fsync desencadena una carga combinada de las modificaciones locales con los datos en la nube. Una devolución exitosa significa que los datos se han persistido en OSS. Los datos restantes también se cargan al cerrar el archivo.

• Un fallo de carga se devuelve a la aplicación como un error, y la aplicación puede reintentar mediante fsync. Si la carga falla definitivamente y se cierra el archivo, los datos no persistidos se pierden, y el contenido del archivo revierte a la última versión cargada correctamente en el extremo remoto.

• Si el proceso termina de forma anómala, los datos temporales no cargados se pierden, pero el objeto en OSS permanece en el estado de su última carga exitosa. No se genera ningún objeto dañado.

Recomendaciones de uso

Las escrituras aleatorias basadas en un directorio temporal local son adecuadas para escenarios que requieren semántica de escritura similar a la de un sistema de archivos local en un punto de montaje de OSS.

Escenarios adecuados para habilitar escrituras aleatorias:

Escenarios donde no se recomienda habilitar escrituras aleatorias:

Recomendaciones de presupuesto de disco:

• Mantenga el directorio temporal separado del disco del sistema para evitar que los datos temporales llenen el disco del sistema y afecten la estabilidad del host. Si la máquina tiene un solo disco, se recomienda establecer temp_dir_free_bytes en un valor mayor (por ejemplo, 10G) para reservar suficiente espacio libre para el sistema.

• El espacio de disco escribible (consulte las restricciones anteriores) debe ser mayor que el tamaño total de los archivos que se escriben simultáneamente.

• Para un solo archivo mayor a 100 GiB, además de aumentar explícitamente --random_write_max_file_size (por ejemplo, --random_write_max_file_size=500G), debe asegurarse de que el espacio de disco escribible supere el tamaño de dicho archivo.