Aspectos destacados

Aislamiento eficiente de memoria de GPU

Maximice la utilización de GPU y evite conflictos de memoria mediante la segmentación de la memoria y los recursos de cómputo de una GPU y su administración como múltiples contenedores con base en la tecnología de aislamiento de GPU virtual del kernel del host de Alibaba Cloud

Uso compartido y programación flexible de GPU

Asigne la memoria y los recursos de cómputo de las GPU a tareas de IA con estrategias de programación para distintos escenarios de negocio, para maximizar la utilización de GPU mientras mantiene un alto rendimiento de los contenedores

Autoescalado de GPU personalizable

Aumente la disponibilidad de recursos de GPU y garantice la estabilidad de las tareas de IA mediante el escalado automático de GPU: configure métricas clave de GPU, como la tasa de utilización y el uso de memoria, para activar los aumentos de escala y las reducciones de escala de las instancias de GPU.

Supervisión de GPU visualizada en tiempo real

Mantenga la salud de las instancias de GPU y equilibre la distribución de origen con base en información visualizada en tiempo real de métricas clave de GPU, como la asignación y el uso de memoria y la temperatura de la GPU, desde los paneles de control de clusters y nodos en Prometheus