Container Service for Kubernetes:Manage the GPU sharing component

Paso 1: Instalar el componente de uso compartido de GPU

Paso 2: Habilitar el uso compartido y el aislamiento de GPU

1. En la página Clusters, haga clic en el nombre de su clúster. En el panel de navegación izquierdo, haga clic en Nodes > Node Pools.

2. En la página Node Pools, haga clic en Create Node Pool. Configure los parámetros tal como se describe en Create and manage a node pool.

3. En la página Create Node Pool, configure los parámetros del node pool y luego haga clic en Confirm. A continuación se describen los parámetros clave.

   Parámetro	Descripción
   Expected number of nodes	Introduzca el número inicial de nodos para el node pool. Use 0 si no necesita nodos al principio.
   Node labels	Establezca el valor de la etiqueta según sus necesidades de negocio. Para obtener más información sobre las etiquetas de nodo, consulte Enable scheduling. Este ejemplo usa el valor de etiqueta cgpu. Dicho valor habilita el uso compartido de GPU en el nodo, donde cada pod solo necesita solicitar recursos de memoria de GPU. Varios pods en una misma tarjeta GPU comparten la capacidad de cómputo y tienen la memoria aislada. Haga clic en junto a Node Labels. Establezca Key en ack.node.gpu.schedule y Value en cgpu. Importante Para ver las notas sobre el uso de la función de aislamiento de cGPU, consulte cGPU FAQ. Después de agregar la etiqueta de uso compartido de GPU, no use el comando kubectl label nodes para cambiar la etiqueta de programación de GPU ni utilice la función de gestión de etiquetas en la página Nodes para modificar la etiqueta del nodo, ya que esto puede causar problemas potenciales. Para obtener más información, consulte Enable scheduling. El método recomendado se describe en Enable scheduling.

Paso 3: Agregar nodos GPU

Paso 4: Instalar la herramienta de consulta de GPU

1. Descargue el ejecutable kubectl-inspect-cgpu en un directorio de su PATH, como /usr/local/bin/.

   • Si usa Linux, ejecute el siguiente comando para descargar kubectl-inspect-cgpu.

     wget http://aliacs-k8s-cn-beijing.oss-cn-beijing.aliyuncs.com/gpushare/kubectl-inspect-cgpu-linux -O /usr/local/bin/kubectl-inspect-cgpu

   • Si usa macOS, ejecute el siguiente comando para descargar kubectl-inspect-cgpu.

     wget http://aliacs-k8s-cn-beijing.oss-cn-beijing.aliyuncs.com/gpushare/kubectl-inspect-cgpu-darwin -O /usr/local/bin/kubectl-inspect-cgpu

2. Haga que el archivo sea ejecutable:

   chmod +x /usr/local/bin/kubectl-inspect-cgpu

3. Compruebe el uso de GPU en el clúster:

   kubectl inspect cgpu

   Salida esperada:

   NAME                       IPADDRESS      GPU0(Allocated/Total)  GPU Memory(GiB)
   cn-shanghai.192.168.6.104  192.168.6.104  0/15                   0/15
   ----------------------------------------------------------------------
   Allocated/Total GPU Memory In Cluster:
   0/15 (0%)

Paso 1: Determinar el método de actualización

El método de actualización depende de cómo se instaló el componente ack-ai-installer. Existen dos métodos de instalación:

• Instalado mediante Cloud-native AI Suite (recomendado): el componente se instaló desde la página Cloud-native AI Suite.

• Instalado desde App Catalog (ya no disponible): el componente ack-ai-installer se instaló desde la página App Catalog en Marketplace. Este método ya está cerrado, pero los componentes existentes instalados de esta forma aún se pueden actualizar por esta vía.

  Importante

  Si desinstala un componente que se instaló con este método, debe activar Cloud-native AI Suite y completar la instalación para volver a instalarlo.

Paso 2: Actualizar el componente

Paso 3: Actualizar los nodos existentes

Actualizar el componente ack-ai-installer no actualiza automáticamente la versión de cGPU en los nodos existentes. Utilice la siguiente información para determinar si la función de aislamiento de cGPU está habilitada en sus nodos.

• Si su clúster contiene nodos GPU con la función de aislamiento de cGPU habilitada, también debe actualizar la versión de cGPU en esos nodos. Para obtener más información, consulte Upgrade the cGPU version of a node.

• Si su clúster no tiene ningún nodo con la función de aislamiento de cGPU habilitada, omita este paso.

  Nota

  • Si un nodo tiene la etiqueta ack.node.gpu.schedule=cgpu o ack.node.gpu.schedule=core_mem, la función de aislamiento de cGPU está habilitada.

  • Actualizar la versión de cGPU en los nodos existentes requiere detener todos los pods de negocio en dichos nodos. Ejecute esta operación fuera del horario pico para minimizar la interrupción del servicio.