Crear un pod de ECI acelerado por GPU - Elastic Container Instance

Especifique un tipo de instancia de ECS acelerada por GPU para su pod de ECI y anule la versión predeterminada del controlador de GPU.

Tipos de instancia compatibles

Los tipos de instancia acelerados por GPU son adecuados para escenarios como el aprendizaje profundo y la edición de imágenes. Puede ejecutar imágenes de docker para GPU directamente en las instancias de ECI aceleradas por GPU. Cada instancia incluye preinstalado un controlador de tarjeta gráfica NVIDIA. Las versiones de controlador y de CUDA compatibles varían según el tipo de instancia de GPU.

Nota

Las familias de instancias gn8ia y gn8is de la siguiente tabla solo están disponibles en algunas regiones fuera de China. Para usar estas familias de instancias, comuníquese con el equipo de ventas de Alibaba Cloud.

Categoría	Familia de instancias de GPU	Versiones de controlador y de CUDA
Familia de instancias aceleradas por vGPU	sgn7i-vws	GRID 470, CUDA 11.4 (predeterminado)
	vgn7i-vws
	vgn6i-vws
Familia de instancias optimizadas para cómputo aceleradas por GPU	gn7e	Tesla 470, CUDA 11.4 (predeterminado) Tesla 535, CUDA 12.2 Tesla 550, CUDA 12.4
	gn7i
	gn7s
	gn7
	gn6v
	gn6e
	gn6i
	gn5i
	gn5
	gn8ia	Tesla 535, CUDA 12.2 (predeterminado) Tesla 550, CUDA 12.2
	gn8is	Tesla 535, CUDA 12.2 (predeterminado) Tesla 550, CUDA 12.2

Importante

A partir del 17 de marzo de 2025, especifique únicamente el número de versión principal de los controladores de GPU, como 535, en lugar del número de versión completo, como 535.161.08. La instancia creada usará un controlador con la versión principal especificada, pero la versión secundaria podría actualizarse. Cuando se deja de publicar un controlador anterior, se usa automáticamente una versión más reciente para crear la instancia. El periodo de compatibilidad de una versión de controlador coincide con la compatibilidad oficial de NVIDIA. Para obtener más información, consulte Documentación de controladores de NVIDIA.

Historial de actualizaciones del controlador de GPU

Fecha de actualización	Descripción de la actualización
Marzo de 2025	El controlador GRID 470 se actualizó a la versión 470.239.06. El controlador Tesla 470 se actualizó a la versión 470.256.02, el controlador Tesla 535 a la 535.230.02 y el controlador Tesla 550 a la 550.127.08. El controlador Tesla 525 ya no es compatible. Si lo especifica, el sistema recurre a la versión 535.

Para obtener más información sobre los tipos de instancia de ECS, consulte los siguientes temas:

Configurar un pod de GPU

Agregue la anotación k8s.aliyun.com/eci-use-specs a los metadatos del pod para especificar un tipo de instancia de GPU. Además, cada contenedor debe declarar el campo nvidia.com/gpu en su sección resources.

Importante

El campo nvidia.com/gpu indica la cantidad obligatoria de GPU por contenedor. Sin este campo, la creación del pod falla.
De forma predeterminada, los contenedores comparten las GPU. La cantidad de GPU de un solo contenedor no debe superar el total disponible para el tipo de instancia.

A continuación se muestra un ejemplo en YAML:

apiVersion: apps/v1
kind: Deployment
metadata:
  name: test
  labels:
    app: test
spec:
  replicas: 2
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      name: nginx-test
      labels:
        app: nginx
        alibabacloud.com/eci: "true" 
      annotations:
        # Specify up to five GPU-accelerated ECS instance types at a time, separated by commas. 
        # The system selects the first available type from the list.
        k8s.aliyun.com/eci-use-specs: "ecs.gn6i-c4g1.xlarge,ecs.gn6i-c8g1.2xlarge"
    spec:
      containers:
      - name: nginx
        image: registry-us-east-1.aliyuncs.com/eci_open/nginx:1.14.2
        resources:
            limits:
              nvidia.com/gpu: "1"    # Request 1 GPU for this container (GPUs are shared by default).
        ports:
        - containerPort: 80
      - name: busybox
        image: registry-us-east-1.aliyuncs.com/eci_open/busybox:1.30
        command: ["sleep"]
        args: ["999999"]
        resources:
            limits:
              nvidia.com/gpu: "1"    # Request 1 GPU for this container (GPUs are shared by default).

ECI instala una versión predeterminada del controlador de GPU y de CUDA según el tipo de instancia. Para anular esta configuración, agregue la anotación k8s.aliyun.com/eci-gpu-driver-version.

Por ejemplo, el tipo ecs.gn6i-c4g1.xlarge usa de forma predeterminada Tesla 550 y CUDA 12.4. Si agrega k8s.aliyun.com/eci-gpu-driver-version: tesla=535, cambia a Tesla 535 y CUDA 12.2:

apiVersion: apps/v1
kind: Deployment
metadata:
  name: test
  labels:
    app: test
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      name: nginx-test
      labels:
        app: nginx
        alibabacloud.com/eci: "true" 
      annotations:
        # Specify a supported GPU instance type that allows you to change the driver version.
        k8s.aliyun.com/eci-use-specs: ecs.gn6i-c4g1.xlarge
        # Override the default driver version (Tesla 550) with Tesla 535.
        k8s.aliyun.com/eci-gpu-driver-version: tesla=535
    spec:
      containers:
      - name: nginx
        image: registry-us-east-1.aliyuncs.com/eci_open/nginx:1.14.2
        resources:
            limits:
              nvidia.com/gpu: "1"    # Request 1 GPU for this container.