Elastic GPU Service:Preguntas frecuentes

¿Las instancias aceleradas por GPU admiten emuladores de Android?

Los emuladores de Android solo se pueden instalar en algunas instancias aceleradas por GPU.

Estos emuladores son compatibles únicamente con las siguientes familias de ECS Bare Metal Instance optimizadas para computación y aceleradas por GPU: ebmgn7e , ebmgn7i, ebmgn7, ebmgn6ia, ebmgn6e, ebmgn6v, ebmgn6i .

¿Se puede modificar la configuración de una instancia acelerada por GPU?

Algunas instancias aceleradas por GPU permiten cambios de configuración.

Los tipos de instancia compatibles se enumeran en Instance type change restrictions and checks.

¿Es posible actualizar o cambiar una familia de instancias ECS estándar a una familia de instancias aceleradas por GPU?

No. Las familias de instancias ECS estándar no se pueden convertir en familias de instancias aceleradas por GPU.

Los tipos de instancia compatibles se enumeran en Instance type change restrictions and checks.

¿Cómo transfiero datos entre una instancia acelerada por GPU y una instancia ECS estándar?

No se requiere ninguna configuración especial para transferir datos.

Las instancias aceleradas por GPU funcionan como instancias ECS estándar. Las instancias que pertenecen al mismo security group se comunican a través de la red interna de forma predeterminada, por lo que no es necesaria ninguna configuración adicional.

¿Cuál es la diferencia entre una GPU y una CPU?

La siguiente tabla compara las GPU y las CPU.

¿Por qué el comando nvidia-smi no detecta la tarjeta GPU después de adquirir una instancia acelerada por GPU?

¿Cómo consulto los detalles de una tarjeta GPU?

El método varía según el sistema operativo:

• En Linux, ejecute el comando nvidia-smi para consultar los detalles de la tarjeta GPU.

• En Windows, consulte los detalles de la tarjeta GPU en Device Manager > Display Adapters.

Fallo de inicialización de GPU (como RmInitAdapter failed!) al usar una GPU en Linux

• Síntomas: El dispositivo GPU se desconecta y el sistema no reconoce la tarjeta GPU. Por ejemplo, en un sistema Linux se produce un error de fallo de inicialización de GPU. Al ejecutar el comando sh nvidia-bug-report.sh, aparece el mensaje de error RmInitAdapter failed en el registro generado, como se muestra en el siguiente ejemplo:

  NVRM: _kgspBootGspRm: unexpected WPR2 already up, cannot proceed with booting GSP
  NVRM: _kgspBootGspRm: (the GPU is likely in a bad state and may need to be reset)
  NVRM: crashcatWayfinderGetReportQueue_V1: insufficiently-sized L1 wayfinder scratch location 0
  NVRM: RmInitAdapter: Cannot initialize GSP firmware RM
  NVRM: GPU 0000:00:09.0: RmInitAdapter failed! (0x62:0x40:2015)
  NVRM: GPU 0000:00:09.0: rm_init_adapter failed, device minor number 0

• Causa: Es posible que el componente GPU System Processor (GSP) se encuentre en un estado anómalo. Esto provoca que el dispositivo se desconecte y que el sistema no pueda detectar la tarjeta GPU.

• Solución: Restart the instance desde la consola. Esta acción realiza un reinicio completo de la GPU y generalmente resuelve el problema. Si el inconveniente persiste, consulte GPU device loss due to XID 119/XID 120 errors when using a GPU para continuar con la solución de problemas. Se recomienda deshabilitar la función GSP.

¿Por qué una instancia con 48 GB de memoria de GPU muestra aproximadamente 3 GB menos en nvidia-smi?

La función ECC (Error-Correcting Code) está habilitada y utiliza aproximadamente entre 2 y 3 GB de memoria de GPU en una instancia de 48 GB. Ejecute nvidia-smi para comprobar el estado de ECC (OFF = deshabilitado, ON = habilitado).

¿Cómo deshabilito la función ECC para liberar memoria de GPU?

1. Línea de comandos: Detenga todos los procesos que utilicen la GPU. Ejecute nvidia-smi -e 0 para deshabilitar ECC. A continuación, ejecute nvidia-smi -r para reiniciar la GPU.

2. Script de inicio: Agregue nvidia-smi -e 0 y nvidia-smi -r en la primera línea del script de inicio /etc/rc.local. En algunos sistemas, la ruta es /etc/rc.d/rc.local. Luego, restart the instance.

¿Qué hago si aparece un error que indica que la GPU está en uso por otro cliente al deshabilitar ECC?

Este error indica que algún componente o proceso sigue utilizando la GPU. Asegúrese de que no haya procesos de GPU ejecutándose en la máquina. Si no puede detenerlos manualmente, cree una copia de seguridad mediante una instantánea. Después, agregue los comandos nvidia-smi -e 0 y nvidia-smi -r al script de inicio /etc/rc.local. En algunos sistemas, la ruta es /etc/rc.d/rc.local. Restart the instance para que los cambios surtan efecto.

¿Qué controlador debo instalar en una instancia acelerada por vGPU?

Las instancias aceleradas por vGPU requieren un controlador GRID.

Para escenarios de computación de propósito general o aceleración gráfica, puede cargar el controlador GRID durante la creación de la instancia o instalarlo posteriormente con Cloud Assistant:

• Cargue el controlador GRID durante la creación de la instancia. Load a GRID driver from an image with a pre-installed driver.

• Instale el controlador GRID con Cloud Assistant después de la creación:

  • Install a GRID driver on a vGPU-accelerated instance (Linux)

  • Install a GRID driver on a GPU-accelerated compute-optimized or vGPU-accelerated Windows instance

¿Puedo actualizar CUDA a la versión 12.4 o el controlador NVIDIA a la versión 550 o superior en una instancia acelerada por vGPU?

No.

Las instancias aceleradas por vGPU utilizan el controlador GRID proporcionado por la plataforma, el cual tiene una versión fija. No es posible instalar controladores desde el sitio web de NVIDIA. Para actualizar CUDA o el controlador, utilice una instancia de la serie gn o ebm.

¿Qué controlador debo instalar para usar herramientas como OpenGL y Direct3D para aceleración gráfica en una instancia optimizada para computación y acelerada por GPU?

Instale el controlador correspondiente a su sistema operativo:

• Las instancias optimizadas para computación y aceleradas por GPU con Linux requieren un controlador Tesla:

  • Automatically install or load a Tesla driver when you create a GPU-accelerated instance

  • Manually install a Tesla driver on a GPU-accelerated compute-optimized instance (Linux)

• Las instancias optimizadas para computación y aceleradas por GPU con Windows requieren un controlador GRID:

  • Load a GRID driver from an image with a pre-installed driver

  • Install a GRID driver on a GPU-accelerated compute-optimized or vGPU-accelerated Windows instance

¿Por qué la versión de CUDA que veo tras la instalación es diferente a la que seleccioné al crear la instancia acelerada por GPU?

El comando nvidia-smi muestra la versión más alta de CUDA compatible con su instancia acelerada por GPU, no la versión que seleccionó durante la creación de la instancia.

¿Qué hago si aparece una pantalla negra al conectarme mediante VNC desde la consola tras instalar un controlador GRID en una instancia acelerada por GPU con Windows?

• Causa: El controlador GRID asume la salida de video. VNC ya no puede renderizar desde los gráficos integrados, lo que provoca una pantalla negra. Este comportamiento es esperado.

• Solución: Conéctese a la instancia acelerada por GPU mediante Workbench. Para obtener más información, consulte Connect to a Windows instance by using Workbench.

¿Cómo obtengo una licencia de GRID?

El método depende de su sistema operativo:

• En Windows, use una imagen con el controlador preinstalado o instale el controlador manualmente.

  • Load a GRID driver from an image with a pre-installed driver

  • Install a GRID driver on a GPU-accelerated compute-optimized or vGPU-accelerated Windows instance

• En Linux, use una imagen con el controlador preinstalado o Cloud Assistant.

  • Load a GRID driver from an image with a pre-installed driver

  • Install a GRID driver on a vGPU-accelerated instance (Linux)

¿Cómo actualizo un controlador de GPU (Tesla o GRID)?

No es posible actualizar directamente un controlador de GPU. Desinstale la versión anterior, reinicie la instancia y luego instale la nueva versión. Upgrade a Tesla or GRID driver.

Bloqueo del sistema y error kernel NULL pointer dereference tras instalar el controlador NVIDIA versión 570,124.xx (Linux) o 572.61 (Windows)

• Síntomas: En algunos tipos de instancia, el sistema reporta un error kernel NULL pointer dereference durante la instalación del controlador NVIDIA versión 570,124.xx (Linux) o 572.61 (Windows), o bien al ejecutar el comando nvidia-smi después de la instalación. El siguiente registro muestra el error:

  Registro de errores

  [  305.164082] BUG: kernel NULL pointer dereference, address: 00000000000000c4
  [  305.164303] #PF: supervisor read access in kernel mode
  [  305.164447] #PF: error_code(0x0000) - not-present page
  [  305.164626] PGD 0 P4D 0
  [  305.164724] Oops: 0000 [#1] SMP NOPTI
  [  305.164852] CPU: 29 PID: 23659 Comm: nv_open_q Kdump: loaded Tainted: G           OE     5.10.134-19.1.al8.x86_64 #1
  [  305.165241] Hardware name: Alibaba Cloud Alibaba Cloud ECS, BIOS 2.0.0 04/23/2024
  [  305.165450] RIP: 0010:pci_read_config_dword+0x5/0x40
  [  305.165630] Code: 44 89 c6 e9 5d fc ff ff b8 ff ff ff ff 66 89 02 b8 86 00 00 00 c3 cc cc cc cc 66 66 2e 0f 1f 84 00 00 00 00 00 0f 1f 44 00 00 <83> bf c4 00 00 00 03 48 89 d1 74 12 44 8b 47 38 48 8b 7f 10 89 f2
  [  305.166323] RSP: 0018:ffffbc6ac0f1b9f0 EFLAGS: 00010293
  [  305.166469] RAX: 0000000000000000 RBX: ffff9e9ba33e0020 RCX: 0000000000000002
  [  305.166724] RDX: ffffbc6ac0f1ba0c RSI: 0000000000000000 RDI: 0000000000000000
  [  305.166977] RBP: ffffbc6ac0f1ba10 R08: 0000000000000000 R09: 0000000000000000
  [  305.167243] R10: 00000000000922f8 R11: ffffffffac163048 R12: 0000000000000000
  [  305.167506] R13: 0000000000000001 R14: 0000000000000004 R15: 0000000000000000
  [  305.167766] FS:  0000000000000000(0000) GS:ffff9ef785480000(0000) knlGS:0000000000000000
  [  305.168060] CS:  0010 DS: 0000 ES: 0000 CR0: 0000000080050033
  [  305.168270] CR2: 00000000000000c4 CR3: 0000004130a12003 CR4: 0000000002770ee0
  [  305.168531] DR0: 0000000000000000 DR1: 0000000000000000 DR2: 0000000000000000
  [  305.168793] DR3: 0000000000000000 DR6: 00000000fffe07f0 DR7: 0000000000000400
  [  305.169052] PKRU: 55555554
  [  305.169157] Call Trace:
  [  305.169252]  ? __die+0x20/0x70
  [  305.169372]  ? no_context+0x5f/0x260
  [  305.169504]  ? exc_page_fault+0x68/0x130
  [  305.169651]  ? asm_exc_page_fault+0x1e/0x30
  [  305.169815]  ? pci_read_config_dword+0x5/0x40
  [  305.170080]  os_pci_read_dword+0x12/0x30 [nvidia]
  [  305.170357]  ? osPciReadDword+0x15/0x20 [nvidia]
  [  305.170637]  gpuReadPcieConfigCycle_GB202+0x66/0xd0 [nvidia]
  [  305.170962]  kbifSavePcieConfigRegistersFn1_GB202+0x65/0xc0 [nvidia]
  [  305.171297]  kbifSavePcieConfigRegisters_GH100+0xd2/0x1e0 [nvidia]
  [  305.171619]  kbifStateLoad_IMPL+0xa1/0xe0 [nvidia]
  [  305.171893]  gpuStateLoad_IMPL+0x267/0xd60 [nvidia]
  [  305.172129]  ? _rmGpuLocksAcquire.constprop.0+0x352/0xbf0 [nvidia]
  [  305.172375]  ? portSyncSpinlockAcquire+0x1d/0x50 [nvidia]
  [  305.172585]  ? _tlsThreadEntryGet+0x82/0x90 [nvidia]
  [  305.172780]  ? tlsEntryGet+0x31/0x80 [nvidia]
  [  305.172979]  gpumgrStateLoadGpu+0x5b/0x70 [nvidia]
  [  305.173209]  RmInitAdapter+0xf08/0x1c00 [nvidia]
  [  305.173433]  ? os_get_current_tick+0x28/0x70 [nvidia]
  [  305.173671]  rm_init_adapter+0xad/0xc0 [nvidia]
  [  305.173845]  nv_start_device+0x2a9/0x6f0 [nvidia]
  [  305.174328]  ? nv_open_device+0x9b/0x220 [nvidia]
  [  305.174791]  ? nvidia_open_deferred+0x3c/0x100 [nvidia]
  [  305.175248]  ? nvidia_modeset_resume+0x20/0x20 [nvidia]
  [  305.175705]  ? _main_loop+0x9e/0x160 [nvidia]
  [  305.176128]  ? nvidia_modeset_resume+0x20/0x20 [nvidia]
  [  305.176527]  ? kthread+0x118/0x140
  [  305.176869]  ? __kthread_bind_mask+0x60/0x60
  [  305.177230]  ? ret_from_fork+0x1f/0x30
  [  305.177575] Modules linked in: nvidia_drm(OE) nvidia_modeset(OE) nvidia(OE) ecc rfkill intel_rapl_msr intel_rapl_common intel_uncore_frequency_common isst_if_common skx_edac_common nfit intel_powerclamp crct10dif_pclmul crc32_pclmul ghash_clmulni_intel rapl snd_intel8x0 snd_ac97_codec ac97_bus snd_pcm erdma snd_timer ib_uverbs snd soundcore ib_core virtio_balloon pcspkr i2c_piix4 sunrpc vfat fat cirrus drm_kms_helper syscopyarea sysfillrect sysimgblt fb_sys_fops drm nvme libcrc32c virtio_net crc32c_intel net_failover nvme_core serio_raw i2c_core failover virtio_console t10_pi floppy [last unloaded: ecc]
  [  305.180787] CR2: 00000000000000c4
  [  305.181132] ---[ end trace 85d65b7e0a10dcf8 ]---
  [  305.181512] RIP: 0010:pci_read_config_dword+0x5/0x40
  [  305.181903] Code: 44 89 c6 e9 5d fc ff ff b8 ff ff ff ff 66 89 02 b8 86 00 00 00 c3 cc cc cc cc 66 66 2e 0f 1f 84 00 00 00 00 00 0f 1f 44 00 00 <83> bf c4 00 00 00 03 48 89 d1 74 12 44 8b 47 38 48 8b 7f 10 89 f2
  [  305.183045] RSP: 0018:ffffbc6ac0f1b9f0 EFLAGS: 00010293
  [  305.183463] RAX: 0000000000000000 RBX: ffff9e9ba33e0020 RCX: 0000000000000002
  [  305.183955] RDX: ffffbc6ac0f1ba0c RSI: 0000000000000000 RDI: 0000000000000000
  [  305.184443] RBP: ffffbc6ac0f1ba10 R08: 0000000000000000 R09: 0000000000000000
  [  305.184931] R10: 00000000000922f8 R11: ffffffffac163048 R12: 0000000000000000
  [  305.185415] R13: 0000000000000001 R14: 0000000000000004 R15: 0000000000000000
  [  305.185913] FS:  0000000000000000(0000) GS:ffff9ef785480000(0000) knlGS:0000000000000000
  [  305.186426] CS:  0010 DS: 0000 ES: 0000 CR0: 0000000080050033
  [  305.186870] CR2: 00000000000000c4 CR3: 0000004130a12003 CR4: 0000000002770ee0
  [  305.187363] DR0: 0000000000000000 DR1: 0000000000000000 DR2: 0000000000000000
  [  305.187866] DR3: 0000000000000000 DR6: 00000000fffe07f0 DR7: 0000000000000400
  [  305.188361] PKRU: 55555554
  [  305.188719] Kernel panic - not syncing: Fatal exception
  [  305.190378] Kernel Offset: 0x29000000 from 0xffffffff81000000 (relocation range: 0xffffffff80000000-0xffffffffbfffffff)

• Solución: Evite usar la versión del controlador 570,124.xx (Linux) o 572.61 (Windows). Se recomienda utilizar la versión 570,133.20 (Linux) o 572.83 (Windows), o una posterior.

El comando nvidia-smi devuelve el error "No devices were found" si selecciona NVIDIA Proprietary como tipo de módulo del kernel durante la instalación del controlador

• Síntomas: En algunos tipos de instancia, si selecciona NVIDIA Proprietary como tipo de módulo del kernel durante la instalación del controlador, el comando nvidia-smi devuelve un error No devices were found después de la instalación.

  El otro tipo de módulo del kernel disponible en esta pantalla es MIT/GPL.

• Causa: No todos los modelos de GPU son compatibles con el controlador NVIDIA Proprietary.

• Configuración recomendada del tipo de módulo del kernel:

  • Para GPU con arquitectura Blackwell: Debe usar el controlador de código abierto (seleccione MIT/GPL).

  • Para GPU con arquitecturas Turing, Ampere, Ada Lovelace y Hopper: Se recomienda usar el controlador de código abierto (seleccione MIT/GPL).

  • Para GPU con arquitecturas Maxwell, Pascal y Volta: Solo puede seleccionar NVIDIA Proprietary.

¿Cómo consulto el uso de recursos (vCPU, tráfico de red, ancho de banda y disco) de una instancia acelerada por GPU?

Puede utilizar uno de los siguientes métodos para consultar datos de monitoreo como uso de vCPU, memoria, carga promedio del sistema, ancho de banda interno, ancho de banda público, conexiones de red, uso y lecturas de disco, uso de GPU, uso de memoria de GPU y consumo energético de la GPU.

• Consola del producto

  • Consola de ECS: Proporciona métricas de uso de vCPU, tráfico de red, E/S de disco y GPU. View monitoring information in the ECS console.

  • Consola de CloudMonitor: Ofrece monitoreo detallado de infraestructura, sistema operativo, GPU, red, procesos y disco. Para obtener más información, consulte Host monitoring.

• Centro de gastos y costos

  En la página View Usage Details, filtre por Time Period, Commodity Name, Billable Item, Billable Item y Time Unit. Haga clic en Export CSV para exportar los datos de uso. Billing details.

  Por ejemplo, para consultar el uso de tráfico de una instancia ECS, seleccione ECS - Pay-As-You-Go en Product name, Outbound traffic en Billable item, Public traffic en Metering specification (el nombre de la especificación es ECS_FLOW) y Hour en Metering granularity.

  Nota

  Los detalles de uso muestran el consumo bruto de recursos, lo cual difiere del uso facturable que aparece en los detalles de facturación. Estos resultados son solo de referencia y no se pueden utilizar para conciliaciones.

¿Cómo instalo el servicio cGPU?

Instale el servicio cGPU a través del entorno de ejecución de Docker en ACK. Este es el método recomendado tanto para usuarios empresariales como para usuarios individuales que han completado la verificación de identidad. Manage the shared GPU scheduling component.

El comando nvidia-smi -r se bloquea después de instalar el servicio cGPU

• Síntomas: Cuando el servicio cGPU está cargado (compruébelo con lsmod | grep cgpu), el comando nvidia-smi -r se bloquea al intentar reiniciar la GPU. También aparece un error en el registro dmesg.

  [527717.881425] NVRM: Attempting to remove device 0000:08:00.0 with non-zero usage count!

• Causa: El componente cGPU todavía está utilizando el dispositivo GPU, lo que impide la operación de reinicio de hardware.

• Solución:

  1. Desinstalar cGPU: Desinstale el componente cGPU. Tras la desinstalación, el comando nvidia-smi -r se reanudará y devolverá un resultado.

  2. Reiniciar la instancia: Si el problema persiste después de la desinstalación, restart the instance desde la consola. Ejecutar el comando de reinicio dentro de la instancia no será efectivo.

  Importante

  No reinicie la GPU ejecutando comandos como nvidia-smi -r, desvinculando el dispositivo o reinstalando el controlador mientras el servicio cGPU esté cargado. Siempre desinstale primero el servicio cGPU para evitar fallos.