PAI-EAS ofrece dos tipos de resource groups: dedicados y virtuales. Los resource groups dedicados le permiten comprar y gestionar recursos de cómputo exclusivos. Los resource groups virtuales combinan varios tipos de recursos (recursos públicos, cuotas de recursos y recursos dedicados de EAS) para admitir el despliegue mixto de servicios.
Resource groups dedicados
Tipos de recursos
Los recursos dedicados están disponibles en dos modelos de facturación: suscripción (prepago) y pay-as-you-go (pospago).
Tipo | Método de facturación | Gestión del resource group | Tipos de recursos compatibles |
Recurso de prepago | Suscripción | Compre máquinas, renueve las máquinas de prepago, libere las máquinas de pospago y elimine los resource groups. Para obtener más información, consulte Manage machines in a dedicated resource group. | Vaya a la página EAS Dedicated Machine Subscription. |
Recurso de pospago | Pay-as-you-go | Vaya a la página EAS Dedicated Machine Pay-as-you-go. |
Los recursos dedicados de pospago se facturan inmediatamente después de la compra, sin importar si se utilizan para desplegar servicios. Libere cuanto antes las máquinas de pospago que no utilice para evitar cargos innecesarios.
Crear un resource group dedicado
Vaya a la página AI Computing Resources > Resource Pools y seleccione la pestaña EAS Inference Resources.
-
En la pestaña Dedicated Resource Group, haga clic en Create Resource Group y elija una de las siguientes opciones:
Create Resource Group: crea únicamente el resource group. Después, compre las máquinas desde la página de detalles del resource group.
Create Resource (Subscription) o Create Resource (Pay by Usage): lo redirige a la página de compra, donde adquiere las máquinas y crea el resource group al mismo tiempo.
-
En la página de compra, configure los siguientes parámetros.
Parámetro
Descripción
Billing Method
Seleccione Subscription o Pay-as-you-go.
Region and Zone
Seleccione la región y la zona del resource group.
Node Type
Tipos de instancia de GPU y CPU disponibles. Para consultar la lista completa de recursos disponibles, visite la página EAS Dedicated Machine Subscription o EAS Dedicated Machine Pay-as-you-go.
NotaLos tipos de instancia disponibles varían según la región.
System Disk
Cada máquina incluye 200 GB de almacenamiento en disco del sistema sin costo adicional. Puede aumentar la capacidad hasta 2,000 GB (mínimo: 200 GB). Para conocer los detalles de facturación de la capacidad adicional, consulte EAS billing.
NotaTodas las instancias de servicio comparten el almacenamiento del disco del sistema. Cuando queda poco espacio, el sistema desaloja instancias de servicio para liberarlo; comienza por las que más almacenamiento consumen. Para leer o escribir en un directorio de disco local mientras la instancia se ejecuta, consulte Storage mounts.
buy_type
Seleccione new o upgrade.
Si selecciona upgrade, configure el parámetro resource_id.
resource_id
Seleccione en la lista el identificador de un resource group ya creado.
order_num
Valores válidos: de 1 a 9999.
Duration
Periodos de suscripción: 1 month, 2 months, 3 months, 6 months, 1 year o duraciones personalizadas (solo para suscripción).
Auto-Renewal
Habilite o deshabilite la renovación automática cuando expire la suscripción (solo para suscripción).
-
Una vez completado el pago, el sistema asigna los recursos automáticamente. Consulte o cambie el nombre de sus resource groups en la pestaña Resource Group.
Nota(Solo para suscripción) Si el resource group no se crea porque la región seleccionada no tiene recursos suficientes, el sistema genera automáticamente una orden de reembolso y devuelve el pago por el canal original.
Gestionar las máquinas de un resource group dedicado
Comprar máquinas |
|
Renovar una máquina (Solo máquinas de suscripción) | Amplíe el periodo de suscripción de una máquina. Por ejemplo, si renueva por un mes, la suscripción se extiende un mes más.
|
Liberar una máquina | Máquina de pospago: en la página de detalles del resource group dedicado, haga clic en Delete en la columna Operations de la instancia correspondiente. Máquina de suscripción: consulte EAS FAQ. |
Consultar el uso de recursos | En la pestaña Resource Group, haga clic en el nombre del resource group correspondiente. Luego, en la pestaña Nodes, revise el uso de CPU, GPU y memoria, así como la capacidad total de cada máquina. |
Deshabilitar la programación | Cuando una máquina se encuentra en estado Running, haga clic en Stop Scheduling dentro de la columna Actions para impedir que se programen tareas en ella. Haga clic en Restart Scheduling para reanudar la programación. Nota Después de deshabilitar la programación, los servicios que ya se ejecutan en la máquina continúan funcionando. Sin embargo, si reinicia un servicio, este se programa en otra máquina disponible del resource group. |
Evacuar un nodo | Haga clic en Clear Node. Las instancias de servicio desplegadas en la máquina se detienen automáticamente y se vuelven a desplegar en otras máquinas disponibles del resource group. Importante Evacuar un nodo cancela todos los trabajos en ejecución de la máquina. Proceda con precaución. |
Resource groups virtuales
Un resource group virtual es una agrupación lógica que combina varios tipos de recursos (recursos públicos, cuotas de recursos y recursos dedicados de EAS). Esto le permite desplegar y programar un solo servicio en distintos grupos de recursos.
Crear un resource group virtual
Vaya a la página AI Computing Resources > Resource Pools y seleccione la pestaña EAS Inference Resources.
-
En la pestaña Virtual Resource Group, haga clic en Create Virtual Resource Group.
Los tipos de recursos compatibles incluyen Public Resource Group, EAS Resource Group y Resource Quota. En el caso de los resource groups públicos, también puede seleccionar Spot instances. Configure los tipos de recursos según sus necesidades y establezca la prioridad de programación de cada uno (1 = prioridad más baja, 9 = prioridad más alta).
Usar un resource group virtual
Al desplegar un servicio, en la sección Resource Information, establezca Resource Type en EAS Resource Group y luego seleccione el Virtual Resource Group en la lista desplegable Resource Group.
Referencias
Para obtener más información sobre la configuración de despliegue de servicios de modelos, consulte Custom deployment.
Configure la recopilación de registros de los resource groups para guardar los registros de los servicios de EAS en su logstore de SLS. Para obtener más información, consulte Configure log collection.
Preguntas frecuentes
-
¿Puedo desplegar varios modelos en un solo resource group?
Sí. Siempre que el resource group tenga capacidad suficiente, puede desplegar varios servicios de modelos en él.
-
¿Puedo usar los recursos dedicados de EAS inactivos para entrenamiento distribuido de DLC?
No. Los recursos dedicados de EAS solo sirven para desplegar servicios y no están disponibles para DLC.