O Elastic GPU Service oferece computação acelerada por GPU sob demanda e com dimensionamento automático. Como parte da família de computação elástica do Alibaba Cloud, o Elastic GPU Service combina o poder de processamento de GPU e CPU para casos de uso como inteligência artificial (IA), computação de alto desempenho (HPC) e processamento profissional de gráficos e imagens.
Visualize disponibilidade de instâncias por região: Os tipos de instância podem variar conforme a região. Recomendamos verificar a disponibilidade de compra em cada região.
Visualize guia de seleção de tipos de instância: Primeiro, determine quais famílias de instâncias são adequadas ao seu cenário de negócios. Em seguida, utilize este tópico para selecionar um tipo específico de instância.
Visualize descrições de métricas de instância: Leia este tópico para compreender as métricas dos tipos de instância.
Usar a Calculadora de Preços do ECS: Utilize a calculadora de preços para estimar as taxas das instâncias.
|
Virtualização de GPU |
Computação com GPU |
Não recomendado |
Família de instâncias sgn8ia aceleradas por vGPU
-
Visão geral:
Baseadas na arquitetura SHENLONG de terceira geração, as instâncias sgn8ia oferecem desempenho ultra-alto, estável e previsível. A aceleração no nível do chip proporciona um aumento significativo no desempenho de armazenamento, rede e computação, permitindo armazenar dados e carregar modelos com maior rapidez.
Essas instâncias incluem uma licença de software NVIDIA GRID Virtual Workstation (vWS) que fornece aceleração gráfica certificada para diversas aplicações profissionais de design assistido por computador (CAD). Elas também funcionam como instâncias leves e econômicas aceleradas por GPU para cargas de trabalho de inferência de IA em pequena escala.
-
Casos de uso:
Cargas de trabalho simultâneas de inferência de IA que exigem CPUs de alta frequência, memória abundante e GPUs potentes, como reconhecimento de imagem, reconhecimento de fala e identificação de comportamento.
Aplicações intensivas em gráficos que requerem virtualização gráfica 3D de alto desempenho, como design gráfico remoto e cloud gaming. Estas instâncias suportam recursos RTX e vêm equipadas com CPUs de alta frequência.
Modelagem 3D para produção de filmes e animação, cloud gaming e design mecânico. Os processadores AMD Genoa de alta frequência, com clocks de até 3,75 GHz, oferecem desempenho superior para essas tarefas.
-
Computação:
-
Equipadas com GPUs de arquitetura NVIDIA Lovelace que possuem:
Grande memória de GPU e múltiplas opções de fatiamento de GPU.
Suporte a recursos comuns de aceleração, como vGPU, RTX e TensorRT, para uma ampla variedade de cargas de trabalho.
Processador: Processadores AMD Genoa de alta frequência com clocks de 3,4 GHz a 3,75 GHz, oferecendo maior poder de computação para modelagem 3D.
-
-
Armazenamento:
Todas as instâncias desta família são otimizadas para I/O.
Estas instâncias suportam o protocolo NVMe. Para mais informações, consulte Visão geral do protocolo NVMe.
Tipos de disco em nuvem suportados: Discos em nuvem ESSD, Discos em nuvem ESSD AutoPL e Discos em nuvem ESSD regionais. Para mais informações sobre discos em nuvem, consulte Visão geral do Block Storage.
-
Rede:
Estas instâncias suportam IPv4 e IPv6. Para mais informações, consulte Comunicação IPv6.
O desempenho da rede escala conforme o tipo de instância; instâncias maiores oferecem melhor desempenho.
A tabela a seguir lista os tipos e especificações das instâncias da família sgn8ia .
|
Tipo de instância |
vCPUs |
Memória (GiB) |
Memória da GPU |
Largura de banda de rede (Gbit/s) |
Taxa de pacotes (pps) |
Filas da NIC |
ENIs |
IPs privados por ENI |
Máximo de discos em nuvem |
IOPS de linha de base |
Throughput de linha de base (MB/s) |
|
ecs.sgn8ia-m2.xlarge |
4 |
16 |
2 GB |
2,5 |
1.000.000 |
4 |
4 |
15/15 |
9 |
30.000 |
244 |
|
ecs.sgn8ia-m4.2xlarge |
8 |
32 |
4 GB |
4 |
1.600.000 |
8 |
4 |
15/15 |
9 |
45.000 |
305 |
|
ecs.sgn8ia-m8.4xlarge |
16 |
64 |
8 GB |
7 |
2.000.000 |
16 |
8 |
30/30 |
17 |
60.000 |
427 |
|
ecs.sgn8ia-m16.8xlarge |
32 |
128 |
16 GB |
10 |
3.000.000 |
32 |
8 |
30/30 |
33 |
80.000 |
610 |
|
ecs.sgn8ia-m24.12xlarge |
48 |
192 |
24 GB |
16 |
4.500.000 |
48 |
8 |
30/30 |
33 |
120.000 |
1000 |
|
ecs.sgn8ia-m48.24xlarge |
96 |
384 |
48 GB |
32 |
9.000.000 |
64 |
15 |
30/30 |
33 |
240.000 |
2000 |
As especificações de GPU na tabela referem-se a fatias de vGPU criadas com tecnologia vGPU.
Nas instâncias sgn8ia, a memória e a memória da GPU são recursos dedicados. As vCPUs são recursos compartilhados com uma taxa de oversubscription de aproximadamente 1:1,5. Se sua carga de trabalho exigir poder de computação de CPU dedicado, utilize uma instância dedicada com GPUs em passthrough, como uma instância da família gn7i otimizada para computação acelerada por GPU.
sgn7i-vws, família de instâncias aceleradas por vGPU com CPUs compartilhadas
-
Visão geral:
Baseadas na arquitetura SHENLONG de terceira geração, as instâncias sgn7i-vws entregam desempenho alto, estável e previsível. Elas utilizam aceleração de caminho rápido no nível do chip para melhorar o armazenamento, o desempenho de rede e a estabilidade de computação, ajudando você a armazenar dados e carregar modelos mais rapidamente.
-
As instâncias desta família compartilham recursos de CPU e rede para maximizar a utilização dos recursos subjacentes. A memória e a memória da GPU são dedicadas a cada instância, garantindo isolamento de dados e desempenho consistente.
NotaSe você precisar de recursos de CPU dedicados, selecione a família de instâncias vgn7i-vws.
Essas instâncias incluem uma licença de software NVIDIA GRID Virtual Workstation (vWS), que fornece drivers de aceleração gráfica certificados para várias aplicações profissionais de CAD. Elas também podem ser usadas como instâncias leves e econômicas de computação com GPU para cargas de trabalho de inferência de IA em pequena escala.
-
Casos de uso:
Equipadas com CPUs, memória e GPUs de alto desempenho, estas instâncias são adequadas para tarefas simultâneas de inferência de IA, como reconhecimento de imagem, reconhecimento de fala e reconhecimento de comportamento.
Com suporte a recursos RTX e CPUs de alta frequência, estas instâncias fornecem virtualização gráfica 3D de alto desempenho, ideais para cargas de trabalho intensivas em gráficos, como design gráfico remoto e cloud gaming.
Impulsionadas por processadores Intel Ice Lake, estas instâncias oferecem excelente desempenho para modelagem 3D em áreas como produção de filmes e animação, cloud gaming e design mecânico.
-
Computação:
-
Equipadas com GPUs NVIDIA A10.
Arquitetura inovadora NVIDIA Ampere.
Suporte a recursos comuns de aceleração, como vGPU, RTX e TensorRT, para uma variedade de cargas de trabalho.
Processador: Processador Intel® Xeon® Scalable (Ice Lake) de 2,9 GHz com frequência turbo de todos os núcleos de 3,5 GHz.
-
-
Armazenamento:
Instâncias otimizadas para I/O.
Tipos de disco em nuvem suportados: Disco em nuvem ESSD, Disco em nuvem ESSD AutoPL e Disco em nuvem ESSD redundante entre zonas. Para mais informações, consulte Visão geral do Block Storage.
-
Rede:
Suporta IPv4 e IPv6. Para mais informações sobre comunicação IPv6, consulte Comunicação IPv6.
O desempenho da rede escala conforme o tipo de instância; tipos maiores oferecem maior desempenho.
A família de instâncias sgn7i-vws inclui os tipos e especificações listados na tabela a seguir:
|
Tipo de instância |
vCPU |
Memória (GiB) |
GPU |
Memória da GPU |
Largura de banda de rede (Gbit/s) |
Taxa de pacotes (PPS) |
Filas da NIC |
ENIs |
Endereços IPv4 privados |
Endereços IPv6 |
|
ecs.sgn7i-vws-m2.xlarge |
4 |
15,5 |
NVIDIA A10 * 1/12 |
24 GB * 1/12 |
1,5/5 |
500.000 |
4 |
2 |
2 |
1 |
|
ecs.sgn7i-vws-m4.2xlarge |
8 |
31 |
NVIDIA A10 * 1/6 |
24 GB * 1/6 |
2,6/10 |
1.000.000 |
4 |
4 |
6 |
1 |
|
ecs.sgn7i-vws-m8.4xlarge |
16 |
62 |
NVIDIA A10 * 1/3 |
24 GB * 1/3 |
5/20 |
2.000.000 |
8 |
4 |
10 |
1 |
|
ecs.sgn7i-vws-m2s.xlarge |
4 |
8 |
NVIDIA A10 * 1/12 |
24 GB * 1/12 |
1,5/5 |
500.000 |
4 |
2 |
2 |
1 |
|
ecs.sgn7i-vws-m4s.2xlarge |
8 |
16 |
NVIDIA A10 * 1/6 |
24 GB * 1/6 |
2,6/10 |
1.000.000 |
4 |
4 |
6 |
1 |
|
ecs.sgn7i-vws-m8s.4xlarge |
16 |
32 |
NVIDIA A10 * 1/3 |
24 GB * 1/3 |
5/20 |
2.000.000 |
8 |
4 |
10 |
1 |
A coluna GPU mostra o modelo da GPU e informações de fatiamento da GPU. O fatiamento divide uma GPU física em múltiplas fatias e aloca uma fatia para cada instância.
Por exemplo, em NVIDIA A10 * 1/12, NVIDIA A10 é o modelo da GPU, e 1/12 significa que uma única GPU física é dividida em 12 fatias, com uma fatia alocada à instância.
vgn7i-vws, família de instâncias aceleradas por vGPU
-
Visão geral
Construídas sobre a arquitetura Shenlong de terceira geração, estas instâncias oferecem alto desempenho estável e previsível. Elas usam aceleração de caminho rápido no nível do chip para melhorar significativamente o desempenho de armazenamento, o desempenho de rede e a estabilidade de computação, permitindo armazenar dados e carregar modelos mais rapidamente.
Estas instâncias incluem uma licença de software NVIDIA GRID vWS, fornecendo drivers de aceleração gráfica certificados para aplicações profissionais de CAD e cargas de trabalho de design gráfico. Elas também podem ser usadas como instâncias de computação leves e econômicas para inferência de IA em pequena escala.
-
Casos de uso
Com CPUs, memória e GPUs de alto desempenho, estas instâncias lidam com um grande volume de tarefas simultâneas de inferência de IA, como reconhecimento de imagem, reconhecimento de fala e reconhecimento de comportamento.
Estas instâncias suportam recursos RTX e vêm acompanhadas de CPUs de alta frequência para fornecer virtualização gráfica 3D de alto desempenho, sendo ideais para design gráfico remoto, cloud gaming e outras cargas exigentes de processamento gráfico.
Impulsionadas por processadores Intel Ice Lake, estas instâncias entregam excelente desempenho para modelagem 3D em campos como produção de filmes e animação, cloud gaming e design mecânico.
-
Computação
-
Estas instâncias são equipadas com GPUs NVIDIA A10.
Baseiam-se na inovadora arquitetura NVIDIA Ampere.
Suportam recursos comuns de aceleração, como vGPU, RTX e TensorRT.
Processador: Processadores Intel® Xeon® Scalable (Ice Lake) de 2,9 GHz com frequência turbo de todos os núcleos de 3,5 GHz.
-
-
Armazenamento
São instâncias otimizadas para I/O.
Tipos de disco em nuvem suportados: Discos em nuvem ESSD, Discos em nuvem ESSD AutoPL e Discos em nuvem ESSD redundantes intra-cidade. Para mais informações sobre discos em nuvem, consulte Visão geral do Block Storage.
-
Rede
Estas instâncias suportam IPv4 e IPv6. Para mais informações sobre comunicação IPv6, consulte Comunicação IPv6.
O desempenho da rede escala conforme o tipo de instância. Tipos maiores oferecem melhor desempenho de rede.
A família de instâncias vgn7i-vws inclui os seguintes tipos e especificações.
|
Tipo de instância |
vCPUs |
Memória (GiB) |
GPU |
Memória da GPU |
Largura de banda de linha de base (Gbit/s) |
Taxa de encaminhamento (pps) |
Filas da NIC |
ENIs |
Endereços IPv4 privados |
Endereços IPv6 |
|
ecs.vgn7i-vws-m4.xlarge |
4 |
30 |
NVIDIA A10 * 1/6 |
24GB * 1/6 |
3 |
1.000.000 |
4 |
4 |
10 |
1 |
|
ecs.vgn7i-vws-m8.2xlarge |
10 |
62 |
NVIDIA A10 * 1/3 |
24GB * 1/3 |
5 |
2.000.000 |
8 |
6 |
10 |
1 |
|
ecs.vgn7i-vws-m12.3xlarge |
14 |
93 |
NVIDIA A10 * 1/2 |
24GB * 1/2 |
8 |
3.000.000 |
8 |
6 |
15 |
1 |
|
ecs.vgn7i-vws-m24.7xlarge |
30 |
186 |
NVIDIA A10 * 1 |
24GB * 1 |
16 |
6.000.000 |
12 |
8 |
30 |
1 |
A coluna GPU na tabela anterior indica o modelo da GPU e informações de fatiamento da GPU. O fatiamento divide uma GPU física em múltiplas fatias, permitindo que cada instância utilize uma fatia. Por exemplo:
Em NVIDIA A10 * 1/6, NVIDIA A10 é o modelo da GPU, e 1/6 indica que uma GPU física é dividida em seis fatias e a instância utiliza uma delas.
vgn6i-vws, família de instâncias aceleradas por vGPU
O Alibaba Cloud atualizou a família de instâncias vgn6i para vgn6i-vws. A nova família utiliza o driver NVIDIA GRID mais recente e inclui uma licença GRID vWS gratuita. Para solicitar uma imagem gratuita com o driver GRID pré-instalado, envie um ticket.
Se você precisar usar uma imagem pública ou personalizada que não inclua o driver GRID, envie um ticket para solicitar o pacote do driver GRID para instalação separada. O Alibaba Cloud não cobra taxa adicional de licença pelo driver GRID.
-
Casos de uso:
Renderização em tempo real para cloud gaming.
Renderização em tempo real para aplicações de realidade aumentada (AR) e realidade virtual (VR).
Inferência de IA (DL e ML) para serviços de internet implantados elasticamente.
Ambientes de treinamento prático para deep learning.
Ambientes de experimentação de modelos para deep learning.
-
Computação:
Equipadas com aceleradores GPU NVIDIA T4.
-
Estas instâncias usam vGPUs criadas por fatiamento de GPU.
Oferecem 1/4 ou 1/2 da capacidade de computação de uma GPU NVIDIA Tesla T4 completa.
Disponibilizam 4 GB ou 8 GB de memória de GPU.
Possuem uma proporção vCPU/memória de aproximadamente 1:5.
Processador: Intel ® Xeon ® Platinum 8163 (Skylake) de 2,5 GHz.
-
Armazenamento:
Todas as instâncias desta família são otimizadas para I/O.
Tipos de disco em nuvem suportados: ESSDs, Discos em nuvem ESSD AutoPL, ESSDs Regionais, SSDs padrão e ultra disks. Para mais informações sobre discos em nuvem, consulte Visão geral do Elastic Block Storage.
-
Rede:
Suporta IPv4 e IPv6. Para mais informações, consulte Comunicação IPv6.
O desempenho da rede escala conforme o tipo de instância.
A tabela a seguir lista os tipos e especificações das instâncias da família vgn6i-vws .
|
Tipo de instância |
vCPUs |
Memória (GiB) |
GPU |
Memória da GPU |
Largura de banda de linha de base (Gbit/s) |
Taxa de encaminhamento (pps) |
Filas da NIC |
ENIs |
Endereços IPv4 privados |
Endereços IPv6 |
|
ecs.vgn6i-m4-vws.xlarge |
4 |
23 |
NVIDIA T4 * 1/4 |
16 GB * 1/4 |
2 |
500.000 |
4/2 |
3 |
10 |
1 |
|
ecs.vgn6i-m8-vws.2xlarge |
10 |
46 |
NVIDIA T4 * 1/2 |
16 GB * 1/2 |
4 |
800.000 |
8/2 |
4 |
10 |
1 |
|
ecs.vgn6i-m16-vws.5xlarge |
20 |
92 |
NVIDIA T4 * 1 |
16 GB * 1 |
7,5 |
1.200.000 |
6 |
4 |
10 |
1 |
A coluna GPU na tabela anterior indica o modelo da GPU e informações de fatiamento da GPU. O fatiamento divide uma GPU física em múltiplas fatias, e cada instância utiliza uma fatia.
Em NVIDIA T4 * 1/4, NVIDIA T4 é o modelo da GPU, e 1/4 indica que uma GPU é dividida em quatro fatias, com cada instância utilizando uma.
gn9gc, família de instâncias otimizadas para computação acelerada por GPU
A gn9gc está em visualização por convite. Para usar a gn9gc, envie um ticket.
Visão geral: A gn9gc é a família de instâncias de servidor em nuvem com GPU econômica de 9ª geração do Alibaba Cloud. Ela utiliza o CIPU 2.0 de última geração para oferecer capacidades de serviço em nuvem, possui processadores de alta velocidade de clock e é configurada com capacidade de memória adequada. Esta família fornece instâncias econômicas para cenários de geração de modelos de linguagem grandes (LLM) e cenários de geração de vídeo/imagem. A GPU também pode fornecer diretamente capacidades de processamento gráfico para suportar várias cargas de trabalho de renderização.
-
Casos de uso:
Inferência de LLM: A GPU de nova geração oferece poder de computação superior à 8ª geração com largura de banda de memória significativamente melhorada. O suporte recém-adicionado à computação FP4 melhora abrangentemente o desempenho e a relação custo-benefício da inferência. A eficiência da inferência paralela multi-GPU é bastante aprimorada.
-
Computação:
-
Utiliza o processador de nuvem CIPU 2.0 mais recente.
O CIPU de 2ª geração fornece maior poder de processamento em nuvem com capacidades aprimoradas de componentes eRDMA, VPC e EBS. Suporta containers (incluindo, mas não se limitando a docker, Clear Container e Pouch).
-
Utiliza a nova placa gráfica profissional de arquitetura Blackwell:
Suporta processamento gráfico de nível profissional OpenGL.
Suporta RTX, TensorRT e outros recursos comuns de aceleração, com suporte FP4 recém-atualizado e interconexão PCIe Gen5.
-
Principais especificações da GPU:
Arquitetura da GPU
Memória da GPU
Desempenho de computação
Codificação/decodificação de vídeo
Interconexão entre GPUs
APIs de aceleração
NVIDIA Blackwell
-
Capacidade: 72 GB
-
Largura de banda: 1.344 GB/s
-
TF32: 126 TFLOPS
-
FP32: 52 TFLOPS
-
FP16/BF16: 266 TFLOPS
-
FP8/INT8: 530 TFLOPS
-
FP4: 970 TFLOPS
-
RT Core: 196 TFLOPS
-
3 x Codificador de Vídeo
-
3 x Decodificador de Vídeo
-
Interface PCIe: PCIe Gen5 x16
-
Largura de banda: 128 GB/s, P2P suportado
DX12, OpenGL 4.6, Vulkan 1.3, CUDA 12.8, OpenCL 3.0, DirectCompute
-
-
-
Armazenamento:
Otimizada para I/O.
Suporta o protocolo NVMe. Para mais informações, consulte Protocolo NVMe.
Tipos de disco em nuvem suportados: discos efêmeros elásticos, ESSDs, Discos ESSD AutoPL e ESSDs regionais. Para mais informações, consulte Visão geral do Block Storage.
-
Rede:
Suporta IPv4 e IPv6. Para mais informações sobre IPv6, consulte IPv6.
Desempenho de rede ultra-alto com até 30 milhões de PPS (instâncias com 8 GPUs).
Suporta ERI (Elastic RDMA Interface) para aceleração direta RDMA sobre redes VPC, com largura de banda de até 360 Gbit/s. Adequada para direção autônoma, inteligência incorporada, visão computacional e cargas tradicionais de treinamento de modelos.
-
Nota
Para mais informações sobre ERI, consulte Ativar eRDMA em uma instância de nível empresarial.
A tabela a seguir descreve os tipos de instância da família gn9gc.
|
Tipo de instância |
vCPUs |
Memória (GiB) |
Memória da GPU |
Largura de banda de linha de base/pico (Gbit/s) |
Taxa de encaminhamento de pacotes (pps) |
Endereços IPv4 por ENI |
Endereços IPv6 por ENI |
Filas da NIC (primária/secundária) |
ENIs |
Máx. de discos de dados |
Largura de banda máx. do disco (GB/s) |
|
ecs.gn9gc.4xlarge |
16 |
128 |
72 GB × 1 |
16 |
3,6 milhões |
30 |
30 |
8/32 |
8 |
1 |
1 |
|
ecs.gn9gc.8xlarge |
32 |
192 |
72 GB × 1 |
32 |
7,5 milhões |
30 |
30 |
16/64 |
8 |
1 |
1 |
|
ecs.gn9gc-2x.16xlarge |
64 |
384 |
72 GB × 2 |
65 |
15 milhões |
30 |
30 |
32/64 |
15 |
2 |
2 |
|
ecs.gn9gc-4x.32xlarge |
128 |
768 |
72 GB × 4 |
131 |
30 milhões |
50 |
50 |
64/64 |
15 |
4 |
4 |
|
ecs.gn9gc-8x.64xlarge |
256 |
1.536 |
72 GB × 8 |
204 |
30 milhões |
50 |
50 |
128/64 |
15 |
6 |
6 |
As imagens usadas para instâncias gn9gc devem estar no modo de inicialização UEFI. Se você quiser usar uma imagem personalizada, certifique-se de que ela suporte o modo de inicialização UEFI e que o atributo de modo de inicialização da imagem esteja definido como UEFI. Para mais informações, consulte Definir o modo de inicialização de uma imagem personalizada como UEFI chamando operações de API.
Famílias de instâncias gn8v e gn8v-tee, otimizadas para computação acelerada por GPU
Essas famílias de instâncias estão disponíveis em regiões selecionadas, incluindo locais fora da China continental. Para utilizá-las, entre em contato com seu representante de vendas da Alibaba Cloud.
-
Introdução:
gn8v: Família de instâncias de 8ª geração da Alibaba Cloud, otimizada para computação acelerada por GPU e voltada ao treinamento e inferência de modelos de IA em modelos de linguagem de grande escala (LLMs). Esta família oferece tipos de instância com uma, duas, quatro ou oito GPUs para atender a diversos requisitos de aplicação.
gn8v-tee: Para aumentar a segurança no treinamento e na inferência de modelos grandes, a Alibaba Cloud oferece a gn8v-tee, uma família de instâncias de 8ª geração baseada na gn8v com o recurso de computação confidencial. Essas instâncias criptografam dados durante a computação na GPU para proteger suas informações.
-
Casos de uso:
Custo-benefício vantajoso para inferência paralela multi-GPU em LLMs com mais de 70 bilhões de parâmetros.
Cada GPU fornece 39,5 TFLOPS de poder de computação FP32, entregando desempenho excepcional para cargas de trabalho de treinamento de modelos de IA tradicionais e treinamento de direção autônoma.
As oito GPUs suportam interconexão NVLink e são adequadas para treinar modelos de pequeno e médio porte.
-
Recursos:
Memória de GPU de alta velocidade e grande capacidade: Cada GPU possui 96 GB de memória HBM3 e fornece até 4 TB/s de largura de banda de memória, acelerando significativamente o treinamento e a inferência de modelos.
Alta largura de banda entre GPUs: Múltiplas GPUs são interconectadas via NVLink a 900 GB/s. Isso proporciona eficiência muito superior no treinamento e na inferência multi-GPU em comparação com instâncias de GPU da geração anterior.
Quantização de LLM: Suporta poder de computação FP8, otimizando o desempenho para treinamento e inferência com parâmetros em grande escala. Esse recurso melhora substancialmente as velocidades de treinamento e inferência, além de reduzir o uso de memória da GPU.
(Exclusivo para instâncias gn8v-tee) Alta segurança: Suporta computação confidencial de CPU com Intel® Trust Domain Extensions (TDX) e computação confidencial de GPU com NVIDIA Confidential Computing (CC). Oferece computação confidencial ponta a ponta para todo o pipeline de inferência do modelo, protegendo seus dados de inferência e modelos empresariais durante o treinamento e a inferência.
-
Computação:
-
Baseado no CIPU 1.0 mais recente.
Desacopla a computação do armazenamento, permitindo que você selecione com flexibilidade os recursos de armazenamento necessários.
Oferece capacidades de bare metal, suportando comunicação ponto a ponto (P2P) entre instâncias de GPU, diferentemente das instâncias virtualizadas tradicionais.
Equipado com processadores Intel® Xeon® Scalable de 4ª geração, com frequência base de até 2,8 GHz e frequência turbo all-core de até 3,1 GHz.
-
-
Armazenamento:
Instância otimizada para I/O.
Essas instâncias suportam o protocolo NVMe. Para obter mais informações, consulte Visão geral do protocolo NVMe.
Tipos de disco em nuvem suportados: disco efêmero elástico, ESSD, discos ESSD AutoPL e ESSD Regional. Para saber mais sobre discos em nuvem, consulte visão geral do block storage.
-
Rede:
Suporta IPv4 e IPv6. Para mais detalhes sobre comunicação IPv6, consulte Comunicação IPv6.
Essas instâncias suportam jumbo frames. Para obter mais informações, consulte Jumbo frames.
Entrega desempenho de rede ultra-alto, com taxa de encaminhamento de pacotes de até 30 milhões de pps (em instâncias com 8 GPUs).
Suporta interface RDMA elástica (ERI).
-
Nota
Para informações sobre como usar a ERI, consulte Ativar em instância de nível empresarial.
Segurança: Suporta o recurso de computação confiável (vTPM). Este recurso está disponível nas instâncias gn8v, mas não nas instâncias gn8v-tee. Para obter mais informações, consulte Visão geral dos recursos de computação confiável.
A tabela a seguir descreve os tipos de instância da família gn8v .
|
Tipo de instância |
vCPUs |
Memória (GiB) |
Memória de GPU |
Largura de banda de rede (Gbit/s) |
ENIs |
Filas da ENI primária |
Endereços IPv4 por ENI |
Endereços IPv6 por ENI |
Máximo de discos em nuvem |
IOPS de linha de base |
Largura de banda de linha de base (GB/s) |
|
ecs.gn8v.4xlarge |
16 |
96 |
96 GB × 1 |
12 |
8 |
16 |
30 |
30 |
17 |
100.000 |
0,75 |
|
ecs.gn8v.6xlarge |
24 |
128 |
96 GB × 1 |
15 |
8 |
24 |
30 |
30 |
17 |
120.000 |
0,937 |
|
ecs.gn8v-2x.8xlarge |
32 |
192 |
96 GB × 2 |
20 |
8 |
32 |
30 |
30 |
25 |
200.000 |
1,25 |
|
ecs.gn8v-4x.8xlarge |
32 |
384 |
96 GB × 4 |
20 |
8 |
32 |
30 |
30 |
25 |
200.000 |
1,25 |
|
ecs.gn8v-2x.12xlarge |
48 |
256 |
96 GB × 2 |
25 |
8 |
48 |
30 |
30 |
33 |
300.000 |
1,50 |
|
ecs.gn8v-8x.16xlarge |
64 |
768 |
96 GB × 8 |
32 |
8 |
64 |
30 |
30 |
33 |
360.000 |
2,5 |
|
ecs.gn8v-4x.24xlarge |
96 |
512 |
96 GB × 4 |
50 |
15 |
64 |
30 |
30 |
49 |
500.000 |
3 |
|
ecs.gn8v-8x.48xlarge |
192 |
1024 |
96 GB × 8 |
100 |
15 |
64 |
50 |
50 |
65 |
1.000.000 |
6 |
A tabela a seguir descreve os tipos de instância da família gn8v-tee .
|
Tipo de instância |
vCPUs |
Memória (GiB) |
Memória de GPU |
Largura de banda de rede (Gbit/s) |
ENIs |
Filas da ENI primária |
Endereços IPv4 por ENI |
Endereços IPv6 por ENI |
Máximo de discos em nuvem |
IOPS de linha de base |
Largura de banda de linha de base (GB/s) |
|
ecs.gn8v-tee.4xlarge |
16 |
96 |
96 GB × 1 |
12 |
8 |
16 |
30 |
30 |
17 |
100.000 |
0,75 |
|
ecs.gn8v-tee.6xlarge |
24 |
128 |
96 GB × 1 |
15 |
8 |
24 |
30 |
30 |
17 |
120.000 |
0,937 |
|
ecs.gn8v-tee-8x.16xlarge |
64 |
768 |
96 GB × 8 |
32 |
8 |
64 |
30 |
30 |
33 |
360.000 |
2,5 |
|
ecs.gn8v-tee-8x.48xlarge |
192 |
1024 |
96 GB × 8 |
100 |
15 |
64 |
50 |
50 |
65 |
1.000.000 |
6 |
A família de instâncias gn8v-tee suporta apenas imagens do Alibaba Cloud Linux 3. Se você utilizar uma imagem personalizada baseada no Alibaba Cloud Linux 3 para criar uma instância, certifique-se de que a versão do kernel seja 5.10.134-18 ou posterior.
Família de instâncias gn8is, otimizada para computação acelerada por GPU
Esta família de instâncias está disponível em regiões selecionadas, incluindo locais fora da China continental. Para utilizar esta família de instâncias, entre em contato com seu representante de vendas da Alibaba Cloud.
Introdução: A gn8is é a família de instâncias de 8ª geração da Alibaba Cloud, otimizada para computação acelerada por GPU e projetada para atender à crescente demanda por conteúdo gerado por IA (AIGC). Equipada com as GPUs NVIDIA L20 mais recentes, esta família oferece tipos de instância com uma, duas, quatro ou oito GPUs e diversas proporções entre CPU e GPU para atender a variadas necessidades de aplicação.
-
Recursos:
Processamento gráfico: Alimentadas por processadores Intel® Xeon® Scalable de alta frequência de 4ª geração, essas instâncias fornecem poder de computação de CPU robusto para cenários de modelagem 3D, garantindo fluxos de trabalho de design e renderização gráfica mais fluidos.
Tarefas de inferência: Equipadas com a nova GPU NVIDIA L20, cada uma com 48 GB de memória de GPU, essas instâncias aceleram tarefas de inferência. Elas suportam o formato de ponto flutuante FP8 e podem ser combinadas com o Container Service for Kubernetes (ACK) para executar inferências de vários modelos AIGC com flexibilidade. São especialmente adequadas para tarefas de inferência em modelos de linguagem de grande escala (LLMs) com menos de 70 bilhões de parâmetros.
-
Casos de uso:
Utilize drivers GRID com imagens do Alibaba Cloud Marketplace para habilitar recursos OpenGL e Direct3D. Isso proporciona processamento gráfico de nível de estação de trabalho para cargas como animação, efeitos especiais de cinema e televisão e renderização.
Aproveite os recursos de gerenciamento de contêineres do Container Service for Kubernetes (ACK) para gerar imagens AIGC e realizar inferências de LLM de forma mais eficiente e econômica.
Outras aplicações de IA de uso geral, como reconhecimento de imagem e reconhecimento de fala.
-
Computação:
-
Equipado com as novas GPUs NVIDIA L20 de nível empresarial.
Suporta recursos comuns de aceleração, como TensorRT e o formato de ponto flutuante FP8, para melhorar o desempenho da inferência de modelos.
Até 48 GB de memória de GPU por GPU. Com múltiplas GPUs, as instâncias desta família suportam inferência em instância única para modelos com 70 bilhões ou mais parâmetros.
Capacidades aprimoradas de processamento gráfico. Após instalar um driver GRID usando o Cloud Assistant ou uma imagem do Alibaba Cloud Marketplace, o desempenho de processamento gráfico é o dobro em relação às plataformas da 7ª geração.
-
Principais parâmetros da GPU NVIDIA L20:
Arquitetura da GPU
Memória da GPU
Desempenho de computação
Codificação/decodificação de vídeo
Conectividade entre GPUs
NVIDIA Ada Lovelace
-
Capacidade: 48 GB
-
Largura de banda: 864 GB/s
-
FP64: N/A
-
FP32: 59,3 TFLOPS
-
FP16/BF16: 119 TFLOPS
-
FP8/INT8: 237 TFLOPS
-
3 × Codificadores de Vídeo (+AV1)
-
3 × Decodificadores de Vídeo
-
4 × Decodificadores JPEG
-
Interface PCIe: PCIe Gen4 x16
-
Largura de banda: 64 GB/s
-
Processador: Equipado com os mais recentes processadores Intel® Xeon® de alta frequência, com frequência turbo all-core de até 3,9 GHz para lidar com demandas complexas de modelagem 3D.
-
-
Armazenamento:
Todas as instâncias desta família são otimizadas para I/O.
Essas instâncias suportam o protocolo NVMe. Para obter mais informações, consulte Visão geral do protocolo NVMe.
Tipos de disco em nuvem suportados: discos efêmeros elásticos, ESSDs, discos ESSD AutoPL e ESSDs Regionais. Para saber mais sobre discos em nuvem, consulte Visão geral do Block Storage.
-
Rede:
Suporta IPv4 e IPv6. Para mais detalhes sobre comunicação IPv6, consulte Comunicação IPv6.
-
Suporta Interface RDMA Elástica (ERI).
NotaPara detalhes sobre o uso da ERI, consulte Ativar eRDMA para instâncias de nível empresarial.
Segurança: Essas instâncias suportam o recurso vTPM. Para obter mais informações, consulte Visão geral da computação confiável.
A tabela a seguir descreve os tipos de instância e as especificações da família gn8is .
|
Tipo de instância |
vCPUs |
Memória (GiB) |
GPU |
Memória de GPU |
Largura de banda de rede (Gbit/s) |
ENIs |
Filas da ENI primária |
Endereços IPv4 privados |
Endereços IPv6 |
Máximo de discos em nuvem |
IOPS do disco |
Largura de banda do disco (GB/s) |
|
ecs.gn8is.2xlarge |
8 |
64 |
L20 × 1 |
48 GB × 1 |
8 |
4 |
8 |
15 |
15 |
17 |
60.000 |
0,75 |
|
ecs.gn8is.4xlarge |
16 |
128 |
L20 × 1 |
48 GB × 1 |
16 |
8 |
16 |
30 |
30 |
17 |
120.000 |
1,25 |
|
ecs.gn8is-2x.8xlarge |
32 |
256 |
L20 × 2 |
48 GB × 2 |
32 |
8 |
32 |
30 |
30 |
33 |
250.000 |
2 |
|
ecs.gn8is-4x.16xlarge |
64 |
512 |
L20 × 4 |
48 GB × 4 |
64 |
8 |
64 |
30 |
30 |
33 |
450.000 |
4 |
|
ecs.gn8is-8x.32xlarge |
128 |
1024 |
L20 × 8 |
48 GB × 8 |
100 |
15 |
64 |
50 |
50 |
65 |
900.000 |
8 |
Família de instâncias gn7e, otimizadas para computação acelerada por GPU
Os recursos da família de instâncias gn7e incluem:
-
Visão geral:
esta família de instâncias permite selecionar tipos de instância com diferentes quantidades de GPUs e recursos de CPU para atender às suas diversas necessidades de negócios de IA.
Construídas na arquitetura X-Dragon de terceira geração, as instâncias gn7e oferecem o dobro da largura de banda média de rede para VPCs e discos em nuvem em comparação com a geração anterior.
-
Casos de uso:
Cargas de trabalho de treinamento de IA de pequena e média escala.
Cargas de trabalho de computação de alto desempenho (HPC) aceleradas com CUDA.
Cargas de trabalho de inferência de IA que exigem alto desempenho de computação de GPU ou grande memória de GPU.
Deep learning, como treinamento de algoritmos de IA para classificação de imagens, direção autônoma e reconhecimento de fala.
Computação científica intensiva em GPU, como dinâmica de fluidos computacional, finanças computacionais, dinâmica molecular e análise ambiental.
ImportanteAo executar cargas de trabalho de treinamento de IA com altas cargas de comunicação, como aquelas envolvendo modelos Transformer, você deve ativar o NVLink para comunicação GPU a GPU. Caso contrário, transferências de dados em grande escala pelo link PCIe podem causar falhas inesperadas e corrupção de dados. Se você não tiver certeza sobre a topologia do link de comunicação para sua carga de trabalho de treinamento, envie um ticket para obter suporte dos especialistas técnicos da Alibaba Cloud.
-
Armazenamento:
Todas as instâncias desta família são otimizadas para I/O.
Tipos de disco em nuvem suportados: Discos em nuvem ESSD, Discos em nuvem ESSD AutoPL e Discos em nuvem ESSD com Redundância Intra-cidade. Para obter mais informações, consulte Visão geral do Block Storage.
-
Rede:
Suporta IPv4 e IPv6. Para obter mais informações, consulte Comunicação IPv6.
O desempenho da rede escala conforme o tipo de instância. Tipos de instância maiores oferecem melhor desempenho de rede.
A família de instâncias gn7e inclui os tipos de instância e as especificações descritos na tabela a seguir.
|
Tipo de instância |
vCPUs |
Memória (GiB) |
Memória de GPU |
Largura de banda de linha de base (Gbit/s) |
Taxa de encaminhamento (pps) |
Filas |
ENIs |
Endereços IPv4 privados |
Endereços IPv6 |
|
ecs.gn7e-c16g1.4xlarge |
16 |
125 |
80 GB × 1 |
8 |
3.000.000 |
8 |
8 |
10 |
1 |
|
ecs.gn7e-c16g1.8xlarge |
32 |
250 |
80 GB × 2 |
16 |
6.000.000 |
16 |
8 |
10 |
1 |
|
ecs.gn7e-c16g1.16xlarge |
64 |
500 |
80 GB × 4 |
32 |
12.000.000 |
32 |
8 |
10 |
1 |
|
ecs.gn7e-c16g1.32xlarge |
128 |
1000 |
80 GB × 8 |
64 |
24.000.000 |
32 |
16 |
15 |
1 |
Família de instâncias gn7i, otimizadas para computação acelerada por GPU
Visão geral: Baseadas na arquitetura SHENLONG de terceira geração, as instâncias gn7i oferecem alto desempenho estável e previsível. Elas utilizam aceleração de caminho rápido em nível de chip para aumentar o desempenho de armazenamento, o desempenho de rede e a estabilidade de computação em uma ordem de magnitude.
-
Casos de uso:
Equipadas com CPUs, memória e GPUs de alto desempenho, essas instâncias são ideais para tarefas simultâneas de inferência de IA, como reconhecimento de imagem, reconhecimento de fala e reconhecimento de comportamento.
Essas instâncias suportam recursos RTX e usam CPUs de alta frequência para oferecer virtualização gráfica 3D de alto desempenho. São adequadas para cargas de trabalho com uso intensivo de gráficos, como design gráfico remoto e jogos em nuvem.
-
Computação:
-
Equipadas com GPUs NVIDIA A10 que apresentam:
A inovadora arquitetura NVIDIA Ampere.
Suporte a recursos comuns de aceleração, como RTX e TensorRT.
Processador: Processador Intel ® Xeon ® Scalable (Ice Lake) de 2,9 GHz com frequência turbo all-core de 3,5 GHz.
Esta família de instâncias fornece até 752 GiB de memória, um aumento significativo em comparação com a família de instâncias gn6i.
-
-
Armazenamento:
Todas as instâncias desta família são otimizadas para I/O.
Tipos de disco em nuvem suportados: Discos em nuvem ESSD, Discos em nuvem ESSD AutoPL e Discos em nuvem ESSD com redundância de zona. Para obter mais informações, consulte Visão geral do Block Storage.
-
Rede:
Essas instâncias suportam IPv4 e IPv6. Para obter mais informações, consulte Comunicação IPv6.
O desempenho da rede escala conforme o tipo de instância. Tipos de instância maiores oferecem melhor desempenho de rede.
A família de instâncias gn7i inclui os seguintes tipos de instância e especificações.
|
Tipo de instância |
vCPUs |
Memória (GiB) |
GPU |
Memória de GPU |
Largura de banda de rede (Gbit/s) |
Taxa de pacotes (PPS) |
Filas de NIC |
ENIs |
Endereços IPv4 privados |
Endereços IPv6 |
|
ecs.gn7i-c8g1.2xlarge |
8 |
30 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
1.600.000 |
8 |
4 |
15 |
15 |
|
ecs.gn7i-c16g1.4xlarge |
16 |
60 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
3.000.000 |
8 |
8 |
30 |
30 |
|
ecs.gn7i-c32g1.8xlarge |
32 |
188 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
6.000.000 |
12 |
8 |
30 |
30 |
|
ecs.gn7i-c32g1.16xlarge |
64 |
376 |
NVIDIA A10 * 2 |
24 GB * 2 |
32 |
12.000.000 |
16 |
15 |
30 |
30 |
|
ecs.gn7i-c32g1.32xlarge |
128 |
752 |
NVIDIA A10 * 4 |
24 GB * 4 |
64 |
24.000.000 |
32 |
15 |
30 |
30 |
|
ecs.gn7i-c48g1.12xlarge |
48 |
310 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
9.000.000 |
16 |
8 |
30 |
30 |
|
ecs.gn7i-c56g1.14xlarge |
56 |
346 |
NVIDIA A10 * 1 |
24 GB * 1 |
16 |
10.000.000 |
16 |
8 |
30 |
30 |
|
ecs.gn7i-2x.8xlarge |
32 |
128 |
NVIDIA A10 * 2 |
24 GB * 2 |
16 |
6.000.000 |
16 |
8 |
30 |
30 |
|
ecs.gn7i-4x.8xlarge |
32 |
128 |
NVIDIA A10 * 4 |
24 GB * 4 |
32 |
6.000.000 |
16 |
8 |
30 |
30 |
|
ecs.gn7i-4x.16xlarge |
64 |
256 |
NVIDIA A10 * 4 |
24 GB * 4 |
64 |
12.000.000 |
32 |
8 |
30 |
30 |
|
ecs.gn7i-8x.32xlarge |
128 |
512 |
NVIDIA A10 * 8 |
24 GB * 8 |
64 |
24.000.000 |
32 |
16 |
30 |
30 |
|
ecs.gn7i-8x.16xlarge |
64 |
256 |
NVIDIA A10 * 8 |
24 GB * 8 |
32 |
12.000.000 |
32 |
8 |
30 |
30 |
É possível alterar instâncias dos tipos ecs.gn7i-2x.8xlarge, ecs.gn7i-4x.8xlarge, ecs.gn7i-4x.16xlarge, ecs.gn7i-8x.32xlarge e ecs.gn7i-8x.16xlarge para ecs.gn7i-c8g1.2xlarge ou ecs.gn7i-c16g1.4xlarge. No entanto, não é possível alterá-las para outros tipos de instância, como ecs.gn7i-c32g1.8xlarge.
gn7s, família de instâncias com otimização de computação acelerada por GPU
Para utilizar a família de instâncias gn7s, envie um ticket.
-
Introdução:
Esta família de instâncias utiliza os mais recentes processadores Intel Ice Lake e GPUs NVIDIA A30 baseadas na arquitetura NVIDIA Ampere. O portfólio oferece diversos tipos de instância com diferentes configurações de GPU e CPU para atender às suas necessidades específicas de IA.
Construídas sobre a arquitetura SHENLONG de terceira geração da Alibaba Cloud, as instâncias gn7s entregam o dobro da largura de banda média de rede para VPCs e discos em nuvem em comparação à geração anterior.
Casos de uso: Com CPUs, memória e GPUs de alto desempenho, estas instâncias são ideais para cargas de trabalho simultâneas de inferência de IA, como reconhecimento de imagem, reconhecimento de fala e identificação de comportamento.
-
Computação:
-
Equipadas com GPUs NVIDIA A30, que incluem:
A inovadora arquitetura NVIDIA Ampere.
Suporte ao recurso Multi-Instance GPU (MIG) e aceleração baseada em Tensor Cores de segunda geração para uma ampla variedade de cargas de trabalho.
Processador: Intel ® Xeon ® Scalable (Ice Lake) de 2,9 GHz com frequência turbo all-core de 3,5 GHz.
Oferece significativamente mais memória do que a família de instâncias da geração anterior.
-
-
Armazenamento:
Todas as instâncias desta família são otimizadas para I/O.
Tipos de disco em nuvem suportados: ESSD, ESSD AutoPL e ESSD com redundância de zona. Para mais informações, consulte Visão geral do armazenamento em bloco.
-
Rede:
Suporta IPv4 e IPv6. Para mais informações, consulte Comunicação IPv6.
O desempenho de rede escala conforme o tipo de instância.
A família de instâncias gn7s inclui os seguintes tipos e especificações:
|
Tipo de instância |
vCPUs |
Memória (GiB) |
GPUs |
Memória da GPU |
Largura de banda de rede (Gbit/s) |
Taxa de pacotes (pps) |
IPv4s privados por ENI |
IPv6s por ENI |
Multi-fila |
ENIs |
|
ecs.gn7s-c8g1.2xlarge |
8 |
60 |
NVIDIA A30 * 1 |
24GB * 1 |
16 |
1.600.000 |
5 |
1 |
8 |
4 |
|
ecs.gn7s-c16g1.4xlarge |
16 |
120 |
NVIDIA A30 * 1 |
24GB * 1 |
16 |
3.000.000 |
5 |
1 |
8 |
8 |
|
ecs.gn7s-c32g1.8xlarge |
32 |
250 |
NVIDIA A30 * 1 |
24GB * 1 |
16 |
6.000.000 |
5 |
1 |
12 |
8 |
|
ecs.gn7s-c32g1.16xlarge |
64 |
500 |
NVIDIA A30 * 2 |
24GB * 2 |
32 |
12.000.000 |
5 |
1 |
16 |
15 |
|
ecs.gn7s-c32g1.32xlarge |
128 |
1000 |
NVIDIA A30 * 4 |
24GB * 4 |
64 |
24.000.000 |
10 |
1 |
32 |
15 |
|
ecs.gn7s-c48g1.12xlarge |
48 |
380 |
NVIDIA A30 * 1 |
24GB * 1 |
16 |
9.000.000 |
8 |
1 |
16 |
8 |
|
ecs.gn7s-c56g1.14xlarge |
56 |
440 |
NVIDIA A30 * 1 |
24GB * 1 |
16 |
10.000.000 |
8 |
1 |
16 |
8 |
gn7, família de instâncias com otimização de computação acelerada por GPU
-
Cenários:
Deep learning, incluindo treinamento de algoritmos de IA usados em classificação de imagens, direção autônoma e reconhecimento de fala.
Computação científica intensiva em GPU, como dinâmica de fluidos computacional, finanças computacionais, dinâmica molecular e análise ambiental.
-
Armazenamento:
As instâncias são otimizadas para I/O.
Suporta discos em nuvem ESSD, discos em nuvem ESSD AutoPL e discos em nuvem ESSD com redundância de zona. Para mais informações, consulte Visão geral do armazenamento em bloco.
-
Rede:
Suporta IPv4 e IPv6. Para mais informações sobre IPv6, consulte Comunicação IPv6.
O desempenho de rede escala conforme o tipo de instância.
A tabela a seguir descreve os tipos e especificações da família de instâncias gn7 .
|
Tipo de instância |
vCPUs |
Memória (GiB) |
Memória da GPU |
Largura de banda de rede (Gbit/s) |
Taxa de pacotes (pps) |
Filas de NIC |
ENIs |
Endereços IPv4 privados |
Endereços IPv6 |
|
ecs.gn7-c12g1.3xlarge |
12 |
94 |
40 GB × 1 |
4 |
2.500.000 |
4 |
8 |
10 |
1 |
|
ecs.gn7-c13g1.13xlarge |
52 |
378 |
40 GB × 4 |
16 |
9.000.000 |
16 |
8 |
30 |
30 |
|
ecs.gn7-c13g1.26xlarge |
104 |
756 |
40 GB × 8 |
30 |
18.000.000 |
16 |
15 |
10 |
1 |
gn6i, família de instâncias com otimização de computação acelerada por GPU
-
Casos de uso:
Inferência de IA (deep learning e machine learning) para aplicações como visão computacional, reconhecimento de fala, síntese de fala, processamento de linguagem natural (NLP), tradução automática e sistemas de recomendação.
Renderização em tempo real para jogos em nuvem.
Renderização em tempo real baseada em nuvem para realidade aumentada (AR) e realidade virtual (VR).
Computação com uso intensivo de gráficos ou estações de trabalho gráficas.
Bancos de dados acelerados por GPU.
Computação de alto desempenho (HPC).
-
Computação:
-
Equipadas com aceleradores NVIDIA T4 GPU, apresentando:
A inovadora arquitetura NVIDIA Turing.
16 GB de memória por GPU com largura de banda de memória de 320 GB/s.
2.560 núcleos CUDA por GPU.
Até 320 Turing Tensor Cores por GPU.
Tensor Cores de precisão mista que suportam 65 TFLOPS de FP16, 130 TOPS de INT8 e 260 TOPS de INT4.
Proporção vCPU/memória de aproximadamente 1:4.
Processador: Intel® Xeon® Platinum 8163 (Skylake) de 2,5 GHz.
-
-
Armazenamento:
Instâncias otimizadas para I/O.
Tipos de disco suportados: ESSD, discos ESSD AutoPL, disco SSD e disco ultra. Para mais informações, consulte Visão geral do armazenamento em bloco.
-
Rede:
Suporta IPv4 e IPv6. Para detalhes, consulte Comunicação IPv6.
O desempenho de rede escala conforme o tipo de instância.
A família de instâncias gn6i inclui os seguintes tipos.
|
Tipo de instância |
vCPUs |
Memória (GiB) |
GPUs |
Memória da GPU |
Largura de banda de rede (Gbit/s) |
Taxa de pacotes (pps) |
IOPS de disco |
Multi-fila |
ENIs |
Endereços IPv4 privados |
Endereços IPv6 |
|
ecs.gn6i-c4g1.xlarge |
4 |
15 |
NVIDIA T4 × 1 |
16 GB × 1 |
4 |
2.500.000 |
N/A |
2 |
2 |
10 |
1 |
|
ecs.gn6i-c8g1.2xlarge |
8 |
31 |
NVIDIA T4 × 1 |
16 GB × 1 |
5 |
2.500.000 |
N/A |
2 |
2 |
10 |
1 |
|
ecs.gn6i-c16g1.4xlarge |
16 |
62 |
NVIDIA T4 × 1 |
16 GB × 1 |
6 |
2.500.000 |
N/A |
4 |
3 |
10 |
1 |
|
ecs.gn6i-c24g1.6xlarge |
24 |
93 |
NVIDIA T4 × 1 |
16 GB × 1 |
7,5 |
2.500.000 |
N/A |
6 |
4 |
10 |
1 |
|
ecs.gn6i-c40g1.10xlarge |
40 |
155 |
NVIDIA T4 × 1 |
16 GB × 1 |
10 |
2.500.000 |
N/A |
16 |
10 |
10 |
1 |
|
ecs.gn6i-c24g1.12xlarge |
48 |
186 |
NVIDIA T4 × 2 |
16 GB × 2 |
15 |
4.500.000 |
N/A |
12 |
6 |
10 |
1 |
|
ecs.gn6i-c24g1.24xlarge |
96 |
372 |
NVIDIA T4 × 4 |
16 GB × 4 |
30 |
4.500.000 |
250.000 |
24 |
8 |
10 |
1 |
gn6e, família de instâncias com otimização de computação acelerada por GPU
-
Casos de uso:
Aplicações de deep learning, como treinamento e inferência para algoritmos de IA voltados a classificação de imagens, direção autônoma e reconhecimento de fala.
Computação científica, incluindo dinâmica de fluidos computacional, finanças computacionais, dinâmica molecular e análise ambiental.
-
Computação:
Equipadas com placas GPU NVIDIA V100 (32 GB NVLink).
-
Acelerador de GPU: V100 (pacote SXM2).
Inovadora arquitetura NVIDIA Volta.
32 GB de memória HBM2 por GPU com largura de banda de memória de GPU de 900 GB/s.
5.120 CUDA Cores por GPU.
640 Tensor Cores por GPU.
Cada GPU suporta seis conexões NVLink bidirecionais, cada uma fornecendo 25 Gbit/s de largura de banda em cada direção, totalizando 300 Gbit/s.
Apresenta uma proporção vCPU/memória de aproximadamente 1:8.
Processador: Intel ® Xeon ® Platinum 8163 (Skylake) de 2,5 GHz.
-
Armazenamento:
Instância otimizada para I/O.
Tipos de disco em nuvem suportados: ESSDs, discos ESSD AutoPL, ESSDs Regionais, SSDs padrão e discos ultra. Para mais informações, consulte Elastic Block Storage.
-
Rede:
Suporta IPv4 e IPv6. Para mais informações sobre comunicação IPv6, consulte Comunicação IPv6.
O desempenho de rede escala conforme o tipo de instância.
gn6e inclui os tipos e especificações listados na tabela abaixo.
|
Tipo de instância |
vCPU |
Memória (GiB) |
GPU |
Memória da GPU |
Largura de banda base (Gbit/s) |
Taxa de pacotes (PPS) |
Filas de NIC |
ENI |
Endereços IPv4 privados |
Endereços IPv6 |
|
ecs.gn6e-c12g1.3xlarge |
12 |
92 |
1 × NVIDIA V100 |
1 × 32 GB |
5 |
800.000 |
8 |
6 |
10 |
1 |
|
ecs.gn6e-c12g1.6xlarge |
24 |
184 |
2 × NVIDIA V100 |
2 × 32 GB |
8 |
1.200.000 |
8 |
8 |
20 |
1 |
|
ecs.gn6e-c12g1.12xlarge |
48 |
368 |
4 × NVIDIA V100 |
4 × 32 GB |
16 |
2.400.000 |
8 |
8 |
20 |
1 |
|
ecs.gn6e-c12g1.24xlarge |
96 |
736 |
8 × NVIDIA V100 |
8 × 32 GB |
32 |
4.500.000 |
16 |
8 |
20 |
1 |
gn6v, família de instâncias com otimização de computação acelerada por GPU
-
Casos de uso:
Aplicações de deep learning, como treinamento e inferência para algoritmos de IA em classificação de imagens, direção autônoma e reconhecimento de fala.
Computação científica, incluindo dinâmica de fluidos computacional, finanças computacionais, dinâmica molecular e análise ambiental.
-
Computação:
Equipadas com GPUs NVIDIA V100.
-
Acelerador de GPU: V100 (pacote SXM2).
Inovadora arquitetura NVIDIA Volta.
16 GB de memória de GPU HBM2 por GPU com 900 GB/s de largura de banda de memória.
5.120 CUDA Cores por GPU.
640 Tensor Cores por GPU.
Até seis conexões bidirecionais NVLink por GPU. Cada conexão fornece uma largura de banda de 25 Gbit/s em cada direção, totalizando 300 Gbit/s.
Apresenta uma proporção vCPU/memória de aproximadamente 1:4.
Processador: Intel® Xeon® Platinum 8163 (Skylake) de 2,5 GHz.
-
Armazenamento:
Todas as instâncias desta família são otimizadas para I/O.
Tipos de disco suportados: ESSD, ESSD AutoPL, Disco em Nuvem SSD e Disco Ultra. Para mais informações, consulte Visão geral do armazenamento em bloco.
-
Rede:
Suporta IPv4 e IPv6. Para mais informações, consulte Comunicação IPv6.
O desempenho de rede escala conforme o tipo de instância.
A família de instâncias gn6v inclui os tipos e especificações listados abaixo.
|
Tipo de instância |
vCPU |
Memória (GiB) |
GPU |
Memória da GPU |
Largura de banda de rede (Gbit/s) |
Taxa de pacotes (pps) |
IOPS base de disco |
Multi-fila |
ENI |
Endereços IPv4 privados |
Endereços IPv6 |
|
ecs.gn6v-c8g1.2xlarge |
8 |
32 |
1 × NVIDIA V100 |
1 × 16 GB |
2,5 |
800.000 |
N/A |
4 |
4 |
10 |
1 |
|
ecs.gn6v-c8g1.4xlarge |
16 |
64 |
2 × NVIDIA V100 |
2 × 16 GB |
5 |
1.000.000 |
N/A |
4 |
8 |
20 |
1 |
|
ecs.gn6v-c8g1.8xlarge |
32 |
128 |
4 × NVIDIA V100 |
4 × 16 GB |
10 |
2.000.000 |
N/A |
8 |
8 |
20 |
1 |
|
ecs.gn6v-c8g1.16xlarge |
64 |
256 |
8 × NVIDIA V100 |
8 × 16 GB |
20 |
2.500.000 |
N/A |
16 |
8 |
20 |
1 |
|
ecs.gn6v-c10g1.20xlarge |
82 |
336 |
8 × NVIDIA V100 |
8 × 16 GB |
35 |
4.500.000 |
250.000 |
16 |
8 |
20 |
1 |