全部产品
Search
文档中心

GPU 云服务器:什么是GPU云服务器

更新时间:Jan 03, 2024

GPU云服务器提供了GPU加速计算能力,实现GPU计算资源的即开即用和弹性伸缩。其作为阿里云弹性计算家族的一员,结合了GPU计算力与CPU计算力,满足您在人工智能、高性能计算、专业图形图像处理等场景中的需求,例如,在并行运算方面,使用GPU云服务器可显著提高计算效率。

为什么选择GPU云服务器

阿里云GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势,特别是在浮点运算、并行运算等方面,GPU可以提供比CPU高百倍的计算能力。GPU的功能特性如下:

  • 拥有大量擅长处理大规模并发计算的算术逻辑单元(Arithmetic and Logic Unit,即ALU)。

  • 能够支持多线程并行的高吞吐量运算。

  • 逻辑控制单元相对简单。

下表为您介绍GPU云服务器与自建GPU服务器的区别。

对比项

GPU云服务器

GPU自建服务器

灵活性

  • 能够快速开通一台或多台GPU云服务器实例。

  • 实例规格(vCPU、内存及GPU)支持灵活变更,并且支持在线升降配。

  • 带宽升降自由。

  • 服务器购买周期长。

  • 服务器规格固定,无法灵活变更。

  • 带宽一次性购买,无法自由升降。

易用性

  • Web在线管理,简单方便。

  • 内置主流的操作系统,Windows正版激活,且支持在线更换操作系统。

  • GPU驱动可以在购买时一并安装,方便快捷。

  • 没有在线管理工具,维护困难。

  • 需用户自备操作系统,自行安装及更换。

  • GPU驱动需要自行购买安装。

容灾备份

  • 三副本数据设计,单份损坏可在短时间内快速恢复。

  • 硬件故障事故中可快速自动恢复。

  • 用户自行搭建,使用普通存储设备,价格高昂。

  • 数据损坏需用户修复。

安全性

  • 能够有效阻止MAC欺骗和ARP攻击。

  • 并防护DDoS攻击,可进行流量清洗和黑洞。

  • 享有端口入侵扫描、挂马扫描、漏洞扫描等附加服务。

  • 很难阻止MAC欺骗和ARP攻击。

  • 清洗和黑洞设备需要另外购买,价格昂贵。

  • 普遍存在漏洞挂马和端口扫描等问题。

成本

  • 支持包年包月及按量付费两种购买方式,可灵活选择适合您业务场景的付费方式。

  • 按需购买,无需一次性大量投入。

  • 无法按需购买,必须为业务峰值满配。

  • 一次性投入巨大,闲置浪费严重。

GPU实例规格族

实例是能够为您的业务提供计算服务的最小单位,不同的实例规格可以提供的计算能力也不同。根据业务场景和使用场景,ECS实例可以分为多种实例规格族。GPU实例属于ECS实例中的一类实例规格,GPU实例在提供GPU加速能力的同时,保留了与普通ECS实例一致的使用体验。在创建ECS实例时,请选择企业级异构计算规格族群、弹性裸金属服务器和超级计算集群(SCC)实例规格族群下的GPU实例规格即可。关于GPU实例规格的更多信息,请参见实例规格族

产品优势

  • 覆盖范围广阔

    阿里云GPU云服务器在全球17个地域实现规模部署,覆盖范围广,结合弹性供应、弹性伸缩等交付方式,能够很好地满足您业务的突发需求。

  • 超强计算能力

    阿里云GPU云服务器配备业界超强算力的GPU计算卡,结合高性能CPU平台,单实例可提供高达1000 TFLOPS的混合精度计算性能。

  • 网络性能出色

    阿里云GPU云服务器实例的VPC网络最大支持450万的PPS及32 Gbit/s的内网带宽。在此基础上,超级计算集群产品中,节点间额外提供高达50 Gbit/s的RDMA网络,满足节点间数据传输的低延时高带宽要求。

  • 购买方式灵活

    支持灵活的资源付费模式,包括包年包月、按量付费、抢占式实例、预留实例券、存储容量单位包。您可以按需要购买,避免资源浪费。

    说明

    部分GPU实例规格族不支持使用预留实例券。更多信息,请参见预留实例券属性

同时,阿里云也提供了神行工具包搭配GPU云服务器一起使用,神行工具包具有GPU计算服务增强能力,可以帮助您更方便、更高效地使用阿里云的云上GPU资源。更多信息,请参见神行工具包优势

产品计费

GPU云服务器的计费相关功能和云服务器ECS一致,其中,计算资源(vCPU、内存以及GPU)、镜像、块存储、公网带宽以及快照等资源涉及计费。

常见的计费方式如下所示:

  • 包年包月:按一定时长购买资源,先付费后使用。

  • 按量付费:按需开通和释放资源,先使用后付费。

  • 抢占式实例:通过竞价模式抢占库存充足的计算资源,相对按量付费实例有一定的折扣,但是存在回收机制。

  • 预留实例券:搭配按量付费实例使用的抵扣券,承诺使用指定配置的实例(包括实例规格、地域可用区等),以折扣价抵扣计算资源的账单。

  • 节省计划:搭配按量付费实例使用的折扣权益计划,承诺使用稳定数量的资源(以元/小时为单位衡量),以折扣价抵扣计算资源、系统盘等资源的账单。

  • 存储容量单位包:搭配按量付费存储产品使用的资源包,承诺使用指定容量的存储资源,以折扣价抵扣块存储、NAS、OSS等资源的账单。

关于GPU云服务器计费的更多介绍,请参见GPU云服务器计费

关联工具包

阿里云提供神行工具包供您更高效地使用GPU资源,神行工具包中的组件主要包括以下工具:

说明

关于神行工具包的更多信息,请参见什么是神行工具包(DeepGPU)

工具名称

说明

神龙AI训练加速引擎AIACC-Training(AIACC训练加速)

阿里云自研的分布式训练任务AI加速器,可以显著提升训练性能。

神龙AI推理加速引擎AIACC-Inference(AIACC推理加速)

阿里云自研的推理AI加速器,可以显著提升推理性能。

AI分布式训练通信优化库AIACC-ACSpeed

阿里云推出的AI分布式训练通信优化库。可实现分布式训练在兼容性、适用性和性能加速等方面的升级。

计算优化编译器AIACC-AGSpeed

阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器,可以实现无感的计算优化功能。

GPU容器共享技术cGPU

阿里云基于内核虚拟GPU隔离的容器共享技术,隔离GPU资源,实现多个容器共用一张显卡。

集群极速部署工具FastGPU

阿里云推出的人工智能计算任务构建工具,提供便捷的接口和命令行,供您在阿里云IaaS资源上构建人工智能计算任务。