【六六互联】长期出售【美国抗投诉服务器】【欧洲抗投诉服务器】【亚洲抗投诉服务器】

GPU性能越来越强,也导致服务器的价格越高,单台百万很容易

GPU性能越来越强,也导致服务器的价格越高,单台百万很容易

因为从事人工智能行业多年,所以对GPU服务器这一些了解,用过双卡,4卡,8卡,甚至16卡都有涉足,价格几万一台到上百万的单台GPU服务器都有,从早起的K40,K80,到现在的A100,3090 ,有一点感触很深,进入“GPU算力时代”,GPU性能越来越强,价格越来越高,也导致服务器的价格越来越高,单台百万很容易。

当然也用过一些GPU云服务器,大厂的,比如:阿里云腾讯云,华为云,但是这有一个问题,比较贵,而且不集成框架和数据集。所以本次重点只讨论专门做GPU云的小厂,

目前用过的有:Gpushare.com 恒源云、Paperspace、FloydHub、Featurize、易学智能、矩池云、智星云、MistGPU、Openbayes、BitaHub

相对大厂,这些平台的价格都比较便宜,其中最近在用的恒源云http://Gpushare.com ,价格不但便宜,而且集成了很多好用的功能,比如数据集,框架的集成,还有“恒源云 微信小程序“,可以随时管理资源,如果机器没有训练任务,还会提醒你关机,真是良心平台。

以下是他们平台的GPU价格列表,而且学生和高校机构还有专属折扣(学生党低于一下价格)

1080Ti 1.4 元/小时

2080Ti 1.8 元/小时

3080Ti 2 元/小时

3090 2.8 元/小时

RTX5000 4 元/小时

Tesla T4 2 元/小时

Tesla V100 5.5 元/小时

如果按照有效使用时间(每年差不多35%的时间跑任务),和购买物理机相比,几乎无差异了。而且随时切换,卡的种类很多,而且还有8卡高性能服务器,非常方便。

进入正题:

接下来对比双卡3090的GPU物理机 和 双卡3090 云GPU服务器,做个详细对比。

(选双卡对比,因为单卡的话,有点浪费,4卡的话对学生党还是挺贵的,)

以下对比的都是整机价格,包含CPU,内存,硬盘,网络

表格还不够直观,来一个曲线图,更加直观(三年纬度,硬件一般3年)

GPU性能越来越强,也导致服务器的价格越高,单台百万很容易

得出如下观点:

1.如果你配的电脑三年的使用率低于40%,其实硬件的成本优势,并没有发挥出来,

2.云主机,启动成本低,跑几个模型练练手,最多花费1000,然后在重新评估下利用率,再考虑是否入手物理机。

本次对比的服务器是一个DIY服务器,非品牌,品牌机价格更贵一些,只是建议,如果动手能力强,预算充足,爱折腾硬件,那买物理机当然随意了,毕竟自己的机器。