因為從事人工智能行業多年,所以對GPU服務器這一些了解,用過雙卡,4卡,8卡,甚至16卡都有涉足,價格幾萬一臺到上百萬的單臺GPU服務器都有,從早起的K40,K80,到現在的A100,3090 ,有一點感觸很深,進入“GPU算力時代”,GPU性能越來越強,價格越來越高,也導致服務器的價格越來越高,單臺百萬很容易。
當然也用過一些GPU云服務器,大廠的,比如:阿里云,騰訊云,華為云,但是這有一個問題,比較貴,而且不集成框架和數據集。所以本次重點只討論專門做GPU云的小廠,
目前用過的有:Gpushare.com 恒源云、Paperspace、FloydHub、Featurize、易學智能、矩池云、智星云、MistGPU、Openbayes、BitaHub
相對大廠,這些平臺的價格都比較便宜,其中最近在用的恒源云http://Gpushare.com ,價格不但便宜,而且集成了很多好用的功能,比如數據集,框架的集成,還有“恒源云 微信小程序“,可以隨時管理資源,如果機器沒有訓練任務,還會提醒你關機,真是良心平臺。
以下是他們平臺的GPU價格列表,而且學生和高校機構還有專屬折扣(學生黨低于一下價格)
1080Ti 1.4 元/小時
2080Ti 1.8 元/小時
3080Ti 2 元/小時
3090 2.8 元/小時
RTX5000 4 元/小時
Tesla T4 2 元/小時
Tesla V100 5.5 元/小時
如果按照有效使用時間(每年差不多35%的時間跑任務),和購買物理機相比,幾乎無差異了。而且隨時切換,卡的種類很多,而且還有8卡高性能服務器,非常方便。
進入正題:
接下來對比雙卡3090的GPU物理機 和 雙卡3090 云GPU服務器,做個詳細對比。
(選雙卡對比,因為單卡的話,有點浪費,4卡的話對學生黨還是挺貴的,)
以下對比的都是整機價格,包含CPU,內存,硬盤,網絡
表格還不夠直觀,來一個曲線圖,更加直觀(三年緯度,硬件一般3年)
得出如下觀點:
1.如果你配的電腦三年的使用率低于40%,其實硬件的成本優勢,并沒有發揮出來,
2.云主機,啟動成本低,跑幾個模型練練手,最多花費1000,然后在重新評估下利用率,再考慮是否入手物理機。
本次對比的服務器是一個DIY服務器,非品牌,品牌機價格更貴一些,只是建議,如果動手能力強,預算充足,愛折騰硬件,那買物理機當然隨意了,畢竟自己的機器。