1. 程式人生 > >深度學習攢機:要高效能也要很便宜

深度學習攢機:要高效能也要很便宜

一直使用VirtualBox安裝的ubuntu來玩各種開源的程式碼庫,也沒覺得什麼不爽的,更重要的是windows的各種工具軟體和銀行也能同時使用;要說virtualBox+ubuntu的缺點就是:

1:硬碟空間老是捉襟見肘,不敢放開放大批量的資料;

2 和硬體結合不方便,比如opencv或其他caffe想使用攝像頭,這個就要通過virtualBox的選單欄手動設定,而且還要必須手動操作;這點就是瓶頸:比如遠端重啟機器就沒法使用了!

3 隨著大資料和人工智慧越來越多的進入我的開發工作,一個很嚴重的,很嚴峻的問題逐漸凸顯了:不能使用GPU!對,VirtualBox上的ubuntu(以下簡稱VBU)不能使用GPU!我幾次在用VBU訓練TensorFlow的資料時都功虧一簣,Retrain分類

模型inception花的分類時,就是下面這個花的識別,跑了8天7夜最後竟然被killed了……

     

其實,VBU雖然效能不高,但是在雲端計算開發時,比如開發TAF服務,ICE服務時是非常方便,就像使用一個應用程式,不再贅述VBU的優點了,之所以配置硬體的深度學習機器就是要解決效能上的痛點!但是,這個機器又不是工作使用,就是學習驗證下demo或自己的程式碼啊,配個7,8千大洋對我來說實在沒必要。二手的就是我們的目標!

首先,我們選主機板,二手伺服器主機板,為什麼選伺服器主機板呢?價效比高啊!買二手伺服器主機板一定要買個品牌的二手主機板,這樣才穩定可靠啊,那不然搞個雜牌,跑個訓練集一半突然藍屏掛掉了,想砸了的心情都有!所以,一定要找個二手的大品牌,筆者就推薦二手的技嘉X79主機板,技嘉是品牌,X79是主機板型別!在淘寶搜尋下X79主機板,選技嘉的,選個1000~1200左右的就可以了;切記,一定要Intel晶片組的,否則就沒法使用NVIDIA的GPU,也不能使用CUDNN庫了,切記切記!

其次,選另一個核心部件:CPU!現在i7的CPU最便宜都要2000大洋以上!!!對於我平時學習和玩玩大資料來說,有點心不甘情不願去花這麼多錢,再說I7又不是唯一的選擇,對我們選伺服器CPU,二手的,我買的E5 2660 V2,我們看下這個CPU引數吧:

是不是效能很強大!嗯,據網上的評測,E5 2660 V2的效能可以秒I5 CPU全家,秒I7 CPU大部分!!!那麼這個伺服器CPU多少錢呢?淘寶上也就700多元,怎麼樣?沒有對比,就沒有傷害!我們只要用著效能強勁就好了!秒誰不秒誰不是我們的目標!下面是我的E5 2660 V2執行情況:

零點智慧AILab線上體驗

PC的三大件還差記憶體?記憶體最近一年可是瘋漲了3倍多快4倍了,比買股票還賺錢啊!我們玩大資料的,沒個大記憶體那和VBU又有什麼區別呢?巧婦難為無米之炊!買了伺服器主機板就註定了我們攢機的方向是正確的,伺服器主機板需要的ECC REG記憶體條!這種記憶體條多少錢呢?8G的也才160元,是的160元!!我們就隨便配個16G記憶體才320元。

好了,配齊了三大件,我們要選擇GPU了,大資料的核心處理器;為什麼GPU比CPU處理大資料快很多呢?看下我的技嘉 大將1060 6G 顯示卡引數吧:

  • 晶片廠商NVIDIA
  • 顯示卡晶片GeForce GTX 1060
  • 顯示晶片系列NVIDIA GTX 10系列
  • 製作工藝16納米
  • 核心代號GP106-400
  • 核心頻率1594/1847MHz
  • CUDA核心1280個

看到了吧,GPU隨隨便便都是成百上千個處理核心,CPU再多也就幾十個而已,在大資料訓練和預測時,GPU這些核心可以同時並行處理資料,這也就是為什麼GPU那麼快的原因!當時我在淘寶買的就是技嘉大將1060 6G這款顯示卡,二手礦卡,店主明說了就是二手礦卡,1699元!目前用的好好,沒任何問題!說什麼礦卡壞了,容易燒了等等,感覺有點胡扯;大家公司的電腦都是幾年幾個月不關機的,有燒壞過CPU,燒壞過GPU的?!現代GPU和CPU除了有智慧溫控電路做基本保護外,也增加動態調節演算法來調整GPU和CPU執行功耗,只要散熱良好,不會說就燒壞了GPU!

下面我們說下電源模組,因為我們用了GPU,而這個GPU也不是一般辦公用的顯示卡,所以對供電模組選擇的時候要考慮長遠,電源儘量選擇500W或以上,一定要有獨立的CPU和GPU供電輸出插頭!GPU供電插頭一定選有8PIN的,比如我的1060 6G就是8PIN插頭,結果我這個只有6PIN的,沒辦法我只能又淘了一個6PIN轉8PIN的轉接線,左上角紅色的就是電源!

還有硬碟,我買的是比較便宜的機械硬碟,選SSD是速度最快的,機箱,CPU的散熱風扇了這些按照規格買就行了,不要一把抓啊,否則你會退貨或用不了的。

這就是我們為什麼要選擇伺服器主機板,就是為了選擇價效比高!下面是我的配置清單,供大家參考:

主機板:技嘉x79

CPU: E5 2660 V2 10核20執行緒 至強CPU頂級配置,可以秒殺I5系列全家,秒I7

記憶體:16G recc伺服器記憶體
價格:和主機板是套裝

價格:1798

硬碟:320G 普通硬碟
價格:85元

顯示卡:技嘉1060 6G G1 ,1280個處理核心,視訊記憶體6G
價格:1699元

機箱:ATX標準機箱
價格:59.9

電源:鉑爵500W
價格:65.9元

合計:1798(主機板+CPU+記憶體)+85(320G硬碟)+1699(技嘉大將1060 6G顯示卡)+59.9(機箱)+65.9(電源)=3707.8元;是不是很便宜,價效比很高,也不會被CPU和記憶體的高價格給羈絆,用著爽啊!

有什麼不明白的加Q群討論,在頁面的最底部。