2018最新深度學習與神經網路的計算特點與硬體配置分析
2018最新深度學習與神經網路的計算特點與硬體配置分析
（一）深度學習訓練平臺現狀與理想的計算架構分析
深度神經網路（DNN）計算資料模型繁多，結構複雜，主流模型含幾十個隱含層，每層都在上千上萬級的神經元，整個網路更多，其計算量巨大。市場上用於深度學習的訓練計算機大致情況:
（1）伺服器/工作站（支援2、4、8塊GPU架構）：普遍存在噪音大，無法放置於辦公環境，必須放到專門的機房，維護成本高，另外資料儲存頻寬、延遲、容量也不盡如意。
（2）分散式叢集架構：效能強大，但是開發成本太高，是大多數科研單位無法承受。那麼問題來了，市場上是否有一個理想產品，彌補上述缺陷，讓更多單位都能用的起~人工智慧AI超級異構計算機。
UltraLAB GXM圖靈系列工作站是2018年最新推出的、目前市場上一款集GPU超算、海量儲存於一體、基於辦公靜音環境、應用於深度學習(機器學習、人工智慧)的AI超級計算機系統。
和市面上深度學習計算機系統相比，顯著優勢：
· 完全處於辦公環境（靜音級）、不在被噪音所困擾
· 配備基於PCIe匯流排的海量高速並行儲存（最大容量180TB），延遲低，支援最大15個並行讀，硬碟io效能大幅提升，效能和管理遠超傳統的DAS/NAS儲存系統
· 配備超級強大的計算能力，最大10個GPU卡，3.82萬計算核，單精度浮點120Tflops
· 不需要專門的機房，不佔過多空間，維護成本極低
· 不需要作業排程系統，管理難度大幅降低
（二）深度神經網路計算特點與硬體配置分析
市場上大部分GPU計算機(伺服器/工作站），重點都放在GPU卡數量上，似乎只要配上足夠GPU卡，就可以了，實際情況是，機器硬體配置還需要整體均衡，只有這樣這臺機器效能才能更好的發揮。
上述圖示，深度神經網路計算大致流程，下面通過深度神經網路計算環節，分析核心硬體配置理想要求
常見計算機硬體配置上的低階錯誤：
1．為了省錢，硬碟用普通PC硬碟，壽命短，頻寬低，或數量不夠，
2． 為了節省，CPU用的最多的是Xeon E5 2620v（8核2.1GHz），頻率太低，資料預處理太慢，成為整個計算的最大瓶頸，
3．為了把錢用到“刀刃上”—儘可能多配GPU卡，但是總視訊記憶體比記憶體容量大，不合理，或者CPU核數低於GPU卡數，這些都會造成計算過程資源耗盡，資料來回從虛擬記憶體匯入，計算變慢
（三）深度學習計算機、工作站最理想的硬體配置推薦
UltraLAB GX620M是一款集雙Xeon可擴充套件處理器和多GPU超算、海量儲存於一體、基於辦公靜音環境、是目前最強大的CPU+GPU混合計算模式的超級桌面計算機系統。
和市面上常規工作站硬體架構相比，顯著特點：
(1)提供目前市場上，先進的低成本的桌面級異構超算架構
■支援最新Xeon Schalable(可擴充套件處理器) ，數量2顆，最大56核，支援AVX512指令集，較上一代Xeon E5v4效能提升顯著
■具有強大GPU計算能力，最大10個GPU卡，
■配備基於PCIe匯流排的海量高速並行儲存（最大容量180TB），延遲低，支援最大15個並行讀，硬碟io效能大幅提升，效能和管理遠超傳統的DAS/NAS儲存系統
（2）適合辦公環境（靜音級）、不在被噪音所困擾
（3）零維護成本
不需要專門的機房，不佔過多空間，不需要專業維護工程師
不需要作業排程系統，管理難度大幅降低
（4）產品配置規格
典型應用分析與配置推薦
Ø 設計與模擬計算應用
藉助2顆Xeon Schalable(可擴充套件)處理器，大幅提升結構、流體、多物理場耦合、電磁模擬等模擬計算求解速度
具備高io，顯著降低隱式計算的密集回寫等待時間，例如 結構靜力模擬計算
配備高頻寬的多GPU，滿足支援GPU求解應用，例如CSTStudio
Ø 海量資料處理應用
主要是海量資料資料處理，例如地質資料處理、海洋資料處理、海量視訊深度學習分析、大資料分析等
該機型支援單16盤位或雙8盤位並行儲存，提供最大到150TB儲存容量，
配備先進2顆Xeon可擴充套件處理器和10塊GPU計算卡，大大加速不同演算法的多核平行計算
Ø 深度學習研究應用
這種應用計算三個環節需要加速：
（1） CPU單核計算模式的資料預處理，擁有Xeon可擴充套件處理器最高睿頻到4.2GHz，非常理想，
（2） GPU海量並行資料處理，配備多大6/9塊GPU計算卡，
（3） 海量資料需要一個理想的高io儲存架構
Ø 生命科學計算、分子動力模擬等應用
傳統演算法還是需要更強大的CPU平行計算能力，另一方面，一些演算法，藉助GPU計算卡大大加速求解
Ø 大學科研桌面級超級計算系統應用
大學裡科研應用的精度和深度越來越高，市場上可供選擇的伺服器/工作站都面臨不斷的更新換代淘汰，資金要用到合理，避免不必要的浪費，叢集成本高，維護難度大，因此一種擁有全能混合計算能力、海量儲存架構的微型超級計算系統，放到研究室、實驗室裡，是非常便利和實用，藉助虛擬作業系統，滿足更多學生共享使用，從事科學與工程模擬計算、海量影象處理、支援大型三維圖形設計等。
UltraLAB GXM是一款靜音級、真正高效能GPU超算的深度學習訓練計算機，比市面上的機器，更安靜，效能更強大，適合科研、研究部門在安靜的辦公環境下執行。
此外，該機型用途極廣，擴充套件能力強， 調整配置後，可為電磁模擬計算（CST）、量子化學/分子動力學計算（VASP、AMBER等）、超大屏拼接（8X9=72路視訊拼接合成）、視訊剪輯合成、指紋識別等應用，提供強悍的計算、圖形生成能力。
更多諮詢交流，加我V信。
