1. 程式人生 > 資訊 >韓國科學技術研究院開發出世界首款 AI 運算專用 SSD:機器學習提速 7 倍

韓國科學技術研究院開發出世界首款 AI 運算專用 SSD:機器學習提速 7 倍

1 月 12 日訊息,根據韓國媒體 businesskorea 報道,韓國科學技術研究院(KAIST)研發出了一種專門針對 AI 人工智慧相關運算進行優化的 SSD。這款產品適用於神經網路機器學習技術,可以加速顯示卡運算效能

在當前,機器學習通常利用遊戲顯示卡或者計算加速卡進行運算,基於傳統伺服器平臺打造。這使得資料預處理過程存在瓶頸,此外,記憶體資源往往也不足。韓國研究人員的這項技術,使得每個運算過程都在儲存裝置附近直接進行,以提高效能。

研發團隊已經制造出了一個原型機,並設計了軟體框架。這臺原型機使用英偉達 RTX 3090 顯示卡,測試結果表明,與現有平臺相比,新技術使得運算速度提升 7 倍,並且整個機器學習過程中的能耗,降低至之前的 1/33

據瞭解,韓國研究人員還指出,在更大規模的運算中,運用這種固態硬碟,可以使得機器學習運算速度提高 201 倍、453 倍。這些機器學習模型可以用於大規模推薦、流量預測以及新藥開發等等。相關研究成果預計將在 2 月份舉辦的 USENIX FAST 2022 大會公佈。