1. 程式人生 > 其它 >自動駕駛網路大學課程W6L2 算網一體

自動駕駛網路大學課程W6L2 算網一體

AI for Networking, Networking for AI.

本週第二節課程的主題還是算網一體之在網計算來加速AI的計算。

本週課程學習材料通過利用NETFPGA平臺,通過特別設計的乙太網封裝的報文,講強化學習中梯度計算的指令和資料封裝在乙太網報文中,利用NETFPGA實現引數的匯聚。文章提出的具體實現針對同步和非同步的強化學習都取得了不錯的加速效果。

結論部分的機器翻譯:

在本文中,我們首先量化了分散式RL訓練的效能開銷,並提出了一種交換機內計算正規化,即iSwitch,以消除網路瓶頸通過提供一整套解決方案:(1)交換機內匯聚加速器,減少端到端通訊開銷;(2)同步和非同步分散式RL訓練的加速支援,提高了並行性;並(3)分級

為機架規模叢集設計,以擴充套件分散式RL培訓。在不同RL工作負載下的實驗表明,iSwitch提供了高達3.66倍的系統級同步加速與最先進的方法相比,分散式訓練為3.71×非同步分散式訓練。