1. 程式人生 > 資訊 >位元組跳動火山翻譯團隊推出全新 AI 訓練引擎:向全球開發者開源

位元組跳動火山翻譯團隊推出全新 AI 訓練引擎:向全球開發者開源

6 月 28 日訊息 今日,位元組跳動火山翻譯團隊宣佈推出 LightSeq 訓練加速引擎,並向全球開發者開源

Transformer 是自然語言處理、計算機視覺等 AI 技術領域最常用的基礎模型,被廣泛應用在機器翻譯、文字生成、文字摘要、影象處理、時間序列預測等任務中。訓練和推理則是 AI 技術的兩個主要過程,相當於學習知識和解決問題。

據悉,LightSeq 訓練加速引擎能夠支援 Transformer 的完整加速,從詞嵌入層、編碼層、解碼層,到最後的損失函式層,業內首次實現了全流程支援。而且 LightSeq 的訓練速度極快,相比主流的序列生成庫,LightSeq 最快只需要三分之一的時間就能完成訓練。

根據公開報道,位元組跳動現在已經開源了機器學習平臺 Klever、聯邦學習平臺 Fedlearner、高效能分散式訓練框架 BytePS 等重磅專案。