1. 程式人生 > 資訊 >Rambus 推 HBM3 記憶體子系統:速率高達 8.4Gbps,頻寬突破 1TB

Rambus 推 HBM3 記憶體子系統:速率高達 8.4Gbps,頻寬突破 1TB

8 月 25 日報道,今天,美國記憶體 IP 廠商 Rambus 宣佈推出 HBM3 記憶體介面子系統,其傳輸速率達 8.4Gbps,可以為人工智慧/機器學習(AI/ML)和高效能運算(HPC)等應用提供 TB 級頻寬,是當前速率最快的 HBM 產品。預計 2022 年末或 2023 年初,Rambus HBM3 將會流片,實際應用於資料中心、AI、HPC 等領域

芯東西等媒體與 Rambus 大中華區總經理蘇雷、Rambus IP 核產品營銷高階總監 Frank Ferro 就 Rambus HBM3 的具體效能以及 Rambus 對客戶的支援等進行了深入交流。

一、支援 8.4Gbps 資料傳輸速率,頻寬超 TB

據 Frank 分享,隨著越來越多的公司進入人工智慧市場,這對記憶體頻寬提出了很多要求,而神經網路和深度學習等 AI 應用也在不斷推動記憶體頻寬增長。

諮詢公司 IDC 記憶體半導體副總裁 Soo Kyoum Kim 曾稱:“AI/ML 訓練對記憶體頻寬的需求永無止境,一些前沿訓練模型現已擁有數以十億的引數。”

Rambus 的 HBM3 記憶體子系統提高了原有效能標準,包含完全整合的 PHY 和數字控制器,可以支援當下很多 AI 及 HPC 應用。

具體來說,HBM3 的資料傳輸速率高達 8.4Gbps/pin,頻寬達 1075.2GB/s(1.075TB/s)。Rambus 的 HBM3 支援標準的 64 位 16 通道,支援 2、4、8、12 和 16 HBM3 DRAM 堆疊,通道密度達 32Gb。

Frank 迴應芯東西記者問題時稱,HBM3 的流片時間預計為 18 個月,因此可能會在 2022 年末或 2023 年初出片,並實際應用於部分客戶。

▲ Rambus HBM3 產品效能亮點與目標市場

Frank 稱,由於其資料傳輸速率和頻寬較高,HBM3 可以應用於 AI、機器學習、HPC 等多種應用。

HBM3 採用了 2.5D 架構,最上面集成了 4 條 DRAM 記憶體條,通過堆疊的方式整合在了一起。記憶體條下方是 SoC 和中介層,最下面的綠色部分則是封裝。

對客戶來說,Rambus 會提供 SI/PI 專家技術支援,確保裝置和系統具有最優的訊號和電源完整性。作為 IP 授權的一部分,Rambus 也將提供 2.5D 封裝和中介層參考設計。

▲ Rambus HBM3 產品架構

Frank 還給出了 HBM 效能的演進圖。

2016 年 HBM2 的頻寬為 256GB/s,I/O 資料速率為 2Gbps;HBM2E 的頻寬則能達到 460GB/s,資料傳輸速率達 3.6Gbps;SK 海力士公佈的 HBM3 頻寬和傳輸速率分別為 665GB/s 和 5.2Gbps;Rambus 的 HBM3 效能又進一步提升,分別達 1075GB/s 和 8.4Gbps。

▲ HBM 產品效能演進圖

Frank 強調,雖然 Rambus 的 HBM3 效能比 SK 海力士此前公佈的要更進一步,但 SK 海力士作為 Rambus 的重要客戶,Rambus 也會為其提供支援

蘇雷還透露,當前國內的一流 AI 晶片廠商都和 Rambus 有所接觸,預計行業將會快速升級到 HBM3 標準。

二、Rambus 優勢:市場經驗豐富、支援多廠商製程節點

對於 Rambus 能夠為客戶提供的服務,Frank 提到 Rambus 在 HBM 市場中擁有豐富的經驗和技術優勢。

Rambus 在 2016 年就進入了 HBM 市場,其 HBM2E 記憶體子系統擁有行業中最快的 4Gbps 速率。

憑藉產品效能,Rambus 獲得了超過 50 個市場訂單,是市場份額排名第一的 HBM IP 供應商。Rambus 的晶片開發基本一次就能成功,無需返工,提升了設計效率。

同時,Rambus 的 HBM2/2E PHY(埠物理層)支援臺積電、三星等多個先進製程節點。其產品集成了 PHY、IO、Decap 等,其客戶可以直接採用。

Rambus 也與 SK 海力士、三星等 DRAM 供應商關係緊密,其測試晶片已經經過了市場上所有供應商的 DRAM 驗證,能夠為客戶提供便捷地服務。

▲ Rambus 在 HBM 市場中的優勢

三、2025 年全球資料使用量將達到 175ZB,AI 晶片市場將達百億美元

Rambus 大中華區總經理蘇雷分享了近年來 Rambus 所取得的成績。Rambus 建立時間已經超過 30 年,公司總部位於美國加利福尼亞州,在歐盟和亞洲等地設有辦事處,全球員工人數超過 600 人。

Rambus 擁有 3000 餘項專利和應用,2020 年經營現金流達 1.855 億美元,來自產品、合同等收入同比增長 41%。其主要的客戶有三星、美光、SK 海力士等記憶體廠商和高通、AMD、英特爾等晶片廠商,Rambus 75% 以上的收入來自於資料中心和邊緣計算產品銷售。

▲ 半導體產業生態

從市場來說,人工智慧/機器學習越來越多地應用於各個領域。預計到 2025 年,超過 25% 的伺服器將用於人工智慧領域,AI 晶片市場將達到 100 億美元。

2025 年,全球資料使用量將達到 175ZB,年均複合增長率達 35%,伺服器整體年增長率為 8%。蘇雷稱,Rambus 也將致力於使資料傳輸更快、更安全。

▲ 資料中心市場趨勢

結語:HBM3 將推動 AI、HPC 應用發展

相對於 GDDR 視訊記憶體,HBM 有著高頻寬的特性,是資料密集型應用記憶體和資料處理瓶頸的解決方案之一。

本次 Rambus HBM3 IP 的推出,將再次推動 HBM 產品效能的提升,推動人工智慧、高效能運算等應用發展。