1. 程式人生 > 資訊 >深扒歐美 AI 晶片六大獨角獸:世界最大晶片、傳奇人物加盟、科技巨頭聯投

深扒歐美 AI 晶片六大獨角獸:世界最大晶片、傳奇人物加盟、科技巨頭聯投

2021 年,AI 晶片戰場依然烽火連天,但國內外卻呈現出兩番光景

在國內,BAT 網際網路大廠自研 AI 晶片均已揭曉,超 40 家 AI 晶片企業今年拿下新融資。地平線、黑芝麻智慧、燧原科技、壁仞科技、崑崙芯、摩爾執行緒等企業的估值均超 100 億人民幣。高額融資、新品釋出、量產成績公佈等不勝列舉。

相比國內的繁榮,歐美 AI 晶片的多數風頭卻被科技巨頭佔據,英偉達在雲端訓練市場風光無二,英特爾繼續主導推理市場,率先闖進獨角獸陣營的歐美 AI 晶片獨角獸僅有 6 家

AI 晶片,這一網際網路巨頭們爭相佈局的硬科技領域,為何在國外市場沒有掀起大量融資浪潮?我們從其核心團隊、融資情況、釋出產品等資訊進行了梳理。

這 6 家獨角獸集中成立於 2016-2017 年,分別是拿到谷歌、英特爾投資的 SambaNova Systems,憑藉全球最大晶圓級晶片爆紅的 Cerebras Systems,英國唯一 AI 晶片獨角獸 Graphcore,由谷歌 TPU 初始團隊創立的 Groq,晶片大神 Jim Keller 加盟的 Tenstorrent 以及以色列的 AI 晶片獨角獸 Hailo Technologies。

▲ 截止 2012 年 12 月歐美 AI 晶片六大獨角獸公司融資、產品情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)

憑藉領先的創新技術與落地程序,這 6 家歐美 AI 晶片獨角獸代表,正將影響力輻射至全球科技圈。

一、SambaNova:甲骨文元老、斯坦福教授創立,獲谷歌英特爾投資

6 家獨角獸中,SambaNova Systems 估值最高,最新一輪融資總額也遙遙領先。

這家美國的 AI 晶片公司成立於 2017 年,總部位於美國加州帕洛阿爾託,2019 年春季已釋出第一款 Cardinal 雲端訓練晶片,落地於美國阿貢國家實驗室、美國能源部旗下國家核安全管理局(NNSA)等多個研究機構。

值得一提的是,投資 SambaNova Systems 的投資方不僅包括活躍的投資機構日本軟銀、淡馬錫等,還有谷歌、英特爾等知名科技巨頭。

▲ SambaNova Systems 融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)

今年 4 月,該公司獲得最新一輪 6.76 億美元的 D 輪融資,融資後估值超過 50 億美元,一舉躍升歐美估值最高的 AI 晶片公司。

SambaNova Systems 由曾在甲骨文任職的羅德里戈・樑(Rodrigo Liang)以及斯坦福大學教授昆勒・奧魯克頓(Kunle Olukotun)、克里斯・雷(Chris Ré)聯合創辦。

▲ SambaNova Systems 創始人昆勒・奧魯克頓(左)、羅德里戈・樑(中)、克里斯・雷(右)

其中奧魯克頓是斯坦福大學晶片多處理器專案的負責人,雷是斯坦福大學計算機科學系副教授、麥克阿瑟天才獎的獲得者,並在統計機器學習小組和斯坦福大學 AI 實驗室開展研究工作。

2021 年 4 月,SambaNova Systems 推出了其第二代雲端 AI 晶片可重構資料流單元 Cardinal SN10 RDU,包含 400 億電晶體,採用臺積電 7nm 製程,由一系列可重構節點組成,用於資料儲存和交換。每個 Cardinal 晶片有 6 個控制器用於記憶體,可實現 153 GB / s 的頻寬,8 個晶片以全配置連線。

▲ SambaNova Systems 第二代雲端 AI 晶片 Cardinal SN10 RDU

SambaNova Systems 的 AI 晶片並不會單獨出售,而是作為一種安裝在資料中心上的解決方案配套出售。目前其 SambaNova Systems 的旗艦產品是訂閱型的 AI 服務平臺 SambaNova DaaS,與其整合軟體和硬體系統平臺 DataScale 一起使用。

▲ SambaNova Systems AI 服務平臺 SambaNova DaaS

SambaNova Systems 的 AI 晶片以及它的客戶在很大程度上仍處於保密狀態。其產品自 2020 年以來已進入美國能源部下屬的勞倫斯・利弗莫爾國家實驗室和阿貢國家實驗室。SambaNova Systems 主要是根據客戶需求定製產品,並提供一套預設的網路和管理功能,並由 SambaNova Systems 進行遠端管理。

二、Cerebras:打造全球最大晶片,今年解鎖“人腦級”AI 模型

2019 年 8 月,美國矽谷創企 Cerebras Systems 推出的世界最大晶片引爆晶片圈。今年 4 月,這家公司推出了巨芯二代 WSE-2,可處理超級計算任務,搭載 WSE-2 晶片的 AI 超算系統 CS-2 也同期釋出。

這家以巨型晶片聞名的獨角獸公司成立於 2016 年,總部位於美國加州洛斯阿爾託斯。就在今年 11 月 10 日,Cerebras Systems 宣佈,獲得 2.5 億美元 F 輪融資,總融資額達到 7.5 億美元,投後估值超 40 億美元。

▲ Cerebras Systems 融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)

Cerebras Systems 由加里・勞特巴赫(Gary Lauterbach)和安德魯・費爾德曼(Andrew Feldman)聯合創立。

值得一提的是,加里和安德魯曾經還聯合創辦了專注於超高密度計算機伺服器業務的 Seammicro 公司,這家公司在 2012 年被 AMD 以高達 3.57 億美元的價格收購。

▲ Cerebras Systems 創始人安德魯・費爾德曼(Andrew Feldman)(左)和加里・勞特巴赫(Gary Lauterbach)

今年 4 月,Cerebras Systems 又推出了巨芯二代 Wafer Scale Engine 2(WSE-2),該晶片為超級計算任務而構建,具有破紀錄的 2.6 萬億個電晶體和 85 萬顆 AI 優化核心,大小類似餐盤,採用臺積電的 7nm 工藝。

▲ Cerebras 第二代晶片 WSE-2

今年 8 月,Cerebras Systems 宣佈推出世界上第一個人類大腦規模的 AI 解決方案,一臺 CS-2 AI 計算機可支援超過 120 萬億引數規模的訓練。相比之下,人類大腦大約有 100 萬億個突觸。

此外,Cerebras Systems 還實現了 192 臺 CS-2 AI 計算機近乎線性的擴充套件,從而打造出包含高達 1.63 億個核心的計算叢集。

▲ Cerebras Systems 人腦規模 AI 解決方案的技術組合

目前,Cerebras Systems 的 AI 超算系統 CS-2 只有少數客戶可以使用,它的客戶集中於軍事、實驗室等。Cerebras Systems 重量級客戶包括美國阿貢國家實驗室、勞倫斯利弗莫爾國家實驗室、匹茲堡超級計算中心、愛丁堡大學的超級計算中心、葛蘭素史克、東京電子器件等。

三、Graphcore:英國唯一 AI 晶片獨角獸,與阿里、百度建立合作

作為闖入中國 AI 晶片市場的少數國外獨角獸之一,Graphcore 已經與阿里巴巴、百度建立合作。該公司為阿里巴巴的 HALO 專門定製程式碼,並加入了百度的飛槳硬體生態聯盟。

這家公司還是英國的唯一一家 AI 晶片獨角獸。Graphcore 成立於 2016 年,總部位於英國布裡斯托爾。2020 年 7 月,Graphcore 推出第二代雲端訓練晶片 GC200。

最新一輪融資後 Graphcore 估值達 27.7 億美元,這使得它成為歐洲市值最高的晶片初創公司。

此前,Graphcore 高階副總裁、中國區總經理盧濤在接受芯東西等媒體採訪時談道,當下 Graphcore 面臨唯一的巨頭挑戰是英偉達。而 Graphcore 和英偉達的淵源不止於此,Graphcore 的創始人 Nigel Toon 此前創立的晶片公司 Icera,於 2011 年被英偉達收購。

▲ Graphcore 的聯合創始人 Nigel Toon(左)和 Simon Knowles

Graphcore 此前共經歷了 6 輪融資,最新一輪融資在 2020 年 12 月 29 日公佈,融資金額高達 2.22 億美元,是 6 筆融資中金額最高的。Graphcore 已經獲得超過 4.5 億美元的融資,戰略投資者不乏寶馬、博世、戴爾、微軟、三星等各行業巨頭。

▲ Graphcore 融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)

Graphcore 的 AI 晶片為智慧處理單元 IPU,採用自研大規模並行同構多核架構,包含 1216 個獨立 IPU 核心。

Graphcore 研發的 GC200 晶片基於 7nm 工藝,最多可以連線 64000 個晶片來建立一個巨大的並行處理器,其計算能力約為 16 exaFLOPS。這樣的系統將能夠支援具有數萬億個引數的 AI 模型。

基於第二代 IPU 晶片 GC200,Graphcore 還構造了大規模系統級產品 IPU-M2000 以及模組化機架規模解決方案 IPU-POD 系統。

Graphcore 的 IPU-POD 系統可以將 AI 計算和伺服器進行分解,以優化其解決方案為不同的 AI 工作負載提供最高效能。

▲ Graphcore 的大規模系統級產品 IPU-M2000

值得注意的是,Graphcore 也開始在中國市場大展拳腳。Toon 曾在接受採訪時說,中國是支援 Graphcore AI 計算應用增長最快的市場,並正式定名為“擬未科技”。Graphcore 將與中國的生態聯盟共同推廣新的 AI 應用程式,並幫助建立行業標準。

在去年 5 月的 Wave Summit 2020 深度學習開發者峰會上,Graphcore 宣佈成為百度飛槳硬體生態圈共建計劃夥伴之一,加速機器視覺、自然語言處理等演算法模型與硬體的適配與落地。

四、Groq:主攻計算機視覺,前谷歌 TPU 團隊創立

2016 年底,谷歌 TPU 核心團隊中喬納森・羅斯(Jonathan Ross)悄悄離職,與同樣出身谷歌的道格拉斯・懷特曼(Douglas Wightman)在美國加利福尼亞創立了一家機器學習系統公司。這家公司就是美國的獨角獸 AI 晶片初創公司 Groq,它成立於 2017 年,總部位於美國加州山景城。

最新一輪融資完成後,該公司估值已超 10 億美元。

谷歌的 TPU 團隊負責研發用於加速機器學習的定製晶片,曾幫助軟體程式 AlphaGo(阿爾法狗)擊敗傳奇圍棋玩家李世石。而 Groq 的創始團隊中有 8 名都出身於谷歌的 TPU 核心團隊。

▲ Groq 創始人喬納森・羅斯

此前,Groq 共經歷 4 輪融資,2021 年 4 月,Groq 獲得最新一筆融資,金額為 3 億美元,由 Tiger Global Management 和億萬富翁 Dan Sundheim 投資。該公司前 4 輪融資總額僅為 6230 萬美元,新一輪融資完成後,其融資總額達到 3.623 億美元。

▲ Groq 融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)

2019 年 11 月,Groq 推出了張量流處理器 TSP 架構,該架構是世界上第一個能在單個晶片上每秒執行 1000 萬億次(1000 TOPS)操作的晶片架構,專門針對計算機視覺、機器學習和其他 AI 相關工作負載的效能需求而設計。

Groq 的 TSP 架構受軟體優先的啟發,能夠實現實現計算靈活性和大規模並行性。目前已經在 x86 和非 x86 系統的客戶站點上執行。

同時期,Groq 推出了其首個雲端推理晶片 GroqChip,可以實現 16 個晶片間互連和 230 MB SRAM,靈活整合到嵌入式應用中,算力可達 750 TOPS。

GroqChip 還使用 TSP 架構,使其能夠在記憶體中儲存更多的模型,以高計算效能處理資料,這使得它非常適合從大型資料集進行推理。

除此之外,該公司堅持“以軟體為先”,其編譯器能處理硬體中的控制功能,例如執行計劃等。Groq 的軟體還可精心編排所有資料流和所需時序,以確保計算不會出現停頓,並在編譯時完全可預測延遲、效能和功耗。

▲ Groq 的產品架構

2020 年,美國阿貢實驗室的科學家們使用 GroqChip 建立了 SARS-CoV-2 病毒的機器學習模型。

第一代晶片釋出後,Groq 稱正在研發第二代新型晶片,但截至現在,還沒有檢索到二代晶片的相關資訊。

羅斯談到,機器的學習效果是具有隨機性的,想要他們正確應對各種複雜的情況是非常困難的,當隨機情況發生的時候,需要完成所有可能的計算,才能達到機器學習的最優化,這使得執行起來的成本大大增加。而 Groq 的晶片構架就可以為機器學習和 AI 應用帶來客觀的效能提升。

五、Tenstorrent:兼顧高算力和可擴充套件,獲晶片大神加盟

傳奇晶片設計大神 Jim Keller 去年 6 月從英特爾辭職後,今年 1 月宣佈加盟加拿大 AI 晶片創企 Tenstorrent,擔任 CTO 兼總裁。

手握本科學歷的 Jim Keller,人送外號“矽谷遊俠”,1998 年從業以來,20 年間輾轉於多家大型科技公司,不乏 AMD、蘋果、特斯拉、英特爾等頂尖企業,這位技術大牛不斷革新半導體行業的發展,屢屢研發出里程碑式的晶片。

2020 年 6 月,這位業界傳奇人物從英特爾離職,他的去向備受業界關注。但出乎多數人的預期,這個答案在今年 1 月揭曉 ——Jim Keller 選擇加盟了一家 AI 晶片公司 Tenstorrent。

之所以做出這樣的選擇,Jim Keller 在接受外媒專訪時予以迴應:“目前爆發性增長的 AI 晶片領域,Tenstorrent 更像是一張白紙。我在公司中擁有大量股權,公司 CEO Ljubisa Bajic 也是我的老朋友,無論是基於財務還是對朋友的承諾,我都會選擇暫時待在這裡。”

▲ Jim Keller(左)和 Tenstorrent 創始人 Ljubisa Bajic

Tenstorrent 於 2016 年創立,總部位於加拿大多倫多市。最新一輪融資完成後,這家公司的估值達到了 10 億美元的級別。2020 年 4 月,Tenstorrent 推出其第一款 AI 晶片 Grayskull,可以兼顧 AI 訓練和推理任務。

Tenstorrent 此前共經歷 4 輪融資,最新一輪融資在 2021 年 5 月 20 日,完成了超過 2 億美元資金的 C 輪融資,由私募股權機構富達管理(Fidelity Management)領投。

▲ Tenstorrent 融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)

2020 年 4 月 7 日,Tenstorrent 釋出其首款 AI 晶片 Grayskull。同年年底,Grayskull 開始量產,並逐漸向早期客戶出樣。

Grayskull 處理器配備 Tenstorrent 定製的 Tensix 能夠提供 368 TOPS。每個 Tensix 核心具備完全 C++ 可程式設計、多執行緒、前端功能;高面積和功率效率矩陣計算引擎;強大靈活的 SIMD 引擎等。

▲ Tenstorrent 推出的第一代 AI 晶片 Grayskull

相較市面上現有 AI 晶片產品,Grayskull 不僅能兼顧高算力和低能耗,還具備高度可擴充套件的特點,可擴充套件到 10 萬個節點,支援從小型嵌入式裝置到大型資料中心的 AI 推理和訓練任務。

Tenstorrent 的研究人員設計了一個能實現細粒度條件執行、動態稀疏處理的完全可程式設計體系結構,可將較大資料組的複雜計算任務分解成多個較小資料組的計算,由晶片上的各個核心進行獨立的處理。

其研究人員稱,該處理器新的架構方法將通過適應模型的確切輸入並緊密整合計算和網路,使處理器能夠隨著 AI 模型的持續增長而擴充套件。

2021 年 6 月,外媒 SemiAnalysis 報道,Tenstorrent 正在研發的第二代 AI 晶片 Wormhole,將更注重訓練而不是加速,並捆綁在 16×100 G 乙太網埠交換機中。

Jim Keller 加盟後談道,Tenstorrent 的目標是將高效能的 AI 晶片與一種新方法相結合,利用 AI 來優化低階軟體功能,通過這種被稱為 Software 2.0 的方法來提高效率和運算速度。Jim Keller 將為 Software 2.0 提供所需的硬體解決方案。

六、Hailo:以色列獨角獸,中國資本參投

以色列 AI 晶片獨角獸 Hailo Technologies 成立於 2017 年,總部位於特拉維夫,主打為邊緣裝置提供資料中心效能。以色列國防軍以黑科技著稱,是以色列科技界的中堅力量,Hailo Technologies 的創始人奧爾・達農(Orr Danon)就來自以色列國防軍精英技術小組。

▲ Hailo Technologies 的創始人奧爾・達農

今年完成最新一輪融資後,Hailo Technologies 的總估值約為 10 億美元,正式晉升獨角獸企業。

此前,有中國投資公司上海耀途資本參投,這家投資公司聚焦物聯網、大資料、雲端計算及 AI 領域。

該公司共經歷 4 輪融資,最新的一輪是 2021 年 10 月 12 日,融資金額為 1.36 億美元,其融資總額已經達到 2.239 億美元。

▲ Hailo Technologies 融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)

目前 Hailo 已推出一款 AI 推理晶片 Hailo-8 及 M.2 和 Mini PCIe 加速模組,分別在 2019 年 5 月和 2020 年 10 月推出,AI 推理晶片 Hailo-8 已經實現量產。

2019 年 5 月,Hailo Technologies 釋出了超效能創新架構 AI 晶片 Hailo-8,該晶片效能高達 26 TOPS,並且具有超小的面積和功耗,晶片尺寸均小於 1 美分。

▲ Hailo Technologies 推出的 AI 晶片 Hailo-8

Hailo Technologies 的 Hailo-8 深度學習晶片可在邊緣提供資料中心級晶片的效能,同時在尺寸、效能和功耗方面擊敗競爭的邊緣處理器。

2020 年 10 月,Hailo Technologies 宣佈推出基於 Hailo-8 晶片 M.2 和 Mini PCIe 高 AI 加速模組,該公司稱已經與富士康展開合作,將 M.2 模組整合到其“BOXiedge”邊緣計算平臺中。

IBM、英特爾、三星電子、阿里巴巴等跨國科技巨頭已經在研發過程中注意到了該公司的技術,它們已經有部分技術引用了 Hailo Technologies 公司的專利。

今年 10 月,Hailo Technologies 稱正在努力將其晶片構建到原始裝置製造商(OEMs)和一級汽車公司的產品中,這些領域包括先進的駕駛輔助系統以及機器人、醫學、智慧城市和家庭等。

結語:AI 晶片產品各異,創企如何突出重圍?

經過四五年的磨礪,這 6 家歐美 AI 晶片獨角獸的自研晶片產品已經開始走向落地。可以看到,多家的首批客戶集中於大型實驗室,商業化程度還相對有限,其中 Graphcore 已率先發力中國市場。

與此同時,系統化已經是今年 AI 晶片產業呈現的一大趨勢。AI 晶片獨角獸在其自研晶片的基礎上,已經陸續打造從板卡、伺服器、軟體到叢集的更完整系統級解決方案,並公佈更多的應用案例,來展現其技術實力和商用價值。

相比國內,歐美 AI 晶片創企面臨的生存壓力往往更甚,它們直面英偉達、英特爾等晶片巨頭已經構築的深厚生態壁壘,又缺少國產化替代等外部環境特定的激勵,此前有些 AI 晶片創企已經被巨頭企業收購,也曾有明星企業走向破產重組。

作為 AI 技術的底層驅動,AI 晶片行業發展態勢不可逆轉,更多半導體大公司、網際網路巨頭和創業公司開始佈局這一領域。而如何在一眾強手中突出重圍,將是 AI 晶片企業們面臨的關鍵考驗。