《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > AI國力戰(zhàn)爭:GPU是明線,,HBM是暗線

AI國力戰(zhàn)爭:GPU是明線,,HBM是暗線

2024-03-29
來源:錦緞
關(guān)鍵詞: AI GPU HBM

隨著英偉達在最新的財報會議中明示,,不同的國家都在嘗試建立屬于自己的 AI 算力,,這一暗流下的激烈角逐已經(jīng)完全走向臺前。

在這一場國家級,、企業(yè)巨頭之間的競爭中,,站在最前排的就是大模型和大模型的算力發(fā)動機 GPU,。

從今年的 Sora、Claude3,、GPT5 的態(tài)勢來看,,大模型的智力涌現(xiàn)并未有絲毫放緩的跡象;這也使得國產(chǎn)大模型的追趕,,眼看要縮小的差距又被無情的拉大,,但算法的半透明和原理的公開,總歸讓這場競賽不至于被套圈太多,。

雖然 GPU 龍頭英偉達股價一飛沖天,,但攪局者的動力也有增無減,AMD 作為二供被寄予了厚望,,谷歌自研 TPU 也被不少人看好,;而國產(chǎn) GPU 選手華為昇騰、寒武紀,、海光,、沐熙、壁韌等也在嘗試形成自己的閉環(huán),。

但在更為隱秘的戰(zhàn)場,,HBM(高帶寬內(nèi)存)顯然是基本被忽視的關(guān)鍵一環(huán)。

01

大模型和 GPU 是明戰(zhàn),,HBM 則是暗戰(zhàn)

如果因循最基本的原則,,從 AI 算力出發(fā),我們知道制約單芯片能力的最大瓶頸有三個,,分別是:GPU,、先進制程(含 CoWoS 先進封裝),以及 HBM,。

其中 GPU 和先進制程是一體兩面的關(guān)系,,優(yōu)秀 GPU 企業(yè)如英偉達設(shè)計出來 GPU 之后,還需要利用臺積電的先進制程進行制造,,再利用臺積電,、日月光的先進封裝技術(shù) CoWoS 進行最后的合封,這一點在 2023 年 CoWoS 產(chǎn)能奇缺的時候,,已被市場刨根問底,。

而在同一顆 AI 芯片上的顯存顆粒模組 HBM,作為與先進制程同等重要的存在,,但到的關(guān)注顯然不夠,。這一產(chǎn)品基本完全被韓國的海力士和三星壟斷,合計占市場份額的 90% 以上,,絲毫不比 GPU 和 CoWoS 競爭格局差,,而高度壟斷,,在這逆全球化的背景下,隱含的就是高供應(yīng)鏈風險,。

HBM 也是 AI 芯片中占比最高的部分,,根據(jù)外媒的拆解,H100 的成本接近 3000 美元,,而其中占比最高的是來自海力士的 HBM,,總計達到 2000 美元左右,超過制造和封裝,,成為成本中最大的單一占比項,。

雖然 HBM 非常昂貴,但隨著 AI 基礎(chǔ)算力需求的大爆發(fā),,草根調(diào)研顯示當前 HBM 仍是一芯難求,,海力士和三星 2024 年所有的產(chǎn)能都已經(jīng)完全被預(yù)定,行業(yè)的供需失衡可能在 2025 年也仍無法得到有效的緩解,??赡軓娙缬ミ_,也需要思考自己的 HBM 供應(yīng)鏈是否足夠安全,。

1.jpg

這一重大的產(chǎn)業(yè)趨勢,,自然也被存儲芯片大國韓國了如指掌。

經(jīng)過一段時間的醞釀,,2024 年初,,韓國企劃財政部正式公布了《2023 年稅法修正案后續(xù)執(zhí)行規(guī)則修正案草案》,將 HBM 等技術(shù)指定為國家戰(zhàn)略技術(shù),,進一步擴大稅收支持,,在這一法案的支持下,三星電子,、SK 海力士等中大型企業(yè)可享受高達 30% 至 40% 的減免,。

考慮到韓國的大企業(yè)所得稅一般在 25%,這么大力度的減免,,相當于給了韓國的 HBM 產(chǎn)品直接額外賦予了接近 10% 的價格優(yōu)勢,。當前韓國的存儲芯片企業(yè)海力士和三星,在 HBM 產(chǎn)品的產(chǎn)能和技術(shù)上,,本來就處于斷檔式領(lǐng)先,,即使其他追趕者能夠做出來產(chǎn)品,考慮到海力士和三星天然的價格屠夫的歷史形象,,這將使得追趕者大概率始終陷入技術(shù)落后,、價格高企的惡性循環(huán)中。

當然,韓國目前仍然是小大小鬧,,還暫時沒有將 HBM 出口進行管制,或者進行相關(guān)的技術(shù)限制,。但是翻看最近的歷史,,我們不得不對此事提起十二分的關(guān)注。

2022 年 10 月,,美國限制中國先進制程的發(fā)展,,從設(shè)備、技術(shù)到人才實現(xiàn)全方面圍堵,,使得原本進步飛速的國產(chǎn)先進制程舉步維艱,。

2023 年 10 月,美國限制英偉達等美國企業(yè)向中國出口超過一定算力和帶寬的 GPU 芯片,,直接對國產(chǎn)大模型實施了釜底抽薪式的打擊,。

如果未來對 HBM 的限制變嚴格,那么就意味著我國在 AI 算力的三要素—先進制程,、GPU 和 HBM —中,,將陷入全方位的被動局面。

所以我們才說,,上一輪最值得關(guān)注 HBM 的時間是十年前它被發(fā)明的時候,,其次就是現(xiàn)在。

02

HBM 的昨天,、今天和明天

1. 一種特殊類型的存儲芯片,,可以理解為 DRAM 的 3D 版本

存儲芯片是最大的芯片品種。為了滿足不同場景的存儲要求,,又被進一步的分為 SRAM,、DRAM、NAND,、NOR 等等,,其中市場空間最大最為重要的是 DRAM 和 NAND,也就是業(yè)內(nèi)人士常說的大宗品存儲,,全球的市場空間都是接近 1000 億美元,。

DRAM 對智能設(shè)備的運行速度起到與主控芯片一樣的決定性作用,對于普通消費者都能接觸到的手機為例,,主控芯片和內(nèi)存(即移動端 LPDDR DRAM)就是最重要的兩顆芯片,。HBM,正是 DRAM 中的一個分支品種,,主打高性能,。

根據(jù)行業(yè)協(xié)會的定義,DRAM 可以分為三種:1)主要用在電腦、服務(wù)器中的標準 DDR,,也就是常說的內(nèi)存條,;2)手機和汽車等移動終端領(lǐng)域的 LPDDR 系列;3)用在數(shù)據(jù)密集型場景的圖形類 DDR,,HBM 正是在這一分類下,。

所以,HBM 是脫胎于普通的 DRAM 的升級產(chǎn)品,,基于 3D 堆棧工藝(使用 TSV 技術(shù)將多個 DRAM 芯片堆疊起來,,在增加帶寬的同時,實現(xiàn)芯片間的高速通信和低功耗),,可以實現(xiàn)更高的內(nèi)存帶寬和更低的能耗,,。

2023 年之前,,雖然上述三種 DRAM 產(chǎn)品中,,HBM 在傳輸速度、容量和功耗方面都具備明顯的優(yōu)勢,,但高于普通 DRAM 數(shù)倍的價格,,使得對 HBM 需求一直都是名氣沒輸過、銷售沒贏過的尷尬存在,。

2.jpg

圖:存儲芯片 DRAM 進一步分類,,方正證券

但 AI 大模型的出現(xiàn),使得 HBM 找到完美的應(yīng)用場景,。

眾所周知,,大模型的智力涌現(xiàn),依托于 Scaling laws 指導下的大力出奇跡,,大模型對數(shù)據(jù)量和算力有著近乎無上限的需求,,而算力的發(fā)動機 GPU 和存儲池 HBM,意外成為最大的受益者,。

傳統(tǒng)帶寬的標準類 DDRDRAM 和移動類 LPDDR DRAM 顯然已經(jīng)完全無法滿足 AI 芯片的需求,,而立體堆疊的 HBM,它相對普通的內(nèi)存帶寬可以提升數(shù)倍,,而功耗反而更低,,卻完美契合大模型的要求。

所以我們可以看到,,在 AI 場景中,,英偉達的 GPU 芯片不再是單獨售賣:從流程上,英偉達首先設(shè)計完 GPU,,然后采購海力士的 HBM,,最后交由臺積電利用 CoWoS 封裝技術(shù)將 GPU 和 HBM 封裝到一張片子上,最終交付給 AI 服務(wù)器廠商。最終產(chǎn)品結(jié)構(gòu)正如海力士的宣傳材料展示的一樣,。

可以說,,英偉達、臺積電,、海力士,,這三家公司共同構(gòu)成了全球 AI 算力基座的鐵三角。

3.jpg

2.AI 爆發(fā)帶來巨大的增長空間

從配角到主角的 HBM,,也隨著 AI 的爆發(fā)也迎來屬于自己的廣闊舞臺,。

在 AI 沒有爆發(fā)之前,,市場預(yù)測全球 HBM 將平穩(wěn)增長至一個 100 億美元的市場,。但是隨著 2023 年大模型的橫空出世,HBM 的市場中樞預(yù)測被快速拔高,。

根據(jù)市場機構(gòu)測算,,2023 年 HBM 市場規(guī)模為 40 億美元,預(yù)計 2024 年增長至 150 億美元,,到 2026 年增長至接近 250 億美元,,年復(fù)合增速高達 80% 以上。這一測算也與海力士的估算匹配上,,2023 年 11 月,,海力士 CEO 表示,預(yù)計到 2030 年,,海力士每年 HBM 出貨量將達到 1 億顆,,隱含產(chǎn)值規(guī)模將接近 300 億美元,假設(shè)屆時海力士市場份額為 50%,,則整個市場空間將在 500 億美元左右,。

屆時,HBM 將從配角,,正式成為存儲芯片中最搶眼的主角,。

4.jpg

圖:全球 HBM 市場規(guī)模預(yù)測(AI 浪潮之前),方正證券

3. 科技巨頭的縮圈游戲

與 AI 算力中的其他要素一樣,,HBM 是一個科技難度極高的產(chǎn)品,,典型特征是重資本投入和高技術(shù)含量。

做 HBM,,首先就要求芯片企業(yè)能做出一流的 DRAM,,然后在這個 DRAM 芯粒的基數(shù)上做 3D 的堆疊。經(jīng)過幾十年的發(fā)展競爭,,DRAM 已經(jīng)有極高的技術(shù)門檻,,其制程已經(jīng)微縮到極限,雖然叫法上略有不同,但整體與邏輯芯片差別不大,,最先進的 DRAM 都離不開 EUV 光刻機的加持,;同時還非常燒錢,投資金額極高,,海力士每年資本開支超百億美元,。所以,當前 DRAM 已經(jīng)基本被韓國三星,、海力士以及美國美光所壟斷,。

5.jpg

而從 DRAM 到 HBM,拋開更高的資本開支不談,,還新增三大工藝難點:分別是 TSV,、MR-MUF、混合鍵合 Hybrid Bonding,。比如 TSV 技術(shù),,在維持較低的單 I/O 數(shù)據(jù)速率的情況下大幅提升了位寬進而獲得了遠優(yōu)于 GDDR 的總帶寬表現(xiàn)。本文不就技術(shù)細節(jié)進行展開,,這一難度就相當從 2D 電影進階到 3D 電影,,完全是另一個維度的競爭。

直接衡量大家技術(shù)水平的,,簡單可以看堆疊層數(shù),。根據(jù)了解到的最新行業(yè)動態(tài):為配套英偉達最新的 H200,2024 年下半年三大存儲廠將推出 36GB 版本的 HBM3e 或為 12 層堆疊,。

對于追趕者而言,,靶子已經(jīng)固定在那兒,只是難度著實不小,。

03

HBM 背后的國力之爭

我們判斷,,從 2024 年起,HBM 將繼 GPU 之后成為各個國家在算力競爭的關(guān)鍵,。

毫無疑問,,目前韓國海力士和三星遙遙領(lǐng)先。哪怕美國在這個領(lǐng)域也是落后的,,他們本土的代表性公司美光科技已奮起直追,。而中國國內(nèi)的大宗存儲尚處在追趕狀態(tài),所以 HBM 的落后自然也就更多,,也更為急迫,。

1. 韓國雙子星閃耀:海力士的不放棄功不可沒

前文提到,HBM 是基于 DRAM 的 3D 形態(tài),,而 DRAM 的全球霸主三星卻在 HBM 這一細分品類上處于落后狀態(tài),,而海力士卻是壟斷者的存在,,這得益于公司對 HBM 技術(shù)的不離不棄。

早在 10 年前的 2013 年,,海力士就首次制造出 HBM,,并被行業(yè)協(xié)會采納為標準。2015 年,,AMD 成為第一個使用 HBM 的客戶,。但在此之后,HBM 由于價格高昂,,下游根本不買單,,甚至一度被認為是點錯了科技樹。

但海力士死磕這個方向,,并沒有放棄,。在 2015-2022 年,雖然并沒有什么突出客戶,,海力士仍然對 HBM 產(chǎn)品進行了多達 3 次技術(shù)升級,,絲毫不像對待一個邊緣產(chǎn)品的待遇,。

6.jpg

最終,,憑借著 2023 年至今的 AI 浪潮,海力士的 HBM 一芯難求,,從無人問津到一飛沖天,,10 年的堅守終于換了回報。在低迷的韓國股市中,,海力士股價也一騎絕塵,,實現(xiàn)翻倍,成為跟上全球 AI 浪潮的唯一一家韓國公司,。

7.jpg

另一方面,,內(nèi)存領(lǐng)域的霸主三星,得益于在 DRAM 上的深厚積累,,以及并不落后的技術(shù)儲備,,迅速崛起成為 HBM 排名第二的玩家。

2016 年三星開始大規(guī)模量產(chǎn) HBM,。落后于海力士 3 年,;而根據(jù)公司最新進展,三星已經(jīng)于 2023 年實現(xiàn)了 HBM3 的量產(chǎn)出貨,,而將在今年上半年推出 HBM3E,而且規(guī)劃 2025 年實現(xiàn) HBM4 的量產(chǎn)。根據(jù)這一規(guī)劃,,三星與海力士的差距已經(jīng)縮小到半年左右,,而差距有望于 2025 年被完全消弭,。

三星除了有 DRAM 的底氣之外,由于 HBM 當中包含部分邏輯芯片的電路,,因此三星電子依托于自有的邏輯晶圓廠,,確實具備彎道超車的比較優(yōu)勢。而且同為韓國公司,,直接挖相關(guān)人才也更為容易,。

毫無疑問,在 HBM 領(lǐng)域起了個大早的韓國,,也絲毫沒有放松,,還在朝前一路狂奔。

2. 美國獨苗苦苦支撐,,但猶可追

美國公司在 HBM 的競賽中落后似乎是命中注定的,。由于存儲芯片行業(yè)周期性極強,資本開支又是無底洞,,已經(jīng)逐漸被美國企業(yè)放棄,,比如當年的存儲芯片龍頭英特爾早已完全退出存儲芯片市場,轉(zhuǎn)而增加了對韓國的依賴,。

好在美國還剩最后的獨苗美光科技,。在存儲這個刺刀見紅的嗜血賽道上,它的生存之道是 " 茍住 ",。為了避免出現(xiàn)重大損失,,美光一直在研發(fā)策略上堅持不做首發(fā)者,而更傾向于采取跟隨戰(zhàn)術(shù),,這樣能夠避免高昂的研發(fā)投入和可能打水漂的資本開支,。

美光開始研發(fā) HBM 的時間相對較晚,現(xiàn)在主流的 HBM3 上,,美光的進度較海力士和三星落后半年以上,。半年差距看似不大,但在 AI 硬件軍備競賽中,,時間就是生命,,大家為了保證大模型的領(lǐng)先,都爭相上最先進的算力產(chǎn)品,,用最新的卡,、最大帶寬的光模塊和最優(yōu)質(zhì)的 HBM,因此晚半年推出,,就代表著整個市場的錯失,,所以美光在 HBM 的份額低到只有個位數(shù)。

為了實現(xiàn)彎道超車,,美光已經(jīng)開始挖海力士和三星的核心人才,,同時開啟多代產(chǎn)品的并行研發(fā),。公司放衛(wèi)星的表示,將在 2024 年年底實現(xiàn) HBM3E 的量產(chǎn),,如果屆時完成,,將使得其與韓國巨頭的技術(shù)差距明顯縮小。此外,,公司規(guī)劃在 2028 年量產(chǎn) HBM4E ,,將每個堆棧的容量提升到 48GB 至 64GB。

3. 中國突圍路在何方,?

美國尚存獨苗,,中國的 HBM 行業(yè)尚處 0 到 1 的階段,要補的課更多,。

目前,,中國企業(yè)在 HBM 產(chǎn)業(yè)鏈上的存在感甚至還要落后于先進制程與 GPU。如果說 GPU 只是人優(yōu)我差的問題,,HBM 則是人有我無的問題,。

雖然 A 股已經(jīng)對 HBM 進行了一輪又一輪的炒作,但不得不承認的客觀現(xiàn)實是,,國內(nèi)到現(xiàn)在無法量產(chǎn) HBM,,這成為國內(nèi)自研 AI 芯片的重大隱憂,因為 GPU 需要和 HBM 利用 CoWoS 工藝封裝在一起,,國產(chǎn)的 GPU 和 CoWoS 工藝都已經(jīng)解決了有沒有的問題,,已經(jīng)進入量產(chǎn)爆發(fā)階段,,而 HBM 還遙遙無期,。

不同于境外市場要么押注龍頭海力士,要么押注能追趕上的美光,,這種簡單的選擇題,。A 股對 HBM 的投資邏輯演化成兩條:

參與全球產(chǎn)業(yè)鏈。選擇能夠參與到全球 HBM 供應(yīng)鏈中的企業(yè),,比如做材料,、代銷和封測的企業(yè),如雅克科技,、神工股份,、太極實業(yè)、香農(nóng)芯創(chuàng)等等,。

選擇相信國產(chǎn)化能夠成功,。國內(nèi)具備大宗 DRAM 能力的企業(yè)長鑫、晉華均未上市,,因此選擇能夠可能在 HBM 封裝上面能夠發(fā)揮作用上市公司,,如通富微電,、興森科技、甬夕電子,、長電科技等,。

國產(chǎn) HBM 正處于 0 到 1 的突破期;考慮到海外的貿(mào)易保護主義抬頭,,可能靠自己是一條不得不走的路只能靠我們自己,。

時間就是生命,但由于在 DRAM 領(lǐng)域的落后,,一家企業(yè)去主導 HBM 的突破顯得更加困難,。從產(chǎn)業(yè)鏈合力的角度,更有望突破,,HBM 顯然需要存儲廠,、晶圓代工廠、封測廠的通力合作,。根據(jù)最新的產(chǎn)業(yè)信息,,到 2026 年我國將具備量產(chǎn) HBM 的能力,但這一速度顯然還是有點跟不上日新月異的大模型需求,。

也就是說,,現(xiàn)在,留給 HBM 中國隊的時間唯 " 緊迫 " 二字,。


雜志訂閱.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點,。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,,以便迅速采取適當措施,避免給雙方造成不必要的經(jīng)濟損失,。聯(lián)系電話:010-82306118,;郵箱:[email protected]