最近這段時(shí)間,,美國(guó)股票市場(chǎng)的動(dòng)靜比較大。有兩個(gè)科技股概念,,突然變得很火,,引起了市場(chǎng)的高度關(guān)注,漲幅驚人,。這兩個(gè)概念,,分別是ASIC和量子計(jì)算。
今天這篇文章,,我們主要說(shuō)說(shuō)ASIC,。
按資本市場(chǎng)的說(shuō)法,ASIC正在加速崛起,,威脅GPU在AI計(jì)算中的統(tǒng)治地位,。而博通,作為ASIC最重要的概念股,,股價(jià)一路猛漲,,一度從180飆到了250,市值也突破了萬(wàn)億美元,。相比之下,,英偉達(dá)反而成了昨日黃花,股價(jià)一路下跌,,甚至不到130美元,。
博通股價(jià)(昨天跌了)
那么,ASIC時(shí)代真的到來(lái)了嗎,?博通真的會(huì)取代英偉達(dá),,成為新的AI之王?
ASIC和GPU是什么
ASIC和GPU,,都是用于計(jì)算功能的半導(dǎo)體芯片,。因?yàn)槎伎梢杂糜贏I計(jì)算,所以也被稱為“AI芯片”,。
準(zhǔn)確來(lái)說(shuō),,除了它倆,計(jì)算芯片還包括大家更熟悉的CPU,,以及FPGA,。
行業(yè)里,通常會(huì)把半導(dǎo)體芯片分為數(shù)字芯片和模擬芯片,。其中,,數(shù)字芯片的市場(chǎng)規(guī)模占比較大,,達(dá)到70%左右。
數(shù)字芯片,,還可以進(jìn)一步細(xì)分,,分為:邏輯芯片、存儲(chǔ)芯片以及微控制單元(MCU),。CPU,、GPU、FPGA,、ASIC,全部都屬于邏輯芯片,。
芯片的分類
邏輯芯片,,就是計(jì)算芯片。它包含了各種邏輯門(mén)電路,,可以實(shí)現(xiàn)運(yùn)算與邏輯判斷功能,。
四個(gè)芯片里,CPU和GPU是通用芯片,,可以完成多種任務(wù),。尤其是CPU,是全能型選手,,單核主頻高,,啥都能干,所以經(jīng)常被拿來(lái)做主處理器,。
而GPU,,本來(lái)是用來(lái)做圖形處理(顯卡)的。它的內(nèi)核數(shù)量特別多(大幾千個(gè)),,適合做并行計(jì)算,,也就是擅長(zhǎng)同時(shí)做大量的簡(jiǎn)單計(jì)算任務(wù)。(圖形處理,,就是同時(shí)處理大量的像素計(jì)算,。)
AI計(jì)算和圖形計(jì)算一樣,也是典型的并行計(jì)算型任務(wù),。
AI計(jì)算中包括大量并行的矩陣相乘,、卷積、循環(huán)層,、梯度運(yùn)算等任務(wù),,所以,特別適合GPU去完成,。CPU不適合AI計(jì)算,,這也是英特爾股價(jià)跌到20美元以下的原因之一,。
2023年以來(lái),AI浪潮爆發(fā),,大部分企業(yè)的AI訓(xùn)練,,采用的是 英偉達(dá)的GPU集群。如果進(jìn)行合理優(yōu)化,,一塊GPU卡,,可以提供相當(dāng)于數(shù)十其至上百臺(tái)CPU服務(wù)器的算力。這直接導(dǎo)致了英偉達(dá)的股價(jià)猛漲了幾十倍,,而且還買(mǎi)不到,。
NVIDIA HGX A100 8 GPU 組件
再來(lái)看看ASIC和FPGA。
ASIC(Application Specific Integrated Circuit,,專用集成電路),,是一種專用于特定任務(wù)的芯片。ASIC的官方定義,,是指:應(yīng)特定用戶的要求,,或特定電子系統(tǒng)的需要,專門(mén)設(shè)計(jì),、制造的集成電路,。
Google公司大名鼎鼎的TPU(Tensor Processing Unit,張量處理單元),,還有前幾年很火的比特幣礦機(jī),,英特爾的Gaudi 2 ASIC芯片,IBM的AIU,,AWS的Trainium,,都屬于ASIC芯片。
這幾年非?;鸬腄PU(Data Processing Unit,,數(shù)據(jù)處理單元)和NPU(Neural Processing Unit,神經(jīng)網(wǎng)絡(luò)處理單元),,也是ASIC芯片,。
FPGA(Field Programmable Gate Array,現(xiàn)場(chǎng)可編程門(mén)陣列),,是半定制芯片,,也被人稱為“萬(wàn)能芯片”。FPGA可以根據(jù)用戶的需要,,在制造后,,進(jìn)行無(wú)限次數(shù)的重復(fù)編程,以實(shí)現(xiàn)想要的數(shù)字邏輯功能。
ASIC和FPGA的區(qū)別在于,,AISC是全定制芯片,,功能寫(xiě)死,沒(méi)辦法改,。 而FPGA是半定制芯片,,功能靈活,可玩性強(qiáng),。 FPGA不需要流片(很燒錢(qián)的一個(gè)工序),,但因?yàn)榭删庉嫞哂喙δ鼙容^多,,一旦用于單一目的,,就會(huì)存在浪費(fèi)。大規(guī)模生產(chǎn)的情況下,,F(xiàn)PGA的成本比ASIC高,,且極致能效不如ASIC。
所以,,F(xiàn)PGA現(xiàn)在多用于產(chǎn)品原型的開(kāi)發(fā)、設(shè)計(jì)迭代,,以及一些低產(chǎn)量的特定應(yīng)用,,或者用于培訓(xùn)和教學(xué)。它適合那些開(kāi)發(fā)周期必須短的產(chǎn)品,,也經(jīng)常用于ASIC的驗(yàn)證,。
反正,大家記住,,大規(guī)模出貨用于AI計(jì)算,,一般不考慮FPGA。
所以,,AI芯片,,也就是GPU和ASIC之爭(zhēng)。
GPU和ASIC,,到底誰(shuí)厲害,?
ASIC作為專用定制芯片,基于芯片所面向的專項(xiàng)任務(wù),。它的計(jì)算能力和計(jì)算效率都是嚴(yán)格匹配于任務(wù)算法的,。芯片的核心數(shù)量,邏輯計(jì)算單元和控制單元比例,,以及緩存等,,整個(gè)芯片架構(gòu),也是精確定制的。
所以,,ASIC可以實(shí)現(xiàn)極致的體積,、功耗。這類芯片的可靠性,、保密性,、算力、能效,,都會(huì)比通用芯片(GPU)更強(qiáng),。
例如,在同等預(yù)算下,,AWS的Trainium 2(ASIC芯片)可以比英偉達(dá)的H100 GPU更快速完成推理任務(wù),,且性價(jià)比提高了30-40%。明年計(jì)劃推出的Trainium3,,計(jì)算性能更是提高了2倍,,能效提高40%。
但是,,為什么這兩年一直火的都是GPU呢,?
主要是因?yàn)橛ミ_(dá)太猛。
英偉達(dá)在AI上也是歪打正著,。當(dāng)年AI大佬辛頓(就是那個(gè)新晉諾貝爾獎(jiǎng)得主)帶著徒弟使用GPU做AI訓(xùn)練,,獲得巨大突破,才讓英偉達(dá)發(fā)現(xiàn)自己竟然還有這樣的潑天富貴,。
然后,,英偉達(dá)就開(kāi)始在AI發(fā)力,拼命做更厲害的GPU(當(dāng)然,,也有游戲的帶動(dòng)),。
在英偉達(dá)的持續(xù)努力下,GPU的核心數(shù)和工作頻率一直在提升,,芯片面積也越來(lái)越大,。算力越強(qiáng),有利于縮短訓(xùn)練時(shí)間,,加快產(chǎn)品發(fā)布,,這也是重要優(yōu)勢(shì)。
當(dāng)然,,算力變強(qiáng),,功耗也水漲船高。但是,,靠工藝制程,、水冷等被動(dòng)散熱,,勉強(qiáng)也能兜得住,反正不會(huì)燒掉,。
除了硬件之外,,英偉達(dá)在軟件和生態(tài)方面也很會(huì)布局。
他們搗鼓出來(lái)的CUDA(AI開(kāi)發(fā)的軟件套件),,是GPU的一個(gè)核心競(jìng)爭(zhēng)力,。基于CUDA,,初學(xué)者都可以很快上手,。所以,英偉達(dá)的GPU方案,,被全球用戶廣泛接受,,形成了牢固的生態(tài)。
相比之下,,F(xiàn)PGA和ASIC的開(kāi)發(fā)還是太過(guò)復(fù)雜,,不適合普及。
ASIC之所以在AI上干不過(guò)GPU,,和它的高昂成本,、超長(zhǎng)開(kāi)發(fā)周期、巨大開(kāi)發(fā)風(fēng)險(xiǎn)有很大關(guān)系,。 現(xiàn)在AI算法變化很快,,ASIC這種開(kāi)發(fā)周期,很要命,。
綜合上述原因,,GPU才有了現(xiàn)在的大好局面,。
值得一提的是,,前面說(shuō)了,AI計(jì)算分為訓(xùn)練和推理兩種,。訓(xùn)練任務(wù),,需要更強(qiáng)大的算力,所以在AI訓(xùn)練上,,廠商們主要以GPU為主,。
推理任務(wù)的話,算力要求要低一點(diǎn),,也不需要什么并行,,所以GPU的算力優(yōu)勢(shì)沒(méi)那么明顯。很多企業(yè),,就會(huì)開(kāi)始采用更便宜,、更省電的FPGA或ASIC,進(jìn)行計(jì)算。
這個(gè)情況,,一直持續(xù)到了現(xiàn)在,。AI芯片,GPU的占比能達(dá)到70%以上,。
如今,,因?yàn)榇蠹覍?shí)在是“苦英偉達(dá)久矣”,不想總被英偉達(dá)“卡脖子”,,所以非常希望算力多元化,。再有,大模型現(xiàn)在從“訓(xùn)練熱”走向了“推理熱”,。推理類的AI計(jì)算需求增加,,給了ASIC機(jī)會(huì)。
所以,,扶持ASIC產(chǎn)業(yè)鏈,,提升ASIC芯片在AI領(lǐng)域的占有率,成為了大家的共識(shí),。這才有了博通和Marvell股價(jià)的猛漲,。(據(jù)說(shuō),博通正與三個(gè)大型客戶開(kāi)發(fā)AI芯片,,預(yù)計(jì)2025年AI芯片業(yè)務(wù)收入達(dá)到150億-200億美元,。)
那么,取代就真的那么容易嗎,?ASIC會(huì)很快淘汰掉GPU嗎,?
顯然不是的。
憑借前面提到的性能,、生態(tài),、集成能力等方面的優(yōu)勢(shì),英偉達(dá)的GPU仍然會(huì)是中短期內(nèi)的AI芯片首選,。英偉達(dá)的軟硬件網(wǎng)絡(luò)整套方案都很成熟,,技術(shù)和資金實(shí)力太強(qiáng),GPU的存量和出貨量依然很大,,市場(chǎng)地位難以撼動(dòng),。
ASIC的崛起速度雖然很快,但仍需要一定的時(shí)間走向成熟,。AI ASIC芯片的研發(fā),,也具有很高的風(fēng)險(xiǎn)。即使研發(fā)成功,,也需要時(shí)間被用戶所接受,。
這就意味著,,在很長(zhǎng)的一段時(shí)間內(nèi),GPU和ASIC都將處于共存狀態(tài),?;诓煌膱?chǎng)景,用戶會(huì)選擇最適合自己的芯片,。發(fā)展自研ASIC,,更多是有利于廠商們和英偉達(dá)進(jìn)行談判砍價(jià)。
未來(lái)的情況還是比較難預(yù)測(cè)的,。 量子計(jì)算是不是會(huì)對(duì)計(jì)算領(lǐng)域造成顛覆式影響,,現(xiàn)在也是討論的熱點(diǎn)。