為AI/ML芯片提供更靈活,、高效的運(yùn)算核心
SiFive產(chǎn)品副總裁Chris Jones指出,，AI技術(shù)快速演進(jìn),，各種演算法與架構(gòu)推陳出新，為了最佳化PPA,，特別是在邊緣端的推論引擎,，業(yè)者普遍采用hard-wire的專用硬件加速器設(shè)計(jì)。但卻因此缺乏可編程性,，無法因應(yīng)演算法的未來變化,，這是目前主要的挑戰(zhàn)之一。
「我們認(rèn)為,，邊緣端的推論引擎有龐大商機(jī),，且其工作負(fù)載主要是AI、影像處理等,，非常適合采用矢量處理,。而矢量指令集擴(kuò)充是原生RISC-V架構(gòu)的一部分，對此深具優(yōu)勢,?！?/p>
有監(jiān)于此，SiFive已于2021年推出首款專為AI/ML打造的矢量運(yùn)算核心X280,，企圖提供具可編程性的另一個(gè)選擇,。然而推出后雖有成功案例,，卻發(fā)現(xiàn)許多客戶仍不愿放棄自訂加速器的做法。因此決定進(jìn)一步擴(kuò)充核心功能,，真正滿足市場的需求。
「我們學(xué)習(xí)到,，客戶會(huì)把X280作為神經(jīng)網(wǎng)絡(luò)加速器的協(xié)同處理器,，NN相關(guān)運(yùn)算在加速器中執(zhí)行，再把數(shù)據(jù)傳到X280做基本的矢量運(yùn)算,。由于數(shù)據(jù)的往返傳輸,，不僅造成延遲，功耗也較高,，因此我們新增了矢量協(xié)同處理器界面擴(kuò)展(VCIX)功能,，使客戶的自訂加速器能與X280直接介接，加速矢量運(yùn)算的執(zhí)行,?！?/p>
由于無需再透過匯流排傳輸界面，此做法能顯著提升自訂加速器的執(zhí)行速度,。Google已是SiFive的重要成功案例,，透過采用此架構(gòu)來加速其AI運(yùn)算。Chris Jones強(qiáng)調(diào),，對Google來說,，他們可以專注于其專精的AI演算法運(yùn)算，并運(yùn)用我們優(yōu)異的矢量指令集架構(gòu),，結(jié)合兩家公司的強(qiáng)項(xiàng),，將能為AI運(yùn)算帶來更大的突破。
此外,，為了提供更高效能,，X280也新增了多核心、多叢集功能,，最多可擴(kuò)展到4叢集,、共16個(gè)核心，使其可適用于從一般的邊緣裝置,，到更高端的應(yīng)用,。
X280自2021年推出以來，已取得了兩位數(shù)的設(shè)計(jì)成功案例,，「今年我們還會(huì)再繼續(xù)推出新產(chǎn)品,，例如支持更寬位元的矢量長度，并提供更高的運(yùn)算效能,，以持續(xù)推動(dòng)創(chuàng)新,。對我們來說，AI應(yīng)用未來將觸及各領(lǐng)域，而這正符合我們的矢量運(yùn)算強(qiáng)項(xiàng),。因此,，我們會(huì)把矢量處理功能帶到更多的產(chǎn)品線，做整合性的強(qiáng)化,。此外,，車用市場也是一大重點(diǎn)，去年我們已推出車用處理器,，2023年也將推出包含矢量運(yùn)算功能的新款車用處理器,。」
新推兩款核心,，推動(dòng)RISC-V架構(gòu)進(jìn)入高端消費(fèi)市場
另一方面,，SiFive亦為Performance系列核心推出了兩款具備矢量運(yùn)算功能的新產(chǎn)品，分別P670與P470,。Chris Jones表示,，「P670是目前市場上最高效能的可授權(quán)RISC-V處理器，已獲得市場的熱烈反應(yīng),，證明了RISC-V核心也能夠朝高端市場邁進(jìn),，足以與競爭對手的A77及A78核心真正的競爭。而P470則是鎖定穿戴裝置,，能針對這類應(yīng)用提供最佳的效能,、面積與功率之間的平衡?！?/p>
SiFive擁有架構(gòu)上的優(yōu)勢,，能夠提供更高的運(yùn)算密度，也就是說在單位面積內(nèi),，可提供比競爭對手更高效能的運(yùn)算效能,，或是以相同功率能夠提供更高的效能，這是真正符合業(yè)界所需的,。舉例來說,，就單一執(zhí)行緒效能來比較，P470的運(yùn)算密度是Cortex-A55核心的四倍,，P670則是Cortex-A78核心的兩倍,。
「雖然ARM也有矢量擴(kuò)展功能，但僅限于高端核心才有,，其他應(yīng)用則須采用NEON處理器,。我們的方案可直接取代NEON，同時(shí)我們也提供了軟件工具來協(xié)助客戶從ARM架構(gòu)轉(zhuǎn)換到RISC-V架構(gòu),。此外,，即使客戶熟悉SVE架構(gòu),，我們亦能提供更具成本效益的解決方案?！?/p>
過去,，純量處理器是主流，但隨著進(jìn)入AI應(yīng)用時(shí)代,，Chris Jones認(rèn)為,，業(yè)界將需要矢量處理來支持更多的平行運(yùn)算需求，這是未來運(yùn)算的一個(gè)重要趨勢,。我們相信，亂序(OoO),、矢量的低功耗高效能運(yùn)算處理器將會(huì)有廣大的市場,，這將為SiFive帶來絕佳的成長機(jī)會(huì)，使RISC-V架構(gòu)被更廣泛地采用,。