Esperanto Technologies公司的芯片預示著開源架構的新時代，英特爾準備在此大賺一筆,。

　　RISC-V 是一種于 2010 年首次推出的免費和開源計算機指令集架構,，它的采用正像火箭一樣起飛，其大部分燃料來自對人工智能和機器學習的需求,。根據(jù)研究公司Semico的數(shù)據(jù),，到 2027 年，至少包含部分 RISC-V 技術的芯片數(shù)量將以每年 73.6% 的速度增長,，屆時將生產(chǎn)約 250 億顆 AI 芯片,，收入將達到2910 億美元。

　　Dave Ditzel 表示,，從幾年前還是一個新興想法到今天,，這一增長令人印象深刻，但對于AI來說，這也代表了翻天覆地的變化,，他的公司Esperanto Technologies創(chuàng)造了第一個高性能 RISC-V AI處理器,，旨在與AI推薦系統(tǒng)中強大的GPU競爭的處理器。根據(jù) Ditzel 的說法,，在早期對機器學習和人工智能的狂熱中,，人們認為通用計算機架構——x86和Arm——永遠跟不上GPU和更專用的加速器架構。

　　“我們開始證明那些人都錯了,，”他說,。“RISC-V似乎是解決人們想為人工智能做的各種計算的理想基礎,?！?/p>

　　隨著該公司的第一款硅芯片——1092核AI處理器的發(fā)展，以及與英特爾的一項重大開發(fā)協(xié)議,，他可能很快就會被證明是正確的,。

　　Ditzel 的整個職業(yè)生涯都是由RISC-V背后的理論定義的。RISC,，代表精簡指令集計算機,。它的理念是，這個想法是,，你可以通過精簡它可以執(zhí)行的核心指令集來制造一個更小,、功耗更低但性能更好的處理器。IEEE研究員大衛(wèi)·帕特森在1980年的一篇開創(chuàng)性論文中創(chuàng)造了這個詞,。他的學生Ditzel是合著者,。Ditzel后來在貝爾實驗室和太陽微系統(tǒng)公司從事RISC處理器的研究工作，之后又共同創(chuàng)立了Transmeta公司,，該公司生產(chǎn)了一種低功耗處理器,，旨在通過為RISC架構翻譯x86代碼來與英特爾競爭。

　　對于Esperanto,，Ditzel將RISC-V視為一種以相對低功耗加速人工智能的方法,。在基本層面上，更復雜的指令集架構意味著需要更多的晶體管來組成處理器,，每一個晶體管在關閉時都會漏出一點電流,，而在切換狀態(tài)時則會消耗電能?！斑@就是RISC-V吸引人的地方,，”他說?！八幸粋€簡單的指令集,?！?/p>

　　內(nèi)核

　　RISC-V的核心是一組只有47條指令的集合。X86指令的實際數(shù)量很難枚舉,，但它可能接近 1000條,。Arm 的指令集被認為要小得多，但仍比 RISC-V 大得多,。但 Ditzel 表示，僅僅使用一組精簡指令并不足以實現(xiàn)Esperanto所追求的計算能力,?！按蠖鄶?shù) RISC-V 內(nèi)核都沒有那么小或那么節(jié)能。因此,，這不僅僅是我們采用 RISC-V 內(nèi)核并將 1000 個內(nèi)核放在芯片上的問題,。我們必須完全重新設計 CPU，以使其適應那些非常嚴格的限制,?！?/p>

　　在 Ditzel 和他的同事開始工作時，RISC-V 指令集中明顯缺少有效進行機器學習數(shù)學運算所需的“向量”指令,，例如矩陣乘法,。所以Esperanto工程師想出了他們自己的方法。正如處理器內(nèi)核 ET-Minion 的架構所體現(xiàn)的那樣,，這些單元包括執(zhí)行 8 位整數(shù)向量以及 32 位和 16 位浮點向量的單元,。還有一些單元執(zhí)行更復雜的“張量”指令，以及與數(shù)據(jù)有效移動相關的系統(tǒng)以及與芯片上 ET-Minion 內(nèi)核的排列相關的指令,。

　　由此產(chǎn)生的系統(tǒng)芯片 ET-SoC-1 由 1088 個 ET-Minion 內(nèi)核和四個稱為 ET-Maxions 的內(nèi)核組成,，它們幫助管理 Minions 的工作。該芯片的 240 億個晶體管占地 570 平方毫米,。這使它的大小約為流行的 AI 加速器Nvidia A100的一半,。這兩個芯片遵循非常不同的理念。

　　ET-SoC-1 旨在加速功率受限的數(shù)據(jù)中心中的 AI,，該數(shù)據(jù)中心位于板的核心,，適合已安裝的服務器的外圍組件互連快速 （PCIe） 插槽。這意味著該板只有 120 瓦的可用功率,，但它必須提供每秒至少 100 萬億次操作才有價值,。Esperanto在該功率范圍內(nèi)管理了超過 800 萬億次的能量。

　　Esperanto.ai 首席架構師Jayesh Iyer 在 12 月的 RISC-V 峰會上對技術專家說,，“大多數(shù)人工智能加速器都是圍繞一個芯片構建的,，該芯片占用了電路板的大部分電力預算，Esperanto的方法是使用多個低功耗芯片,，這仍然符合功率預算,?！?/p>

　　在執(zhí)行一個推薦系統(tǒng)基準神經(jīng)網(wǎng)絡時，每個芯片功耗為20W——不到A100的十分之一——電路板上有六個芯片,。這種功率和性能的結合是通過降低芯片的工作電壓而實現(xiàn)的,，而沒有預期的性能犧牲。（一般來說,，更高的工作電壓意味著你可以更快地運行芯片的時鐘,，完成更多的計算。）在0.75V（ET-SoC-1 制造過程的標稱電壓）的額定電壓下,，一塊芯片將遠遠超出電路板的功率預算,。但當電壓降至0.4 V左右時，你可以在120W的芯片上運行6個芯片,，與單一的高壓芯片相比,，推薦系統(tǒng)性能提升了4倍。在這個電壓下,，ET-Minion的每個核心僅消耗大約10毫瓦,。

　　Iyer表示：“低電壓運行是Esperanto ET-minion（核心）設計的關鍵。它為架構和電路級別的決策提供了依據(jù),。例如,，RISC-V 整數(shù)指令的內(nèi)核流水線由每個時鐘周期最少數(shù)量的邏輯門組成，從而在降低的電壓下允許更高的時鐘速率,。當核心執(zhí)行長張量計算時,，該管道將關閉以節(jié)省能源。

　　其他AI處理器

　　其他最近開發(fā)的AI處理器也轉向了RISC-V和他們自己定制的機器學習加速的組合,。例如,，Ceremorphic最近憑借其分層學習處理器脫穎而出，它使用 RISC-V 和 Arm 內(nèi)核以及自己的定制機器學習和浮點運算單元,。英特爾即將推出的MobileyeEyeQ Ultra將在芯片中配備 12 個 RISC-V 內(nèi)核和神經(jīng)網(wǎng)絡加速器,，旨在為 4 級自動駕駛提供智能。

　　對于嵌入式AI處理器公司Kneron來說,，使用RISC-V處理器既是一項商業(yè)舉措,，也是一項技術舉措。該公司一直在銷售使用Arm CPU內(nèi)核和定制加速器基礎設施的芯片和知識產(chǎn)權,。但去年11月,，Kneron在KL530上發(fā)布了首款基于RISC-V的技術，旨在通過一種名為視覺變壓器的相對新型神經(jīng)網(wǎng)絡來支持自動駕駛,。根據(jù)Kneron首席執(zhí)行官Albert Liu的說法,，RISC-V架構使得預處理神經(jīng)網(wǎng)絡模型變得更容易，從而使其運行更高效,。不過,，他表示：”考慮到英偉達去年可能收購Arm,，此舉可以降低我們在任何可能影響我們的商業(yè)決策方面的風險?！斑@筆交易在今年2月破裂,，但它將把Kneron先前CPU核心架構的供應商置于競爭對手手中。

　　未來的RISC-V處理器將能夠使用社區(qū)同意的一套開源指令來處理與機器學習相關的操作,。負責核心指令集架構和新擴展的機構RISC-V國際（RISC-V International）于2021年12月批準了一組100多條向量指令,。

　　該組織的首席技術官馬克?希梅爾斯坦（Mark Himelstein）表示，”有了新的矢量指令,，人們在人工智能領域做自己的事情就不必從頭開始了,。他們可以使用其他公司正在使用的指令。他們可以使用其他公司正在使用的工具,。然后他們可以在實施、能耗,、性能或其他任何方面進行創(chuàng)新,。“

　　Himelstein說,，即使有了向量擴展,，促進機器學習仍然是RISC-V社區(qū)的首要任務。大多數(shù)與機器學習相關的RISC-V擴展的開發(fā)都發(fā)生在該組織的圖形特別興趣小組,，該小組與機器學習小組合并,，”因為他們想要相同的東西，“他說,。但是其他的小組,，比如那些對高性能和數(shù)據(jù)中心計算感興趣的小組，也在關注與機器學習相關的擴展,。Himelstein的工作是確保各方的努力在力所能及的范圍內(nèi)趨同,。

　　盡管 RISC-V 取得了成功，但Arm 在許多添加了許多新 AI 功能的市場中仍是市場領導者,，而且從現(xiàn)在起五年后仍可能如此,，RISC-V 占據(jù)CPU核心設計市場份額的 15%左右。Semico Research 首席分析師Rich Wawrzyniak表示,，這不是 50%,，但也不是 5%。如果你想想 RISC-V 已經(jīng)存在了多久,，那是相當快速的增長,。