歷時 5 年,,制程由 14nm 減至 7nm,更加重視 AI 推理性能,,IBM 最新 POWER10 處理器將在商用領(lǐng)域打出一片天地,。
在今年的 Hot Chips 2020 會議上,IBM 正式宣布了新一代 CPU POWER10,。作為 Power 9 的繼任者,,POWER10 的處理效率是前者的三倍,同時又提供了更高的工作負(fù)載量和容器密度,。
基于 Power 9 處理器并使用 Nvidia Tesla GPU 作為加速器的 Summit,,就是世界上最快的超級計算機(jī)之一,。目前看來,繼任者 POWER10 更加值得期待,。
POWER10 的設(shè)計歷時五年,,擁有數(shù)百項新型以及正在申請的專利。早在 2015 年,,IBM,、三星和 IBM 研究聯(lián)盟的其他成員生產(chǎn)了第一批測試芯片。它的獨(dú)特之處在于,,這是 IBM 的首款商用 7 nm 處理器,。
POWER10 架構(gòu)師 William Starke 表示,單芯片模塊產(chǎn)品最多不超過 15 個 SMT8 核心,,雙芯片模塊產(chǎn)品最多不超過 30 個 SMT8 核心,。
IBM POWER 系列芯片的發(fā)展路線圖。
制程由 14nm 縮減至 7nm,,更加重視 AI 推理性能
吞吐量和功率效率的提升部分得益于硅制程技術(shù),,該技術(shù)使得 POWER9 中使用的 14nm GlobalFoundries 制程縮減為三星的 7nm EUV。制程微縮使得 IBM 可以添加更多的核心和更多的緩存,。
設(shè)計方法也有重大更改,。新的設(shè)計更加模塊化,具有新的核心核心微架構(gòu)和新的 AI 指令,。POWER10 還添加了更多的安全硬件,。內(nèi)存受到全內(nèi)存加密保護(hù),同時也沒有降低速度,。
此外,,POWER10 還為多租戶(multi-tenant)云工作負(fù)載內(nèi)置了「嘈雜的鄰居(noisy neighbor)」保護(hù)功能。為了確保云工作負(fù)載的安全性,,處理器支持安全的 container,。該架構(gòu)通過其 PowerVM 虛擬機(jī)來管理程序和內(nèi)存池聚合功能,以提升靈活性,,通過 PB 級系統(tǒng)內(nèi)存支持來處理各種工作負(fù)載,。
考慮到 AI 越來越重要,IBM 增加了對其他指令和數(shù)據(jù)類型的支持,。處理器通過新的可擴(kuò)展指令集支持 Power 的 3.1 版本,。POWER10 也意味著 IBM 更加重視 CPU 中的 AI 推理性能。
IBM 表示,,推理處理中使用的矩陣數(shù)學(xué)函數(shù)可將性能提升 10-20 倍,。緩存帶寬上也有改進(jìn),以使 SIMD 單元獲得數(shù)據(jù),。
越來越多的企業(yè)將 AI 部署到實(shí)際應(yīng)用 AI 的運(yùn)營工作負(fù)載中,。所以,,IBM 仍將支持訓(xùn)練加速器,,例如 GPU 和 FPGA,,但 AI 部署基于的推理使用的是訓(xùn)練創(chuàng)建的模型。
實(shí)際上,,AI 的推理用途是能夠產(chǎn)生商業(yè)實(shí)效的,。IBM 將在 PCIe5.0 版本上通過 OpenCAPI 支持加速器。IBM 也放棄了英偉達(dá)的 NVLink 接口,,因為 PCIe v5 提供了足夠的帶寬,。
POWER10 的推理性能展示。
其他技術(shù)細(xì)節(jié)
IBM 在 Hot Chips 會議上展示了 POWER10 的大量技術(shù)細(xì)節(jié),。芯片面積為 600 平方毫米,,具有 180 億個晶體管。最多兩個管芯可以被放入 POWER10 服務(wù)器的包中,。
每個芯片具有 15 個活躍的 CPU 核,,其中管芯上還有一個用于提升成品率的備用核。此外,,每個 CPU 可以支持 8 個線程(虛擬 CPU),,所以每個插槽中共計有 120 個線程。
管芯上緩存內(nèi)存總量為 150MB 以上,。在接口設(shè)置上,,下一代 PCI Express Gen 5 具有 64 條通路,傳輸速度高達(dá) 32GT/s,。
IBM POWER10 芯片的技術(shù)規(guī)格細(xì)節(jié),。
POWER10 將會有兩個版本。一個版本采用雙管芯封裝,,時鐘頻率達(dá)到 3.5GHz,,并且能夠連接 4 個插槽。另一版本為單芯片插槽,,有更高的時鐘頻率,,為 4GHz 或更高,最多可連接 16 個插槽,。每個插槽的 PowerAXON 接口都支持超過 TB/s 級的帶寬,,而開放式內(nèi)存接口(OMI)可以支持相同的帶寬。
POWER10 最重要的創(chuàng)新就是它能在整個 POWER 服務(wù)器機(jī)架上聚合內(nèi)存,。本地內(nèi)存通過低延遲,、高帶寬的 OMI 進(jìn)行連接,從而提供高達(dá) 4TB 的內(nèi)存以及高帶寬,,而且沒有一般高帶寬內(nèi)存的限制和費(fèi)用,。OMI 還可被用于連接存儲類內(nèi)存(SCM),。
PowerAXON 接口可用于連接其他 16 個 POWER10 插槽,但也可以通過 OpenCAPI 連接到加速器,。但它最有趣的用途是內(nèi)存集群,。本地處理器可以將其本地內(nèi)存映射到相鄰的處理器,因此需要更多內(nèi)存的工作負(fù)載可以用相鄰處理器的內(nèi)存,,而無需將頁面交換到速度較慢的存儲內(nèi)存中,。這種靈活性對于管理大型數(shù)據(jù)集來說至關(guān)重要。2PB 的地址空間使之變?yōu)榱丝赡?,而且這種內(nèi)存共享功能也可以擴(kuò)展到企業(yè)級系統(tǒng),。
從 CPU 設(shè)計到軟件堆棧,POWER10 都展示出了 IBM 一直以來的企業(yè)級計算傳統(tǒng),。更重要的是,,它現(xiàn)在支持更多的 AI 功能、硬件輔助虛擬環(huán)境,、更具擴(kuò)展性的云部署以及更大的數(shù)據(jù)集處理,,使其與現(xiàn)代企業(yè)和云工作負(fù)載更加相關(guān)。
與此前的 Power 系列處理器一樣,,POWER10 也向 OpenPower 基金會的 250 多個成員開放許可和允許修改,,包括谷歌、英偉達(dá),、Mellanox,、 Tyan 等企業(yè)。