隨著數(shù)據(jù)中心對人工智能和機(jī)器學(xué)習(xí)（AI/ML）的利用率越來越高，大量數(shù)據(jù)不斷被產(chǎn)生和消耗，這給數(shù)據(jù)中心快速而高效地存儲,、移動和分析數(shù)據(jù)提出了巨大挑戰(zhàn)。

而中國的情況尤其如此：隨著中國不斷推進(jìn)人工智能的發(fā)展,，對高性能處理的需求持續(xù)增長，而傳統(tǒng)數(shù)據(jù)中心已然成為必須解決的瓶頸,。為應(yīng)對這一挑戰(zhàn),，中國公布了《新型數(shù)據(jù)中心發(fā)展三年行動計劃》。與傳統(tǒng)數(shù)據(jù)中心相比,，新型數(shù)據(jù)中心具有高技術(shù),、高算力、高能效和高安全的特征,。

在市場需求和產(chǎn)業(yè)政策支持的雙驅(qū)動下,，數(shù)據(jù)中心服務(wù)器迫切需要更大的內(nèi)存帶寬和容量，以更好地支持AI/ML的持續(xù)發(fā)展,。

自2013年推出以來,，高帶寬存儲器（HBM）日益被視為將數(shù)據(jù)中心服務(wù)器和AI加速器的性能提升至新高度的理想方式之一。HBM是一種基于3D堆棧工藝的高性能SDRAM架構(gòu),，能夠?qū)崿F(xiàn)巨大的內(nèi)存帶寬,。

2018年年底，JEDEC固態(tài)技術(shù)協(xié)會宣布了HBM2E標(biāo)準(zhǔn),，以支持更高的帶寬和容量,。HBM2E每個引腳的傳輸速率上升到3.6Gbps，可以實(shí)現(xiàn)每個堆棧461GB/s的內(nèi)存帶寬,。此外,，HBM2E最高支持12個DRAM的堆棧高度，并且單堆棧內(nèi)存容量高達(dá)24GB,。

在HBM2E中,，四個連接到處理器的堆棧將提供超過1.8TB/s的帶寬。通過內(nèi)存的3D堆疊,，HBM2E可以在極小的空間內(nèi)實(shí)現(xiàn)高帶寬和高容量,。在此基礎(chǔ)上，下一代的HBM3內(nèi)存將數(shù)據(jù)傳輸速率和容量推向了新的高度,。

Rambus HBM3內(nèi)存子系統(tǒng)針對高帶寬和低延遲進(jìn)行了專門優(yōu)化,，能夠以緊湊的架構(gòu)和高效能的封裝提供最佳的性能和靈活性。這一解決方案由完全集成的PHY和數(shù)字控制器組成,，包含完整的HBM3內(nèi)存子系統(tǒng),。

相比HBM2E,，Rambus HBM3內(nèi)存子系統(tǒng)將最大數(shù)據(jù)傳輸速率提高了一倍以上，達(dá)到每個數(shù)據(jù)引腳8.4Gbps（當(dāng)此速度下的DRAM可用時）,。該系統(tǒng)接口具有16個獨(dú)立通道,，每個通道包含64位,，總數(shù)據(jù)寬度為1024位,。在最大數(shù)據(jù)傳輸速率下，可以提供1075.2GB/s的總接口帶寬,，換言之,，帶寬超過1TB/s。

這一內(nèi)存子系統(tǒng)專為2.5D架構(gòu)設(shè)計,，帶有一個內(nèi)插器,，以在SoC上的3D DRAM堆棧和PHY之間傳輸信號。同時,，這種信號密度和堆疊架構(gòu)的組合還要求特殊的設(shè)計考量,。為提高設(shè)計的易實(shí)施性和靈活性，Rambus對整個2.5D架構(gòu)的內(nèi)存子系統(tǒng)進(jìn)行了完整的信號和電源完整性分析,，以確保滿足所有的信號,、電源和熱量要求。除此之外,，Rambus還提供中介層參考設(shè)計,。

憑借在高速信號處理方面逾30年的專業(yè)知識，以及在2.5D內(nèi)存系統(tǒng)架構(gòu)設(shè)計和實(shí)現(xiàn)方面的深厚積淀,，Rambus正引領(lǐng)HBM的演變,。Rambus提供了業(yè)界最快的HBM2E內(nèi)存子系統(tǒng)；如今通過數(shù)據(jù)傳輸速率高達(dá)8.4Gbps的HBM3內(nèi)存子系統(tǒng),，Rambus更進(jìn)一步地提高了HBM的帶寬標(biāo)準(zhǔn),。