《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 電子元件 > 業(yè)界動態(tài) > 透過DeepSeek,,聊聊存儲是如何給AI加速的

透過DeepSeek,,聊聊存儲是如何給AI加速的

2025-02-28
來源:鎧俠
關(guān)鍵詞: 鎧俠 Deepseek AI

  從AI服務(wù)器到AI PC,,如何快速的用上DeepSeek成為熱門問題,。無論DeepSeek Janus-Pro把多模態(tài)提升到了一個新層次,,還是媲美主流的DeepSeek-V3,或者應(yīng)用于本地的DeepSeek-V3,,對存儲都提出了新的需求,。以完整未蒸餾的DeepSeek R1模型為例,這是一個擁有6710億參數(shù)的混合專家(MoE)模型,,未量化版本的文件體積高達(dá)720GB,,而動態(tài)量化版本也達(dá)到150GB到400GB之間。

  DeepSeek讓GPU算力一下子得到了空前的釋放,,允許廠商將更多的資源集中到其它關(guān)鍵硬件中,,比如更強(qiáng)大的并行能力,以及更優(yōu)秀的存儲方案,。很顯然,,常規(guī)的存儲方案已經(jīng)不能很好的解決效率和存儲的問題,在企業(yè)級和數(shù)據(jù)中心級SSD為AI提供存儲支持時,,以QLC和CXL為例的新技術(shù)也正在協(xié)助AI以更低成本和更高的效率運(yùn)行,。

136.JPG

  QLC與CXL:為AI鋪路

  由于DeepSeek不僅降低了計算成本,多模態(tài)處理能力、說是知識圖譜和推理能力的優(yōu)秀表現(xiàn),,使得廠商擁有足夠的資源調(diào)用更多的數(shù)據(jù),。這使得原本大量的冷數(shù)據(jù)變成了溫數(shù)據(jù)。溫數(shù)據(jù)對存儲有著更高的要求,,需要相對HDD更快的傳輸速率,,并且存儲數(shù)據(jù)可能每年以EB級增長。這導(dǎo)致SSD的需求往大容量和低成本的方向發(fā)展,。

  其中QLC能夠更好的在單位空間內(nèi)提升存儲容量,,第八代BiCS FLASH? 2Tb QLC的位密度比鎧俠目前所采用的第五代BiCS FLASH?的QLC產(chǎn)品提高了約2.3倍,寫入能效比提高了約70%,。不僅如此,,全新的QLC產(chǎn)品架構(gòu)可在單個存儲器封裝中堆疊16個芯片,為業(yè)界提供領(lǐng)先的4TB容量,,并采用更為緊湊的封裝設(shè)計,,尺寸僅為11.5 x 13.5 mm,高度為1.5 mm,。

  這意味著,,未來采用第八代BiCS FLASH QLC的存儲產(chǎn)品在存儲空間擁有質(zhì)的飛躍,可以輕松將企業(yè)級SSD和數(shù)據(jù)中心級SSD容量提升至120TB以上,。

135.JPG

  密集的DeepSeek計算也意味著對內(nèi)存有著海量的要求,,但動輒數(shù)百GB的訓(xùn)練模型全部存儲在內(nèi)存中也意味著高昂的成本,如何利用BiCS FLASH?降低成本也是未來的思考方向,。例如利用相變存儲原理,,基于BiCS FLASH?結(jié)構(gòu)打造的XL-FLASH存儲級內(nèi)存(Storage Class Memory, SCM)與CXL相結(jié)合,開發(fā)相較內(nèi)存功耗更低,、位密度更高,,相較閃存讀取速度更快的存儲器。這不僅會提高存儲器利用效率,,還有助于節(jié)能,。

134.JPG

  CXL技術(shù)本身通常也意味著更先進(jìn)的PCIe版本支持,鎧俠則是積極響應(yīng)PCIe升級的存儲制造商之一,。例如,,鎧俠率先推出支持PCIe? 5.0的企業(yè)級固態(tài)硬盤CM7系列。PCIe? 5.0 SSD與傳統(tǒng)存儲設(shè)備(如PCIe? 4.0 SSD)的對比測試,,結(jié)果顯示,, CM7系列SSD在多個GPU并行訪問時,能夠提供91%的I/O吞吐量提升,,此外,,它的讀取延遲比傳統(tǒng)SSD低57%。同時,PCIe? 5.0 SSD能機(jī)器學(xué)習(xí)訓(xùn)練時間能夠得到顯著減少,。以16個GPU并行處理為例,,使用PCIe? 5.0 SSD可以減少32到44天的訓(xùn)練時間。

  特別是在PCIe? 5.0與NVMe?規(guī)范下實(shí)現(xiàn)可靠的RAID兼容性和互操作性能,。特別是生成式AI與檢索增強(qiáng)生成(RAG) 系統(tǒng)的重要性更勝以往,,關(guān)系數(shù)據(jù)庫PostgreSQL和向量數(shù)據(jù)庫需求變得格外重要。例如通過Xinnor的RAID 解決方案的兼容性和互操作性測試,,與采用相同硬件配置的軟件 RAID 解決方案相比,,在數(shù)據(jù)降級模式下執(zhí)行PostgreSQL,效能更提升達(dá)25倍,。

133.JPG

  搶先布局

  任何前沿技術(shù)不可能一蹴而就,,AI技術(shù)的積累更是如此。流暢體驗(yàn)的AI服務(wù)對數(shù)據(jù)傳輸速度有著很高的要求,。在多年前,鎧俠已經(jīng)開始對AI展開布局,,并致力于為人工智能的發(fā)展提供高性能的存儲解決方案,。

  為了推動檢索增強(qiáng)生成(RAG)擴(kuò)展獲得更好的性能支持,并進(jìn)一步降低成本,。鎧俠在近期宣布開源AiSAQ?技術(shù),,這是一項(xiàng)專為SSD優(yōu)化的新型“近似最近鄰”搜索(ANNS)算法,跳過將索引數(shù)據(jù)載入內(nèi)存(DRAM)的步驟,,直接在SSD上執(zhí)行檢索操作,,幫助企業(yè)/應(yīng)用針對特定數(shù)據(jù)優(yōu)化,從而實(shí)現(xiàn)幫助大語言模型(LLM)訓(xùn)練節(jié)省成本,。

132.JPG

  利用高性能存儲特性,,鎧俠在AI前沿進(jìn)行了諸多嘗試。包括通過Memory-Centric AI技術(shù)解決企業(yè)級SSD中圖像分類任務(wù)中災(zāi)難性丟失問題,,在神經(jīng)網(wǎng)絡(luò)不通過調(diào)整的前提下,,在深度學(xué)習(xí)中快速獲得圖像特征辨別和標(biāo)簽添加。并在數(shù)年前與NVIDIA展開深度合作,,從加速StyleGAN,、NeRF等算法,到協(xié)助NVIDIA搭建Omniverse平臺,,包括搭建最新的物理AI開發(fā)平臺NVIDIA Cosmos,,為LLM訓(xùn)練整理自定義數(shù)據(jù)集的NVIDIA NeMo Curator。

131.JPG

  針對前瞻性存儲,,鎧俠在近期還正式發(fā)布了全新XD8系列PCIe? 5.0 EDSFF(企業(yè)和數(shù)據(jù)中心標(biāo)準(zhǔn)型)E1.S固態(tài)硬盤,。它是鎧俠第三代E1.S固態(tài)硬盤,符合PCIe? 5.0(32 GT/s x 4)和NVMe? 2.0規(guī)范,并支持開放計算項(xiàng)目(OCP)數(shù)據(jù)中心NVMe SSD v2.5規(guī)范,。

  鎧俠XD8系列專為云和超大規(guī)模環(huán)境設(shè)計,,滿足數(shù)據(jù)中心對高性能、高效率和高可擴(kuò)展性的日益增長的需求,。通過這款新的固態(tài)硬盤,,云服務(wù)提供商和超大規(guī)模企業(yè)能夠優(yōu)化基礎(chǔ)設(shè)施,在保持運(yùn)營效率的同時提供卓越的性能,。

130.JPG

  讓AI移動起來

  DeepSeek另一個實(shí)現(xiàn)領(lǐng)域則是在移動平臺,。即便是春節(jié)假期,多個版本針對AI PC本地化AI部署的DeepSeek R1已經(jīng)成型,,例如蒸餾版本的7B和14B參數(shù)模型在筆記本和消費(fèi)級臺式機(jī)電腦上,,可利用NPU和GPU實(shí)現(xiàn)離線運(yùn)作,進(jìn)一步確保了私有信息的安全,。

  對于AI PC而言,,除了提供獨(dú)立GPU或者NPU進(jìn)行AI加速,大容量NVMe SSD也同等重要,,另外還要考慮到有限的AI PC內(nèi)部空間,,固態(tài)硬盤需要同時兼顧性能與散熱。以鎧俠BG6系列為例,,鎧俠 BG6 系列在AI PC上能夠展現(xiàn)卓越的性能和靈活性,。采用 PCIe? 4.0 和 NVMe 1.4c 規(guī)范,搭載高達(dá)2,048GB存儲空間,。順序讀取速度最高可達(dá) 6,000 MB/s,,隨機(jī)讀取速度更是高達(dá) 900,000 IOPS。這使得BG6系列成為緊湊型固態(tài)硬盤中的佼佼者,,為用戶提供了更快速,、更高效的數(shù)據(jù)處理體驗(yàn)。

129.JPG

  另外BG6 系列提供了多種容量選擇,,包括 256GB,、512GB、1,024GB 和 2,048GB,,適用于不同用戶需求,。其采用 M.2 Type 2230 和 Type 2280 模組封裝,可靈活應(yīng)用于各類薄型設(shè)備,,如超薄筆記本電腦,、嵌入式設(shè)備。也給不同形態(tài)的AI PC部署本地AI提供了豐富的解決方案,。

  從數(shù)據(jù)中心,、服務(wù)器,,到個人計算機(jī),鎧俠為AI計算提供了豐富,、高效的存儲方案,,并與合作伙伴展開深度合作,從軟件和硬件層面入手,,利用高性能固態(tài)硬盤的特性,,為AI計算提供可靠的存儲后盾,共同探索更多AI的可能性,,充分利用AI與數(shù)據(jù),,創(chuàng)造更多價值。




更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<

3952966954c9c6c308355d1d28d750b.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章,、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容,、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118,;郵箱:[email protected]