《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 模擬設(shè)計 > 業(yè)界動態(tài) > 華為全閃分布式存儲技術(shù)終結(jié)SSD大盤數(shù)據(jù)重構(gòu)難題

華為全閃分布式存儲技術(shù)終結(jié)SSD大盤數(shù)據(jù)重構(gòu)難題

能雕花,、會自愈
2024-08-20
來源:快科技

8月19日消息,,在通常的分布式存儲中,,當(dāng)系統(tǒng)檢測到硬盤故障時,,系統(tǒng)會采用EC(Erasure Coding)糾刪碼等冗余校驗手段,,利用其余節(jié)點上的正常硬盤,、正常數(shù)據(jù),,在后臺跨節(jié)點地將整塊硬盤的故障數(shù)據(jù)重構(gòu)出來,。

然而,,隨著SSD容量逐步增大,大盤需要重構(gòu)的數(shù)據(jù)量翻了4~8倍,、耗費時長也等比例上升,。

在這個漫長的重構(gòu)周期里,不僅擠占25%存儲帶寬,、影響業(yè)務(wù)性能,,且更致命的是,系統(tǒng)將處于可靠性降級狀態(tài),,數(shù)據(jù)將會面臨隨時丟失,。

1.png

2.png

今天,華為介紹了全閃分布式存儲,,對SSD的故障域?qū)嵤┚植扛綦x,,盡可能避免原先的大范圍的整盤重構(gòu)。

針對盤內(nèi)DDR的失效,,華為創(chuàng)新地采用TRR(Tiny Region Reconstruction,,最小范圍重構(gòu))算法,通過盤控深度配合,,精準(zhǔn)識別并上報失效區(qū)域所映射的邏輯地址,,然后通知存儲系統(tǒng),對受影響的局部數(shù)據(jù)進行屏蔽,。

這個過程,,就像在硬盤上“精密鏤刻”一樣,然后在新的位置精準(zhǔn)重構(gòu)出這一小部分?jǐn)?shù)據(jù),。這,,就避免了過去動輒整盤重構(gòu),讓其余正常數(shù)據(jù)“免遭牽連”,,減少了數(shù)百倍的重構(gòu)數(shù)據(jù)量,,整個過程幾分鐘就能搞定,。

針對NAND Flash的失效,,華為也采用自研的“盤內(nèi)RAID算法”,,對盤上所有數(shù)據(jù)以Die為單位,建立RAID組冗余校驗,。我們將故障范圍精準(zhǔn)縮小到Die級,,利用其余正常的Die、通過盤內(nèi)計算引擎恢復(fù)出正確的數(shù)據(jù),。

這項技術(shù)的厲害之處在于,,這個過程可以不斷重復(fù),允許Die一個接一個地失效,,持續(xù)縮列,、甚至縮容而不丟失任何數(shù)據(jù)。這個操作完全發(fā)生在SSD盤內(nèi),,上層存儲系統(tǒng)那個“大佬”根本無需插手,,完全不知道底下這么熱鬧。

假如遇上多個Die同時失效,、或者整個顆粒失效的極端情況,,那SSD單盤就兜不住了,但系統(tǒng)自然也有備而來,。存儲系統(tǒng)會立刻啟動TRR算法,,進行局部數(shù)據(jù)的“鏤刻”和“填坑”,做到精準(zhǔn)屏蔽,、并進行計劃性預(yù)拷貝重構(gòu),。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點,。轉(zhuǎn)載的所有的文章、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容,、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟損失,。聯(lián)系電話:010-82306118;郵箱:[email protected],。