【對話前沿專家】基于憶阻器科研,,展望系統(tǒng)和器件協(xié)同測試未來可能性
2024-04-29
來源:泰克科技
人工智能內(nèi)容生成(AIGC)技術(shù)在近一年來引起了科技界的廣泛關(guān)注,因為它對各個行業(yè)有著顛覆性的影響,。但是,要支持AIGC技術(shù),,需要消耗很大的功率和算力,,隨著摩爾定律接近極限,新的計算架構(gòu)和信息器件成為了學(xué)術(shù)界和產(chǎn)業(yè)界的研究重點,。
高精尖創(chuàng)新中心由北京市教委支持,,依托清華建,現(xiàn)為第二期,,與北大共建,,有眾多設(shè)備和工作人員,有一百多人的工程師隊伍,,包括芯片設(shè)計,、測試及其他支撐人員。除研發(fā)高端芯片外,,還為北京市提供測試平臺,,服務(wù)清華各院系,也滿足周邊中關(guān)村芯片相關(guān)企業(yè)的測試需求,。
清華大學(xué)吳華強(qiáng),、高濱團(tuán)隊在氧化物憶阻器的科研領(lǐng)域有著十多年的積累,,更重要的是,他們在邊緣端的人工智能訓(xùn)練和推理方面實現(xiàn)了領(lǐng)先的突破,,為未來大模型的架構(gòu)提供了全新的研究范式,。在本次采訪中,高濱老師分享了自己團(tuán)隊最新的研究成果,,并深入分析了在大模型中的潛在應(yīng)用,。
此外,他還就器件的刻畫和驗證提出了發(fā)展性,、建設(shè)性的意見,。這對于從事憶阻器、類腦計算等領(lǐng)域的科研工作者來說,,是一種不同的思路,、一種先進(jìn)的系統(tǒng)和器件協(xié)同的測試、表征方法,,可以助力科研,、加快科研進(jìn)展。
新型器件創(chuàng)新支持大模型
張欣:您去年參加了 IEDM2023 會議,,能否分享下感受,。
高老師:IEDM 是集成電路領(lǐng)域三大緊急會議之一,因疫情前兩年線上開,,去年終于現(xiàn)場開,。感覺國際學(xué)術(shù)領(lǐng)域有變化,摩爾定律下行難度增大,。國際上雖有大公司論文研究更先進(jìn)工藝,,如堆疊三維基層晶體管,但門檻高,,只有少數(shù)公司如 imac 能做,。新器件工藝方面,看到新方向單片三維集層,,與較熱的 chiplet 平行,在一個襯底上盡量將多器件三維堆疊,,器件間帶寬更高,,是新趨勢,可用新型 TFT 材料,、薄膜氧化物,、二維材料等嘗試做成后端兼容器件。去年 IEDM 還有專門討論大模型的 專題環(huán)節(jié),,因大模型很火,,國際上幾個大公司都在研究如何用新器件,、新工藝去支持大模型,技術(shù)路線各不相同,,有傳統(tǒng)的,,也有嘗試新器件新工藝的。
張欣:現(xiàn)在科研領(lǐng)域都這么卷了,,大模型更多是商業(yè)行為,,都卷到器件新型器件創(chuàng)新去支持大模型了。
高老師:沒錯,,大模型不僅在算法和應(yīng)用上,,底層算力支撐也非常重要,這兩年 IEDM 特別關(guān)注提高算力,、存儲帶寬和權(quán)重密度,。我們組 2023 年在 IEDM 上有四篇文章、四個報告,,都與憶阻器方向相關(guān),,也涉及將憶阻器與其他器件進(jìn)行單片集成。
張欣:距上次專訪大概兩年半,,這期間您肯定有很多科研成果和進(jìn)步,,能否介紹下這期間工作的突破。
高老師:這兩年我們盡量將存算一體技術(shù)往應(yīng)用推進(jìn),,尋找應(yīng)用牽引,,主要布局三件事。一是與企業(yè)合作,,如海迪士,,嘗試在實際邊緣智能場景做芯片設(shè)計,除芯片設(shè)計,,還研究在實際場景下的可靠性,,發(fā)現(xiàn)器件電阻狀態(tài)保持在很多實際場景中存在隨機(jī)漂移的 relaxation 效應(yīng),需投入精力抑制隨機(jī)漂移,,以滿足未來應(yīng)用需求,。二是我們需要大模型,要設(shè)法提高密度,,因為之前小卷積網(wǎng)絡(luò)加速不需要高密度,,但大模型確實需要,這是工藝上的研究,。三是做更前沿,、創(chuàng)新的內(nèi)腦學(xué)習(xí),去年十月我們在 Science 上發(fā)過一篇相關(guān)論文,,還布局了幾個難度更大的學(xué)習(xí),。
看整體算法效果,,要關(guān)注整體而非器件個體
張欣:希望未來一兩年能看到高老師的進(jìn)展,一方面往產(chǎn)業(yè)化走要解決可靠性,、集升度問題,,同時布局新型真正類腦計算的前沿方向。
高老師:摩爾經(jīng)濟(jì)黃金時代,,不太注重器件與系統(tǒng)協(xié)同,,只要把器件做快做小,芯片性能就上去了,,但后摩爾時代要將器件與系統(tǒng)做協(xié)同設(shè)計,,根據(jù)系統(tǒng)需求優(yōu)化器件。典型的是存算一體,,最終目的是人工智能加速,,而人工智能對器件性能要求復(fù)雜,不是單純把器件組織調(diào)穩(wěn)就能達(dá)到系統(tǒng)要求,。如加速深度神經(jīng)網(wǎng)絡(luò),,其中卷積層、連接層等各種層對器件要求都不同,,很難抽象出器件指標(biāo)來確保做出的芯片很好,,更多是做成陣列或有一定功能的簡單電路,通過這個去測試,,最終測的還是器件特性,,反饋成電路甚至系統(tǒng),將算法神經(jīng)網(wǎng)絡(luò)算法直接運(yùn)行在陣列上,??凑w算法效果,關(guān)注整體而非器件個體,,最后落實在器件上做優(yōu)化,,調(diào)節(jié)器件中電子離子的輸運(yùn)。
張欣:這是全新概念,,對于產(chǎn)業(yè)界落地有挑戰(zhàn),,產(chǎn)業(yè)界要求器件種類越少越好,參數(shù)越集中越好,,以便大規(guī)模降低成本和提高良率,,擔(dān)心實際商業(yè)應(yīng)用的路還很遠(yuǎn)。
高老師:也沒有那么遠(yuǎn),,可以先找到較容易的場景,將各種指標(biāo)和可靠性清晰拆解,,在小地方先用起來,,讓商業(yè)之路走起來,,一是可以反饋給學(xué)術(shù)界下一步研究方向,二是在一些地方用起來后,,讓產(chǎn)業(yè)界和學(xué)術(shù)界更有信心,,這也是這兩年開始考慮與幾個企業(yè)一起往產(chǎn)業(yè)化推的原因。高精尖中心的定位是把學(xué)校高精尖技術(shù)往產(chǎn)業(yè)化推,,學(xué)校與企業(yè)中間有很大差距,,希望高精尖中心能在產(chǎn)業(yè)創(chuàng)新方面盡量填平這個差距。
張欣:您團(tuán)隊是國內(nèi)做主機(jī)憶阻器或氧化物憶阻器的頂尖團(tuán)隊,,想了解未來氧化物憶阻器的突破點及器件本身性能指標(biāo)細(xì)節(jié)方向有無可能突破,。
高老師:未來有好幾個突破點,一是可靠性,,希望器件能實現(xiàn)多比特存儲提高計算效率,,但中間組態(tài)穩(wěn)定性限制其應(yīng)用,對測試是挑戰(zhàn),;二是密度,,需與 M3D 高密存儲器拼密度,嘗試做成 HBM 方式堆多片阻阻器,,還需在片內(nèi)把憶阻器尺寸做小,,涉及憶阻器與晶體管的匹配及共同優(yōu)化工藝,需與很多公司合作,。大模型對功耗和成本需求高,,預(yù)計憶阻器用到大模型里能效比有數(shù)量級提升,端測中憶阻器高能效有很多優(yōu)勢,。
張欣:國內(nèi)有很多研究者做神經(jīng)形態(tài)計算方面研究,,感覺與憶阻器像,最初認(rèn)為是卷積神經(jīng)網(wǎng)絡(luò),,仔細(xì)研究是脈沖神經(jīng)網(wǎng)絡(luò),,詢問兩種體系關(guān)系及未來是否融合或演化出不同應(yīng)用和產(chǎn)品。
高老師:憶阻器有三個階段,,做存儲,、存算一體加速人工神經(jīng)網(wǎng)絡(luò)、類腦計算,,本質(zhì)是利用其動力學(xué)特性,,可能產(chǎn)生更高階智能和更復(fù)雜學(xué)習(xí)推理功能,在學(xué)術(shù)界值得探索,,但短期落地難,,因大規(guī)模實現(xiàn)無論工藝還是算法都有很多挑戰(zhàn),學(xué)校做探索是好方向。
張欣:提到憶阻器離子輸運(yùn)的動力學(xué)過程,,想起曾有老師對憶阻器時間參數(shù)特性要求高,,其氧控位控制精細(xì),形成和消除導(dǎo)電吸絲快,,測試要求高,,需皮秒級脈沖激勵和電流讀取,說不定未來可用于高速器件和高速場景,。
高老師:還在做更成熟的高速存儲方向,,用憶阻器研究憶阻器,其讀寫速度更快,,可多值存儲,,帶寬和速度提高,應(yīng)用空間充滿期待,。
測試測量設(shè)備未來與時俱進(jìn),,充滿想象力
張欣:談測試方面的挑戰(zhàn)和需求,提到憶阻器測試的幾個轉(zhuǎn)變,,從單器件到小陣列,,測試精度從低到高,涉及頻繁讀寫操作,,AC 和 DC 頻繁切換,,請高老師詳細(xì)剖析一下測試需求。
高老師:希望監(jiān)控電阻狀態(tài),,需高精度測量,,以前 memory只關(guān)注兩個窗口,現(xiàn)在要關(guān)注絕對電阻數(shù)值,。動態(tài)方面要調(diào)電阻值,,加寫脈沖讀取一段時間狀態(tài),涉及很多讀寫切換,,速度越快越好,,習(xí)慣在幾納秒時鐘周期內(nèi)完成切換。用傳統(tǒng)毫秒量級切換,,器件測試結(jié)果無法直接轉(zhuǎn)化到芯片中,,所以器件測試時要模擬芯片實際工作狀態(tài)。
張欣:作為測試測量儀器公司,,我們還有很長路要走,,您能給我們提些如何更好服務(wù)中國科研行業(yè)和市場的建議嗎?
高老師:我能想到的就是兩件事吧,,一是多與中國高校,、研究院所交流,,了解更多需求,有助于開發(fā)更好產(chǎn)品,;二是與時俱進(jìn),,有沒有可能將 AI 技術(shù)融入測試設(shè)備,,使交互更方便,,做出更多新功能,這是所有電子設(shè)備大趨勢,?;蛟S將來一臺測試設(shè)備就是一臺智能設(shè)備,測試設(shè)備里用到的憶阻器的邊緣訓(xùn)練和學(xué)習(xí)能很快實現(xiàn),。
上述為本次訪談內(nèi)容,,針對憶阻器領(lǐng)域,后續(xù)高濱老師還有關(guān)于大模型時代的存算一體芯片專題的相關(guān)詳細(xì)課程,,敬請期待:
背景:大模型與存儲墻
概念:存算一體芯片技術(shù)
進(jìn)展:存算一體器件,、工藝與芯片
展望:存算器件的發(fā)展及測試需求
更多精彩內(nèi)容歡迎點擊==>>電子技術(shù)應(yīng)用-AET<<