《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > Microchip與韓國智能硬件公司IHWK合作開發(fā)模擬計(jì)算平臺,,加速邊緣AI/ML推理

Microchip與韓國智能硬件公司IHWK合作開發(fā)模擬計(jì)算平臺,,加速邊緣AI/ML推理

IHWK采用Microchip的memBrain? 非易失性內(nèi)存計(jì)算技術(shù)并與高校合作,,為神經(jīng)技術(shù)設(shè)備開發(fā) SoC 處理器
2023-09-14
來源:Microchip
關(guān)鍵詞: Microchip AI IHWK 冠捷半導(dǎo)體

為了適應(yīng)網(wǎng)絡(luò)邊緣人工智能(AI)計(jì)算及相關(guān)推理算法的快速發(fā)展,,韓國智能硬件公司(IHWK)正在為神經(jīng)技術(shù)設(shè)備和現(xiàn)場可編程神經(jīng)形態(tài)設(shè)備開發(fā)神經(jīng)形態(tài)計(jì)算平臺。Microchip Technology Inc.(美國微芯科技公司)通過子公司冠捷半導(dǎo)體(SST)參與協(xié)助開發(fā),,為該平臺SuperFlash? memBrain?神經(jīng)形態(tài)存儲器解決方案提供評估系統(tǒng),。該解決方案基于Microchip經(jīng)行業(yè)驗(yàn)證的非易失性存儲器(NVM)SuperFlash技術(shù)并加以優(yōu)化,,可通過模擬內(nèi)存計(jì)算方法為神經(jīng)網(wǎng)絡(luò)執(zhí)行矢量矩陣乘法(VMM),。

11.jpg

memBrain技術(shù)評估工具包旨在讓IHWK展示其神經(jīng)形態(tài)計(jì)算平臺在邊緣運(yùn)行推理算法的絕對能效,。最終目標(biāo)是為生成式人工智能模型、自動駕駛汽車,、醫(yī)療診斷,、語音處理、安全/監(jiān)控和商用無人機(jī)等應(yīng)用創(chuàng)建超低功耗模擬處理單元(APU),。

由于目前用于邊緣推理的神經(jīng)網(wǎng)絡(luò)模型可能需要5000萬或更多突觸(權(quán)重)進(jìn)行處理,,因此純數(shù)字解決方案需要足夠帶寬來使用片外DRAM,這對神經(jīng)網(wǎng)絡(luò)計(jì)算造成了瓶頸,,降低了整體計(jì)算能力,。相比之下,memBrain解決方案在超低功耗亞閾值模式下將突觸權(quán)重存儲在片上浮動?xùn)胖?,并使用相同存儲單元進(jìn)行計(jì)算,,從而顯著提高了能效和降低了系統(tǒng)延遲。與傳統(tǒng)數(shù)字DSP和基于SRAM/DRAM的方法相比,,該方案可將每次推理決策的功耗降低到原來的1/20到1/10,,并能顯著降低總體物料清單。

為了開發(fā)APU,,IHWK 還與位于大田的韓國科學(xué)技術(shù)院(KAIST)合作進(jìn)行設(shè)備開發(fā),,并與位于首爾的延世大學(xué)(Yonsei University)合作提供設(shè)備設(shè)計(jì)協(xié)助。最終的 APU 預(yù)計(jì)將優(yōu)化推理的系統(tǒng)級算法,,并在每瓦 20-80 TeraOPS 之間運(yùn)行,,實(shí)現(xiàn)了為電池供電設(shè)備設(shè)計(jì)的內(nèi)存計(jì)算解決方案的最佳性能。

Microchip技術(shù)許可業(yè)務(wù)部門SST副總裁Mark Reiten表示:“通過使用成熟的NVM而非替代性片外內(nèi)存解決方案來執(zhí)行神經(jīng)網(wǎng)絡(luò)計(jì)算和存儲權(quán)重,,Microchip的memBrain內(nèi)存計(jì)算技術(shù)有望消除在網(wǎng)絡(luò)邊緣執(zhí)行人工智能處理所面臨的大規(guī)模數(shù)據(jù)通信瓶頸,。與韓國領(lǐng)先的研發(fā)公司IHWK、相關(guān)高校和早期用戶開展合作,,進(jìn)一步證明了Microchip神經(jīng)處理技術(shù)的先進(jìn)性,,也將推動Microchip在人工智能領(lǐng)域的發(fā)展?!?br/>

IHWK 分公司經(jīng)理Sanghoon Yoon 表示:“韓國是人工智能半導(dǎo)體發(fā)展的重要熱點(diǎn)地區(qū),。我們的非易失性存儲器和新興存儲器專家已經(jīng)證實(shí),Microchip基于成熟非易失性存儲器技術(shù)的memBrain產(chǎn)品是創(chuàng)建內(nèi)存計(jì)算系統(tǒng)的最佳選擇,?!?br/>

將神經(jīng)模型永久存儲在memBrain解決方案的處理元件中,還可支持用于實(shí)時(shí)神經(jīng)網(wǎng)絡(luò)處理的即時(shí)開啟功能,。IHWK正尋求利用SuperFlash存儲器浮動?xùn)艈卧姆且资?,支持低功耗邊緣?jì)算設(shè)備使用高級ML模型,建立機(jī)器學(xué)習(xí)推理的新基準(zhǔn),。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問題,,請及時(shí)通過電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118,;郵箱:[email protected],。