中國(guó) 2024年03月18日——人工智能芯片研發(fā)及基礎(chǔ)算力平臺(tái)公司愛(ài)芯元智宣布,，以“開(kāi)放·連接”為主題的第二屆玄鐵RISC-V生態(tài)大會(huì)于03月14日在深圳舉行，愛(ài)芯元智聯(lián)合創(chuàng)始人,、副總裁劉建偉受邀發(fā)表主題演講,，向與會(huì)嘉賓分享了愛(ài)芯通元混合精度NPU這一面向邊端側(cè)算力布局的AI處理器，以及基于RISC-V生態(tài)所進(jìn)行的AI算力提升及行業(yè)落地探索,。

　　同時(shí),，大會(huì)還公布了“玄鐵優(yōu)選伙伴”，愛(ài)芯元智等8家公司入選,。據(jù)悉,，該項(xiàng)榮譽(yù)旨在推動(dòng)玄鐵生態(tài)成果落地，連接RISC-V產(chǎn)業(yè)鏈生態(tài)網(wǎng)絡(luò),，促進(jìn)玄鐵商業(yè)生態(tài)發(fā)展,。此次入選，代表著愛(ài)芯元智對(duì)玄鐵RISC-V生態(tài)做出的貢獻(xiàn)得到肯定,。

　　AI無(wú)處不在，RISC-V為AI計(jì)算添動(dòng)力

　　從以ChatGPT為代表的云端大模型,，到邊緣側(cè)的計(jì)算盒子和散布于端側(cè)的各個(gè)攝像頭,，伴隨著技術(shù)的快速發(fā)展，AI已經(jīng)無(wú)處不在,。智能駕駛,、智能機(jī)器人、智慧工廠,、智慧城市,、智能零售等多個(gè)端側(cè)業(yè)務(wù)場(chǎng)景下，AI都開(kāi)始發(fā)揮作用，為各行各業(yè)帶來(lái)了生產(chǎn)力的提升,。

　　作為支持邊緣側(cè)和端側(cè)智能的平臺(tái)型芯片公司,，愛(ài)芯元智以“普惠AI 造就美好生活”作為企業(yè)使命，專(zhuān)注于高性能,、低功耗的人工智能視覺(jué)處理器芯片研發(fā),。劉建偉介紹，愛(ài)芯元智的系列芯片產(chǎn)品已在AIoT,、ADAS兩大產(chǎn)品線得到廣泛應(yīng)用并實(shí)現(xiàn)穩(wěn)健發(fā)展,，推動(dòng)AI在邊緣側(cè)和端側(cè)的部署落地。

　　但AI在邊端側(cè)的落地,，也意味著更高的算力需求,。對(duì)此，精簡(jiǎn),、靈活,、高效的RISC-V指令集架構(gòu)展現(xiàn)出了其優(yōu)勢(shì)，有望成為萬(wàn)物互聯(lián)時(shí)代核心處理器的架構(gòu)之一,。作為本次玄鐵優(yōu)選伙伴,，愛(ài)芯元智也在現(xiàn)場(chǎng)分享了基于玄鐵RISC-V所進(jìn)行的行業(yè)落地實(shí)踐，如面向物聯(lián)網(wǎng)領(lǐng)域,，愛(ài)芯元智通過(guò)應(yīng)用玄鐵RISC-V處理器,，并結(jié)合愛(ài)芯智眸AI-ISP和愛(ài)芯通元混合精度NPU兩大自研核心技術(shù)，實(shí)現(xiàn)了快速低功耗AI檢測(cè)喚醒,，可大大降低系統(tǒng)耗電,，輕松應(yīng)對(duì)電池類(lèi)產(chǎn)品需求。

　　同時(shí),，愛(ài)芯元智還通過(guò)愛(ài)芯通元混合精度NPU與玄鐵RISC-V IP的結(jié)合,，打造出高能效AI計(jì)算平臺(tái)，實(shí)現(xiàn)了圖形分割,、以文搜圖等大算力應(yīng)用,，滿足邊端不同場(chǎng)景下對(duì)感知、計(jì)算和數(shù)據(jù)處理能力的需求,。

　　打造原生AI處理器,，攜手玄鐵RISC-V重塑千行百業(yè)

　　算力是AI的基礎(chǔ)，那么AI時(shí)代,，我們究竟需要什么樣的算力基建,？

　　劉建偉指出，當(dāng)下,，AI程序的計(jì)算密度變得更高,，呼喚著NPU這一新的處理器出現(xiàn)，“作為AI專(zhuān)用處理器，NPU應(yīng)該有自己的指令集,，而不是被簡(jiǎn)單理解為加速器或是擴(kuò)展指令集,。”其表示,，在AI計(jì)算中,，指令操作的對(duì)象變成了高維的張量，因此整個(gè)處理器的能耗需要放在數(shù)據(jù)計(jì)算上,，且降低數(shù)據(jù)搬運(yùn)和整理組合的能耗,。而從推理的角度來(lái)看，大部分AI的算法/算子已處于收斂狀態(tài),。因此,，以算子這一AI模型的基本運(yùn)算單元為指令集進(jìn)行NPU設(shè)計(jì)，可以打開(kāi)硬件微架構(gòu)設(shè)計(jì)空間,，從而有更多的設(shè)計(jì)思路可以使用,，提高能效比。

　　而作為愛(ài)芯元智自研核心技術(shù),，愛(ài)芯通元混合精度NPU即是以算子為原子指令集的AI計(jì)算處理器,，其采用多線程異構(gòu)多核設(shè)計(jì)，實(shí)現(xiàn)算子,、網(wǎng)絡(luò)微結(jié)構(gòu),、數(shù)據(jù)流和內(nèi)存訪問(wèn)優(yōu)化，高效支持混合精度算法設(shè)計(jì),，原生支持Transformer網(wǎng)絡(luò)結(jié)構(gòu),，為大模型在邊緣側(cè)、端側(cè)的應(yīng)用提供了良好的基礎(chǔ),。

　　同時(shí),，愛(ài)芯通元混合精度NPU還提供成熟易用的編譯器，從而大幅度降低AI軟件的開(kāi)發(fā),、部署成本,，助力客戶在一小時(shí)內(nèi)快速上手，推動(dòng)AI計(jì)算的蓬勃發(fā)展,。

　　從AI處理器在視覺(jué)領(lǐng)域的評(píng)價(jià)指標(biāo)來(lái)看,，愛(ài)芯通元混合精度NPU也表現(xiàn)出色，其在運(yùn)行SwinT時(shí),，量化精度達(dá)到了高于市面平均水平的80.45%，并有著416 FPS的高性能和199FPS/W的低功耗,。

　　為滿足多樣化的AI計(jì)算需求,，作為AI處理器的NPU還需要更加靈活的動(dòng)態(tài)控制，這也正是愛(ài)芯元智與玄鐵RISC-V展開(kāi)深度合作的原因。據(jù)介紹,，愛(ài)芯元智正在探索基于玄鐵RISC-V主控和愛(ài)芯通元混合精度NPU,，打造生成式AI解決方案?！拔覀兿Ｍ麛y手玄鐵RISC-V打造AI硬件的最優(yōu)平臺(tái)選擇,，把AI落到千行百業(yè)，助力更多客戶提升效率,，創(chuàng)造價(jià)值,。”劉建偉表示,。

更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<