在新一輪邊緣AI和嵌入式AI的“接力”賽程中,，傳統(tǒng)芯片巨頭正全面站上賽道。

　　AI正以出乎意料的速度在云邊端全面突破,。

　　如果說上一波AI應(yīng)用主要集中在云端和碎片化的終端市場(chǎng),，那么這一波邊緣AI,、嵌入式AI的增長(zhǎng)，正是AI逐漸走向普適化的標(biāo)志之一,。

　　以往人們所熟知的AI運(yùn)算平臺(tái)主要是CPU,、GPU、FPGA,、NPU或?qū)Ｓ玫腁I處理芯片,，但是在新一輪賽程中，邊緣和端側(cè)MCU,、傳感器導(dǎo)入AI的速度明顯在加快,，有望成為AI落地的新動(dòng)力。

　　上一波AI的爆發(fā)式增長(zhǎng),，造就了英偉達(dá)的地位,，催生了大大小小的AI芯片公司。而在新一輪的“接力”賽程中,，傳統(tǒng)的芯片巨頭TI,、ST、恩智浦,、瑞薩等,，正全面站上賽道。

　　恩智浦首推MCX

　　兼具控制和AI處理功能

　　“我們正在進(jìn)入邊緣計(jì)算新時(shí)代,，這要求我們從根本上重新思考如何以合理方式構(gòu)建靈活的MCU產(chǎn)品組合,，該產(chǎn)品組合應(yīng)具有擴(kuò)展性、經(jīng)過優(yōu)化,，并且能夠成為當(dāng)今以及未來幾十年節(jié)能工業(yè)和物聯(lián)網(wǎng)邊緣應(yīng)用的基礎(chǔ)”,，恩智浦執(zhí)行副總裁兼邊緣處理技術(shù)總經(jīng)理Ron Martino表示。

　　從恩智浦（NXP）最新發(fā)布的MCX微控制器產(chǎn)品組合來看,，首次集成了用于加快邊緣推理的神經(jīng)處理單元（NPU）,，與單獨(dú)的CPU內(nèi)核相比，可提供高達(dá)30倍的機(jī)器學(xué)習(xí)吞吐量,。MCX基于恩智浦誕生于2007年的LPC系列和當(dāng)時(shí)的飛思卡爾在2010年推出的Kinetis系列,，可以說是傳承了兩大系列的核心優(yōu)勢(shì)。

　　恩智浦邊緣處理事業(yè)部系統(tǒng)工程高級(jí)總監(jiān)王朋朋認(rèn)為,，在MCU中集成神經(jīng)處理單元,，可以說是迎合時(shí)代需求。在CPU旁邊增加的NPU協(xié)處理器,，內(nèi)部擁有計(jì)算通道，可以實(shí)現(xiàn)良好的計(jì)算性能和能效,。在NPU上進(jìn)行機(jī)器學(xué)習(xí)運(yùn)算加速時(shí),，比如二維卷積神經(jīng)網(wǎng)絡(luò),、點(diǎn)卷積或深度卷積，性能會(huì)比Cortex-M33內(nèi)核加速30倍以上,。

　　以往運(yùn)用CPU處理的事項(xiàng),，例如機(jī)器學(xué)習(xí)的卷積處理現(xiàn)在可以由NPU來完成，而不占用CPU資源,。通過CPU和NPU的并行處理,，可同時(shí)做到控制和外界的交互，因此,，AI處理和通用的輸入輸出控制可以并行實(shí)現(xiàn),。從而在一顆通用MCU上，既實(shí)現(xiàn)了傳統(tǒng)MCU功能,，也實(shí)現(xiàn)了AI運(yùn)算加速,。

　　恩智浦大中華區(qū)工業(yè)與物聯(lián)網(wǎng)市場(chǎng)高級(jí)總監(jiān)金宇杰表示，隨著人工智能和智能邊緣計(jì)算的發(fā)展,，業(yè)界所面臨的挑戰(zhàn)也越來越多：第一,，技術(shù)格局在快速發(fā)展；第二,，隨著數(shù)據(jù)的大量傳輸,、運(yùn)算和處理，對(duì)信息安全保護(hù)的需求也越來越重要,；第三,，手持設(shè)備、電池應(yīng)用等領(lǐng)域?qū)Φ凸牡囊笠苍絹碓絿?yán)苛,。MCU傳統(tǒng)上雖然是做控制工作,，但隨著產(chǎn)品對(duì)智能運(yùn)算、可預(yù)見性的要求越來越多,，對(duì)運(yùn)算的要求也大大提升,。因此在MCU中嵌入算力更強(qiáng)的AI元素，希望通過NPU高效的計(jì)算架構(gòu),，實(shí)現(xiàn)實(shí)時(shí)推理,。

　　ST在MCU和傳感器加速導(dǎo)入AI

　　ST約在三年前開始將輕量的AI算法融入MCU中，作為對(duì)已有產(chǎn)品系列的補(bǔ)充和增強(qiáng),。驅(qū)使ST開始推行這一路線的主要原因是邊緣計(jì)算,，因?yàn)殡S著5G的到來，人們對(duì)傳統(tǒng)產(chǎn)品的延遲和能耗提出了更高要求,。

　　ST旗下經(jīng)典的STM32家族已經(jīng)誕生約15年,，面向未來，STM32確立了三大發(fā)展方向：更多無線通信技術(shù)、更先進(jìn)的安全保護(hù),、以及更高的本機(jī)自主智能,。

　　為何導(dǎo)入AI？ST方面認(rèn)為,，除了云端,、服務(wù)器端的人工智能，未來,，一些聯(lián)網(wǎng)能力并不太強(qiáng),、算力并不太高的設(shè)備，也需要執(zhí)行一些并不太復(fù)雜的AI算法,。比如通過噪聲去判斷電機(jī)本身運(yùn)行的狀況,、或是其他通過判斷來監(jiān)測(cè)系統(tǒng)運(yùn)行的效率……類似這樣的應(yīng)用不需要聯(lián)網(wǎng)到云端來實(shí)現(xiàn)。

　　AI在MCU上實(shí)現(xiàn)的意義在于,，可以將MCU低功耗,、低成本、實(shí)時(shí)性,、穩(wěn)定性,、開發(fā)周期短、廣闊的市場(chǎng)覆蓋率等特性,，與AI強(qiáng)大的處理能力相結(jié)合,，從而使海量終端智能涌現(xiàn)出來。

　　在AIoT系統(tǒng)中,，還有一個(gè)非常關(guān)鍵的部分就是傳感器,，傳感器的智能化也正在成為確定趨勢(shì)。以AR/VR應(yīng)用為例,，之所以對(duì)傳感器有高需求,，是因?yàn)檫@個(gè)產(chǎn)品直接連接人體，如果AV/VR在獲取周邊物理現(xiàn)象和信息的同時(shí),，經(jīng)過智能處理再傳給主控,，一來可以降低整體系統(tǒng)能耗，二來可以把本身的噪聲,、穩(wěn)定性和精度做得更好,。

　　ST最近發(fā)布的集成機(jī)器學(xué)習(xí)內(nèi)核的車規(guī)級(jí)慣性測(cè)量單元（IMU）ASM330LHHX，就是從智能駕駛向高度自動(dòng)化駕駛的又一步推進(jìn),。據(jù)ST官方信息,，內(nèi)嵌的機(jī)器學(xué)習(xí)內(nèi)核是一個(gè)用電路連接的硬連線處理引擎，能直接在傳感器上運(yùn)行AI算法,，確保從感測(cè)事件到車輛響應(yīng)的時(shí)間延遲很短,，可以實(shí)現(xiàn)復(fù)雜的實(shí)時(shí)性能，而對(duì)系統(tǒng)功耗和算力的要求遠(yuǎn)低于嵌入在應(yīng)用處理器或基于云的人工智能解決方案，這對(duì)整體系統(tǒng)設(shè)計(jì)理念也是一次較大的突破,。

　　與傳統(tǒng)傳感器僅采集數(shù)據(jù),、傳送給主控的特性相比,，導(dǎo)入AI的傳感器可以在采集到原始數(shù)據(jù)后,，通過機(jī)器學(xué)習(xí)讓模型進(jìn)行學(xué)習(xí)，再將學(xué)習(xí)后判斷的依據(jù)寫入傳感器,。因此,，傳感器可以通過內(nèi)置的固定狀態(tài)機(jī)進(jìn)行判斷，一些特定任務(wù)可以考慮在本體上運(yùn)作,，而不需要調(diào)動(dòng)整個(gè)處理器工作,。

　　此外，隨著未來系統(tǒng)功能的豐富,，各項(xiàng)任務(wù)指標(biāo)進(jìn)一步追求極限的話,，延時(shí)仍是一個(gè)關(guān)鍵因素。除了設(shè)備本身的算力,，傳輸時(shí)間可能也是主要原因,。例如，傳1M的原始數(shù)據(jù)與1K的結(jié)果數(shù)據(jù)所需時(shí)間肯定不同,，這可能也是推動(dòng)傳感器內(nèi)置AI的一大動(dòng)力,。

　　TI針對(duì)細(xì)分市場(chǎng)引入AI

　　德州儀器（TI）約在2020年初，首次為一款汽車SoC添加了專用的深度學(xué)習(xí)加速器,，這一方面說明了深度學(xué)習(xí)在汽車ADAS系統(tǒng)中的深入,，同時(shí)也可以看出TI在重要的車用產(chǎn)品線的布局方向。

　　TI這一深度學(xué)習(xí)模塊主要基于C7x DSP IP及其內(nèi)部開發(fā)的矩陣乘法加速器,，通過將DSP和EVE內(nèi)核結(jié)合到一起,，并添加了矢量浮點(diǎn)計(jì)算功能，支持向后兼容代碼,。

　　TI這一做法也是當(dāng)時(shí)在邊緣/端側(cè)應(yīng)用中實(shí)現(xiàn)人工智能加速時(shí)較為流行的做法,，將DSP專用于大量數(shù)據(jù)處理，在高難度的實(shí)時(shí)環(huán)境中執(zhí)行復(fù)雜的數(shù)學(xué)運(yùn)算,。通過DSP的數(shù)據(jù)流功能與矩陣乘法加速器相結(jié)合,，提升深度學(xué)習(xí)應(yīng)用的效率。

　　除了汽車市場(chǎng),，TI近期針對(duì)邊緣AI的人機(jī)界面 (HMI) 交互應(yīng)用推出了新系列SoC,，主打低功耗設(shè)計(jì)，全新的Sitara AM62 處理器可支持雙屏顯示和小型人機(jī)界面應(yīng)用,。

　　據(jù)TI官方資料,，下一代 HMI 將帶來與機(jī)器交互的全新方式，例如在嘈雜的工廠環(huán)境中通過手勢(shì)識(shí)別來發(fā)出命令，或通過無線連接的手機(jī)或平板電腦來控制機(jī)器,。將邊緣 AI 功能添加到 HMI 應(yīng)用（包括機(jī)器視覺,、分析和預(yù)測(cè)性維護(hù)），則有助于賦予 HMI 全新的意義,，而不是僅限于實(shí)現(xiàn)人機(jī)交互的界面,。

　　從硬件角度來看，AM62 系列圍繞 64 位,、1.4 GHz 四核 Arm Cortex A53 處理器子系統(tǒng)構(gòu)建,，每個(gè)內(nèi)核由 32 KB 的 L1 DCache 和 512 KB 的共享 L2 緩存支持。這款處理器與用于通用用途的 400 MHz 單核 Arm Cortex-M4F MCU,、專用 3D 圖形引擎以及用于設(shè)備資源和低功耗管理應(yīng)用的 R5F 內(nèi)核相匹配,。AM62 系列還有一個(gè)專用的顯示子系統(tǒng)，該子系統(tǒng)具有雙顯示支持,，允許用戶將他們的邊緣 AI 和HMI 控制放在同一個(gè)硬件上,。

　　讓日常消費(fèi)者更容易應(yīng)用AI，對(duì)于能否在邊緣大規(guī)模推進(jìn)AI部署非常重要,。TI這一新突破,，使得支持未來 HMI 應(yīng)用程序的 AI/ML 可以存在于設(shè)備本身中，從而為用戶提供更低的延遲,、更快的響應(yīng)時(shí)間和更自然直觀的體驗(yàn),。

　　瑞薩收購(gòu)，加注嵌入式AI

　　瑞薩的MCU產(chǎn)品有著非常全面的產(chǎn)品布局,，特別在工業(yè)和物聯(lián)網(wǎng)是其優(yōu)勢(shì)領(lǐng)域,。隨著AIoT應(yīng)用的興起，瑞薩MCU產(chǎn)品在不斷創(chuàng)新,，同時(shí)投入也在不斷加大,。

　　近年來推出的嵌入式AI技術(shù)“e-AI”，可作為一個(gè)附加單元添加到設(shè)備上,，通過預(yù)先學(xué)習(xí)好的AI處理模型,，實(shí)現(xiàn)從傳感器數(shù)據(jù)收集到數(shù)據(jù)處理、分析和評(píng)估/判斷的全過程,。

　　瑞薩最近還宣布了在嵌入式AI領(lǐng)域的一筆收購(gòu),。根據(jù)公開消息，瑞薩已與Reality AI達(dá)成最終協(xié)議,，以全現(xiàn)金交易方式收購(gòu)這家嵌入式AI解決方案供應(yīng)商,。據(jù)悉，該交易已獲得兩家公司董事會(huì)一致批準(zhǔn),，預(yù)計(jì)將于2022年年底完成,。

　　Reality AI的解決方案為機(jī)器學(xué)習(xí)提供信號(hào)處理,，提供快速、高效的機(jī)器學(xué)習(xí)推理,，甚至可用于最小的MCU,。該公司的旗艦產(chǎn)品Reality AI Tools是一個(gè)支持整個(gè)產(chǎn)品開發(fā)生命周期的軟件環(huán)境，提供非視覺傳感器數(shù)據(jù)的分析,。該公司在工業(yè)異常檢測(cè),、使用AI傳感器的汽車聲音識(shí)別方面已有較好的案例。

　　兩家公司表示,，將這些技術(shù)與瑞薩的MCU,、MPU組合相結(jié)合,，可以提供更好的AI推理和信號(hào)處理能力,，將有助于開發(fā)人員將先進(jìn)的機(jī)器學(xué)習(xí)和信號(hào)處理應(yīng)用于復(fù)雜問題。收購(gòu)Reality AI,，也將使瑞薩能夠從硬件和軟件角度提供全面和高度優(yōu)化的端側(cè)解決方案,，在工業(yè)物聯(lián)網(wǎng)、消費(fèi)電子和汽車應(yīng)用中更好地實(shí)現(xiàn)端側(cè)智能,。

　　瑞薩總裁兼首席執(zhí)行官柴田英利表示:“終端數(shù)據(jù)的重要性和需求正以前所未有的規(guī)模增長(zhǎng),。Reality AI的AI解決方案加入到我們現(xiàn)有的嵌入式AI投資組合中，將進(jìn)一步鞏固我們作為領(lǐng)先的AIoT解決方案提供商的地位,?！?/p>

　　工業(yè)物聯(lián)網(wǎng)、汽車等領(lǐng)域的機(jī)器學(xué)習(xí)應(yīng)用正在迅速增長(zhǎng),，嵌入式機(jī)器學(xué)習(xí),、信號(hào)處理、高性能處理器的需求有望逐漸增長(zhǎng),。一方面,，用戶需要更完整的解決方案支持，另一方面,，高度定制化也可能是這一領(lǐng)域的一大特色,。基于這些趨勢(shì),，業(yè)界類似這樣的收購(gòu)可能還將持續(xù)發(fā)生,。

　　寫在最后

　　圖源 | VentureBeat

　　AI下沉到邊緣、終端和嵌入式市場(chǎng),，從芯片到軟件,、系統(tǒng)、再到整體方案,，都需要部署相應(yīng)的AI能力,，這既是挑戰(zhàn),，也是全新的機(jī)遇。據(jù)Gartner預(yù)測(cè),，2025年至少會(huì)有75%的數(shù)據(jù)處理將會(huì)在云端或者數(shù)據(jù)中心之外的地方進(jìn)行,。伴隨這一波數(shù)據(jù)機(jī)遇的來臨，傳統(tǒng)半導(dǎo)體巨頭加大AI投入是發(fā)展的必然,。

　　那么,，傳統(tǒng)半導(dǎo)體巨頭在MCU上跑AI，與業(yè)界方興未艾的AI專用芯片相比,，究竟是升維還是降維競(jìng)爭(zhēng),？其實(shí)從應(yīng)用場(chǎng)景來看，雙方各有發(fā)展空間,。專用AI芯片與場(chǎng)景的適配非常緊密,，在某一個(gè)或某一類應(yīng)用場(chǎng)景中有計(jì)算優(yōu)勢(shì)。而通用MCU內(nèi)置AI,，相當(dāng)于在廣泛的應(yīng)用基礎(chǔ)上增加了AI的功能,，這也從一定程度上有助于解決AI當(dāng)前落地的一個(gè)痛點(diǎn)，即如何將AI算法適配于更多的通用場(chǎng)景,、部署在更多的邊緣設(shè)備,。

　　此外，從發(fā)展的路徑來看,，老牌半導(dǎo)體巨頭除了用AI提升差異化能力之外,，其發(fā)展的核心更是進(jìn)一步強(qiáng)化生態(tài)，來保持長(zhǎng)期的核心競(jìng)爭(zhēng)力,。不同于初創(chuàng)AI芯片公司從零起步,、大開大合的AI戰(zhàn)略，巨頭布局AI基本都是沿著已有的產(chǎn)品路徑去規(guī)劃,，同時(shí)注重將AI體系與原有的生態(tài)進(jìn)行密切結(jié)合,，這是其高筑的競(jìng)爭(zhēng)壁壘，也是處于追趕階段的國(guó)產(chǎn)芯片廠商所面臨的一大挑戰(zhàn),。