一、AIoT概述
AIoT(Artificial Intelligence &?Internet of Things)中文譯為人工智能物聯(lián)網(wǎng),，是將人工智能(AI)與物聯(lián)網(wǎng)(IoT)兩者有機(jī)結(jié)合的一種技術(shù)。AI在這個(gè)系統(tǒng)中充當(dāng)了大腦的角色,，賦予了物聯(lián)網(wǎng)更多的可能性，將萬物互聯(lián)提升到萬物智聯(lián),，如目前的智能醫(yī)護(hù)助手,、人體測溫?cái)z像頭、智能配送機(jī)器人都是在AI的加持下得以實(shí)現(xiàn),。
據(jù)2019年的市場調(diào)查報(bào)告顯示,，2020年中國AIoT硬件市場及相關(guān)產(chǎn)業(yè)的規(guī)模將突破萬億元。目前AIoT的主流方案以邊緣計(jì)算和云計(jì)算結(jié)合為主,，相比之下,，邊緣計(jì)算有部署靈活、穩(wěn)定性強(qiáng),、網(wǎng)絡(luò)依賴度低,、安全性強(qiáng)更有利于保護(hù)隱私的特點(diǎn)。作為布局AIoT的重要產(chǎn)品,，ZLG發(fā)布了M1808 AI核心板,。本文將針對(duì)M1808核心板的AI性能參數(shù)做具體講解。
二,、M1808平臺(tái)簡介
M1808平臺(tái)是由M1808-T核心板和M1808-EV-Board評(píng)估底板組成,，是基于Rockchip 的RK1808 AIoT處理器開發(fā)。RK1808處理器芯片采用CPU（Central Processing Unit,，中文譯為中央處理單元）+NPU（Network Process Unit,，中文譯為神經(jīng)網(wǎng)絡(luò)處理單元）雙架構(gòu)，其中CPU為1.6GHz雙核Cortex-A35架構(gòu),，NPU的峰值算力高達(dá)3.0TOPs，支持INT8/INT16/FP16混合運(yùn)算,，最大程度兼顧性能,、功耗、運(yùn)算精度,，支持TensorFlow/MXNet/PyTorch/Caffe等一系列框架的網(wǎng)絡(luò)模型轉(zhuǎn)換,，兼容性強(qiáng)。VPU視頻處理單元支持1080P視頻編解碼,，支持麥克風(fēng)陣列,，并具有硬件VAD功能,，支持低功耗偵聽遠(yuǎn)場喚醒，還支持?jǐn)z像頭視頻信號(hào)輸入,，并具有內(nèi)置ISP,。M1808平臺(tái)具有高性能、低功耗,、易編程,、集成NPU等特點(diǎn)。
三,、AIoT硬件平臺(tái)AI性能對(duì)比
算力和功耗是衡量硬件平臺(tái)AI性能的重要參數(shù),。為了充分驗(yàn)證M1808的高性能、低功耗特點(diǎn),，表格1提供了M1808與其他產(chǎn)品的AI性能參數(shù)對(duì)比,。通過對(duì)比可知，M1808 AI核心板能夠最大程度的兼顧算力與功耗,。這也使其在AIoT硬件平臺(tái)上具有領(lǐng)先地位,。
表格 1
四、常見AI功能的算力花銷
考慮到讀者對(duì)3.0 TOPs的算力很難有一個(gè)清晰的概念,，在表格2中我們列出了常見AI功能所需要的算力花銷：
表格 2
由表格可知,，除了自動(dòng)駕駛這種多模型融合、實(shí)際場景十分復(fù)雜多變的情形,，大部分單一功能的實(shí)現(xiàn)所需的算力要求在1TOPS這個(gè)數(shù)量級(jí),。M1808作為目前具有代表性的嵌入式AI平臺(tái)，具備了3.0 TOPs的基礎(chǔ)算力,，基本可以滿足大部分場景的使用,，如人臉門禁、掃臉支付,、智能餐桌等,。此外，如果對(duì)照片處理的實(shí)時(shí)性要求不高,，比如山火識(shí)別,，面對(duì)這種對(duì)網(wǎng)絡(luò)模型的查全率要求很高的場景，就可以使用上結(jié)構(gòu)更深的模型,，來達(dá)到精度更高的效果,。
五、神經(jīng)網(wǎng)絡(luò)推理速度
l為了更直觀地認(rèn)識(shí)M1808的AI計(jì)算能力,，在圖表1中,，我們分別在三種相同的神經(jīng)網(wǎng)絡(luò)模型下，對(duì)比M1808與常見手機(jī)芯片的網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)運(yùn)行時(shí)間,。運(yùn)行時(shí)間的長短可以反應(yīng)出硬件平臺(tái)AI計(jì)算能力,?？梢钥吹剑瑢?duì)比當(dāng)今主流的手機(jī)芯片,，M1808的AI算力也毫不遜色,，足以滿足大部分AI功能需求。
圖表 1
六,、軟件層面
除了提供強(qiáng)大的AI算力,，M1808也提供了對(duì)應(yīng)的AI開發(fā)套件來支持研發(fā)人員的開發(fā)工作。目前M1808的套件支持主流的tensorflow,、tensroflow lite,、caffe、darknet,、onnx,、pytorch等框架訓(xùn)練的模型，可以對(duì)其進(jìn)行模型轉(zhuǎn)換以便將模型部署到開發(fā)板上,，我們還提供了自動(dòng)量化及模型運(yùn)行效率的評(píng)估功能,，減少模型適配的工作量。
同時(shí),，M1808也提供了一些常用的AI模型可供開發(fā)人員調(diào)用,，目前支持以下功能：人臉識(shí)別，司機(jī)疲勞駕駛檢測系統(tǒng),，人臉關(guān)鍵點(diǎn)定位,，人臉檢測，物體檢測,，物體分類,，紐扣方向的功能。目前的人臉識(shí)別精度在lfw上達(dá)到了99.7%,，一萬人臉庫的情景下達(dá)到每秒10幀左右,，支持年齡跨度、人臉部分遮擋和摘戴眼鏡等戶外及室內(nèi)場景,，更多的功能正在開發(fā)測試完善中,，敬請(qǐng)期待。
以上即為M1808的算法算力性能介紹,，大家是會(huì)能夠真切的感受到這款A(yù)I核心板的性能呢,？若是想了解我司基于M1808提供的算法可查閱往期文章《立功科技嵌入式平臺(tái)“軟”實(shí)力——人臉識(shí)別算法篇》，若是再想更近距離的感受M1808性能的強(qiáng)大,，歡迎咨詢小致，可有機(jī)會(huì)實(shí)際感受M1808 AI核心板的強(qiáng)勁性能,。