今年8月,有個(gè)消息轟動(dòng)了中國(guó)科技界,,尤其是AI圈。由中國(guó)科研團(tuán)隊(duì)研發(fā)的“天機(jī)”芯片登上了《自然》雜志封面,。相關(guān)文章展示了清華大學(xué)施路平團(tuán)隊(duì)研發(fā)的世界首款異構(gòu)融合類腦芯片,,它既可支持脈沖神經(jīng)網(wǎng)絡(luò)又支持人工神經(jīng)網(wǎng)路,,并且公布了利用“天機(jī)芯片”完成自行車自動(dòng)駕駛的實(shí)驗(yàn)視頻。
這件事給投資界,、產(chǎn)業(yè)界的直接影響,,是在近段時(shí)間“類腦芯片”和“類腦計(jì)算”相關(guān)的投融資、并購(gòu)與創(chuàng)業(yè)公司突然多了起來(lái),?!邦惸X”相關(guān)的會(huì)議活動(dòng)也突然增加。雖然說(shuō)“類腦熱”還遠(yuǎn)遠(yuǎn)談不上,,但這個(gè)領(lǐng)域的突然升溫卻是真實(shí)可見的,。
如果我們把目光放得更遠(yuǎn)一點(diǎn),類腦芯片確實(shí)在這幾年有了大規(guī)模的爆發(fā),。各大學(xué)實(shí)驗(yàn)室以及科技巨頭紛紛拿出了類腦芯片產(chǎn)品,,也有不少專家學(xué)者認(rèn)為,人工智能要經(jīng)歷簡(jiǎn)單人工智能,、深度人工智能,、通用人工智能三個(gè)階段。而今天的深度學(xué)習(xí)代表了第二階段的開始,,類腦計(jì)算則是通用智能大門的鑰匙,。
事已至此,可能給大眾的感覺是,,類腦芯片已經(jīng)是注定的未來(lái),,人類已經(jīng)借由它找到了通向強(qiáng)人工智能的門徑。
然而果真如此嗎,?類腦芯片是否就是AI的終極答案,,今天還埋藏著太多不確定性。而想要客觀認(rèn)識(shí)類腦芯片的未來(lái),,我們可能必須要把時(shí)間倒回一些,,先理解它的過(guò)去。
一段人類認(rèn)識(shí)神經(jīng)與大腦的過(guò)去,。
神經(jīng)行為學(xué):AI之外的另一條路
從人類的大腦和智慧中,,抽取提煉某種技術(shù),是一件源遠(yuǎn)流長(zhǎng)的工作,。能不能讓機(jī)械像人類一樣識(shí)別,、判斷和思考,最終發(fā)展出了今天的AI,。
而在另一項(xiàng)“兄弟研究”里,,卻一步步發(fā)展出了今天的類腦芯片——換言之,類腦芯片的起點(diǎn)某種程度上來(lái)說(shuō)跟AI沒啥關(guān)系。因?yàn)樗惖氖乔嗤艿哪X,。
早在16世紀(jì),,達(dá)芬奇就在手稿中分析過(guò)無(wú)頭青蛙也能活的現(xiàn)象,某種程度上來(lái)說(shuō)他發(fā)現(xiàn)了生物電和中樞神經(jīng)系統(tǒng)的秘密,。但是我們知道達(dá)芬奇手稿近世才被披露,,所以這個(gè)發(fā)現(xiàn)就像他很多驚天發(fā)明一樣變成了“達(dá)芬奇的秘密”。
1786年,,伽格尼發(fā)現(xiàn)了青蛙掛在金屬柵欄上腿會(huì)抽動(dòng)的現(xiàn)象,,繼而一步步建立了早期生物電學(xué)。沿著青蛙們以高貴犧牲精神開拓的道路,,人類逐漸發(fā)現(xiàn)了生物電和神經(jīng)系統(tǒng)的奧秘,。即生物的神經(jīng)運(yùn)轉(zhuǎn),,是依靠生物電刺激神經(jīng)元節(jié)點(diǎn),,最終實(shí)現(xiàn)了大腦控制機(jī)體的網(wǎng)狀神經(jīng)結(jié)構(gòu)。
由這個(gè)結(jié)構(gòu)開始,,神經(jīng)學(xué)界很自然就會(huì)思考另一個(gè)問(wèn)題:既然動(dòng)物是依靠神經(jīng)元來(lái)傳遞信息,、進(jìn)行控制的,那么這種控制是如何發(fā)生的呢,?
圍繞這個(gè)問(wèn)題,,人類在20世紀(jì)開始漫長(zhǎng)的,對(duì)神經(jīng)傳遞,、神經(jīng)動(dòng)力的研究,,并在1963年完成了神經(jīng)行為學(xué)的術(shù)語(yǔ)概念確認(rèn)。這個(gè)學(xué)科中,,研究者從生物,、解剖、神經(jīng)反射等多個(gè)角度提出了關(guān)于神經(jīng)元的行為學(xué)模型,。其中很多關(guān)于神經(jīng)元計(jì)算的討論,,甚至早于AI概念的提出。
我們知道,,今天人工神經(jīng)網(wǎng)絡(luò)是AI的基石,,但人工神經(jīng)網(wǎng)絡(luò)的提出,其實(shí)只是上世紀(jì)70年代,,AI和計(jì)算機(jī)學(xué)界對(duì)神經(jīng)元研究的一次借鑒,,主要是模仿了神經(jīng)元分層處理的特征。它的基礎(chǔ)還是坐落在統(tǒng)計(jì)學(xué)和控制論的概念上,。
但隨著AI和現(xiàn)代計(jì)算的不斷發(fā)展,,作為“兄弟學(xué)科”的神經(jīng)行為學(xué)自身也在進(jìn)步。于是就有人聯(lián)想到了,能不能直接整體移植神經(jīng)元系統(tǒng),,在現(xiàn)實(shí)世界里,,把類似動(dòng)物大腦中神經(jīng)元行為的動(dòng)力機(jī)制變成一種運(yùn)算機(jī)制?
之所以要這么干,,主要還是臨近21世紀(jì),,人類發(fā)現(xiàn)馮諾依曼架構(gòu)不斷抵近極限。一種從根兒上不同于經(jīng)典計(jì)算的計(jì)算架構(gòu),,或許是最一勞永逸的解決辦法,。量子計(jì)算是一種解決方式,而全仿生神經(jīng)元行為學(xué)的解決方案則是另一種——這一種在大部分時(shí)候就被簡(jiǎn)稱為類腦計(jì)算,。
事實(shí)上,,類腦計(jì)算中除了神經(jīng)元行為學(xué)的仿生計(jì)算,也還要其他計(jì)算方式,。但今天,,毫無(wú)疑問(wèn)模仿神經(jīng)元行為是最成功的一種,于是我們今天看到的二者大體是可以劃等號(hào)的,。
畢竟人腦肯定是最好的計(jì)算機(jī),,加上想發(fā)展AI,那么類似人腦結(jié)構(gòu)的計(jì)算方式顯然極具魅惑,。于是類腦計(jì)算在眾多新計(jì)算形式中天然占據(jù)著加分項(xiàng),,而又過(guò)了幾十年,摩爾定律的極限愈發(fā)明顯的今天,,類腦計(jì)算也確實(shí)拿出了一些成績(jī),。
類腦計(jì)算:比特之外的另一條路
想要了解芯片化的類腦計(jì)算之前,我們還要先了解兩個(gè)東西:SNN和人造突觸,。
上面咱們說(shuō)過(guò)了,,人工神經(jīng)網(wǎng)絡(luò)(ANN),本質(zhì)上還是一種基于統(tǒng)計(jì)學(xué)遞歸原理所構(gòu)建的計(jì)算架構(gòu),。那么想要搞類腦計(jì)算,,就需要一種更仿生大腦神經(jīng)元運(yùn)作的計(jì)算架構(gòu)。這種架構(gòu)應(yīng)該體現(xiàn)出人腦計(jì)算的高效,、精準(zhǔn)和連續(xù)性,,從而對(duì)存儲(chǔ)分離的馮諾依曼架構(gòu)提出挑戰(zhàn)。
是不是有這種東西呢,?還真有,。
這就是今天類腦芯片們的基礎(chǔ)檢驗(yàn)標(biāo)準(zhǔn):脈沖神經(jīng)網(wǎng)絡(luò)SNN。1952年,,發(fā)現(xiàn)了神經(jīng)學(xué)的功能的離子學(xué)說(shuō)和突觸電位的諾貝爾醫(yī)學(xué)獎(jiǎng)得主,,艾倫·勞埃德·霍奇金爵士提出了脈沖神經(jīng)網(wǎng)絡(luò)這種神經(jīng)行為學(xué)模型,。
SNN的價(jià)值在于,它描述了神經(jīng)元之間的電位是如何產(chǎn)生和流動(dòng)的,,它認(rèn)為神經(jīng)元之間的交換主要靠“神經(jīng)遞質(zhì)”來(lái)產(chǎn)生化學(xué)放電,,從而在神經(jīng)網(wǎng)絡(luò)中實(shí)現(xiàn)復(fù)雜和可變的神經(jīng)系統(tǒng)交互。
這一發(fā)明來(lái)到了計(jì)算世界,,就變成了一種高度模仿神經(jīng)元的計(jì)算架構(gòu),。它用發(fā)生脈沖的仿生來(lái)模擬神經(jīng)元電位,構(gòu)成了一種獨(dú)特的網(wǎng)絡(luò)結(jié)構(gòu),。 今天,,SNN已經(jīng)在很多領(lǐng)域,比如低功耗和通用處理能力證明了自己的優(yōu)秀,。
但是對(duì)于很多說(shuō)SNN一定是ANN的進(jìn)化,,是下一代神經(jīng)網(wǎng)絡(luò),這個(gè)說(shuō)法有失偏頗,。事實(shí)上,,SNN的出現(xiàn)并不比ANN晚。說(shuō)白了要有用早就用了,,真正讓它停留在實(shí)驗(yàn)室中的,,還是缺乏實(shí)際的任務(wù)處理能力,。但就像大規(guī)模并行計(jì)算重新激活了沉睡幾十年的ANN一樣,,SNN的未來(lái)誰(shuí)又說(shuō)得準(zhǔn)呢?
類腦計(jì)算的另一個(gè)關(guān)鍵點(diǎn),,是計(jì)算節(jié)點(diǎn)的問(wèn)題,。我們知道,比特計(jì)算的節(jié)點(diǎn)是晶體管的導(dǎo)電開關(guān),。而類腦計(jì)算則要求模擬出與人類神經(jīng)元相似的計(jì)算節(jié)點(diǎn),,來(lái)實(shí)現(xiàn)非比特計(jì)算的另一條路。這也就是說(shuō),,我們需要人造神經(jīng)突觸,。
今天關(guān)于如何模擬,或者制造人工突觸,,已經(jīng)有相當(dāng)多的探索,。但整體而言新材料還有這樣那樣的問(wèn)題,能夠量產(chǎn)的類腦芯片,,基本還是用電路模擬人造突觸的方式來(lái)實(shí)現(xiàn)類腦計(jì)算,。這樣做對(duì)工藝要求很高,生產(chǎn)效率地下,,其實(shí)并非長(zhǎng)久之計(jì),。
沿著這兩條路,,人類慢慢就摸到了類腦芯片的大門。
2011年,,IBM發(fā)布了TrueNorth芯片,,這也是人類用電路模擬神經(jīng)行為學(xué)的開端。2014年TrueNorth更新了第二代,,功耗達(dá)到了平方厘米消耗 20 毫瓦,,印證了類腦芯片的低功耗價(jià)值,也在一些AI任務(wù)上印證了類腦芯片的實(shí)際工作能力,。
而緊隨其后的,,想想也知道應(yīng)該是英特爾。2017年,,英特爾發(fā)布了類腦芯片Loihi,,其擁有13萬(wàn)個(gè)人造突觸。今年7月,,英特爾發(fā)布了號(hào)稱業(yè)界首個(gè)大規(guī)模神經(jīng)形態(tài)計(jì)算系統(tǒng)Pohoiki Beach,。這個(gè)系統(tǒng)由64塊Loihi組合而成,已經(jīng)可以在自動(dòng)導(dǎo)航,、陸續(xù)規(guī)劃等需要高效執(zhí)行的AI任務(wù)中帶來(lái)高于GPU的功耗和處理能力,。
除此之外,業(yè)界比較出名的類腦芯片還有高通的Zeroth,,以及一些高校實(shí)驗(yàn)室和創(chuàng)業(yè)公司發(fā)明的芯片,。吃瓜群眾一致表示,這個(gè)場(chǎng)子現(xiàn)在就缺谷歌了,。
事實(shí)上,,某種程度上看2019年是類腦芯片爆發(fā)應(yīng)用潛力的一年。無(wú)論是中國(guó)的天機(jī),,還是英特爾和IBM的類腦芯片,,都已經(jīng)在今天被證明了在低功耗和超高速反應(yīng)上,具有值得期待的效果,。這可能給AI領(lǐng)域的一些相關(guān)任務(wù),,比如非監(jiān)督學(xué)習(xí)、快速定位,、路徑規(guī)劃上帶來(lái)幫助,。
但是客觀來(lái)說(shuō),類腦芯片并不是完全成熟的,。雖然主流科技公司紛紛布局,,中國(guó)浙大的“達(dá)爾文”芯片、清華的“天機(jī)”芯片都已經(jīng)在路上,。但類腦芯片距離真正確立產(chǎn)業(yè)價(jià)值,,從實(shí)驗(yàn)室步入現(xiàn)實(shí)世界,,還有很長(zhǎng)的路要走。
已知的,,未知的:類腦芯片的今天
類腦芯片到底是什么,?是人類的朗基努斯槍,還是唐·吉歌德面向風(fēng)車的宣言,?或許我們真的沒有必要在今天就給出答案,。計(jì)算史上從來(lái)不是每一次嘗試都必須成功,同時(shí)很多失敗也具有偉大的價(jià)值,。
綜合來(lái)看,,今天類腦芯片的發(fā)展至今,已經(jīng)可以明確它的幾大優(yōu)勢(shì)和特性,,也就是類腦芯片的光明面:
1,、像人腦一樣的存算一體,打破了存儲(chǔ)計(jì)算分離的架構(gòu),,這是類腦計(jì)算的核心突破,。
2、功耗極低,,并且不會(huì)因計(jì)算任務(wù)的架構(gòu)復(fù)雜化而功耗激增,。這終于讓計(jì)算耗電和散熱兩大難題找到了新的方向。
3,、可能更適合SNN代表的類神經(jīng)元計(jì)算架構(gòu),,在未來(lái)AI發(fā)展之路上想想無(wú)限。并且具備架構(gòu)靈活,,陣列化計(jì)算效率不衰減等等優(yōu)點(diǎn),。
當(dāng)然,最根本的優(yōu)勢(shì)在于,,類腦計(jì)算可以繞開比特編程和摩爾定律。在算力極限面前,,是跟量子計(jì)算一樣都是人類的主要救生船,。
但是光明面的背后當(dāng)然就是陰影,也要確實(shí)看到的是,,類腦芯片在今天還有極大的不確定性,,尤其是有一些基礎(chǔ)問(wèn)題無(wú)從解答。
比如類腦芯片的任務(wù)性處理能力差,、算力水平過(guò)低,。第一代TrueNorth甚至無(wú)法處理任何有價(jià)值的任務(wù)。雖然經(jīng)過(guò)幾年的發(fā)展,,類腦計(jì)算可以處理的任務(wù)越來(lái)越多,,但是要看到這些任務(wù)都有嚴(yán)苛的先決條件,。對(duì)于絕大部分計(jì)算目標(biāo)來(lái)說(shuō),類腦芯片都表示帶不動(dòng),。
另一方面,,用電子電路模擬人造突觸,是極其不劃算的一件事,。它要花費(fèi)極高的工藝與技術(shù)成本,,來(lái)實(shí)現(xiàn)效率并不高的神經(jīng)元模擬。所以面向未來(lái),,更多人認(rèn)為一定要找到可以代替經(jīng)晶體管的,,屬于類腦計(jì)算的新材料——但是這個(gè)材料是什么,如何才能做到像硅晶片一樣便宜,,今天都是未知數(shù),。
另一方面,適配類腦計(jì)算的架構(gòu),、算法,、編程方案等等也處在廣泛的空白期??傮w來(lái)看,,類腦芯片今天就像一片新的開發(fā)區(qū),附近有機(jī)場(chǎng),,有鐵路,,但其他東西都還停留在開發(fā)方案上。
尤其在我們身邊,,還要特別警惕一件事,,那就是類腦芯片虛假繁榮帶來(lái)的危險(xiǎn)。AI火了之后,,更未來(lái)更AI的技術(shù)成為投融資與政府扶持熱點(diǎn),,是一件很自然的事。但類腦計(jì)算和類腦芯片,,事實(shí)上還有非常遠(yuǎn)的路要走,。今天在產(chǎn)業(yè)中討論它,很多時(shí)候都是漫無(wú)邊際的非理性暢想,。
筆者曾經(jīng)參加過(guò)一些地方產(chǎn)業(yè)組織牽頭舉辦的類腦芯片活動(dòng),,現(xiàn)場(chǎng)討論莫衷一是,產(chǎn)學(xué)各界代表完全沒有在統(tǒng)一的技術(shù)邏輯上展開對(duì)話,。亂拳打死老師傅模式的盲目發(fā)展類腦,,很可能最終留下“遇事不決,量子力學(xué)”般的一攤漿糊,。
回到類腦芯片的真實(shí)發(fā)展路徑,,今天的類腦芯片,,本質(zhì)上還處在有太多不確定性的實(shí)驗(yàn)室探索階段。它的進(jìn)步在真實(shí)發(fā)生,,中國(guó)也確實(shí)站在非常具有想象力的起跑線上,,但想讓類腦芯片為世界貢獻(xiàn)些什么,我們可能還要拿出更多,,更多的,,以及更多的耐心。
不知道大家看過(guò)電影《富春山居圖》沒有,?那是一部劃時(shí)代的爛片,,但它主題曲的幾句歌詞,非常適合放在這里作為結(jié)尾:
“反正你的親吻無(wú)憑無(wú)證
就隨天機(jī)而死天意而生
只要答案,,不要問(wèn)”
作者:腦極體