在經(jīng)歷了前幾年的高歌猛進(jìn)之后,,許多人工智能相關(guān)技術(shù)在 2019 年開始放慢腳步,。基于數(shù)據(jù)分析的結(jié)果,,機(jī)器之心總結(jié)出了近 5 年來累計趨勢指數(shù)總排名前十的 AI 技術(shù)(圖一),,2018、2019 年兩年里各自趨勢指數(shù)增長最快的 AI 技術(shù)(圖二,、圖三),,以及 2017~2019 三年間綜合對比增幅最大的 AI 技術(shù)(圖四)
圖一:趨勢指數(shù)(SI)Top10 技術(shù)為語音識別、卷積神經(jīng)網(wǎng)絡(luò),、云計算,、GPU、深度學(xué)習(xí),、推薦系統(tǒng),、機(jī)器翻譯、定位,、大規(guī)模預(yù)訓(xùn)練模型,。
圖二:2018 年趨勢指數(shù)(SI)增長最迅速的技術(shù) Top 5技術(shù)為區(qū)塊鏈、聯(lián)邦學(xué)習(xí),、多任務(wù)學(xué)習(xí),、圖神經(jīng)網(wǎng)絡(luò)。
圖三:2019 年趨勢指數(shù)(SI)增長最迅速的技術(shù) Top 5 技術(shù)為擴(kuò)展現(xiàn)實(shí),、工業(yè)物聯(lián)網(wǎng),、人體關(guān)鍵點(diǎn)檢測、三維推理,、移動機(jī)器人,;
圖四:2017~2019 年趨勢指數(shù)(SI)增長最迅速的技術(shù) Top 5 技術(shù)為語音識別、文本分類,、數(shù)據(jù)挖掘、物體識別,、 GPU 技術(shù),。
綜合參考文獻(xiàn)、報告以及專家意見的定性分析,,輔以大量數(shù)據(jù)的定量分析,,以下分享五個相關(guān)的研究趨勢發(fā)現(xiàn)。
趨勢一:強(qiáng)化學(xué)習(xí)和無監(jiān)督學(xué)習(xí)是未來 AI 技術(shù)突破的主要著力點(diǎn)
在最新的 NeurIPS 2020 上,,強(qiáng)化學(xué)習(xí)領(lǐng)域(Reinforcement Learning)以及其目前的主要應(yīng)用領(lǐng)域 「游戲博弈(Game)」 是除機(jī)器學(xué)習(xí),、神經(jīng)網(wǎng)絡(luò)外討論度最高的技術(shù)主題。
圖 1-3-1-3 NeurIPS 論文相關(guān)技術(shù)主題
圖 1-3-3-2 NeurIPS 2020 收錄論文機(jī)器學(xué)習(xí)子領(lǐng)域主題分布
對比無監(jiān)督學(xué)習(xí)以及與之相關(guān)的半監(jiān)督學(xué)習(xí),其相關(guān)專利數(shù)量在近年有所下滑,,但研究論文整體呈現(xiàn)快速增長趨勢,。
圖 7-3-6 無監(jiān)督學(xué)習(xí) vs. 半監(jiān)督學(xué)習(xí)論文數(shù)量走勢
圖 7-3-6 無監(jiān)督學(xué)習(xí) vs. 半監(jiān)督學(xué)習(xí)專利數(shù)量走勢
圖 7-4-1-5 無監(jiān)督學(xué)習(xí)對比半監(jiān)督學(xué)習(xí)(整體資訊)
在機(jī)器學(xué)習(xí)領(lǐng)域的近年累計趨勢指數(shù)排行中,無監(jiān)督學(xué)習(xí)與半監(jiān)督學(xué)習(xí)分列二,、三位,。
圖 7-5-1 機(jī)器學(xué)習(xí) Synced Indicator(累加)
在語言和視覺技術(shù)這兩個人工智能感知層應(yīng)用落地最成熟的技術(shù)領(lǐng)域,無監(jiān)督學(xué)習(xí)都是被提及頻率最高的技術(shù)發(fā)展趨勢,。2018 年的圖靈獎的共同獲得者 Geoffrey Hinton,、Yann LeCun 以及 Yoshua Bengio 近年的研究重點(diǎn)也均是無監(jiān)督學(xué)習(xí)相關(guān)的。而強(qiáng)化學(xué)習(xí)近年來雖在研究上一直有新的突破,,但應(yīng)用上多局限于游戲,、自動駕駛等模擬環(huán)境,整體呈現(xiàn)出理論超前于應(yīng)用的狀態(tài),,未來會在具體應(yīng)用上有更多實(shí)踐乃至突破,。
趨勢二:圖神經(jīng)網(wǎng)絡(luò)、圖深度學(xué)習(xí),、大規(guī)模圖計算平臺將有很大發(fā)展空間
近年來,,受社交網(wǎng)絡(luò)、知識圖譜以及神經(jīng)科學(xué)中圖形的重要性所驅(qū)動,,將深度學(xué)習(xí)模型應(yīng)用在不規(guī)則圖結(jié)構(gòu)的數(shù)據(jù)上逐漸成為了一種新興趨勢,。這些基于圖的神經(jīng)網(wǎng)絡(luò)目前已經(jīng)在分類、嵌入,、問答等多種不同的目標(biāo) 應(yīng)用中取得最佳表現(xiàn)效果,。
對比機(jī)器學(xué)習(xí)領(lǐng)域下的主流神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),雖然圖神經(jīng)網(wǎng)絡(luò)在目前的研究占比并不是很重,,但可以看到在 2018 年后有一個較為陡峭的上升趨勢,,是近年來較值得關(guān)注的新領(lǐng)域。
圖 7-3-5 機(jī)器學(xué)習(xí)七大架構(gòu)論文數(shù)量走勢(未包含 CNN)
與此同時,,圖神經(jīng)網(wǎng)絡(luò)從 2017 年起,,技術(shù)到應(yīng)用的轉(zhuǎn)化率呈加速發(fā)展階段,在 2019 年機(jī)器學(xué)習(xí)領(lǐng)域整體專利數(shù)據(jù)源較少的情況下反而逆勢上漲,。
圖 7-3-5 機(jī)器學(xué)習(xí)七大架構(gòu)專利數(shù)量走勢(未包含 CNN)
相比傳統(tǒng)的文本,、語音、圖像數(shù)據(jù)格式,,圖結(jié)構(gòu)將端到端學(xué)習(xí)與歸納推理相結(jié)合,,是一種泛用性更強(qiáng)且更能代表現(xiàn)實(shí)世界真實(shí)情況的數(shù)據(jù)表示方式,有望解決深度學(xué)習(xí)無法處理的因果推理,、可解釋性等一系列瓶頸問題
趨勢三:深度學(xué)習(xí)的可解釋性與 AI 安全問題越發(fā)受重視
黑盒問題是自深度學(xué)習(xí)誕生起便一直伴隨其中的主要問題與瓶頸之一,,盡管深度學(xué)習(xí)技術(shù)的發(fā)展日新月異,,在準(zhǔn)確率等技 術(shù)指標(biāo)上取得了驚人的成就,但是對于模型的可解釋性方面提升仍然不大,。這極大地影響了相關(guān)技術(shù)在一些對模型結(jié)果的可信度和可解釋性有著高要求行業(yè)的應(yīng)用(比如金融和醫(yī)學(xué)行業(yè)),。與此同時,伴隨著 AI 技術(shù)的不斷發(fā)展,,用戶對于技術(shù)的關(guān)注度越來越高,,其所帶來的各項(xiàng)問題也隨之越來越受到大眾關(guān)注。
研究方面,,AI 安全相關(guān)的論文近年從萌芽開始穩(wěn)步增長,,專利方面,在逐年增長的基礎(chǔ)上 2018 年~ 2019 年里還有一次較大增速的提升,。
圖 10-3-2 強(qiáng)人工智能相關(guān)技術(shù)走勢(左:論文數(shù)量,,右:專利數(shù)量)
新聞方面,2018 年之前 AI 安全的新聞討論度接近于 0,,但出現(xiàn)后是領(lǐng)域內(nèi)增速最快的技術(shù)分類,。
圖 10-4-1-2 強(qiáng)人工智能相關(guān)技術(shù)新聞走勢
趨勢四:移動和物聯(lián)網(wǎng)設(shè)備開始承擔(dān)更多的智能計算任務(wù)
隨著移動智能手機(jī)和物聯(lián)網(wǎng)設(shè)備的計算能力越來越強(qiáng),移動網(wǎng)絡(luò) 5G 等配套基礎(chǔ)設(shè)施的逐步成熟,,移動物聯(lián)網(wǎng)設(shè)備開始承擔(dān)越來越多機(jī)器學(xué)習(xí)相關(guān)的訓(xùn)練和推理計算,。
從相關(guān)領(lǐng)域的論文發(fā)表數(shù)量來看,分布式計算是目前的主要技術(shù),,然而其近年的相關(guān)論文發(fā)表數(shù)量卻有下降趨勢,。而與之相關(guān)的邊緣計算和近年興起的無服務(wù)器計算則增速明顯。
圖 8-3-3 云計算論文數(shù)量分布
圖 8-3-3 論文走勢
圖 8-3-3 云計算專利數(shù)量走勢
一方面,,云計算發(fā)展依舊迅猛,,并逐漸向邊緣計算發(fā)展,助力物聯(lián)網(wǎng)智能化,; 另一方面,,AI 芯片也逐漸走向云端、邊緣端以及物聯(lián)網(wǎng)設(shè)備終端,,有實(shí)力的科技公司將 AI 算力打包成服務(wù),,既合理利用了自身多余的算力資 源,又降低了不具備相關(guān)科研實(shí)力的中小企業(yè)可以以更低的成本使用到足夠的資源,,完成自身的 AI 開發(fā)與部署需求,,這與 近年來媒體討論度頗高的無服務(wù)計算有著一致的思想理念。
趨勢五:自動駕駛與機(jī)器人技術(shù)任重而道遠(yuǎn)
從我們基于媒體資訊挖掘的整體數(shù)據(jù)可以看出,,自動駕駛技術(shù)雖然整體上仍然處于上升趨勢,但是其最近 3 年的總體熱度相對其他 AI 技術(shù)而言卻是逐年下降的,。無論是技術(shù)上還是社會影響上,,無人駕駛領(lǐng)域的泡沫開始逐漸散去,,其研發(fā)開始轉(zhuǎn)入了一個相對沉靜的緩慢發(fā)展期。
機(jī)器人技術(shù)方面,,無人機(jī)是該技術(shù)領(lǐng)域近年來較為成熟的一大應(yīng)用,,其近年的相關(guān)論文數(shù)量占據(jù)了該領(lǐng)域的六成以上,并保持了一個較高的增長趨勢,。智能機(jī)器人,、服務(wù)機(jī)器人在專利方面總體都呈現(xiàn)上漲趨勢,可以看到整個行業(yè)正在從完全側(cè)重關(guān)注工業(yè)機(jī)器人向更貼近大眾生活的服務(wù)型機(jī)器人方向轉(zhuǎn)化,。
圖 6-3-4 移動機(jī)器人論文數(shù)量走勢(左)與專利數(shù)量走勢(右)
圖 6-3-5 人機(jī)交互,、機(jī)器人流程自動化數(shù)量走勢(上)與專利數(shù)量走勢(下)