文獻(xiàn)標(biāo)識(shí)碼: A
DOI: 10.19358/j.issn.2096-5133.2022.01.010
引用格式: 楊繼增,,關(guān)勝曉. 面向CNN的類激活映射算法研究[J].信息技術(shù)與網(wǎng)絡(luò)安全,2022,,41(1):63-68.
0 引言
近年來(lái),,以CNN為代表的深度學(xué)習(xí)在計(jì)算機(jī)視覺(jué)領(lǐng)域取得了突出的成果。使用端到端模型訓(xùn)練分類器的CNN可以很好地完成大量的圖像處理任務(wù),。然而,,端到端模型的黑盒屬性使CNN能夠直接基于輸入給出結(jié)果。早期的人工智能系統(tǒng)的內(nèi)部機(jī)制主要是邏輯和符號(hào),,CNN的解釋方法被提出后,,可視化成為最直接的策略。換句話說(shuō),,可視化網(wǎng)絡(luò)預(yù)測(cè)結(jié)果與輸入圖片的一些關(guān)聯(lián)區(qū)域,,如輸入特征的重要性或?qū)W習(xí)的權(quán)重,已經(jīng)成為最直接的方法,?;谔荻萚1]、基于擾動(dòng)[2],、基于CAM[3]是三種被廣泛采用的方法,。
基于梯度的方法通常獲取含有大量噪聲的低質(zhì)量的解釋圖。其步驟如下:首先,通過(guò)網(wǎng)絡(luò)的反向傳播得到輸入空間的梯度圖,;其次,,對(duì)梯度圖進(jìn)行處理得到表示輸入圖片對(duì)特定類輸出結(jié)果貢獻(xiàn)程度的熱力圖?;跀_動(dòng)的方法[2,,4]通常用擾動(dòng)噪聲改變?cè)驾斎雭?lái)觀察模型預(yù)測(cè)得分的變化。然而,,此方法需要花費(fèi)大量時(shí)間來(lái)迭代查詢模型預(yù)測(cè)結(jié)果,。
本文詳細(xì)內(nèi)容請(qǐng)下載:http://wldgj.com/resource/share/2000003938
作者信息:
楊繼增,關(guān)勝曉
(中國(guó)科學(xué)技術(shù)大學(xué) 信息科學(xué)技術(shù)學(xué)院,,安徽 合肥230026)