《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 通信與網(wǎng)絡(luò) > 設(shè)計應(yīng)用 > 一種基于改進遺傳算法的徑向基小波神經(jīng)網(wǎng)絡(luò)
一種基于改進遺傳算法的徑向基小波神經(jīng)網(wǎng)絡(luò)
來源:微型機與應(yīng)用2012年第14期
彭 勇1,,陳俞強1,,嚴文杰2
(1.東莞職業(yè)技術(shù)學(xué)院 計算機工程系,,廣東 東莞523808,; 2.武漢理工大學(xué) 計算機科學(xué)與技術(shù)學(xué)
摘要: 為了提高神經(jīng)網(wǎng)絡(luò)進行函數(shù)擬合的精度,首先在三層徑向基神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上通過增加網(wǎng)絡(luò)層次和改變激勵函數(shù)提出了一種四層徑向基小波神經(jīng)網(wǎng)絡(luò),,并采用遺傳算法來確定初始網(wǎng)絡(luò)參數(shù),;其次針對遺傳算法中容易早熟的缺點,在遺傳算法中引入動態(tài)平衡策略,,根據(jù)適應(yīng)度的變化來動態(tài)改變遺傳算法中交叉和變異概率,,從而增加算法全局探索和局部開發(fā)的平衡能力;最后通過對函數(shù)擬合試驗并與其他方法相比較表明了算法的有效性,。
Abstract:
Key words :

摘  要: 為了提高神經(jīng)網(wǎng)絡(luò)進行函數(shù)擬合的精度,,首先在三層徑向基神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上通過增加網(wǎng)絡(luò)層次和改變激勵函數(shù)提出了一種四層徑向基小波神經(jīng)網(wǎng)絡(luò),并采用遺傳算法來確定初始網(wǎng)絡(luò)參數(shù),;其次針對遺傳算法中容易早熟的缺點,,在遺傳算法中引入動態(tài)平衡策略,根據(jù)適應(yīng)度的變化來動態(tài)改變遺傳算法中交叉和變異概率,,從而增加算法全局探索和局部開發(fā)的平衡能力,;最后通過對函數(shù)擬合試驗并與其他方法相比較表明了算法的有效性。
關(guān)鍵詞: 徑向基神經(jīng)網(wǎng)絡(luò),;小波神經(jīng)網(wǎng)絡(luò),;遺傳算法;動態(tài)平衡,;函數(shù)擬合


1.2 四層徑向基小波神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)模型
    (1)網(wǎng)絡(luò)輸入第p個樣本對第1層第i個神經(jīng)元的輸入為:
    

2 利用改進遺傳算法優(yōu)化四層徑向基小波神經(jīng)網(wǎng)絡(luò)
2.1 算法流程

    利用改進遺傳算法優(yōu)化四層徑向基小波神經(jīng)網(wǎng)絡(luò),算法流程如圖2所示,。

2.2 算法的改進
    遺傳算法是一種應(yīng)用很廣泛的進化算法,,同時其又存在很多難以解決的實際問題,包括早熟收斂和各個算子概率的選擇以及進化后期搜索效率低,。這些問題導(dǎo)致遺傳算法把握總體的能力較強,,但局部搜索能力較差,最終結(jié)果往往不是全局最優(yōu)解[5-6],。因此,,對遺傳算法的研究主要是避免早熟收斂和提高進化后期效率??偟膩砜锤倪M方法有改進遺傳操作,、調(diào)整遺傳參數(shù)和采用混合遺傳方法等幾種。
    交叉算子和變異算子決定了遺傳算法的收斂性,。交叉算子提供了全局搜索能力,,而變異算子則提供了局部搜索能力[7],。在種群進化初期,應(yīng)在種群內(nèi)大范圍地搜索,,進行全局進化從而避免早熟收斂,;到了進化后期,種群成熟度較高,,個體更加逼近最優(yōu)解,,種群應(yīng)該在局部范圍內(nèi)搜索,重點進化,,盡可能提高精度,。由此可知,交叉概率和變異概率的選擇很困難,,具有很大的盲目性,,要么根據(jù)遺傳算法理論中各參數(shù)的大致范圍來確定,或者根據(jù)開發(fā)者的經(jīng)驗來決定[8-9],。這樣的選擇方法經(jīng)常會導(dǎo)致算法陷入局部最優(yōu),,出現(xiàn)早熟現(xiàn)象。
    動態(tài)平衡策略是一種平衡全局探索能力和局部進化能力的方法,。在基于動態(tài)平衡策略的遺傳算法中,,首先以較大的交叉概率pc1和較小的變異概率pm1進行全局搜索,一旦發(fā)現(xiàn)一個較好的解,,則改變?yōu)橐暂^大的變異概率pm2和較小的交叉概率pc2進行局部搜索,,如果在搜索過程中最優(yōu)解得不到改善,則再以較大的交叉概率pc1和較小的變異概率pm1進行全局搜索,。
    全局搜索主要依靠交叉算子來產(chǎn)生新個體,。隨著種群的不斷進化,種群越來越成熟,,個體的相似性越來越高,,交叉操作很難產(chǎn)生新的個體,這將影響算法對新的解空間進行搜索,,從而導(dǎo)致種群喪失多樣性,,這時應(yīng)加強個體的變異。因此,,交叉概率應(yīng)隨著進化過程逐漸變小,,最后趨于某一穩(wěn)定值,防止算法不能收斂或收斂過程加長,;同時變異概率應(yīng)當越來越大,,以避免個體出現(xiàn)未成熟收斂[10-11]。
    根據(jù)上述策略,pc1和pm1將隨著進化代數(shù)動態(tài)改變:
    
式中,,i為進化代數(shù),,M為總進化代數(shù),pc1max,、pc1min分別為最大最小交叉概率,,pm1max、pm1min分別為最大最小變異概率,。
    根據(jù)適應(yīng)度的變化來改變交叉和變異概率,,也就是進行全局搜索和局部優(yōu)化的切換。假設(shè)以最大化適應(yīng)度為目標,,歷代最好適應(yīng)度為gbest,,當代最好適應(yīng)度為fbest,以兩者的比值g=fbest/gbest來改變交叉和變異概率,,如果g>k,,則進行局部優(yōu)化,優(yōu)化代數(shù)為num代,,交叉概率和變異概率分別取為pc1,、pm1;如果g<k,,且局部優(yōu)化num代未完成,,交叉概率和變異概率分別取為pc2、pm2,,否則按式(1)更新交叉和變異概率,。其中k∈[0,1]為系數(shù),。
3 算法有效性驗證
    為了驗證改進算法的性能,,本文選擇函數(shù)擬合進行仿真實驗,并將實驗結(jié)果與其他優(yōu)化方法的計算結(jié)果進行比較,。為了方便描述,,本文算法簡寫為IGWRN算法,選取參考文獻[11]中提出的經(jīng)遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)(簡稱為GABP算法)與參考文獻[12]中提出的三層徑向基小波神經(jīng)網(wǎng)絡(luò)算法(簡稱為WRBF算法)作比較,,假定函數(shù)為:
    
  

 

 

    從圖3和圖4可以看出,本文提出的IGWRN算法相對于GABP和WRBF算法在擬合精度上有了較大提高,。IGWRN算法運行過程中,,其迭代次數(shù)與GABP相比有所增加,主要原因是IGWRN算法在發(fā)現(xiàn)較好解之后要進行局部搜索,,由此降低了交叉概率,,從而使得種群中產(chǎn)生較好新個體的可能性變小,特別是在進化早期,對算法的影響更大,。
參考文獻
[1] 褚衍賀,,陳洪建,商艷蘭.RBF神經(jīng)網(wǎng)絡(luò)在變速箱齒輪故障診斷中的應(yīng)用[J].微型機與應(yīng)用,,2010,,29(17):94-97.
[2] 楊超,王志偉.經(jīng)GA優(yōu)化的WNN在交通流預(yù)測中的應(yīng)用[J].計算機工程,,2011,,37(14):149-151.
[3] BUHMANN M D.Radial basis functions on compact support[C].Proceedings of the Edinburgh Mathematical Society,1998:33-46.
[4] SHAHIDEHPOUR M,,YAMIN H,,Li Zuyi.Market operations in electric power systems[M].John Wiley&Sons,Inc.,,2002:69-76.
[5] 董福貴,,張世英,譚忠富,,等.基于遺傳算法的小波神經(jīng)網(wǎng)絡(luò)在電價預(yù)測中的應(yīng)用[J].計算機工程,,2005,31(4):32-33.
[6] SZU H,,CAULFIELD H J.Special section on wavelet  transforms[J].Opt Eng,,1992,31(9):1823-1916.
[7] 張圓圓,,景曉軍.基于快速遺傳算法的指紋匹配[J].計算機工程,,2011,37(24):13-15.
[8] 斯蕓蕓,,徐道連,,周卓然.基于遺傳算法和小波神經(jīng)網(wǎng)絡(luò)的語音識別研究[J].微型機與應(yīng)用,2011,,30(16):68-71.
[9] 任遠,,白廣忱.徑向基神經(jīng)網(wǎng)絡(luò)在近似建模中的應(yīng)用研究[J].計算機應(yīng)用,2009,,29(1):115-118.
[10] 雷霆,,余鎮(zhèn)危.一種網(wǎng)絡(luò)流量預(yù)測的小波神經(jīng)網(wǎng)絡(luò)模型[J].計算機應(yīng)用,2006,,26(3):526-528.
[11] 馮楠,,王振臣.基于遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的電池容量預(yù)測[J].電源技術(shù),2011,,35(12):1586-1588.
[12] 李偉.基于小波變換和徑向基神經(jīng)網(wǎng)絡(luò)的簽名識別[J].洛陽理工學(xué)院學(xué)報(自然科學(xué)版),,2011,21(1):65-68.

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載,。