《BP算法的基本原理(共4頁(yè)).doc》由會(huì)員分享，可在線閱讀，更多相關(guān)《BP算法的基本原理(共4頁(yè)).doc（4頁(yè)珍藏版）》請(qǐng)?jiān)趨R文網(wǎng)上搜索。

1、精選優(yōu)質(zhì)文檔-傾情為你奉上BP算法的基本原理典型的BP網(wǎng)絡(luò)分為三層（圖4.4），即輸入層、隱含層和輸出層。其算法主要由以下四部分組成，即模式順傳播誤差逆?zhèn)鞑ビ洃浻?xùn)練學(xué)習(xí)收斂。1 模式順傳播設(shè) 樣本輸入向量，輸出向量中間單元的輸入向量，輸出向量輸出層的輸入向量，輸出向量12p1qana1a2c1cqy1yqnpqw11w12v11v12SpBpLqCq其中，為樣本數(shù)。輸入層到中間層的權(quán)，中間層到輸出層的權(quán)，中間層閾值， 輸出層閾值，中間層輸入：，輸出：，輸出層輸入：，輸出：，2 誤差的逆?zhèn)鞑ジ鶕?jù)輸出層產(chǎn)生的誤差，經(jīng)中間層向輸入層傳播，在這個(gè)過(guò)程中，按照梯度下降原則對(duì)各層的權(quán)值和閾值進(jìn)行誤差校正。

2、（1） 輸出層計(jì)算：權(quán)值調(diào)整量計(jì)算：第k模式(樣本)下，網(wǎng)絡(luò)的輸出誤差的均方值為，因?yàn)?，所以，上式即為?quán)值變化對(duì)均方值誤差的影響程度，按梯度下降原則應(yīng)使權(quán)值調(diào)整量與的負(fù)值成比例變化，即其中，。閾值調(diào)整量計(jì)算：因?yàn)?，所以，按照梯度下降原則，可得到輸出層各單元的閾值調(diào)整量為：（2） 中間層到輸入層計(jì)算：權(quán)值調(diào)整量計(jì)算：按照梯度下降原則，可得到連接權(quán)值的調(diào)整量為：閾值調(diào)整量計(jì)算：按照梯度下降原則，可得到輸出層各單元的閾值調(diào)整量為：以上的推導(dǎo)是標(biāo)準(zhǔn)誤差逆?zhèn)鞑ニ惴?，即各連接權(quán)的調(diào)整量是分別與各個(gè)學(xué)習(xí)模式對(duì)的誤差Ek成比例變化的。而相對(duì)于全局誤差的連接權(quán)調(diào)整，是在所有m個(gè)學(xué)習(xí)模式全部提供給網(wǎng)絡(luò)后統(tǒng)一進(jìn)行的

3、，這種算法是累積誤差逆?zhèn)鞑ニ惴?。一般?lái)講，當(dāng)樣本較少時(shí)，累積誤差傳遞算法要比標(biāo)準(zhǔn)誤差傳遞算法速度快一點(diǎn)。3 記憶訓(xùn)練給出一組樣板反復(fù)進(jìn)行學(xué)習(xí)，調(diào)整權(quán)值和閾值的大小以使輸出值滿足一定的精度要求。4 學(xué)習(xí)收斂經(jīng)過(guò)多次訓(xùn)練以后，網(wǎng)絡(luò)的全局誤差趨向于最小值。由于BP算法采用了按誤差函數(shù)梯度下降的方向進(jìn)行收斂，因此，可能使迭代陷入局部極小點(diǎn)，BP網(wǎng)絡(luò)收斂依賴于樣本的初始位置，適當(dāng)改變隱層單元個(gè)數(shù)，或給每個(gè)權(quán)值加上一個(gè)很小的隨機(jī)數(shù)，都可使收斂過(guò)程避免局部極小點(diǎn)。二 BP網(wǎng)絡(luò)的解析步驟標(biāo)準(zhǔn)誤差逆?zhèn)鞑ニ惴ò凑找韵虏襟E進(jìn)行計(jì)算：（1） 初始化給權(quán)值、和閾值、賦予(-1, 1)之間的隨機(jī)值。（2） 隨機(jī)取一對(duì)樣本對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練（3） 計(jì)算中間層的輸入/出輸入：，輸出：（4） 計(jì)算輸出層的輸入/出輸入：，輸出：（5） 計(jì)算輸出層的一般誤差（6） 計(jì)算中間層的一般誤差（7） 修改輸出層的權(quán)值和閾值（8） 修正隱層的權(quán)值和閾值（9） 取下一對(duì)樣本返回（3）開(kāi)始訓(xùn)練，直到m個(gè)樣本訓(xùn)練結(jié)束（10） 判斷全局誤差是否小于預(yù)定值，否則，回到（2）重新進(jìn)行訓(xùn)練，直到滿足要求或達(dá)到預(yù)定訓(xùn)練次數(shù)，停止訓(xùn)練。專心-專注-專業(yè)