Matlab——nntool_validation check

2017-01-17 by:CAE仿真在線來源:互聯(lián)網(wǎng)

問:求助:有人懂validationcheck嗎?

我在訓(xùn)練BP網(wǎng)絡(luò)時,nntraintool的界面上提示說validationstop.而且它的validationcheck自動顯示的是6,而訓(xùn)練目標(biāo)沒有達(dá)到,訓(xùn)練就結(jié)束了。

答:validationcheck
翻譯過來:確認(rèn)檢查
內(nèi)涵:神經(jīng)網(wǎng)絡(luò)的樣本若輸入網(wǎng)絡(luò),默認(rèn)情況下會將樣本隨即分為3類:訓(xùn)練樣本,確認(rèn)樣本和測試樣本。確認(rèn)檢查值默認(rèn)是6,它的意思是指隨著網(wǎng)絡(luò)利用訓(xùn)練樣本進(jìn)行訓(xùn)練的過程中,確認(rèn)樣本的誤差曲線連續(xù)6次迭代不在下降。這時訓(xùn)練終止(這只是訓(xùn)練終止條件之一,滿足任一終止條件,訓(xùn)練過程都將終止)深層含義你可以這樣理解,如果隨著網(wǎng)絡(luò)的訓(xùn)練,確認(rèn)樣本的誤差已經(jīng)基本不在減小,甚至增大,那么就沒有必要再去訓(xùn)練網(wǎng)絡(luò)了,因為繼續(xù)訓(xùn)練下去的話,在利用測試樣本進(jìn)行測試網(wǎng)絡(luò)的話,測試樣本的誤差將同樣不會有所改善,甚至?xí)霈F(xiàn)過度擬合的現(xiàn)象。validationchecks已經(jīng)達(dá)到設(shè)置的值了,所以停止訓(xùn)練了,如果網(wǎng)絡(luò)在連續(xù)max_failepochs后不能提高網(wǎng)絡(luò)性能,就停止訓(xùn)練。

有三種方法解決這個問題;

1提高validationchecks的數(shù)值,比如設(shè)置net.trainParam.max_fail=200;其實這等于自己糊弄自己嚴(yán)重不推薦,出現(xiàn)停止訓(xùn)練,就是因為被訓(xùn)練的網(wǎng)絡(luò)已經(jīng)過擬合,停下來是應(yīng)該的。但6的確有點小,建議改成10到20之間的數(shù)
2修改被訓(xùn)練的網(wǎng)絡(luò),比如說再加一個隱藏層試試
3如果是數(shù)據(jù)太相近的問題,試試選擇用divideind
還可以加入如下參數(shù),取消validationcheck功能
net.divideFcn=''
但是這個方法對于網(wǎng)絡(luò)的訓(xùn)練精度提高和輸出的逼近程度沒有顯著改善,但是取消這個功能之后,gradient又首先達(dá)到指定的目標(biāo),我的神經(jīng)網(wǎng)絡(luò)是不是陷入局部最優(yōu)了。