Matlab版本:Matlab 2014a
1 问题描述
bp网络设置如下
net = newff(all_tra, all_bar, 9, {'tansig','purelin'}, 'trainbfg'); net = init(net); net.trainParam.goal=0.0001; %设置相应的参数 net.trainParam.show=50; net.trainParam.mc=0.9; net.trainParam.lr=0.5; net.trainParam.epochs=5000;
对上述bp神经网络进行训练的时候,训练结果还没有达到目标的精度,就由于validation checks的值达到了6而停止了进一步的训练,如下图:
2 原因
根据参考资料[2]的解析,神经网络的样本若输入网络,默认情况下会将样本随即分为3类:训练样本,确认样本和测试样本。
确认检查值默认是6,它的意思是指随着网络利用训练样本进行训练的过程中,确认样本的误差曲线连续6次迭代不在下降。这时训练终止(这只是训练终止条件之一,满足任一终止条件,训练过程都将终止)。
深层含义你可以这样理解,如果随着网络的训练,确认样本的误差已经基本不在减小,甚至增大,那么就没有必要再去训练网络了,因为继续训练下去的话,在利用测试样本进行测试网络的话,测试样本的误差将同样不会有所改善,甚至会出现过度拟合的现象。
3 解决方法
根据《matlab人工神经网络参数》的提示,可以通过下面的设置来改变Validation Checks的值
net.trainParam.max_fail=100; % 最小确认失败次数
参考资料
[1]请教:Matlab 7.8 BP网络训练时validation checks 6 退出训练问题
[2]求助:有人懂validation check吗