神经网络:测试集的loss不降,杂乱无章解决方法

训练集的loss有下降,但测试集的loss杂乱无章。

试了很多种方法,包括调整参数batch_size,learning_rate,dropout随机失活层的比率,loss都没有任何改善。

!!!调整数据的排序。在抽取训练数据和测试数据时,要先将数据和标签对应打乱,再对其进行抽取,此时测试集的loss有下降。

下方附图为没有打乱数据,按比例直接抽取数据进行训练得到loss:

神经网络:测试集的loss不降,杂乱无章解决方法_第1张图片神经网络:测试集的loss不降,杂乱无章解决方法_第2张图片

下方附图为打乱数据后再按比例抽取数据得到loss:

神经网络:测试集的loss不降,杂乱无章解决方法_第3张图片神经网络:测试集的loss不降,杂乱无章解决方法_第4张图片

 虽然效果不很好,但test的loss是下降的,后续继续找问题调程序!

你可能感兴趣的:(神经网络,深度学习)