调参狗好烦

写在前面:深度学习调参真是玄学。


测试集正确率很高但是训练集正确率不高说明过拟合。


过拟合有两种改进方法,一种是减小网络复杂度,一种是调整测试集。


测试集加噪幅度不够,测试集加噪数量不够,都有可能出问题,因此我要从这两个方向下手增加样本。


加噪可以选择高斯白噪声或var库,先测试白噪声,数量增加试一波,功率增加试一波。


但还是取得了一些进展,在调整了learning rate和迭代算法之后,可以在训练集上过拟合了(99%)之前一直怀疑程序有问题,现在看来是设置过于保守,收敛太慢。也可能是之前没加噪,总之我也说不清,都有可能吧。


等今晚网络迭代完看下结果。


先这样吧,睡个好觉。

你可能感兴趣的:(调参狗好烦)