loss与val_loss的关系 acc 与val_acc的关系

loss、acc ,val_loss、val_acc

分别表示训练集的准确度和损失值、以及验证集的准确度和损失值,注意是验证集的而不是测试集的。下面小小的总结一下具体的联系

首先我们要理解验证集的作用,它与测试集有什么不同。只有理解了这些基础,这些数据才真正的对我们来说有用。

首先要明白验证集的最大作用是方便我们了解模型效率、调试超参数,测试集是可以没有的,但验证集是必须有的,如果验证集具有足够的泛化代表性,是可以不需要设置测试集的;注意测试集的存在只是为了验证我们在训练集和验证集上进行模型的超参和参数训练后,验证我们得到的模型是否具有泛化性能。

训练集loss 验证集loss 含义 解决方向
不断下降 不断下降 模型网络任然在学习 增加epoch
不断下降 趋于水平 模型网络过拟合 maxpool、正则化
趋于水平 不断下降 数据集出现问题 检查数据集以及其处理
趋于水平 趋于水平 无法继续优化 减小学习率等
不断上升 不断上升 模型、超参数、数据集的出现问题处理 这是最坏的情况,往往出现方向性错误

你可能感兴趣的:(参数,深度学习,tensorflow,机器学习)