使用tensorflow训练tfrecord文件的时候，loss开始下降后来上升的原因

以下内容是本人在训练时候所遇到，并且解决的，如果还有没有涉及到的，希望可以交流：
1.刚开始下降，后来上升，可能是数据集的问题，假如数据集训练集的总大小是5000张图片，如果你写为6000或者只要不是5000张的，都可能会出现开始下降后来上升的问题。如果解决该问题的方法是，修改数据集的总大小等于你训练数据集的总大小。
2 可能是模型的问题：如何判断是模型的问题，首先你使用未修改(此处指的是比如resnet未添加任何的attention或者是其他的模块)的模型进行训练，如果没有出现loss刚开始下降后来上升，但是你添加attention模块之后出现loss先下降后上升，此时可以说明时在添加模型的过程中，可能造成了梯度下降，此时，你应该对你的模型进行重新调整并且改进。