深度学习中的几个基本参数概念

深度学习中的几个基本参数概念

1.epoch

在训练一个模型时所用到的全部数据；
（ps:一般在训练时都要使用多于一个的epoch，因为在神经网络中传递完整的数据集仅仅一次是不够的，只有将完整的数据集在同样的神经网络中传递多次，才会得到比较优秀的训练效果，当然过多也不行，容易过拟合，所以要根据实验自己选择最合适的。

2.batch

Keras中参数更新是按批进行的，就是小批梯度下降算法。如果准备跑模型的数据量太大，此时自己的电脑可能承受不住，所以可以适当的将数据分成几块，就是分成几个batch。

3.batch size

一个batch中的数据量大小即为batch size，一般为2ⁿ，比如32，64，128等等。

4.iterations

迭代，即batch size需要完成一个epoch的次数。
(ps:其实对于一个epoch来说，batch和iterations数值上是相等的）

比如现在我们有一个2000大小的训练样本，然后我们将这2000个样本分成了4个大小为500的小数据集样本，此时epoch=1（暂且就用这个样本训练1次），batch=4,batch size=500,iterations=4