epoch和iteration的区别

参考：https://blog.csdn.net/u011582757/article/details/71307748
深度学习中经常看到epoch、 iteration和batchsize，下面按自己的理解说说这三个的区别：

（1）batchsize：批大小。在深度学习中，一般采用SGD训练，即每次训练在训练集中取batchsize个样本训练；
（2）iteration：1个iteration等于使用batchsize个样本训练一次；一个迭代 = 一个正向通过+一个反向通过
（3）epoch：1个epoch等于使用训练集中的全部样本训练一次；一个epoch = 所有训练样本的一个正向传递和一个反向传递

举个例子，训练集有1000个样本，batchsize=10，那么：
训练完整个样本集需要：

100次iteration，1次epoch。

但是也有人说在有些文章中epoch和iteration是一个概念。

还有就是随机取batchsize，那么并不能保证所有的样本都被抽到，那么epoch的概念不明确。