神经网络中:Epoch, Batch, Iteration

神经网络中:Epoch, Batch, Iteration

神经网络中:Epoch, Batch, Iteration_第1张图片

Epoch,epoch可译为“轮次”。当一个完整的数据集通过了神经网络一次并且返回了一次,这个过程称为一次epoch。每一轮更新中网络更新的次数可以随意,但通常会设置为遍历一遍数据集。因此一个epoch的含义是模型完整的看了一遍数据集。 设置epoch的主要作用是把模型的训练的整个训练过程分为若干个段,这样我们可以更好的观察和调整模型的训练。
Batch:中文为批,将整个训练样本分成若干个Batch。一个batch由若干条数据构成。batch是进行网络优化的基本单位,网络参数的每一轮优化需要使用一个batch。batch中的样本是被并行处理的。与单个样本相比,一个batch的数据能更好的模拟数据集的分布,batch越大则对输入数据分布模拟的越好,反应在网络训练上,则体现为能让网络训练的方向“更加正确”。但另一方面,一个batch也只能让网络的参数更新一次,因此网络参数的迭代会较慢。在测试网络的时候,应该在条件的允许的范围内尽量使用更大的batch,这样计算效率会更高。
Iteration
Iteration是batch需要完成一个epoch的次数。

参考https://www.cnblogs.com/tangbaofang/p/8416135.html
参考链接:https://blog.csdn.net/qq_39521554/article/details/84480429

你可能感兴趣的:(帮助,batch,神经网络,开发语言)