【无标题】

关于深度学习中的batch、epoch、step理解

在train文件中
epoch就是训练轮次,完成全部图片训练为1一个epoch
batch_size就是批次,即一次训练的图像数量,增大batch_size能够占用CPU或者GPU更多资源
step指的是步,一步指完成一个批次训练

对于CIFAR10数据集,训练集有50000张图片
则训练完一次50000张图片就是1个epoch,一般模型需要多轮训练,例如即将epoch设置为200,则完成训练需要将50000张图片遍历200轮
若batch_size为36,则网络一次训练36张图片,训练完成后,得到Loss,并更新模型权重
那么,完成一个epoch的训练需要50000/36=1388.8888,则step为1389。
该网络每隔36次就更新一次梯度,也就是将一个batch_size中的图片一张张送入模型,累加loss求平均,到了第十张图片的时候就开始反向传播

你可能感兴趣的:(python)