深度学习中epoch、batch_size、steps的含义

举例:1000张图片,每次训练10张

epoch:这1000张图片全部训练完成一次即为一个epoch;
batch_size:每次训练10张图片,即 batch_size = 10;
steps:steps = 1000/10(整除则结果为steps,未能整除则结果 + 1为steps),表示更新多少次梯度。
注:这里每隔10张图片就更新一次梯度,也就是将一个batch中的图片一张张送入模型,累加loss求平均,之后进行反向传播(loss.backward()),同时进行参数更新(Iteration)。

你可能感兴趣的:(NLP,深度学习,batch,python)