【什么是epoch、batch、batchsize、iteration?什么是真实框、预测框和锚框】

文章目录

  • 一、epoch、batch、batchsize、iteration
    • 1、 BATCH_SIZE
    • 2、 BATCH
    • 3、 EPOCH
    • 4、ITERATION
    • 总结
  • 二、目标检测概念基础
    • 1、真实框、预测框和锚框


一、epoch、batch、batchsize、iteration

最重要的是batchsize的理解,所以放在前面

1、 BATCH_SIZE

  • BATCH_SIZE:即一次训练所抓取的数据样本数量(多张图像)
    • BATCH_SIZE的大小影响CPU或GPU是否满载运行、训练速度和模型优化,合适的batch_size可以使得梯度下降的方向更加准确。
若BATCH_SIZE=m(训练集样本数量) 相当于直接抓取整个数据集,训练时间长,但梯度准确。但不适用于大样本训练,只适用于小样本训练,但小样本训练一般会导致过拟合现象,因此不建议如此设置。
若BATCH_SIZE=1 梯度变化波动大,网络不容易收敛。batch_size=1时为在线学习,也是标准的SGD,数据量不大且noise数据存在时,模型容易被noise带偏。
若BATCH_SIZE设置合适 效率、速度、准确性。gpu满载效率提高;批次减小速度加快;梯度下降方向准确

此时再增加BATCH_SIZE大小,梯度也不会变得更准确。

  • batchsize总结:

1)batch数太小,而类别又比较多的时候,真的可能会导致loss函数震荡而不收敛,尤其是在你的网络比较复杂的时候。
2)随着batchsize增大,处理相同的数据量的速度越快。
3)随着batchsize增大,达到相同精度所需要的epoch数量越来越多。
4)由于上述两种因素的矛盾, Batch_Size 增大到某个时候,达到时间上的最优。
5)由于最终收敛精度会陷入不同的局部极值,因此 Batch_Size 增大到某些时候,达到最终收敛精度上的最优。
7)具体的batch size的选取和训练集的样本数目相关。在保证运算效率情况下,batch size由大到小依次尝试

2、 BATCH

一批数据(batchsize数量的图像)进行一次权重更新叫做一个batch
batch = 样本数 / batchsize

3、 EPOCH

  • EPOCH所有样本数据完成一次前向计算 + 反向传播的过程叫一个EPOCH
    • 在BATCH_SIZE设定好后,增大epoch使训练时间变长,可以达到更高的训练网络精度。
    • 随着epoch 数量的增加, 权重更新迭代的次数增多, 曲线从最开始的不拟合状态, 进入优化拟合状态, 最终进入过拟合。
    • epoch 如何设置: 大小与数据集的多样化程度有关, 多样化程度越强、训练数据越大, 为了达到更好的精度所需的epoch 越大。

4、ITERATION

一个batch的过程叫做一次迭代,一次迭代需要batchsize数量的数据


总结

把所有的样本数量分成好多份,每一份的数量(批次大小)叫一个batchsize;每一份叫一个batch;每一份的运算过程(一次迭代)叫iteration;所有样本数量的一次训练叫一个epoch

batch size设置技巧 谈谈batchsize参数
深度学习中BATCH_SIZE的含义

二、目标检测概念基础

1、真实框、预测框和锚框

目标检测算法常见标识物体位置的框:

  • 边界框,bounding box,用于标识物体的位置,常用格式有左上右下坐标,即xyxy;中心宽高,即xywh。
  • 真实框,Ground truth box, 是人工标注的位置,存放在标注文件中
  • 预测框,Prediction box, 是由目标检测模型计算输出的框
  • 锚框,Anchor box,根据数据集的对象位置类聚出来,用于预测框计算做参考;基于这个参考,算法生成的预测框仅需要在这个锚框的基础上进行“精修或微调fine-tuning”即可,这样算法可以收敛的更快,检测效果更好。

边界框(bounding box)可以是真实框也可以是预测框,他是指目标物体的最小外边界框。真实框(Ground truth box)是人工标注目标物体而来,为了方便预测目标物体周围会生成好多大小不一的预选框也就是锚框(Anchor box),而现在的锚框与真实框是有差距的,对于锚框与真实框差距的计算和补偿最后产生了预测框(Prediction box)
【什么是epoch、batch、batchsize、iteration?什么是真实框、预测框和锚框】_第1张图片

参考链接:目标检测算法中的真实框、预测框和锚框

你可能感兴趣的:(#,深度学习w,神经网络,batch,深度学习)