caffe训练提示:Restarting data prefetching from start

caffe训练提示:Restarting data prefetching from start_第1张图片最近一直调caffemodel,发现这个提示时有时没有,决定探究下。

这个问题直接翻译就是从开始重新启动数据预取,如果假定每个数据都有序号的话,也就是将重新从0开始读取数据了。

发现这个问题和许多方面有关,不是简单的调整一个参数就解决的。其分别与数据集大小/batch size大小/solver文件参数设置等均有关系。

会遇到该问题的几种场景:

  1. batch size很大,大于数据集大小,即所有数据不够于bn读取一次数据用的,这样每次读取训练时都会出现;解决一般调小batch size
  2. 另一种碰见的就是,就是与solver文件中设定的display及average_loss的大小相关;这种情况下一般不会每次都显示,将间隔显示;

例如:
我的数据集一共1000个,设定的batch size为1200时,会每次都出现该提示;
我的数据集为1000个,设定bs为50,当display定为10,将完整一整个epoch以后,出现restarting,也就是两次以后;当display为15时,一个iteration为750,当进行第二个时会出现restarting;当display大于等于20时,一个iteration后出现一次;

这个提示仅仅说明遍历了一次训练集的训练输入。

这个warning提示,不会对训练结果产生影响,不影响稳步上升的accuracy,基本是没问题的。

你可能感兴趣的:(深度学习,caffe,caffe训练)