关于训练yolov3过程中遇到的问题

#训练过程中遇到的问题

1、 测试模型效果是程序core dump了,提示错误:

*** Error in `./darknet’: free():
invalid next size (fast): 0x000000000341ac10 ***

解决办法:

YoloV3版本中定义的class的地方有三处,训练时只修改了最后一处,把其他两处的class和filter同样修改后,重新训练,问题解决。

2、跑一阵子就提示内存不足 out of memory

减小batch_size

3、WARNING: non-finite loss, ending training tensor([nan, nan, 0.,
nan], device=‘cuda:0’)

重新开始训练,问题就解决点了

你可能感兴趣的:(深度学习,pytorch,机器学习,windows)