yolov3 训练coco数据(cuda8.0-gxt1080)

1. train遇到这个问题:
已放弃Resizing
608
CUDA Error: out of memory
darknet: ./src/cuda.c:36: check_error: Assertion `0' failed.

百度的说法是gpu架构和作者默认使用的不一致。所以根据自己的gpu型号:gxt1080(pascal支持,百度即可得知...)。然后上官网可以查到gpu对应的comput_*:

yolov3 训练coco数据(cuda8.0-gxt1080)_第1张图片

但是呢我把这个修改好了,再train的时候,还是出现resizing * 出现 out of memory.....

yolov3 训练coco数据(cuda8.0-gxt1080)_第2张图片

难道是gpu的显存不够?....   或许吧.....

所以解决的方法就是:根据yolo训练自己的data的解答:

1:CUDA Error: out of memory表明显存不够,调小batch数值

2:Resizing到不同尺度,同样增加显存。设置random=0。关闭多尺度训练。



你可能感兴趣的:(YOLOv3)