一、问题bug
二、解决方法
步骤1:打开utils/loss.py文件
步骤2:找到 for i in range(self.nl) 函数(Ctrl+F),作以下替换:
步骤3:找到# Append部分(Ctrl+F),作以下替换:
步骤4:顺利运行train.py文件
不知道小伙伴们在训练YOLOv5-6.0或者其他版本有没有遇到以下问题:
RuntimeError: result type Float can't be cast to the desired output type long int
替换代码:
anchors, shape = self.anchors[i], p[i].shape
替换之后:
替换代码:
indices.append((b, a, gj.clamp_(0, shape[2] - 1), gi.clamp_(0, shape[3] - 1)))
替换之后:
参考链接:https://blog.csdn.net/Thebest_jack/article/details/125649451?ops_request_misc=&request_id=&biz_id=102&spm=1018.2226.3001.4187