【Mask R-CNN】（五）：floating point exception(core dumped)的解决办法

在执行，

python samples/coco/coco.py train --dataset=. --model=coco

运行几步之后，就报如下错误，导致训练终止。

floating point exception(core dumped)

试了很多办法都不行，最后在github上提问得到了两位大牛的解答。

我原来的环境是tensorflow1.7.0，cuda8.0，cudnn6.0。

解决办法是将tensorflow升级到1.9.0，cuda升级到9.0，cudnn升级到7.0。

升级tensorflow的办法：

pip uninstall tensorflow-gpu
pip install tensorflow-gpu==1.9.0

卸载旧版cuda安装新版cuda的方法请参考链接： linux ubuntu16.04 卸载cuda8.0 安装cuda9.0。

现在已经可以正常训练了。