PyTorch线程池泄露Leaking Caffe2 thread-pool after fork

PyTorch线程池泄露Leaking Caffe2 thread-pool after fork

这两天跑模型,换了新环境,在实验室服务器上跑,由于cpu很猛(线程撕裂者3975wx,32核64线程),索性我就干脆设置num_workers = 10,这样做数据增强确实快很多,而且cpu占用率也才25%(这cpu真滴猛)。于是乎训练过程,出现了警告,数量为设置的线程数量:

[W pthreadpool-cpp.cc:90] Warning: Leaking Caffe2 thread-pool after fork. (function pthreadpool)

如果把线程数改小一些,就不会有警告了,但是会影响运行速度,所以可以当作不存在。PyTorch版本1.10之后就会修复了,问题不大。

参考:

https://blog.csdn.net/qq_41963227/article/details/119391566

你可能感兴趣的:(Deep,Learning,pytorch,python,深度学习)