Apex使用教程 与 梯度爆炸问题: Gradient overflow. Skipping step, loss scaler 0 reducing loss scale to 131072.0
https://blog.csdn.net/ccbrid/article/details/103207676/此博客介绍了apex的安装过程,且有如下问题:发现loss整体变大,而且很不稳定。效果变差。而且这个错误提醒是什么意思呢?Gradientoverflow.Skippingstep,lossscaler0reducinglossscaleto0.00048828125意思是:梯度溢出,is