【使用mindspore复现segmenter语义分割算法时,loss一直在一个范围内附近波动,降不下去】

使用mindspore复现segmenter语义分割算法

【操作步骤&问题现象】

1、即使训练了很多个epoch,  精度一直下降不了,一直在1~2左右,测试出来的miou也是一个非常低的值,例如0.0198

2.  目前尝试过不同的优化器SGD,ADam, AdamW等,学习率策略也尝试过多种,初始学习率也尝试过0.001-0.01不等

3.  模型初始化的值和pytorch版本一致,也尝试过其他的不同初始化方式,loss还是没法下降

4.  模型结构,算子和pytorch版segmenter一致,pytorch版本能正常收敛,loss在第二个epoch就下降到了0-1的范围

能否有大佬帮忙解决一下,非常感谢!

【截图信息】

【使用mindspore复现segmenter语义分割算法时,loss一直在一个范围内附近波动,降不下去】_第1张图片

解答:

有试过调整batch_size吗还有是否正则化过度了,可以参照https://blog.csdn.net/qq_41542989/article/details/124457862?utm_medium=distribute.pc_relevant.none-task-blog-2~default~baidujs_utm_term~default-1-124457862-blog-110160494.pc_relevant_aa&spm=1001.2101.3001.4242.2&utm_relevant_index=3先排查一下

你可能感兴趣的:(算法,深度学习,人工智能)