使用MindSpore训练模型中精度问题的调优思路

对一个深度学习模型来说,模型精度达不到预期,有着更复杂的原因和更多的可能性。由于模型精度要经过长时间的训练才能看到最终结果,定位精度问题通常会花费更长的时间。

  1. 调优思路概述

    针对上述精度问题的现象和原因,常用的几个调优思路如下:检查代码和超参、检查模型结构、检查输入数据、检查loss曲线。若上述思路都未发现问题,我们可以让训练执行到最后,检查精度(主要是模型metrics)是否达到预期。

    其中,检查模型结构和超参重在检查模型的静态特征;检查输入数据和loss曲线则是将静态特征和动态训练现象结合检查;检查精度是否达到预期则是对整体精度调优过程重新审视,并考虑调整超参、解释模型、优化算法等调优手段。

    使用MindSpore训练模型中精度问题的调优思路_第1张图片

  2. 为了帮助用户高效实施上述的精度调优思路,MindInsight提供了配套的能力,如下图。我们会展开介绍精度调优的准备工作,每个调优思路的细节,以及如何使用MindInsight的功能实践这些调优思路,敬请期待。

    使用MindSpore训练模型中精度问题的调优思路_第2张图片

你可能感兴趣的:(算法,深度学习,人工智能,python)