简单看懂一个神经网络模型

最近刚开始接触神经网络代码,不同的人有不同的编程习惯.身为一个新人,看不同的代码总是难于理解,后来发现每份代码都大致分为7部分,将代码分为7大块后,再逐块理解:

- Pytorch神经网络的一般运行步骤(7步即可完成):

1\对数据进行处理,(1.1, resume:是否重新开始训练/)
2\导入模型(2.1,使用多GPU)
3\配置优化器(优化器的常规input:3.1,网络的全部参数:model.parameters()/3.2,学习率/3.3优化方法:momentum/3.4,权重衰减:weight_decay)
4\配置损失函数(4+, 对网络参数的配置)
5\训练:(5.1,数据to Tensor + net.train()/5.2, 得到scores/5.3, 得到损失/5.4,反向传播:optimizer.zero_grad(),loss.backward(),optimizer.step()/5.5, 计算损失+精确度)
6\测试:(6.1,数据to Tensor + net.eval()/6.2, 得到scores/6.3, 得到损失/6.4, 计算损失+精确度)
7\保存训练好的参数或者模型