【深度学习】——训练过程

包含哪些层

 

训练过程

其实就是y=f(x)的求参过程，先给参数一个初始值，然后根据初始函数计算得到预测值，根据预测值和真值计算损失，然后又根据损失函数进行反向传播更新参数，更新参数后，再次计算预测值，如此往复，直到损失达到期望的结果停止迭代。

步骤如下：

1、选择模型，设置参数初始值

2、获得真实数据（xi,yi）

3、前向传播计算获得预测值

4、确定损失函数，计算损失

5、反向传播计算，计算梯度

6、根据梯度更新参数

7、将参数代入模型中，重复2-7

8、当损失小于期望值时，停止