神经网络是如何学习的？

温馨提示：先看视频，再看文章回味，学习效率更高哟！

 

神经网络的数学表达

 

各位童鞋我们在理解了神经网络的具体工作模式之后，我们就要来针对神经网络给出他的数学表达，也就是说用数学思维对神经网络进行定义，神经网络学习的过程是怎么做到的。

首先我们要从。 AI教育科普：神经元如何组成神经网络？神经元的数学表达方式开始讲起

如上图所示，我们可以得到点火的公式1，X1到X3是输入特征，W1,W2,W3输入特征的权重，输入特征和权重相乘再累加减去阀值，大于等于0则输出信号1。仔细看神经元的图示，如果有N个输入特征，在图中就不好表达了，为了更好的抽像表达神经元，我们使用下图来进行神经元的数学表达，我们定义这种表达方式为神经单元

有了神经单元的定义之后，再来看神经元的输出只能是0和1，但是在实际的生物神经传导信号时都有信号强弱的区别，比如我们看喜剧小品，开心的笑，但是笑有很多种类，比如下图。

这么多种类的笑是不可能只用0和1就能表示的，为此我们加入的激活函数，Sigmoid,将输出值由原来的0和1两种值，转换成了0到1之间任意值，从而实现可以表示不同种类的笑达到表示开心度，最后得到如下公式

 

ɑ代表Sigmoid激活函数，具体函数图形如下：

从产品经理来看引入Sigmoid激活函数，是为了实现开心度的表达，从数学思维来看引入Sigmoid是为实现可导、连续进而实现神经网络的自学习功能。

到此我们可以对比神经元和神经单元的数学表达：

在公式2中如图所示

θ之前有减号，不利于做向量内积计算，所以数学家使用—b代替θ，这样就可以把公式2变成公式3，如下图所示。

紧接着设z=W1X1+ W2X2 + W3X3 + b 为公式4这样就可以得到公式5

y=ɑ(z） (5)

在有了公式5的基础之上我们可以得到神经网络的数学表达如下图所示：

输入层是无需激活函数，特征值是什么，输入值就是什么。从隐藏层到输出层都需要经过神经单元计算，即公式5。

得到神经网络的数学表达公式5之后，神经网络又是如何利用公式5进行权重和偏置的学习呢？具体见下图

如上图所示神经网络的学习过程大至分为以下四步

1、准备学习数据（训练数据）

2、将学习数据喂进神经网络，得出预测值。

3、使用正解减预测值，得到每个学习数据的误差，将所有误差累加得到误差总和。

4、循环优化w和b使误差总和不断减少，最后误差总和的值不再减少或者减少的不明显，学习过程就完成了，得到了权重w和偏置b。

最后布置一个作业：

如果觉得课程GET到你了，请一键三连哟！