深度学习入门教程-1.4 神经网络如何学会预测

咱们已经知道了什么是神经元，而且知道了神经网络如何进行预测，那么它是如何学会这种能力的呢？下面咱们就来说一说。

 

 

上节说到，神经元之所以可以进行预测，主要是通过公式Y = (x1 * w1 + x2 * w2 + x3 * w3) + b计算来进行的。但是，权重(w1,w2,w3)和偏差b是怎么得来的呢？

你很能要说，你这不是废话吗？是你设定的撒。

 

 

非也，上节只是为了讲解方便，咱们人工设定了权重和偏差的值。但是，实际中在运用神经网络时，并不是这样的。试想下，如果参数都是人工设定的，那深度神经网络还有什么智能呢？另外，在实际的神经网络中，参数的数量成千上万，在层数更深的深度神经网络中，参数的数据量甚至可以上亿，想要人工决定这些参数的值根本是不可能的。

那么这些参数到底是怎么得来的呢？
其实，这些参数是神经网络从数据中学习得到的。所谓“从数据中学习”，是指可以由数据自动决定权重参数的值。这个过程可以简单描述如下：

首先，随机对参数进行初始化，然后计算预测的值，通过比较预测值和真实值之间的误差大小，来对参数进行调整，直到预测值无限接近真实值，这样，深度神经网络就完成了学习，也就确定了这些参数。

 

 

那么，你可能还会问，学习过程中如果对参数进行调整呢？深度神经网络通常是采用“梯度下降”的方法来找到使误差值减小的方向来对参数进行调整。这就像在古代，人们在旅行时候通过指南针来找到正确的方向。而“梯度下降”就像是深度网络的“指南针”，来帮助它找到参数调整的正确方向。

 

这几节主要通过比较白话的语言帮大家整体的了解下深度神经网络的结构、如何学习和预测。其中，并没有涉及到太多专业理论的只是，但是，想要学好并用好深度神经网络，理论知识必不可少，理论基础必须要打牢，尤其是数学基础理论和深度学习算法基础理论。那么，从下节开始，我们就正式开始深入的学习深度神经网络。

 

欢迎关注我的微信订阅号，上面有更多机器学习相关的文章