初学者之路——————bp神经网络

bp神经网络全称为误差反向传播算法,通常是三层结构,输入层,隐含层和输出层。

bp神经网络的实质就是通过隐含层对复杂非线性问题通过正向传播和反向传播修正网络各层节点连接的权重值进行线性拟合。拟合的具体效果就是通过梯度下降法使得误差函数最小,但是有时候bp神经网络中存在超参数,即不能通过梯度下降法求得最优解。超参数的存在很容易产生非凸优化问题,即存在多个局部最优解,很难找到全局最优解。

bp神经网络通过正向传播计算误差,通过反向传播修改参数。这种算法很简单有效,但也很有可能陷入局部极值,导致训练失败。

如果文章存在问题,欢迎大家指出。

你可能感兴趣的:(神经网络)