每天五分钟机器学习：神经网络模型是如何完成数据训练任务的？

本文重点

本节课程将神经网络总结一下，将所学习的神经网络的知识进行统一处理

神经网络的架构选择

神经网络的层数不同，每层的神经元的个数不同，那么神经网络的结构就不同

 

如何选择神经网络结构？

一旦确定了特征集样本x的特征，那么神经网络中对应的输入单元数就确定了。

如果要进行多类别的分类，那么输出层也将由分类类别的个数确定。如果是十分类的问题，那么输出单元数就是十个。

每一个隐藏层通常都有相同的单元数。通常来说隐藏层的单元的个数应该是越多越好，不过大量的隐藏单元计算量会比较大，一般来说每个隐藏层所包含的单元的数量还应该和输入x的维度相匹配，也就是和样本的特征数目相匹配，也有可能隐藏单元数目和输入特征数量相同或者二倍三倍或者四倍，一般来说隐藏层单元稍微大于输入特征数目

下面详细介绍一下，如何实现神经网络的训练过程：

1.构建一个神经网络结构，然后随机初始化权值，通常很小，接近为0。

2.我们执行前向传播算法，也就是对该神经网络的任意一个输入x，计算出对应的hθ(x)的值

3.计算出代价函数J(θ)

4.执行反向传播算法来算出这些偏导数

5.利用数值检验方法检验这些偏导数

这里可以证明反向传播是否是正确的，如果是正确的那么执行第六步&#x