吴恩达机器学习----神经网络：学习

吴恩达机器学习教程学习笔记 （7/16）

吴恩达教授（Andrew Ng）的机器学习可以说是一门非常重视ML理论基础的课程，做做一些简单的笔记加上个人的理解。本笔记根据吴恩达的课程顺序，以每章内容作为节点进行记录。（共18章，其中第3章“线性代数回顾”与第5章“Octava教程”的笔记就不总结了）

第九章 神经网络：学习（Neural Network：Learning）

1、代价函数

假设神经网络的训练样本有m个，每个包含一组输入x和一组输出信号y，L表示神经网络层数，S_I表示每层的neuron个数(S_l表示输出层神经元个数)，S_L代表最后一层中处理单元的个数。
将神经网络的分类定义为两种情况：二类分类和多类分类，
二类分类：S_L=0,y=0 or 1表示哪一类；
K类分类：S_L=k,y_i=1表示分到第i类；(k>2)

逻辑回归问题中我们的代价函数为：$$J(\theta )=1/m\sum _{i=1}^n[-y^{(i)}log(h_{\theta }(x^{(i)}))-(1-y^{(i)})log(1-h_{\theta }(x^{(i)}))]+\lambda /2m\sum _{j=1}^n{\theta }_j^2$$在逻辑回归中，我们只有一个输出变量，又称标量（scalar），也只有一个因变量y，但是在神经网络中，我们可以有很多输出变量，我们的hθ(x)是一个维度为K的向量，并且我们训练集中的因变量也是同样维度的一个向量，因此我们的代价函数会比逻辑回归更加复杂一些，为：$$J(\theta )=-1/m[\sum _{(i=1)}^m\sum _{(k=1)}^k{y}_k^{(i)}log(h_{\theta }(x^{(i)}){)}_k+(1-y_k^{(i)})log(1-(h_{\theta }(x^{(i)}){)}_k)]+\lambda /2m\sum _{l=1}^{L-1}\sum _{i=1}^{s_l}\sum _{j=1}^{s_l+1}({\theta }_{ji}^{(j)}{)}^2$$这个看起来复杂很多的代价函数背后的思想还是一样的，唯一不同的是，对于每一行特征，我们都会给出K个预测，基本上我们可以利用循环，对每一行特征都预测K个不同结果，然后在利用循环在K个预测中选择可能性最高的一个，将其与y中的实际数据进行比较。
正则化的那一项只是排除了每一层θ₀后，每一层的θ矩阵的和。最里层的循环j循环所有的行（由s_l +1 层的激活单元数决定），循环i则循环所有的列，由该层（s_l层）的激活单元数所决定。即：h_θ (x)与真实值之间的距离为每个样本-每个类输出的加和，对参数进行regularization的bias项处理所有参数的平方和。

2、反向传播算法

之前我们在计算神经网络预测结果的时候我们采用了一种正向传播方法，我们从第一层开始正向一层一层进行计算，直到最后一层的hθ(x)，现在，为了计算代价函数的偏导数，我们需要采用一种反向传播算法，也就是首先计算最后一层的误差，然后再一层一层反向求出各层的误差，直到倒数第二层。 以一个例子来说明反向传播算法。
假设我们的训练集只有一个实例(x⁽¹⁾,y⁽¹⁾)，我们的神经网络是一个四层的神经网络，其中K=4，S_L=4，L=4：
前向传播算法：

我们从最后一层的误差开始计算，误差是激活单元的预测（a_k⁽⁴⁾）与实际值（y^k）之间的误差，（k=1:k）。
我们用δ来表示误差，则：δ⁽⁴⁾=a⁽⁴⁾-y。
注：δj^(l)表示误差第 l 层第 j 个节点，aj^(l)表示第 l 层第 j 个节点的激活值。
我们利用这个误差值来计算前一层的误差：$${\delta }^{(3)}=({\Theta }^{(3)}{)}^T{\delta }^{(4)}\ast g^{\prime }(z^{(3)})$$其中 g’(z⁽³⁾)是 S 形函数的导数，$$g^{\prime }(z^{(3)})=a^{(3)}\ast (1-a^{(3)})$$而(θ⁽³⁾)^T δ⁽⁴⁾则是权重导致的误差的和。
下一步是继续计算第二层的误差： $${\delta }^{(2)}=({\Theta }^{(2)}{)}^T{\delta }^{(3)}\ast g^{\prime }(z^{(2)})$$
因为第一层是输入变量，不存在误差。我们有了所有的误差的表达式后，便可以计算代价函数的偏导数了，假设λ=0，即我们不做任何正则化处理时有：$$\partial J(\Theta )/\partial {\Theta }_{ij}^{(l)}=a_j^{(l)}{\delta }_i^{(l+1)}$$重要的是清楚地知道上面式子中上下标的含义：
l 代表目前所计算的是第几层。
j 代表目前计算层中的激活单元的下标，也将是下一层的第j个输入变量的下标。
i 代表下一层中误差单元的下标，是受到权重矩阵中第i行影响的下一层中的误差单元的下标。
如果我们考虑正则化处理，并且我们的训练集是一个特征矩阵而非向量。在上面的特殊情况中，我们需要计算每一层的误差单元来计算代价函数的偏导数。在更为一般的情况中，我们同样需要计算每一层的误差单元，但是我们需要为整个训练集计算误差单元，此时的误差单元也是一个矩阵，我们用Δ_ij^(l)来表示这个误差矩阵。第 l 层的第 i 个激活单元受到第 j 个参数影响而导致的误差。
我们的算法表示为：

3、梯度检验

对梯度的估计采用的方法是在代价函数上沿着切线的方向选择离两个非常近的点然后计算两个点的平均值用以估计梯度。即对于某个特定的 θ，我们计算出在 θ-ε 处和 θ+ε 的代价值（ε是一个非常小的值，通常选取 0.001），然后求两个代价的平均，用以估计在 θ 处的代价值。

Python代码如下：
gradApprox = (J(theta + eps) – J(theta - eps)) / (2*eps)
当θ是一个向量时，我们则需要对偏导数进行检验。因为代价函数的偏导数检验只针对一个参数的改变进行检验，下面是一个只针对θ_1进行检验的示例：$$\partial /(\partial {\theta }_1)=(J({\theta }_1+{\epsilon }_1,{\theta }_2,{\theta }_3...{\theta }_n)-J({\theta }_1-{\epsilon }_1,{\theta }_2,{\theta }_3...{\theta }_n))/2\epsilon$$
最后我们还需要对通过反向传播方法计算出的偏导数进行检验。

4、训练神经网络

网络结构：第一件要做的事是选择网络结构，即决定选择多少层以及决定每层分别有多少个单元。
第一层的单元数即我们训练集的特征数量。
最后一层的单元数是我们训练集的结果的类的数量。
如果隐藏层数大于1，确保每个隐藏层的单元个数相同，通常情况下隐藏层单元的个数越多越好。
我们真正要决定的是隐藏层的层数和每个中间层的单元数。
训练神经网络：
1.参数的随机初始化
2.利用正向传播方法计算所有的h_θ (x)
3.编写计算代价函数 J 的代码
4.利用反向传播方法计算所有偏导数
5.利用数值检验方法检验这些偏导数
6.使用优化算法来最小化代价函数
注：我们通常初始参数为正负ε之间的随机值，假设我们要随机初始一个尺寸为10×11的参数矩阵，Python代码如下：
Theta1 = rand(10, 11) * (2*eps) – eps

感谢黄海广博士团队的翻译和笔记
END