第三章（1.5）关于tensorflow优化器 optimizer 的选择

一、简介

在很多机器学习和深度学习的应用中，我们发现用的最多的优化器是Adam，为什么呢？

下面是 TensorFlow 中的优化器：

详情参见：https://www.tensorflow.org/api_guides/python/train

在keras中也有SGD，RMSprop，Adagrad，Adadelta，Adam等，详情：https://keras.io/optimizers/

我们可以发现除了常见的梯度下降，还有 Adadelta，Adagrad，RMSProp 等几种优化器，都是什么呢，又该怎么选择呢？

二、优化器算法简述

首先来看一下梯度下降最常见的三种变形 BGD，SGD，MBGD，

这三种形式的区别就是取决于我们用多少数据来计算目标函数的梯度，

这样的话自然就涉及到一个trade－off，即参数更新的准确率和运行时间。

1. Batch gradient descent

• 梯度更新规则:

• BGD 采用整个训练集的数据来计算cost function对参数的梯度：

• 缺点:

• 由于这种方法是在一次更新中，就对整个数据集计算梯度，所以计算起来非常慢，遇到很大量的数据集也会非常棘手，而且不能投入新数据实时更新模型

for i in range(nb_epochs):

  params_grad = evaluate_gradient(loss_function, data, params)

  params = params - learning_rate * params_grad

• 我们会事先定义一个迭代次数 epoch，首先计算梯度向量params_grad，然后沿着梯度的方向更新参数params，learning rate决定了我们每一步迈多大。

Batch gradient descent对于凸函数可以收敛到全局极小值，对于非凸函数可以收敛到局部极小值。

2. Stochastic gradient descent

• 梯度更新规则:

• 和BGD 的一次用所有数据计算梯度相比，SGD 每次更新时对每个样本进行梯度更新，

• 对于很大的数据集来说，可能会有相似的样本，这样BGD 在计算梯度时会出现冗余，

• 而SGD一次只进行一次更新，就没有冗余，而且比较快，并且可以新增样本。

for i in range(nb_epochs):

  np.random.shuffle(data)

  for example in data:

    params_grad = evaluate_gradient(loss_function, example, params)

    params = params - learning_rate * params_grad

• 看代码，可以看到区别，就是整体数据集是个循环，其中对每个样本进行一次参数更新。

• 缺点: 但是 SGD 因为更新比较频繁，会造成cost function有严重的震荡。

• BGD可以收敛到局部极小值，当然 SGD的震荡可能会跳到更好的局部极小值处。

• 当我们稍微减小 learning rate，SGD和 BGD的收敛性是一样的。

3. Mini-batch gradient descent

• 梯度更新规则: MBGD每一次利用一小批样本，即 n 个样本进行计算，

• 这样它可以降低参数更新时的方差，收敛更稳定，

• 另一方面可以充分地利用深度学习库中高度优化的矩阵操作来进行更有效的梯度计算。

• 和SGD的区别是每一次循环不是作用于每个样本，而是具有 n 个样本的批次

for i in range(nb_epochs):

  np.random.shuffle(data)

  for batch in get_batches(data, batch_size=50):

    params_grad = evaluate_gradient(loss_function, batch, params)

    params = params - learning_rate * params_grad

• 超参数设定值: n 一般取值在 50～256

• 缺点: 不过 Mini-batch gradient descent不能保证很好的收敛性：

  1. learning rate 如果选择的太小，收敛速度会很慢，如果太大，loss function 就会在极小值处不停地震荡甚至偏离。
     （有一种措施是先设定大一点的学习率，当两次迭代之间的变化低于某个阈值后，就减小 learning rate，不过这个阈值的设定需要提前写好，这样的话就不能够适应数据集的特点）
  2. 此外，这种方法是对所有参数更新时应用同样的 learning rate，如果我们的数据是稀疏的，我们更希望对出现频率低的特征进行大一点的更新。
  3. 另外，对于非凸函数，还要避免陷于局部极小值处，或者鞍点处，因为鞍点周围的error 是一样的，所有维度的梯度都接近于0，SGD 很容易被困在这里。
     鞍点就是：一个光滑函数的鞍点邻域的曲线，曲面，或超曲面，都位于这点的切线的不同边。

例如下图这个二维图形，像个马鞍：在x-轴方向往上曲，在y-轴方向往下曲，鞍点就是（0，0）

为了应对上述这三点挑战，于是就有了下面这些算法。

4. Momentum

• SGD在 ravines 的情况下容易被困住， ravines 就是曲面的一个方向比另一个方向更陡，这时 SGD会发生震荡而迟迟不能接近极小值：

• 梯度更新规则:

• Momentum通过加入 γv_t−1，可以加速SGD， 并且抑制震荡

• 当我们将一个小球从山上滚下来时，没有阻力的话，它的动量会越来越大，但是如果遇到了阻力，速度就会变小。

• 加入的这一项，可以使得梯度方向不变的维度上速度变快，梯度方向有所改变的维度上的更新速度变慢，这样就可以加快收敛并减小震荡。

• 超参数设定值: 一般 γ 取值 0.9 左右。

• 缺点: 这种情况相当于小球从山上滚下来时是在盲目地沿着坡滚，如果它能具备一些先知，例如快要上坡时，就知道需要减速了的话，适应性会更好。

5. Nesterov accelerated gradient

• 梯度更新规则:

• 用θ−γv_t−1来近似当做参数下一步会变成的值，则在计算梯度时，不是在当前位置，而是未来的位置上

• 超参数设定值: γ 仍然取值 0.9 左右。

• 效果比较:

• 蓝色是Momentum的过程，会先计算当前的梯度，然后在更新后的累积梯度后会有一个大的跳跃。

• 而 NAG会先在前一步的累积梯度上(brown vector)有一个大的跳跃，然后衡量一下梯度做一下修正(red vector)，这种预期的更新可以避免我们走的太快。

• NAG 可以使RNN 在很多任务上有更好的表现。

• 目前为止，我们可以做到，在更新梯度时顺应loss function 的梯度来调整速度，并且对 SGD进行加速。

• 我们还希望可以根据参数的重要性而对不同的参数进行不同程度的更新。

6. Adagrad

这个算法就可以对低频的参数做较大的更新，对高频的做较小的更新，也因此，对于稀疏的数据它的表现很好，很好地提高了SGD的鲁棒性，例如识别Youtube视频里面的猫，训练GloVe word embeddings，因为它们都是需要在低频的特征上有更大的更新。

• 梯度更新规则:

• 其中 g 为：t 时刻参数 θ_i 的梯度

• 如果是普通的SGD， 那么 θ_i 在每一时刻的梯度更新公式为：

• 但这里的learning rate η也随t和i而变：

• 其中 G_t是个对角矩阵， (i,i) 元素就是 t 时刻参数 θ_i 的梯度平方和。

• Adagrad的优点是减少了学习率的手动调节

• 超参数设定值: 一般 η 就取 0.01。

• 缺点: 它的缺点是分母会不断积累，这样学习率就会收缩并最终会变得非常小。

7. Adadelta

这个算法是对Adagrad的改进，和 Adagrad相比，就是分母的 G 换成了过去的梯度平方的衰减平均值：

这个分母相当于梯度的均方根root mean squared (RMS)，所以可以用RMS简写：

其中 E 的计算公式如下，t 时刻的依赖于前一时刻的平均和当前的梯度：

• 梯度更新规则:

• 此外，还将学习率 η 换成了RMS[Δθ]，这样的话，我们甚至都不需要提前设定学习率了：

• 超参数设定值: γ 一般设定为 0.9。

8. RMSprop

RMSprop 是 Geoff Hinton提出的一种自适应学习率方法。

RMSprop 和Adadelta 都是为了解决 Adagrad学习率急剧下降问题的，

• 梯度更新规则: RMSprop与 Adadelta 的第一种形式相同

• 超参数设定值: Hinton建议设定 γ 为 0.9, 学习率 η 为 0.001。

9. Adam

这个算法是另一种计算每个参数的自适应学习率的方法。

除了像 Adadelta 和RMSprop一样存储了过去梯度的平方 vt 的指数衰减平均值 ，也像 momentum 一样保持了过去梯度 mt 的指数衰减平均值：

如果 mt 和 vt被初始化为 0 向量，那它们就会向 0 偏置，所以做了偏差校正，

通过计算偏差校正后的mt和vt来抵消这些偏差：

• 梯度更新规则:

• 超参数设定值: 建议 β1 ＝ 0.9，β2 ＝ 0.999，ϵ ＝ 10e−8

• 实践表明，Adam 比其他适应性学习方法效果要好。

10.效果比较

下面看一下几种算法在鞍点和等高线上的表现：

上面两种情况都可以看出，Adagrad, Adadelta, RMSprop 几乎很快就找到了正确的方向并前进，收敛速度也相当快，而其它方法要么很慢，要么走了很多弯路才找到。

由图可知自适应学习率方法即Adagrad, Adadelta, RMSprop, Adam在这种情景下会更合适而且收敛性更好。

三、如何选择

• 如果数据是稀疏的，就用自适用方法，即 Adagrad, Adadelta, RMSprop, Adam。
• RMSprop, Adadelta, Adam 在很多情况下的效果是相似的。
• Adam 就是在 RMSprop 的基础上加了bias-correction 和 momentum，
• 随着梯度变的稀疏，Adam比 RMSprop效果会好。
• 整体来讲，Adam是最好的选择。
• 很多论文里都会用 SGD，没有momentum等。SGD虽然能达到极小值，但是比其它算法用的时间长，而且可能会被困在鞍点。
• 如果需要更快的收敛，或者是训练更深更复杂的神经网络，需要用一种自适应的算法。