机器学习中的最优化方法进阶
前言：
一、线性规划
线性规划、整数规划、目标规划等方法其目标函数与约束条件都是决策变量的一次函数，全部为线性规划，具有统一的数学模型及如单纯形法这样的通用解法。1947年丹齐格（G.B.Dantzig）提出了线性规划的一般方法——单纯形法。随后专业丰富了线性规划的数学模型和求解方法，并深入分析细节，如对偶理论、线性目标规划等。
若建立的一个数学模型，（1）要求一组变量X1, X2, X3....Xn的值（2）满足特定的约束条件（Xk...Xi的之间约束关系，和Xi的定义域约束关系），（3）同时使一次目标函数 y = K1X1 + K2X2 + ... +KnXn 取得极值。即求min y( X1, X2, X3....Xn ) 。此种问题为线性规划问题。
标准形式：
min y = K1X1 + K2X2 + ... + KnXn ; ( 3 )
a11X1 + a12X2 + ... + a1nXn = b1; ( 2 )
a21X1 + a22X2 + ... + a2nXn = b2; ( 2 )
................................................... ( 2 )
am1X1 + am2X2 + ... + amnXn = bm; ( 2 )
K1<< Xi << K2 ; ( 2 )
简化形式为：
矩阵形式为：
重要的定理：
线性规划基本定理：若线性规划存在可行域，则可行域 S = { x | Ax=b,x>=0,A属于Mm*n, b 属于R^m, x 属于R^n } 为一凸集。
极点：线性规划问题的每一个基本可行解x对应可行域S的一个极点。
最优解：若线性规划具有最优解，则必可在其某个可行域的某个（或者多个）极点上达到最优解。
示例：若约束矩阵A为m*n型矩阵，且A的秩r(A)=m，则基本解的个数<= N= 组合(m,n)，也是基本可行解的上限。
最基本的寻找线性规划最优解的方法为枚举法，但组合爆炸使其适用范围极窄，因此有规律寻找最优解成为必然。
单纯形法：
snip//.................................
二、非线性规划
非线性规划最简单的为一维搜索，即在一维空间寻求最优解，基本方法有黄金分割法、加步探索法、牛顿迭代法、二次优化-抛物线法。
关于一般非线性规划优化算法的求解，最优化方法一书已经介绍了很多的方法，比如有梯度下降法，坐标下降法，牛顿法和拟牛顿法，共轭梯度法。而机器学习中主要面对非线性问题，所使用的优化方法为非线性优化方法。
以下摘抄自百度百科。
1.最速下降法
梯度下降法是基于目标函数梯度的，算法的收敛速度是线性的，并且当问题是病态时或者问题规模较大时，收敛速度尤其慢（几乎不适用）。例如。SVM方法使用梯度下降法时其运行可行性受到样本数目的限制，样本数目过多会产生较大的系数矩阵，训练速度极慢。
变量轮换法（坐标下降法）虽然不用计算目标函数的梯度，但是其收敛速度依然很慢，因此它的适用范围也有局限；
2.牛顿迭代法
牛顿法（修正的牛顿法）主要思想是：体现为一种函数逼近方法，在极小点附近用二阶泰勒多项近似代替目标函数f(x), 从而求出极小点的估计值。若f(x)在极小点附近有二阶连续偏导数，且在点处的黑塞矩阵正定，可进行迭代估计。
牛顿法是基于目标函数的二阶导数（海森矩阵）的，其收敛速度较快，迭代次数较少，尤其是在最优值附近时，收敛速度是二次的。但牛顿法的问题在于当海森矩阵稠密时，每次迭代的计算量比较大，因为每次都会计算目标函数的海森矩阵的逆，这样一来，当问题规模较大时，不仅计算量大（有时大到不可计算），而且需要的存储空间也多，因此牛顿法在面对海量数据时由于每一步迭代的开销巨大而变得不适用；
3.拟牛顿法
牛顿法在每次迭代时不能总是保证海森矩阵是正定的，一旦海森矩阵不是正定的，优化方向就会 “ 跑偏 ”，从而使得牛顿法失效，也说明了牛顿法的鲁棒性较差。拟牛顿法用海森矩阵的逆矩阵来替代海森矩阵，虽然每次迭代不能保证是最优的优化方向，但是近似矩阵始终是正定的，因此算法总是朝着最优值的方向在搜索。
拟牛顿法（DFP和BFGS）是20世纪50年代，美国Argonne国家实验室的物理学家W. C. Davidon所提出来的。是在牛顿法的基础上引入了海森矩阵的近似矩阵，避免每次迭代都要计算海森矩阵的逆，拟牛顿法的收敛速度介于梯度下降法和牛顿法之间，是超线性的。拟牛顿法的问题也是当问题规模很大时，近似矩阵变得很稠密，在计算和存储上也有很大的开销，因此也会变得不实用。
优势：拟牛顿法和最速下降法(Steepest Descent Methods)一样只要求每一步迭代时知道目标函数的梯度。通过测量梯度的变化，构造一个目标函数的模型使之足以产生超线性收敛性。这类方法大大优于最速下降法，尤其对于困难的问题。另外，因为拟牛顿法不需要二阶导数的信息，所以有时比牛顿法(Newton's Method)更为有效。如今，优化软件中包含了大量的拟牛顿算法用来解决无约束，约束，和大规模的优化问题。
拟牛顿法主要有这几种方法：DFP方法，BFGS方法，SR1方法，Broyden族方法。
DFP方法
BFGS方法
SR1方法
Broyden族
4.L-FBGS算法
从上面的综合描述可以看出，很多优化算法在理论上有很好的结果，并且当优化问题的规模较小时，上面的任何算法都能够很好地解决问题。而在实际工程中，很多算法却失效了。比如说，在实际工程中，很多问题是病态的，这样一来，基于梯度的方法肯定会失效，即便迭代上千上万次也未必收敛到很好的结果；另外，当数据量大的时候，牛顿法和拟牛顿法需要保存矩阵的内存开销和计算矩阵的开销都很大，因此也会变得不适用。
实际工程中解决大规模优化问题时必然会用到的一种优化算法：L-BFGS算法。
L-BFGS算法就是对拟牛顿算法的一个改进。它的名字已经告诉我们它是基于拟牛顿法BFGS算法的改进。L-BFGS算法的基本思想是：算法只保存并利用最近m次迭代的曲率信息来构造海森矩阵的近似矩阵。
在介绍L-BFGS算法之前，我们先来简单回顾下BFGS算法。
以下参考：http://blog.csdn.net/henryczj/article/details/41542049?utm_source=tuicool&utm_medium=referral
在算法的每一步迭代，有如下式：
， k = 0, 1, 2,…, （1）
式（1）中ak是步长，Hk的更新通过如下公式：
（2）
在式（2）中
（3）
（4）
（5）
（6）
从式（2）到式（6）可以看出Hk+1是用{sk, yk}修正Hk来得到的。需要注意的是，这里Hk表示海森矩阵的逆的近似矩阵。
在BFGS算法中，由于Hk随着迭代次数的增加会越来越稠密，当优化问题的规模很大时，存储和计算矩阵Hk将变得不可行。
为了解决上述问题，我们可以不存储矩阵Hk，而是存储最近m次迭代的曲率信息，即{sk, yk}。每当完成一次迭代，最旧的曲率信息{si, yi}将被删除，而最新的曲率信息被保存下来，维持一个曲率队列。通过这种方式，算法保证了保存的曲率信息是来自于最近的m次迭代。在实际工程中，m取3到20往往能有很好的结果。除了更新矩阵Hk的策略和初始化Hk的方式不同外，L-BFGS算法和BFGS算法是一样的。
下面将会详细介绍一下矩阵Hk的更新步骤。
在第k次迭代，算法求得了xk，并且保存的曲率信息为{si, yi}，其中i = k-m, …, k-1。为了得到Hk，算法首先选择一个初始的矩阵Hk0，这是不同于BFGS算法的一个地方，L-BFGS算法允许每次迭代选取一个初始的矩阵，然后用最近的m次曲率信息对该初始矩阵进行修正，从而得到Hk。
通过反复利用式（2），我们可以得到下式：
（8）
（9）
其中rk表示比例系数，它利用最近一次的曲率信息来估计真实海森矩阵的大小，这就使得当前步的搜索方向较为理想，而不至于跑得“太偏”，从而使得步长ak = 1在大多数时候都是满足的，这样就省去了步长搜索的步骤，节省了时间。
在L-BFGS算法中，通过保存最近m次的曲率信息来更新近似矩阵的这种方法在实践中是很有效的。
虽然L-BFGS算法是线性收敛，但是每次迭代的开销非常小，因此L-BFGS算法执行速度还是很快的，而且由于每一步迭代都能保证近似矩阵的正定，因此算法的鲁棒性还是很强的。
百度最近提出了一个shooting算法，该算法比L-BFGS快了十倍。由于L-BFGS算法的迭代方向不是最优的，所以我猜想shooting算法应该是在迭代的方向上做了优化。