拉格朗日乘子法

描述

• 线性规划（一）——基本概念中“汽车工厂的生产、盈利”的数学模型较为简单，可以采用图解法。
• 但当目标函数、约束条件较为复杂时，将难以作图求解。
• 这个时候，我们可以采用“拉格朗日乘子法”。

拉格朗日乘子法的定义

• 定义
  • 令$f(x,y)\in C^{‘}$（即一阶可导），且$(x_0,y_0)$是满足$g(x,y)=0$时，$f(x,y)$的极值
  • 限定$g(x,y)\in C^{‘}$，且$g(x_0,y_0)$的梯度不等于$o$
  • 则存在$\lambda \in \mathbb{R}$，使得
    $$\{\begin{array}{l}f(x{)}^{‘}+\lambda g(x{)}^{‘}=0\\ f(y{)}^{‘}+\lambda g(y{)}^{‘}=0\\ g(x_0,y_0)=0\end{array}$$
• 同样的，对于三元函数，乃至多元函数，都是成立的。关于三元函数的式子如下
  $$\{\begin{array}{l}f(x{)}^{‘}+\lambda g(x{)}^{‘}=0\\ f(y{)}^{‘}+\lambda g(y{)}^{‘}=0\\ f(z{)}^{‘}+\lambda g(z{)}^{‘}=0\\ g(x_0,y_0,z_0)=0\end{array}$$
• 一般我们通过对于上面式子的分析、计算，就可以得到$f(x,y)$的极值和极值点$(x_0,y_0)$

题例

• 题目：求$f(x,y)=x^2-y^2-2y$在$x^2+y^2=1的条件下的极大值、极小值$
• 解
  • 由题意，显然 $g(x,y)=x^2+y^2-1$
  • $f(x,y)$与$g(x,y)$都存在一阶导数，分别计算其一阶导数可得
    • $f_x^{‘}=2x$，$f_y^{‘}=-2y-2$
    • $g_x^{‘}=2x$，$g_y^{‘}=2y$
  • 根据拉格朗日乘子法可得
    $$\{\begin{array}{l}2x+\lambda \ast 2x=0\\ (-2y-2)+\lambda \ast 2y=0\\ x^2+y^2-1=0\end{array}$$
  • 整理后
    $$\{\begin{array}{l}x(1+\lambda )=0\\ y(\lambda -1)-1=0\\ x^2+y^2-1=0\end{array}$$
  • 由于$x(1+\lambda )=0$，那么$x$只能为$0$或不为$0$，现在开始讨论
    • 当$x\ne 0$时，计算上式可得：$\lambda =-1$，$y=-\frac{1}{2}$，$x=\pm \frac{\sqrt{3}}{2}$
    • 当$x=0$时，计算上式可得：$y=\pm 1$，$x=0$
  • 将$x$、$y$的值代入计算$g(x_0,y_0)$的梯度$(2x,2y)$，结果都不等于$o$。因此上述$x$、$y$的值皆满足条件。
  • 将$x$、$y$的值分别代入$f(x,y)$可得
    • $f(\frac{\sqrt{3}}{2},-\frac{1}{2})=\frac{3}{2}$
    • $f(-\frac{\sqrt{3}}{2},-\frac{1}{2})=\frac{3}{2}$
    • $f(0,1)=-3$
    • $f(0,-1)=1$
  • 显然
    • 当$x=\pm \frac{\sqrt{3}}{2},y=-\frac{1}{2}$时，$f(x,y)$取得极大值$\frac{3}{2}$
    • 当$x=0,y=1$时，$f(x,y)$取得极小值$-3$

几何证明

• 证明：函数$f(x,y)$在$g(x,y)=0$条件下的极值的必要条件
• 从几何上看，当$f(x,y)$与$g(x,y)=0$在他们相切时能取到极值点$(x_0,y_0)$
• 所以，在该极值点$(x_0,y_0)$处，$f(x,y)$与$g(x,y)=0$的梯度比值相等，可得

$$\frac{f_y^{‘}(x_0,y_0)}{g_y^{‘}(x_0,y_0)}=\frac{f_x^{‘}(x_0,y_0)}{g_x^{‘}(x_0,y_0)}$$

• 我假设这个比例为$-\lambda$，那么整理可得

$$\frac{f_y^{‘}(x_0,y_0)}{g_y^{‘}(x_0,y_0)}=\frac{f_x^{‘}(x_0,y_0)}{g_x^{‘}(x_0,y_0)}=-\lambda ⟹\{\begin{array}{l}{f}_x^{‘}(x_0,y_0)+\lambda g_x^{‘}(x_0,y_0)=0\\ f_y^{‘}(x_0,y_0)+\lambda g_y^{‘}(x_0,y_0)=0\end{array}$$

• 再由条件$g(x,y)=0$，整理可得极值条件

$$\{\begin{array}{l}{f}_x^{‘}(x,y)+\lambda g_x^{‘}(x,y)=0\\ f_y^{‘}(x,y)+\lambda g_y^{‘}(x,y)=0\\ g(x,y)=0\end{array}$$

• 我们先构造一个函数

$$L(x,y,\lambda )=f(x,y)+\lambda g(x,y)$$

• 对其三个未知数$(x,y,\lambda )$分别求导，并让导数等于0以求极值，可得到方程组如下

$$\{\begin{array}{l}{f}_x^{‘}(x,y)+\lambda g_x^{‘}(x,y)=0\\ f_y^{‘}(x,y)+\lambda g_y^{‘}(x,y)=0\\ g(x,y)=0\end{array}$$

• 其结果与前面极值条件方程组一致
• 显然，我们可以知道求前面的条件极值等价于求$L(x,y,\lambda )=f(x,y)+\lambda g(x,y)$的极值
  • 注：不是极值相等，而是说他们的极值点是同一个$(x_0,y_0)$
• 这个方程即是“拉格朗日方程”，$\lambda$即是“拉格朗日乘子”