拉格朗日乘子法
拉格朗日乘子法是研究函数条件极值的必要条件的一个方法，在数分课上会了一个比较严谨的证明。
条件极值问题
设 n n n维函数 f ( x ) ∈ C 1 ( Ω ) , g ( x ) ∈ C 1 ( Ω ) f(\bm{x}) \in C^1(\Omega), g(\bm{x})\in C^1(\Omega) f(x)∈C1(Ω),g(x)∈C1(Ω)，求 f ( x ) f(\bm{x}) f(x)在满足 g ( x ) = 0 g(\bm{x})=0 g(x)=0的条件下的极值点。
推导
假设 x 0 \bm{x}_0 x0是极值点，不妨设 ∂ g ∂ x n ∣ x 0 ≠ 0 \frac{\partial g}{\partial x_n}|_{\bm{x_0}}\neq 0 ∂xn∂g∣x0=0，由隐函数定理知 ∃ h ( x 1 , ⋯ , x n − 1 ) \exist h(x_1,\cdots,x_{n-1}) ∃h(x1,⋯,xn−1)在 x 0 \bm{x}_0 x0某邻域上满足 g ( x 1 , ⋯ , x n − 1 , h ( x 1 , . . . , x n − 1 ) ) ≡ 0 g(x_1,\cdots,x_{n-1},h(x_1,...,x_{n-1})) \equiv 0 g(x1,⋯,xn−1,h(x1,...,xn−1))≡0。在该邻域上 ( x 0 ( 1 ) , ⋯ , x 0 ( n − 1 ) ) (\bm{x}_0^{(1)},\cdots,\bm{x}_0^{(n-1)}) (x0(1),⋯,x0(n−1))为 f ~ ( x 1 , . . . , x n − 1 ) = f ( x 1 , . . . , x n − 1 , h ( x 1 , . . . , x n − 1 ) ) \tilde{f}(x_1,...,x_{n-1})=f(x_1,...,x_{n-1},h(x_1,...,x_{n-1})) f~(x1,...,xn−1)=f(x1,...,xn−1,h(x1,...,xn−1))的极值点。
由费马定理知 f ~ \tilde{f} f~的极值点需满足 ∂ f ~ x i = ∂ f ∂ x i + ∂ f ∂ x n ∂ h ∂ x i = 0 \frac{\partial {\tilde{f}}}{x_i}= \frac{\partial {f}}{\partial x_i}+\frac{\partial {f}}{\partial x_n}\frac{\partial{h}}{\partial x_i}=0 xi∂f~=∂xi∂f+∂xn∂f∂xi∂h=0，由隐函数定理知 ∂ h ∂ x i = − ∂ g ∂ x i ∂ g ∂ x n \frac{\partial {h}}{\partial x_i}=-\frac{\frac{\partial g}{\partial x_i}}{\frac{\partial g}{\partial x_n}} ∂xi∂h=−∂xn∂g∂xi∂g，故极值点满足如下方程组：
∂ f ∂ x i − ∂ g ∂ x i ∂ g ∂ x n ∂ f ∂ x n = 0 ( 1 ≤ i ≤ n ) \frac{\partial {f}}{\partial {x_i}}-\frac{\frac{\partial g}{\partial x_i}}{\frac{\partial g}{\partial x_n}}\frac{\partial f}{\partial x_n} =0\,\,(1 \le i \le n) ∂xi∂f−∂xn∂g∂xi∂g∂xn∂f=0(1≤i≤n)
令 ∂ f ∂ x n ∂ g ∂ x n = λ 0 \frac{\frac{\partial f}{\partial x_n}}{\frac{\partial{g}}{\partial x_n}}=\lambda_0 ∂xn∂g∂xn∂f=λ0，不难发现 ( x 0 , λ 0 ) (\bm{x_0},\lambda_0) (x0,λ0)为 n + 1 n+1 n+1维函数 L ( x , λ ) = 0 L(\bm{x},\lambda)=0 L(x,λ)=0的驻点，故可以得出结论。
必要条件
若 x \bm{x} x为 f ( x ) f(\bm{x}) f(x)在约束条件 g ( x ) g(\bm{x}) g(x)下的极值点，其必然满足：
1. x \bm{x} x是 g g g的驻点或
2. x \bm{x} x是 L ( x , λ ) L(\bm{x},\lambda) L(x,λ)的某驻点，且满足 g ( x ) = 0 g(\bm{x})=0 g(x)=0。
判断极值点的办法
由于非充分条件，求出的点不一定是极值点。在 f , g f,g f,g二阶可微的时候，可以根据他们的海瑟矩阵是否正定来进一步判断是否为极值点（非充分，只是加入了几个必要条件）。