拉格朗日乘数法

原文链接: https://blog.csdn.net/ACdreamers/article/details/41413445

拉格朗日乘数法是用来求条件极值的,极值问题有两类,其一,求函数在给定区间上的极值,对自变量没有其它要求,这种极值称为无条件极值。其二,对自变量有一些附加的约束条件限制下的极值,称为条件极值。

例如给定椭球

                                                                        拉格朗日乘数法_第1张图片

求这个椭球的内接长方体的最大体积。这个问题实际上就是条件极值问题,即在条件

                                                                     

下,求 f(x,y,z) = 8xyz 的最大值.

  

当然这个问题实际可以先根据条件消去z,然后带入转化为无条件极值问题来处理。但是有时候这样做很困难,甚至是做不到的,这时候就需要用拉格朗日乘数法了。如下描述

求函数 z=f(x,y,z) 在满足\varphi (x,y)= 0下的条件极值,可以转化为函数F(x,y,\lambda ) = f(x,y)+\lambda \varphi (x,y) 的无条件极值问题。如果是函数F(x,y,\lambda )的驻点,则(x_{0},y_{0})就是条件极值的嫌疑点。

回到上面的题目,通过拉格朗日乘数法将问题转化为

                                        拉格朗日乘数法_第2张图片

F(x,y,z,\lambda)求偏导得到

                                                        拉格朗日乘数法_第3张图片

联立前面三个方程得到bx = ay 和 az = cx,带入第四个方程解之

                                                  拉格朗日乘数法_第4张图片

带入解得最大体积为

                                            拉格朗日乘数法_第5张图片

拉格朗日乘数法对一般多元函数在多个附加条件下的条件极值问题也适用。例如;;;

拉格朗日乘数法_第6张图片

 

拉格朗日乘数法_第7张图片

 

拉格朗日乘数法_第8张图片

 

你可能感兴趣的:(深度学习,神经网络,数学)