变量分裂法(Variable Splitting)

变量分裂法

变量分裂方法可以解决目标函数是两个函数之和的优化问题:

min uK n  f 1 (u)+f 2 (g(u))(1) 

其中 g  n  维向量到 d  维向量的一个映射。所谓的变量分裂就是将上式变为:

min uK n ,vR d  f 1 (u)+f 2 (v)s.t.g(u)=v(2) 

显然(1)和(2)是一样的。变量分裂之所以会有用的主要原因就是问题(2)可能比(1)更容易或高效的解决。比如说,如果问题(2)是凸的话,我们就可以使用增广拉格朗日的方法来高效的求解。
另一种解释:
考虑 min x f(Lx)+g(x)  L  是一个线性算子。
引入 y=Lx  ,得到:

min x,y f(y)+g(x)s.t.Lxy=0(3) 

利用增广拉格朗日方法,得到:

L(x,y;λ)=f(y)+g(x)+<λ,Lxy>+12 ||Lxy|| 2 2 (4) 

你可能感兴趣的:(变量分裂法(Variable Splitting))