交替方向乘子

目录

一,交替方向乘子ADMM

1,带线性约束的分离优化模型

2,常见优化模型转带线性约束的分离优化模型

 3,带线性约束的分离优化模型求解

4,交替方向乘子ADMM


本文部分内容来自教材

一,交替方向乘子ADMM

1,带线性约束的分离优化模型

交替方向乘子_第1张图片

 

问题特点:目标函数可以分成彼此分离的两块,但是变量被线性约束结合在一起。常见的一些无约束和带约束的优化问题都可以表示成这一形式。

2,常见优化模型转带线性约束的分离优化模型

(1)可以分成两块的无约束优化问题

交替方向乘子_第2张图片

(2)带线性变换的无约束优化问题

交替方向乘子_第3张图片

 (3)凸集上的约束优化问题

 交替方向乘子_第4张图片

 (4)全局一致性问题

交替方向乘子_第5张图片

 3,带线性约束的分离优化模型求解

问题(1)的增广拉格朗日函数:

交替方向乘子_第6张图片

迭代公式:

交替方向乘子_第7张图片

这个迭代公式的缺点在于,x1和x2无法做分离

4,交替方向乘子ADMM

ADMM就是在增广拉格朗日函数的基础上,做一个分离,让2个分量可以分开处理。

交替方向乘子_第8张图片

 

 

你可能感兴趣的:(算法)