凸优化基础

凸优化

---

凸函数最优化，或叫做凸最优化，凸最小化，是数学最优化的一个子领域，研究定义于凸集中的凸函数最小化的问题。凸最佳化在某种意义上说较一般情形的数学最佳化问题要简单，譬如在凸最佳化中局部最佳值必定是全局最佳值。凸函数的凸性使得凸分析中的有力工具在最佳化问题中得以应用，如次导数等。

凸最佳化应用于很多学科领域，诸如自动控制系统，信号处理，通讯和网络，电子电路设计，数据分析和建模，统计学（最佳化设计），以及金融。在近来运算能力提高和最佳化理论发展的背景下，一般的凸最佳化已经接近简单的线性规划一样直捷易行。许多最佳化问题都可以转化成凸最佳化（凸最小化）问题，例如求凹函数f最大值的问题就等同于求凸函数 -f最小值的问题。

目录

1 定义

2 举例

3 方法

4 凸最大化

5 脚注

6 参考资料

 

举例

以下问题都是凸优化问题，或可以通过改变变量而转化为凸优化问题：[5]

• 最小二乘

• 线性规划

• 线性约束的二次规划

• 半正定规划

• 二阶锥规划

方法

凸优化（凸最小化）问题可以用以下几种方法求解：

• 捆集法

• 次梯度法

• 内点法

凸最大化

通常凸优化的定义要求目标函数f在可行域内被最小化，而在某些的线性规划问题中也会研究最大化。

脚注

1. ^ Hiriart-Urruty, Jean-Baptiste; Lemaréchal, Claude. Convex analysis and minimization algorithms: Fundamentals. 1996: 291.

2. ^ Ben-Tal, Aharon; Nemirovskiĭ, Arkadiĭ Semenovich. Lectures on modern convex optimization: analysis, algorithms, and engineering applications. 2001: 335–336.

3. ^ 凸最佳化──凸函数的最小化. 线代启示录. 2013-08-28 [2013-09-25].

4. ^ Boyd/Vandenberghe, p. 7

5. ^ For methods for convex minimization, see the volumes by Hiriart-Urruty and Lemaréchal (bundle) and the textbooks by Ruszczyński and Boyd and Vandenberghe (interior point).

参考资料

• Boyd, Stephen P.; Vandenberghe, Lieven. Convex Optimization (pdf). Cambridge University Press. 2004 [October 15, 2011]. ISBN 978-0-521-83378-3.

• Ruszczyński, Andrzej. Nonlinear Optimization. Princeton University Press. 2006.