凸优化学习-（十四）凸问题的相关概念和定义

凸优化学习

今天开始学习凸问题。

学习笔记

一、凸问题相关概念

1、什么是凸问题$\text{Convex Problems}$

凸问题，即可以使用凸优化技术进行处理的一类具有良好性质的优化问题，形如：
$$\begin{array}{rlrl}\min & & & f_0(x)\\ \text{s.t.}& & & f_i(x)\le 0,i=1\cdots m\\ & & & h_i(x)=0,i=1\cdots p\end{array}$$
其中目标函数和不等式约束函数为凸函数，等式约束函数为仿射函数，约束为凸集的优化问题称为凸问题。一般的优化问题也是这个形式，只是我们对目标函数和约束函数没有要求。

2、定义中涉及的概念

$x$：优化变量$\text{Optimization Variable}$
$f_0$：目标函数（损失函数）$\text{Objective function/Cost function}$
$f_i(x)\le 0$：不等式约束$\text{Inequality Constraint}$
$h_i(x)=0$：等式约束$\text{Equality Constraint}$
$m=p=0$：无约束$\text{Unconstrained}$

3、优化问题的域$\text{Domain}$

$$\text{D}=\bigcap _{i=1}^m\text{dom}{f}_i\cap \bigcap _{i=1}^p\text{dom}{h}_i$$

4、可行解集：$\text{feasible set}$

形如：
$$X_f=\{x\mid x\in \text{D}\}$$

5、问题的最优值$\text{Optional value}$

形如：
$$\begin{gathered} p^{\ast }=\inf \{f_0(x)\mid x\in x_f\} \\ 若X_f为空集，p^{\ast }=+\infty \end{gathered}$$

6、问题的最优解$\text{Optional point/solution}$

形如：
$$f_0(x^{\ast })=p^{\ast }{x}^{\ast }\in X_f$$

7、问题的最优解集$\text{Optional Set}$

形如：
$$X_{opt}=\{x\mid x\in X_f,f_0(x)=p^{\ast }\}$$

8、问题的局部最优解

形如：
$$\begin{gathered} f_0(x)=\inf \{f_0(z)\mid x\in X_f\} \\ \exists R使\Vert z-x\Vert \le R \end{gathered}$$

9、几个集合的关系

个人思考

凸问题有了之前凸集、凸函数的铺垫，上手应该是很快的。但是要注意的是拿到一个优化问题首先应该看它的约束是否是凸集，然后再判断里面的函数是不是凸函数。

纸质笔记