凸优化学习笔记(1)——凸集

笔记是根据《Convex Optimization》写的，序号对应章。

2 凸集

2.1 凸集(convex sets)
　　如果在集合 C 中的任意两点满足：

θx1+(1−θ)x2∈C

其中 0≤θ≤1 ，则集合 C 为凸集
2.2 重要例子
1) 超平面与半空间(hyperplanes and halfspaces)
　　超平面定义为 {x|aTx=b} ，半空间被定义为 {x|aTx≤b} 。从直观上看，超平面在空间中为一块板子，划分的两边则分别为半空间。

2) 球和椭球
　　球的形式为

{x|||x−xc||2≤r}={x│(x−xc)T(x−xc)≤r2}

椭球的形式为

{x│(x−xc)TP−1(x−xc)≤1}

其中 P 是对称的正定矩阵。

3) 范数球和范数锥
　　范数球为：

{x|||x−xc||≤r}

范数锥为：

{(x,t)|||x||≤t}

4) 多面体

{x|aTjx≤bj,j=1,…,m,cTjx≤dj,j=1,…,p}

5) 半正定锥
　　满足如下条件的集合 Sn+ 是凸集： θ1、θ2≥0 并且 A,B∈Sn+ ，则 θ1A+θ2B∈Sn+ 。其中 Sn+ 是半正定矩阵。

2.3 保凸运算
1) 交集
　　如果 A 与 B 均为凸集，则A与B的交集也为凸集。
2) 仿射函数
　　仿射函数即线性函数加常数。如果 x 为凸集，则 f(x)=Ax+b 为凸集。仿射函数的逆函数也保凸。
3) 线性分式以及透视函数
　　透视函数即 P(z,t)=z/t ，这里 z 是 n−1 维向量， t 是最后一维分量。例如 P(x1,x2,x3)={x1/x3,x2/x3} ， P 的定义域是正定对称矩阵。从几何上看，透视函数类似小孔成像，是从高维到低维的映射。

　　线性分式即 f(x)=(Ax+b)/(cTx+d) 其定义域为 {x|cTx+d>0} 。其逆函数也保凸。线性分式可看做在原集合内做拉伸，故而保凸。

2.4 广义不等式
　　广义不等式即定义了拥有多个分量的变量之间的比较：

x≥ky⟺x−y∈k

x>ky⟺x−y∈int(k)

int(k) 即 k 的内部的点。注意 k 必须为凸的、闭的、有非空内部且不包含直线。
2.5 minimum and minimal
　　Minimum即能和集合内所有点进行比较，且最小。Minimal即在集合内能比较的所有点中最小。

左图为minimum，右图为minimal。
2.6 分割面与支撑面
　　分割面即能将两个集合分开的超平面，有严格不严格之分，严格即两个集合没有交点。两个凸集一定存在一个分割面。
　　支撑面即集合边缘有个点使得 aTx≤aTx0 成立。其中x是集合内的点， a≠0 。