数学优化与凸集3（斯坦福凸优化笔记3）

1 保凸运算

本节介绍一些保凸运算，用于将上一节介绍的基本凸集构造出其他凸集。

1 交集

交集是保凸的。无穷个凸集的交集也是凸的。

2 仿射函数

仿射函数：

如果一个函数有 f:Rn→Rm 能表示成一个线性函数和一个常数的和的形式 ，即 f(x)=Ax+b ，其中 A∈Rm×n,b∈Rm 。一个凸集通过仿射变换仍然是凸的。反向也成立。同样，一个集合通过仿射变换能变成凸集，就说明原集合也是凸的。

最简单的例子就是伸缩和平移。（这点很好理解，伸缩和平移不会改变形状的凹凸性）

一个凸集向某几个坐标投影是凸的。（这个也比较好理解，一个凸的图形沿一个方向拍扁，必然是凸的。）

两个集合的和的定义为：
S1+S2={x+y∣x∈S1,y∈S2}
两个集合的积定义为：
S1×S2={(x,y)∣x∈S1,y∈S2}
如果 S1 和 S2 是凸集，那么 S1 , S2 的和，积都是凸集。
下面再举几个比较复杂的例子：

线性矩阵不等式的解：
A(x)=x1A1+⋯+xnAn⪯B 称为关于 x 的线性矩阵不等式，其解 {x∣A(x)⪯B} ,其中 B,Ai∈Sm
这个解集是个凸集，因为这个解集是 f(x)=B−A(x),f:Rn→Sm 下的原象。

双曲锥：
集合 {x∣xTPx≤(cTx)2,(cTx)2≥0} 是凸集，因为它是二阶锥 {(z,t)∣zTz≤t2,t≥0} 在仿射函数 f(x)=(P1/2x,cTx) 下的原象。

3 线性分式和透视函数

透视函数：
我们定义 P:Rn+1→Rn,P(z,t)=z/t 为透视函数，其定义域为 dom P=Rn×R++
透视函数对向量进行伸缩和规范化，使最后一维分量为1。
例：对

⎡⎣⎢⎢abc⎤⎦⎥⎥

作用透视函数，结果为：

⎡⎣⎢⎢⎢⎢acbc1⎤⎦⎥⎥⎥⎥

透视函数是保凸运算。
线性分式函数：
f(x)=Ax+bcTx+d,dom f={x∣cTx+d>0}
线性分式函数是保凸的。

2 广义不等式

称锥 K⊆Rn 为正常锥，如果它满足下列条件：
1 K 是凸的
2 K 是闭的
3 K 是实的，即 K 有非空的内部
4 K 是尖的，即 K 不包含任何直线
在正常锥上可以定义广义不等式，在正常锥上定义 Rn 上的偏序关系如下：
x⪯Ky⇔y−x∈K
举几个例子:

1 非负象限和广义不等式：
若 K=Rn+ 是一个正常锥,对应广义不等式的定义为：
x⪯Ky⇔y−x∈Rn+
此时的广义不等式就是我们通常说的普通意义上的不等式。

2 半正定锥和矩阵不等式
若 K=Sn+ 是一个正常锥,对应广义不等式的定义为：
X⪯KY⇔Y−X∈Sn+
此时的广义不等式的意义是 Y−X 是半正定矩阵。

广义不等式满足类似普通不等式的性质，如传递性，反对称性等等。
其中广义不等式和普通不等式最大的区别是不是任意两点都是可比的。即 x≤y 和 y≤x 对于普通不等式二者必居其一。而对于广义不等式这不一定成立。所以最小，最大这些概念对于广义不等式变得很复杂。
最小元和极小元：
如果对于每个 y∈S ,均有 x⪯Ky ，我们称 x∈S 是 S （关于广义不等式 ⪯K ）的最小元。类似的，我们可以定义关于广义不等式的最大元。
相对应的概念是极小元。如果 y∈S,y≤Kx 可以推得 y=x ， 那么我们称 x∈S 是 S 关于广义不等式 ⪯K 的极小元。一个集合有多个极大元和极小元。

（图片来自斯坦福Boyd Convex Optimization）
对于锥 R2+ ，左图 S1 都在 x1 的右上，所有 S1 的数都比 x1 大， x1 是最小值。
对于锥 R2+ ，右图 S2 不在 x2 的左下，所有 S2 的数没有比 x2 小， x2 是极小值。

图中虚线区域和 x2 不可比较。所以 x2 不是最小值。
(未完，待续)